Machine Learning meets Data Center

RZ-Strategien der Unternehmen im Wandel

10.07.2017 von Carlo Velten

Zum Processing von Machine Learning-Verfahren eignet sich laut Experten Standard-x86-Hardware nur begrenzt. Viele Machine Learning-Algorithmen sind nicht nur besonders rechenintensiv, sondern laufen dann am effizientesten, wenn sie auf spezialisierter Hardware betrieben werden. Rechenzentren müssen sich darauf einstellen.

Auch kann die Abstraktion von IT-Infrastruktur via Virtualisierung im Kontext von Machine Learning eher eine Barriere beziehungsweise ein Kostentreiber sein, auf den man gerne verzichtet. Folgende Trends zeichnen sich auf der Hardware- und Infrastrukturseite ab:

Machine Learning-as-a-Service: Nutzung von generalisierten Machine Learning-Diensten, wie zum Beispiel Bilderkennung, Sentimentanalyse etc., via API auf den großen Cloud-Plattformen
Grafik-Chips: Der Einsatz von GPUs verspricht beim Processing von Machine Learning deutliche Performance- und Effizienz-Vorteile und wird von Unternehmen wie Nvidia derzeit mit neuen Enterprise-kompatiblen Produktlinien deutlich vorangetrieben.
Spezial-Hardware: Mittels Spezial-Hardware, wie sogenannter FGPA (Field Programmable Gate Array) oder auch ASIC (Application-Specific Integrated Circuit), lassen sich Performance und Effizienz beim Processing von Machine Learning-Verfahren weiter verbessern. So nutzt Microsoft auf der eigenen Azure Cloud sogenannte FPGA´s. Google hat vor einiger Zeit unter dem Namen Tensor seine Spezial-Hardware zur Kalkulation von Machine Learning- und vor allem Deep Learning-Algorithmen gelaunched, auch wenn diese derzeit nur in den Google-Rechenzentren betrieben und noch nicht vertrieben werden.
Systems-on-the Chip (SoC): Hinzu kommt der Trend, dass immer mehr IoT-Geräte und vernetzte Produkte auf eine eigene Compute-Unit und Intelligenz, zum Beispiel in Form von Machine Learning-Algorithmen, zurückgreifen müssen. Mit "Systems-on-the-Chip" beziehungsweise "Systems-on-the-programmable-Chip" werden autonome bzw. teil-autonome Embedded Systems (vernetzte Autos, Kühlschränke, Smarte Funktionskleidung etc.) ermöglicht, die einen Großteil des sogenannten "Edge Computing" bzw. "Fog Computing" ausmachen.

IT.Infrastruktur und Hardware im Kontext von Machine Learning.
Foto: Crisp Research 2017

Für Digitalisierungsentscheider, als auch CIOs- und RZ-Leiter, wird sich in den nächsten Jahren somit einiges ändern, da man nicht mehr ausschließlich auf die gut bewährten x86-Standard-Infrastrukturen zurückgreifen kann. Denn diese eignen sich für den skalierenden, großflächigen Einsatz von Machine Learning nur noch bedingt beziehungsweise sind aus Kosten- und Performance-Gründen vielfach ungeeignet. Nach 10-Jahren der IT-Infrastruktur-Konsolidierung wird es demnächst wieder etwas "bunter" in den Rechenzentren der Unternehmen und ihrer Service- und Cloud-Provider. Vielfalt, Komplexität und Hardware-Expertise kennzeichnen die Landschaften der nächsten 5 bis 10 Jahre. In diesem Kontext stellen sich auch die großen Chip-Hersteller neu auf und investieren in eine von Machine Learning determinierte Zukunft.

Machine Learning - Technologien und Status quo

Bilderkennung ist wichtigstes Anwendungsgebiet für Machine Learning
Heute kommen Machine-Learning-Algorithmen vor allem im Bereich der Bildanalyse und -erkennung zum Einsatz. In Zukunft werden Spracherkennung und -verarbeitung wichtiger.

Machine Learning im Anwendungsbereich Customer Experience
Heute spielt Machine Learning im Bereich Customer Experience vor allem im Bereich der Kundensegmentierung eine Rolle (hellblau). In Zukunft wird die Spracherkennung wichtiger (dunkelblau).

Machine Learning in den Bereichen Produktion und Prozesse
Unternehmen erhoffen sich im Bereich Produktion/Prozesse heute und in Zukunft (hell-/dunkelblau) vor allem im Bereich Prozessoptimierung positive Effekte durch Machine Learning.

ML im Bereich Kundendienst und Support
Sentiment-Analysen werden eine Kerndisziplin für Machine Learning im Bereich Kundendienst und Support

Auch IT-Abteilungen profitieren
Schon heute wird Machine Learning für die E-Mail-Klassifizierung und Spam-Erkennung genutzt. In Zukunft (dunkelblau) werden Diagnosesysteme wichtiger.

Was Management, Finance und HR von Machine Learning erwarten
Heute und in Zukunft ist in diesem Bereich das Risikomanagement eine vorrangige ML-Disziplin. In Zukunft soll auch das Talent-Management beflügelt werden.

Massive Effekte für Einkauf und Supply Chain Management
Machine Learning wird sich auf verschiedenste Bereiche des Procurements und des Supply Managements auswirken (hellblau = heute; dunkelblau= in Zukunft)

Diese Lernstile sind bekannt
Beim bekanntesten Lernstil, dem Überwachten Lernen (Supervised Learning), werden Bildern oder Dokumenten von Hand eine gewisse Menge an Tags oder Labeln zugewiesen. So werden die ML-Algorithmen trainiert.

Diese Lernstile verwenden Branchen
Während Autobauer eher auf "Semi-supervised Learning" setzen, sammeln andere Branchen mit Supervised Learning Erfahrung.

Machine-Learning-Algorithmen
Die meisten Unternehmen setzen auf einen Mix von Verfahren, um ihre vielfältigen Aufgaben zu lösen.

Einsatz von Machine-Learning-Algorithmen nach Branchen
Neuronale-Netzwerk-Algorithmen finden vor allem im Automotive-Sektor Verwendung - und natürlich in der ITK-Branche selbst.

Diese Programmiersprachen und Frameworks kommen im ML-Umfeld zum Einsatz
Mit knapp 70 Prozent Einsatzgrad ist Java die führende Programmiersprache im Bereich ML. Allerdings holen speziellere Sprachen und Frameworks auf.

Deep-Learning- und Machine-Learning-Packages
DeepLearn Toolbox, Deeplearning4j, das Computational Network Toolkit und Gensim werden auf Dauer die führenden Pakete sein.

Zielinfrastruktur für ML-Workloads
Die Deployments von Machine Learning gehen zunehmend in die Breite und erreichen auch die Cloud und das Internet der Dinge. Auf die Unternehmen kommt mehr Komplexität zu.

Bedenken und Herausforderungen
Datenschutz und Compliance-Themen machen Anwender am meisten zu schaffen, geht es um den Einsatz von Machine Learning. Außerdem vermissen viele einen besseren Überblick über das Marktangebot.

Machine Learning ist Sache der BI- und Analytics-Spezialisten
Die organisatorische Einführung von ML obliegt meistens den BI- und IT-Profis. Viele Anwender holen sich aber auch externe Hilfe.

Wo Externe helfen
Datenexploration, Skill-Aufbau und Implementierung sind die Bereiche, in denen Machine-Learning-Anfänger am häufigsten externe Hilfe suchen.

Nvidia

So will Nvidia seine dominante Position im Markt für Machine Learning-Prozessoren stärken und den Umsatz seiner Produktlinien Nvidia Tesla P40, P4, Drive PX2 und Pascal P100 weiter steigern. Zur Hilfe kommt Nvidia ein attraktiver Software-Stack (CUDA, CuDNN) sowie der wahrscheinliche Launch der Volta GPU Prozessorserie zum Ende des Jahres. Die starken Quartalszahlen von Nvidia gehen eindeutig auf das positive Geschäft im Bereich Machine Learning zurück, da der Gaming-Markt sich in den letzten Jahren deutlich abgekühlt hat.

AMD

Auch AMD bereitet den Launch einer neuen GPU-Chip Serie namens Vega vor, die bis zu 25 TFLOPS mit 0,5-Precision liefern soll. Zudem wurde der Software Stack überarbeitet und unter dem Namen Radeon Open Compute Platform (ROCm) als Open Source frei verfügbar gemacht - eine interessante Alternative zu Nvidia’s CUDA and CuDNN.

Intel

Intel überarbeitet nicht nur seine Xeon-Prozessorserie mit IP aus der Nervana-Übernahme, die Machine Learning Acceleration-Funktionalität in die Standard-Chip-Serien injiziert. Zudem wird Intel eine neue Prozessor-Generation auf Basis der Nervana-Architektur unter gleichen Namen herausbringen (Nervana Engine - Codename "Lake Crest"). Damit entwickelt Intel seit langer Zeit erstmals wieder eine komplett neue Prozessor-Architektur, die nur auf einen speziellen Use Case ausgerichtet ist (ASIC). Zusammen mit der 15 Milliarden US-Dollar Übernahme von Mobileye in 2016 und dem FPGA-Hersteller Altera für 16,7 Milliarden US-Dollar in 2015 wird klar, dass auch Intel alles auf die Karte "Machine Learning" setzt.

Qualcomm und Xilinx

Aber auch Qualcomm und Xilinx schlafen nicht und investieren in großem Stile in neue Technologien und Produktlinien. So versucht Xilinx die FPGA-Technologien "Mainstream-fähig" zu machen und in die Corporate Data Center zu bringen. Wie schnell dies geht, wird sich noch zeigen. Fest steht, dass die Innovationsgeschwindigkeit und Vielfalt im Hardware-Markt wieder deutlich zunehmen.

CIOs und Machine Learning-Spezialisten können sich auf jeden Fall über eine Fülle neuer Konzepte und Architekturen freuen, wie hier in Form des "Reconfigurable Acceleration Stacks" von Xilinx exemplarisch dargestellt:

Der Reconfigurable Acceleration Stack von Xilinx im Detail.
Foto: Xilinx

Konzerne im Kaufrausch - Machine Learning-Startups im Focus

Um eigene Softwarelösungen intelligenter zu machen und die nächste Generation digitaler Dienste zu entwickeln, rüsten die IT-Konzerne auf und investieren seit Jahren verstärkt in Startups und Technologiefirmen im Bereiche Machine Learning und künstlicher Intelligenz. Aber auch Industrie- und Dienstleistungsunternehmen benötigen Skills und Technologien, um die digitale Transformation voranzutreiben. Nicht zuletzt sichern auch klassische Internet- und Cloud Provider ihr Business durch Zukäufe im Bereich Machine Learning ab, um ihre Dienste stärker zu personalisieren, ihre Operations zu automatisieren sowie neue Geschäftsfelder zu erschließen.

Die derzeitige Nachfrage nach Firmen, Technologien und Köpfen ist somit sehr hoch, was die Preise in einigen Segmenten und Deals stark steigen lässt und einen nachgelagerten Boom bei den Venture Capital-Investitionen mit sich bringt. So setzen viele Venture Capitalists bei den Machine Learning-Investments auf kurzfristige Exits. Trotz einer Vielzahl von Me-too-Investments und einer Reihe von "Acquihires" zeichnet sich ab, dass derzeit einige der Markt- und Technologieführer der kommenden 20 Jahre geboren werden.

Die Investment-Facts im Bereich Machine Learning:

Rund 200 Akquisitionen seit 2012
Davon allein 30 Akquisitionen in Q1-2017
Deal-Volumen in Q1-2017 bei rund 17 Mrd. USD (dominiert durch Akquisition von Mobileye durch Intel und Übernahme von Argo AI durch Ford)
Gründung und Finanzierung von über 3.000 Startups seit 2015

Um die Investment-Trends interpretieren und die Motive verstehen zu können, nimmt man am besten die Perspektive der Käufe und deren Situationen in den Blick. Software-Firmen "pimpen" ihre Lösungen und Cloud-Dienste auf Egal ob CRM, ERP oder Marketing Automation Software - die intelligente Datenanalyse, personalisierte Empfehlungen und Vorschläge sowie die Automatisierung kompletter Workflows werden in den nächsten Jahren zum Differenzierungsfaktor im Markt für Enterprise Software.

Auch die Spracheingabe und Bilderkennung nehmen an Relevanz zu. Dies ist vielfach nur durch den Einsatz von Machine Learning und die Entwicklung intelligenter Algorithmen realisierbar, welche die Nutzungsdaten und Logs auf Muster hin analysieren und intelligente Abkürzungen für teils komplexen Prozessabläufe finden. Vor diesem Hintergrund investieren nahezu alle klassischen Software-Unternehmen derzeit in Machine Learning-Technologien und Startups, um ihr Portfolio fit für die Zukunft zu machen. Folgende aktuelle Beispiele lassen sich nennen (eine umfangreichere Übersicht findet sich in folgendem Analyst View)

Cisco: MindMeld
Salesforce: MetaMind, Prediction.io, MinHash, Tempo.AI
Microsoft: Maluuba, Wandlabs, TouchType, MileIQ, etc.

Machine Learning FAQ

Facebook-Gesichter
Computer können lernen, menschliche Gesichter zu unterscheiden. Facebook nutzt das für die automatische Gesichtserkennung.

Machine Learning
Anders als das Bild suggeriert ist Machine Learning ein Teilgebiet von Artificial Intelligence – allerdings ein sehr wichtiges.

AlphaGo
Maschine schlägt Mensch: 2016 besiegte Googles Machine Learning System AlphaGo den Weltmeister im Spiel Go.

Grafikprozessoren GPU Nvidia
Die führenden Companies im Machine Learning nutzen für die parallele Verarbeitung der Daten Grafikprozessoren (GPUs) - etwa von Nvidia.

Deep Learning
Deep Learning Verfahren lernen erst Low-Level Elemente wie Helligkeitswerte, dann Elemente auf mittlerer Ebene und schließlich High-Level Elemente wie ganze Gesichter.

IBM Watson
IBM Watson integriert mehrere Artificial Intelligence Methoden: Neben maschinellem Lernen sind das Algorithmen der natürlichen Sprachverarbeitung und des Information Retrieval, der Wissensrepräsentation und der automatischen Inferenz.

IT-Ausrüster und Netzbetreiber sichern sich Zugang zu Wachstumsmärkten

Darüber hinaus haben auch die IT-Ausrüster und Telcos den Markt für sich erkannt und sehen in Machine Learning-Workloads signifikante Wachstumstreiber für ihr Kerngeschäft. So erklären sich folgende Investitionen und Trends:

Intel kauft mit Mobileye Spezialist für autonomes Fahren für 15,3 Milliarden US-Dollar (800 Mitarbeiter, 300 Millionen Umsatz), um sich Zugang zu Wachstumsmarkt im Automotive- und Mobility-Sektor zu sichern. Denn die Steuerung von autonomen und Elektro-Autos benötigt ein Vielfaches an Rechenleistung und im Auto verbauten Prozessoren. So muss gerade beim autonomen Fahren die Mehrheit der Berechnung in Echtzeit im Auto beziehungsweise "on-the-Chip" und nicht in der Cloud stattfinden. Zudem ist Intel mit über 80 Investitionen und rund 15 Akquisitionen im Bereich Machine Learning der aktivste Corporate Investor.
Mit jeweils rund 20 Investments zählen mit Telefonica und Verizon zwei globale Telcos und Netzbetreiber zu aktiven Corporate Investors.
Samsung und Qualcomm sind weitere Ausrüster und Gerätehersteller, die jeweils rund 20 Investments in Machine Learning getätigt haben, um somit Produktinnovationen und ihr IP-Portfolio zu stärken.

Internet-Firmen nutzen Machine Learning für mehr Personalisierung und Automatisierung

Treiber der Investitionswelle in den letzten Jahren waren die großen Internet- und Cloud-konzerne. Allen voran Google, Facebook, Microsoft und IBM. Diese investierten in den Jahren 2015 und 2016 mehr als 10 Milliarden US-Dollar in Forschung und Entwicklung im Bereich der künstlichen Intelligenz - aber auch in Akquisitionen für Startups und Technologiefirmen. Der Grund liegt auf der Hand. So bieten neue Verfahren im Bereich von Machine Learning, Deep Learning oder auch der kognitiven Systeme nicht nur die Basis für neue Services und Geschäftsmodelle, wie z.B. intelligente Assistenten á la Siri und Google Now oder auch Industrie-Lösungen im Gesundheitsbereich. Sondern vor allem einen direkten ROI, wenn sich mittels optimierter Verfahren und Algorithmen die Service-Performance sowie die User Experience der eigenen Internet- und Suchdienste optimieren und automatisieren lassen. Die optimierte Vermarktung von Werbeplätze oder die schnellere Berechnung relevanter Suchergebnisse liefern einen direkten Business Value für Google, Facebook oder Microsoft - und zwar in Milliardenhöhe.

Künstliche Intelligenz ist somit kein Hype- und Marketing-Trend für die Internetkonzerne, sondern eine der wesentlichen Stellschrauben für deren zukünftige Wettbewerbsstärke und Profitabilität. Dabei kommt Google, Facebook und Microsoft eines zu Gute - der Zugriff auf riesige Mengen an Kunden- und Log-Daten, die die Grundlage zur Modellbildung und Training der neuen Algorithmen und lernenden Systeme ("Deep Learning") sind. Ein Innovationsvorsprung, den nur wenige der anderen Akteure vorweisen können. Folgende ausgewählte Transaktionen aus dem Q1-2017 unterstreichen die These:

Google kauft mit Kaggle eine Community-Plattform für Machine Learning-Experimente und Crowd-Innovation.
Apple akquiriert mit RealFace und Lattice Data zwei Machine Learning-Startups zur Erkennung im Bereich der Bilderkennung und Datenstrukturierung.
Der Musik-Streaming-Anbieter Spotify sichert sich mit der Übernahme von Niland neue Technologien, um seine Musikempfehlungen und die Personalisierung zu optimieren.
Amazon kauft mit Harvest.AI eine auf Cybersecurity spezialisierte Machine Learning-Firma, um sich und seine Nutzer besser gegen Targeted Attacks zu schützen.

Industriekonzerne kaufen Köpfe und Technologie für ihre digitale Transformation

Um die Digitalisierung ihres Kerngeschäftes voranzutreiben sowie neue Geschäftsmodelle zu entwickeln, müssen auch Industriekonzerne in intelligente und automatisierte Analyseverfahren und Technologien investieren. Dies gilt vor allem im Kontext von IoT und Mobilität. So investieren vor allem die Automobilhersteller und ihre Zulieferer intensiv in Machine Learning. Aber auch Versicherungsunternehmen, die ihre Prozesse automatisieren und die Kundeninteraktion via intelligenter Assistenten abwickeln wollen, haben sich auf den Weg gemacht.

Da die Konzerne vor allem auf der Personal- und Skill-Seite schwach aufgestellt sind (bis auf wenige Ausnahmen), werden hier nicht nur Technologien, sondern vor allem Köpfe und Skills gekauft, um sich gegen die neue Konkurrenz aus dem Lager der Internetkonzerne zu wappnen.

Ford: Akquise von Argo AI für 1 Milliarde US-Dollar - ein Startup im Kontext autonomes Fahren mit 200 Mitarbeitern
Volkswagen: Joint Venture mit Mobvoi für 180 Millionen US-Dollar zur Spracherkennung und Sprachsteuerung für Autos
General Motors: Akquise von Cruise für 600 Millionen US-Dollar

Herausforderungen und Ausblick:

Folgende Herausforderungen und Trends zeichnen sich im Mergers-&-Acquisitions-Kontext (M&A) von Machine Learning ab:

Deal-Sourcing: Nur wer die Landschaft der Machine Learning-Firmen, deren Investoren und die Community gut kennt und beobachtet, ist in der Lage attraktive Targets zu identifizieren und frühzeitig Verhandlungen aufzunehmen. Ein aktives Market Screening und Deal Sourcing ist anzuraten, wenn man es mit dem Zukauf ernst meint.
Due Diligence: Die Bewertung von Machine Learning-Firmen im Rahmen einer Due Diligence fällt extrem schwer, da es meistens nur Technologie und Köpfe zu bewerten gibt und keine historischen Daten zu Produkten und Finanzkennzahlen vorliegen. Eine hohe Technologieexpertise auf Seiten der Käufer sollte gegeben sein, um keine Luftnummern zu erwerben, sondern echte Technologie-Assets ins Portfolio nehmen zu können.
Nach dem aktuellen Investment-Hype, in dem die Unternehmensbewertungen in den letzten 12 Monaten stark gestiegen sind, werden sich langfristig vor allem die Startups und Machine Learning-Firmen durchsetzen, die Gesamt- und Industrie-Lösungen komplette Plattformen anbieten. Me-too-Startups ohne eigene Assets, die nur Open Source-Technologien neu "anpinseln" werden es langfristig schwer haben.
Die klassischen Software- und Cloud-Anbieter haben die Chance mittels Machine Learning ihre Produkte und Dienste evolutionär zu verbessern. Ein Großteil der Marketing-Kommunikation und Wettbewerbsstrategien werden sich in den kommenden 2-3 Jahren um das Thema Machine Learning und AI drehen. CIOs und IT-Anwender sind gut beraten, einen Blick hinter die Kulissen zu werfen und neue Features und Marketingaussagen genau zu prüfen.
Für die Industrie und viele andere Branchen hingegen hat Machine Learning und AI eher einen disruptiven Charakter - siehe autonomes Fahren. Hier muss massiv Kompetenz und Technologie aufgebaut und zugekauft werden, um nicht von Uber, Google, Tesla & Co abgehängt zu werden.
Im Goldrausch sind die Gewinner meist diejenigen die Schaufeln und Equipment anbieten. Die Ausrüster auf der Hardware- und Software-Seite, wie zum Beispiel der GPU-Spezialist Nvidia, werden sich in den kommenden 2-5 Jahren über satte Zuwächse und gute Finanzkennzahlen freuen dürfen. (hal)