IBM und Fortiss

KI ist noch nicht robust genug

02.05.2019
Von 
Jens Dose ist Redakteur der COMPUTERWOCHE und betreut in erster Linie Themen rund um IT-Sicherheit, Datenschutz und Compliance.
In einem neuen Forschungszentrum wollen IBM und das Fortiss-Institut die Zukunft der KI ausloten. Ziel ist es, einen Schub für die bayerische Wirtschaft herbeizuführen.

IBMs KI-Lösung Watson musste seit seinem Sieg in der Gameshow Jeopardy 2011 einige Rückschläge einstecken. Beispielsweise hielt sich die 2013 angekündigte Innovation in der Krebsvorsorge durch KI in Grenzen. Viele medizinische Pilotprojekte wurden wegen falscher Behandlungsempfehlungen wieder eingestellt.

IBMs KI Watson konnte 2011 zwar in einer Gameshow brillieren, bei der Krebsvorsorge hielten sich die Erfolge jedoch in Grenzen.
IBMs KI Watson konnte 2011 zwar in einer Gameshow brillieren, bei der Krebsvorsorge hielten sich die Erfolge jedoch in Grenzen.
Foto: Tatiana Shepeleva - shutterstock.com

Anfang des Jahres betonte IBM-Deutschland-Chef Matthias Hartmann jedoch erneut die strategische Bedeutung von Watson für Big Blue und sagte, dass die Projekt-Pipeline in diesem Bereich stark wachse.

Es besteht aber weiterhin viel Verbesserungsbedarf, soll KI eines Tages in der Breite, etwa in autonomen Fahrzeugen, eingesetzt werden. Daher gründete IBM gemeinsam mit dem Forschungsinstitut des Freistaats Bayern für softwareintensive Systeme und Services (Fortiss) ein Forschungszentrum für KI-Technologie.

Potenzial und Vertrauen fördern

Nach über einem Jahr Vorbereitungszeit öffnete das Zentrum nun im Münchner IBM Watson IoT Center seine Pforten. Mehr als 50 Wissenschaftler beider Partner sollen dort die Potenziale der KI für geschäftskritische Internet-of-Things (IoT)-Anwendungen erforschen. Der Fokus liegt dabei auf

  • KI-gestützten Assistenzsystemen für transparente Entscheidungsunterstützung;

  • der Prototypisierung neuer digitaler Bürgerdienste;

  • der verlässlichen, sicheren Steuerung autonom agierender Roboter, verteilter Produktionssysteme und kritischer Versorgungsinfrastrukturen.

Hartmann sagte, IBM wolle mit der Partnerschaft die Übersetzung in Anwendungen und Geschäftsmodelle beschleunigen. Beinahe jede Jobrolle werde künftig von KI beeinflusst, daher gelte es jetzt Vertrauen aufzubauen. Faktoren wie Vorurteilsfreiheit, ethische Guidelines, keine Datenkommerzialisierung sowie der Fokus auf den Menschen und Transparenz seien wichtige Grundpfeiler der Forschung.

Neben Vertretern von IBM und Fortiss nahm auch Hubert Aiwanger, Bayerischer Staatsminister für Wirtschaft, Landesentwicklung und Energie, an der Eröffnung teil. "Künstliche Intelligenz ist einer der wesentlichen Motoren der zukünftigen Wirtschaftsentwicklung," kommentierte der Politiker. Die zukunftsweisenden Technologien, die in dem neuen Zentrum entwickelt würden, seien für die Wettbewerbsfähigkeit des Hochtechnologiestandorts Bayern von herausragender Bedeutung.

Die offizielle Eröffnungszeremonie des neuen Forschungszentrums (v.l.n.r.): Bob Lord (IBM), Kareem Yusuf (IBM), Sherri R. Thomas (IBM), Hubert Aiwanger, Matthias Hartmann (IBM), Helmut Krcmar (Fortiss), Harald Rueß (Fortiss).
Die offizielle Eröffnungszeremonie des neuen Forschungszentrums (v.l.n.r.): Bob Lord (IBM), Kareem Yusuf (IBM), Sherri R. Thomas (IBM), Hubert Aiwanger, Matthias Hartmann (IBM), Helmut Krcmar (Fortiss), Harald Rueß (Fortiss).

99 Prozent reichen nicht

Für Harald Rueß, wissenschaftlicher Geschäftsführer von Fortiss, bietet KI als eine der Kern-Disziplinen der Informatik alle Chancen, die industrielle Produktion auf ein neues Level zu heben. Allerdings sei die Technologie noch nicht robust genug und die Fehleranfälligkeit momentan noch zu hoch.

Im Gespräch mit der COMPUTERWOCHE sagte der promovierte Informatiker und KI-Forscher Rueß, dass zwar in einzelnen Bereichen wie etwa der Bilderkennung bereits eine Erfolgsquote von bis zu 99 Prozent realistisch sei, aber das reiche noch nicht aus. So entsprächen ein Prozent falsche Bildinterpretationen im Bereich des autonomen Fahrens im schlimmsten Fall mehreren tausend Verkehrstoten pro Tag.

Bis zur Marktreife einer absolut zuverlässigen und vertrauenswürdigen vollwertigen KI, würden noch zehn bis 15 Jahre vergehen. Graduell gebe es aber Fortschritte darin, Teilfunktionen so zu verbessern, dass sie in Serienproduktionen einfließen könnten. Das Erstaunliche sei, dass der Schritt von der Grundlagenforschung zur Anwendung klein sei. Jetzt komme es darauf an, die Möglichkeiten zu identifizieren und sichere Anwendungen zu bauen.

Harald Rueß gab in seinem Vortrag Beispiele für Anwendungen, in denen KI noch fehleranfällig ist.
Harald Rueß gab in seinem Vortrag Beispiele für Anwendungen, in denen KI noch fehleranfällig ist.

Flugtaxis kommen bis 2025

Im Bereich der Flugtaxis zeigt sich Rueß ebenfalls optimistisch. München sei ein Hotspot für Entwickelungen auf diesem Gebiet und er rechne damit, dass bis 2025 die ersten Flugtaxis auf den Markt kommen. Die Geschäftsmodelle würden sich jedoch erst rechnen, wenn die Taxis autonom fliegen können.

Systeme zu schaffen, die in unbekannten oder unsicheren Umgebungen selbstständig Entscheidungen treffen, dauere aber noch länger. Hier liege die Herausforderung darin, intelligente Systeme nicht nur auf Basis sehr großer Datenmengen, sondern auch mit wenig oder gar keinen Daten zu bauen.

KI wird sich selbst zertifizieren

In Bezug auf Absicherung und Vertrauensbildung ist Rueß der Meinung, dass eine neue Art der Zertifizierung nötig wird. Da die Systeme sich laufend weiterentwickeln und lernen würden, müssten sie sich auch laufend selbst zertifizieren. Hierfür werde dann auch die nötige Infrastruktur benötigt. Wie das funktionieren kann, sei momentan ein Grundlagenthema, an dem noch etwa zehn bis 20 Jahre geforscht werden müsse.

In der Zwischenzeit werde es Übergangslösungen geben. So wird im Automobilbereich viel mit Simulationen gearbeitet, um die Datenmengen zu verarbeiten, die für das gewünschte Sicherheitsniveau nötig sind. Auch eine Art KI-Führerschein für autonome Fahrzeuge sei im Gespräch.

Der Mensch bleibt am "roten Knopf"

Ganz ohne menschliche Kontrolle werde KI laut Rueß aber so gut wie nie agieren. Auf absehbare Zeit werde die Technologie eine Assistenzrolle einnehmen. Visionen von einer maschinellen, autonomen Superintelligenz seien Utopie und würden das auch weitgehend bleiben.

Andererseits könne bei Maschinen, die fortwährend lernen, nicht immer jedes Ergebnis vorhergesagt werden. Daher müsse KI immer beherrschbar bleiben und ein Mensch am "roten Knopf" sitzen, mit dem die Maschine im Zweifelsfall abgeschaltet werden kann.