Foto: Roman Samborskyi - shutterstock.com
Künstliche Intelligenz (respektive Generative AI) war in den letzten Monaten das Buzz-, beziehungsweise Keyword schlechthin. Die Technologie ist für Startups wie Fortune-500-Unternehmen gleichermaßen interessant und birgt revolutionäres Potenzial. Allerdings versuchen dabei einige Anbieter wider besseren Wissens vom Hype zu profitieren und Lösungen mit einem KI-Siegel zu versehen, obwohl das höchstens ansatzweise oder überhaupt nicht angebracht ist.
Allein im letzten Jahr haben KI-Startups laut GlobalData mehr als 50 Milliarden Dollar an Risikokapital eingesammelt. Es ist zu erwarten, dass der Hype um ChatGPT diese Zahl noch weiter nach oben treibt. Dadurch werden vermutlich auch die Fälle von "AI Washing" zunehmen. Eine Gefahr, der man sich bei der US-Handelsbehörde FTC bewusst ist: "Einige Produkte, die als KI angepriesen werden, funktionieren möglicherweise überhaupt nicht so, wie sie beworben werden", schreibt Michael Atleson, Rechtsanwalt bei der Behörde, in einem Blogbeitrag.
Für die Anwender kann es in der komplexen Anbieterlandschaft allerdings eine echte Herausforderung darstellen, zwischen legitimem KI-Feature und Marketing-Gimmick zu unterscheiden. "Wie immer, wenn etwas zu schön klingt, um wahr zu sein, ist es das höchstwahrscheinlich auch", konstatiert Beena Ammanath, Executive Director für Deloittes Global AI Institute. Sie empfiehlt: "Unternehmen sollten eine gesunde Portion Skepsis an den Tag legen, wenn sie mit Behauptungen von Anbietern über KI-Produkte konfrontiert sind."
Wenn IT-Entscheider und ihre Unternehmen das nicht bewerkstelligen können, kann das ernste Konsequenzen nach sich ziehen, etwa:
Gescheiterte oder verspätete Projekte,
finanzielle Verluste,
Rechtsstreitigkeiten und
Reputationsschäden.
Für IT-Verantwortliche steht in diesem Zusammenhang auch die persönliche Karriere auf dem Spiel, wie Donald Welch, CIO der University of New York, weiß: "Ich habe schon erlebt, dass Führungskräfte deswegen gefeuert wurden - und ich kann nicht sagen, dass es die falsche Entscheidung war."
Glücklicherweise gibt es mehrere Strategien, mit deren Hilfe Sie solche Fehler vermeiden können.
1. Hintergrundrecherchen fahren
Den angeblichen KI-Einsatz von Anbietern zu überprüfen, kann ein langwieriger und zeitraubender Prozess sein. Dabei können schon simple Aktionen wie eine LinkedIn-Suche wertvolle Insights zutage fördern. "Untersuchen Sie den Grad der KI-Erfahrung und -Ausbildung der Mitarbeiter des Anbieters", empfiehlt etwa Ammanath und erklärt: "Unternehmen, die wirklich KI-Lösungen entwickeln, sollten auch über entsprechende Talente in ihren Reihen verfügen, beispielsweise Datenwissenschaftler und Data Engineers mit Erfahrung in den Bereichen künstliche Intelligenz und maschinelles Lernen."
Darüber hinaus könnten CIOs und IT-Entscheider auch nach Belegen für die Zusammenarbeit mit externen KI-Experten und Forschungseinrichtungen suchen. In diese Kategorie fallen etwa Partnerschaften mit Universitäten, die Teilnahme an Branchenkonferenzen und -Events sowie Beiträge zu Open-Source-Initiativen.
Kann der Anbieter bereits Erfahrung in ähnlichen Projekten oder Applikationen vorweisen, ist das in der Regel ein gutes Zeichen und zeigt, dass er hochwertige Ergebnisse liefern kann. "Prüfen Sie sorgfältig die Geschichte des Anbieters", empfiehlt Vira Tkachenko, Chief Technology and Innovation Officer beim Startup MacPaw. Sie unterstreicht: "Wenn ein Unternehmen Expertise auf dem Gebiet der künstlichen Intelligenz hat, kann es höchstwahrscheinlich auf eine Reihe von Forschungsarbeiten in diesem Bereich oder andere KI-Produkte verweisen."
2. Datenstrategie evaluieren
Anbieter, die tatsächlich KI in ihre Produkte integrieren, müssen auch eine gute Datenstrategie implementiert haben. Schließlich gibt es ohne hochwertige Daten auch keine zufriedenstellenden Ergebnisse. "Anbieter sollten also in der Lage sein, zu erklären, wie viele Daten sie aus welchen Quellen sammeln", hält Ammanath fest.
Zudem empfiehlt es sich die Anbieter auch dahingehend unter die Lupe zu nehmen, ob gesetzliche Anforderungen sowie hohe Datenschutz und Datensicherheitsstandards erfüllt werden. Schließlich müssen Unternehmen (nicht nur) im Zuge der DSGVO ihre Datenpraktiken transparent machen und dem Einzelnen die Kontrolle über seine persönlichen Daten ermöglichen. Ist das nicht der Fall, sollte das ein rotes Tuch sein.
3. Beweise verlangen
Auch wenn die ganzen Buzzwords verführerisch klingen - Sie sollten sich nicht einlullen lassen, wie auch Deloitte-Managerin Ammanath weiß: "Die richtigen Fragen zu stellen und Belege für Behauptungen in Zusammenhang mit Produkten zu verlangen, ist entscheidend, um Marketing- und Verkaufs-Blabla als solches zu entlarven und festzustellen, ob ein Produkt wirklich KI-getrieben ist."
Zu diesen Fragen könnte beispielsweise gehören:
Wie wurde das Modell trainiert?
Welche Algorithmen kommen zum Einsatz?
Wie passt sich das KI-System an neue Daten an?
Darüber hinaus empfiehlt Tkachenko: "Fragen Sie den Anbieter, welche Bibliotheken oder KI-Modelle er verwendet. Es kann durchaus sein, dass alles einfach auf einem simplen OpenAI-API-Call aufgebaut ist."
4. Startups kritisch beäugen
Startups positionieren sich an der Spitze der Innovation. Und während einige dabei die Grenzen dessen, was im Bereich der KI möglich ist, verschieben, übertreiben andere einfach nur maßlos, um Aufmerksamkeit zu gewinnen und Profite einzustreichen.
"Als CTO eines Machine-Learning-Unternehmens stoße ich oft auf Fälle von AI Washing, insbesondere in der Startup-Community", erzählt Vlad Pranskevicius, Mitbegründer und CTO des Startups Claid.ai. Diese Situation habe sich in letzter Zeit verschlimmert - besonders in der aktuellen Hype-Phase sei das sehr gefährlich. Dabei geht Pranskevicius allerdings davon aus, dass dem AI-Washing-Trend in nächster Zeit durch neue Regularien der Garaus gemacht wird.
5. Eigene Reputation achten
Ganz allgemein ist es nicht ungewöhnlich, dass ein Unternehmen zweifelhafte (KI-)Lösungen erwirbt. Das muss allerdings nicht zwingend die Schuld des CIO sein, meint Welch: "Es könnte auch ein Anzeichen für schlechte Unternehmensführung sein. Das Business fällt auf den Marketing-Hype herein und überstimmt die IT. Letztere muss dann die Scherben aufsammeln."
Um Situationen wie diese zu vermeiden, können Unternehmen eine Kultur der Zusammenarbeit fördern, in der die Meinung von Technik-Profis geschätzt wird und ihre Argumente gründlich geprüft werden. Parallel sollten CIOs und ihre Teams jedoch auch ihren Ruf innerhalb des Unternehmens verbessern, damit sie sich leichter in Entscheidungsprozesse einbringen können. Dazu braucht es in erster Linie Fachwissen, Professionalität und Soft Skills.
"Ich glaube nicht, dass es für einen CIO ein Problem darstellt, AI Washing zu erkennen", glaubt Max Kovtun, Chief Innovation Officer bei der Sigma Software Group. "Das größere Problem könnte im Druck von Business Stakeholdern oder Geschäftsentscheidern liegen, die KI unbedingt in irgendeiner Form einsetzen wollen, um möglichst innovativ nach außen zu wirken."
6. Über Buzzwords hinausgehen
Vergleicht man Produkte und Services, sind unvoreingenommene Bewertungen und eine gründliche Überprüfung ihrer Eigenschaften essenziell. Technologieentscheiderin Tkachenko bringt es auf den Punkt: "Wenn der einzige Vorteil, den ein Produkt oder eine Dienstleistung für Sie hat, das KI-Label ist, sollten Sie sich die Anschaffung gut überlegen. Es ist besser, das Wertversprechen und die Funktionen zu studieren und erst dann eine Zusammenarbeit einzugehen, wenn Sie die Benefits der Lösung abseits der KI verstehen."
Welch stimmt zu und ergänzt: "Ich möchte als Teil meiner Due-Diligence-Prüfung verstehen, ob ein Anbieter in der Lage sein wird, seinen Code zu pflegen, ob er überhaupt überlebensfähig ist und dergleichen mehr."
Eine gründliche Bewertung kann Unternehmen dabei helfen, festzustellen, ob das Produkt oder die Dienstleistung, die sie kaufen möchten, ihren Zielen entspricht und das Potenzial hat, die erwarteten Ergebnisse zu liefern. "Je komplexer die Technologie ist, desto schwieriger ist es für Nicht-Experten, sie so weit zu verstehen, dass man überprüfen kann, ob die Anwendung der Technologie richtig und sinnvoll ist", gibt Kovtun zu bedenken und empfiehlt: "Wenn Sie sich entschlossen haben, die KI-Technologie für Ihr Unternehmen zu nutzen, sollten Sie besser fachkundige Spezialisten mit Erfahrung an Bord holen. Anderenfalls führen Ihre Bemühungen möglicherweise nicht zu den Vorteilen, die Sie sich erhofft haben."
7. Auf dem neuesten Stand bleiben
IT-Entscheider, die über KI-bezogene Produkte und die damit verbundenen Probleme auf dem Laufenden sind, können auch fundierte Entscheidungen treffen. "Ich glaube, es gibt noch nicht genug Aufklärung", meint Art Thompson, CIO der Stadt Detroit. Er empfiehlt CIOs, ausreichend zu recherchieren, um zu vermeiden, dass sie bei neuen oder experimentellen Technologien in eine Falle tappen, die mehr verspricht, als sie halten kann. Wenn das passiert, könne der Zeitaufwand für die Neuausschreibung und den Austausch eines Produkts die Mitarbeiter davon abhalten, sich für einen Change einzusetzen: "Ganz zu schweigen davon, dass die Mitarbeiter Zeit investieren, um neue Technologien zu erlernen."
Darüber hinaus können CIOs, die über die neuesten KI-bezogenen Themen informiert sind, auch regulatorische Änderungen und aufkommende Industriestandards antizipieren. Das kann Sie dabei unterstützen, Compliance-Anforderungen zu erfüllen und Wettbewerbsvorteile zu behalten. Und nicht nur der CIO sollte auf dem Laufenden bleiben, wie BearingPoint-Manager Roeser weiß: "Bilden Sie Ihr Team weiter oder engagieren Sie Experten, um Ihr Portfolio um die entsprechenden Skills zu erweitern."
8. Auf Regulatorien warten
Neue Vorschriften könnten es CIOs künftig erleichtern, festzustellen, ob ein Produkt oder eine Dienstleistung echte KI-Technologie einsetzt oder nicht. Die US-Regierung hat eine KI-"Bill of Rights" mit Richtlinien für die verantwortungsvolle Gestaltung von KI-Systemen herausgegeben. Und auch die Europäische Union plant, den Einsatz von künstlicher Intelligenz zu regulieren. In den kommenden Jahren dürften weitere Regularien dieser Art folgen.
"Die Prämisse hinter diesen Maßnahmen ist der Schutz der Verbraucherrechte und der Menschen vor möglichen Schäden durch die Technologie. Wir müssen die potenziellen negativen Auswirkungen der Technologie vorhersehen, um die Risiken zu mindern", kommentiert Ammanath.
9. Ethik als Treiber sehen
Unternehmen neigen im Allgemeinen dazu, den Diskurs über neue Technologien zu beeinflussen, indem sie die potenziellen Vorteile hervorheben, während sie mögliche Nachteile oft herunterspielen. "Wenn eine Technologie zum Buzzword wird, verlieren wir oft den Blick für die potenziell schädlichen Auswirkungen, die sie in der Gesellschaft haben kann", meint Philip Di Salvo, Post-Doc an der Universität St. Gallen. "Die Forschung zeigt, dass Unternehmen den Diskurs über KI bestimmen und dass techno-deterministische Argumente nach wie vor vorherrschend sind."
Dieser Glaube, dass die Technik die wichtigste treibende Kraft hinter dem sozialen und kulturellen Wandel ist, könne dazu führen, dass Diskussionen über ethische und politische Implikationen zugunsten von eher marketingorientierten Argumenten verdrängt werden. Oder wie Di Salvo es ausdrückt: "Das erzeugt eine Art argumentativen Nebel, der diese Technologien und ihre Hersteller noch undurchsichtiger und unverantwortlicher macht."
Um dem entgegenzuwirken, müsse der Öffentlichkeit vermittelt werden, was KI nicht ist und was sie nicht leisten kann: "Die meisten KI-Anwendungen, die wir heute sehen - einschließlich ChatGPT - sind im Wesentlichen auf die Anwendung von Statistik und Datenanalyse in großem Maßstab ausgelegt. Das mag wie eine langweilige Definition klingen, hilft aber, falschen Darstellungen darüber zu begegnen, was 'intelligent' in der Definition von 'künstlicher Intelligenz' bedeutet. Wir müssen uns auf reale Probleme wie Bias, Social Sorting und andere Probleme konzentrieren, statt auf hypothetische, spekulative Langzeitszenarien." (fm)
Dieser Beitrag basiert auf einem Artikel unserer US-Schwesterpublikation CIO.com.