Je mehr Erfahrung ich mit generativer KI sammle, desto optimistischer und gleichzeitig vorsichtiger werde ich. Der Optimismus liegt vielleicht auf der Hand: Gen AI hat das Potenzial, die Produktivität erheblich zu verbessern, egal ob man Entwickler oder Büroangestellter ist.

Tatsächlich wusste ich, dass der GenAI-Moment wirklich gekommen war, als meine Schwägerin, eine Sozialarbeiterin, mir erzählte, dass sie ChatGPT aktiv nutzt, um E-Mails, Angebote und mehr zu schreiben. Sie ist begeistert, weil es ihr hilft, mehr und bessere Arbeit schneller zu erledigen. Es ist, als hätte man einen superstarken Assistenten.

Einer der Nachteile ist jedoch, dass wir nicht immer wissen, wann der Output von GenAI schlecht oder einfach nur falsch ist: Wenn Sie nicht in der Lage sind, Code oder Inhalte auf einem bestimmten Niveau zu erstellen, werden Sie nicht wissen, wann Ihr GenAI-Tool dieses Niveau erreicht hat. Die Fehlerspanne kann dabei von peinlich bis katastrophal reichen.

Und dann ist da noch das Problem, auf das Gartner-Analyst Craig Roth hingewiesen hat: Da es für jeden einfacher wird, Inhalte zu erstellen, wird es für jeden von uns schwieriger, die Inhalte zu finden, die wir brauchen. Das führt zu "schlechten Entscheidungen, die große Auswirkungen haben können".

Es liegt auf der Hand, dass die Frage, wie all dieses "Mehr" an GenAI zu verwalten ist, ein großes Problem darstellt, das nicht über Nacht magisch gelöst werden kann. Aber der Schlüssel zur Lösung dieses Problems beginnt und endet bei den Menschen.

KI wird Sie nicht zu Shakespeare machen

Es ist nicht allzu schwer, Studien zu finden, die angeblich Produktivitäts- und Qualitätssteigerungen bei Mitarbeitern durch generative KI nachweisen. So wurden in einer Studie, die in Science veröffentlicht wurde, 453 Marketingfachleute, Datenanalysten und Akademiker gebeten, Standardaufgaben wie das Schreiben einer Pressemitteilung mit und ohne GenAI-Tools zu erledigen. Sie fanden heraus, dass gute Autoren bis zu 40 Prozent schneller arbeiten und schwächere Autoren im Vergleich zu Branchenexperten 18 Prozent bessere Inhalte erstellen.

Das klingt gut, aber nicht schlüssig. Zum einen handelt es sich bei der Art von Texten, um die sie gebeten wurden, etwa Pressemitteilungen, in der Regel ohnehin nicht um qualitativ hochwertige Texte. Noch wichtiger ist, dass sich die schwächeren Autoren nicht einmal sicher waren, dass ihr Endprodukt besser war. Es mag ihnen besser erscheinen, aber woher sollen sie das wissen? Schließlich sind sie per Definition keine guten Autoren.

Natürlich muss nicht jeder Inhalt gut geschrieben sein, um nützlich zu sein. Wie Patrick Collinson im Guardian schreibt, "werden die Verbraucher mit Fake-Bewertungen von industriellen Ausmaß konfrontiert, um sie zu überzeugen". Unternehmen wie Google und TripAdvisor müssen ständig Millionen von gefälschten Hotel- und Restaurantbewertungen finden und entfernen. Es ist so einfach geworden, plausibel klingende, aber gefälschte Bewertungen massenhaft zu produzieren, dass bald vieles von dem, was wir lesen, tatsächlich "Fake News" sein könnte. Schlimmer noch, so Collinson: GenAI versucht nicht, die Wahrheit zu sagen, sondern Dinge, die vernünftig klingen und verfällt somit oft in Stereotypen.

Leider versucht sie, diese Mängel durch Menge auszugleichen.

Das Problem mit dem "Mehr"

Die meisten Menschen haben bereits heute Schwierigkeiten, die Informationen zu finden, die sie brauchen. In Gartners Digital Worker Survey 2022, so Analyst Roth, hätte etwa ein Drittel der Befragten angegeben, dass sie häufig Schwierigkeiten hätten, die Informationen zu finden, die sie für ihre Arbeit benötigten. Schlimmer noch: 22 Prozent der Befragten haben aufgrund der schieren Menge an Anwendungen und Informationen, die auf sie einprasseln, wichtige Updates verpasst.

Wohlgemerkt: Dies ist die Situation der Arbeitnehmer in der Welt vor GenAI.

"Jetzt kommen noch mehr Inhalte hinzu, die in einem schnelleren Tempo produziert werden", erklärt Roth. "E-Mails, die früher kurz und bündig waren, können jetzt von der KI mit höflichen Business-Floskeln aufgeblasen werden."

Eine bereits schlimme Situation verschlimmert sich erheblich, wenn immer mehr Menschen mehr Inhalte von mittelmäßiger Qualität erstellen und darauf vertrauen, dass die KI die Fakten richtig wiedergibt. Und das wird sie oft nicht tun; Dinge wie ChatGPT sind nicht an der Wahrheit interessiert - dafür sind sie nicht da und so sind sie auch nicht entwickelt worden.

Den Menschen wieder ins Spiel bringen

Die Lösung für dieses maschinell erzeugte Problem besteht darin, den Menschen wieder ins Spiel zu bringen. Menschen werden immer noch gebraucht, um Fakten zu prüfen und Qualitätskontrollen durchzuführen. Solange wir GenAI-Tools einsetzen, um Menschen zu unterstützen, aber nicht zu ersetzen, werden wir enorme Vorteile haben, ohne in ungeheuerliche Fehler zu stolpern.

In den meisten Fällen brauchen wir nicht mehr, sondern bessere Werkzeuge. In meinem Job ermutige ich mein Team, weniger Dinge zu tun, dafür aber auf einem höheren Niveau. Richtig eingesetzt, können uns GenAI-Tools genau dabei helfen, indem sie uns von einigen Routineaufgaben befreien und es uns ermöglichen, uns auf höherwertige, durchdachte Arbeit zu konzentrieren. (mb)

Dieser Artikel basiert auf einem Beitrag der US-Schwesterpublikation Infoworld.