Prompt Engineering

ChatGPT zeigt: Dumme Fragen gibt es doch

30.01.2023
Von 
Florian Bongartz, Politologe, arbeitet als Head of Communications bei Paycy, einer Plattform für das Bezahlverfahren Request to Pay.
Faszination, Verunsicherung, Abwehr, Gier - ChatGPT löst eine Vielzahl menschlicher Regungen aus. Erfolgskritisch ist das Prompt Engineering: Wer dumm fragt, bekommt schlechte Antworten.
Übernehmen Maschinen bald unsere Jobs? So sieht es ein KI-erzeugter Comic von Midjourney.
Übernehmen Maschinen bald unsere Jobs? So sieht es ein KI-erzeugter Comic von Midjourney.
Foto: Midjourney

An der Intelligenz des Eingabebefehls, auch Prompt genannt, entscheidet sich, was künstliche Intelligenz (KI) produziert. Wer den Prompt meistert, kann KI die schönsten Dinge erstellen lassen. Von Gedichten über Rezepte bis hin zu ganzen Spielen. Ein 11-Jähriger Reddit-Nutzer hat mit dem populären - und wegen dieser Popularität zwischenzeitig überforderten - KI-Bot ChatGPT ein Text-Adventure in der Welt von Harry Potter entwickelt.

Mate Marschalko will in kürzester Zeit seinen eigenen Smarthome-Assistenten gebaut haben, der die großen IT-Hersteller das Fürchten lehren soll. Deren Sprachmodule fühlten sich angesichts der Möglichkeiten "schmerzhaft dumm und nutzlos" an, schreibt er. Einfache, genaue Anweisungen auf Englisch hätten gereicht, um der KI zu erklären, wie und mit welchen Kommandos er auf die vernetzten Geräte in seinem Smart Home zugreifen möchte.

Gefährdet KI unsere Jobs?

Was aber passiert mit unseren Arbeitsplätzen, wenn eine künstliche Intelligenz scheinbar mühelos dichtet, programmiert und schreibt? Der Tagesspiegel hat ChatGPT gebeten, dazu Stellung zu beziehen. Die KI erklärt, dass heute schon bis zu zehn Prozent der online veröffentlichten Texte nicht mehr von Menschen geschrieben würden. Je weiter sich KI entwickele, desto eher stehe zu befürchten, dass sie eines Tages menschliche Journalisten ersetze. Erst kürzlich hat die US-amerikanische Medienseite CNET eingeräumt, eine KI Artikel schreiben zu lassen. Insgesamt 75 Beiträge seien bereits entstanden. Die Redaktion wolle damit Hype von Realität trennen. Sie hat sich gleichzeitig aber auch eine Kontroverse darüber eingehandelt, ob sie ihre Leser hinters Licht führt.

Inzwischen pausiert CNET die eigenen KI-Experimente angeblich wieder. Doch die maschinellen Helfer werden aus unserem Alltag nicht mehr verschwinden. Vielmehr wird KI nach und nach kreative Lebensbereiche erobern, etwa Grafik und Design und sogar die Kunst. Die Aspiranten heißen Stable Diffusion, Dall-E oder Midjourney. Ein von Midjourney "gemaltes" Bild hat erst letztes Jahr einen Kunstwettbewerb in den USA gewonnen. Der Künstler erklärte, er habe Hunderte Bilder von der KI kreieren lassen, bevor er die besten ausgewählt, digital bearbeitet und dann eingereicht habe. Ganz ohne menschliches Zutun geht es also doch nicht. Genau so argumentiert auch Kristina Kashtanova, die einen kompletten Comic mit Midjourney erstellt hat.

"Zarya of the Dawn" erzählt, wie eine nicht-binäre Person versucht, in verschiedenen Welten nach Werkzeugen zu suchen, die ihr helfen sollen, Emotionen und Gedanken zu verarbeiten und sich besser mit anderen Menschen und Kreaturen zu verständigen. Weil sich das Werk plötzlich verbreitete, ohne dass ihr Name genannt wurde oder Geld etwa in Form einer freiwilligen Spende in die Kasse kam, wollte sich die Autorin absichern - und reichte einen Antrag beim US-Patentamt ein.

Kashtanova argumentierte, die Illustrationen stammten zwar von einer KI. Doch die Geschichte, der gesamte Text und die Idee kämen von ihr. Midjourney sei nicht mehr als eine Arbeitshilfe, vergleichbar mit einer Kamera oder Software, um Bilder zu bearbeiten. Und auch die von ihr verwendeten Prompts, um die Illustrationen zu erzeugen, seien allein ihr Werk.

Ein Junge bringt einem Roboter bei zu Angeln: Diesen Comic macht die KI von Midjourney draus.
Ein Junge bringt einem Roboter bei zu Angeln: Diesen Comic macht die KI von Midjourney draus.
Foto: Midjourney

Nick Cave: "A grotesque mockery"

Wie sehr KI-Artefakte davon abhängen, dass die richtigen Fragen an die KI gestellt werden, zeigen die speziell für Profis eingerichteten Discord-Kanäle von Midjourney. Die Website Prompthero stellt besonders gut gelungene KI-Bilder aus und liefert gleich mit, welche Prompts dafür verwendet wurden. Mit den Code-Schnipseln lässt sich inzwischen sogar Geld verdienen. Auf Online-Marktplätzen wie Promptbase kaufen und verkaufen KI-Enthusiasten ihre Eingabezeilen. Ein einziges Kommando schlägt mit drei bis fünf US-Dollar ins Kontor. Um solche Preise zu erzielen, betreiben die Prompt Engineers viel Aufwand. Sie recherchieren, überlegen sich, was sie darstellen wollen, und lernen Befehle wie "octane render", "golden hour" oder ".--ar 16:9".

Anders ausgedrückt: Wer aus der vergleichsweise primitiven Mensch-Maschine-API das meiste rausholen will, sollte sich schon auskennen. Das gilt umso mehr, wenn das erschaffene Werk auch wirken soll - wie ein guter Kinofilm oder ein Lied etwa. In seinem Blog "The Red Hand Files" antwortet Nick Cave auf einen Fan, der einen Song mit ChatGPT geschrieben hat und der KI dabei befahl, den musikalischen Stil von Cave nachzuahmen. Das Urteil des Musikers fällt harsch aus: "This song sucks", schreibt Cave. Es fehle der "erlösende künstlerische Akt, der das Herz eines Zuhörers berührt, wenn dieser sein eigenes Blut, seinen eigenen Kampf, sein eigenes Leiden im Gehörten erkennt". Hinzu komme, dass die KI den Menschen nicht richtig verstehe.

Selbst wenn jemand ein genaues Bild davon hat, was die KI tun soll, gibt es tatsächlich immer wieder Verständigungsprobleme. Es beginnt schon damit, dass dieselbe Eingabe nicht automatisch immer zum gleichen Ergebnis führt. Damit die KI der eigenen Idee aber möglichst nahe kommt, perfektionieren Prompt Engineers ihre Eingaben immer weiter. Sie brauchen dafür das Fachwissen der jeweils abgefragten Profession und müssen verstehen, wie genau die KI tickt, um ansprechende Ergebnisse hervorzubringen. Um Missverständnisse künftig zu vermeiden, plant Midjourney nun Prompt Engineers anzustellen. Die Financial Times unkt bereits, dass dies der erste durch KI geschaffene und von KI wieder zerstörte Beruf sein könnte.

German Angst vor der Maschine

Wer künftig kreativ arbeiten will, wird an Prompt Engineering kaum vorbeikommen. Die Deutschen fühlen sich bei dem Gedanken unbehaglich und diskutieren lieber, wie sich der Status quo bewahren lässt. Universitäten und Schulen fragen beispielsweise, wie sie ChatGPT am besten aus dem Lehrbetrieb heraushalten können. Dabei wäre es sicher sinnvoller zu überlegen, wie solche Tools zum Lernprozess beitragen können.

Ein Roboter im Home-Office - so stellt sich das die KI vor...
Ein Roboter im Home-Office - so stellt sich das die KI vor...
Foto: Midjourney

Ebenso müsste man sich vergegenwärtigen, was die KI alles nicht kann. Sie kann beispielsweise nicht reflektieren. Sie fragt auch nicht, ob sie die Eingaben über den Prompt richtig verstanden hat. Und sie macht Fehler - so wie Menschen auch. Doch deren Arbeit bleibt überprüfbar. Im Podcast mit Deutschlandradio Kultur erklärt Digitaljournalist Hagen Terschüren, dass es in seinem Job genau darauf ankomme.

ChatGPT bedrohe deshalb auch nicht das journalistische Handwerk, sagt Terschüren. Was der Bot einem abnehme, seien viele Fleißarbeiten - weil die KI schneller darin ist, das verfügbare Wissen zu sammeln und wiederzugeben. Etwas gehäßiger formuliert Philip Bethge in einer Kolumne für Spiegel Online: Im Kern dampfe das Programm "einen Ozean voller Belanglosigkeiten zu einer Pfütze von Plattitüden zusammen."

Worauf es also ankommt, ist Kompetenz. Wir müssen lernen, mit KI umzugehen. Dazu gehört, zu verstehen, was genau sich durch die KI verändert. Die Robert Bosch Stiftung meint, KI erlaube, sich wieder mehr auf das "Lernen lernen" - also auf den Lernprozess selbst - zu konzentrieren, statt auf das, was dabei herauskommt.

Darin unterscheidet sich auch, wie die beiden Tech-Riesen Google und Microsoft auf ChatGPT reagieren. Google ruft panisch seine Gründer zurück, weil das Management befürchtet, der Chatbot könne sie aus dem Rennen werfen. Gemeint ist aber nicht die Qualität der Internet-Suche, sondern das viele Geld, das der Konzern verdient, wenn Unternehmen versuchen, hoch zu ranken oder für sich zu werben. Microsoft indes hat gleich erklärt, die Software in die eigenen Produkte integrieren zu wollen, um Anwendern das Arbeiten zu erleichtern.

So denken auch andere Unternehmen. Eine britische Firma will beispielsweise komplexe 3D-Druck-Workflows vereinfachen, indem sie GPT - das Verfahren hinter ChatGPT - nutzt, um dem Slicer in natürlicher Sprache die nächsten Arbeitsschritte zu erklären.

Das digitale Höhlengleichnis

Was ChatGPT und seine Komplizen vielleicht vollbracht haben, ist, das Silo IT aufzubrechen und Technik endgültig in jedermanns Alltag zu verankern. Wir erleben KI nicht mehr nur als Spielzeug, das wir nach dem Wetter fragen oder unsere liebsten Musikstücke abspielen lassen. KI wird plötzlich ernst. So ernst, dass Harvard-Forscher bereits davor warnen, KI könne die Demokratien bedrohen.

So oder so: Wir müssen uns damit beschäftigen. Um unsere Jobs zu retten, aber auch, um uns vor unnötiger Hysterie zu retten. Hamburg prescht bereits vor: Informatik wird Pflichtfach in der Schule. Hoffentlich beschäftigen sich die jungen Leute im Unterricht nicht zu viel mit KI und Prompt Engineering. Denn am Ende ist eine breite Bildung das Fundament dafür, dass wir überhaupt mitreden können.

Spannende Diskurse dürften sich künftig um die Frage entfalten, ob und wie moralisch korrekt sich KI verhält. Dafür sorgen Menschen - und dafür stehen die ChatGPT-Macher gerade am Pranger. Sie sollen eine kenianische Firma dafür bezahlen, toxische und abstoßende Inhalte zu filtern, bevor die Trainingsdaten für die KI bereitgestellt werden. Skandalös erscheint daran vor allem der für westliche Verhältnisse niedrige Lohn von zwei US-Dollar pro Stunde. Was die Arbeit selbst angeht, dürfen wir aber nicht vergessen, dass EU-Gesetze die großen Plattformbetreiber genau dazu verpflichten. Auch bei uns müssen Menschen soziale Netzwerke und Videoportale sauber halten - und sich dazu in menschliche Abgründe hinunter begeben.

Einige Künstler streben derzeit Gerichtsverfahren gegen die KI-Schöpfer an, weil diese ihre Modelle mit den urheberrechtlich geschützten Inhalten der Kunstschaffenden trainieren würden. Sie argumentieren, die KI zerstöre den Markt, indem sie abertausende ähnliche Werke erstelle, die mit den Originalen konkurrierten und die Preise zerstörten (Klageschrift lesen).

Eingreifen lässt sich aber nicht nur beim Material, mit dem wir die KI trainieren. Eingreifen lässt sich auch am Prompt. Wer eine barfüßige Gestalt generieren möchte, bleibt schon beim englischen Ausdruck "barefoot" stecken. Bei "bare" handelt es sich um ein pornografisches Signalwort - und die sind zumindest bei Midjourney gesperrt. Was passiert, wenn jemand generell vorschreibt, was erlaubt ist und was nicht, lässt sich leicht ausmalen.

Wer wissen will, wie bedrohlich KI wirklich ist, der muss sie kennenlernen - und das geschieht zumindest bislang noch über die Eingabezeile. Einen Prompt richtig zu bedienen, ist die nächste Kulturtechnik, auf die es ankommen wird. (hv)