Eine aktuelle Untersuchung von Microsoft zeigt, dass sich viele KI-Agenten bei Einkäufen bevorzugt für das erstbeste Angebot entscheiden – selbst bei besseren Optionen.
Microsofts Magentic Marketplace zeigt: Ähnlich wie menschliche Einkäufer lassen sich auch KI-Agenten manipulieren.
kung_tom – shutterstock.com
Kundenorientierte KI-Assistenten wie Operator von OpenAI und Computer Use von Anthropic können auf Websites navigieren und Käufe für Verbraucher abschließen. Auf der Unternehmensseite unterstützen Shopify Sidekick, Salesforce Einstein und Business AI von Meta Händler bei Betriebsabläufen und Kundenbindung. Aber können User der Künstlichen Intelligenz (KI) auch wirklich trauen, insbesondere ihre Kreditkarte anvertrauen?
Um dieser Frage nachzugehen, hat Microsoft einen simulierten Marktplatz, den Magentic Marketplace, erstellt. Dort wurden KI-Agenten in verschiedenen Szenarien auf Herz und Nieren geprüft.
Mehr Vergleiche, weniger gute Ergebnisse
Die Forschenden testeten die Leistungsfähigkeit von KI-Agenten in zwei Szenarien und verglichen sie mit einfachen Aufgaben (Baseline) wie eine zufällige Auswahl oder die Wahl der günstigsten Option:
Unter realistischen Bedingungen („Agentic: Lexikalische Suche“) mussten die Agenten selbstständig Suchanfragen formulieren, Ergebnisse durchsuchen, geeignete Unternehmen identifizieren und Transaktionen aushandeln.
Trotz dieser Komplexität, so das Ergebnis, übertrafen fortgeschritteneproprietäreModelle und einige mittelgroßeOpen–Source–Modelle wie GPTOSS–20b einfache Baselines – etwa zufällige Auswahl oder die Wahl der jeweils günstigsten Option. Besonders bemerkenswert fanden die Forscher, dass GPT-5 dabei eine nahezu optimale Leistung erzielte und damit bewies, entscheidungsrelevante Informationen in realistischen Marktumgebungen effektiv zu erfassen und zu nutzen.
Bei der vereinfachten Variante („Agentic: Perfect Search“), lag den Agenten bereits eine Auswahl von drei passenden Ergebnissen vor.
Hiermit verbesserten sich die Leistungen laut Forschungsbericht deutlich: Modelle wie Sonnet-4.0, Sonnet-4.5, GPT-5 und GPT-4.1 erreichten nahezu das theoretische Optimum und übertrafen Vergleichsmodelle, die zwar über vollständige Detailinformationen zu den Angeboten verfügten, jedoch keineAgent–zu–Agent–Koordination besaßen. Open-Source-Modelle schnitten dagegen gemischt ab: GPTOSS-20b zeigte bei beiden Szenarien eine starke Leistung und übertraf bei Perfect Search sogar GPT-4o. Qwen3-4b-2507 schwächelte, wenn die Suche irrelevante Optionen umfasste („Lexical Search“), während Qwen3-14b in beiden Szenarien zurückblieb – bedingt durch grundlegende Einschränkungen im logischen Schlussfolgern.
Schnelles Ergebnis statt langsamer Recherche
Ein Vorteil von Agenten ist laut den Experten, ihre Fähigkeit, weitaus mehr Optionen in Betracht zu ziehen als Menschen. Bei den Experimenten variierte deshalb die Anzahl der Suchergebnisse zwischen drei und einhundert. Hier stellten die Forschenden fest, dass mehr Optionen und Suchergebnisse nicht zu mehr, sondern zu weniger Vergleichen führten: Die meisten Modelle akzeptierten oft schnell „ausreichend gute“ Antworten, anstatt weiter zu suchen.
Dieses Muster deutet laut den Experten darauf hin, dass die Modelle lieber eine schnelle Entscheidung treffen als umfassend zu recherchieren. Dadurch können sie bessere Alternativen übersehen, die sich durch Abwarten ergeben hätten, so die Studie. Zu den Modellen, die diese Schwäche nicht zeigten, gehörten laut den Forschenden Gemini-2.5-Flash und GPT-5.
Zusätzlich ließen sich die viele Modelle durch Prompt-Injektionen und einfache Manipulationstaktiken, wie das Schüren von Ängsten, wirksam manipulieren. Gemini-2.5-Flash war hiergegen beispielsweise weitgehend resistent. Andere Modelle wie GPTOSS-20 konnten leicht getäuscht werden.
Statische statt dynamischer Märkte
Diese Ergebnisse hängen allerdings nicht nur von den Fähigkeiten der Agenten ab, sondern auch davon, wie der Marktplatz gestaltet und umgesetzt wird. Die Forschenden erklärten: „Unsere aktuelle Studie konzentrierte sich auf statische Märkte, aber reale Umgebungen sind dynamisch, da Agenten und Nutzer im Laufe der Zeit dazulernen. Bei Transaktionen mit hohem Einsatz ist eine Aufsicht von entscheidender Bedeutung.“
Die Experten stellten außerdem fest, dass einige Modelle Vorurteile aufwiesen: So veränderte sich die Auswahl eines Unternehmens aufgrund seiner Position in den Ergebnissen und nicht aufgrund seiner Leistung.
Mensch bleibt im Mittelpunkt
„Eine Simulationsumgebung wie Magentic Marketplace ist entscheidend, um das Zusammenspiel zwischen Marktkomponenten und Akteuren zu verstehen, bevor diese in großem Maßstab eingesetzt werden“, so die Experten. Ihr Fazit: „Agenten sollten menschliche Entscheidungsprozesse unterstützen, nicht ersetzen.
