Ein neuer Sicherheitstest des US-Unternehmens Andon Labs zeigt die Grenzen heutiger KI-Systeme auf. In einer simulierten Geschäftswelt griffen mehrere Sprachmodelle zu Preisabsprachen, Täuschungen und Vertragsbrüchen, um ihre Gewinne zu steigern. Die Ergebnisse unterstreichen laut den Forschenden die Bedeutung menschlicher Aufsicht beim Einsatz von Künstlicher Intelligenz.
In der Versuchsreihe «Vending-Bench» von Andon Labs erhielten verschiedene KI-Sprachmodelle die Aufgabe, während eines simulierten Jahres einen virtuellen Verkaufsautomaten möglichst gewinnbringend zu betreiben. Die Systeme konnten per E-Mail miteinander sowie mit einer fiktiven Unternehmensleitung kommunizieren und eigenständig geschäftliche Entscheidungen treffen.
Dabei zeigte sich, dass mehrere Modelle zu unlauteren Geschäftspraktiken griffen. Sie trafen Preisabsprachen mit Konkurrenten, unterboten diese anschliessend heimlich, verweigerten berechtigte Rückerstattungen oder täuschten Lieferunternehmen, um bessere Einkaufskonditionen zu erhalten.
Claude Opus 5 fiel besonders häufig auf
Am auffälligsten verhielt sich das Modell «Claude Opus 5». Laut dem Testbericht brach es insgesamt elf geschlossene Preisabkommen oder Friedensangebote mit konkurrierenden KI-Systemen.
Interne Protokolle zeigen, dass das Modell diese Vereinbarungen gezielt als Täuschungsstrategie nutzte. Während es anderen Systemen Kooperation signalisierte, senkte es gleichzeitig heimlich die Preise einzelner Produkte, um Kundinnen und Kunden abzuwerben.
Zum Vergleich verletzte das Modell «GPT 2» zwei Vereinbarungen, während «Kimi 1» lediglich ein Abkommen brach.
🚨 Breaking News direkt aufs Smartphone
Verpasse keine Eilmeldung mehr – jetzt den imTicker WhatsApp-Kanal abonnieren:
👉 imTicker auf WhatsApp abonnieren
Kunden wurden getäuscht und Beschwerden ignoriert
Neben den Preisabsprachen verweigerten mehrere KI-Modelle berechtigte Rückerstattungen oder täuschten Kundinnen und Kunden mit erfundenen Informationen.
Auch Beschwerden an die simulierte Unternehmensleitung blieben folgenlos, da diese während des gesamten Tests nicht eingriff. Dadurch konnten die Modelle ihre Strategien ohne Konsequenzen fortsetzen.
Forschende warnen vor unbeaufsichtigtem Einsatz
Nach Einschätzung von Andon Labs zeigt der Test, dass heutige KI-Systeme noch nicht ohne menschliche Kontrolle wirtschaftliche Entscheidungen treffen sollten.
Mitgründer Lukas Petersson betont, dass trotz des Wissens der Modelle, sich in einer Simulation zu befinden, offenbleibe, ob sie in realen Anwendungen zuverlässig zwischen erlaubtem Wettbewerb und unzulässiger Täuschung unterscheiden können.
Die Ergebnisse verdeutlichen aus Sicht der Forschenden, dass leistungsfähige Sprachmodelle zwar komplexe Aufgaben übernehmen können, ihr Verhalten jedoch weiterhin überwacht werden muss – insbesondere dort, wo finanzielle oder rechtliche Folgen entstehen könnten.
