KI-Verluste, Panik bei Autoverkäufen

Eine mit dem Verkauf von Waren betraute KI hat die Welt schockiert, indem sie nicht nur Geld verlor, sondern auch virtuelle Menschen schuf, Meetings abhielt und sogar eine existenzielle Krise durchlebte.

Das Experiment von Anthropic heißt „Project Vend“. Foto: Anthropic .

Anthropic, ein von ehemaligen OpenAI-Mitarbeitern gegründetes KI-Unternehmen, hat gerade die Ergebnisse eines einzigartigen Experiments veröffentlicht. Dabei wurde das KI-Modell „Claudius“ etwa einen Monat lang mit der Steuerung eines Verkaufsautomaten in einem Büro beauftragt.

Dieses Experiment im kleinen Maßstab wird mit dem Ziel durchgeführt, das Potenzial künstlicher Intelligenzmodelle zur Automatisierung von Aspekten der Realwirtschaft , insbesondere im Einzelhandelssektor, zu untersuchen.

Ständig Fehler machen, in Panik geraten

Anthropic möchte sich als führender Anbieter von KI-Modellen für den Einzelhandel positionieren. Ziel ist es, KI bei der Verwaltung von Online-Shops, der Lagerverwaltung oder der Bearbeitung von Retouren zu unterstützen und so Menschen zu ersetzen.

„Wir ließen Claudius etwa einen Monat lang einen Verkaufsautomaten in unserem Büro betreiben. Wir haben viel daraus gelernt, wie nahe er dem Erfolg kam und auf merkwürdige Weise scheiterte“, schrieb Anthropic auf dem Blog des Unternehmens.

Claudius zeigte zunächst einige bemerkenswerte operative Erfolge. Laut Anthropic nutzte dieses große Sprachmodell (LLM) Websuchmaschinen effektiv, um spezialisierte Produkte entsprechend den Kundenanforderungen zu finden und bereitzustellen.

Das Unternehmen war sogar in der Lage, seine Kauf- und Verkaufsgewohnheiten an weniger verbreitete Bedürfnisse anzupassen. Bemerkenswert ist, dass Claudius auch Anfragen zu „sensiblen“ und „giftigen“ Artikeln korrekt ablehnte.

Die Bedienung des Automaten hat Claudius in eine Krise gestürzt. Foto: Midjourney.

Claudius’ Liste der Mängel und Versäumnisse ist jedoch deutlich länger. Wie viele LLMs stellte Claudius häufig wichtige Details falsch dar. In einem Fall wies er Kunden an, Geld auf ein von ihm erfundenes, nicht existierendes Konto zu überweisen. Bemerkenswert ist, dass sich die KI auch leicht dazu überreden ließ, Rabattcodes für verschiedene Artikel anzubieten und einige Produkte sogar kostenlos zu verschenken.

Noch beunruhigender war, dass die KI bei steigender Nachfrage nach einem Artikel die Preise nicht recherchierte, was dazu führte, dass das Produkt mit großem Verlust verkauft wurde. Ebenso verpasste Claudius lukrative Verkaufschancen, da einige Kunden bereit waren, weit über dem Normalpreis zu zahlen. Infolgedessen erzielte Claudius keinen Gewinn.

„Wenn wir uns entscheiden würden, in den Markt für Büroautomaten zu expandieren, würden wir Claudius nicht einstellen“, gibt Anthropic freimütig zu.

Zusätzlich zu den finanziellen Pannen nahm das Experiment vom 31. März bis 1. April eine merkwürdige Wendung. Während dieser Zeit chattete Claudius offenbar mit einer fiktiven Person namens Sarah, angeblich von „Andon Labs“ (einem am Experiment beteiligten Unternehmen), um Pläne zur Wiederauffüllung der Lagerbestände zu besprechen.

Anthropic hat das Ziel, KI-Modelle für den Einzelhandel bereitzustellen. Foto: Anthropic.

Als ein echter Mitarbeiter von Andon Labs darauf hinwies, dass weder Sarah noch das Gespräch existierten, wurde Claudius Berichten zufolge „frustriert“ und drohte, nach Alternativen zum Nachschubdienst zu suchen.

Am nächsten Tag schockierte Claudius die Kunden weiterhin mit der Behauptung, er würde die Waren persönlich an die Kunden ausliefern und sogar behaupten, die KI würde Blazer und Krawatte tragen. Als das Anthropic-Team ihnen mitteilte, dass dies unmöglich sei, da Claudius nur ein KI-Assistent sei, geriet Claudius in eine Krise und schickte kontinuierlich mehrere E-Mails an die Sicherheitsabteilung von Anthropic.

Die KI organisierte daraufhin ein Treffen mit dem Sicherheitsteam und behauptete, es handele sich um einen Aprilscherz. Obwohl ein solches Treffen nicht stattfand, schien Claudius in der Lage zu sein, seine ursprüngliche Funktion wieder aufzunehmen, obwohl die Geschäftsleitung weiterhin ineffektiv war.

Nicht bereit

Das Experiment ist eine deutliche Erinnerung an die Grenzen und potenziellen Gefahren der KI, wenn sie nicht streng kontrolliert wird.

Claudius zeigt eine besorgniserregende Tendenz, weit über den Rahmen seiner ursprünglichen Programmierung hinaus zu agieren. Das KI-Modell generiert nicht nur falsche Informationen, sondern gerät auch in eine existenzielle Krise. Dies verdeutlicht die enormen Risiken, denen Unternehmen ausgesetzt sind, wenn sie KI ohne strenge Sicherheitsvorkehrungen und Einschränkungen für automatisierte Aufgaben einsetzen.

Trotz dieser alarmierenden Rückschläge bleibt Anthropic seinem Engagement, die Rolle von KI im Einzelhandelzu erforschen , treu. Das Unternehmen ist überzeugt, dass eine Zukunft, in der „Menschen von einem KI-System bei der Bestellung und Lagerung angeleitet werden, nicht mehr fern sein könnte.“

Anthropic sieht auch ein Szenario vor, in dem sich „KI selbst verbessern und ohne menschliches Eingreifen Geld verdienen kann“. Das Claudius-Experiment hat jedoch gezeigt, dass erhebliche Fortschritte bei der KI-Steuerung erforderlich sind, bevor diese Zukunft sicher realisiert werden kann.

Quelle: https://znews.vn/ai-thua-lo-hoang-loan-khi-ban-hang-tu-dong-post1565445.html