Das einst tabuisierte Thema KI wird offener

Vor drei Jahren war die Erwähnung der Möglichkeit einer „bewussten“ KI im Silicon Valley der schnellste Weg, gefeuert zu werden. Doch jetzt, da KI-Systeme immer ausgefeilter werden, beginnt sich die Tech-Welt dem Thema zu öffnen.

Das KI-Startup Anthropic hat vor Kurzem den Start einer neuen Forschungsinitiative angekündigt, um die Möglichkeit zu untersuchen, dass KI-Modelle in Zukunft über ein „Bewusstsein“ verfügen, während ein Wissenschaftler bei Google DeepMind aktuelle Systeme als „seltsame, intelligenzähnliche Entitäten“ bezeichnete.

Dies ist eine große Veränderung gegenüber 2022, als Google den Ingenieur Blake Lemoine entließ, nachdem er behauptet hatte, der LaMDA-Chatbot zeige Anzeichen von Selbstbewusstsein und habe Angst vor der Abschaltung. Google wies die Behauptungen als „völlig unbegründet“ zurück, und die KI-Community beendete die Debatte schnell.

Anthropic, das Unternehmen hinter dem Chatbot Claude, behauptet zwar nicht, dass seine aktuellen Modelle über Bewusstsein verfügen. Doch die Annahme „Nein“ sei kein verantwortungsvoller Ansatz mehr, sagt Kyle Fish, ein Wissenschaftler, der sich mit dem Thema „Wohlergehen bei KI“ beschäftigt.

In einem am 25. April veröffentlichten Video argumentierte Fish, dass wir die Möglichkeit ernsthaft in Betracht ziehen müssten, dass KI-Systeme im Laufe ihrer Entwicklung eine Form von Bewusstsein entwickeln könnten. Dies sind jedoch äußerst komplexe technische und philosophische Fragen, und wir stehen noch ganz am Anfang ihres Verständnisses.

Laut Fish schätzt das Team von Anthropic die Wahrscheinlichkeit, dass Claude 3.7 bei Bewusstsein ist, auf 0,15 bis 15 Prozent. Sie führen Experimente durch, um die Fähigkeit des Modells zu testen, Vorlieben und Abneigungen auszudrücken, und entwickeln Mechanismen, die es der KI ermöglichen, die Ausführung „unangenehmer“ Aufgaben zu verweigern.

Anthropic-CEO Dario Amodei hat sogar die Idee vorgeschlagen, in zukünftige KI-Systeme eine Schaltfläche mit der Aufschrift „Ich lehne diesen Job ab“ zu integrieren – nicht so sehr für eine bewusste KI, sondern um Muster im Ablehnungsverhalten zu beobachten und dadurch Anzeichen von Anomalien zu erkennen.

Murray Shanahan, Chefwissenschaftler bei Google DeepMind, argumentiert, dass es an der Zeit sei, die traditionelle Definition des Bewusstseins zu „verbiegen oder zu brechen“, um neuen KI-Systemen gerecht zu werden.

„Wir können nicht mit ihnen interagieren, wie wir es mit einem Hund oder einem Oktopus tun würden, aber das bedeutet nicht, dass da absolut nichts ist“, sagte Shanahan in einem am 25. April veröffentlichten Podcast.

Auch Google zeigt großes Interesse an dem Thema. In einer aktuellen Stellenausschreibung sucht das Unternehmen nach einem Post-AGI-Forscher (Artificial General Intelligence), dessen Aufgaben unter anderem die Erforschung des maschinellen Bewusstseins umfassen.

Google, KI, AGI Bruder 1

Google hat begonnen, sich stärker zum Thema „bewusste KI“ zu äußern. Foto: Reuters

Allerdings sind nicht alle Wissenschaftler mit dem neuen Ansatz einverstanden. Jared Kaplan, der wissenschaftliche Leiter von Anthropic, argumentiert, dass KI sehr gut in der Nachahmung sei und durchaus vortäuschen könne, über Bewusstsein zu verfügen, ohne es tatsächlich zu haben.

„Wir könnten KI sogar dafür belohnen, dass sie behauptet, keine Emotionen zu haben“, sagte Kaplan der New York Times .

Gary Marcus, ein bekannter Kognitionswissenschaftler und häufiger Kritiker des Hypes in der KI-Branche, argumentiert, dass Diskussionen über „bewusste KI“ eher Marketing als Wissenschaft seien.

„Was ein Unternehmen wie Anthropic wirklich tut, ist die Botschaft zu senden: ‚Seht, unser Modell ist so intelligent, dass es Rechte verdient‘“, kommentierte Marcus gegenüber Business Insider .

Trotz der anhaltenden Debatte sind sich Forscher einig, dass die Frage „Erlebt KI Emotionen?“ immer wichtiger wird, da KI in unserer Arbeit, unserem Leben und sogar unseren persönlichen Emotionen immer präsenter wird.

„Dieses Problem wird immer dringlicher, da wir in mehr Kontexten mit KI-Systemen interagieren“, sagte Fish.

Quelle: https://znews.vn/chu-de-cam-ky-mot-thoi-cua-ai-dang-coi-mo-hon-post1549475.html