Bedenken, dass KI Gedanken lesen und menschliche Entscheidungen manipulieren kann

(CLO) Die neuesten Forschungsergebnisse der Universität Cambridge haben eine alarmierende Wahrheit ans Licht gebracht: KI ist nicht nur ein Hilfsmittel, sondern verfügt auch über die Fähigkeit, unsere Gedanken zu manipulieren und uns in Marionetten eines technologischen Spiels zu verwandeln.

Forscher haben ein neues Konzept geprägt, das sie „Intention Economy “ nennen. In dieser Ökonomie können Unternehmen riesige Mengen an Daten über unser Verhalten, unsere Vorlieben und Gewohnheiten sammeln und analysieren, um vorherzusagen, was wir als Nächstes tun werden.

Sie können diese Informationen dann an andere Unternehmen verkaufen, die ihre Werbung gezielter auf uns ausrichten möchten.

KI hat die Fähigkeit, unser Denken und Handeln zu beeinflussen. Abbildung: KI

Nehmen wir beispielsweise an, Sie suchen ein neues Handy. KI verfolgt Ihr Online-Verhalten, die gesuchten Schlüsselwörter und sogar Ihre Gespräche, um Ihre Bedürfnisse besser zu verstehen. Telefonanbieter können diese Informationen nutzen, um Ihnen Werbung für die für Sie am besten geeigneten Handys anzuzeigen.

„Wenn wir sie nicht kontrollieren, könnte die Intentionsökonomie zu einem Instrument der Manipulation unserer Entscheidungen werden“, warnt Dr. Jonnie Penn, Technikhistoriker an der Universität Cambridge. „Unternehmen könnten KI nutzen, um uns zum Kauf von Produkten zu bewegen, die wir nicht brauchen, oder sogar unsere Wahlentscheidungen beeinflussen.“

Die Autoren erklärten außerdem, dass ein KI-Modell Gespräche steuern würde, um Werbetreibenden, Unternehmen und anderen Dritten zu dienen. Werbetreibende könnten die KI-generierten Tools nutzen, um maßgeschneiderte Online-Werbung zu erstellen.

Der Bericht führt das Beispiel eines von Meta entwickelten KI-Modells namens Cicero an, das die Fähigkeit „auf menschlichem Niveau“ erreichte, das Brettspiel Diplomacy zu spielen – ein Spiel, bei dem es den Autoren zufolge darum geht, die Absichten der Gegner zu erschließen und vorherzusagen.

Führende Experten im Technologiebereich haben vor der Fähigkeit der KI gewarnt, menschliches Verhalten vorherzusagen und zu beeinflussen.

Nvidia-CEO Jensen Huang vertrat in einer Rede im vergangenen Jahr eine bemerkenswerte Ansicht. Er argumentierte, dass fortschrittliche KI-Modelle in der Lage sein werden, „herauszufinden, was Ihre Absichten, Ihre Wünsche und Ihre Ziele sind, und Ihnen die Informationen bestmöglich zu präsentieren“.

Hoang Anh (laut CUN, Nvidia, Guardian)

Quelle: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html