AIが人間の心を読み取って意思決定を操作する可能性があるという懸念

(CLO) ケンブリッジ大学の最新の研究により、驚くべき真実が明らかになりました。AIは単なるサポートツールではなく、私たちの思考を操作し、私たちをテクノロジーの劇の操り人形に変えてしまう能力も持っているのです。

研究者たちは「意図経済」と呼ばれる新しい概念を生み出しました。この経済では、企業は私たちの行動、好み、習慣に関する膨大なデータを収集・分析し、次に何をするかを予測することができます。

そして、この情報を、当社に対してより正確に広告を配信したい他の企業に販売することができます。

AIは私たちの思考や行動を形作る力を持っています。イラスト：AI

例えば、新しい携帯電話を探しているとします。AIはあなたのオンライン行動、検索キーワード、さらには会話内容まで追跡し、あなたのニーズをより深く理解します。そして、携帯電話会社はこの情報を活用して、あなたに最適な携帯電話の広告を表示することができます。

「もし抑制されなければ、意図経済は私たちの意思決定を操作するためのツールになりかねません」と、ケンブリッジ大学の技術史学者、ジョニー・ペン博士は警告する。「企業はAIを使って、私たちに必要のない製品を買わせたり、投票行動に影響を与えたりすることさえあるのです。」

著者らはまた、AIモデルが会話をナビゲートし、広告主、企業、その他の第三者にサービスを提供すると述べています。広告主はAIが生成したツールを利用して、カスタマイズされたオンライン広告を作成できるようになります。

報告書では、Meta社が作成した「Cicero」と呼ばれるAIモデルが、ボードゲーム「ディプロマシー」をプレイする上で「人間レベル」の能力を達成した例を挙げている。著者らによると、このゲームは相手の意図を推測し予測することに依存するという。

テクノロジー分野の第一人者たちは、AIが人間の行動を予測し、影響を与える能力について警告している。

具体的には、NVIDIAのCEOであるジェンスン・フアン氏が昨年の講演で注目すべき見解を示しました。彼は、高度なAIモデルは「ユーザーの意図、欲求、そして何をしようとしているのかを理解し、最適な方法で情報を提示する」ことができるようになると主張しました。

ホアン・アイン(CUN、Nvidia、Guardian による)

出典: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html