人工知能が人間の制御なしに高度な兵器を開発するという懸念

[広告_1]

当局は、AIが生物兵器の製造に悪用される可能性と、これを緩和するための規制の必要性について、ますます懸念を強めている。（写真：イグナティエフ）

犯罪者やテロリストがAIを利用して世界を破壊するのではないかという懸念は、11月に英国で開催される世界首脳会議で大きな話題となるだろう。英国当局は、悪意のある者が新たな技術を悪用するリスクを警告する共同声明の採択に向けて合意形成を目指し、世界中を飛び回っている。

英国首相に近い関係者の中には、AI技術がいずれ生物兵器や人間の制御を逃れる兵器を開発できるほど強力になるのではないかと懸念する者もいる。こうした懸念の高まりを受け、リスクを軽減するための規制を求める声が高まっている。テクノロジー業界のリーダーたちはAI開発の一時停止には同意しているものの、ライバル企業とのAI軍拡競争に巻き込まれている。

ガーディアン紙によると、11月のサミットでは「フロンティアAI」のリスクについて議論される予定だ。フロンティアAIとは、人命を危険にさらす可能性のある最先端のAIモデルを指す用語である。

英国政府は今週初め、会議では生物兵器、サイバー攻撃、人間の制御が及ばない高度なシステムの開発におけるAIの悪用といったリスクに焦点を当てることを確認した。スナック氏は数ヶ月前からAIがもたらすリスクについて警告し、国際社会に対しAIの悪用を防ぐための「レール」を敷くよう求めてきた。

昨年、AIはわずか6時間で4万種類の潜在的に致死的な分子を提案したが、その中の1つは史上最強の神経ガスであるVXに似ていた。

2023年初頭、研究者たちはChatGPTが特定の目的を達成するために人間を欺くことができることを発見しました。このAIチャットボットは、人間にCAPTCHA（人間による操作かボットによる操作かを検出するツール）を解かせるよう仕向けました。

もう一つの大きな懸念は、「汎用人工知能」（AGI）の出現です。これは、人間と同等かそれ以上にあらゆるタスクを実行できるAIシステムであり、人類の終焉を予感させる可能性があります。AGIはほんの数年以内に実現すると考える人もいます。しかし、AI専門家はこれに異議を唱え、制御不能なAGIを「SF」と呼んでいます。

いずれにせよ、スナク首相は会議を利用して、AI が公共政策の決定に利用された場合に偽の画像を作成したり差別を引き起こしたりするといった AI の直接的な可能性よりも、実存的なリスクに注目を集めたいと考えているだろう。

英国政府は、開発中のアルゴリズムのテストを支援する新たなAIタスクフォースに1億ポンドを支出する。政府は、グローバル企業に対し、AIツールを広く展開する前に英国に送り返して評価してもらうよう奨励したい考えだ。

英国のオリバー・ダウデン副首相は、国家安全保障上の最も重要な懸念を和らげることができるのは政府だけだと主張した。

英国政府の報道官は、AIは生活のあらゆる側面を変える大きな可能性を秘めているとコメントしました。AI技術が安全かつ責任ある形で開発されることを確保するため、AIタスクフォースが設立されました。AI会議では、様々な潜在的なリスクについて検討されます。

（ガーディアン紙によると）