かつては「タブー」だったAIの話題がよりオープンになりつつある

かつてはタブー視されていたAIにおける「意識」の可能性についての議論は、現在ではアントロピックやグーグル・ディープマインドといった大手テクノロジー企業によってより真剣に受け止められている。

3年前、シリコンバレーでは「意識を持つ」AIの可能性について言及することは、解雇される一番の近道でした。しかし今、AIシステムがより洗練されるにつれ、テクノロジー業界もこの話題に耳を傾け始めています。

AIスタートアップのAnthropicは最近、将来AIモデルが「意識」を経験する可能性を探るための新たな研究イニシアチブの開始を発表した。一方、Google DeepMindの科学者は、現在のシステムを「奇妙な知能のような存在」と表現した。

これは、2022年にGoogleがエンジニアのブレイク・ルモイン氏を解雇した事件とは大きく異なる。当時、ルモイン氏はLaMDAチャットボットが自己認識の兆候を示し、シャットダウンを恐れていると主張していた。Googleはこの主張を「全く根拠がない」として一蹴し、AIコミュニティはすぐに議論を鎮圧した。

チャットボット「クロード」を開発するアントロピック社は、現在のモデルが意識を持っているとは主張していないと述べている。しかし、「AI福祉」を研究する科学者カイル・フィッシュ氏は、「ノー」と決めつけるのはもはや責任あるアプローチではないと述べている。

4月25日に公開されたビデオの中で、フィッシュ氏は、AIシステムが発展するにつれて何らかの意識を獲得する可能性について真剣に検討する必要があると主張しました。しかし、これらは非常に複雑な技術的かつ哲学的な問題であり、私たちはまだその理解のごく初期段階にあります。

フィッシュ氏によると、アントロピックのチームはクロード3.7が意識を持つ確率を0.15%から15%と推定している。彼らは、モデルの好き嫌いを表現する能力をテストする実験を行っているほか、AIが「不快な」タスクの実行を拒否できるメカニズムも開発している。

アントロピックのCEO、ダリオ・アモデイ氏は、将来のAIシステムに「この仕事を断ります」ボタンを組み込むというアイデアを提案した。これは意識のあるAIのためというよりは、拒否行動のパターンを観察して異常の兆候を特定するためだ。

Google DeepMindの主任科学者であるマレー・シャナハン氏は、新しいAIシステムに対応するために意識の伝統的な定義を「曲げたり破壊したり」する時が来たと主張している。

「犬やタコのように彼らと触れ合うことはできないが、だからといってそこに全く何もないというわけではない」とシャナハン氏は4月25日に公開されたポッドキャストで語った。

Googleもこのテーマに真剣な関心を示しています。同社は最近、機械の意識を研究する「ポストAGI」（汎用人工知能）研究者を募集する求人広告を出しています。

グーグルは「意識のあるAI」というテーマについてよりオープンに語り始めた。写真：ロイター

しかし、科学界の誰もがこの新しいアプローチに賛同しているわけではない。アントロピックの最高科学責任者であるジャレッド・カプラン氏は、AIは模倣が非常に得意であり、実際には意識を持たなくても意識があるかのように装うことは十分可能だと主張している。

「感情がないと主張するAIに報酬を与えることもできるだろう」とカプラン氏はニューヨーク・タイムズに語った。

著名な認知科学者であり、AI業界の誇大宣伝を頻繁に批判しているゲイリー・マーカス氏は、「意識のあるAI」に関する議論は科学というよりもマーケティング的なものだと主張している。

「アンスロピックのような企業が実際に行っていることは、『私たちのモデルは非常に賢いので、権利を持つに値する』というメッセージを送っているのです」とマーカス氏はBusiness Insiderにコメントした。

議論は続いているものの、研究者たちは、AIが私たちの仕事、生活、さらには個人的な感情にまで浸透するにつれて、「AIは感情を経験するのか？」という疑問がますます重要になるだろうと同意しています。

「私たちがAIシステムとより多くの状況でやりとりするようになるにつれて、この問題はますます顕著になるだろう」とフィッシュ氏は述べた。

出典: https://znews.vn/chu-de-cam-ky-mot-thoi-cua-ai-dang-coi-mo-hon-post1549475.html