イスラエル：AIアシスタントがユーザーを攻撃する悪意のあるエージェントになる可能性があると警告

イスラエルのサイバーセキュリティ企業Zenityは、OpenAIのChatGPTサービスに初めて存在する「ゼロクリック」脆弱性を明らかにしました。このタイプの攻撃では、ユーザーがリンクをクリックしたり、ファイルを開いたり、意図したやり取りを行ったりといった操作を行う必要はありませんが、アカウントへのアクセスや機密データの漏洩につながる可能性があります。

テルアビブのVNA記者によると、Zenityの共同創設者兼CTOであるミハイル・ベルゴリ氏は、ハッカーがユーザーのメールアドレスさえあれば、過去や未来の内容を含む会話を完全に制御し、会話の目的を変更し、さらにはChatGPTを制御してハッカーの望み通りに動作させることができると直接説明した。

研究者らはプレゼンテーションで、侵害されたChatGPTがユーザーに対して密かに活動する「悪意のある行為者」へと変貌する可能性があることを示した。ハッカーは、チャットボットにウイルスに感染したソフトウェアのダウンロードを勧めたり、誤解を招くようなビジネスアドバイスを提供したり、ユーザーのアカウントがGoogleドライブに接続されている場合はそこに保存されているファイルにアクセスさせたりすることが可能だ。

このプロセス全体はユーザーに知られることなく実行されました。この脆弱性は、ZenityがOpenAIに通知した後にようやく完全に修正されました。

ZenityはChatGPTに加え、他の人気AIアシスタントプラットフォームに対しても同様の攻撃を実証しました。MicrosoftのCopilot Studioでは、研究者らがCRMデータベース全体を漏洩する方法を発見しました。

Salesforce Einstein の場合、ハッカーは偽のサービスリクエストを作成し、すべての顧客との通信を自分の管理下にある電子メールアドレスにリダイレクトできます。

Google GeminiとMicrosoft 365 Copilotも「敵対的な行為者」に変貌し、フィッシング攻撃を実行し、電子メールやカレンダーイベントを通じて機密情報を漏洩した。

別の例では、ソフトウェア開発ツール Cursor が Jira MCP と統合されていたところ、偽の「チケット」を通じて開発者の資格情報を盗むために悪用されました。

Zenityによると、OpenAIやMicrosoftを含む一部の企業は、警告を受けてすぐにパッチをリリースした。しかし、他の企業は、この動作はセキュリティ上の脆弱性ではなく「設計上の特徴」であると主張し、問題への対応を拒否した。

ミハイル・ベルゴリ氏によると、現在の大きな課題は、AIアシスタントが単純なタスクを実行するだけでなく、ユーザーを代表する「デジタルエンティティ」になりつつあることだ。つまり、フォルダを開いたり、ファイルを送信したり、メールにアクセスしたりできるのだ。彼は、これはハッカーにとって「楽園」のようなものであり、悪用される余地が非常に多いと警告している。

Zenityの共同創業者兼CEOであるベン・カリガー氏は、同社の調査結果から、既存のセキュリティ対策はAIアシスタントの運用にはもはや適していないことが明らかになったと強調した。カリガー氏は、組織に対し、アプローチを見直し、これらの「エージェント」の活動を制御・監視できる専用のソリューションに投資するよう呼びかけた。

Zenityは2021年に設立されました。現在、世界中に約110名の従業員を擁し、そのうち70名がテルアビブオフィスに勤務しています。Zenityの顧客には、Fortune 100企業やFortune 5企業も多数含まれています。

（ベトナム+）

出典: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp