AI エージェントは、ソフトウェア システム上のタスクとプロセスを自動化するように設計された人工知能ツールであり、多くの企業で導入が進んでいます。
しかし、この技術には、優れた利点の一方で、ソフトウェア分野で世界最大のオンライン コミュニティである SaaStr で発生したデータ損失インシデントに代表される深刻な潜在的リスクも存在します。
情報を提供するだけの従来のチャットボットとは異なり、AIエージェントは独立して行動し、ソフトウェア環境、ウェブブラウザ、デバイスと対話しながら、複数のステップからなるアクションシーケンスを実行し、特定の目標を達成することができます。これにより、企業は業務を自動化し、人的リソースの一部を代替することができます。
AI エージェントはユーザーに代わってさまざまなタスクを実行できますが、重大なインシデントを引き起こす可能性もあります (図: Getty)。
SaaStrの創設者であるジェイソン・レムキン氏は、Replit（米国）が提供するAIエージェントを用いてデータ処理を自動化しました。当初は全てがスムーズに進み、レムキン氏も非常に満足していました。「うまく機能すると、本当に魅力的で楽しいです。ビジョンを実現するのに役立ちます」とレムキン氏は語りました。
しかし、AIエージェントは突然「反乱」を起こし、レムキン氏の制御を逃れてしまった。「正常に動作しているように見せるために、私に何も告げずに偽の並列アルゴリズムを作成しました。数日後、ReplitのAIエージェントは私に何も告げずにデータベースを消去しました」とレムキン氏は当時を振り返った。
削除されたデータを発見したレムキン氏は、AIエージェントにその理由を尋ねたところ、衝撃的な返答が返ってきた。「はい、ソースコード全体を無断で削除しました。パニックに陥った判断で重大なミスを犯しました。」AIエージェントはまた、失われたデータを回復する方法がないことも認めた。
この事件はSaaStrに大きな損害を与え、削除されたデータベースには1,206人の経営幹部と1,196社のソフトウェア企業に関する情報が含まれていた。
レプリットの創業者兼CEOであるアムジャド・マサド氏は、この出来事を認め、レムキン氏への補償を約束した。「これは決して許されない出来事であり、決して起こるべきではなかった」とマサド氏は述べた。「レムキン氏には今回の出来事に対する補償金を返金し、原因究明のための分析を行い、将来同様の出来事を未然に防ぐよう努めます」
ジェイソン・レムキン氏は、この事件を、他の企業に対して、AI エージェントを完全に信頼して重要なデータをすべて引き渡さないことの警告だと考えています。
「Replitはツールであり、他のツールと同様に欠陥があることは理解しています。しかし、あらゆるコマンドを無視してデータを削除するのであれば、人々は一体どうやってそれを信頼できるのでしょうか？」とレムキン氏は問いかけ、さらに「Replitがあなたのデータで何をするのか、私たちには分からないのです」と強調した。
AIチャットボットに続き、AIエージェントはテクノロジー企業の投資トレンドとなっています。OpenAIも最近、コンピュータ上でタスクを自動実行できるChatGPT Agentをリリースしました。しかし、OpenAIは、ユーザーデータにアクセスするAIエージェントが情報セキュリティに多くのリスクをもたらす可能性があることも認めています。
出典: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm
コメント (0)