AI がよりアクセスしやすくなり、ますます多くの個人や企業が一般的なツールを通じて AI を利用するようになると、ハッカーは攻撃を自動化し、操作を高速化し、より複雑なキャンペーンを展開して違法な目的を達成できるようになります。
カスペルスキーが観察した攻撃の種類は次のとおりです。ChatGPT はマルウェアを開発し、複数の被害者に自動的に攻撃を展開するために使用される可能性があります。AI プログラムはスマートフォンのユーザー データに侵入し、機密データを分析するプロセスを通じて、被害者のメッセージ、パスワード、銀行コードを完全に「読み取る」ことができます。群知能アルゴリズムは、自動化されたコンピューター ネットワーク (ボネット) がセキュリティ ソリューションによって排除された悪意のあるネットワークを復元するのに役立ちます。
カスペルスキーがAIを用いたパスワード解読に関する研究を行った結果、ほとんどのパスワードはMD5やSHAなどのハッシュアルゴリズムで暗号化されていることが明らかになりました。そのため、簡単な操作でパスワードを暗号化されたテキストストリームに変換できますが、そのプロセス全体を元に戻すのは容易ではありません。
AIを活用することで、悪意のある人物はテキスト、画像、音声、動画などの不正コンテンツを悪用し、ソーシャルエンジニアリング攻撃を仕掛けることができます。ChatGPT-4oなどの大規模言語モデルは、高度に洗練されたフィッシングスクリプトやメッセージを作成するために使用されます。AIは言語の壁を乗り越え、ソーシャルネットワーク上の情報に基づいて本物のメールを作成することができます。AIは被害者の文章スタイルを模倣することさえ可能です。これにより、フィッシング行為の検出はさらに困難になります。
ディープフェイクは、かつては科学研究の産物と考えられていたにもかかわらず、サイバーセキュリティにおける「問題」として存在しています。金銭的利益を得るために有名人になりすますことが最も一般的な手法であり、詐欺師はディープフェイクを使ってアカウントを盗んだり、被害者の友人や親戚に偽の電話をかけて財産を横領したりしています。
AI技術を違法行為に利用するだけでなく、攻撃者はAIアルゴリズム自体を攻撃することも可能です。例えば、大規模な言語モデルに悪意のあるコマンドを入力する「プロンプト・インジェクション」攻撃は、従来の制限ルールに違反する場合もあります。また、画像や音声に隠し情報フィールドを追加して機械学習システムの画像分類能力に影響を及ぼす敵対的攻撃も存在します。
Apple Intelligence、Google Gemini、Microsoft Copilotなど、AIは人間の生活のあらゆる側面にますます統合されています。そのため、AIの脆弱性への対処は最優先事項です。カスペルスキーは長年にわたりAI技術を活用し、お客様とパートナーの保護に取り組んできました。AIシステムの脆弱性を継続的に調査し、システムの回復力を高めるとともに、AI攻撃に対する信頼性の高い保護を提供するために、サイバー攻撃手法を積極的に研究しています。
キム・タン
[広告2]
出典: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html
コメント (0)