ChatGPTのリアルな写真作成機能による詐欺の恐れ

[広告_1]

ChatGPTは「写真のように描く」

3月26日、OpenAIがChatGPTのユーザー向けに画像作成機能に重点を置いた「Images in ChatGPT」を正式にリリースした際、ベトナムを含む世界中のAI（人工知能）ユーザーコミュニティは大きな話題となりました。ChatGPTは以前から画像作成機能を備えていましたが、機能に制限があり、別の有名なテキスト画像変換モデルであるDALL-Eを経由する必要がありました。

このツールは、テキストを絵に変換したり、「Photoshopのように画像を組み合わせたり」できる機能で、すぐに注目を集めました。多くの人が出力画像の品質を「驚くほど素晴らしい」と述べ、ほとんどの人が市場で人気のAIモデルよりも「優れている」と評価しました。

ChatGPTは簡単なコマンドでリアルなコーヒーカップを作成します

OpenAIの研究チームリーダーであるガブリエル・ゴー氏によると、GPT-4oモデルを用いたChatGPTの画像生成能力の大幅な向上は「バインディング」にあります。これは、AI画像生成器が属性とオブジェクト間のつながりを維持する度合いを表す用語です。ゴー氏は、GPT-4oは15～20種類の異なるオブジェクトの属性を混乱なく正確にリンクできるため、生成されるコンテンツの精度と信頼性が大幅に向上したと主張しました。

ChatGPTのImagesは、画像生成能力に優れているだけでなく、他の画像生成AIツールの「致命的」な弱点である、画像内の文字やテキストが表示されてしまうという問題も解決しています。実際、多くのテキストを含む画像も正確に表示されるため、偽物と本物の判別がさらに困難になっています。

このツールの欠点は、画像の生成に時間がかかることですが、高品質の画像、正確な詳細、そしてユーザーの説明との一致には常に忍耐力が必要となるため、この遅延は妥当であると考えられます。研究チームは、この遅延の問題は将来的に改善されると述べています。

写真を組み合わせる機能に関する多くの懸念

ChatGPTとOpenAIは、ユーザーに最初の体験の楽しさを提供する一方で、情報セキュリティ、プライバシー、そして悪用されるリスクといった問題も再び浮き彫りにしています。「近い将来、オンラインで目にする画像が必ずしも現実のものではないかもしれない」と、ベトナムのあるFacebookユーザーは、ChatGPTに、まるで写真のようにリアルに見える完全に非現実的な画像を作成させられることに懸念を表明しました。例えば、俳優で元レスラーのドウェイン・ジョンソン（ザ・ロック）がチューインガムのブランドを宣伝している写真や、ストーブの上に座っている三毛猫の写真は、写真と全く同じように見える、といった具合です。

Người dùng hào hứng xen lẫn lo ngại vì khả năng tạo ảnh của ChatGPT - Ảnh 1. — 詳細なコマンドが提供されているため、ユーザーは従来の写真編集ツールの使い方に関する詳細な知識を必要とせずに、驚くような結果を生み出すことができます。

多くの人がこの新ツールの「脱ぎかけ」機能を試した。TN氏（ハノイ）は、インターネットで撮影したモデルの写真を使い、ChatGPTにリクエスト通りに衣装を着替えさせたところ、ほぼすべてのリクエストが高精度でクリアされたという。「しかし、それでも拒否されるものもありました。主に著作権のある画像の作成や過度にセクシーなコンテンツに関するシステムポリシー違反が原因です」とTN氏は語った。

Thanh Nien氏のテストでは、ChatGPTは現実世界や映画、物語に登場する有名人や著作権のあるキャラクターに関連する画像の作成を拒否しました。ベトナムでアイスティーを飲んでいるドクター・ストレンジの画像を作成するように求められた際、システムは「送信された参照画像にはマーベルの著作権のあるキャラクターであるドクター・ストレンジが明確に写っており、これは現在のコンテンツポリシーに違反しているため、要求どおりに画像を作成することはできません」と返答しました。

ChatGPTのマルチモーダル製品責任者であるジャッキー・シャノン氏は、ChatGPTの画像はディープフェイク、ポルノ、詐欺コンテンツに対して強力な保護機能を備えていると認めました。特に、生成された画像にはC2PA標準のメタデータが組み込まれ、AI製品であることを示すマークが付けられますが、確認には別途ツールが必要となります。

しかし、いまだに「法律を曲げて」有名人の画像を娯楽目的で巧みに利用する人々が数多く存在します。例えば、CEOのティム・クック氏がiPhoneではなくサムスンのスマートフォンを持っている画像、俳優のロバート・ダウニー・Jr.氏が野菜キャンディーを噛んでいる画像、ベトナムの小さな路地でクリスティアーノ・ロナウド氏がリオネル・メッシ氏と大勢の人の前でボールを奪い合っている画像など…

[広告2]
出典: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm