تقول أبحاث Google DeepMind أن إنشاء صور ومقاطع فيديو ومقاطع صوتية تنتحل شخصية البشر أكثر شيوعًا بنحو مرتين من إنشاء معلومات مضللة باستخدام أدوات مثل روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.
ووجد التحليل أن الهدف الأكثر شيوعًا للجهات الفاعلة التي تسيء استخدام الذكاء الاصطناعي هو تشكيل الرأي العام أو التأثير عليه، حيث يمثل 27% من الاستخدامات، مما أثار مخاوف بشأن كيفية تأثير التزييف العميق على الانتخابات في جميع أنحاء العالم هذا العام.
ظهرت أعمال فنية مزيفة لرئيس الوزراء البريطاني ريشي سوناك على تيك توك وإنستغرام قبيل الانتخابات العامة. الصورة: وكالة فرانس برس.
ظهرت على منصات تيك توك وإكس وإنستغرام في الأشهر الأخيرة صورٌ مُزيفة لرئيس الوزراء البريطاني ريشي سوناك وقادة عالميين آخرين. يتوجه الناخبون البريطانيون إلى صناديق الاقتراع الأسبوع المقبل في انتخابات عامة.
هناك مخاوف من أنه على الرغم من جهود وسائل التواصل الاجتماعي لتصنيف أو إزالة مثل هذا المحتوى، فإن الجماهير قد لا تتعرف عليه على أنه مزيف وأن نشره قد يؤثر على الناخبين.
ووصفت أردي جانجيفا، الباحثة المشاركة في معهد آلان تورينج، نتائج البحث بأنها "ذات أهمية خاصة"، حيث إن المعلومات العامة التي تولدها الذكاء الاصطناعي يمكن أن "تشوه فهمنا المشترك للواقع الاجتماعي والسياسي ".
وأضافت جانجيفا: "حتى لو لم نكن متأكدين من تأثير التزييف العميق على سلوك التصويت، فقد يكون من الصعب اكتشاف هذا التشويه على المدى القصير ويشكل مخاطر طويلة الأجل على الديمقراطية".
وقالت الباحثة ناهيما مارشال، المؤلفة الرئيسية للدراسة في جوجل ديب مايند: "كانت هناك مخاوف كثيرة بشأن الهجمات الإلكترونية المتطورة للغاية التي يتم إنشاؤها باستخدام هذه الأدوات".
قام باحثون من Google DeepMind وJigsaw بتحليل حوالي 200 حالة من سوء استخدام الذكاء الاصطناعي بين يناير 2023 ومارس 2024، مأخوذة من شبكات التواصل الاجتماعي X وReddit، بالإضافة إلى المدونات عبر الإنترنت وتقارير وسائل الإعلام عن سوء الاستخدام.
الدافع الثاني الأكثر شيوعًا وراء الإساءة هو الربح المادي، بما في ذلك إنشاء صور عارية لأشخاص حقيقيين أو استخدام الذكاء الاصطناعي لإنتاج محتوى متنوع، مثل المقالات الإخبارية الكاذبة. تتضمن معظم السيناريوهات أدوات سهلة المنال "تتطلب خبرة تقنية بسيطة"، ما يعني أن العديد من الجهات الفاعلة السيئة يمكنها استغلال الذكاء الاصطناعي بشكل إبداعي.
نغوك آنه (وفقًا لصحيفة فاينانشال تايمز)
[إعلان 2]
المصدر: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html
تعليق (0)