สำนักงานอัยการสูงสุดของรัฐนิวแฮมป์เชียร์ประกาศเมื่อวันจันทร์ว่าสำนักงานกำลังสอบสวนการทุจริตการเลือกตั้งที่อาจเกิดขึ้น หลังจากมีการร้องเรียนเกี่ยวกับเสียงปลอมที่ฟังดูเหมือนเสียงของประธานาธิบดีโจ ไบเดน ที่เรียกร้องให้ผู้มีสิทธิเลือกตั้งไม่ลงคะแนนเสียงในการเลือกตั้งขั้นต้นของรัฐ
นักวิจัยยังเตือนถึงการใช้เสียงแบบ Deepfake เพื่อเลียนแบบ นักการเมือง และผู้นำ โดยกรณีที่โดดเด่นเกิดขึ้นในปี 2023 ในสหราชอาณาจักร อินเดีย ไนจีเรีย ซูดาน เอธิโอเปีย และสโลวาเกีย
บุคคลหนึ่งลงคะแนนเสียงในการเลือกตั้งขั้นต้นในรัฐนิวแฮมป์เชียร์ สหรัฐอเมริกา ภาพ: Getty
ผู้เชี่ยวชาญกล่าวว่าเสียง Deepfake กลายเป็นรูปแบบหนึ่งของข้อมูลที่ผิดพลาด ซึ่งเป็นผลมาจากการเกิดขึ้นของเครื่องมือ AI ที่มีราคาถูกและมีประสิทธิภาพจากบริษัทสตาร์ทอัพ Microsoft ยังได้พัฒนาโมเดล AI ใหม่ที่สามารถจำลองเสียงได้ตั้งแต่การบันทึกเสียงเพียงสามวินาที
Henry Ajder ผู้เชี่ยวชาญด้าน AI และ Deepfake และที่ปรึกษาของ Adobe, Meta และ EY กล่าวว่า “เมื่อพูดถึงการปรับแต่งภาพ ทุกคนต่างคุ้นเคยกับ Photoshop หรืออย่างน้อยก็รู้ว่า Photoshop มีอยู่” “มีการตระหนักรู้เพียงเล็กน้อยว่าการปรับแต่งเสียงนั้นทำได้อย่างไร ดังนั้น สำหรับผมแล้ว เรื่องนี้ทำให้เราตกอยู่ในความเสี่ยง”
ในเดือนกันยายน NewsGuard ซึ่งเป็นระบบที่ให้คะแนนคุณภาพและความน่าเชื่อถือของเว็บไซต์ข่าว ได้ค้นพบเครือข่ายบัญชี TikTok ที่แอบอ้างเป็นเว็บไซต์ข่าวที่ถูกกฎหมาย โดยใช้เนื้อหาที่สร้างโดย AI เพื่อเผยแพร่ทฤษฎีสมคบคิดและข้อมูลทางการเมืองที่ผิดพลาด การบันทึกเสียงของ Deepfake รวมถึงเสียงของอดีตประธานาธิบดีสหรัฐฯ บารัค โอบามา มีผู้เข้าชมหลายร้อยล้านครั้ง
เสียงพากย์ปลอมเหล่านี้ดูเหมือนว่าจะสร้างขึ้นโดยเครื่องมือที่จัดทำโดย ElevenLabs ที่ได้รับการสนับสนุนจาก Andreessen Horowitz ในขณะที่คลิปเหล่านี้มีผู้เข้าชมหลายร้อยล้านครั้ง NewsGuard กล่าว
“ผู้ใช้บนแพลตฟอร์มของเรามากกว่า 99% กำลังสร้างเนื้อหาที่น่าสนใจ สร้างสรรค์ และเป็นประโยชน์ แต่เราตระหนักว่ายังมีบางกรณีของการใช้งานในทางที่ผิด และเราได้พัฒนาและนำมาตรการป้องกันมาใช้เพื่อจำกัดการใช้งานดังกล่าวอย่างต่อเนื่อง” ElevenLabs กล่าว
ElevenLabs ก่อตั้งขึ้นเมื่อสองปีก่อนโดย Piotr Dabkowski และ Mati Staniszewski อดีตพนักงานของ Google และ Palantir โดยนำเสนอเครื่องมือสร้างเสียง AI ขั้นพื้นฐานให้ใช้งานฟรีเพียงแค่คลิกเดียว แผนการสมัครสมาชิกมีราคาตั้งแต่ 1 ดอลลาร์ต่อเดือนไปจนถึง 330 ดอลลาร์ต่อเดือนและสูงกว่านั้นสำหรับผู้ที่ต้องการบริการที่ซับซ้อนกว่านี้
เมื่อปีที่แล้ว หน่วยข่าวกรองของสหรัฐฯ ได้ออกมาเตือนในรายงานว่า “การหลอกลวงโดยใช้ AI แบบเฉพาะบุคคลได้เพิ่มขึ้นอย่างมีนัยสำคัญ เนื่องมาจากมีการเผยแพร่โมเดลการโคลนเสียงด้วย AI ที่ซับซ้อนและผ่านการฝึกฝนมาเป็นอย่างดี”
นอกจากการหลอกลวงเพื่อหวังผลกำไรแล้ว ผู้เชี่ยวชาญทางการเมืองยังส่งสัญญาณเตือนภัยเกี่ยวกับคลิปเสียง Deepfake ที่เป็นกระแสไวรัล รวมถึงการใช้ Deepfake ในการโทรโฆษณาหรือแคมเปญต่างๆ “คุณสามารถสร้างแคมเปญข่าวปลอมที่ทรงพลังและแพร่หลายได้โดยกำหนดเป้าหมายไปที่โทรศัพท์” AJ Nash รองประธานและผู้เชี่ยวชาญด้านข่าวกรองของกลุ่มรักษาความปลอดภัยทางไซเบอร์ ZeroFox กล่าว
บริษัทเหล่านี้บางแห่งได้ดำเนินการเชิงรุกในการค้นหาวิธีอื่นๆ เพื่อต่อสู้กับข้อมูลที่ผิดพลาด Microsoft ได้ออกแถลงการณ์เกี่ยวกับจริยธรรมโดยเรียกร้องให้ผู้ใช้รายงานการใช้งานเครื่องมือเสียง AI ในทางที่ผิด ElevenLabs ได้สร้างเครื่องมือตรวจจับของตนเองเพื่อระบุการบันทึกเสียงที่สร้างขึ้นโดยระบบของตน
ในระหว่างการเลือกตั้งไนจีเรียปี 2023 คลิปที่ถูกปรับแต่งโดย AI กลายเป็นกระแสไวรัลในโซเชียลมีเดีย "โดยอ้างว่าผู้สมัครฝ่ายค้านกำลังวางแผนที่จะทุจริตการเลือกตั้ง" ตามที่กลุ่ม สิทธิมนุษยชน Freedom House เปิดเผย
ในประเทศสโลวาเกีย การบันทึกเสียงปลอมของผู้สมัครฝ่ายค้าน Michal Šimečka ซึ่งดูเหมือนจะวางแผนทุจริตการเลือกตั้ง กลายเป็นกระแสไวรัลเพียงไม่กี่วันก่อนการเลือกตั้งประธานาธิบดีของประเทศในเดือนกันยายน
Robert Weissman ประธานกลุ่ม Public Citizen ซึ่งเป็นองค์กรไม่แสวงหากำไรที่สนับสนุนผู้บริโภค กล่าวว่า “Deepfake ในรัฐนิวแฮมป์เชียร์เป็นตัวเตือนใจถึงวิธีการต่างๆ มากมายที่ Deepfake สามารถสร้างความสับสนและหลอกลวงได้ ช่วงเวลาของ Deepfake ทางการเมืองได้มาถึงแล้ว ผู้กำหนดนโยบายต้องดำเนินการอย่างรวดเร็วเพื่อกำหนดมาตรการป้องกัน มิฉะนั้น เราจะเผชิญกับความโกลาหลในการเลือกตั้ง”
มาย อันห์ (ตามรายงานของ FT)
แหล่งที่มา
การแสดงความคิดเห็น (0)