ภาพ AI ปลอมทำงานอย่างไร?
ทุกวันนี้ AI มีอยู่ทุกหนทุกแห่ง แม้แต่ในยามสงคราม แอปพลิเคชันปัญญาประดิษฐ์ได้รับการพัฒนาอย่างมากในปีนี้ จนแทบทุกคนสามารถใช้เครื่องสร้าง AI เพื่อสร้างภาพที่ดูสมจริงได้ อย่างน้อยก็ในแวบแรก
ภาพปลอมที่สร้างโดย AI ของสงครามในฉนวนกาซา
ผู้ใช้เพียงแค่ให้เครื่องมืออย่าง Midjourney หรือ Dall-E ป้อนคำแนะนำบางอย่าง รวมถึงข้อมูลจำเพาะและข้อมูลต่างๆ เพื่อดำเนินการนี้ จากนั้นเครื่องมือ AI จะแปลงข้อความหรือแม้แต่เสียงเป็นรูปภาพ
กระบวนการสร้างภาพนี้อาศัยสิ่งที่เรียกว่าการเรียนรู้ของเครื่อง ตัวอย่างเช่น หากผู้สร้างขอให้แสดงภาพชายวัย 70 ปีกำลังขี่จักรยาน พวกเขาจะค้นหาฐานข้อมูลเพื่อจับคู่คำกับรูปภาพ
จากข้อมูลที่มีอยู่ อัลกอริทึม AI จะสร้างภาพของนักปั่นจักรยานสูงอายุ ด้วยข้อมูลอินพุตและการอัปเดตทางเทคนิคที่เพิ่มมากขึ้น เครื่องมือเหล่านี้จึงได้รับการปรับปรุงอย่างมีนัยสำคัญและกำลังเรียนรู้อย่างต่อเนื่อง
ทั้งหมดนี้กำลังถูกนำไปใช้กับภาพที่เกี่ยวข้องกับความขัดแย้งในตะวันออกกลาง ในความขัดแย้งที่ “เต็มไปด้วยอารมณ์ความรู้สึก” ข้อมูลที่ผิดพลาด รวมถึงการแพร่กระจายผ่านภาพ AI จะส่งผลกระทบอย่างใหญ่หลวง ฮานี ฟาริด ผู้เชี่ยวชาญด้าน AI กล่าว
ฟาริด ศาสตราจารย์ด้านการวิเคราะห์ดิจิทัลจากมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ กล่าวว่าการต่อสู้ที่ดุเดือดถือเป็นแหล่งเพาะพันธุ์ที่สมบูรณ์แบบสำหรับการสร้างและเผยแพร่เนื้อหาปลอม ตลอดจนการกระตุ้นอารมณ์
ภาพ AI ของสงครามอิสราเอล-ฮามาส
รูปภาพและ วิดีโอ ที่สร้างขึ้นด้วยความช่วยเหลือของปัญญาประดิษฐ์ได้กระตุ้นให้เกิดการแพร่ข้อมูลเท็จที่เกี่ยวข้องกับสงครามในยูเครน และเหตุการณ์นี้ยังคงเกิดขึ้นอย่างต่อเนื่องในสงครามระหว่างอิสราเอลและฮามาส
ผู้เชี่ยวชาญระบุว่า ภาพ AI ที่เผยแพร่บนโซเชียลมีเดียเกี่ยวกับสงครามมักแบ่งออกเป็นสองประเภท ประเภทแรกเน้นความทุกข์ทรมานของมนุษย์และกระตุ้นความเห็นอกเห็นใจ อีกประเภทหนึ่งคือ AI ปลอมที่เน้นเหตุการณ์เกินจริง ก่อให้เกิดความขัดแย้งและความรุนแรงที่ทวีความรุนแรงขึ้น
ภาพปลอมที่สร้างโดย AI ของพ่อและลูกในซากปรักหักพังในฉนวนกาซา
ตัวอย่างเช่น หมวดหมู่แรกประกอบด้วยภาพด้านบนซึ่งเป็นภาพพ่อและลูกห้าคนยืนอยู่หน้ากองซากปรักหักพัง ภาพนี้ถูกแชร์หลายครั้งบน X (เดิมคือ Twitter) และ Instagram และมีผู้เข้าชมหลายแสนครั้ง
รูปภาพนี้ถูกตั้งค่าสถานะโดยชุมชน อย่างน้อยก็บน X ว่าเป็นของปลอม สามารถระบุได้จากข้อผิดพลาดและความไม่สอดคล้องต่างๆ ที่พบได้บ่อยในรูปภาพ AI (ดูภาพด้านบน)
ความผิดปกติที่คล้ายกันยังสามารถเห็นได้ในภาพ AI ปลอมที่แพร่ระบาดทางช่อง X ด้านล่าง ซึ่งอ้างว่าเป็นภาพครอบครัวชาวปาเลสไตน์กำลังรับประทานอาหารร่วมกันบนซากปรักหักพัง
ภาพปลอมของพรรคปาเลสไตน์ที่สร้างโดย AI
ในขณะเดียวกัน รูปภาพอีกภาพที่แสดงให้เห็นกองทหารโบกธงอิสราเอลขณะเดินผ่านนิคมที่เต็มไปด้วยบ้านเรือนที่ถูกระเบิดจัดอยู่ในประเภทที่สอง ซึ่งออกแบบมาเพื่อปลุกปั่นความเกลียดชังและความรุนแรง
ภาพ AI เหล่านี้มาจากไหน?
ภาพความขัดแย้งที่สร้างโดย AI ส่วนใหญ่มักถูกโพสต์บนแพลตฟอร์มโซเชียลมีเดีย แต่ยังเผยแพร่บนแพลตฟอร์มและองค์กรอื่นๆ อีกหลายแห่ง รวมถึงบางไซต์ข่าวด้วย
บริษัทซอฟต์แวร์ Adobe สร้างความฮือฮาด้วยการเพิ่มรูปภาพที่สร้างด้วย AI ลงในกลุ่มภาพสต็อกภายในสิ้นปี 2022 โดยรูปภาพเหล่านี้จะได้รับการติดป้ายกำกับในฐานข้อมูลตามนั้น
ปัจจุบัน Adobe ยังเสนอขายภาพ AI ของสงครามตะวันออกกลางอีกด้วย เช่น ภาพระเบิด ภาพผู้คนประท้วง หรือภาพกลุ่มควันด้านหลังมัสยิดอัลอักซอ
Adobe นำเสนอภาพการสู้รบในฉนวนกาซาที่สร้างโดย AI
นักวิจารณ์มองว่าเรื่องนี้น่ากังวล เนื่องจากบางเว็บไซต์ยังคงใช้รูปภาพเหล่านี้ต่อไปโดยไม่ระบุว่าเป็นรูปภาพที่สร้างโดย AI ยกตัวอย่างเช่น รูปภาพที่ปรากฏบนหน้า "Newsbreak" โดยไม่มีข้อบ่งชี้ใดๆ ว่ารูปภาพนั้นสร้างขึ้นโดยใช้ AI
แม้แต่ European Parliamentary Research Service ซึ่งเป็นหน่วยงาน ด้านวิทยาศาสตร์ ของรัฐสภายุโรป ยังได้แสดงภาพประกอบเอกสารออนไลน์เกี่ยวกับความขัดแย้งในตะวันออกกลางโดยใช้ภาพ AI จากฐานข้อมูลของ Adobe โดยไม่ได้ระบุว่าเป็นภาพที่สร้างโดย AI
European Digital Media Observatory เรียกร้องให้นักข่าวและผู้เชี่ยวชาญด้านสื่อระมัดระวังอย่างยิ่งในการใช้ภาพ AI และแนะนำให้หลีกเลี่ยงการใช้ โดยเฉพาะอย่างยิ่งเมื่อรายงานเหตุการณ์จริง เช่น สงครามในฉนวนกาซา
ภาพ AI อันตรายขนาดไหน?
เนื้อหาและภาพไวรัลของ AI ย่อมทำให้ผู้ใช้รู้สึกไม่สบายใจกับทุกสิ่งที่พบเจอทางออนไลน์ “ถ้าเราเข้าสู่โลกที่ภาพ เสียง และวิดีโอ สามารถถูกบิดเบือนได้ ทุกสิ่งก็จะกลายเป็นสิ่งที่น่าสงสัย” ฟาริด นักวิจัยจากมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ อธิบาย “ดังนั้น คุณจะสูญเสียความเชื่อมั่นในทุกสิ่ง รวมถึงความจริงด้วย”
นั่นคือสิ่งที่เกิดขึ้นในกรณีต่อไปนี้: ภาพของสิ่งที่กล่าวกันว่าเป็นศพที่ถูกเผาของทารกชาวอิสราเอล ถูกแชร์บนโซเชียลมีเดียโดยนายกรัฐมนตรีอิสราเอล เบนจามิน เนทันยาฮู และนักการเมืองอีกหลายคน
แจ็กสัน ฮิงเคิล ผู้มีอิทธิพลต่อต้านอิสราเอล ต่อมาอ้างว่าภาพดังกล่าวถูกสร้างขึ้นโดยใช้ปัญญาประดิษฐ์ คำกล่าวอ้างของฮิงเคิลมีผู้เข้าชมมากกว่า 20 ล้านครั้งบนโซเชียลมีเดีย และนำไปสู่การอภิปรายอย่างดุเดือดบนแพลตฟอร์ม
ในที่สุด องค์กรและเครื่องมือตรวจสอบหลายแห่งก็ประกาศว่าภาพดังกล่าวเป็นของจริง และคำกล่าวอ้างของฮิงเคิลเป็นเท็จ อย่างไรก็ตาม เห็นได้ชัดว่าไม่มีเครื่องมือใดที่สามารถช่วยให้ผู้ใช้ฟื้นคืนความไว้วางใจที่สูญเสียไปได้อย่างง่ายดาย!
ฮวงไห่ (ตาม DW)
แหล่งที่มา
การแสดงความคิดเห็น (0)