เอฟบีไอระบุว่า AI ถูกใช้เพื่อ 'การกรรโชกทรัพย์' และคุกคาม

ในคำเตือนที่เผยแพร่เมื่อสัปดาห์นี้ FBI ระบุว่าเมื่อเร็วๆ นี้พบว่ามีเหยื่อแบล็กเมล์เพิ่มมากขึ้น โดยเหยื่อเหล่านี้อ้างว่าตนเองตกเป็นเป้าหมายของ AI ในการแก้ไขรูปภาพธรรมดาจากโพสต์ออนไลน์ ข้อความส่วนตัว หรือ วิดีโอ แชท ให้กลายเป็นภาพปลอม

เอฟบีไอเผยใครถูกใช้เพื่อรวบรวมและปั่นเงิน ภาพที่ 1 — ตำรวจสเปนเคยจับกุมโปรแกรมเมอร์ที่ใช้ AI สร้างภาพลามกอนาจารเด็กปลอม ภาพ: เดลีเมล์

“จากนั้นผู้ไม่ประสงค์ดีจะส่งภาพเหล่านี้ไปยังเหยื่อโดยตรงเพื่อแบล็กเมล์หรือคุกคามทางเพศ เมื่อเผยแพร่ออกไปแล้ว เหยื่ออาจเผชิญกับความท้าทายอย่างมากในการป้องกันไม่ให้มีการแบ่งปันเนื้อหาที่ถูกดัดแปลงเหล่านี้ต่อไป รวมถึงการลบเนื้อหาดังกล่าวออกจากอินเทอร์เน็ต” คำเตือนระบุ

สำนักงานฯ กล่าวว่าภาพดังกล่าวดู "เหมือนจริง" พร้อมทั้งระบุว่าในบางกรณียังมีเด็กๆ ตกเป็นเป้าหมายด้วย

ในเดือนกุมภาพันธ์ ตำรวจในสเปนได้จับกุมโปรแกรมเมอร์คอมพิวเตอร์ซึ่งใช้ AI สร้างภาพการล่วงละเมิดเด็กที่น่าสยดสยอง ซึ่งเชื่อว่าจะถือเป็นการจับกุมครั้งแรกๆ ในลักษณะนี้

FBI ไม่ได้ให้รายละเอียดเกี่ยวกับโปรแกรม AI ที่ใช้สร้างภาพทางเพศ แต่ระบุว่าความก้าวหน้าทางเทคโนโลยีกำลัง "ปรับปรุงคุณภาพ การปรับแต่ง และการเข้าถึงการสร้างเนื้อหาที่ขับเคลื่อนด้วย AI อย่างต่อเนื่อง"

การแก้ไขภาพปกติเพื่อสร้างภาพอีโรติกนั้นมีมานานเกือบเท่ากับการถ่ายภาพ แต่การขยายตัวของเครื่องมือ AI โอเพ่นซอร์สในปัจจุบันทำให้กระบวนการนี้ง่ายกว่าที่เคย

รูปถ่ายหรือวิดีโอปลอมมักจะแยกแยะไม่ออกจากเวอร์ชันในชีวิตจริง และเว็บไซต์และเครือข่ายโซเชียลหลายแห่งที่อุทิศให้กับการสร้างและแลกเปลี่ยนภาพทางเพศที่ขับเคลื่อนด้วย AI ก็ได้ถือกำเนิดขึ้นในช่วงไม่กี่ปีที่ผ่านมา

นี่ถือเป็นความเสี่ยงประการหนึ่งจากหลายปัจจัยที่ปัญญาประดิษฐ์อาจก่อให้เกิดต่อสังคม ดังที่ผู้เชี่ยวชาญได้แสดงความกังวลและเตือนไว้เมื่อเร็วๆ นี้

Hoang Anh (ตามเดลี่เมล์, รอยเตอร์)

แหล่งที่มา