Deepfakes กำลังระบาด - ไม่มีใครปลอดภัยจากกลอุบายเลียนแบบ AI

การเลียนแบบเสียง การเลียนแบบใบหน้า การลิปซิงค์... ปัจจุบัน AI ไม่ได้มีไว้สำหรับการทำงานและความบันเทิงเท่านั้น แต่ยังกลายเป็นเครื่องมือฉ้อโกงทางการค้าที่อันตราย ภาพของคนดัง แพทย์ และแม้แต่พระสงฆ์ กำลังถูก AI ปลอมแปลงเพื่อขายสินค้าบนโซเชียลมีเดียต่างๆ คนจริงๆ ไม่รู้ และผู้ซื้อก็สูญเสียความไว้วางใจ

การเป็น “คนยืมหน้า” มาขายสินค้า

ไม่ว่าอาการเดิมของหัวเข่าจะเป็นเช่นไร เพียงแค่ใช้วิธีการของเรา เรารับประกันว่าภายใน 7 วันจะดีขึ้นอย่างเห็นได้ชัด หากไม่ได้ผลเลย ฉันยินดีชดเชย 1 พันล้านดองเพื่อเป็นการขอโทษอย่างจริงใจ หากคุณไม่เห็นผลจริงๆ เรายินดีคืนเงิน 100% และตัวฉันเองก็ยินดีชดเชย 1 พันล้านดอง ไม่ใช่ทุกคนที่กล้าทำแบบนั้น” นั่นคือการแชร์โฆษณาครีมนวดบรรเทาอาการปวดข้อของนักร้องสาวชื่อดัง แต่สิ่งที่ควรค่าแก่การกล่าวถึงคือโฆษณานี้สร้างขึ้นโดย AI ทั้งหมด

คลิปโฆษณาข้างต้นนี้ใช้โดยบัญชี TikTok ชื่อ LShop โดยใช้ภาพ เสียง และภาษากายของนักร้องอย่างสมจริง ซึ่งไม่สามารถตรวจจับได้หากไม่ได้สังเกตอย่างละเอียด บัญชีนี้มีผู้ติดตามเกือบ 9,000 คน ยอดไลก์ 67,000 ครั้ง และแต่ละคลิปมียอดวิวหลายพันครั้ง แค่ วิดีโอ "โฆษณา" ที่ใช้ภาพของนักร้องก็มีคนกดไลก์มากกว่า 1,000 ครั้ง และมียอดคอมเมนต์ให้ซื้อเกือบ 100 รายการแล้ว

ด้วยผลิตภัณฑ์ครีมนวดแบบเดียวกันนี้ ช่องทางจำหน่ายยัง “ผลิต” เวอร์ชันดีปเฟกอีกเวอร์ชันหนึ่ง ซึ่งคราวนี้เป็นแพทย์ ในคลิป ตัวละครได้ให้คำมั่นสัญญาอย่างหนักแน่นว่า “ผมคือแพทย์กระดูกและข้อที่มีชื่อเสียงที่สุด ในฮานอย และผมรับประกันว่าแม้แต่การฉีกขาดของหมอนรองกระดูกที่ร้ายแรงที่สุดก็สามารถรักษาให้หายขาดได้ภายใน 3 วัน เจลนี้ได้รับการรับรองจากสมาคมศัลยกรรมกระดูกและข้อที่มีชื่อเสียงที่สุดในเวียดนาม” ข้อความนี้ถูกสร้างใหม่โดย AI สำหรับ “แพทย์” คนอื่นๆ หลายคน ทำให้ผู้ชมเข้าใจผิดได้ง่าย

คลิปดังกล่าวมีผู้กดไลก์เกือบ 4,000 คนและคอมเมนต์มากกว่า 120 รายการ แต่เมื่อเราส่งข้อความไปเพื่อลองซื้อ บัญชีนั้นกลับไม่ตอบกลับหรือโต้ตอบกับผู้ชมในช่องคอมเมนต์ พวกเขาเพียงแค่ทิ้งสินค้าไว้ในตะกร้าเพื่อซื้อโดยตรงเท่านั้น ที่น่าสังเกตคือ สินค้าที่ขายอยู่นั้นมาจากจีนและข้อมูลสินค้าก็คลุมเครือมาก

ตั้งแต่นักร้อง ดารา ไปจนถึงแพทย์ ล้วนถูกปลอมแปลงตัวตนผ่านช่องทางการขายที่สร้างคลิป AI เพื่อขายผลิตภัณฑ์ที่เกี่ยวข้องกับสุขภาพ

ไม่เพียงเท่านั้น กลลวงดีปเฟกยังแพร่กระจายไปสู่เรื่องจิตวิญญาณอีกด้วย บัญชี TikTok ชื่อ Phat Phap NM ไม่เพียงแต่โพสต์ซ้ำคำบรรยายของอาจารย์ TPH เท่านั้น แต่ยังใช้เทคโนโลยี AI สร้างภาพ “อาจารย์” ที่ขายผลิตภัณฑ์ต่างๆ เช่น ใบโพธิ์และสร้อยข้อมือกฤษณาอีกด้วย

เมื่อผู้ชมแสดงความคิดเห็นขอซื้อ ทางช่องก็ตอบกลับมาว่า "ถ้าไม่เป็นไปตามแผน ให้ไปที่ส่วนแสดงสินค้าในบัญชีของฉัน แล้วเลือกสินค้าที่ต้องการ อย่าตระหนี่กับเงินทอนเล็กๆ น้อยๆ และมองข้ามเงินทอนก้อนใหญ่" ทันทีหลังจากนั้น พระรูปนี้เองก็ต้องออกมาชี้แจงว่าเขาไม่เคยโฆษณาหรือมีส่วนเกี่ยวข้องกับสินค้าประเภทนี้มาก่อน

เส้นแบ่งระหว่างความคิดสร้างสรรค์และการละเมิดลิขสิทธิ์

ผู้เชี่ยวชาญด้านความมั่นคงปลอดภัยไซเบอร์ โง มินห์ เฮียว (Hieu PC) จากศูนย์เฝ้าระวังความมั่นคงปลอดภัยไซเบอร์แห่งชาติ (NCSC) กล่าวว่า คลิปโฆษณาปลอมที่แพร่กระจายบนโซเชียลมีเดียส่วนใหญ่มักถูกสร้างขึ้นด้วยซอฟต์แวร์ Deepfake ซอฟต์แวร์นี้มีอยู่ทั่วไป และหลายบริการยังมีแพ็กเกจที่ใช้งานง่ายและต้นทุนต่ำอีกด้วย แม้ว่าจะมีการประยุกต์ใช้ในด้านการสร้างเนื้อหาดิจิทัลและการผลิตสื่อในเชิงบวก แต่นายเฮียวกล่าวว่าปัญหาอยู่ที่การที่บุคคลบางกลุ่มใช้ประโยชน์จากเทคโนโลยีนี้ในวัตถุประสงค์เชิงลบ เช่น การฉ้อโกง การปลอมแปลงข้อมูลประจำตัว การเผยแพร่ข่าวปลอม หรือการใส่ร้ายผู้อื่นผ่านวิดีโอที่ดูเหมือนจริง

นายฮิเออ ยังได้ให้สัญญาณบางอย่างเพื่อช่วยระบุคลิปวิดีโอที่เป็น Deepfake เช่น การแสดงออกทางสีหน้าในวิดีโอที่ค่อนข้างแข็งทื่อ รูปปากและการเคลื่อนไหวไม่ตรงกับบทสนทนา... นายฮิเออ เตือนว่ายังมีสถานการณ์ที่ร้ายแรงกว่านี้อีกมากที่ AI ถูกใช้เพื่อแทรกใบหน้าของเหยื่อเข้าไปในวิดีโอที่ละเอียดอ่อนเพื่อจุดประสงค์ในการข่มขู่ บังคับ และแสวงหากำไรเกินควร

ทนายความ Tran Duc Phuong จากสมาคมทนายความนครโฮจิมินห์ ระบุว่า การใช้ AI เพื่อสร้างภาพบุคคลที่มีชื่อเสียง (หรือบุคคลใดบุคคลหนึ่ง) โดยไม่ได้รับความยินยอม ถือเป็นการละเมิดสิทธิส่วนบุคคล โดยเฉพาะสิทธิในการสร้างภาพลักษณ์ ตามที่กำหนดไว้ในมาตรา 32 แห่งประมวลกฎหมายแพ่ง พ.ศ. 2558 กฎหมายกำหนดว่า “บุคคลมีสิทธิในการสร้างภาพลักษณ์ของตนเอง การใช้ภาพลักษณ์ของบุคคลใดบุคคลหนึ่งต้องได้รับความยินยอมจากบุคคลนั้น การใช้ภาพลักษณ์เพื่อวัตถุประสงค์เชิงพาณิชย์ต้องจ่ายค่าตอบแทนให้แก่เจ้าของภาพลักษณ์นั้น เว้นแต่คู่สัญญาจะมีข้อตกลงอื่น”

ดังนั้น หากเจ้าของบัญชีโซเชียลมีเดียนำภาพที่สร้างขึ้นใหม่โดย AI จากภาพถ่ายจริง วิดีโอเก่า ฯลฯ เพื่อการโฆษณาหรือการขายโดยไม่ได้รับอนุญาต ถือว่าได้ละเมิดกฎหมาย หากการใช้ภาพดังกล่าวฝ่าฝืนบทบัญญัติของมาตรานี้ ผู้ถือภาพมีสิทธิ์ยื่นคำร้องต่อศาลเพื่อขอให้มีคำพิพากษาบังคับให้ผู้ฝ่าฝืน หน่วยงาน องค์กร และบุคคลที่เกี่ยวข้อง เพิกถอน ทำลาย และยุติการใช้ภาพดังกล่าว พร้อมทั้งชดใช้ค่าเสียหาย และใช้มาตรการอื่นๆ ตามที่กฎหมายกำหนด

คัม เนือง

ที่มา: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html