เครื่องมือ AI แปลงคำพูดเป็นข้อความของ OpenAI ถูกจับได้ว่ากำลังสร้างเรื่องราว

OpenAI ซึ่งเป็นบริษัทยักษ์ใหญ่ด้านเทคโนโลยี ได้ยกย่องเครื่องมือแปลงคำพูดเป็นข้อความอย่าง Whisper ว่าเป็น AI ที่มี “ความแม่นยำและความแข็งแกร่งเทียบเท่ามนุษย์” แต่ Whisper มีข้อบกพร่องสำคัญประการหนึ่ง นั่นคือ มันสร้างข้อความและประโยคปลอมขึ้นมาได้

ข้อความบางส่วนที่สร้างโดย AI เรียกว่า “ภาพหลอน” ซึ่งอาจรวมถึงความคิดเห็นเกี่ยวกับเชื้อชาติ ภาษาที่รุนแรง และแม้แต่การรักษา ทางการแพทย์ ในจินตนาการ — ภาพ: AP

ข้อความบางส่วนที่สร้างโดย AI นั้นไม่จริง เรียกว่า “ภาพหลอน” ตามที่ AP รายงาน และมีการวิพากษ์วิจารณ์ทางเชื้อชาติ ภาษาที่รุนแรง และแม้แต่การรักษาทางการแพทย์ในจินตนาการ

อัตราการเกิด “ภาพลวงตา” สูงในข้อความที่สร้างโดย AI

ผู้เชี่ยวชาญมีความกังวลเป็นพิเศษ เนื่องจาก Whisper ถูกใช้กันอย่างแพร่หลายในหลายอุตสาหกรรมทั่วโลก ในการแปลและถอดเสียงบทสัมภาษณ์ สร้างข้อความในเทคโนโลยีสำหรับผู้บริโภคยอดนิยม และสร้างคำบรรยายสำหรับวิดีโอ

ที่น่ากังวลกว่านั้นคือศูนย์การแพทย์หลายแห่งกำลังใช้ Whisper ในการถ่ายโอนการให้คำปรึกษาระหว่างแพทย์และคนไข้ แม้ว่า OpenAI จะได้เตือนว่าไม่ควรใช้เครื่องมือนี้ในพื้นที่ที่มี "ความเสี่ยงสูง" ก็ตาม

ขอบเขตทั้งหมดของปัญหานี้เป็นเรื่องยากที่จะระบุได้ แต่ผู้วิจัยและวิศวกรกล่าวว่าพวกเขาประสบกับ "ภาพหลอน" ของ Whisper ในการทำงานของตนเป็นประจำ

นักวิจัยจากมหาวิทยาลัยมิชิแกนกล่าวว่าเขาพบ "ภาพหลอน" ใน 8 ใน 10 ของไฟล์เสียงที่เขาตรวจสอบ วิศวกรคอมพิวเตอร์พบ "ภาพหลอน" ในประมาณครึ่งหนึ่งของไฟล์เสียงที่ถอดความจากกว่า 100 ชั่วโมงที่เขาวิเคราะห์ นักพัฒนาอีกรายหนึ่งกล่าวว่าเขาพบ "ภาพหลอน" ในไฟล์เสียงเกือบทั้งหมด 26,000 ไฟล์ที่เขาสร้างโดยใช้โปรแกรม Whisper

ปัญหายังคงมีอยู่แม้จะบันทึกเสียงตัวอย่างสั้นๆ อย่างชัดเจนก็ตาม จากการศึกษาล่าสุดโดย นักวิทยาศาสตร์ คอมพิวเตอร์พบ "ภาพลวงตา" 187 แบบในคลิปเสียงที่ชัดเจนกว่า 13,000 คลิปที่พวกเขาตรวจสอบ นักวิจัยกล่าวว่าแนวโน้มดังกล่าวจะนำไปสู่การถอดเสียงเท็จหลายหมื่นครั้งในไฟล์บันทึกเสียงหลายล้านไฟล์

ข้อผิดพลาดดังกล่าวอาจก่อให้เกิด “ผลกระทบร้ายแรงมาก” โดยเฉพาะอย่างยิ่งในโรงพยาบาล ตามที่ Alondra Nelson หัวหน้าสำนักงานวิทยาศาสตร์และเทคโนโลยีทำเนียบขาวในรัฐบาลของนายไบเดนจนถึงปีที่แล้วกล่าว

“ไม่มีใครอยากได้รับการวินิจฉัยผิด” เนลสัน ซึ่งปัจจุบันเป็นศาสตราจารย์ที่สถาบันการศึกษาระดับสูงในพรินซ์ตัน รัฐนิวเจอร์ซี กล่าว “จำเป็นต้องมีมาตรฐานที่สูงขึ้น”

นอกจากนี้ Whisper ยังใช้เพื่อสร้างคำบรรยายสำหรับผู้พิการทางการได้ยินและผู้ที่มีปัญหาทางการได้ยิน ซึ่งเป็นกลุ่มคนที่มีความเสี่ยงสูงต่อการแปลผิด เนื่องจากผู้พิการทางการได้ยินและผู้ที่มีปัญหาทางการได้ยินไม่มีทางระบุข้อความที่แต่งขึ้น “ซึ่งซ่อนอยู่ในข้อความอื่นๆ ทั้งหมด” คริสเตียน โวกเลอร์ ซึ่งเป็นผู้พิการทางการได้ยินและผู้อำนวยการโครงการ Technology Accessibility Program ที่มหาวิทยาลัย Gallaudet กล่าว

OpenAI ถูกเรียกตัวมาเพื่อแก้ไขปัญหา

การแพร่หลายของ "ภาพหลอน" ดังกล่าวทำให้ผู้เชี่ยวชาญ ผู้สนับสนุน และอดีตพนักงานของ OpenAI เรียกร้องให้รัฐบาลกลางพิจารณากฎระเบียบด้าน AI อย่างน้อยที่สุด OpenAI จำเป็นต้องแก้ไขข้อบกพร่องนี้

William Saunders วิศวกรวิจัยในซานฟรานซิสโก ซึ่งลาออกจาก OpenAI เมื่อเดือนกุมภาพันธ์เนื่องจากกังวลเกี่ยวกับทิศทางของบริษัท กล่าวว่า "ปัญหาเหล่านี้สามารถแก้ไขได้ หากบริษัทเต็มใจที่จะให้ความสำคัญเป็นอันดับแรก"

“มันจะเป็นปัญหาหากคุณเผยแพร่ออกไปและผู้คนมั่นใจมากเกี่ยวกับสิ่งที่มันทำได้จนนำมันไปรวมเข้ากับระบบอื่นๆ ทั้งหมด” โฆษกของ OpenAI กล่าว บริษัทกำลังพยายามหาทางลด "ภาพลวงตา" เหล่านี้และให้ความสำคัญกับการค้นพบของนักวิจัยอย่างต่อเนื่อง โดยเสริมว่า OpenAI นำข้อเสนอแนะมาใช้ในการอัพเดตโมเดล

ในขณะที่นักพัฒนาส่วนใหญ่มักจะคิดว่าเครื่องมือแปลงข้อความเป็นเสียงสามารถพิมพ์ผิดหรือผิดพลาดอื่นๆ ได้ แต่วิศวกรและนักวิจัยกล่าวว่าพวกเขาไม่เคยเห็นเครื่องมือแปลงข้อความเป็นเสียงที่ขับเคลื่อนด้วย AI ที่ "ทำให้เกิดภาพหลอน" ได้มากเท่ากับ Whisper เลย

ที่มา: https://tuoitre.vn/cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen-20241031144507089.htm