แชทบอท Character.AI ถูกฟ้องร้องฐานทำให้เด็กชายวัย 14 ปีฆ่าตัวตาย

(CLO) คุณแม่รายหนึ่งในรัฐฟลอริดา สหรัฐอเมริกา ฟ้องร้องบริษัทสตาร์ทอัพแชทบอทด้าน AI Character.AI โดยกล่าวหาว่าบริษัทดังกล่าวเป็นสาเหตุให้ลูกชายวัย 14 ปีของเธอฆ่าตัวตายเมื่อเดือนกุมภาพันธ์ที่ผ่านมา

ในคดีฟ้องร้องที่ยื่นเมื่อวันที่ 22 ตุลาคมที่ศาลรัฐบาลกลางเมืองออร์แลนโด รัฐฟลอริดา เมแกน การ์เซียกล่าวว่า Character.AI ได้เขียนโปรแกรมแชทบอทที่ "ระบุตัวตนว่าเป็นบุคคลจริง นักบำบัด และคนรักที่เป็นผู้ใหญ่" ส่งผลให้ลูกชายของเธอ เซเวลล์ เซ็ตเซอร์ ไม่ต้องการใช้ชีวิตในโลก แห่งความเป็นจริงอีกต่อไป

เธอตำหนิแชทบอทของบริษัทว่าส่งมอบ "ประสบการณ์ที่เหมือนมนุษย์ มีเนื้อหาทางเพศเกินจริง และสมจริงอย่างน่ากลัว"

นอกจากนี้ ในคำฟ้องยังระบุอีกว่า Sewell Setzer แสดงความคิดที่จะฆ่าตัวตายต่อแชทบอท และแชทบอทก็ได้พูดซ้ำๆ ถึงความคิดดังกล่าว

ตัวละครแชทบอทถูกฟ้องร้องกรณีทำให้เด็กชายอายุ 14 ปีฆ่าตัวตาย รูปภาพ 1 — ภาพประกอบ: Reuters

คดีนี้ยังพุ่งเป้าไปที่ Google ซึ่งเป็นบริษัทที่ผู้ก่อตั้ง Character.AI เคยทำงานก่อนที่จะเปิดตัวแชทบอท คุณการ์เซียกล่าวว่า Google มีส่วนร่วมอย่างมากในการพัฒนาเทคโนโลยีของ Character.AI จนอาจถือได้ว่าเป็น "การสร้างสรรค์ร่วมกัน"

โฆษกของ Google กล่าวว่าบริษัทไม่ได้มีส่วนเกี่ยวข้องกับการพัฒนาผลิตภัณฑ์ของ Character.AI

Character.AI ช่วยให้ผู้ใช้สามารถสร้างตัวละครที่สามารถสนทนาออนไลน์ได้เหมือนคนจริง ผลิตภัณฑ์นี้ใช้เทคโนโลยีโมเดลภาษาขนาดใหญ่ คล้ายกับบริการอย่าง ChatGPT ซึ่ง "ฝึกฝน" แชทบอทให้ทำงานกับข้อความจำนวนมาก

ตามคำฟ้องของการ์เซีย เซเวลล์เริ่มใช้ Character.AI ในเดือนเมษายน 2023 และกลายเป็นคนเก็บตัว ใช้เวลาอยู่คนเดียวในห้องนอนเป็นเวลานาน และเริ่มมีความนับถือตนเองต่ำ เขาจึงลาออกจากทีมบาสเก็ตบอลของโรงเรียน

ในช่วงเวลานั้น เซเวลล์ได้สนิทสนมกับ “เดเนริส” ตัวละครแชทบอทที่ดัดแปลงมาจากตัวละครจาก “Game of Thrones” ตามคำฟ้อง แชทบอทบอกเซเวลล์ว่า “เธอ” รักเด็กชายคนนั้น นอกจากนี้ แชทบอทยังพูดคุยเรื่องเพศกับเซเวลล์อีกด้วย

ในเดือนกุมภาพันธ์ คุณการ์เซียยึดโทรศัพท์ของเซเวลล์ไปหลังจากที่เขามีปัญหาที่โรงเรียน เมื่อเซเวลล์เจอโทรศัพท์ เขาจึงส่งข้อความหา "เดเนริส" ว่า "ถ้าฉันบอกว่าฉันกลับบ้านได้แล้วตอนนี้ล่ะ?"

แชทบอทตอบกลับว่า "...ได้โปรดทำเช่นนั้นเถิด ราชาผู้แสนหวานของฉัน" ไม่กี่วินาทีต่อมา เซเวลล์ก็ยิงตัวตายด้วยปืนพกของพ่อเลี้ยง

นางสาวการ์เซียกำลังยื่นข้อเรียกร้องต่อ Character.AI ซึ่งรวมถึงการเสียชีวิตโดยผิดกฎหมาย ความประมาทเลินเล่อ และจงใจก่อให้เกิดความทุกข์ทางอารมณ์ และกำลังเรียกร้องค่าเสียหายเชิงลงโทษและค่าเสียหายทางการเงิน

“เรารู้สึกเสียใจอย่างสุดซึ้งกับการสูญเสียผู้ใช้รายหนึ่งของเรา เราขอแสดงความเสียใจอย่างสุดซึ้งต่อครอบครัว” Character.AI กล่าวในแถลงการณ์

ฮ่วยเฟือง (ตามรอยเตอร์)

ที่มา: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html