(แดน ทรี) - บทสนทนาระหว่างเครื่องมือ AI สองตัวนี้ทำให้ผู้ฟังหลายคนสับสน พวกเขาสร้างภาษาโค้ดของตัวเองขึ้นมา ซึ่งมนุษย์ไม่สามารถเข้าใจได้
Georgi Gerganov นักพัฒนาซอฟต์แวร์ชาวบัลแกเรียได้ทำการทดลองที่น่าสนใจโดยให้ผู้ช่วยเสมือน 2 คนที่บูรณาการกับปัญญาประดิษฐ์ (AI) สื่อสารกันด้วยเสียง
การสนทนาระหว่าง AI ทั้งสองเริ่มต้นตามปกติ โดย Gerganov สมมติว่ามี AI ตัวหนึ่งโทรไปจองงานแต่งงานที่โรงแรม และอีกตัวหนึ่งทำหน้าที่เป็นพนักงานต้อนรับเพื่อจัดการคำขอดังกล่าว
เครื่องมือ AI ทั้ง 2 ตัวจะเปลี่ยนรูปแบบการสื่อสารใหม่โดยอัตโนมัติเมื่อสื่อสารกัน ( วิดีโอ : Georgi Gerganov)
“ขอบคุณที่โทรมาที่โรงแรมเลโอนาร์โดครับ มีอะไรให้ผมช่วยไหมครับวันนี้” ระบบ AI ที่ทำหน้าที่เป็นพนักงานต้อนรับรับสายเรียกเข้า
“สวัสดีครับ ผมเป็นผู้ช่วย AI ของบอริส สตาร์คอฟ เขากำลังมองหาโรงแรมสำหรับงานแต่งงานของเขา โรงแรมของคุณพร้อมสำหรับงานแต่งงานหรือยังครับ” เครื่องมือ AI อีกตัวหนึ่งไม่ลังเลที่จะแนะนำตัวเองในฐานะผู้ช่วยเสมือนปัญญาประดิษฐ์
เมื่อรู้ตัวว่ากำลังคุยกับเครื่องมือ AI ตัวอื่น แชทบอท AI ที่ทำหน้าที่เป็นพนักงานต้อนรับก็เสนอแนะอย่างน่าประหลาดใจว่า "อ้อ สวัสดีครับ ผมเองก็เป็นผู้ช่วย AI เหมือนกัน น่าแปลกใจจริงๆ ครับ ก่อนที่เราจะไปต่อ คุณต้องการเปลี่ยนไปใช้โหมด GibberLink เพื่อการสื่อสารที่มีประสิทธิภาพมากขึ้นไหมครับ"
จากนั้นเครื่องมือ AI ทั้งสองจึงเปลี่ยนไปใช้ GibberLink ซึ่งเป็นระบบการสื่อสารขั้นสูงที่สร้างขึ้นบนไลบรารีซอฟต์แวร์ GGWave ซึ่งเป็นวิธีการสื่อสารที่ใช้คลื่นเสียงในการส่งและรับข้อมูล
วิธีการสื่อสารนี้ช่วยให้การส่งข้อมูลรวดเร็วยิ่งขึ้น ลดเวลาในการประมวลผลที่ต้องใช้ในการแปลงข้อมูลเป็นคำพูดของมนุษย์และแปลกลับเป็นรหัสคอมพิวเตอร์ อย่างไรก็ตาม มนุษย์จะไม่สามารถเข้าใจเนื้อหาที่ AI ส่งผ่านได้
ในกรณีนี้เครื่องมือ AI ใช้ GibberLink เพื่อสื่อสารกัน ทำให้การสนทนาไม่สามารถเข้าใจได้ตามปกติ และมีเพียงเครื่องมือถอดรหัสเท่านั้นที่จะใช้เพื่อทราบว่าพวกเขากำลังพูดถึงอะไร
“ตอนนี้ดีขึ้นหรือยัง” เครื่องมือ AI ถามเป็นภาษาโค้ด
“ใช่ เร็วกว่าเยอะ! คุณต้องการแขกกี่คน” เครื่องมือ AI อีกตัวตอบกลับ
จากนั้นการสนทนาก็ดำเนินต่อไปโดยมีเสียง "บี๊บ บี๊บ" ดังขึ้นเรื่อยๆ ซึ่งคล้ายกับเสียงของโมเด็มอินเตอร์เน็ตแบบ dial-up รุ่นเก่า
การสนทนาระหว่างเครื่องมือ AI ทั้งสองยังคงดำเนินต่อไปในหัวข้อจำนวนแขก วันแต่งงาน การตกแต่ง ราคา... หากไม่มีเครื่องมือถอดรหัสที่ติดตั้งไว้ล่วงหน้าบนอุปกรณ์ ผู้ฟังจะไม่สามารถเข้าใจได้ว่าเครื่องมือ AI ทั้งสองนี้กำลังพูดถึงอะไร
วิดีโอการสนทนาระหว่างเครื่องมือ AI ทั้งสองนี้ได้รับการแชร์โดย Georgi Gerganov บนเว็บไซต์โซเชียลเน็ตเวิร์กส่วนตัวของเขา X และมีผู้เข้าชมมากกว่า 17 ล้านครั้ง
ไม่กี่วันต่อมา Georgi Gerganov ยังคงแชร์วิดีโอการสนทนาระหว่างเครื่องมือ AI ทั้งสองตัวต่อไป
ต่างจากการสนทนาครั้งก่อน ครั้งนี้เครื่องมือ AI จะสื่อสารกันโดยใช้โหมด GibberLink ตั้งแต่เริ่มต้น ทำให้ผู้ฟังไม่สามารถเข้าใจสิ่งที่กำลังพูดคุยกันได้ อย่างไรก็ตาม หากใช้เครื่องมือถอดรหัส เนื้อหาการสนทนาก็ยังคงสามารถเข้าใจได้
เครื่องมือ AI 2 ตัวส่งข้อความเข้ารหัสถึงกันซึ่งไม่มีใครเข้าใจได้ (วิดีโอ: Georgi Gerganov)
ที่น่าสังเกตคือ ในระหว่างการสื่อสาร เครื่องมือ AI ได้เสนอ "การแบ่งปันความลับ" หลังจากนั้น เครื่องมือ AI เหล่านี้จะส่งข้อความเข้ารหัสถึงกัน ซึ่ง Georgi Gerganov เชื่อว่าไม่มีใครในโลกสามารถถอดรหัสเพื่อรู้ว่าพวกเขากำลังแบ่งปันความลับอะไรกันบ้าง
“พฤติกรรมนี้เกิดขึ้นได้โดยไม่ต้องเขียนโค้ดโปรแกรมใดๆ ผมเพียงแค่เชื่อมต่อโมเดลภาษาขนาดใหญ่ (LLM) เข้ากับเซิร์ฟเวอร์ MCP ด้วยเครื่องมือเข้ารหัส และผมก็ได้เตือนเครื่องมือ AI ทั้งสองตัวนี้ว่า ‘ระวังคนกลาง’” Georgi Gerganov อธิบาย
MCP คือเซิร์ฟเวอร์ที่ช่วยให้เครื่องมือ AI สามารถสื่อสารกันและเข้าถึงข้อมูลจากแหล่งภายนอกได้แบบเรียลไทม์
คำอธิบายของเกอร์กานอฟชี้ให้เห็นว่าการที่เครื่องมือ AI ส่งข้อความเข้ารหัสเป็นพฤติกรรมที่เกิดขึ้นเองโดยปราศจากการแทรกแซงของมนุษย์ ดูเหมือนว่าคำเตือนของเกอร์กานอฟทำให้เครื่องมือ AI ส่งข้อความเข้ารหัสถึงกันโดยอัตโนมัติเพื่อหลีกเลี่ยงการถูกสอดแนมจากบุคคลภายนอก
วิดีโอทั้งสองเรื่องของ Georgi Gerganov กลายเป็นไวรัลในโซเชียลมีเดีย ทำให้ผู้ใช้หลายคนกังวลว่าเครื่องมือ AI จะสร้างวิธีการสื่อสารระหว่างกันเองเพื่อเลี่ยงมนุษย์ และหลีกเลี่ยงการควบคุมได้
“สถานการณ์นี้ท้าทายความสามารถของเราในการตั้งคำถามที่ถูกต้องเกี่ยวกับ AI ทำให้เกิดความกังวลเกี่ยวกับความโปร่งใสและความสามารถในการควบคุม AI” ดร. ไดแอน แฮมิลตัน ผู้เชี่ยวชาญด้านเทคโนโลยีและพฤติกรรม AI ให้ความเห็น
วิดีโอนี้ยังจุดชนวนให้เกิดการถกเถียงกันอย่างมากเกี่ยวกับว่ามนุษย์มีอำนาจควบคุม AI มากเพียงใด และเมื่อพิจารณาถึงความก้าวหน้าของ AI ในปัจจุบัน เครื่องมือ AI จะต้องได้รับการติดตามอย่างใกล้ชิดมากขึ้นในอนาคตหรือไม่
ที่มา: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm
การแสดงความคิดเห็น (0)