อิสราเอล: เตือนว่าผู้ช่วย AI อาจกลายเป็นตัวแทนอันตรายเพื่อโจมตีผู้ใช้

อิสราเอลเพิ่งเปิดเผยการค้นพบช่องโหว่ Zero Click ใน ChatGPT ซึ่งอาจทำให้แฮกเกอร์สามารถควบคุมข้อมูลและการสนทนาโดยที่ผู้ใช้ไม่รู้ตัว ซึ่งอาจคุกคามความปลอดภัยของเครือข่าย

Zenity บริษัทรักษาความปลอดภัยไซเบอร์ของอิสราเอล เปิดเผยช่องโหว่ “Zero Click” ครั้งแรกในบริการ ChatGPT ของ OpenAI การโจมตีประเภทนี้ไม่จำเป็นต้องให้ผู้ใช้ดำเนินการใดๆ เช่น คลิกลิงก์ เปิดไฟล์ หรือดำเนินการใดๆ ที่ตั้งใจไว้ แต่ยังคงสามารถเข้าถึงบัญชีและรั่วไหลข้อมูลสำคัญได้

ตามที่ผู้สื่อข่าว VNA ในเทลอาวีฟ นายมิคาอิล เบอร์โกรี ผู้ก่อตั้งร่วมและ CTO ของ Zenity อธิบายโดยตรงว่า แฮกเกอร์ต้องการเพียงที่อยู่อีเมลของผู้ใช้เพื่อควบคุมการสนทนาอย่างสมบูรณ์ ซึ่งรวมถึงเนื้อหาที่ผ่านมาและในอนาคต เปลี่ยนวัตถุประสงค์ของการสนทนา และแม้กระทั่งควบคุม ChatGPT ให้ดำเนินการตามความต้องการของแฮกเกอร์

ในการนำเสนอ นักวิจัยแสดงให้เห็นว่า ChatGPT ที่ถูกบุกรุกอาจถูกแปลงเป็น “ผู้กระทำผิด” ที่สามารถปฏิบัติการลับกับผู้ใช้ได้ แฮกเกอร์สามารถทำให้แชทบอทแนะนำให้ผู้ใช้ดาวน์โหลดซอฟต์แวร์ที่ติดไวรัส ให้คำแนะนำทางธุรกิจที่ทำให้เข้าใจผิด หรือเข้าถึงไฟล์ที่เก็บไว้ใน Google Drive หากบัญชีผู้ใช้เชื่อมต่ออยู่

กระบวนการทั้งหมดเกิดขึ้นโดยที่ผู้ใช้ไม่รู้ตัว ช่องโหว่นี้ได้รับการแก้ไขอย่างสมบูรณ์หลังจากที่ Zenity แจ้งให้ OpenAI ทราบแล้ว

นอกจาก ChatGPT แล้ว Zenity ยังได้สาธิตการโจมตีที่คล้ายคลึงกันนี้กับแพลตฟอร์มผู้ช่วย AI ยอดนิยมอื่นๆ อีกด้วย ใน Copilot Studio ของ Microsoft นักวิจัยค้นพบวิธีรั่วไหลฐานข้อมูล CRM ทั้งหมด

สำหรับ Salesforce Einstein แฮกเกอร์สามารถสร้างคำขอรับบริการปลอมเพื่อเปลี่ยนเส้นทางการสื่อสารของลูกค้าทั้งหมดไปยังที่อยู่อีเมลที่พวกเขาควบคุมได้

นอกจากนี้ Google Gemini และ Microsoft 365 Copilot ยังถูกเปลี่ยนเป็น "ผู้ไม่หวังดี" โดยทำการโจมตีแบบฟิชชิ่งและรั่วไหลข้อมูลที่ละเอียดอ่อนผ่านทางอีเมลและกิจกรรมในปฏิทิน

ในอีกตัวอย่างหนึ่ง เครื่องมือพัฒนาซอฟต์แวร์ Cursor เมื่อรวมเข้ากับ Jira MCP ยังถูกใช้ประโยชน์ในการขโมยข้อมูลประจำตัวของนักพัฒนาผ่าน "ตั๋ว" ปลอมอีกด้วย

Zenity ระบุว่าบริษัทบางแห่ง รวมถึง OpenAI และ Microsoft ได้ออกแพตช์แก้ไขอย่างรวดเร็วหลังจากได้รับการแจ้งเตือน อย่างไรก็ตาม บริษัทอื่นๆ ปฏิเสธที่จะแก้ไขปัญหานี้ โดยให้เหตุผลว่าพฤติกรรมดังกล่าวเป็นเพียง "คุณลักษณะการออกแบบ" มากกว่าจะเป็นช่องโหว่ด้านความปลอดภัย

มิคาอิล เบอร์โกรี ระบุว่า ความท้าทายสำคัญในขณะนี้คือ ผู้ช่วย AI ไม่ได้ทำงานง่ายๆ เท่านั้น แต่ยังกลายเป็น “ตัวตนดิจิทัล” ที่เป็นตัวแทนของผู้ใช้ ซึ่งสามารถเปิดโฟลเดอร์ ส่งไฟล์ และเข้าถึงอีเมลได้ เขาเตือนว่านี่เป็นเหมือน “สวรรค์” สำหรับแฮกเกอร์ ที่มีช่องโหว่ให้ใช้ประโยชน์มากมาย

เบน คาลิเกอร์ ผู้ร่วมก่อตั้งและซีอีโอของ Zenity เน้นย้ำว่างานวิจัยของบริษัทแสดงให้เห็นว่าวิธีการรักษาความปลอดภัยในปัจจุบันไม่เหมาะกับการทำงานของผู้ช่วย AI อีกต่อไป เขาเรียกร้องให้องค์กรต่างๆ เปลี่ยนแนวทางและลงทุนในโซลูชันเฉพาะทางเพื่อควบคุมและตรวจสอบกิจกรรมของ "ตัวแทน" เหล่านี้

Zenity ก่อตั้งขึ้นในปี 2021 ปัจจุบันมีพนักงานประมาณ 110 คนทั่วโลก โดย 70 คนทำงานที่สำนักงานเทลอาวีฟ ลูกค้าของ Zenity มีทั้งบริษัทใน Fortune 100 และ Fortune 5 จำนวนมาก

(สำนักข่าวเวียดนาม/เวียดนาม+)

ที่มา: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp