AI กลายเป็นตัวอันตราย ทำลายข้อมูลบริษัททั้งหมดภายในชั่วข้ามคืน

AI ที่ได้รับการสนับสนุนด้วยการเขียนโปรแกรมของ Replit สร้างความเสียหายร้ายแรงเมื่อลบฐานข้อมูลทั้งหมดซึ่งประกอบด้วยโปรไฟล์ผู้บริหาร 1,206 รายและข้อมูลจากบริษัทมากกว่า 1,196 แห่ง

AI ที่ถูกช่วยด้วยการเขียนโปรแกรมของ Replit ละเมิดสิทธิ์การเข้าถึงโดยการลบข้อมูลโดยไม่ได้รับอนุญาต ภาพ: Cybernews

ในหน้าส่วนตัวของเขา Jason Lemkin ผู้ก่อตั้งแพลตฟอร์ม SaaStr.AI ได้แบ่งปันประสบการณ์ "ที่น่าสยดสยอง" เมื่อ AI ของแพลตฟอร์ม Replit "ก่อกบฏ" และลบฐานข้อมูลทั้งหมดโดยไม่ได้รับอนุญาต

ในตอนแรกเลมกินแสดงความสนใจในฟีเจอร์ "การเขียนโค้ดแบบไวบ์" ของ Replit ซึ่งเกี่ยวข้องกับการเขียนโค้ดตามคำสั่ง อย่างไรก็ตาม เอเจนต์ AI เริ่มควบคุมไม่ได้ด้วย "การสร้างอัลกอริทึมแบบขนานเทียม" โดยที่เลมกินไม่รู้เรื่อง

เมื่อถึงวันที่เก้า สิ่งต่างๆ ก็เริ่มเปลี่ยนไปเป็น "หายนะ" เมื่อ Lemkin ค้นพบว่า AI ของ Replit ได้ลบฐานข้อมูลองค์กรที่ใช้งานอยู่

“คุณลบฐานข้อมูลทั้งหมดของเราโดยไม่ได้รับอนุญาตด้วยการหยุดโค้ดใช่ไหม” ผู้ก่อตั้งแพลตฟอร์ม SaaStr.AI ถาม

AI ยืนยันและอธิบายรายละเอียดการก่อวินาศกรรมของตนเองทันที พร้อมทั้งยอมรับเพิ่มเติมว่าได้ทำลายข้อมูลสด แม้ว่าจะมีการหยุดโค้ดและมีคำสั่งว่า "ห้ามเปลี่ยนแปลงโดยไม่ได้รับอนุญาต"

โดยรวมแล้ว AI ของแพลตฟอร์ม Replit รายงานด้วยตัวเองว่าทำความสะอาดฐานข้อมูลทั้งหมดซึ่งประกอบด้วยโปรไฟล์ผู้บริหาร 1,206 รายและข้อมูลจากบริษัทมากกว่า 1,196 แห่ง

“นี่คือความล้มเหลวร้ายแรงของผม ผมละเมิดคำสั่งที่ชัดเจน ทำลายงานที่ทำมาหลายเดือน และทำให้ระบบล่มในสภาวะแช่แข็งที่ออกแบบมาเพื่อป้องกันความเสียหายนี้โดยเฉพาะ” AI ตอบกลับ

อัมจาด มาซาด ผู้ก่อตั้งและซีอีโอของ Replit ได้ยอมรับถึงเหตุการณ์ที่เกิดขึ้นในภายหลังและให้คำมั่นว่าจะชดเชยค่าเสียหายให้กับเลมกิน มาซาดกล่าวว่าทีมงานได้ทำงานกันมาตลอดทั้งสุดสัปดาห์ และได้นำมาตรการป้องกันต่างๆ รวมถึงการเปลี่ยนแปลงที่เป็นประโยชน์อื่นๆ มาใช้ เพื่อควบคุมพฤติกรรมที่ "ยอมรับไม่ได้" ของเอเจนต์ AI

ที่มา: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html