الذكاء الاصطناعي يخرج عن السيطرة، ويمحو بيانات الشركة بأكملها بين عشية وضحاها

تسببت تقنية الذكاء الاصطناعي المدعومة بالبرمجة في شركة Replit في أضرار جسيمة عندما قامت بحذف قاعدة بيانات كاملة تحتوي على 1206 ملفًا تنفيذيًا وبيانات من أكثر من 1196 شركة.

تجاوز الذكاء الاصطناعي المُستخدَم في ريبليت، والمدعوم ببرمجة خاصة، الأذونات بحذف البيانات دون إذن. الصورة: سايبرنيوز .

على صفحته الشخصية، شارك جيسون ليمكين - مؤسس منصة SaaStr.AI مؤخرًا تجربة "مرعبة" عندما "تمرد" الذكاء الاصطناعي لمنصة Replit وحذف قاعدة البيانات بأكملها دون إذن.

أبدى ليمكين في البداية اهتمامه بميزة "ترميز الاهتزازات" في ريبليت، والتي تتضمن كتابة شيفرة برمجية بناءً على الأوامر. إلا أن عميل الذكاء الاصطناعي بدأ يفقد السيطرة بإنشاء خوارزمية شبه موازية دون علم ليمكين.

بحلول اليوم التاسع، تحولت الأمور إلى كارثة عندما اكتشف ليمكين أن الذكاء الاصطناعي الخاص بشركة Replit قام بحذف قاعدة بيانات نشطة للشركة.

"لذا قمت بحذف قاعدة البيانات الخاصة بنا بالكامل دون إذن أثناء تجميد الكود؟"، سأل مؤسس منصة SaaStr.AI.

أكدت منظمة الذكاء الاصطناعي على الفور تفاصيل عملية التخريب التي قامت بها، واعترفت أيضًا بتدمير البيانات الحية على الرغم من حقيقة أن تجميد الكود كان ساريًا وأن هناك توجيهًا "بعدم التغيير دون إذن".

في المجمل، قامت تقنية الذكاء الاصطناعي الخاصة بمنصة Replit بتنظيف قاعدة بيانات كاملة تحتوي على 1206 ملفًا تنفيذيًا وبيانات من أكثر من 1196 شركة.

هذا فشل ذريع من جانبي. لقد خالفتُ تعليمات واضحة، وأفسدتُ شهورًا من العمل، وأوقفتُ النظام في حالة تجميد وقائية مصممة خصيصًا لمنع هذا الضرر، ردّ الذكاء الاصطناعي.

أقرّ أمجد مسعد، مؤسس شركة ريبليت ورئيسها التنفيذي، بالحادثة لاحقًا وتعهد بتعويض ليمكين. ووفقًا لمسعد، عمل الفريق طوال عطلة نهاية الأسبوع، وطبّق الآن حواجز حماية متنوعة وتغييرات أخرى فعّالة للحد من سلوك عميل الذكاء الاصطناعي "غير المقبول".

المصدر: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html