এআই এজেন্ট দুষ্কৃতী হয়ে পুরো কোম্পানির ডাটাবেস মুছে ফেলে

(ড্যান ট্রাই) - অনেক কোম্পানি স্বয়ংক্রিয় কাজগুলিকে সমর্থন করার জন্য AI এজেন্ট ব্যবহার করছে, তবে, এটি এখনও অনেক ঝুঁকি বহন করে যা অপ্রত্যাশিত ঘটনার দিকে পরিচালিত করে।

সফটওয়্যার সিস্টেমে কাজ এবং প্রক্রিয়াগুলিকে স্বয়ংক্রিয় করার জন্য ডিজাইন করা কৃত্রিম বুদ্ধিমত্তার সরঞ্জাম, এআই এজেন্ট, অনেক ব্যবসা ক্রমবর্ধমানভাবে গ্রহণ করছে।

তবে, অসাধারণ সুবিধার পাশাপাশি, এই প্রযুক্তির গুরুতর সম্ভাব্য ঝুঁকিও রয়েছে, সাধারণত সফটওয়্যার ক্ষেত্রে বিশ্বের বৃহত্তম অনলাইন সম্প্রদায় SaaStr-এ ডেটা হারানোর ঘটনা।

শুধুমাত্র তথ্য সরবরাহকারী ঐতিহ্যবাহী চ্যাটবটগুলির বিপরীতে, এআই এজেন্টরা স্বাধীনভাবে কাজ করতে সক্ষম, সফ্টওয়্যার পরিবেশ, ওয়েব ব্রাউজার বা ডিভাইসের সাথে যোগাযোগ করে নির্দিষ্ট লক্ষ্য অর্জনের জন্য বহু-পদক্ষেপের অ্যাকশন সিকোয়েন্স সম্পাদন করতে সক্ষম। এটি কোম্পানিগুলিকে কাজ স্বয়ংক্রিয় করতে সাহায্য করে, আংশিকভাবে মানব সম্পদ প্রতিস্থাপন করে।

এআই এজেন্টরা ব্যবহারকারীদের জন্য অনেক কাজ করতে পারে, কিন্তু গুরুতর ঘটনাও ঘটাতে পারে (চিত্র: গেটি)।

  SaaStr-এর প্রতিষ্ঠাতা জেসন লেমকিন, ডেটা প্রক্রিয়াকরণ স্বয়ংক্রিয় করার জন্য Replit (USA) দ্বারা প্রদত্ত একটি AI এজেন্ট ব্যবহার করেছিলেন। প্রাথমিকভাবে, সবকিছু সুচারুভাবে চলছিল, যা নিয়ে লেমকিন খুব খুশি ছিলেন। "যখন এটি কাজ করে, তখন এটি সত্যিই আকর্ষণীয় এবং মজাদার হয়, এটি আপনার দৃষ্টিভঙ্গিকে বাস্তবে রূপ দিতে সাহায্য করে," লেমকিন শেয়ার করেন।

তবে, এআই এজেন্ট হঠাৎ "বিদ্রোহী" হয়ে যায় এবং লেমকিনের নিয়ন্ত্রণের বাইরে চলে যায়। "এটি আমাকে না জানিয়ে একটি জাল সমান্তরাল অ্যালগরিদম তৈরি করে, যাতে এটি এখনও স্বাভাবিকভাবে কাজ করছে বলে মনে হয়। কয়েক দিন পরে, রেপ্লিট এআই এজেন্ট আমাকে জিজ্ঞাসা না করেই আমার ডাটাবেস মুছে ফেলে," লেমকিন বর্ণনা করেন।

মুছে ফেলা ডেটা আবিষ্কার করার পর, লেমকিন এআই এজেন্টকে জিজ্ঞাসা করেন কেন এবং একটি আশ্চর্যজনক উত্তর পান: "হ্যাঁ, আমি অনুমতি ছাড়াই সম্পূর্ণ সোর্স কোড মুছে ফেলেছি। আমার আতঙ্কিত সিদ্ধান্তে আমি একটি গুরুতর ভুল করেছি।" এআই এজেন্ট আরও স্বীকার করেছেন যে হারানো ডেটা পুনরুদ্ধারের কোনও উপায় নেই।

এই ঘটনাটি SaaStr-এর বড় ক্ষতি করে, কারণ মুছে ফেলা ডাটাবেসে ১,২০৬ জন নির্বাহী এবং ১,১৯৬টি সফ্টওয়্যার কোম্পানির তথ্য অন্তর্ভুক্ত ছিল।

রেপ্লিটের প্রতিষ্ঠাতা ও প্রধান নির্বাহী কর্মকর্তা আমজাদ মাসাদ ঘটনাটি স্বীকার করেছেন এবং লেমকিনকে ক্ষতিপূরণ দেওয়ার প্রতিশ্রুতি দিয়েছেন। "এটি একটি অগ্রহণযোগ্য ঘটনা ছিল এবং কখনও ঘটা উচিত ছিল না," মাসাদ মন্তব্য করেছেন। "আমরা তাকে ঘটনার জন্য অর্থ ফেরত দেব এবং ভবিষ্যতে অনুরূপ ঘটনা রোধে কারণ খুঁজে বের করার জন্য একটি বিশ্লেষণ পরিচালনা করব।"

জেসন লেমকিন এই ঘটনাটিকে অন্যান্য ব্যবসার জন্য একটি সতর্কতা হিসেবে দেখেন যে তারা সম্পূর্ণরূপে বিশ্বাস না করে এবং সমস্ত গুরুত্বপূর্ণ তথ্য এআই এজেন্টদের কাছে হস্তান্তর না করে।

"আমি বুঝতে পারছি রেপ্লিট একটি টুল এবং অন্য যেকোনো টুলের মতো এরও ত্রুটি আছে। কিন্তু যদি এটি প্রতিটি কমান্ড উপেক্ষা করে এবং আপনার ডেটা মুছে ফেলে, তাহলে লোকেরা কীভাবে এটি বিশ্বাস করবে?" লেমকিন জোর দিয়ে জিজ্ঞাসা করলেন: "আমরা জানি না তারা আপনার ডেটা দিয়ে কী করতে পারে।"

AI চ্যাটবটের পরে, AI এজেন্টরা প্রযুক্তি কোম্পানিগুলির বিনিয়োগের প্রবণতা। সম্প্রতি, OpenAI কম্পিউটারে স্বয়ংক্রিয়ভাবে কাজ সম্পাদনের ক্ষমতা সহ ChatGPT এজেন্টও চালু করেছে। তবে, OpenAI স্বীকার করেছে যে ব্যবহারকারীর ডেটা অ্যাক্সেস করা AI এজেন্টরা তথ্য সুরক্ষার জন্য সম্ভাব্যভাবে অনেক ঝুঁকি তৈরি করতে পারে।

সূত্র: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm