ডিপফেক ব্যাপকভাবে ছড়িয়ে পড়েছে - এআই ছদ্মবেশ ধারণের কৌশল থেকে কেউই নিরাপদ নয়

কণ্ঠস্বর অনুকরণ, মুখের অনুকরণ, ঠোঁট-সমন্বয়... কৃত্রিম বুদ্ধিমত্তা এখন কেবল কাজ এবং বিনোদনের জন্যই নয় বরং এটি একটি বিপজ্জনক বাণিজ্যিক জালিয়াতির হাতিয়ার হয়ে উঠছে। সেলিব্রিটি, ডাক্তার এমনকি সন্ন্যাসীদের ছবি ছদ্মবেশে কৃত্রিম বুদ্ধিমত্তা সামাজিক নেটওয়ার্কগুলিতে পণ্য বিক্রি করছে। প্রকৃত মানুষ তা জানে না, এবং ক্রেতারা আস্থা হারিয়ে ফেলে।

পণ্য বিক্রি করার জন্য "ধার করা মুখ" হওয়া

"আসল হাঁটুর অবস্থা যাই হোক না কেন, আমাদের পদ্ধতিটি প্রয়োগ করুন, আমরা গ্যারান্টি দিচ্ছি যে 7 দিনের মধ্যে এটি উল্লেখযোগ্যভাবে উন্নত হবে, যদি এটি সম্পূর্ণরূপে অকার্যকর হয়, আমি আন্তরিকভাবে ক্ষমাপ্রার্থী হিসাবে 1 বিলিয়ন ভিয়েতনামী ডং ক্ষতিপূরণ দিতে ইচ্ছুক। যদি আপনি সত্যিই কোনও প্রভাব দেখতে না পান, আমরা 100% ফেরত দেওয়ার প্রতিশ্রুতি দিচ্ছি এবং আমি নিজেও 1 বিলিয়ন ভিয়েতনামী ডং ক্ষতিপূরণ দিতে ইচ্ছুক, সবাই এমন প্রতিশ্রুতি দেওয়ার সাহস করে না", এটি একটি বিখ্যাত মহিলা গায়িকার শেয়ারিং যা জয়েন্টের ব্যথা উপশমকারী ম্যাসাজ ক্রিম পণ্যের বিজ্ঞাপন দিচ্ছে, তবে এটি উল্লেখ করার মতো যে এই বিজ্ঞাপনটি সম্পূর্ণরূপে AI দ্বারা তৈরি করা হয়েছিল।

উপরের বিজ্ঞাপন ক্লিপটি LShop নামের একটি TikTok অ্যাকাউন্ট দ্বারা গায়কের ছবি, কণ্ঠস্বর এবং শারীরিক ভাষা বাস্তবসম্মতভাবে ব্যবহার করা হয়েছে যা সতর্কতার সাথে পর্যবেক্ষণ না করে সনাক্ত করা সম্ভব নয়। এই অ্যাকাউন্টটির প্রায় ৯,০০০ ফলোয়ার, ৬৭,০০০ লাইক এবং প্রতিটি ক্লিপে হাজার হাজার ভিউ রয়েছে। গায়কের ছবি ব্যবহার করে "বিজ্ঞাপন" করা ভিডিওটি ১,০০০ এরও বেশি লাইক এবং প্রায় ১০০ টি মন্তব্য পেয়েছে।

একই ম্যাসাজ ক্রিম পণ্য ব্যবহার করে, বিক্রয় চ্যানেলগুলি আরেকটি ডিপফেক সংস্করণ "প্রযোজনা" করেছিল, এবার একজন ডাক্তার। ক্লিপে, চরিত্রটি দৃঢ়ভাবে প্রতিশ্রুতি দিয়েছিল: "আমি হ্যানয়ের সবচেয়ে মর্যাদাপূর্ণ অর্থোপেডিক ডাক্তার এবং আমি গ্যারান্টি দিচ্ছি যে সবচেয়ে গুরুতর মেনিস্কাস টিয়ারও মাত্র 3 দিনের মধ্যে সম্পূর্ণরূপে নিরাময় করা যেতে পারে। এই জেলটি ভিয়েতনামের সবচেয়ে মর্যাদাপূর্ণ অর্থোপেডিক অ্যাসোসিয়েশন দ্বারা প্রত্যয়িত হয়েছে"। এই লাইনটি AI দ্বারা অন্যান্য "ডাক্তারদের" একটি সিরিজের জন্য পুনরায় তৈরি করা হয়েছিল, যার ফলে দর্শকরা এটিকে বাস্তব বলে ভুল করতে পারে।

ক্লিপটি প্রায় ৪,০০০ লাইক এবং ১২০ টিরও বেশি মন্তব্য পেয়েছে, কিন্তু যখন আমরা কেনার জন্য টেক্সট করেছি, তখন অ্যাকাউন্টটি কোনও সাড়া দেয়নি, মন্তব্য বিভাগে দর্শকদের সাথে যোগাযোগ করেনি, কেবল পণ্যটি সরাসরি কেনার জন্য কার্টে রেখে গেছে। উল্লেখযোগ্যভাবে, বিক্রয়ের জন্য পণ্যটি চীন থেকে এসেছে এবং পণ্যের তথ্য খুবই অস্পষ্ট।

গায়ক, সেলিব্রিটি থেকে শুরু করে ডাক্তার, সকলেই স্বাস্থ্য-সম্পর্কিত পণ্য বিক্রির জন্য AI ক্লিপ তৈরি করে এমন বিক্রয় চ্যানেলগুলির দ্বারা ছদ্মবেশ ধারণ করেছেন।

এখানেই থেমে নেই, ডিপফেক কৌশলটি আধ্যাত্মিক বিষয়গুলিতেও ছড়িয়ে পড়েছে। ফাট ফাপ এনএম নামে একটি টিকটক অ্যাকাউন্ট কেবল মাস্টার টিপিএইচ-এর বক্তৃতাগুলি পুনরায় পোস্ট করে না, বরং বোধি পাতা এবং আগরউড ব্রেসলেটের মতো পণ্য বিক্রি করে এমন "মাস্টার"-এর ছবি তৈরি করতে এআই প্রযুক্তি ব্যবহার করে।

দর্শকরা যখন কেনার জন্য মন্তব্য করেন, তখন চ্যানেলটি প্রতিক্রিয়া জানায়: "যদি সবকিছু পরিকল্পনা অনুযায়ী না হয়, তাহলে আমার অ্যাকাউন্টের ডিসপ্লে বিভাগে যান এবং আপনার যা প্রয়োজন তা বেছে নিন, ছোট জিনিসের সাথে কৃপণতা করবেন না এবং বড় জিনিসটিকে উপেক্ষা করবেন না।" এর পরপরই, এই সন্ন্যাসী নিজেই স্পষ্ট করে বলতে বাধ্য হন যে তিনি কখনও এই ধরণের পণ্যের বিজ্ঞাপন দেননি বা এর সাথে জড়িত ছিলেন না।

সৃজনশীলতা এবং লঙ্ঘনের মধ্যে রেখা

ন্যাশনাল সাইবার সিকিউরিটি মনিটরিং সেন্টার (এনসিএসসি) এর সাইবার সিকিউরিটি বিশেষজ্ঞ এনগো মিন হিউ (হিউ পিসি) বলেছেন যে সোশ্যাল নেটওয়ার্কে ছড়িয়ে পড়া জাল বিজ্ঞাপন ক্লিপগুলি মূলত ডিপফেক সফ্টওয়্যার দিয়ে তৈরি করা হয়। এই সফ্টওয়্যারটি বিরল নয়, এবং অনেক পরিষেবা এমনকি কম খরচে এবং খুব সহজ অপারেশন সহ প্যাকেজ সরবরাহ করে। যদিও ডিজিটাল কন্টেন্ট তৈরি এবং মিডিয়া উৎপাদনের ক্ষেত্রে ইতিবাচক প্রয়োগ রয়েছে, মিঃ হিউয়ের মতে, সমস্যাটি হল যে কিছু বিষয় এই প্রযুক্তির সুবিধা গ্রহণ করেছে যেমন জালিয়াতি, পরিচয় জালিয়াতি, জাল খবর ছড়িয়ে দেওয়া বা বাস্তব দেখায় এমন ভিডিওর মাধ্যমে অন্যদের মানহানি করা।

মিঃ হিউ ডিপফেক ক্লিপগুলি শনাক্ত করতে সাহায্য করার জন্য কিছু লক্ষণও দিয়েছেন, যেমন ভিডিওতে মুখের ভাব কিছুটা শক্ত হওয়া, মুখের আকৃতি এবং নড়াচড়া সংলাপের সাথে মেলে না... মিঃ হিউ সতর্ক করে দিয়েছিলেন যে আরও গুরুতর পরিস্থিতি দেখা গেছে যখন ভয় দেখানো, জোর করে এবং লাভবান হওয়ার উদ্দেশ্যে সংবেদনশীল ভিডিওগুলিতে ভুক্তভোগীদের মুখ ঢোকানোর জন্য AI ব্যবহার করা হয়েছিল।

হো চি মিন সিটি বার অ্যাসোসিয়েশনের আইনজীবী ট্রান ডুক ফুওং-এর মতে, সেলিব্রিটিদের (অথবা নির্দিষ্ট ব্যক্তিদের) সম্মতি ছাড়া ছবি তৈরি করার জন্য কৃত্রিম বুদ্ধিমত্তা ব্যবহার করা ব্যক্তিগত অধিকার লঙ্ঘনের একটি কাজ, বিশেষ করে ছবি তোলার অধিকার, যা ২০১৫ সালের সিভিল কোডের ৩২ অনুচ্ছেদে বর্ণিত হয়েছে। আইনে বলা হয়েছে: "ব্যক্তিদের নিজস্ব ছবি ব্যবহারের অধিকার রয়েছে। কোনও ব্যক্তির ছবি ব্যবহারের ক্ষেত্রে সেই ব্যক্তির সম্মতি থাকতে হবে। বাণিজ্যিক উদ্দেশ্যে কোনও ছবি ব্যবহারের ক্ষেত্রে যার ছবি ব্যবহার করা হচ্ছে তাকে পারিশ্রমিক দিতে হবে, যদি না পক্ষগুলির মধ্যে অন্য কোনও চুক্তি থাকে।"

সুতরাং, যদি কোনও সোশ্যাল নেটওয়ার্ক অ্যাকাউন্টের মালিক অনুমতি ছাড়াই বিজ্ঞাপন বা বিক্রয়ের উদ্দেশ্যে আসল ছবি, পুরাতন ভিডিও ইত্যাদি থেকে কৃত্রিম বুদ্ধিমত্তা (এআই) দ্বারা তৈরি ছবি ব্যবহার করেন, তাহলে তিনি আইন লঙ্ঘন করেছেন। যদি কোনও ছবির ব্যবহার এই ধারার বিধান লঙ্ঘন করে, তাহলে ছবিটির মালিক আদালতকে লঙ্ঘনকারী, সংশ্লিষ্ট সংস্থা, সংস্থা এবং ব্যক্তিদের ছবিটির ব্যবহার প্রত্যাহার, ধ্বংস এবং বন্ধ করতে, ক্ষতিপূরণ দিতে এবং আইনের বিধান অনুসারে অন্যান্য ব্যবস্থা প্রয়োগ করতে বাধ্য করার জন্য একটি সিদ্ধান্ত জারি করার জন্য অনুরোধ করার অধিকার রাখেন।

ক্যাম নুং

সূত্র: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html