Срочно необходимо контролировать контент ИИ

Необходимо установить критерии, ограничивающие контент, который пользователи могут создавать с помощью ИИ, и ввести четкую маркировку.

Всего за последние несколько лет искусственный интеллект (ИИ) развивался и постоянно совершенствовался с головокружительной скоростью, став мощным инструментом поддержки во многих областях. Veo3 — технология создания видео с использованием ИИ, недавно разработанная Google DeepMind — способна создавать реалистичные кадры. Помимо утилит, поддерживающих пользователей, этот инструмент также представляет собой проблему риска использования злоумышленниками для мошенничества.

Трудно отличить настоящее от поддельного

Согласно технологическому миру, Veo3 «произвел фурор» во всем мире благодаря своей функции создания видео с помощью ИИ, уровень реализма которой превосходит любой предыдущий инструмент. В отличие от Sora от OpenAI, которая выделяется только изображениями, но ограничена в плане звука, Veo3 идеально синхронизирует изображения, звуки окружающей среды и диалоги. От шагов, дуновения ветра до человеческих голосов и окружающих эффектов — все это плавно сочетается, достигая уровня реалистичности, из-за чего пользователям сложно отличить реальные видео от созданных ИИ.

Во Вьетнаме Veo3 быстро вызвал ажиотаж в социальных сетях, таких как TikTok, Facebook и YouTube Shorts. Серия видеороликов с хэштегом #veo3 распространялась с головокружительной скоростью, привлекая миллионы просмотров и сотни тысяч взаимодействий. Многие клипы, созданные ИИ, удивили интернет-сообщество из-за их невероятного уровня аутентичности. Например, 8-секундное видео с простым диалогом набрало 5 миллионов просмотров и более 308 000 лайков. Другое видео, на котором пожилая женщина жарит яичницу, созданное полностью ИИ, также набрало более 2,6 миллиона просмотров и более 104 000 лайков.

Г-н Тран Винь Кханг, офисный работник в округе 1 города Хошимин, рассказал, что он с трудом мог отличить настоящее от поддельного, поскольку достоверность была слишком высокой. «Я увидел видео, на котором продавец рыбы разговаривает с покупателями на рынке, и подумал, что это настоящее, потому что изображение было таким четким. То, как он махал рукой, поднимал брови, солнечный свет падал на его лицо, все было настолько естественным, что было невероятно, что это было создано ИИ», - сказал г-н Кханг.

Изображения в фильме, созданном Veo3, пользователям сложно отличить настоящие от поддельных

Хотя она призналась, что была впечатлена, г-жа Нгуен Май Ань (проживающая в городе Хошимин) выразила обеспокоенность по поводу информационной безопасности. «Видео, созданное Veo3, настолько реалистично, что заставляет меня чувствовать себя неуверенно. Если плохие парни используют эту технологию для создания видео с целью клеветы, дискредитации или подделки доказательств, последствия будут очень серьезными», - заявила г-жа Ань.

Многие вьетнамские пользователи особенно интересуются тем, как получить доступ и использовать Veo3. Однако Veo3 был официально развернут Google только на рынке США через пакет подписки Google AI Ultra с платой 249,99 долларов США в месяц. Столкнувшись с этим ограничением, вьетнамское интернет-сообщество нашло способ «преодолеть барьер», чтобы испытать его. Многие люди делятся советами по использованию VPN для смены IP на американский, тем самым регистрируя учетную запись Google в поддерживаемом регионе для активации и использования Veo3 в качестве локального пользователя. По словам экспертов по безопасности, это также лазейка, которую могут использовать злоумышленники для совершения теневых действий.

Для ИИ необходима правовая база

Г-н Ле Хонг Дук, основатель OneAds Digital Company Limited, сказал, что продукты, созданные с помощью ИИ, такие как видео, изображения или голоса, приближаются к поразительному уровню реализма и даже могут быть напрямую запущены в производство и коммерциализацию. Этот взрыв приносит явные выгоды с точки зрения затрат и времени, но может быть использован для распространения ложной информации или создания общественного замешательства. В контексте все более сложных моделей ИИ контроль контента становится неотложным, особенно когда технологии значительно опережают скорость обновления текущих законов.

Поэтому г-н Дюк предложил срочно разработать специализированный закон для ИИ, который четко определит обязанности тех, кто создает и распространяет контент ИИ. Акты распространения ложного и вредоносного контента должны строго наказываться и пресекаться. В то же время властям необходимо выпустить критерии для ограничения контента, который пользователям разрешено создавать с помощью ИИ, и потребовать четких меток. В случае неправильной реализации пользователи должны нести юридическую ответственность и компенсировать любой причиненный ущерб. «Выпуск отдельной правовой базы для ИИ крайне необходим для контроля этой быстро развивающейся технологии, способствуя поддержанию здоровой цифровой среды, предотвращая такие последствия, как мошенничество, этические нарушения или акты оскорбления других», - подчеркнул г-н Дюк.

Помимо правовых проблем, эксперт по информационной безопасности поделился тем, что выдающееся развитие Veo3 также вызывает беспокойство у создателей контента, особенно в таких областях, как кино, телевидение и анимация, которые находятся под угрозой постепенного вытеснения технологией ИИ, что создает серьезную проблему для защиты карьеры и авторских прав в творческой индустрии. «Необходимо в ближайшее время дополнить правила о правах интеллектуальной собственности на контент, созданный ИИ, поскольку ИИ теперь способен производить высокореалистичные продукты. В противном случае создатели столкнутся с риском потери работы из-за волны виртуальных произведений, заполонивших рынок», — сказал эксперт.

Остерегайтесь поддельных услуг

С тех пор, как Veo3 взорвался, на платформах социальных сетей многие аккаунты, называющие себя «экспертами по искусственному интеллекту», также начали делиться демонстрационными видеороликами, инструкциями о том, как получить доступ к Veo3 или продавать аккаунты и услуги поддержки по ценам от 200 000 до 300 000 донгов. Некоторые пользователи сказали, что им удалось получить доступ и попробовать его, но не все смогли его испытать. Г-н Ле Хонг Дук предупредил пользователей быть осторожными с поддельными или неофициальными сервисами и рекомендовал дождаться официального развертывания Veo3 на вьетнамском рынке, чтобы избежать финансового мошенничества, кражи данных или контроля аккаунтов Google.

Источник: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm