В предупреждении, распространенном на этой неделе, ФБР сообщило, что в последнее время наблюдается рост числа жертв шантажа, которые утверждают, что подвергались воздействию искусственного интеллекта с целью редактирования обычных изображений, взятых из онлайн-публикаций, личных сообщений или видеочатов , превращая их в поддельные версии.
Испанская полиция арестовала программиста, который использовал искусственный интеллект для создания поддельных изображений детской порнографии. Фото: Daily Mail
«Затем злоумышленники напрямую отправляют изображения жертвам для шантажа или сексуальных домогательств. После распространения жертвы могут столкнуться с серьёзными трудностями в предотвращении дальнейшего распространения сфальсифицированного контента, а также в его удалении из интернета», — говорится в предупреждении.
В бюро заявили, что изображения выглядят «реалистично», отметив при этом, что в некоторых случаях объектами нападений были и дети.
В феврале полиция Испании арестовала программиста, который использовал искусственный интеллект для создания ужасающих изображений насилия над детьми. Считается, что это был один из первых арестов такого рода.
ФБР не вдавалось в подробности о программах ИИ, используемых для создания сексуальных образов, но отметило, что технологический прогресс «постоянно улучшает качество, персонализацию и доступность создания контента с помощью ИИ».
Редактирование обычных фотографий для создания эротических изображений существует почти так же давно, как и сама фотография, но недавний взрыв открытых инструментов искусственного интеллекта сделал этот процесс проще, чем когда-либо.
Поддельные фотографии или видео часто неотличимы от реальных версий, и в последние годы даже появилось несколько веб-сайтов и социальных сетей, посвященных созданию и обмену сексуальными изображениями с помощью искусственного интеллекта.
Это считается одним из ряда рисков, которые искусственный интеллект может представлять для общества, о чем недавно предупреждали эксперты.
Хоанг Ань (по данным Daily Mail, Reuters)
Источник
Комментарий (0)