Эксперты по искусственному интеллекту и политологи , разбирающиеся в технологиях, бьют тревогу по поводу непредсказуемого положения дел с инструментами генеративного ИИ, такими как ChatGPT, в преддверии президентских выборов в США 2024 года.
«Америка к этому не готова»
15 мая телеканал Fox News процитировал Эй Джей Нэша, вице-президента по искусственному интеллекту компании ZeroFox (штат Миннесота, США), который предупредил, что американцы не готовы к перспективе взаимодействия с искусственным интеллектом. По его словам, искусственный интеллект способен не только быстро составлять электронные письма, сообщения и видеоролики для предвыборных кампаний, но и может быть использован в качестве опасного инструмента.
Правительства спешат регулировать инструменты ИИ
«Генеративный ИИ — это значительный шаг вперёд в создании аудио- и видеоконтента. Когда это становится возможным в больших масштабах и с распространением на платформах социальных сетей, это оказывает огромное влияние», — объясняет Нэш. Среди множества возможностей, которые открывает генеративный ИИ, такой как ChatGPT, есть много тех, которые оказывают глубокое влияние на выборы и голосование в такой современной стране, как Соединённые Штаты.
ChatGPT может генерировать большой объем контента за короткое время
Иллюстрация фото: REUTERS
Например, ChatGPT может создавать автоматизированные голосовые сообщения, имитирующие голос кандидата, инструктируя избирателей голосовать в неправильный день; публиковать аудиозаписи кандидатов, признающихся в совершении преступления или создающих расистский контент; создавать видеоклипы человека, произносящего речь или дающего интервью, которых на самом деле никогда не было; а также сгенерированные компьютером изображения на основе местных новостных репортажей, в которых ложно утверждается, что кандидат выбыл из гонки.
«Что, если бы сам Илон Маск позвонил вам и убедил проголосовать за конкретного кандидата?» — спросил доктор Орен Этциони, бывший генеральный директор и основатель Института Аллена по искусственному интеллекту (штаб-квартира в штате Вашингтон, США). «Многие бы его послушались. Но это сделал не он, а искусственный интеллект», — отметил доктор Этциони.
Опасность от врага
Г-н Петко Стоянов, глобальный директор по технологиям компании Forcepoint (штаб-квартира которой находится в Техасе, США), занимающейся кибербезопасностью, предупредил, что иностранные державы могут воспользоваться преимуществами генеративного ИИ для саботажа выборов в США в 2024 году. «Что произойдёт, если иностранная держава, киберпреступная организация или государство попытается выдать себя за другое лицо? Каков будет уровень последствий? Есть ли у нас возможность отреагировать?» — г-н Стоянов поднял вопросы, требующие решения. По его словам, в период выборов США столкнутся с волной дезинформации из иностранных источников.
Сенатор Пит Рикеттс (Небраска) также предупредил о риске использования прокитайскими организациями дипфейков (технологии создания сфабрикованных изображений и видео, которые выглядят и звучат как реальные люди и события) во время избирательной кампании 2024 года. «У них, безусловно, есть такая возможность, и нам нужно быть очень бдительными», — заявил Рикеттс телеканалу Fox News.
С начала года фейковые новости, генерируемые искусственным интеллектом, буквально заполонили социальные сети. Примерами служат фейковые видео, на которых Байден делает оскорбительные замечания в адрес трансгендеров, или сфабрикованные изображения детей, изучающих сатанизм в библиотеках. Многие даже поверили в это, когда в интернете появились фотографии полицейских протоколов бывшего президента Дональда Трампа, хотя он не был сфотографирован за совершение преступления. Другие изображения, созданные искусственным интеллектом, демонстрировали сопротивление Трампа аресту, которые также были фейковыми.
Член Палаты представителей Иветт Кларк (демократ от штата Нью-Йорк) внесла законопроект, обязывающий кандидатов уведомлять избирателей о рекламных изображениях, созданных с помощью искусственного интеллекта. Кларк также выступила соавтором законопроекта, обязывающего всех создателей составных изображений снабжать их водяным знаком, однозначно указывающим на источник изображения. Несколько штатов также опубликовали собственные предложения по решению проблемы дипфейков.
Сенатор Рикеттс заявил, что сейчас можно повысить уровень информированности американцев о рисках, связанных с искусственным интеллектом. По его словам, правительство США может сотрудничать с университетами, чтобы улучшить способность распознавать поддельные изображения до начала выборов.
ChatGPT обновлен
По данным Mashable, компания OpenAI (Калифорния, США) только что выпустила важное обновление для ChatGPT, благодаря которому этот инструмент теперь может подключаться к сети и просматривать веб-страницы во время работы. Это позволяет ChatGPT обновлять актуальную информацию и давать более достоверные ответы. В настоящее время такие корпорации, как Amazon в США, нанимают инженеров ИИ для создания и интеграции интерфейсов, подобных ChatGPT, для взаимодействия с клиентами.
Ссылка на источник
Комментарий (0)