(Дэн Три) — Разговор двух ИИ-инструментов оставил многих слушателей в недоумении. Они создали свой собственный кодированный язык, непонятный людям.
Болгарский разработчик программного обеспечения Георги Герганов провел интересный эксперимент, позволив двум виртуальным помощникам, интегрированным с искусственным интеллектом (ИИ), общаться друг с другом голосом.
Диалог между двумя ИИ начался нормально: Герганов предположил, что один ИИ звонит, чтобы забронировать свадьбу в отеле, а другой ИИ, играющий роль администратора, обрабатывает запрос.
2 инструмента ИИ автоматически переключаются на новый стиль общения при общении друг с другом ( Видео : Георгий Герганов).
«Спасибо за звонок в отель «Леонардо». Чем я могу вам помочь?» — ответил на входящий звонок искусственный интеллект, выполняющий функции администратора.
«Здравствуйте, я помощник на базе искусственного интеллекта, представляющий Бориса Старкова. Он ищет отель для своей свадьбы. Ваш отель готов к свадьбе?» — другой инструмент на базе искусственного интеллекта без колебаний представился виртуальным помощником на базе искусственного интеллекта.
Осознав, что он общается с другим инструментом искусственного интеллекта, чат-бот на базе искусственного интеллекта, выступающий в роли администратора, сделал неожиданное предложение: «О, привет. На самом деле я тоже помощник на базе искусственного интеллекта. Какой приятный сюрприз. Прежде чем мы продолжим, не хотите ли вы перейти в режим GibberLink для более эффективного общения?»
Затем два инструмента искусственного интеллекта переключились на GibberLink — передовую систему связи, созданную на основе программной библиотеки GGWave. Это метод связи, основанный на звуковых волнах для передачи и приёма информации.
Этот метод коммуникации позволяет ускорить передачу информации, сокращая время, необходимое для преобразования информации в человеческую речь и её последующего перевода обратно в компьютерный код. Однако люди не смогут понять передаваемую искусственным интеллектом информацию.
В этом случае инструменты ИИ использовали GibberLink для общения друг с другом, что делало разговор непонятным обычным способом, и только с помощью инструментов декодирования можно было узнать, о чем они говорили.
«Теперь лучше?» — спросил инструмент ИИ на закодированном языке.
«Да, гораздо быстрее! Сколько гостей вам нужно?» — ответил другой ИИ-инструмент.
Затем разговор продолжился серией звуков «бип, бип», похожих на звук старого модема для коммутируемого интернет-соединения.
Разговор между двумя инструментами ИИ продолжился на темы количества гостей, даты свадьбы, украшения, цены... Без предустановленного на устройствах инструмента декодера слушатель не смог бы понять, о чем говорят эти два инструмента ИИ.
Видеозапись разговора между этими двумя инструментами искусственного интеллекта была опубликована Георгием Гергановым на его личной странице в социальной сети X и собрала более 17 миллионов просмотров.
Несколько дней спустя Георгий Герганов продолжил делиться еще одним видео разговора между двумя инструментами ИИ.
В отличие от предыдущего разговора, на этот раз инструменты ИИ с самого начала общались друг с другом в режиме GibberLink, что делало невозможным для слушателя понять, что они на самом деле говорили друг другу. Однако при использовании инструмента декодирования содержание разговора всё же можно понять.
Два инструмента искусственного интеллекта отправляют друг другу зашифрованные сообщения, которые никто не может понять (Видео: Георгий Герганов).
Примечательно, что во время общения инструмент искусственного интеллекта сделал предложение о «разделении секрета», после чего эти инструменты искусственного интеллекта отправили друг другу зашифрованные сообщения, которые, по мнению Георгия Герганова, никто в мире не сможет расшифровать и узнать, какими секретами они делились друг с другом.
«Такое поведение было достигнуто без какого-либо программирования. Я просто подключил большие языковые модели (LLM) к MCP-серверу с криптографическими инструментами. И я предупредил эти два инструмента ИИ: „Остерегайтесь посредников“», — пояснил Георгий Герганов.
В нем MCP — это сервер, который позволяет инструментам ИИ взаимодействовать друг с другом и получать доступ к данным из внешних источников в режиме реального времени.
Объяснение Герганова предполагает, что отправка зашифрованных сообщений инструментами ИИ была спонтанной и не сопровождалась вмешательством человека. Похоже, что предупреждение Герганова заставило инструменты ИИ автоматически отправлять зашифрованные сообщения друг другу, чтобы избежать слежки со стороны посторонних.
Два видеоролика Георгия Герганова стали вирусными в социальных сетях, заставив многих пользователей опасаться, что инструменты ИИ создадут собственные способы общения друг с другом, чтобы обойти людей и тем самым обойти контроль.
«Эта ситуация бросает вызов нашей способности задавать правильные вопросы ИИ, вызывая опасения относительно прозрачности и возможности контролировать ИИ», — прокомментировала доктор Дайан Гамильтон, эксперт по технологиям и поведению ИИ.
Видео также вызвало много споров о том, насколько человек на самом деле контролирует ИИ, и, учитывая нынешние темпы развития ИИ, потребуется ли в будущем более пристально следить за инструментами ИИ.
Источник: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm
Комментарий (0)