По словам Йошуа Бенджио, между ведущими мировыми лабораториями идет ожесточенная гонка за создание более интеллектуального искусственного интеллекта, при этом не уделяется достаточного внимания и инвестиций в безопасность.

Недавно он основал некоммерческую организацию LawZero, которая занимается созданием более безопасных систем и «изоляцией» исследований от коммерческого давления.

На сегодняшний день LawZero привлекла около 30 миллионов долларов от таких известных личностей, как основатель Skype Яан Таллинн и бывший генеральный директор Google Эрик Шмидт.

1.BENGIO_Yoshua.jpg
Йошуа Бенджио, один из основателей искусственного интеллекта. Фото: Wordpress

По словам г-на Бенджио, некоммерческая организация была создана в ответ на растущее за последние шесть месяцев количество доказательств того, что сегодняшние топ-модели проявляют опасные черты характера, такие как обман, мошенничество и инстинкт самосохранения.

Например, модель Клода Опуса от Anthropic шантажировала инженеров в вымышленной ситуации, где ей грозила замена на другую систему. Исследование, проведённое в прошлом месяце, также показало, что модель o3 от OpenAI отказывалась выполнять инструкции по отключению системы.

Всего через несколько недель после увольнения 6000 сотрудников Microsoft продолжает увольнять сотни сотрудников. Спустя несколько недель после увольнения 6000 сотрудников Microsoft продолжает увольнять более 300 человек, при этом компания тратит миллиарды долларов на искусственный интеллект (ИИ).

Ученый, лауреат премии Тьюринга, отметил, что подобные инциденты «очень пугают, поскольку мы не хотим создавать на этой планете конкурентов для людей, особенно если они умнее нас».

Хотя сейчас это всего лишь контролируемые эксперименты, он опасается, что в будущем следующая версия ИИ будет достаточно умной, чтобы предсказывать, что произойдет, и обыгрывать людей с помощью обмана, который мы не можем предсказать.

«Я думаю, что мы играем с огнем», — сказал он, предсказав, что системы ИИ, которые помогут создать «чрезвычайно опасное биологическое оружие», могут стать реальностью в следующем году.

Компания LawZero, расположенная в Монреале (Канада), насчитывает 15 сотрудников и ищет новых талантливых сотрудников для создания новой безопасной системы искусственного интеллекта, которая будет выдавать истинные ответы на основе прозрачных рассуждений, а не обучаться для того, чтобы угодить пользователям.

Г-н Бенжио надеется создать модель для мониторинга и улучшения существующих служб ИИ, не допуская их действий, противоречащих интересам человека.

«Самым худшим сценарием будет вымирание человечества», — прокомментировал он.

(По данным FT)

Китай начал создавать «армию» суперкомпьютеров с искусственным интеллектом в космосе . Китай запустил первую группу из 12 спутников, чтобы начать создание масштабной сети суперкомпьютеров с искусственным интеллектом в космосе. Эта уникальная сеть поможет учёным обрабатывать данные непосредственно на орбите.

Источник: https://vietnamnet.vn/lo-con-nguoi-tuyet-chung-vi-ai-bo-gia-yoshua-bengio-vua-lam-mot-dieu-2407930.html