Может ли проект «супер ИИ», угрожающий человечеству, способствовать увольнению генерального директора OpenAI Альтмана?

В сообщении от 23 ноября агентство Reuters со ссылкой на два источника сообщило, что письмо никогда ранее не упоминалось и что алгоритм ИИ был важной разработкой до увольнения Сэма Альтмана, соучредителя и генерального директора OpenAI, 17 ноября. По словам этих источников, письмо было одним из факторов в списке причин решения об увольнении совета директоров OpenAI.

Исследователи, написавшие и отправившие письмо, не сразу отреагировали на просьбу прокомментировать ситуацию.

Альтман триумфально вернулся поздно вечером 21 ноября, после того как более 700 сотрудников OpenAI пригрозили уйти и присоединиться к Microsoft вместе с уволенным генеральным директором. Это положило конец почти неделе беспорядков с серией неожиданных событий в OpenAI, одной из самых известных исследовательских компаний в области ИИ в мире на сегодняшний день и владельце популярного приложения ChatGPT.

OpenAI sa thải CEO sau bức thư cảnh báo mối nguy từ thuật toán AI mới? - Ảnh 1. — Г-н Альтман на мероприятии АТЭС в США 16 ноября.

По словам одного из источников, один из давних старших менеджеров OpenAI Мира Мурати 22 ноября рассказала сотрудникам о проекте под названием Q* (произносится как «Q Star») и сообщила, что совету директоров компании было отправлено письмо еще до потрясений в мировой технологической отрасли в прошлые выходные.

После того, как эта история стала достоянием общественности, представитель OpenAI заявил, что г-жа Мурати сообщила сотрудникам, о чем собираются сообщить СМИ, но она не стала комментировать точность информации.

Сэм Альтман возвращается на пост генерального директора OpenAI

Один из источников сообщил, что OpenAI достигла прогресса в проекте Q*. Некоторые люди в компании считают, что проект может стать прорывом в стремлении OpenAI к сверхинтеллекту, также известному как искусственный общий интеллект (AGI). Компания определяет AGI как систему ИИ, которая умнее людей.

По словам источника, благодаря своим огромным вычислительным ресурсам новая модель может решать некоторые задачи. Хотя модель занимается только математикой на уровне начальной школы, способность решать такие задачи позволяет исследователям с большим оптимизмом смотреть на будущий успех Q*, сказал источник.

Исследователи рассматривают математику как передовой рубеж в развитии генеративного ИИ. В настоящее время генеративный ИИ может писать и переводить между языками, хотя ответы на одни и те же вопросы могут быть очень разными. Но овладение математикой — областью, где есть только один правильный ответ — подразумевает, что ИИ станет лучше рассуждать, как человеческий интеллект. Исследователи ИИ считают, что это можно применить к новым научным исследованиям.

В отличие от компьютера, который может выполнять только ограниченный набор вычислений, AGI может обобщать, учиться и понимать проблемы. В письме совету директоров OpenAI исследователи подчеркнули мощь и потенциальные опасности ИИ, согласно источникам. Ученые-компьютерщики давно обсуждают опасности, исходящие от сверхразумных машин, например, могут ли они решить уничтожить человечество ради собственной выгоды.

В этом контексте г-н Альтман возглавил усилия по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлечению инвестиций (и вычислительных ресурсов) от Microsoft, необходимых для приближения к обобщенному сверхинтеллекту (AGI).

Помимо анонса множества новых инструментов на мероприятии в этом месяце, г-н Альтман заявил мировым лидерам в Сан-Франциско на прошлой неделе, что, по его мнению, ИИОН уже достижим.

Днем позже совет директоров OpenAI уволил г-на Альтмана.

Ссылка на источник