Модель «суперинтеллекта», стоящая за скандалом OpenAI

По данным источников Tech.co , пока шли споры об увольнении генерального директора Сэма Альтмана и его последующем возвращении в OpenAI, одним из слухов было письмо, отправленное исследователями компании совету директоров, в котором выражалась обеспокоенность разрабатываемой моделью сверхразума на основе ИИ, которая потенциально может представлять угрозу человечеству.

Проект Q*

Модель, известная внутри компании как Project Q* (произносится как «Кью-стар»), как утверждается, представляет собой крупный прорыв в стремлении OpenAI к созданию общего искусственного интеллекта (ОИИ) — высокоавтономной ветви сверхинтеллекта, способной к кумулятивному обучению и превосходящей людей в решении большинства задач.

По словам людей, знакомых с этим вопросом, Q* может ознаменовать собой большой шаг вперед в развитии искусственного интеллекта, радикально улучшив возможности рассуждения ИИ и приблизив OpenAI к крупному прорыву в разработке AGI.

В отличие от существующих моделей ИИ, которые фокусируются на способности генерировать ответы на основе ранее изученной информации, ИИОН представляет собой автономную систему, которая может применять «разум» к решениям, что дает ей возможности решения проблем на человеческом уровне.

Хотя ИИ еще не полностью реализован, многие эксперты полагают, что эта технология также будет обладать способностью к кумулятивному обучению, что является еще одной особенностью, которая дает людям возможность улучшать свои способности.

Некоторые источники утверждают, что проект Q* (OpenAI) смог продемонстрировать вышеперечисленные свойства при решении задач. Более того, благодаря огромной вычислительной мощности модели, Q* превзошёл учеников начальной школы, продемонстрировав навыки рассуждения и когнитивные способности, значительно превосходящие возможности современных технологий искусственного интеллекта.

Неясно, как долго Q* находился в разработке и каковы могут быть его сферы применения, но OpenAI проинформировала сотрудников и членов совета директоров о проекте еще до того, как разразился кадровый скандал.

Этические проблемы

Хотя генеральный директор OpenAI Сэм Альтман уверен, что технология AGI будет стимулировать инновации, некоторые исследователи поспешили указать на потенциальные опасности проекта.

В письме совету директоров исследователи предупредили о потенциальной опасности этого мощного алгоритма для человечества. Конкретные этические опасения по поводу ИИ, изложенные в письме, не были раскрыты, но этих предупреждений было достаточно, чтобы оправдать решение совета директоров об увольнении Альтмана.

Между тем, первоначальной причиной увольнения Альтмана было заявлено, что генеральный директор «плохо общался с сотрудниками». Вскоре он нашёл новую должность в Microsoft. Это побудило 700 из 770 сотрудников OpenAI пригрозить сделать то же самое, если генеральный директор не будет восстановлен в должности.

Когда компания оказалась под угрозой краха, совет директоров OpenAI был вынужден восстановить Альтмана на руководящей должности, что также привело к серьезной перестройке руководящей команды компании и выявило глубокие разногласия в ее руководстве.

Теперь, когда Альтман вернулся в офис и проекту Q*, скорее всего, снова дадут зеленый свет, возникают новые вопросы.

Насколько реалистичен проект Q*?

Хотя бурные дни OpenAI вынесли концепцию AGI в центр внимания, Альтман не в первый раз упоминает эту технологию.

Предприниматель из Кремниевой долины оказался в затруднительном положении в сентябре, сравнив ИИ с «обычным человеком, которого можно нанять в качестве коллеги». Он продолжил свои прошлогодние комментарии о том, что ИИ может «делать всё, что вы можете делать с удалённым коллегой», в том числе научиться быть врачом и хорошим программистом.

Хотя сравнение ИИ с интеллектом «среднего человека» не является чем-то новым, использование Альтманом этой фразы было сочтено «отвратительным» специалистом по этике ИИ и профессором Кембриджского университета Генри Шевлином, поскольку растет обеспокоенность по поводу влияния ИИ на безопасность труда.

Потенциальные прорывы в области ОИИ также вызывают тревогу у других исследователей: технология развивается быстрее, чем люди могут в полной мере осознать ее влияние.

OpenAI считает, что положительные результаты применения искусственного интеллекта оправдывают рискованные усилия на этом «минном поле». Однако, поскольку компания продолжает двигаться в этом направлении, многие опасаются, что Альтман ставит коммерческий успех выше интересов пользователей и общества.

Фуонг Ань (Источник: Tech.co, The Guardian)

Источник