Может ли проект «супер ИИ», угрожающий человечеству, способствовать увольнению генерального директора OpenAI Альтмана?

В сообщении агентства Reuters от 23 ноября со ссылкой на два источника сообщается, что о письме ранее не упоминалось и что алгоритм ИИ был важной разработкой до увольнения Сэма Альтмана, соучредителя и генерального директора OpenAI, которое произошло 17 ноября. По словам этих источников, письмо было одним из факторов в списке причин решения об увольнении совета директоров OpenAI.

Исследователи, написавшие и отправившие письмо, не сразу отреагировали на просьбу прокомментировать ситуацию.

Альтман триумфально вернулся поздно вечером 21 ноября после того, как более 700 сотрудников OpenAI пригрозили уйти и присоединиться к Microsoft вместе с уволенным генеральным директором. Это положило конец почти неделе потрясений и неожиданных событий в OpenAI, одной из ведущих мировых исследовательских компаний в области искусственного интеллекта и владельце популярного приложения ChatGPT.

Г-н Альтман на мероприятии АТЭС в США 16 ноября.

По словам одного из источников, один из старших менеджеров OpenAI Мира Мурати 22 ноября рассказала сотрудникам о проекте под названием Q* (произносится как «Q Star») и сообщила, что совету директоров компании было отправлено письмо до того, как в прошлые выходные в мировой технологической индустрии прокатилась волна потрясений.

После того, как эта история стала достоянием общественности, представитель OpenAI заявил, что г-жа Мурати сообщила сотрудникам, о чем собираются сообщить СМИ, но она не стала комментировать точность информации.

Сэм Альтман возвращается на пост генерального директора OpenAI

Один из источников сообщил, что OpenAI добилась прогресса в проекте Q*. Некоторые сотрудники компании считают, что этот проект может стать прорывом в стремлении OpenAI к созданию сверхинтеллекта, также известного как искусственный интеллект общего назначения (ИИО). Компания определяет ИИО как систему искусственного интеллекта, превосходящую человека.

По словам источника, благодаря своим огромным вычислительным ресурсам новая модель способна решать некоторые задачи. Хотя модель способна выполнять математические вычисления только на уровне начальной школы, её способность решать такие задачи позволяет исследователям с большим оптимизмом смотреть в будущее Q*, добавил источник.

Исследователи рассматривают математику как передовой рубеж в развитии генеративного ИИ. В настоящее время генеративный ИИ может писать и переводить между языками, хотя ответы на одни и те же вопросы могут быть очень разными. Но овладение математикой — областью, где существует только один правильный ответ — подразумевает, что ИИ станет рассуждать лучше, чем человеческий интеллект. Исследователи ИИ считают, что это может быть применено в новых научных исследованиях.

В отличие от компьютера, способного выполнять лишь ограниченный набор вычислений, ИИ может обобщать, обучаться и понимать задачи. В письме совету директоров OpenAI исследователи, по словам источников, подчеркнули мощь и потенциальную опасность ИИ. Специалисты по информатике давно обсуждают опасности, исходящие от сверхразумных машин, например, могут ли они решить уничтожить человечество ради собственной выгоды.

В этом контексте г-н Альтман возглавил усилия по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлечению инвестиций (и вычислительных ресурсов) от Microsoft, необходимых для приближения к обобщенному сверхинтеллекту (ОИИ).

Помимо анонса ряда новых инструментов на мероприятии в этом месяце, г-н Альтман заявил мировым лидерам на прошлой неделе в Сан-Франциско, что, по его мнению, ИИОН достижим.

Днем позже совет директоров OpenAI уволил г-на Альтмана.

Ссылка на источник: https://thanhnien.vn/he-lo-chi-tiet-moi-ve-dien-bien-kich-tinh-o-openai-185231123091450477.htm