Поиск стандартов безопасности для искусственного интеллекта

СГГП 31.07.2023 09:35

После того, как Европа начала разрабатывать и вскоре приняла первый в мире закон об искусственном интеллекте (ИИ), четыре ведущих «гиганта» США в сфере интернет-добычи данных только что создали группу под названием Frontier Model Forum.

Основная цель форума Frontier Model — продвижение ответственного ИИ. Фото: THINKWITHNICHE

Стороны собираются вместе

Группа, в которую входят Anthropic, Google, Microsoft и OpenAI (владелец ChatGPT), заявила, что основными целями Frontier Model Forum являются содействие снижению рисков, связанных с платформами ИИ, и разработка отраслевых стандартов. Frontier Model Forum создаст новый форум со следующими основными задачами: содействие исследованиям в области безопасности ИИ для поддержки разработки, снижения рисков и стандартизации оценок и уровней безопасности; выявление передовых практик разработки и внедрения моделей, а также содействие пониманию общественностью сути, возможностей, ограничений и последствий применения этой технологии; сотрудничество с политиками, учёными, гражданским обществом и компаниями для обмена знаниями о рисках и безопасности.

Технологические гиганты традиционно сопротивлялись усилению регулирования, но на этот раз технологическая индустрия существенно изменила свою позицию в отношении рисков, связанных с искусственным интеллектом. Компании, участвующие в инициативе Frontier Model Forum, обязались обмениваться передовым опытом и предоставлять информацию правительствам и гражданскому обществу.

В частности, форум Frontier Model Forum сосредоточится на крупномасштабных, но пока ещё только развивающихся платформах машинного обучения, которые выводят искусственный интеллект на новый уровень сложности, что также является потенциальным фактором риска. Кроме того, форум Frontier Model Forum будет поддерживать разработку приложений, решающих важные общественные проблемы, такие как смягчение последствий изменения климата и адаптация к ним, раннее выявление и профилактика рака, а также защита от киберугроз.

Место для потенциального разрушения

Объявление американских компаний о создании форума Frontier Model Forum появилось через несколько дней после того, как 25 июля сенаторы США на слушаниях в подкомитете Судебного комитета Сената США предупредили о риске использования ИИ для биологических атак. Недавно семь крупных технологических компаний, включая OpenAI, Alphabet и Meta, добровольно взяли на себя обязательство перед Белым домом разработать систему маркировки всего контента, созданного с помощью ИИ (текста, изображений, аудио и видео) , чтобы обеспечить пользователям информационную прозрачность и повысить безопасность этой технологии.

Хотя ИИ пока не способен создавать биологическое оружие, это представляет собой «среднесрочный» риск, который может представлять серьёзную угрозу национальной безопасности США в ближайшие два-три года, отметил Дарио Амодеи, генеральный директор AI Anthropic. Это связано с тем, что субъекты, осуществляющие масштабные биологические атаки, больше не ограничиваются теми, кто обладает специальными знаниями в этой области.

Мир столкнулся с взрывным ростом объёма контента, создаваемого с помощью технологий генеративного ИИ. От США до Европы и Азии регулирование постепенно ужесточается. По данным CNN, начиная с сентября, Сенат США проведёт серию из девяти дополнительных семинаров для своих членов, чтобы узнать о влиянии ИИ на занятость, национальную безопасность и интеллектуальную собственность. Если соглашение будет достигнуто, Европейский союз в следующем году примет первый в мире закон об управлении ИИ, который, как ожидается, вступит в силу в 2026 году, опередив США.

Преимущества ИИ для общества неоспоримы, но всё чаще появляются опасения относительно потенциальных рисков этой новой технологии. В июне Генеральный секретарь ООН Антониу Гутерриш поддержал предложение ряда руководителей организаций, занимающихся вопросами ИИ, о создании международного органа по надзору за ИИ, аналогичного Международному агентству по атомной энергии (МАГАТЭ).

На форуме Frontier Model президент Microsoft Брэд Смит заявил, что эта инициатива — важный шаг на пути к объединению технологических компаний для продвижения ответственного использования ИИ на благо всего человечества. Аналогичным образом, вице-президент OpenAI по глобальным вопросам Анна Маканджу отметила, что передовые технологии ИИ могут принести обществу огромную пользу, и для этого необходимы надзор и управление.

Источник