Обе компании будут сотрудничать с US AI Safety Institute, подразделением Национального института стандартов и технологий (NIST), федерального агентства США. Это рассматривается как важный шаг в управлении и надзоре за технологией ИИ, которая была серьезной проблемой с момента запуска ChatGPT от OpenAI.
«Это только начало, но важная веха в усилиях по ответственному управлению будущим ИИ», — заявила Элизабет Келли, директор Института безопасности ИИ США.
В рамках соглашения Институт безопасности искусственного интеллекта США предоставит обеим компаниям обратную связь по потенциальным улучшениям безопасности их моделей как до, так и после их выпуска для общественности. Институт также будет тесно сотрудничать с Институтом безопасности искусственного интеллекта Великобритании в ходе этого процесса.
«Партнерство с Институтом безопасности ИИ США использует их обширный опыт для тщательного тестирования наших моделей перед их широким внедрением. Это расширяет наши возможности по выявлению и снижению рисков, способствуя ответственной разработке ИИ», — сказал Джек Кларк, соучредитель и руководитель политики Anthropic.
Этот шаг является частью усилий по реализации указа Белого дома по искусственному интеллекту, который должен быть принят в 2023 году и направлен на создание правовой основы для быстрого развертывания моделей искусственного интеллекта в США.
Но пока федеральное правительство придерживается добровольного подхода, законодатели Калифорнии, технологического центра Америки, 28 августа приняли законопроект о безопасности ИИ на уровне штата. Законопроект, если его подпишет губернатор, введет более строгие правила в отношении отрасли ИИ.
Сэм Альтман, генеральный директор OpenAI, высказался в поддержку регулирования ИИ на национальном уровне, а не на уровне штатов, утверждая, что это поможет избежать риска создания препятствий для исследований и инноваций в области ИИ.
Действия ведущих технологических компаний и правительства США демонстрируют тенденцию к достижению баланса между инновациями и безопасностью в быстро развивающейся сфере ИИ.
Источник: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html
Комментарий (0)