Во Вьетнаме появился первый свод этических правил для искусственного интеллекта

Ожидается, что искусственный интеллект (ИИ) принесёт огромную пользу людям, обществу и экономике Вьетнама. Наряду с применением ИИ, Вьетнам изначально исследовал и принял меры по минимизации рисков в процессе разработки и использования ИИ, соблюдая баланс экономических, этических и правовых факторов.

По этой же причине Министерство науки и технологий (MOST) выпустило ряд документов, определяющих ряд принципов ответственного исследования и разработки систем искусственного интеллекта.

В руководящем документе изложен ряд общих принципов и добровольных рекомендаций для справки и применения в процессе исследования, проектирования, разработки и предоставления систем искусственного интеллекта.

Научным и технологическим учреждениям, организациям, предприятиям и отдельным лицам, занимающимся исследованиями, проектированием, разработкой и предоставлением систем искусственного интеллекта, рекомендуется применять настоящий руководящий документ.

W-vien-han-lam-illustration-ai-tri-tue-nhan-tao-1.jpg
Модели роботов Вьетнамской академии наук и технологий на Вьетнамской международной выставке инноваций 2023 года. Фото: Trong Dat

Соответственно, исследования и разработки систем искусственного интеллекта во Вьетнаме должны основываться на фундаментальной точке зрения движения к обществу, ориентированному на человека, где каждый будет пользоваться преимуществами искусственного интеллекта, обеспечивая разумный баланс между выгодами и рисками.

Научно-исследовательские и опытно-конструкторские работы в области систем искусственного интеллекта во Вьетнаме направлены на обеспечение технологической нейтральности. Министерство науки и технологий во всех случаях поощряет обмен опытом и обсуждения с участием заинтересованных сторон. Принципы и рекомендации будут продолжать изучаться и обновляться с учетом практической ситуации.

Министерство науки и технологий заявило, что публикация документа направлена на повышение интереса к исследованию, разработке и использованию искусственного интеллекта во Вьетнаме безопасным и ответственным образом, минимизируя негативное воздействие на людей и общество. Это повысит доверие пользователей и общества к ИИ и будет способствовать исследованиям и разработкам в этой области во Вьетнаме.

Принципы ответственной разработки ИИ

В документе разработчикам рекомендуется продемонстрировать дух сотрудничества, способствуя инновациям посредством подключения и взаимодействия систем искусственного интеллекта. Разработчики должны обеспечить прозрачность, контролируя входные и выходные данные систем искусственного интеллекта и предоставляя возможность объяснять соответствующую аналитику.

Разработчикам необходимо уделять внимание возможности управления системами искусственного интеллекта и заранее оценивать сопутствующие риски. Один из способов оценки рисков — проведение тестирования в отдельном помещении, например, в лаборатории или среде, где гарантирована безопасность, перед внедрением решений на практике.

Кроме того, чтобы обеспечить управляемость систем ИИ, разработчикам следует уделять внимание мониторингу системы (с помощью инструментов оценки/мониторинга или исправления/обновления на основе отзывов пользователей) и мерам реагирования (завершение работы системы, отключение сети и т. д.), выполняемым людьми или доверенными системами ИИ.

ИИ Робот ИИ Анан 3.jpg
Молодой человек задаёт вопрос искусственному интеллекту «роботу» Анану, разработанному вьетнамскими инженерами. Фото: Тронг Дат

Разработчикам необходимо гарантировать, что система ИИ не причинит вреда жизни, здоровью или имуществу пользователей или третьих лиц, в том числе через посредников; необходимо уделять внимание безопасности системы ИИ, ее надежности и способности противостоять физическим атакам или несчастным случаям; необходимо гарантировать, что система ИИ не нарушает конфиденциальность пользователей или третьих лиц. Права на неприкосновенность частной жизни, упомянутые в данном принципе, включают право на неприкосновенность пространства (спокойствие в личной жизни), право на конфиденциальность информации (персональных данных) и конфиденциальность сообщений.

При разработке систем искусственного интеллекта разработчики должны уделять особое внимание соблюдению прав и достоинства человека. В зависимости от характеристик применяемой технологии, разработчики должны принимать меры, чтобы исключить дискриминацию или несправедливость, вызванные предвзятостью (предубеждениями) в обучающих данных. Кроме того, разработчики должны нести ответственность перед заинтересованными сторонами и оказывать поддержку пользователям.

Журналистика эпохи 4.0 не должна упустить «скоростной поезд» ИИ . Вместо того, чтобы колебаться и бояться ИИ, журналистам следует активно внедрять искусственный интеллект в работу редакций.