Исследования и разработка ответственных систем искусственного интеллекта.

По данным Министерства науки и технологий , следуя общей тенденции в мире, системы искусственного интеллекта оцениваются как приносящие большую пользу людям, обществу и экономике Вьетнама посредством поддержки и решения сложных проблем, с которыми сталкиваются люди и сообщества. Наряду с этим процессом необходимо исследовать и иметь меры по минимизации рисков в процессе разработки и использования искусственного интеллекта и балансирования связанных с этим экономических, этических и правовых факторов. Поэтому специализированным учреждениям необходимо исследовать и разрабатывать стандарты и руководящие принципы для ориентации, даже если они являются мягкими и необязательными правилами.

В рекомендациях Министерства науки и технологий изложены девять принципов ответственного исследования и разработки систем искусственного интеллекта.

Во-первых, это дух сотрудничества, способствующий инновациям: разработчикам необходимо учитывать взаимосвязь и совместимость между своими системами искусственного интеллекта и другими системами искусственного интеллекта, принимая во внимание разнообразие систем, чтобы повысить преимущества системы, одновременно улучшая координацию для контроля рисков.

Во-вторых, прозрачность: системы ИИ, соответствующие этому принципу, часто являются системами, которые могут влиять на жизнь, тело, конфиденциальность или имущество пользователей или связанных третьих лиц. В этом случае разработчикам необходимо уделять внимание возможности четко идентифицировать входы и выходы системы, а также связанной с этим объяснимости на основе характеристик применяемой технологии и того, как они используются, чтобы обеспечить доверие общества, включая пользователей.

В-третьих, управляемость: Чтобы оценить риски, связанные с управляемостью системы, разработчикам необходимо провести предварительную оценку того, соответствует ли система соответствующим техническим требованиям и стандартам. Одним из методов оценки риска является тестирование в отдельном пространстве с мерами безопасности и охраны перед его реализацией на практике.

В-четвертых, принцип безопасности: разработчикам необходимо гарантировать, что система искусственного интеллекта не причинит вреда жизни, телу или имуществу пользователей или третьих лиц, в том числе через посредников.

Пятое, принципы безопасности: Помимо соблюдения документов, инструкций и реализации предписанных мер информационной безопасности, разработчикам необходимо уделять внимание таким моментам, как: надежность и устойчивость к физическим атакам или авариям системы; конфиденциальность; целостность; и доступность необходимой информации, касающейся информационной безопасности системы...

6. Конфиденциальность: Разработчики должны гарантировать, что системы ИИ не нарушают конфиденциальность пользователей или третьих лиц. Конфиденциальность включает пространственную конфиденциальность (спокойствие в личной жизни), конфиденциальность информации (персональные данные) и конфиденциальность сообщений. Разработчикам необходимо применять текущие правила и рекомендации; можно ознакомиться с международными стандартами и рекомендациями по конфиденциальности.

Разработчики должны провести предварительную оценку рисков конфиденциальности и провести предварительную оценку воздействия на конфиденциальность. Насколько это возможно, примите меры, соответствующие характеристикам технологии, применяемой на протяжении всего процесса разработки системы, чтобы избежать вторжений в конфиденциальность при вводе в эксплуатацию.

В-седьмых, уважение прав и достоинства человека: При разработке систем искусственного интеллекта, в которых задействованы люди, разработчики должны проявлять особую осторожность, чтобы уважать права и достоинство вовлеченных лиц. Насколько это возможно, в зависимости от характеристик применяемой технологии, разработчики должны принимать меры для обеспечения того, чтобы они не вызывали дискриминации или несправедливости из-за предвзятости данных при обучении системы.

Разработчикам необходимо принять меры предосторожности, чтобы гарантировать, что система не нарушает общечеловеческие ценности и социальную этику в соответствии с основными принципами Вьетнама (например, ценности, включающие патриотизм, солидарность, самостоятельность, лояльность, честность, ответственность, дисциплину, креативность и т. д.).

8-е, поддержка пользователей: Для поддержки пользователей разработчикам системы необходимо уделять внимание таким моментам, как: Создание готовых интерфейсов для предоставления своевременной и соответствующей информации, помогающей пользователям принимать решения и удобно пользоваться системой; реализация мер по упрощению использования системы для уязвимых слоев общества (пожилых людей, инвалидов)...

9. Подотчетность: Разработчики должны нести ответственность за системы, которые они разрабатывают, чтобы обеспечить доверие пользователей. В частности, им необходимо предоставлять пользователям информацию, которая поможет им выбрать и использовать систему. Кроме того, чтобы повысить общественное принятие систем, разработчикам следует делать больше: Предоставлять пользователям информацию и описания технических характеристик разрабатываемых ими систем, алгоритмов, механизмов безопасности и т. д.; прислушиваться к мнениям и вести диалог с заинтересованными сторонами.

Источник: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html