Китай предупреждает о рисках ИИ и призывает к укреплению национальной безопасности

В заявлении, опубликованном по итогам встречи во вторник, подчеркивается решимость Китая добиться мирового лидерства в области передовых технологий и обеспокоенность возможным политическим и социальным вредом этих технологий.

Китай предупреждает о рисках, призывает к укреплению национальной безопасности, фото 1 — Председатель КНР Си Цзиньпин. Фото: NBC

Ранее ученые и руководители технологических компаний США, включая руководителей высшего звена Microsoft и Google, также выступили с предупреждениями о рисках, которые искусственный интеллект представляет для человечества.

По данным агентства «Синьхуа», на встрече в Пекине обсуждалась необходимость «целеустремленных усилий по защите политической безопасности и улучшению управления безопасностью интернет-данных и искусственным интеллектом».

Председатель Си Цзиньпин призвал «всегда остро осознавать сложные и трудные ситуации, с которыми сталкивается национальная безопасность... Китаю нужна новая модель развития с новой структурой безопасности».

«На последнем партийном собрании была подчеркнута необходимость оценки потенциальных рисков, принятия превентивных мер, защиты интересов людей и национальной безопасности, а также обеспечения безопасности, надежности и контроля над ИИ», — сообщила во вторник газета Beijing Youth Daily.

Растут опасения по поводу того, что системы искусственного интеллекта станут умнее людей и выйдут из-под контроля, особенно в случае с крупными языковыми моделями, такими как ChatGPT.

Сэм Альтман, генеральный директор OpenAI, создателя ChatGPT, и Джеффри Хинтон, ученый-компьютерщик, известный как отец искусственного интеллекта, входят в число сотен ведущих деятелей, подписавших во вторник заявление, опубликованное на веб-сайте Центра безопасности ИИ.

«Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война», — говорится в заявлении.

Ранее в этом году более 1000 исследователей и ученых, включая Илона Маска, подписали письмо, призывающее к шестимесячной паузе в разработке ИИ.

В письме говорится, что ИИ представляет «серьезную угрозу обществу и человечеству», и некоторые заинтересованные стороны предложили принять универсальный договор под эгидой ООН для регулирования этой технологии.

Китай предупреждает о необходимости регулирования ИИ с 2018 года, но по-прежнему финансирует масштабное расширение этой области в рамках глобальных новаторских усилий.

Риски ИИ связаны прежде всего с его способностью управлять роботами, автономным оружием, финансовыми инструментами и компьютерами, которые управляют электросетями, медицинскими центрами, транспортными сетями и другой критически важной инфраструктурой.

Хоанг Тон (по данным AP)

Источник