Потенциал сопряжен с риском
Невозможно отрицать, что искусственный интеллект (ИИ) все больше оказывается мощным инструментом поддержки работников и облегчения жизни человека. Однако эти технологические продукты подобны «палке о двух концах», когда их используют злодеи для совершения мошенничества и атак в киберпространстве.
В предупреждающих бюллетенях Департамента информационной безопасности ( Министерства информации и коммуникаций ) или Ассоциации кибербезопасности было приведено множество зафиксированных случаев мошенничества с использованием технологии ИИ. Например, г-жа Нгуен Тхань Т., офисный работник в Ханое, во время чата с другом через Facebook Messenger, друг попрощался и закончил разговор, но внезапно вернулся к текстовому сообщению, попросив занять денег и предложив перевести деньги на банковский счет. Хотя имя счета совпадало с именем ее друга, г-жа Т. заподозрила неладное, поэтому запросила видеозвонок для проверки. Подруга сразу согласилась, но звонок длился всего несколько секунд из-за «прерывистой сети».
Увидев лицо своей подруги в видеозвонке и услышав правильный голос, г-жа Т. перевела деньги. Однако только после того, как перевод прошел успешно, она поняла, что попала в ловушку хакера.
Не только г-жа Т., но и многие другие жертвы, друзья и родственники, были обмануты таким же образом. Сумма денег, которую мошенники выманили, выдавая себя за человека с помощью инструмента Deep fake и голоса, достигла десятков миллионов донгов.
Еще одним типичным примером использования ИИ для присвоения активов является случай г-на NTH, когда при использовании телефона Android мошенники установили ловушку с инструкциями по установке вредоносной ссылки. Оттуда они взяли под контроль телефон и банковские счета, чтобы перевести деньги третьему лицу. Кроме того, вредоносная программа также автоматически связывалась с доступной контактной информацией и отправляла автоматические сообщения с просьбой о переводе денег.
Г-н NTH сказал, что самозванец представился « полицейским », позвонил по его номеру телефона и попросил подтвердить его персональные идентификационные данные. Поскольку он был старым, незнакомым с технологиями и доверчивым, жертва передала свой телефон третьему лицу, чтобы попросить его следовать инструкциям мошенника, тем самым загрузив и установив на свой телефон вредоносное приложение «DichVuCong.apk».
Г-н Тран Нгуен Чунг, руководитель отдела безопасности информационных систем (отдел информационной безопасности), сказал: «После развития технологий ИИ обнаружение и различение реального и поддельного контента в киберпространстве станет более сложным, и любой может стать целью, жертвой кибератак преступников, использующих технологии ИИ. Однако стать жертвой или нет, зависит от оснащенности каждого человека необходимыми знаниями и информацией».
Эта ситуация с мошенничеством с использованием технологий ИИ наблюдается не только во Вьетнаме, но и во многих странах мира. В настоящее время агентства, организации и крупные технологические корпорации работают вместе, чтобы найти меры и технические решения для обнаружения и предотвращения этого на корню.
В настоящий период важной мерой является содействие пропаганде, повышение осведомленности людей о методах, приемах и способах распознавания и борьбы с этой сложной формой подделки, чтобы помочь уменьшить и ограничить влияние deepfake на деятельность в киберпространстве. Проактивно выпускать широкомасштабные предупреждения в средствах массовой информации, когда появляются новые разработки и формы мошенничества.
«В случае получения угрожающих звонков с конфиденциальными изображениями или видео людям необходимо сохранять спокойствие, проверять и тщательно исследовать происхождение изображений и видео», — сказал г-н Тран Нгуен Трунг.
Согласно исследовательскому отчету «Определение рисков для мировой экономики в 2024 году» Университета экономики (UEB) при Вьетнамском национальном университете в Ханое, одним из рисков, влияющих на мировую экономику, является риск в технологическом секторе. В отчете говорится, что в условиях быстрого появления ИИ политика управления не успевает за развитием ИИ. Дезинформация, которую предоставляет ИИ, особенно в год с таким количеством выборов в мире, как этот, создавала и создает множество проблем, связанных с безопасностью, политикой, обороной и миром во всем мире.
В беседе с журналистами газеты Tin Tuc заместитель министра науки и технологий Нгуен Хоанг Жанг сказал: «Премьер-министр издал Постановление № 127/2021 о национальной стратегии исследований, разработки и применения искусственного интеллекта до 2030 года. Для его реализации Министерство науки и технологий, а также другие министерства и отрасли внедряют его радикально и синхронно, например, Министерство юстиции исследует юридический аспект. Министерство информации и коммуникаций исследует цифровые технологии. Министерство науки и технологий также поддерживает, исследует и развивает промышленность 4.0; исследует и применяет развитие информационных технологий, служа развитию цифровых и умных городов. Однако с быстрым и сильным развитием также проявляются негативные аспекты и риски ИИ, когда он используется киберпреступниками в целях мошенничества, выдачи себя за другое лицо, угроз, присвоения имущества и т. д.
До настоящего времени Министерство науки и технологий и правительство наряду с исследованиями также активно создают правовую базу, изучая опыт других развитых стран, чтобы сфера ИИ во Вьетнаме могла развивать свой потенциал, способствовать развитию, а также строго контролировать, обеспечивать этику и гуманность в области искусственного интеллекта.
Быстрое развитие инструментов ИИ подняло много вопросов, касающихся прав человека, этики, конфиденциальности, информационной безопасности и юридической ответственности. По сравнению с остальным миром Вьетнам все еще находится на ранних стадиях развития ИИ. Поэтому необходимы конкретные правила и политики в области ИИ, которые подходят для всех аспектов жизни, экономики и общества во Вьетнаме.
Срочно выпустить правовую базу
Управление темной стороной ИИ также является темой, которая обсуждается в некоторых странах. Европейский парламент одобрил первый в мире набор основных правил регулирования искусственного интеллекта. Многие эксперты в области технологий считают, что этот набор правил поможет ЕС достичь обеих целей: минимизировать негативное влияние технологического развития на пользователей, а также догнать доминирующее положение ключевых конкурентов на рынке.
Вскоре после этого Генеральная Ассамблея Организации Объединенных Наций приняла резолюцию об искусственном интеллекте (ИИ), обеспечив всеобщую поддержку международным усилиям по обеспечению того, чтобы эта новая технология приносила пользу всем странам, обеспечивала соблюдение прав человека и была «безопасной, защищенной и заслуживающей доверия».
Г-н Ву Нгок Сон, технический директор National Cyber Security Technology Joint Stock Company, сказал: «ИИ — это технология, которая служит интересам человека, поддерживая автоматизацию множества различных этапов работы. Это мощный инструмент, используемый для множества различных целей, таких как предоставление услуг вопросов и ответов, производство программного обеспечения и т. д. Однако ИИ также имеет отрицательную сторону, когда он попадает в руки злоумышленников с целью создания мошеннического контента и вредоносных кодов для атак на пользователей. Соответственно, ИИ не является инструментом специально для создания продуктов или преступлений, но важным вопросом является «как использовать» ИИ.
«Я думаю, что санкции и правовые коридоры на самом деле не поспевают за темпами развития ИИ. Нам понадобится время, чтобы разработать и внедрить политику, ограничивающую риски использования ИИ в плохих целях, влияющих на права человека, а также безопасность, порядок и социальную защищенность», — сказал г-н Ву Нгок Сон.
Доктор Данг Минь Туан, директор Института CMC ATI, сказал: «С одной стороны, нам все еще нужно продолжать исследовать и разрабатывать новые технологии, обновлять и изучать приемы использования ИИ в плохих целях. С другой стороны, мы также должны поощрять честность в науке и в работе. Соответственно, должны быть корректировки и инвестиции в контент и конкретные политики для этого инструмента во Вьетнаме. В частности, мы также можем использовать инструменты ИИ для обнаружения вредоносного контента и кода. ИИ — это как «палка о двух концах», создающая непрерывный, непрерывный и непрерывно совершенствующийся процесс с конечной целью — служить интересам человека».
Эксперты утверждают, что необходимо ответственно контролировать разработку высокотехнологичной продукции, поскольку неспособность регулировать и осваивать технологии приведет к непредсказуемым последствиям, нанося ущерб экономике и затрагивая как каждого отдельного человека, так и все общество.
Принятие конкретных и прозрачных правил не только поможет предотвратить и минимизировать риски, которые может вызвать ИИ, но и поможет Вьетнаму привлечь внимание и инвестиции со стороны ведущих мировых технологических предприятий, способствуя развитию отечественной индустрии информационных технологий и ИИ.
Заключительная статья: Параллельная разработка и управление ИИ
Источник: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238
Комментарий (0)