Безопасность в век высоких технологий

Штаб-квартира Европейского полицейского агентства (Европол) в Гааге, Нидерланды.

По данным Европола, ИИ «непреднамеренно» помог преступникам повысить свою эффективность во многих областях, таких как торговля наркотиками, торговля людьми, киберпреступность и кража личных данных. Эксперт по технологиям Брюс Шнайер, советник Европола, признал: «ИИ делает преступников более опасными, чем когда-либо. Традиционные методы проверки личности больше не достаточно эффективны для борьбы с дипфейками».

«Организованная преступность становится все более изощренной и переходит в онлайн, ускоряясь под воздействием искусственного интеллекта и новых технологий. Это гонка между теми, кто использует технологии для совершения преступлений, и теми, кто использует технологии для борьбы с преступностью. Мы должны гарантировать, что правоохранительные органы будут оставаться впереди», — предупредила Кэтрин Де Болле, исполнительный директор Европола.

В середине февраля этого года в Париже, Франция, прошел саммит AI Action Summit. Мероприятие проходило в контексте индустрии ИИ, которая стала свидетелем множества колебаний, особенно появления новых моделей ИИ, которые, как говорят, оказывают значительное влияние на мировой рынок. Выступая на конференции, президент Франции Эммануэль Макрон выразил надежду на сотрудничество в целях продвижения моделей ИИ с открытым исходным кодом, создания условий для развития бизнеса в этой области, а также эффективного предотвращения технологических преступлений.

В конференции приняли участие многие высокопоставленные руководители и предприниматели в сфере технологий, в том числе президент Франции Эммануэль Макрон, премьер-министр Индии Нарендра Моди, вице-президент США Джей Ди Вэнс... а также лидеры из Кремниевой долины, такие как генеральный директор OpenAI, президент Microsoft и генеральный директор Google.

Эксперт в области геотехнологий Ник Райнерс заявил, что конференция может стать возможностью увидеть перестройку глобальной конкуренции в этой области, а также координацию действий в борьбе с высокотехнологичной преступностью с использованием искусственного интеллекта.

ИИ стал трендом развития, нравится нам это или нет, пока ни одна страна не осталась в стороне. Хотя опасения все еще есть. На ежегодном Всемирном экономическом форуме 2025, который прошел в Давосе (Швейцария) в конце января 2025 года, он также привлек внимание дискуссиями, посвященными развитию ИИ.

В частности, Генеральный секретарь ООН Антониу Гутерриш выступил с строгим предупреждением о двух основных угрозах человечеству: климатическом кризисе и неконтролируемом развитии ИИ. Г-н Гутерриш призвал страны принять срочные меры по ограничению изменения климата и предотвращению наихудших последствий. Что касается искусственного интеллекта, г-н Гутерриш подчеркнул, что ИИ приносит много пользы жизни, но также представляет собой серьезные риски, если им не управлять должным образом. Предупреждение заключалось в том, что если ИИ не контролировать должным образом, его можно использовать в качестве инструмента обмана, подрыва экономики и подрыва доверия к институтам. Он также может усугубить неравенство, поскольку многие люди не получают выгоды от этой технологии.

Генеральный секретарь ООН с тех пор призвал к глобальному сотрудничеству для решения различных проблем — от климатического кризиса до управления развитием искусственного интеллекта.

Между тем, эксперты предсказывают, что с ИИ человечество может испытать изменения, которые больше, чем любая другая технология когда-либо переживала в истории. Доктор Сики Чен - генеральный директор стартапа Runway (США) из Сан-Франциско - сказал, что предыдущие технологические достижения, от электричества до интернета, вызвали сильные социальные изменения. Однако с ИИ они еще сильнее. «С ИИ человеческое общество испытает изменения в большем масштабе, чем любые другие технологические изменения, которые мы когда-либо переживали в истории», - сказал доктор Чен, но также предупредил, что «изменение захватывающее, но также и страшное, как «палка о двух концах».

По словам доктора Джареда Спатаро, ключевого лидера корпорации Microsoft, ИИ можно считать «душой работы», если он может способствовать позитивным аспектам и ограничивать негативные. Особенно, чтобы не позволить высокотехнологичным преступникам воспользоваться преимуществами и доминировать.

По мнению Шарон Чжоу, соучредителя компании, занимающейся ИИ, технология «может настигнуть нас быстрее, чем мы сможем с ней справиться». Поэтому опередить ее — естественная стратегия, иначе мы рискуем попасть под перекрестный огонь. Чжоу сказал, что технология поднимает вопросы о будущем человечества. «Если что-то будет сильнее и умнее нас, что это значит для нас? И используем ли мы это? Или оно использует нас?»

Вот почему безопасность является «обязательной», заявил главный научный сотрудник OpenAI Илья Суцкевер в интервью MIT Technology Review, предположив, что сам международный порядок может оказаться под угрозой, если ИИ будет использоваться недобросовестными лицами.

Генеральный секретарь ООН Антониу Гутерриш однажды сказал: «Никто не в безопасности, пока все не будут в безопасности». В нынешнюю эпоху бурного развития искусственного интеллекта это высказывание становится еще более актуальным, поскольку борьба с высокотехнологичной преступностью не является обязанностью отдельного человека.

«

В цифровую эпоху, с взрывным развитием ИИ, преступный мир также стремительно меняется с развитием технологий, создавая беспрецедентные проблемы для глобальной безопасности. Согласно отчету компании по кибербезопасности Palo Alto Networks, количество глобальных атак с использованием программ-вымогателей увеличилось на 47% в 2024 году по сравнению с 2023 годом, нанеся ущерб более чем в 30 миллиардов долларов США. Злоумышленники теперь не только нацеливаются на данные, но и контролируют важные системы для вымогательства. Это уже не просто финансовая проблема, а угроза национальной безопасности. Кроме того, дипфейк-звонки используют самые передовые достижения ИИ для подделки голоса или изображения жертв, нанося огромный ущерб. Отчет Европола показывает, что количество мошенничеств с использованием дипфейка выросло на 300% за последние 2 года.

Источник: https://daidoanket.vn/an-toan-trong-thoi-dai-cong-nghe-cao-10302564.html