Страх, что ИИ станет «оружием» против людей

На церемонии вручения дипломов выпускникам Военно-воздушной академии США в начале августа президент США Байден предупредил о мощи искусственного интеллекта (ИИ), предсказав, что эта технология может «превзойти человеческое мышление» в недалёком будущем. « Это будет непросто. Это невероятная возможность, но нам предстоит ещё много работы», — сказал г-н Байден.

В недавнем интервью президент Microsoft Брэд Смит заявил, что без вмешательства человека ИИ может превратиться в оружие, угрожающее жизни: « Каждая появляющаяся технология может стать инструментом, помогающим людям, но она также может стать оружием. Нам нужно обеспечить, чтобы ИИ находился под контролем человека, чтобы мы могли замедлить или отключить всё при необходимости ».

В настоящее время Microsoft является одной из ведущих компаний в области разработки искусственного интеллекта и одним из первых инвестировала в OpenAI, «отца» ChatGPT. Компания потратила миллиарды долларов на исследования в области применения ИИ и интеграцию этой передовой технологии в свои продукты, включая Bing — поисковую систему, аналогичную Google. Несмотря на активное продвижение преимуществ ИИ, г-н Смит подтвердил, что Microsoft осознаёт потенциальные риски, связанные с его использованием, и в то же время призывает другие компании «поступать правильно».

Будет ли ИИ хорош или плох — зависит от того, как люди будут контролировать эту технологию.

Искусственный интеллект применяется не только в повседневных коммунальных услугах, но и стал мощным инструментом в сфере кибербезопасности. Появление ChatGPT в ноябре 2022 года стало предметом дискуссий об ИИ, продемонстрировав ощутимое влияние технологии нейронных сетей и открыв потенциал ИИ для глобальной трансформации отраслей.

Одна из тем для обсуждения вокруг ChatGPT — как киберпреступники используют эту технологию для усиления фишинговых атак и атак вредоносного ПО. Более того, исследования показывают, что хакеры могут использовать этот инструмент для генерации вредоносного кода из отдельных запросов, чтобы обойти правила безопасности.

На недавней ежегодной Неделе кибербезопасности в Индонезии компания «Лаборатория Касперского» представила концепцию кибериммунитета — способ разработки ИТ-систем с врожденными возможностями защиты.

« Cyber Immunity — это система безопасности, разработанная с учётом безопасности, способная создать решение, практически не поддающееся взлому, что сводит к минимуму количество потенциальных уязвимостей», — заявил Евгений Касперский, генеральный директор «Лаборатории Касперского». «Традиционной кибербезопасности уже недостаточно. Нам необходимо революционизировать нашу защиту, чтобы обеспечить более безопасный цифровой мир ».

Азиатско- Тихоокеанский регион (АТР) в настоящее время находится на переднем крае революции в области ИИ. Недавнее исследование IDC показало, что расходы на ИИ в регионе удвоятся за 3 года: с 9,8 млрд долларов США в 2023 году до 18,6 млрд долларов США в 2026 году. Чтобы повысить эффективность и снизить зависимость от технологий, большинство местных компаний стремятся включить ИИ в свои бизнес-технологические портфели в течение 3 лет. В настоящее время объём рынка ИИ в АТР составляет 22,1 млрд долларов США и, как ожидается, к 2028 году увеличится почти в четыре раза, достигнув 87,6 млрд долларов США.

В отчёте IDC подчёркивается, что Китай, Австралия и Индия входят в тройку лидеров по расходам на ИИ в регионе, и многие другие страны последуют их примеру. « Поэтому крайне важно уже сейчас выбрать безопасный путь, чтобы использовать эту технологию без ущерба для безопасности», — добавил Адриан Хиа, управляющий директор Азиатско-Тихоокеанского региона компании «Лаборатория Касперского».

Кхань Линь

Источник