Мошенничество с использованием искусственного интеллекта — серьезная угроза кибербезопасности

Фишинг уже давно стал излюбленным оружием хакеров в киберпространстве . Он служит прелюдией к различным атакам, позволяя кражу учётных данных, проникновение в инфраструктуру и срыв операций.

Появление искусственного интеллекта (ИИ) несет с собой как потенциал, так и проблемы, особенно в плане кибербезопасности.

Распространение предобученных моделей машинного обучения (GPT) открыло новое измерение угроз в сфере кибербезопасности. GPT — это крупная языковая модель и ведущая платформа для генеративного ИИ.

Возможность масштабного создания убедительного искусственного текста вызывает опасения у экспертов по безопасности. Это может оказать серьёзное влияние на борьбу с мошенничеством с использованием искусственного интеллекта, мошенничеством с электронной почтой, включая компрометацию деловой электронной почты (BEC).

Фишинг основан на том, чтобы обманным путём заставить конечного пользователя поверить, что электронное письмо отправлено от легитимного источника. GPT может помочь в этом процессе, создавая ответы, соответствующие стилю и языку, создавая у получателя ощущение, что он общается с доверенным лицом или коллегой. Это значительно усложняет различение текста в сообщениях, сгенерированного компьютером, и текста, сгенерированного человеком.

Несмотря на наличие инструментов для идентификации машинно-генерируемого текста, мы должны быть готовы к сценарию, когда GPT-теги эволюционируют и смогут обойти эти средства защиты. Кроме того, хакеры могут использовать модели, подобные GPT, для создания изображений, видео или атак на определённые отрасли, что ещё больше повышает риски кибербезопасности.

Чтобы снизить эти угрозы, частным лицам и организациям необходимо заблаговременно внедрять решения для защиты электронной почты на базе искусственного интеллекта. ИИ способен эффективно противостоять современным методам киберпреступности и выявлять подозрительную активность.

Методы многофакторной аутентификации (MFA) и биометрической идентификации могут повысить безопасность, обеспечивая дополнительный уровень защиты от вторжений хакеров.

Помимо технологических мер, для повышения эффективности человеческого фактора в борьбе с фишинговыми атаками важны регулярные программы обучения и повышения осведомленности. Человеческий опыт и бдительность помогут эффективно распознавать и реагировать на попытки фишинга. Геймификация и моделирование могут использоваться для повышения осведомленности и выявления пользователей, подверженных риску кибератак.

В связи с растущим распространением фишинговых кампаний с использованием GPT организациям необходимо принимать проактивные меры по обеспечению кибербезопасности. Понимая возможности технологии GPT и внедряя надёжные меры безопасности, мы можем эффективно защищаться от этой растущей угрозы фишинга с использованием искусственного интеллекта.

(от Barracuda)

Источник: https://vietnamnet.vn/lua-dao-bang-ai-moi-de-doa-nghiem-trong-doi-voi-an-ninh-mang-2205857.html