Мошенничество с использованием искусственного интеллекта — серьезная угроза кибербезопасности

Фишинг уже давно является излюбленным оружием хакеров в киберпространстве . Он служит прелюдией к различным атакам, позволяя кражу учетных данных, проникновение в инфраструктуру и нарушение работы.

Появление искусственного интеллекта (ИИ) несет с собой как потенциал, так и проблемы, особенно в плане кибербезопасности.

Рост числа предварительно обученных моделей машинного обучения (GPT) внес новое измерение угроз в ландшафт кибербезопасности. GPT — это большая языковая модель и ведущая структура для генеративного ИИ.

Возможность генерировать убедительный искусственный текст в масштабе вызвала опасения у экспертов по безопасности. Это может оказать огромное влияние на мошенничество на основе ИИ, мошенничество с электронной почтой, включая компрометацию деловой электронной почты (BEC).

Фишинг основан на том, что конечный пользователь обманывается, заставляя его поверить, что электронное письмо пришло от законного лица. GPT может помочь в этом процессе, создавая ответы, соответствующие стилю и языку, заставляя получателя поверить, что он общается с доверенным коллегой или человеком. Это значительно усложняет различение текста в сообщениях, сгенерированного машиной и человеком.

Хотя существуют инструменты для идентификации машинно-генерируемого текста, мы должны быть готовы к сценарию, в котором GPT эволюционируют, чтобы обойти эти защиты. Кроме того, хакеры могут использовать модели, подобные GPT, для создания изображений, видео или нацеливания на определенные отрасли, что еще больше увеличивает риски кибербезопасности.

Чтобы смягчить эти угрозы, частным лицам и организациям необходимо заранее развернуть решения по защите электронной почты на базе ИИ. ИИ может эффективно противостоять современным тактикам киберпреступности и выявлять подозрительные действия.

Методы многофакторной аутентификации (MFA) и биометрической идентификации могут повысить безопасность, обеспечивая дополнительный уровень защиты от вторжений хакеров.

Помимо технологических мер, регулярные программы обучения и повышения осведомленности важны для улучшения человеческого фактора против фишинговых атак. Человеческий опыт и бдительность помогут эффективно распознавать и реагировать на попытки фишинга. Геймификация и моделирование могут использоваться для повышения осведомленности и выявления пользователей, подверженных риску кибератак.

Поскольку фишинговые кампании, основанные на GPT, становятся все более распространенными, организации должны проявлять инициативу в своих усилиях по обеспечению кибербезопасности. Понимая возможности технологии GPT и внедряя надежные меры безопасности, мы можем эффективно защищаться от этой растущей угрозы фишинга, основанного на ИИ.

(Барракуда)

Источник: https://vietnamnet.vn/lua-dao-bang-ai-moi-de-doa-nghiem-trong-doi-voi-an-ninh-mang-2205857.html