«Лаборатория Касперского» предупреждает, что киберпреступники используют Dark AI для атак

15 августа компания Kaspersky Security опубликовала предупреждение о том, что кибератаки становятся все более изощренными и их все труднее обнаруживать из-за роста популярности Dark AI (использование ИИ во вредоносных целях, нарушение закона...) в Азиатско-Тихоокеанском регионе (АТР).

Представитель компании Kaspersky Security рассказал о киберпреступниках, использующих атаки Dark AI

Темный ИИ действует вне норм безопасности, часто допуская такие действия, как мошенничество, манипуляции, кибератаки или сбор данных без пристального контроля.

«Злоумышленники также используют ИИ для усиления своих возможностей в атаках. Наиболее распространённой формой злоупотребления ИИ сегодня является появление моделей Black Hat GPT. Это модели ИИ, специально разработанные или адаптированные для незаконных целей, таких как создание вредоносного ПО, составление фишинговых писем, генерация голосов и фейковых видеороликов…», — заявил Сергей Ложкин, руководитель отдела глобальных исследований и анализа (GReAT) «Лаборатории Касперского» по Ближнему Востоку, Турции, Африке и Азиатско- Тихоокеанскому региону.

Black Hat GPT могут существовать как полностью приватные или полуприватные модели искусственного интеллекта. Среди известных примеров — WormGPT, DarkBard, FraudGPT и Xanthorox… все они разработаны для киберпреступности, мошенничества и вредоносной автоматизации.

Ложкин сообщил, что эксперты «Лаборатории Касперского» сейчас фиксируют еще более тревожную тенденцию: кибергруппы, поддерживаемые государством или правительством , начинают использовать большие языковые модели (LLM) в своих атаках.

«Компания OpenAI недавно объявила о предотвращении более 20 скрытых кампаний влияния и кибератак, в которых использовались её инструменты ИИ. Мы будем и дальше наблюдать всё более изощрённые атаки, использующие ИИ в качестве оружия, что создаёт угрозу как государственным, так и частным экосистемам. Это тревожная тенденция, к которой всем организациям следует быть готовыми», — сказал Ложкин.

Согласно отчёту OpenAI, злоумышленники начали использовать возможности больших моделей машинного обучения (LLM), чтобы обманывать жертв и обходить традиционные уровни безопасности. Они могут создавать убедительные поддельные сообщения, отправлять жертвам массовые сообщения и создавать контент на нескольких языках.

Для усиления защиты от угроз, связанных с теневым ИИ, эксперты «Лаборатории Касперского» рекомендуют: использовать защитные решения нового поколения, такие как Kaspersky Next, для обнаружения вредоносного ПО, создаваемого ИИ, и контроля рисков в цепочке поставок; применять инструменты анализа угроз в режиме реального времени для мониторинга эксплойтов, создаваемых ИИ; усиливать контроль доступа и обучение сотрудников для ограничения использования теневого ИИ и риска утечки данных; создать центр управления безопасностью (SOC) для мониторинга угроз и быстрого реагирования на инциденты.

БА ТАН

Источник: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html