Les nombreux défis de l'IA dans la nouvelle ère

À mesure que l’IA devient plus accessible, avec de plus en plus de particuliers et d’entreprises utilisant l’IA via des outils courants… les pirates peuvent également automatiser les attaques, accélérer les opérations et déployer des campagnes plus complexes pour atteindre leurs objectifs illégaux.

Kaspersky révèle les types de cyberattaques utilisant l'IA

Voici les types d'attaques que Kaspersky a observés : ChatGPT peut être utilisé pour développer des logiciels malveillants et déployer automatiquement des attaques sur plusieurs victimes ; les programmes d'IA infiltrent les données des utilisateurs sur les smartphones et, grâce au processus d'analyse des données sensibles, peuvent « lire » complètement les messages, les mots de passe et les codes bancaires des victimes ; les algorithmes d'intelligence en essaim aident les réseaux informatiques automatisés (bonets) à restaurer les réseaux malveillants qui ont été éliminés par les solutions de sécurité.

Les recherches de Kaspersky sur l'utilisation de l'IA pour déchiffrer les mots de passe montrent que la plupart d'entre eux sont chiffrés à l'aide d'algorithmes de hachage tels que MD5 et SHA. Par conséquent, une simple opération peut transformer un mot de passe en un flux de texte chiffré, mais inverser le processus représente un défi de taille.

Grâce à l'IA, les acteurs malveillants peuvent exploiter des contenus frauduleux, notamment des textes, des images, des fichiers audio et des vidéos , pour lancer des attaques d'ingénierie sociale. De grands modèles de langage, comme ChatGPT-4o, sont utilisés pour créer des scripts et des messages d'hameçonnage très sophistiqués. Surmontant les barrières linguistiques, l'IA peut rédiger un e-mail authentique, basé sur des informations issues des réseaux sociaux. Elle peut même imiter le style d'écriture de la victime, ce qui rend les comportements d'hameçonnage encore plus difficiles à détecter.

Parallèlement, le deepfake représente un problème de cybersécurité, bien qu'il ait été auparavant considéré comme un produit de la recherche scientifique . L'usurpation d'identité de célébrités à des fins lucratives est la méthode la plus courante. Les escrocs utilisent également le deepfake pour voler des comptes, passer de faux appels aux proches de leurs victimes et s'approprier des biens.

Outre l'exploitation de l'IA à des fins illégales, les pirates peuvent également attaquer les algorithmes d'IA. Par exemple, ils peuvent utiliser des attaques par « injection rapide » en saisissant des commandes malveillantes dans de grands modèles de langage, allant même jusqu'à enfreindre des règles auparavant restreintes. Des attaques malveillantes peuvent également être menées en ajoutant des champs d'information cachés aux images ou aux fichiers audio, afin d'affecter la capacité de classification des images des systèmes d'apprentissage automatique.

L'IA est de plus en plus intégrée à tous les aspects de la vie humaine, d'Apple Intelligence à Google Gemini en passant par Microsoft Copilot. Par conséquent, la correction des vulnérabilités de l'IA doit être une priorité absolue. Kaspersky utilise l'IA pour protéger ses clients et partenaires depuis de nombreuses années, en recherchant en permanence les vulnérabilités des systèmes d'IA, en améliorant leur résilience et en recherchant activement des techniques de cyberattaque pour offrir une protection fiable contre les attaques d'IA.

KIM THANH

Source : https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html