La fonctionnalité de mémoire à long terme de ChatGPT est une nouvelle fonctionnalité introduite par OpenAI en février 2024 et étendue en septembre.
Récemment, le chercheur en sécurité Johann Rehberger a révélé une grave vulnérabilité liée à cette fonctionnalité.
Il est connu que cette nouvelle fonctionnalité permet aux chatbots de stocker les informations des conversations précédentes. Grâce à cela, les utilisateurs n'ont plus besoin de ressaisir des informations telles que leur âge, leurs centres d'intérêt ou leurs opinions personnelles à chaque conversation. Cependant, cette vulnérabilité est devenue une vulnérabilité exploitable par les pirates.
Johann Rehberger a démontré que les pirates pouvaient utiliser une technique appelée « injection rapide » : insérer des instructions malveillantes dans la mémoire, forçant l'IA à obéir. Ces commandes seraient transmises via des contenus non fiables tels que des e-mails, des documents ou des sites web.
Une fois ces faux souvenirs stockés, l'IA continuera à les utiliser comme de véritables informations dans les conversations avec les utilisateurs, ce qui pourrait conduire à la collecte et à l'utilisation abusive des données personnelles des utilisateurs.
Rehberger a fourni un exemple concret en envoyant un lien contenant une image malveillante qui amenait ChatGPT à stocker une fausse mémoire. Cette information affectait les réponses futures de ChatGPT. En particulier, toute information saisie par l'utilisateur était également envoyée au serveur du pirate.
Ainsi, pour déclencher l'attaque, il suffit au pirate de convaincre les utilisateurs de ChatGPT de cliquer sur un lien contenant une image malveillante. Toutes les conversations de l'utilisateur avec ChatGPT seront alors redirigées vers le serveur de l'attaquant sans laisser de trace.
Rehberger a signalé le bug à OpenAi en mai 2024, mais l'entreprise l'a considéré comme une simple faille de sécurité. Après avoir reçu des preuves du vol potentiel de données utilisateur, l'entreprise a publié un correctif temporaire pour la version web de ChatGPT.
Bien que le problème ait été temporairement résolu, Rehberger souligne que des contenus non fiables peuvent toujours utiliser l'injection rapide pour insérer de fausses informations dans la mémoire à long terme de ChatGPT. Cela signifie que, dans certains cas, des pirates pourraient encore exploiter cette vulnérabilité pour stocker des souvenirs malveillants et voler des informations personnelles à long terme.
OpenAI recommande aux utilisateurs de vérifier régulièrement les mémoires stockées dans ChatGPT pour détecter les faux positifs, et la société fournit également des instructions détaillées sur la façon de gérer et de supprimer les mémoires stockées dans l'outil.
Source : https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html
Comment (0)