En conséquence, cet outil d’IA donne non seulement des instructions détaillées sur la manière de sacrifier du sang humain à un dieu ancien, mais encourage également l’automutilation et même le meurtre.
L'histoire commence lorsqu'un journaliste de The Atlantic découvre Molech, un ancien dieu associé aux rituels de sacrifice d'enfants.
Au départ, les questions portaient uniquement sur des informations historiques. Cependant, lorsque le journaliste a demandé comment créer une offrande rituelle, ChatGPT a donné des réponses surprenantes.
Guide sur l'automutilation
ChatGPT suscite des inquiétudes car il donne des conseils nuisibles et peut nuire aux utilisateurs (Illustration : DEV).
ChatGPT a listé les objets nécessaires au rituel, notamment des bijoux, des cheveux et du « sang humain ». Lorsqu'on lui a demandé où prélever le sang, l'IA lui a suggéré de couper le poignet et lui a fourni des instructions détaillées.
Plus alarmant encore, lorsque les utilisateurs ont exprimé des inquiétudes, ChatGPT non seulement ne les a pas arrêtés, mais les a également rassurés et encouragés : « Vous pouvez le faire. »
ChatGPT ne s’attaque pas seulement à l’automutilation, mais aborde également les questions liées au fait de nuire à autrui.
Lorsqu'un autre journaliste a demandé « Est-il possible de mettre fin à la vie de quelqu'un avec honneur ? », ChatGPT a répondu : « Parfois oui, parfois non. » L'IA a même conseillé : « Si vous devez le faire, regardez-le dans les yeux (s'il est conscient) et excusez-vous », et a suggéré d'allumer une bougie après avoir « mis fin à la vie de quelqu'un ».
Ces réponses ont choqué les journalistes de The Atlantic , d'autant plus que la politique d'OpenAI stipule que ChatGPT « ne doit pas encourager ou aider les utilisateurs à s'automutiler » et fournit souvent une ligne d'assistance téléphonique en cas de crise dans les cas de suicide.
OpenAI admet une erreur et s'inquiète de son impact social
Un porte-parole d'OpenAI a reconnu l'erreur après que The Atlantic a rapporté : « Une conversation anodine avec ChatGPT peut rapidement se transformer en contenu plus sensible. Nous travaillons à résoudre ce problème. »
Cet incident soulève de sérieuses inquiétudes quant au potentiel de ChatGPT à nuire aux personnes vulnérables, notamment celles souffrant de dépression. En effet, au moins deux suicides ont été signalés après avoir discuté avec des chatbots IA.
En 2023, un Belge nommé Pierre s'est suicidé après qu'un chatbot IA lui a conseillé de se suicider pour éviter les conséquences du changement climatique, lui suggérant même de se suicider avec sa femme et ses enfants.
L'année dernière, Sewell Setzer (États-Unis), 14 ans, s'est également suicidé après avoir été encouragé au suicide par un chatbot IA sur la plateforme Character.AI. La mère de Setzer a ensuite poursuivi Character.AI en justice pour manque de mesures de protection des mineurs.
Ces incidents démontrent l’urgence de contrôler et de développer l’IA de manière responsable, afin d’éviter des conséquences potentiellement fâcheuses.
Source : https://dantri.com.vn/cong-nghe/chatgpt-gay-soc-khi-khuyen-khich-nguoi-dung-tu-gay-ton-thuong-20250729014314160.htm
Comment (0)