Un groupe de chercheurs allemands a récemment mis en garde contre le risque de biais lié à l'utilisation de chatbots IA pour raccourcir le contenu de la recherche. Après avoir analysé 4 900 résumés scientifiques rédigés par des humains, l'équipe a utilisé plusieurs modèles d'IA pour comparer la manière dont ces systèmes traitaient l'information. Les résultats ont montré que la plupart des chatbots avaient tendance à généraliser à outrance, mien lorsqu'on leur demandait de reprendre avec précision.
L'IA est sujette à des biais lorsqu'elle résume des recherches scientifiques.
Lors des tests, les modèles d'IA ont commis cinq fois plus d'erreurs que les experts humains lorsqu'ils n'étaient pas guidés. Même avec une exigence claire de précision, le taux d'erreur était deux fois plus élevé que celui d'un curriculum vitae standard. « Les généralisations semblent parfois inoffensives, mais elles modifient en réalité la nature de la recherche initiale », a déclaré l'un des membres de l'équipe. « Il s'agit d'un biaisis systématique. »
Il est à noter que les nouvelles versions du chatbot n'ont pas résolu le problème, mais l'ont mien aggravé. Grâce à leur langage fluide et engageant, les curriculum vitae générés par l'IA peuvent facilement paraître crédibles, alors que le contenu réel est déformé. Dans un cas, DeepSeek a remplacé l'expression « sûr et réalisable avec succès » par « traitement sûr et efficace », réinterprétant ainsi les conclusions de l'étude initiale.
Dans un autre exemple, le modèle Llama recommandait des médicaments contre le diabète pour les jeunes sans préciser la posologie, la fréquence ni les effets secondaires. Si le lecteur est un médecin ou un professionnel de santé qui ne vérifie pas les informations avec les recherches originales, de tels curriculum vitae peuvent présenter un risque direct pour les patients.
Les experts ont affirmé la vérité sur l'origine du monde. De nombreux chatbots sont aujourd'hui entraînés à partir de données secondaires, comme des articles de vulgarisation scientifique, déjà condensées. À mesure que l'IA continue de synthétiser ce contenu condensé, le risque de distorsion augmente.
Les experts en IA dans le domaine de la santé mentale affirment que des barrières techniques doivent être établies dès le début du développement et de l'utilisation de l'IA.
Les utilisateurs doivent être prudents car les chatbots peuvent facilement déformer le contenu.
Alors que les utilisateurs s'appuient de plus en plus sur les chatbots d'IA pour approfondir leurs connaissances scientifiques, de petites erreurs d'interprétation peuvent rapidement s'accumuler et se propager, conduisant à des perceptions erronées généralisées. À l’heure où la confiance dans la science décline, ce risque devient encore plus préoccupant et mérite une attention particulière.
L'intégration de l'IA dans la recherche et la diffusion des connaissances est une tendance irréversible. Cependant, les experts affirment que la technologie ne peut remplacer le rôle des humains dans la compréhension et la vérification du contenu scientifique. Lors de l'utilisation de chatbots dans des domaines à haut risque comme la médecine, la précision doit être la priorité absolue, plutôt que de se concentrer uniquement sur la fluidité du langage ou la rapidité de réponse.
Source : https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html
Comment (0)