L'IA devient de plus en plus dangereuse

Les recherches du MIT montrent que l’abus de ChatGPT peut altérer les capacités de pensée critique, en particulier chez les jeunes dont le cerveau est encore en développement.

Les humains ont tendance à dépendre de l’IA. Photo : MarketWatch .

Une nouvelle étude du Media Lab du Massachusetts Institute of Technology (MIT) suggère que la surutilisation de ChatGPT peut avoir un impact négatif sur les capacités de pensée critique, en particulier chez les jeunes adultes.

L'étude a été menée auprès de 54 participants, âgés de 18 à 39 ans dans la région de Boston (États-Unis), répartis en trois groupes, utilisant ChatGPT, recherchant des informations via Google et n'utilisant pas d'outils d'assistance.

Tous les participants ont été invités à rédiger trois essais de type SAT. Tout au long du processus, les chercheurs ont utilisé l'électroencéphalographie (EEG) pour enregistrer l'activité cérébrale dans 32 régions différentes.

« Effets secondaires » de l'IA

Les résultats ont montré que le groupe utilisant ChatGPT présentait le niveau d'engagement neuronal le plus faible. Plus précisément, leurs dissertations ont été jugées comme manquant de profondeur et d'indépendance d'esprit, et étaient largement plagiées et répétitives. De plus, deux professeurs d'anglais ayant participé à l'évaluation ont déclaré que ces dissertations étaient « sans vie et étrangement similaires ».

L'EEG a montré une faible activité des bandes d'ondes cérébrales importantes telles que les ondes alpha, thêta et delta, associées à l'attention, à la créativité et au traitement du langage, chez le groupe ChatGPT. À mesure que la tâche progressait, les participants avaient tendance à se fier entièrement à l'outil d'IA pour terminer l'écriture, sans effort personnel.

Image comparant l'activité cérébrale du groupe utilisant l'IA et du groupe ne l'utilisant pas. Photo : Nataliya Kosmyna .

« J’ai simplement tapé la demande, modifié quelques phrases et j’ai terminé la demande assignée », a décrit un participant.

En revanche, le groupe n'ayant pas utilisé l'outil d'IA a obtenu des résultats plus positifs, manifestant un engagement plus profond dans le processus d'écriture et une plus grande satisfaction à l'égard de son travail. Le groupe n'ayant utilisé que la recherche Google a également affiché une activité neuronale stable et a fait preuve d'une plus grande initiative dans la collecte et le traitement de l'information.

Lors de la phase suivante, lorsqu'on leur a demandé de réécrire un essai rédigé sans l'aide de l'outil d'IA, le groupe ayant utilisé ChatGPT n'avait quasiment aucun souvenir de son propre contenu. Leurs ondes cérébrales sont restées faibles. Parallèlement, les autres groupes ont continué à montrer une nette amélioration de leur concentration et de leur connectivité neuronale.

Effets sur la santé

L'auteure principale, la Dre Nataliya Kosmyna, a déclaré qu'il s'agissait de sa première publication avant de poursuivre ses recherches. Elle a expliqué que cette décision était motivée par la crainte que l'utilisation de l'IA dans l'éducation ne soit mise en œuvre trop rapidement, sans recherches adéquates et précises.

« L'utilisation abusive de l'IA aura les conséquences les plus graves sur le développement du cerveau. Si rien n'est fait, l'exposition des enfants à des outils comme ChatGPT pourrait affecter leur capacité de réflexion plus tard dans la vie », a déclaré le Dr Nataliya Kosmyna.

L'utilisation à long terme de l'IA peut entraîner un fonctionnement moins efficace du cerveau. Photo : The Observer .

Certains experts en santé mentale partagent également cette préoccupation. Le psychiatre Zishan Khan prévient qu'une dépendance excessive à l'IA dans l'apprentissage peut altérer la capacité des jeunes à se souvenir, à recevoir des informations et à provoquer des troubles psychologiques.

Notamment, après la publication de l'étude, Kosmyna a découvert que certaines personnes avaient utilisé ChatGPT pour résumer l'article, ce qui a provoqué des « hallucinations » de l'IA et présenté des informations absentes du document original. Certains résumés affirmaient que l'étude utilisait GPT-4o, alors qu'en réalité, elle n'en faisait aucune mention.

L'équipe de Kosmyna travaille actuellement sur un projet similaire impliquant des programmeurs et des ingénieurs logiciels. Les premiers résultats, dit-elle, sont « encore pires », soulevant de sérieuses questions quant à l'impact à long terme de l'IA sur la main-d'œuvre de demain.

Source : https://znews.vn/ai-ngay-cang-nguy-hiem-post1562832.html