KI wird immer gefährlicher

Untersuchungen des MIT zeigen, dass der Missbrauch von ChatGPT die Fähigkeit zum kritischen Denken beeinträchtigen kann, insbesondere bei jungen Menschen, deren Gehirn sich noch in der Entwicklung befindet.

Menschen neigen dazu, sich auf KI zu verlassen. Foto: MarketWatch .

Eine neue Studie des Media Lab des Massachusetts Institute of Technology (MIT) legt nahe, dass sich die übermäßige Verwendung von ChatGPT negativ auf die Fähigkeit zum kritischen Denken auswirken kann, insbesondere bei jungen Erwachsenen.

Die Studie wurde mit 54 Teilnehmern im Alter von 18 bis 39 Jahren aus der Gegend von Boston (USA) durchgeführt, die in drei Gruppen aufgeteilt waren: die Verwendung von ChatGPT, die Informationssuche über Google und die Nichtverwendung von Support-Tools.

Alle Teilnehmer mussten drei Aufsätze im SAT-Stil schreiben. Dabei zeichneten die Forscher mittels Elektroenzephalografie (EEG) die Gehirnaktivität in 32 verschiedenen Regionen auf.

„Nebenwirkungen“ der KI

Die Ergebnisse zeigten, dass die Gruppe, die ChatGPT nutzte, das geringste neuronale Engagement aufwies. Ihren Aufsätzen mangelte es insbesondere an Tiefe und eigenständigem Denken, außerdem waren sie größtenteils plagiiert und repetitiv. Zwei Englischlehrer, die an der Bewertung teilnahmen, kommentierten zudem, dass diese Aufsätze „leblos und seltsam ähnlich“ seien.

Das EEG zeigte, dass die ChatGPT-Gruppe eine geringe Aktivität in wichtigen Gehirnwellenbändern wie Alpha, Theta und Delta aufwies. Diese Gehirnwellenbänder stehen im Zusammenhang mit Aufmerksamkeit, Kreativität und Sprachverarbeitung. Im weiteren Verlauf der Aufgabe verließen sich die Teilnehmer tendenziell vollständig auf das KI-Tool, um den Text ohne Eigenleistung fertigzustellen.

Bild mit Vergleich der Gehirnaktivität der Gruppe, die KI nutzt, und der Gruppe, die sie nicht nutzt. Foto: Nataliya Kosmyna .

„Ich habe einfach die Anfrage eingegeben, ein paar Sätze angepasst und war mit der zugewiesenen Anfrage fertig“, beschrieb ein Teilnehmer.

Im Gegensatz dazu zeigte die Gruppe, die das KI-Tool nicht nutzte, positivere Ergebnisse, engagierte sich stärker im Schreibprozess und war mit ihrer Arbeit zufriedener. Auch die Gruppe, die nur die Google-Suche nutzte, zeigte stabile neuronale Aktivitätswerte und zeigte mehr Initiative bei der Informationsbeschaffung und -verarbeitung.

In der nächsten Phase, als die Teilnehmer aufgefordert wurden, einen Aufsatz neu zu schreiben, den sie ohne das KI-Tool verfasst hatten, konnte sich die Gruppe, die ChatGPT verwendet hatte, kaum noch an ihren eigenen Inhalt erinnern. Ihre Gehirnwellenwerte blieben niedrig. Die anderen Gruppen zeigten unterdessen weiterhin einen deutlichen Anstieg der Konzentration und der neuronalen Konnektivität.

Auswirkungen auf die Gesundheit

Die Hauptautorin Dr. Nataliya Kosmyna sagte, dies sei ihre erste veröffentlichte Arbeit vor weiteren Forschungen. Sie begründete die Entscheidung mit der Sorge, dass der Einsatz von KI im Bildungsbereich ohne ausreichende und genaue Forschung zu schnell umgesetzt werden könnte.

„Der Missbrauch von KI wird sich negativ auf die Entwicklung des Gehirns auswirken. Wenn Kinder nicht mit Tools wie ChatGPT in Berührung kommen, kann dies ihr späteres Denken beeinträchtigen“, sagte Dr. Nataliya Kosmyna.

Der langfristige Einsatz von KI kann zu einer verminderten Gehirnleistung führen. Foto: The Observer .

Auch einige Experten auf dem Gebiet der psychischen Gesundheit teilen diese Befürchtung. Der Psychiater Zishan Khan warnt, dass eine übermäßige Abhängigkeit von KI beim Lernen die Erinnerungsfähigkeit und Informationsaufnahmefähigkeit junger Menschen beeinträchtigen und psychische Störungen verursachen könne.

Nach der Veröffentlichung der Studie stellte Kosmyna fest, dass einige Personen ChatGPT selbst zur Zusammenfassung der Arbeit verwendet hatten. Dies führte dazu, dass die KI „halluzinierte“ und Informationen präsentierte, die nicht im Originaldokument enthalten waren. Einige Zusammenfassungen behaupteten, die Studie habe GPT-4o verwendet, obwohl dies in Wirklichkeit überhaupt nicht erwähnt wurde.

Kosmynas Team arbeitet derzeit an einem ähnlichen Projekt mit Programmierern und Softwareentwicklern. Die ersten Ergebnisse, sagt sie, seien „noch schlimmer“ und werfen große Fragen über die langfristigen Auswirkungen der KI auf die zukünftige Arbeitswelt auf.

Quelle: https://znews.vn/ai-ngay-cang-nguy-hiem-post1562832.html