Eine Forschergruppe in Deutschland warnte kürzlich vor dem Risiko von Verzerrungen beim Einsatz von KI-Chatbots zur Verkürzung von Forschungsinhalten. Nach der Analyse von 4.900 von Menschen verfassten wissenschaftlichen Abstracts verwendete das Team mehrere KI-Modelle, um zu vergleichen, wie diese Systeme Informationen verarbeiteten. Die Ergebnisse zeigten, dass die meisten Chatbots zu stark generalisierten, selbst wenn sie aufgefordert wurden, präzise zusammenzufassen.
Bei der Zusammenfassung wissenschaftlicher Forschungsergebnisse neigt KI zu Voreingenommenheit.
In Tests machten KI-Modelle ohne Anleitung fünfmal mehr Fehler als menschliche Experten. Selbst bei klaren Anforderungen an die Genauigkeit war die Fehlerquote doppelt so hoch wie bei einer Standardzusammenfassung. „Verallgemeinerungen erscheinen manchmal harmlos, verändern aber tatsächlich den Charakter der ursprünglichen Forschung“, sagte ein Teammitglied. „Das ist eine systematische Verzerrung.“
Bemerkenswerterweise haben neuere Versionen des Chatbots das Problem nicht behoben, sondern sogar verschärft. Mit ihrer flüssigen und ansprechenden Sprache können KI-generierte Zusammenfassungen leicht glaubwürdig erscheinen, während der eigentliche Inhalt verzerrt wurde. In einem Fall änderte DeepSeek die Formulierung „sicher und kann erfolgreich durchgeführt werden“ in „sichere und wirksame Behandlung“ – eine Neuinterpretation der Schlussfolgerungen der ursprünglichen Studie.
In einem anderen Beispiel empfahl das Llama-Modell Diabetesmedikamente für junge Menschen, ohne Dosierung, Häufigkeit oder Nebenwirkungen anzugeben. Handelt es sich beim Leser um einen Arzt oder eine medizinische Fachkraft, der/die die Informationen nicht mit der Originalforschung abgleicht, können solche Zusammenfassungen ein direktes Risiko für die Patienten darstellen.
Experten zufolge liegt das Phänomen in der Art und Weise, wie KI-Modelle trainiert werden. Viele Chatbots werden heute mit Sekundärdaten – wie populärwissenschaftlichen Nachrichten – trainiert, die bereits komprimiert wurden. Da die KI diese komprimierten Inhalte immer weiter zusammenfasst, steigt das Risiko von Verzerrungen.
Experten für KI im Bereich der psychischen Gesundheit sagen, dass technische Barrieren schon früh in der Entwicklung und Nutzung von KI errichtet werden müssen.
Benutzer müssen vorsichtig sein, da Chatbots Inhalte leicht verfälschen können.
Da Nutzer zunehmend auf KI-Chatbots zurückgreifen, um wissenschaftliche Erkenntnisse zu gewinnen, können sich kleine Interpretationsfehler schnell anhäufen und verbreiten, was zu weitverbreiteten Fehleinschätzungen führt. In einer Zeit, in der das Vertrauen in die Wissenschaft schwindet, ist dieses Risiko umso besorgniserregender und verdient ernsthafte Aufmerksamkeit.
Die Integration von KI in Forschung und Wissensverbreitung ist ein unumkehrbarer Trend. Experten bekräftigen jedoch, dass Technologie die menschliche Rolle beim Verständnis und der Überprüfung wissenschaftlicher Inhalte nicht ersetzen kann. Beim Einsatz von Chatbots in Hochrisikobereichen wie der Medizin sollte Genauigkeit oberste Priorität haben, anstatt sich nur auf reibungslose Sprachverständlichkeit oder Reaktionsgeschwindigkeit zu konzentrieren.
Quelle: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html
Kommentar (0)