Die Herausforderung der Nachrichtenintegrität angesichts der beschleunigten Entwicklung und Einführung von KI

Mögliche Risiken bei der Verbreitung von Fehlinformationen

Wissenschaft und Technologie beeinflussen nicht nur die Kunst und Weise, wie Presse und Medien ihre Botschaften vermitteln, sie beeinflussen auch die Kunst und Wirksamkeit des öffentlichen Zugangs und haben einen großen Einfluss auf die Qualität der Informationen.

Tatsächlich konnte sich der Journalismus, insbesondere in den letzten Jahren, schnell an technologische Innovationen anpassen. Künstliche Intelligenz (KI) hat sich in den Massenmedien und Redaktionen von Nachrichtenagenturen zunehmend durchgesetzt. Der Einsatz von KI bringt sowohl Journalisten als auch Medienunternehmen Vorteile. Sie befreiten Journalisten von mühsamen Routineaufgaben, sparten ihnen Zeit und ermöglichten ihnen, sich auf kreativere und anspruchsvollere Aufgaben zu konzentrieren.

KI bietet zwar viele Vorteile, wirft aber auch einige Bedenken auf. Eines der größten Risiken besteht darin, dass KI-generierte Inhalte Fehlinformationen verbreiten können.

Die zehn größten Nachrichtenagenturen der Welt fordern gemeinsame und transparente Verhandlungen zwischen Medien und KI-Entwicklern, um zu kontrollieren, welches urheberrechtlich geschützte Material zum Trainieren von KI-Tools verwendet werden kann, und um Voreingenommenheit in KI-Algorithmen zu beseitigen.

In der vergangenen Woche unterzeichneten zehn der weltweit führenden Nachrichtenorganisationen einen Brief, in dem sie Transparenz und klare Urheberrechtsgesetze für KI fordert. Die Organisationen argumentierten, dass KI das Potenzial habe, „die Nachhaltigkeit des Medienökosystems zu gefährden“, indem sie das Vertrauen der Leser in die Qualität und Integrität von Nachrichten erheblich untergrabe.

Zahlreiche Studien belegen, dass KI dazu eingesetzt werden kann, Geschichten zu filtern und auszuwählen, die Leser am ehesten ansprechen und fesseln. Dadurch entsteht ein Ungleichgewicht in der Nachrichtenlage, das bei objektiver, von Menschen erstellter Darstellung der Geschichten nicht bestehen würde. Die Öffentlichkeit sieht nur eine Seite der Geschichte und kann sich daher an einseitigen, von KI generierten Informationen orientieren. Darüber hinaus können KI dazu eingesetzt werden, Fehlinformationen und Fake News zu verbreiten, indem erfundene Geschichten neben wahren präsentiert werden.

KI kann auch durch Fake News getäuscht werden. KI-Algorithmen sind darauf ausgelegt, Daten schnell und präzise zu verarbeiten, was es schwierig macht, zwischen echten und gefälschten Nachrichten zu unterscheiden. Darüber hinaus ist KI nicht in der Lage, die emotionalen und moralischen Implikationen der von ihr verarbeiteten Nachrichten zu verstehen. Mit der Weiterentwicklung der KI wird ihre Anfälligkeit für Fake News zunehmen, was es noch schwierig macht, zwischen Wahrheit und Fälschung zu unterscheiden.

Laut außerordentlicher ProfessorDr. Nguyen Ngoc Oanh, Leiter der Abteilung für Internationale Beziehungen an der Akademie für Journalismus und Kommunikation, ist es angesichts der zunehmenden Macht von KI auch erforderlich, besonders aufmerksam zu sein und proaktiv zu handeln, da das Risiko besteht, dass bösewichte und feindliche Mächte KI zur Verbreitung schädlicher und gefälschter Nachrichten nutzen. Aus Sicht der Mediensicherheit zeigt dies das potenzielle Risiko von Fehlinformationen, Verzerrungen und Fake News. Sobald künstliche Intelligenz im Informationsbereich eingesetzt wird, kann die Technologie dazu beitragen, Stimmen und Bilder zu fälschen, gefälschte Geschichten und Aussagen zu erstellen, die echt wirken, um die Öffentlichkeit zu täuschen, insbesondere in sozialen Netzwerken.

„Personen mit schlechten Absichten missbrauchen die Rolle und den Ruf der Presse, um Informationen zu verfälschen und die Öffentlichkeit über die von der Presse verbreiteten und wiedergegebenen Informationen zu täuschen Professor Dr. Nguyen Ngoc Oanh.

Die Nachrichtenbranche muss Wege finden, ihre kreativen Inhalte zu schützen.

Start bei ChatGPT im November 2022 werden schnell täglich neue Anwendungen auf Basis generativer KI eingeführt. Dazu ist das Internet mit KI-generierten Inhalten gefüllt. Zwar gibt es einige, die überwältigend sind, aber auch viele langweilige, sich wiederholende Inhalte. Dies erleichtert die Verbreitung von Fehlinformationen und erhöht die Belastung für die Medienbranche, das Vertrauen ihrer Leser aufzubauen und wiederherzustellen.

Der Journalist Nguyen Hoang Nhat, stellvertretender Chefredakteur der Zeitung Vietnamplus, erinnerte an die Erfahrungen der Vergangenheit. Viele Experten waren der Meinung, dass einer der ersten großen Fehler der Presse darin bestand, zu langsam auf die Bedeutung und die zunehmende Verbreitung sozialer Netzwerke zu reagieren. „Wir haben lange Zeit alle unsere Inhalte in sozialen Netzwerken veröffentlicht und unsere Kernkompetenzen entsprechend angepasst, was manchmal weder unsere Stärke noch die Bedürfnisse der Leserschaft ist. Kurz gesagt: Wir haben den sozialen Netzwerken zu viel Macht gegeben, was dazu geführt hat, dass sie uns verschluckt haben“, sagte der Journalist Nguyen Hoang Nhat.

Während die vietnamesische Frauenmannschaft an der Weltmeisterschaft teilnahm, verbreiteten die sozialen Medien zahlreiche Quellen, verzerrte und erfundene Informationen. (Foto: VTC)

Mit Blick auf die aktuelle Bedrohung durch KI erklärte der Journalist Nguyen Hoang Nhat, dass KI-Redaktionen dabei generell helfen, ihre Arbeit schneller zu erledigen und Kosten zu sparen. Gleichzeitig werden sie Redakteure und Reporter nachsichtiger machen und dazu beitragen, dass sich Falschinformationen schneller verbreiten. „Während der letzten Frauen-Weltmeisterschaft beispielsweise verbreiteten sich gefälschte Inhalte über die vietnamesische Frauenmannschaft durch Memes, die mit KI-Tools erstellt wurden, furchtbar viral. Dies führte dazu, dass die allgemeine Psychologie eines Teils des Publikums extrem auf den Kopf gestellt wurde“, nannte der Journalist Nguyen Hoang Nhat ein Beispiel.

Im Ausland stieß News Guard auf eine erschreckende Statistik: 347 Nachrichtenseiten, die wie seriöse Nachrichtenseiten aussehen, sind voller KI-generierter Inhalte und verbreiten Fehlinformationen. Eine aktuelle Studie des Massachusetts Institute of Technology (MIT) ergab, dass Menschen eher KI-generierten Fehlinformationen Glauben schenken als von Menschen generierten Fake News.

Laut dem Journalisten Nguyen Hoang Nhat zwingt diese Realität die Nachrichtenbranche dazu, Wege zum Schutz ihrer kreativen Inhalte und ihres geistigen Eigentums zu finden, ohne jedoch auf die Annehmlichkeiten verzichten zu müssen, die KI mit sich bringt.

Außerordentlicher Professor Dr. Die Überprüfung der Informationsquellen von Reportern und Journalisten ist äußerst wichtig, wenn sie nicht die Verbreitung ungenauer Informationen fördern wollte.

Seminare und Diskussionen zum Thema Künstliche Intelligenz haben ergeben, dass das Risiko der Verwendung gefälschter Daten und Nachrichten in journalistischen Arbeiten sehr hoch ist, wenn das Content-Management in der Redaktion nicht mit der zahlreichen Entwicklung der digitalen Technologie Schritt halten kann. Da die rechtlichen Rahmenbedingungen für digitalen Journalismus in Vietnam noch nicht mit der Realität Schritt gehalten haben, stellen rechtliche Probleme, Bedrohungen der Mediensicherheit, Fälle von Urheberrechtsverletzungen und Kontroversen über journalistische Ethik und die soziale Verantwortung des Journalismus beim Einsatz automatisierten Journalismus heute große Herausforderungen dar.

Phan Hoa Giang

Quelle: https://www.congluan.vn/thach-thuc-ve-tinh-trung-thuc-cua-tin-tuc-khi-toc-do-phat-trien-va-ap-dung-ai-o-muc-nhay-vot-post260620.html