Künstliche Intelligenz hilft bei der Überprüfung von Informationen

ClaimPKG – eine vom Center for Data Services and Artificial Intelligence (Viettel AI) erforschte Methode zur Informationsüberprüfung mithilfe künstlicher Intelligenz, die eine bis zu 12 % höhere Genauigkeit als aktuelle Methoden bietet.

In der digitalen Welt benötigen Benutzer Tools zur Authentifizierung von Informationen.

Im digitalen Zeitalter sind soziale Medien und Online-Plattformen für Millionen von Menschen täglich zum wichtigsten Informationskanal geworden. Doch neben der Bequemlichkeit ist die rasante Verbreitung von Fake News und Falschmeldungen eine beunruhigende Realität. Vor diesem Hintergrund ist es notwendig, Informationen durch Vergleiche und die Überprüfung der Richtigkeit dessen, was wir lesen, hören und teilen, zu verifizieren.

Angesichts dieser Situation hat das Viettel Data and Artificial Intelligence Service Center ClaimPKG erforscht und entwickelt – eine effektive und praxistaugliche Methode zur Informationsüberprüfung. Diese Forschung übertrifft mehr als 5.200 Studien weltweit und wird direkt auf der ACL 2025 vorgestellt. Dies ist eine der weltweit führenden Konferenzen zur Verarbeitung natürlicher Sprache (NLP) mit einer Präsentationsakzeptanzrate von nur 37 %. Die Veranstaltung bringt führende Technologieexperten von Giganten wie Google, Meta, Huawei, IBM, Amazon, Oracle usw. zusammen.

ClaimPKG kombiniert einen Wissensgraphen und ein großes Sprachmodell (LLM) und verbessert die Genauigkeit im Vergleich zu aktuellen Methoden um 9 bis 12 Prozent, wenn es mit FactKG getestet wird (einem Benchmark-Datensatz, der in der Technologie-Community im Bereich Faktencheck hoch angesehen ist). Dieses Testergebnis zeigt das große Potenzial von ClaimPKG, die Zuverlässigkeit zukünftiger KI-Faktenchecksysteme zu verbessern.

Zuvor hatte das Viettel Data and Artificial Intelligence Service Center auf der NAACL 2025-Konferenz mit VeGraph Aufmerksamkeit erregt – einer Methode zur Informationsüberprüfung auf Basis von Textwissensplattformen wie Artikeln, Rechtsdokumenten usw. VeGraph verzeichnete im Vergleich zu anderen Methoden eine um 2–5 % verbesserte Genauigkeit. In vielen Fällen, insbesondere wenn den Textdaten eine klare Struktur fehlt, kann der Überprüfungsprozess jedoch zeitaufwändig sein und es kann schwierig sein, die Konsistenz sicherzustellen.

Um Genauigkeit und Konsistenz zu verbessern, verfolgt das Viettel Data and Artificial Intelligence Service Center weiterhin eine andere Richtung. ClaimPKG wird mit einem strukturierten, wissensbasierten Ansatz entwickelt, der einen klar formatierten Wissensgraphen gemäß dem „Subjekt-Beziehung-Objekt“-Modell verwendet.

Die zu verifizierenden Informationen werden zerlegt und in einen „Pseudo-Subgraphen“ umgewandelt. Anschließend ruft das System das zugehörige Wissen im Wissensgraphen ab und lässt LLM die Schlussfolgerung ziehen. Dieser Prozess trägt dazu bei, die Genauigkeit, Konsistenz und Zuverlässigkeit der Verifizierung zu erhöhen und gleichzeitig den Rechenaufwand für LLM zu reduzieren.

Die technischen Vorteile von ClaimPKG bilden zudem die Grundlage für die Erweiterung praktischer Anwendungen. Im Bereich Journalismus und Medien kann die Technologie Reporter und Redakteure dabei unterstützen, Fake News schnell und fundiert zu erkennen und Quellen zu vergleichen.

Im medizinischen und juristischen Bereich kann diese Technologie als „Verifizierungsassistent“ fungieren und dabei helfen, Fachwissen nachzuschlagen und zu authentifizieren. Darüber hinaus bietet ClaimPKG auch das Potenzial, in Chatbots oder virtuelle Assistenten integriert zu werden, um dem System zu helfen, zuverlässigere Antworten zu liefern und missverständliche Urteile zu vermeiden.

Die ACL 2025 (Jahrestreffen der Association for Computational Linguistics), die vom 27. Juli bis 1. August in Wien, Österreich, stattfindet, ist eine der weltweit renommiertesten und einflussreichsten Veranstaltungen im Bereich NLP. Mit Tausenden von internationalen Forschern, Ingenieuren und Experten ist die Konferenz ein Ort, um die neuesten Fortschritte im Bereich NLP auszutauschen, von maschinellem Sprachlernen, maschineller Übersetzung, Textzusammenfassung, automatischer Fragenbeantwortung bis hin zu Fragen der Ethik und Fairness in der linguistischen KI.

In diesem Jahr lautet das Hauptthema der Konferenz „Generalisierung von NLP-Modellen“, wobei der Schwerpunkt auf der Entwicklung von Modellen liegt, die in der Lage sind, sich an neue Daten, Sprachen oder Domänen anzupassen und diese zu verstehen.

HA LINH

Quelle: https://nhandan.vn/cong-nghe-tri-tue-nhan-tao-giup-kiem-chung-thong-tin-post898494.html