Fake News automatisiert erkennen: So funktioniert KI-Faktencheck

Warum Vertrauen in Nachrichten schwindet und KI helfen kann

Der Global Risks Report 2026 des Weltwirtschaftsforums stuft Fehl- und Desinformation als eines der größten globalen Risiken ein. Auch in Österreich zeigt sich die Dringlichkeit: Soziale Medien sind mittlerweile die zweithäufigste Hauptnachrichtenquelle der Bevölkerung, bei jungen Erwachsenen sogar die dominierende, während nicht einmal die Hälfte der Befragten den Nachrichten mehrheitlich vertraut. Eine Studie der Universitäten Salzburg und Linz zeigt zudem, dass viele Österreicher*innen Falschnachrichten nicht zuverlässig erkennen. Entscheidend dafür ist weniger die Bildung als die digitale Kompetenz, die erlernbar ist. Genau dort können automatisierte Faktencheck-Tools ansetzen.

Schritt für Schritt zur Bewertung: So funktioniert die Pipeline

Der entwickelte Prototyp arbeitet in drei aufeinanderfolgenden Schritten, ähnlich wie ein menschlicher Faktenprüfer, nur schneller. Zunächst durchsucht es ein Archiv österreichischer Nachrichtenartikel nach thematisch relevanten Quellen. Dann analysiert es, welche Haltung diese Artikel zur Behauptung einnehmen. Zuletzt gewichtet es die Ergebnisse nach der Glaubwürdigkeit der jeweiligen Quelle. Das Resultat: eine begründete Einschätzung der Aussage als gestützt, widerlegt oder unklar.

Passende Artikel finden: Die Suche im Nachrichtenarchiv

Tausende Artikel durchsuchen und die relevantesten herausfiltern, das erfordert präzise Methoden. Das System nutzt dafür bewährte Verfahren aus der Informationsverarbeitung: TF-IDF und BM25 vergleichen Texte anhand der Häufigkeit und Verteilung von Schlüsselwörtern, ähnlich wie eine Suchmaschine, aber auf ein lokales Archiv eingeschränkt. Ergänzend wurde ein clusterbasierter Ansatz getestet, der Artikel zunächst thematisch gruppiert, bevor die eigentliche Suche beginnt.

Stützen oder widerlegen? So erkennt KI die Haltung eines Texts

Einen passenden Artikel zu finden reicht nicht. Entscheidend ist, welche Haltung er zur Behauptung einnimmt. Stützt er sie? Widerspricht er ihr? Oder bleibt er neutral? Diese Einschätzung übernimmt ein Sprachmodell. Es vergleicht zwei Texte miteinander und bestimmt ihre logische Beziehung. Mehrere Modelle wurden getestet, darunter spezialisierte NLI-Modelle (Natural Language Inference) und bekannte Sprachmodelle wie GPT-5. Ein Ensemble-Ansatz (die Kombination mehrerer Modelle) lieferte die zuverlässigsten Ergebnisse.

Glaubwürdigkeit zählt: Warum nicht alle Quellen gleich sind

Ein zentrales Problem vieler Faktenchecksysteme: Sie behandeln alle Quellen gleich. Dabei wiegt ein Artikel aus einer renommierten Tageszeitung mehr als ein anonymer Blogbeitrag. Das System berücksichtigt deshalb vier Faktoren bei der Quellengewichtung: generelle Vertrauenswürdigkeit (redaktionelle Standards, Transparenz), historische Zuverlässigkeit, inhaltliche Qualität der Artikel sowie externe Bewertungen durch unabhängige Dritte. Quellen mit niedrigem Score beeinflussen das Gesamtergebnis deutlich weniger.

Verstehen statt nur vertrauen: Warum KI ihre Entscheidungen erklären muss

Ein System, das nur „wahr“ oder „falsch“ ausgibt, überzeugt kaum. Erst eine nachvollziehbare Erklärung schafft Vertrauen, weshalb Explainable AI (XAI) ein zentraler Bestandteil moderner KI-Systeme ist. Studien zeigen allerdings, dass allein das Vorhandensein einer Erklärung Zustimmung oder Teilverhalten kaum beeinflusst und je nach Format sowie Nutzer*in unterschiedlich wirkt; besonders wichtig sind dabei Nützlichkeit, Verständlichkeit, Genauigkeit, Vertrauenswürdigkeit und Gestaltung. Zudem bergen KI-Erklärungen die Gefahr des Übervertrauens, wenn sie fehlerhaft sind. Kontrastive Erklärungen, die Argumente für und gegen eine Behauptung zeigen, können dem entgegenwirken und gleichzeitig sicherstellen, dass Erklärungen sich am tatsächlichen Arbeitsprozess von Faktenprüfer*innen orientieren.

Österreich im Fokus: Warum lokale Quellen besonders wichtig sind

Die meisten Faktenchecksysteme wurden für englischsprachige Medien entwickelt. Auf Österreich lassen sie sich nicht einfach übertragen, weder sprachlich noch inhaltlich. Der Prototyp setzt deshalb auf ein eigens aufgebautes Archiv österreichischer Nachrichtenquellen: von überregionale Tageszeitungen bis hin zu regionalen Medien. Dieser lokale Fokus macht den Prototypen besonders relevant für österreichische Nutzer*innen.

Evaluation: Was der Prototyp kann und was es noch nicht kann

In Tests konnte der Prototyp relevante Artikel zuverlässig auffinden und die Haltung der Texte in vielen Fällen korrekt einschätzen. Besonders gut funktioniert es bei klar formulierten, faktenbezogenen Behauptungen. Schwieriger wird es bei meinungsgeprägten Aussagen oder sehr aktuellen Ereignissen, zu denen noch wenige Artikel im Archiv vorhanden sind. Diese Grenzen zeigen realistisch, wo automatisierte Systeme heute stehen und wo menschliches Urteil weiterhin gefragt ist.