Viele Verstöße wie Betrug oder Diebstahl bleiben ungemeldet, weil Betroffene negative Konsequenzen befürchten. Eine anonyme und vertrauenswürdige Meldeplattform ist daher unverzichtbar und im Hinweisgeberschutzgesetz (EU-Richtlinie 2019/1937) verankert.
Im vom AWS geförderten Forschungsprojekt Act4Whistleblowing arbeiten Forscher*innen und Entwickler*innen der RISC Software GmbH gemeinsam mit der Compliance2b GmbH. Ziel ist es, textuelle Hinweise aus dem Whistleblowing-System automatisch zu verarbeiten. Damit alle Vorfälle vollständig und qualitativ hochwertig dokumentiert werden, unterstützt ein KI-basierter Fallassistent sowohl Hinweisgebende beim Melden als auch Sachbearbeiter*innen bei der Bearbeitung.
Der Fallassistent sortiert Meldungen automatisch in dynamische Kategorien wie Betrug, Mobbing oder Datenschutz ein. Darüber hinaus erkennt er relevante Inhalte wie Unternehmensnamen, Abteilungen, Geldbeträge sowie Datums- und Ortsangaben. Personennamen identifiziert er mittels Named Entity Recognition und schwärzt sie, um eine neutrale Sichtweise sicherzustellen.
Ein hybrides System bildet das Herzstück: Regelbasierte Komponenten enthalten das Wissen der Fach-Expert*innen, während KI-Modelle (u. a. Transformer-Modelle, siehe Fachbeitrag) für zusätzliche Präzision sorgen. Durch diese Kombination erzielt das System bessere Ergebnisse, als es eine einzelne Methode könnte.
Da nur wenige Trainingsdaten vorlagen, setzte das Projekt auf Zero-Shot-Classification. Das Modell besitzt ein allgemeines Sprachverständnis, wurde aber nicht explizit für die jeweilige Aufgabe trainiert. Stattdessen greift es pro Kategorie auf sorgfältig ausgewählte Phrasen zurück. Diese Vorgehensweise ermöglicht eine flexible Anpassung der Kategorien und sorgt gleichzeitig für erklärbare sowie nachvollziehbare Resultate (siehe auch Fachbeitrag Explainable Artificial Intelligence).
Heute ist der Fallassistent fest in das Whistleblowing-System integriert. Er unterstützt Kund*innen der Compliance2b GmbH als intelligentes Case-Management-Tool und erleichtert die tägliche Fallbearbeitung erheblich.
Head of Unit Data Intelligence
