Verstöße wie Betrug, Diebstahl, etc. werden von den betroffenen Personen oftmals nicht gemeldet, da die Angst vor negativen Konsequenzen zu groß ist. Um solche Vorfälle besser aufzuklären ist eine anonyme und vertrauenswürdige Meldeplattform essenziell und über das Hinweisgeberschutzgesetz (siehe auch EU-Richtlinie 2019/1937) gesetzlich verankert. Im vom AWS geförderten Forschungsprojekt “Act4Whistleblowing” beschäftigten sich Forscher*innen und Entwickler*innen der RISC Software GmbH mit der automatisierten Verarbeitung von textuellen Hinweisen aus dem Whistleblowing-System der Compliance2b GmbH. Um einen Vorfall zu einem positiven Abschluss zu bringen, müssen alle notwendigen Informationen in ausreichend guter Qualität vorliegen. Ein auf Künstlicher Intelligenz (KI) basierender Fallassistent soll dabei einerseits Hinweisgebende beim (vollständigen) Erfassen der Meldung assistieren und andererseits Sachbearbeiter*innen bei der Auflösung des Falles unterstützen.
Der entwickelte Fallassistent kann erhaltene Meldungen nicht nur in unterschiedliche, dynamisch angepasste Kategorien einsortieren (z. B. sexuelle Belästigung, Betrug, Mobbing, Datenschutz), sondern auch relevante Textinhalte automatisch erkennen und hervorheben. Dazu zählen u.a. involvierte Unternehmen, Abteilungen, Geldbeträge sowie Datums- und Ortsangaben. Auch Personennamen werden mittels “Named Entity Recognition” (dt. Eigennamenerkennung) erkannt und können vom System geschwärzt werden, um Sachbearbeiter*innen eine neutrale Sichtweise auf den Fall zu ermöglichen.
Ein hybrides System bildet das Herzstück des Fallassistenten. Mit dem Zusammenspiel aus der regelbasierten Komponente (abgeleitetes Wissen der Domänen-Expert*innen) sowie der KI-basierten Komponente (u.a. Transformer-Modelle, siehe auch Fachbeitrag Transformer-Modelle) konnten weitaus bessere Resultate erzielt werden als mit einer einzelnen, individuell betrachteten Komponente.
Da für das Training und die sehr individuellen Anforderungen nur sehr wenige Beispieldaten vorhanden waren, wurde bei der Klassifikation der Meldungen auf einen “Zero-Shot-Classification”-Ansatz zurückgegriffen. Dies bedeutet, dass das Modell zwar ein allgemeines Verständnis für (deutsche) Sprache besitzt, allerdings nie explizit auf der zu erfüllenden Aufgabe trainiert wurde. In unserem Anwendungsfall wird je Kategorie auf eine Sammlung an sorgfältig ausgewählten Phrasen zurückgegriffen, welche dem Modell ein Verständnis zur Unterscheidung der Kategorien geben. Dadurch wird eine flexible Änderung der Kategorien ermöglicht und – im Vergleich zu anderen Ansätzen – sind die Ergebnisse leicht erklärbar und nachvollziehbar (siehe auch Fachbeitrag Explainable Artificial Intelligence).
Der in das Whistleblowing-System integrierte Fallassistent unterstützt inzwischen als “intelligentes Case-Management Tool” tatkräftig die Fallabwicklung bei Kund*innen der Compliance2b GmbH.
Head of Unit Data Intelligence
