Bei komplexen polizeilichen Ermittlungsverfahren, etwa im Bereich der organisierten Kriminalität oder des Terrorismus, fallen regelmäßig große Mengen digitaler Daten an. Künstliche Intelligenz (KI)-basierte Lösungen können Ermittler bei der zeitnahen Auswertung dieser Daten unterstützen. Die polizeiliche Praxis zeigt jedoch auch, dass der Einsatz von KI mit verschiedenen Risiken für den Erfolg der Ermittlungen verbunden ist. So können beispielsweise unausgewogene Trainingsdatensätze zu Ermittlungsfehlern führen oder Cyberangriffe auf KI-Systeme die Ermittlungen in die falsche Richtung lenken. Schließlich ist die Nachvollziehbarkeit der Ermittlungsergebnisse ein entscheidender Punkt für deren Zulässigkeit vor Gericht.

Ziele und Vorgehen

Das Ziel von VIKING ist es, Lösungen zur Messung und Optimierung der Genauigkeit, Nachvollziehbarkeit und Robustheit vertrauenswürdiger KI in polizeilichen Anwendungen zu erforschen und umzusetzen. VIKING verfolgt dabei einen interdisziplinären Ansatz, der technische Methoden mit rechtlich-ethischen Anforderungen sowie Beiträgen zur Standardisierung und Regulierung von Testprotokollen verbindet. Die zu entwickelnde Lösung wird exemplarisch anhand verschiedener KI-Systeme im Bereich der Analyse von Bild-, Video-, Text- und Audiodaten implementiert und gemeinsam mit Anwendern evaluiert. Anschließend werden die Möglichkeiten und Grenzen einer Übertragung der technischen Ansätze auf andere Anwendungsfelder untersucht.

Innovation und Perspektiven

VIKING erstellt erstmals einen Anforderungskatalog mit konkreten, operationalisierbaren, ethischen und rechtlichen Leitlinien für die Entwicklung und Nutzung von KI-Methoden in polizeilichen Anwendungen. Darüber hinaus können die Ergebnisse aus VIKING den zukünftigen Einsatz von KI-Methoden durch die Polizei fördern und damit zur Stärkung von Recht und Sicherheit in Europa beitragen. Ausgewählte Ergebnisse Die Universität Konstanz (UKON) trägt zu VIKING als technischer und wissenschaftlicher Koordinator bei, entwickelt ein ganzheitliches Rahmenwerk für vertrauenswürdige künstliche Intelligenz in polizeilichen Anwendungen und berät andere Arbeitspakete beim Einsatz von XAI-Techniken.