Entscheidungsautonomie und KI-Methodische Hinweise zur Untersuchung von KI-Nutzung in Sicherheitsbehörden

General

Art der Publikation: Conference Paper

Veröffentlicht auf / in: Mensch und Computer

Jahr: 2022

Verlag (Publisher): Gesellschaft für Informatik eV

Authors

Julian Romeo Hildebrandt

Martina Ziefle

André Calero Valdez

Abstract

Künstlicher Intelligenz (KI) werden immense Potentiale zugeschrieben. Dies trifft auch auf den Bereich der zivilen Sicherheit zu und wird u.A. in dem BMBF geförderten Forschungsprojekt KISTRA: Einsatz von KI zur Früherkennung von Straftaten erforscht. Ziel des Projektes ist der rechtlich, ethisch und sozial vertretbare Einsatz von KI-Klassifizierern durch das Bundeskriminalamt (BKA) zur Erkennung und Verfolgung von Hasskriminalität in sozialen Netzwerken. Dieser Artikel stellt Forschungsziele aus dem Bereich der Mensch-Technik Interaktion vor und geht hierbei insbesondere auf deren methodische Herangehensweisen und Herausforderungen, sowie erste Ergebnisse des Forschungsprojektes ein. Hierdurch werden für die Forschungsziele Anforderungsanalyse, Konzeption von Nutzerschnittstellen, und Usabilityevaluation Handlungsempfehlungen für zukünftige HCI-Forschung formuliert, wobei insbesondere auf den technischen Kontext der künstlichen Intelligenz und den organisationalen Kontext der Sicherheitsbehörde eingegangen wird.

Downloads

Download Publication

Zitation kopiert