User Interfaces für Systeme zur Unterstützung bei komplexen Entscheidungen
Gegenstand diese Arbeit ist eine systematische Review der Literatur zur Gestaltung von User Interfaces für Systeme, die bei komplexen Entscheidungen unterstützen sollen. Dies umfasst Literatur über Nutzenden-Anforderungen, Gütekriterien und Best Practices beispielsweise zur Gestaltung von Dashboards aus vielen möglichen Domänen, in denen komplexe und risikoreiche Entscheidungen getroffen werden müssen (Diagnostik, epidemiologische Modellierung usw.). Der Fokus soll dabei sowohl auf der Erklärbarkeit, Transparenz und Kontrollierbarkeit von Systemen liegen.
Art der Abschlussarbeit
- Masterarbeit
Status der Arbeit
- Angeboten
Betreuer/in
Hintergrundinformationen zu der Arbeit
In vielen Bereichen werden Anwendungen eingesetzt, die bei komplexen und risikoreichen Entscheidungen unterstützen sollen. Ein Beispiel sind epidemiologische Szenario-Modelle (Howerton et al., 2023). Diese unterstützen Entscheidungs-Träger*innen dabei, Optionen zum Management einer Pandemie zu wählen. Ein weiteres aktuelles Beispiel sind Systeme, die künstliche Intelligenz (KI) nutzen. Anwendungsbereiche reichen dabei von medizinischer Diagnostik (Schütze et al., 2023) bis hin zum Katastrophenschutz (Sahoh & Choksuriwong, 2023).
Sowohl diese Systeme selbst als auch die Interaktion mit den Systemen weisen dabei einen hohen Grad an Komplexität auf. Das beginnt mit den Regeln, Mechanismen und Datenquellen, die den Systemen zugrunde liegen. Diese sind üblicherweise für Nutzende weder einfach zugänglich noch einfach durchschaubar. Dabei sind Transparenz, Erklärbarkeit und Kontrollierbarkeit solcher Systeme von zentraler Bedeutung (Calero Valdez et al., 2024). Nutzende sollen zum einen verstehen, welche Daten und Regeln den Vorhersagen, Urteilen und Empfehlungen der Systeme zugrunde liegen. Kontrollierbarkeit impliziert außerdem die Möglichkeit, mit dem System zu interagieren und Parameter anzupassen.
Eine Methode, die für die Gestaltung solcher Systeme unabdingbar ist, ist das human-centered design.
Literatur
Calero Valdez, A., Heine, M., Franke, T., Jochems, N., Jetter, H.-C., & Schrills, T. (2024). The European Commitment to Human-Centered Technology: The Integral Role of HCI in the EU AI Act’s Success (arXiv:2402.14728). arXiv. http://arxiv.org/abs/2402.14728
Howerton, E., Contamin, L., Mullany, L. C., Qin, M., Reich, N. G., Bents, S., Borchering, R. K., Jung, S., Loo, S. L., Smith, C. P., Levander, J., Kerr, J., Espino, J., van Panhuis, W. G., Hochheiser, H., Galanti, M., Yamana, T., Pei, S., Shaman, J., … Lessler, J. (2023). Evaluation of the US COVID-19 Scenario Modeling Hub for informing pandemic response under uncertainty. Nature Communications, 14(1), 7260. https://doi.org/10.1038/s41467-023-42680-x
Sahoh, B., & Choksuriwong, A. (2023). The role of explainable Artificial Intelligence in high-stakes decision-making systems: A systematic review. Journal of Ambient Intelligence and Humanized Computing, 14(6), 7827–7843. https://doi.org/10.1007/s12652-023-04594-w
Schütze, D., Holtz, S., Neff, M. C., Köhler, S. M., Schaaf, J., Frischen, L. S., Sedlmayr, B., & Müller, B. S. (2023). Requirements analysis for an AI-based clinical decision support system for general practitioners: A user-centered design process. BMC Medical Informatics and Decision Making, 23(1), 144. https://doi.org/10.1186/s12911-023-02245-w