Wie kann KI vertraut werden, wenn wichtige Parameter nicht berücksichtigt werden - Nutzerzentrierte Entwicklung einer KI-Schnittstelle für die Eingabe von Schiffsroutenparametern unter Einbezug von XAI

Diese Arbeit befasste sich mit der Weiterentwicklung einer Benutzerschnittstelle zur Eingabe von Schiffsroutenparametern, innerhalb des MariData Projekts. MariData enthält einen KI-Algorithmus, welcher in der Lage ist, aufgrund der eingebenden Parameter für das Schiff eine möglichst energieeffiziente Route zu planen. Es wurde untersucht, welchen Einfluss Vertrauen gegenüben über der KI spielt und wie die Zusammenarbeit von Menschen und KI davon beein-flusst wird. Die Konzepte von „explainable artificial intelligence“ (XAI) wurden untersucht und verwendet, um Richtlinien aufzustellen, welche als Grundlage für die Weiterentwicklung der Schnittstelle dienen sollten. Es wurde der komplexe Kontext der energieeffizienten Schiffsrou-tenplanung betrachtet und vorgestellt als auch mögliche Herausforderungen mit der bestehenden Schnittstelle des MariData Systems aufgezeigt. Darauf aufbauend wurden Lösungsansätze entwi-ckelt und in einen Prototyp umgesetzt, mit dem Ziel, ein möglichst geeignetes Vertrauen in die Schnittstelle durch den Benutzer zu erzeugen. An dem entwickelten Prototyp wurde eine heuris-tische Evaluation durchgeführt, um zu prüfen, ob die erstellten Richtlinien umgesetzt wurden. Anschließend wurde dieser Prototyp zusammen mit zwei weiteren Prototypen, die das Grundde-sign der MariData Applikation abbilden, in einer Online-Studie summativ evaluiert. In der On-line-Studie wurden den Teilnehmern die drei verschiedenen Prototypen präsentiert, welche die Teilnehmer jeweils mit den gleichen Heuristiken bewerten sollten. Es sollte so geprüft werden, wie die Prototypen sich in Vertrauens- und Usability-Aspekten unterscheiden. Die Auswertung der Online-Studie ergab, dass keine klaren Tendenzen zu sehen sind, dass der weiterentwickelte Prototyp weniger Vertrauen aufweist im Vergleich zu den zwei anderen getesteten Prototypen. Abschließend wurde der in der heuristischen Evaluation bewertete Prototyp mithilfe des Feed-backs angepasst und innerhalb des MariData Systems implementiert.