Vertrauen in KI: Analyse von Designelementen und Guidelines zur Erstellung von KI-Systemen im Kontext der Mensch-Computer-Interaktion

In den letzten Jahren gab es große Entwicklungen zum Thema Künstliche Intelligenz (KI). Vor allem stehen dabei wirtschaftlich orientierte KI-Systeme von großen Konzernen wie beispiels-weise Microsoft oder Google im Vordergrund. Ähnlich zu wirtschaftlich orientierten Unterneh-men finden sich im öffentlichen und gemeinwohlorientierten Sektor Herausforderungen für den Einsatz von KI. Insbesondere fehlen Experten aus der Branche. Da KI-basierte Entscheidungsfin-dung immer häufiger wird, wachsen die Bedenken hinsichtlich Fairness, Rechenschaftspflicht und Voreingenommenheit (Berscheid & Roewer-Despres, 2019; Züger et al., 2022). Nutzer sind sich beispielsweise nicht der Einschränkungen dieser Systeme bewusst oder wissen nicht, was ethische und faire KI ausmacht. Durch die in den Medien aufkommenden negativen Informatio-nen rund um das Thema KI muss die Gesellschaft hinsichtlich gemeinwohlorientierter KI-Produkte willentlich überzeugt werden und das Vertrauen in die Systeme gezielt verstärkt werden.
Zusätzlich zu einer guten Gebrauchstauglichkeit von Computersystemen gehört auch die User Experience (UX) dazu, welche eng mit dem Vertrauen in Computersysteme verbunden ist (Frison et al., 2019). Es lässt sich feststellen, dass UX als Faktor in KI-Systemen immer mehr einen grö-ßeren Stellenwert einnimmt. Durch den Fortschritt im Bereich der Human-Centered Artificial Intelligence (HCAI) lassen sich mehr Potentiale für UX-Design bei KI-Systemen finden (Shnei-derman, 2020). Diese sind aufgrund des jungen Forschungsthemas allerdings noch ausbaufähig (Frison et al., 2019).
Diese Arbeit zeigt den aktuellen Stand aus Forschung und Technik zum Thema KI. Dabei liegt der Fokus auf relevante Themen wie UX und Vertrauen, um erfolgreiche, menschenzentrierte Systeme zu gestalten. Erste Visualisierungskonzepte wurden auf Basis der wissenschaftlichen Literatur erstellt, um eine Orientierung für zukünftige, menschenzentrierte gemeinwohlorientierte KI-Projekte zu bieten.