Does Evaluation beat Recommendation? Exploring Human-AI interaction for image-guided diagnosis in pediatry

Mögliche negative Auswirkungen von "recommend-and-defend"-basierter erklärbarer
künstlicher Intelligenz (XAI) auf die user experience und die task-performance werden
in der aktuellen Forschung stark diskutiert (Buçinca et al., 2021; Gajos and
Mamykina, 2022; Miller, 2023). Ein mögliches alternatives Paradigma besteht darin,
Nutzenden Feedback zu ihren eigenen Hypothesen zu geben, nachdem sie diese dem
System mitgeteilt haben. Dieses Paradigma wird als evaluierende künstliche Intelligenz
EAI bezeichnet (Miller, 2023). Theoretisch besitzt (EAI) das Potenzial, negative
Erfahrungen von Nutzenden, wie over- und under-reliance, zu reduzieren und die
task-performance der Nutzenden zu verbessern (Miller, 2023). Ziel dieser Arbeit war
es, die Auswirkungen von XAI und EAI auf die task-performance von Nutzenden,
das wahrgenommene Vertrauen, deren confidence und die Diagnostizität zu untersuchen.
Beide Systeme wurden in einem nutzerzentrierten Designprozess für Ärzte
und Ärztinnen, die mit der Diagnose und der Auswahl von Behandlungsoptionen für
distale Radiusfrakturen bei Kindern beauftragt sind, entwickelt. Zum Ende habe ich
eine geskriptete, überwachte Online-Studie (N = 21) mit Ärzt:innen und Medizinstudierenden
durchgeführt, in der diese, mithilfe von XAI und Evaluative Artificial
Intelligence (EAI), mit der Diagnose und Auswahl von Behandlungsoptionen für Patient:
innen beauftragt wurden Ich fand keine signifikanten Unterschiede zwischen den
beiden Systemen. Die Ergebnisse legen nahe, dass EAI möglicherweise kein geeignetes
Paradigma zur Entscheidungsunterstützung für Ärzt:innen in der medizinischen Praxis
ist. Allerdings zeigt die hohe diagnostische Genauigkeit bei unerfahrenden Nutzenden
das Potenzial von EAI als ein System um diese möglicherweise auszubilden.