Technische Systeme können menschliche Entscheidungsprozesse bereits in verschiedenen Aufgaben und Bereichen unterstützen. Um Fehler lernender Systeme abzufangen, muss der Mensch die Unterstützung durch die KI bewerten können.
Die Beurteilung, ob eine Empfehlung richtig oder falsch ist, kann jedoch eine Herausforderung sein. Aus Perspektive der
Ingenieurpsychologie geht es in diesem Themenbereich nicht um die technische Weiterentwicklung solcher Systeme, sondern um die menschenzentrierte Erforschung und Gestaltung der Systeme und der Mensch-Maschine-Interaktion. Daraus
ergibt sich die Frage nach Auswirkungen unterschiedlicher Gestaltung von Unterstützungssystemen auf menschliche Aspekte, wie Aufmerksamkeitsverteilung, Leistung in der Aufgabe, Vertrauen in das System und Entdeckung von Systemfehlern.