One strike and I'm out

Mit den technologischen Durchbrüchen bei Rechenleistung und künstlicher Intelligenz (KI) in den letzten Jahren sind intelligente Algorithmen zunehmend in der Lage, Aufgaben von menschlichen Entscheidungsträgern zu übernehmen. Mit dem Aufkommen und dem Erfolg von KI-basierten Entscheidungsunterstützungssystemen ist jedoch eine weitere große Herausforderung entstanden. Forscher haben festgestellt, dass Menschen Algorithmen aufgrund einer allgemeinen, auf Misstrauen beruhenden Abneigung ablehnen, auch dann, wenn es eigentlich besser wäre, sie zu benutzen.

Dieses Phänomen, das als Algorithmus-Aversion bezeichnet wird, stellt eine große Herausforderung für Entscheidungsprozesse dar. Die Ablehnung der Hilfe von KI-basierten Entscheidungsunterstützungssystemen führt entweder zu falscher Benutzung, d. h. Unter- oder Überbeanspruchung der Hilfe durch Algorithmen, zu Missbrauch, d. h. Manipulation der Ergebnisse des Algorithmus, oder sogar zur Nichtnutzung, d. h. zur völligen Verweigerung der Verwendung eines Algorithmus, was letztlich zu schlechteren Entscheidungen führen kann. In der aktuellen Forschung wurden Faktoren vorgeschlagen, die die Akzeptanz von Algorithmen verbessern könnten, z.B. sog. Algorithm Literacy, sog. Human-in-the-Loop-Entscheidungen, und die Gestaltung des Kontexts durch sog. Verhaltensdesign. Aufgrund des relativ jungen Forschungsgebiets sind jedoch noch viele Fragen unbeantwortet.

In diesem Projekt untersuchen wir in einem Laborexperiment, wie das anfängliche Vertrauen in und die anschließende Akzeptanz von KI-basierten Entscheidungsunterstützungssystemen gestärkt werden können und wie das Vertrauen und die anschließende Akzeptanz wiederhergestellt werden können, nachdem ein KI-basiertes Entscheidungsunterstützungssystem Fehlentscheidungen getroffen hat.

In einer Reihe von Experimenten müssen die Teilnehmer Prognosen treffen, bei denen wir das reale Verhalten der Teilnehmer bei der Nutzung eines KI-basierten Entscheidungsunterstützungssystems beobachten können.

Die Studie zielt darauf ab, das Bewusstsein dafür zu schärfen, dass nicht jedes KI-basierte Entscheidungsunterstützungssystem von den Entscheidungsträgern reibungslos angenommen wird und Barrieren für die Annahme entstehen können.

In bestimmten Situationen können KI-basierte Entscheidungsunterstützungssysteme Entscheidungen erleichtern oder gar verbessern. Die Ergebnisse dieser Studie können Unternehmensentscheidern, die vor der Einführung solcher Systeme in ihren Unternehmen stehen, als Orientierungshilfe dienen, indem verschiedene Implementierungsstrategien verglichen und Vorschläge entwickelt werden, wie anfängliche Widerstände überwunden werden können.

• Menschen neigen dazu, algorithmenbasierte Entscheidungssysteme abzulehnen, selbst wenn deren Nutzung von Vorteil wäre.
• Das Sammeln von Erfahrungen mit dem System kann die Algorithmus-Aversion über die Zeit hinweg abschwächen.
• Das Teilen von positiven Erfahrungen anderer Benutzer kann ebenfalls zur Reduktion der Algorithmus-Aversion beitragen.