The adoption of algorithmic decision-making agents over time: algorithm aversion as a temporary effect?

Artikel nur in englischer Sprache verfügbar.

Abstract:

Many individuals encounter algorithmic decision-making agents with algorithm aversion – the irrational discounting of superior algorithmic advice. So far, we know little about how algorithm adoption develops over time and how people may overcome algorithm aversion. In response, we explore the factors that foster the adoption of algorithmic decision-making agents – initially and over time. Based on an experiment with incentive-compatible awards over several rounds, we find that one’s knowledge about peers successfully using the technology as well as low transaction costs serve as strong initial motivators to foster initial algorithm adoption. Further, by revealing that adoption rates increase and initial difference in adoption rates become smaller over time, we find evidence that despite the technology’s particularities, algorithm aversion seems to have a temporary effect only.

Deutsche Zusammenfassung:

Menschen tendieren dazu, auf Algorithmen basierte Entscheidungssysteme abzulehnen, selbst wenn deren Nutzung von Vorteil wäre. Dieses Phänomen wird auch Algorithmus-Aversion genannt. Bislang wissen wir nur wenig darüber, wie sich die Akzeptanz von Algorithmen im Laufe der Zeit entwickelt und wie Menschen ihre Algorithmus-Aversion überwinden können. In diesem Paper untersuchen wir die Faktoren, die die Akzeptanz von automatischen Entscheidungssystemen erhöhen können. Auf Basis eines Experiments mit anreizkompatiblen Belohnungen über mehrere Runden hinweg stellen wir fest, dass das Wissen um die erfolgreiche Nutzung der Technologie durch andere sowie niedrige Transaktionskosten anfängliche Algorithmus-Aversion reduzieren können. Darüber hinaus zeigen wir, dass die Akzeptanz im Laufe der Zeit steigt, was darauf hindeutet, dass Algorithmus-Aversion nur eine vorübergehende Wirkung zu haben scheint.