Leistungsanreize und Vertrauen in Algorithmen

Bei komplexen Entscheidungen werden Menschen immer häufiger von Künstlicher Intelligenz (KI) unterstützt, schenken der Technologie aber meist zu wenig Vertrauen. Eine Studie zeigt, wie sich das ändern könnte.

Künstliche Intelligenz durchdringt rasant nahezu alle Lebensbereiche, insbesondere auch das berufliche Umfeld. Während viele Routine-Aufgaben bereits vollständig automatisiert durchgeführt werden können, werden komplexe Entscheidungen zwar nach wie vor von Menschen getroffen, aber immer häufiger mit Unterstützung von KI-Algorithmen. Obwohl diese Algorithmen immer leistungsfähiger werden und oft deutlich akkurater sind als Experten, sind Entscheidungsträger meist noch sehr skeptisch. Zum Beispiel vertrauen Wirtschaftsprüfer der Einschätzung eines komplexen Sachverhaltes weniger, wenn diese von einem KI-Algorithmus stammt. Ebenso gering ist das Vertrauen in KI im medizinischen Bereich, obwohl algorithmische Diagnosen in vielen Bereichen, wie z.B. bei Hautkrebs, treffsicherer sind als jene von Ärzten.

Bezahlung von Entscheidungsträgern

Abgesehen von persönlicher Erfahrung, jeweiligem Kontext, und wahrgenommener Leistungsstärke eines KI-Algorithmus, spielen auch finanzielle Anreize eine entscheidende Rolle in der Interaktion von Entscheidungsträgern mit Künstlicher Intelligenz. Manager, Wirtschaftsprüfer, Ärzte und andere Entscheidungsträger sind meist sehr unterschiedlichen finanziellen Anreizen ausgesetzt. Vor allem in Unternehmen ist es üblich, die Bezahlung von Entscheidungsträgern an deren Leistungen zu knüpfen. Dabei gilt entweder ein absoluter Leistungsstandard als Kriterium, oder Entscheidungsträger werden nach ihrer relativen Leistung im Vergleich zu Anderen bewertet und entlohnt. In einigen Berufsgruppen ist es jedoch üblich, ein Gehalt mit fixer Höhe zu erhalten.

Wissenschaftliche Evidenz zum Einfluss der Art der Bezahlung auf das Verhalten von Entscheidungsträgern im Umgang mit Algorithmen ist jedoch kaum vorhanden. Eine der wenigen Studien dazu kommt aus dem Jahr 1990 und fand, dass sich Entscheidungsträger weniger auf die Vorhersagen eines Algorithmus stützen, wenn ihre Bezahlung leistungsabhängig ist. Eine mögliche Erklärung ist, dass Entscheider bei Leistungsanreizen den Druck verspüren, selbst eine Einschätzung treffen zu müssen, anstelle einfach den Algorithmus zu verwenden. Wenn Algorithmen aber besser sind, leidet darunter die Treffsicherheit der Entscheidungen.

Basierend auf dieser Evidenz wurde bisher von Experten empfohlen, leistungsabhängige Bezahlung besser nicht mit algorithmischer Unterstützung zu kombinieren. In den letzten Jahren haben sich jedoch nicht nur der Zugang zu riesigen Datenmengen und die algorithmischen Methoden massiv weiterentwickelt, sondern auch die gesellschaftliche Haltung und Akzeptanz von KI und Algorithmen.

Studie: Leistungsabhängige Bezahlung stärkt Vertrauen in Künstliche Intelligenz

In einer aktuellen Studie untersuchen wir (gemeinsam mit Philipp Grünwald, Thomas Lindner, und Georg Lintner) wie die Bezahlung von Entscheidungsträgern und deren Umgang mit KI-Algorithmen zusammenhängen. Dazu führten wir ein Experiment mit 1500 Teilnehmern durch, welche mit Unterstützung eines KI-Algorithmus die Preise von Airbnb-Apartments in Wien schätzen mussten. Ihre Bezahlung variierte zwischen einem fixen Gehalt und einer leistungsabhängigen Entlohnung, welche entweder an der absoluten Leistung bemessen wurde, oder relativ zur Leistung anderer Teilnehmer. Zusätzlich untersuchten wir auch, ob es einen Unterschied für die Akzeptanz macht, wenn bei der Beschreibung des KI-Algorithmus die Involvierung von menschlichen Experten betont wird.

Im Gegensatz zu älteren Studien finden wir, dass sich Entscheidungsträger mehr anstrengen und auf die Vorhersagen des Algorithmus stützen, wenn ihre Bezahlung leistungsabhängig statt fix ist. Der positive Effekt ist etwas ausgeprägter, wenn die Leistung individuell bemessen wird, und nicht relativ zu anderen. Wenn die Involvierung von menschlichen Experten bei der Erstellung der algorithmischen Vorhersagen betont wird, steigt auch das Vertrauen von Entscheidungsträgern mit fixem Gehalt.

Das Fazit aus unserer Studie ist daher, dass sich leistungsabhängige Bezahlung positiv auf das Verhalten von Entscheidungsträgern im Umgang mit KI-Algorithmen auswirkt. Das sind gute Nachrichten für viele Unternehmen, die ihre Manager mit leistungsabhängigen Bonuszahlungen motivieren und gleichzeitig den vermehrten Einsatz von KI-basierten Entscheidungshilfen und Business Analytics vorantreiben wollen.

Hier geht’s zur vollständigen Studie (in Englischer Sprache):

Greiner, Grünwald, Lindner, Lintner, & Wiernsperger (2022): Incentives, Framing, and Trust in Algorithmic Advice: An Experimental Study