algoritmaversion

motvilja mot att låta avancerade datorprogram (”algo­ritmer”) fatta beslut och göra val i stället för att man gör det själv. Det är underförstått det gäller algoritmer som är opartiska och fria från förutfattade meningar samt som är beprövade regelsystem baserade på ett stort underlag. Detta till skillnad från människor, som litar på erfarenhet och magkänsla. – Undersök­ningar tyder på att män­ni­skor först gillar den typ av datorprogram som det gäller här när de be­kantar sig med dem, men att de snart börjar ogilla dem och vill fatta be­slut själva – trots att utfallet ofta blir sämre. Små fel räcker för att människorna ska börja betrakta algoritmerna som opålitliga, även om mänskliga beslutsfattare gör större fel. – Algoritmaversion har studerats av de amerikanska forskarna Berkeley J Dietvorst (länk), Cade Massey (länk) och Joseph P Simmons (länk), se denna artikel med video från Knowledge@Wharton och denna vetenskapliga artikel av samma författare. De har kommit fram till att om man ger användaren vissa, om än små, möjligheter att påverka algoritmen så blir de mer benägna att acceptera den. – På engelska: algorithm aversion.

[ai] [psykologi] [ändrad 8 maj 2019]

Dagens ord: 2017-03-01