algoritmisk snedvridning

systematiskt missvisande resultat av körning av en algoritm, i synnerhet om utfallet kan anses ofördelaktigt för en eller flera grupper. – Orsaken till snedvridningen kan vara själva algoritmen, men den kan också ligga i underlaget – de data som algoritmen behandlar. Det kan vara ett icke‑representativt urval, eller också återspeglar eller förstärker algoritmen orättvisor som faktiskt existerar. Programmerarens förutfattade meningar, användares beteende i sociala medier och nytillkomna förhållanden som inte togs med i beräkningen när algoritmen skrevs kan också skapa algoritmisk snedvridning. Algoritmisk snedvridning har konsekvenser för värdering av samhällsförhållanden, men också för företags analys av kunddata. En utförlig beskrivning av former av algoritmisk snedvridning finns i Wikipedia. – Kallas också för algoritmisk diskriminering, algoritmisk partiskhet, algoritmisk vinkling. – På engelska: algorithmic bias; även: algorithmic discrimination.

[fel] [källkritik] [programkörning] [sannolikhet] [3 december 2019]

Dagens ord: 2020-01-01