algoritmisk snedvridning

systematiskt missvisande resultat av körning av en algoritm, i synnerhet om utfallet kan anses ofördelaktigt för en eller flera grupper. – Orsaken till snedvridningen kan vara själva algoritmen, men den kan också ligga i underlaget – de data som algoritmen behandlar. Det kan vara ett icke‑representativt urval, eller också återspeglar eller förstärker algoritmen orättvisor som faktiskt existerar. Statistisk korrelation innebär ju inte alltid kausal korrelation. Programmerarens förutfattade meningar, användares beteende i sociala medier och nytillkomna förhållanden som inte togs med i beräkningen när algoritmen skrevs kan också bidra till algoritmisk snedvridning. – Algoritmisk snedvridning har konsekvenser för värdering av samhällsförhållanden, men också för företags analys av kunddata. En utförlig beskrivning av former av algoritmisk snedvridning finns i Wikipedia. – Kallas också för algoritmisk diskriminering, algoritmisk partiskhet, algoritmisk vinkling. – På engelska: algorithmic bias; även: algorithmic discrimination. – Läs också om algokrati.

[fel] [källkritik] [programkörning] [sannolikhet] [ändrad 19 oktober 2020]

Dagens ord: 2020-01-01