algoritmisk snedvridning

systematiskt missvisande resultat av körning av en algoritm, i synnerhet om utfallet kan anses ofördelaktigt för en eller flera grupper. – Orsaken till snedvridningen kan vara själva algoritmen, men den kan också ligga i underlaget – de data som algoritmen behandlar. Det kan vara ett icke‑representativt urval, eller också återspeglar eller förstärker algoritmen orättvisor som faktiskt existerar. Statistisk korrelation innebär ju inte alltid kausal korrelation. Programmerarens förutfattade meningar, användares beteende i sociala medier och nytillkomna förhållanden som inte togs med i beräkningen när algoritmen skrevs kan också bidra till algoritmisk snedvridning. – För att motverka algoritmisk snedvridning har forskare utvecklat fair machine learning (FML). Se också algorithmic reparation. – Algoritmisk snedvridning har konsekvenser för värdering av samhällsförhållanden, men också för företags analys av kunddata. En utförlig beskrivning av former av algoritmisk snedvridning finns i Wikipedia. – Kallas också för algoritmisk diskriminering, algoritmisk partiskhet, algoritmisk vinkling. – På engelska: algorithmic bias; även: algorithmic discrimination. – Läs också om algokrati.

[fel] [källkritik] [programkörning] [sannolikhet] [ändrad 18 januari 2022]

Dagens ord: 2020-01-01