Algorithmic bias is een term uit de Artificial Intelligence wereld en verwijst naar algoritmes die systematisch onjuiste en vooringenomen beslissingen nemen. Er kunnen hiervoor technische redenen zijn, bijvoorbeeld wanneer het programma gebruik maakt van een random number generator die uiteindelijk niet echt random blijkt te zijn.
Maar algorithmic bias gebeurt vooral wanneer beperkte datasets gebruikt worden. Deep learning algoritmes zijn afhankelijk van een grote hoeveelheid input data. Hoe meer gegevens, hoe beter het algoritme wordt. AI-systemen leren voorspellingen te doen op basis van de gegevens die ze als input krijgen. Daar proberen ze dan patronen in te herkennen. Maar indien de datasets onvolledig zijn, zal het algoritme systematisch tot foutieve conclusies komen.
Een typisch voorbeeld is een Google algoritme dat foto's van mensen foutief interpreteerde omdat het algoritme voornamelijk getraind was met beelden van witte mensen. Een gelijkaardig probleem was er bij Amazon die in een HR-AI systeem vrouwen discrimineerde voor de job van programmeurs omdat in de beschikbare data vooral mannen opgenomen waren.