Kunnen algoritmes discrimineren?

... en je weet het

Kunnen algoritmes discrimineren?

Steeds meer bedrijven gebruiken kunstmatige intelligentie in de vorm van algoritmes.
Hiermee laten we computers voor ons beslissen.

Maar zijn computers wel zo neutraal?

Nee.
Computers kunnen discrimineren. De algoritmes leren van de data die mensen er in stoppen. 
Wat nu als deze data (onbedoelde) vooroordelen van mensen bevatten die de algoritmes overnemen?

Die vooroordelen kunnen soms verkeerd uitpakken als de algoritmes voor belangrijke beslissingen worden ingezet. Zo gebruiken banken algoritmes om te beoordelen of je een krediet mag aanvragen. En ook in rechtszaken in de VS experimenteren ze hiermee.

Door vooroordelen in algoritmes kan je een baan of een paspoort mislopen.

1:56 min

Algoritmes krijgen vaak eenzijdige data te zien. Zo worden ze bijvoorbeeld vaker 'getraind' met voorbeelden en foto's van witte mensen.
Veel herkenningssystemen met algoritmes werken daardoor beter op witte mensen dan op mensen met een donkere huidskleur.

Zelfrijdende auto’s zouden bijvoorbeeld mensen met een donkere huidskleur minder goed detecteren.

NOSop3

Algoritmes kunnen naast gevaarlijke effecten ook seksistische resultaten opleveren.

Google Translate bevatte tot voor kort een bekend vooroordeel. Het algoritme pakte bij vertalingen stereotiep uit en vond de man belangrijker dan de vrouw.

Wie ‘she is a doctor, he is a nurse’ intypte en dit vanuit het Engels naar een onzijdige taal als het Turks of Perzisch en weer terug vertaalde, zag dat hij ineens de dokter was en zij de verpleegster. Google Translate is bezig deze fouten te herstellen.

Ook trekt webwinkel Amazon de stekker uit hun ‘sollicitatierobot’ nadat ze erachter kwamen dat deze discrimineert.
Het systeem, ontworpen om nieuwe medewerkers te vinden voor het bedrijf, blijkt een voorkeur te hebben voor mannen en beoordeelt vrouwen met dezelfde kwaliteiten slechter.
De laatste jaren is er meer oog voor de risico's bij de uitkomsten van algoritmes. 
Zo pleit de politiek voor meer toezicht op het gebruik ervan. 

En je weet het!

Algoritmes kunnen discrimineren.

Deze story is onderdeel
van de serie:

Wat doet een algoritme?

auteur

Door Sophie Tiel

Redacteur

Ook interessant

om te weten

Wil je nog meer?

Blijf op de hoogte met de
wekelijkse nieuwsbrief
Volg NPO Kennis op:

En je weet het!

Algoritmes kunnen discrimineren.

auteur
Door Sophie Tiel
Redacteur