Story
Tech
Wat is een chatbot?
... en je weet het
Kunnen algoritmes discrimineren?
Die vooroordelen kunnen soms verkeerd uitpakken als de algoritmes voor belangrijke beslissingen worden ingezet. Zo gebruiken banken algoritmes om te beoordelen of je een krediet mag aanvragen. En ook in rechtszaken in de VS experimenteren ze hiermee.
Door vooroordelen in algoritmes kan je een baan of een paspoort mislopen.
Zelfrijdende auto’s zouden bijvoorbeeld mensen met een donkere huidskleur minder goed detecteren.
NOS op 3
Google Translate bevatte tot voor kort een bekend vooroordeel. Het algoritme pakte bij vertalingen stereotiep uit en vond de man belangrijker dan de vrouw.
Wie ‘she is a doctor, he is a nurse’ intypte en dit vanuit het Engels naar een onzijdige taal als het Turks of Perzisch en weer terug vertaalde, zag dat hij ineens de dokter was en zij de verpleegster. Google Translate is bezig deze fouten te herstellen.
Kunnen algoritmes discrimineren?