Video
Samenleving
Hoe herken je onbewuste vooroordelen bij jezelf?
... en je weet het
Kan AI discrimineren?
We gebruiken steeds vaker kunstmatige intelligentie (AI) om ons leven makkelijker te maken.
Kunstmatige intelligentie leert meestal van de data die mensen er in stoppen. Maar die data kunnen (onbedoeld) vooroordelen bevatten. Die kan een AI overnemen.
Die vooroordelen kunnen grote gevolgen hebben als de AI's voor belangrijke beslissingen worden ingezet. Bijvoorbeeld als een bank kunstmatige intelligentie gebruikt om te beoordelen of je een lening krijgt. Of als de overheid het gebruikt om fraude op te sporen.
Tegenlicht - VPRO
Door vooroordelen in AI's kan je een baan of paspoort mislopen.
AI's worden bijvoorbeeld vaker getraind met voorbeelden en foto's van witte mensen. Veel herkenningssystemen met algoritmes werken daardoor beter op witte mensen dan op mensen van kleur.
AI's kunnen ook seksistische resultaten geven.
Dat zag je bijvoorbeeld bij Google Translate.
Wie "she is a doctor, he is a nurse" intypte en dit vanuit het Engels naar een onzijdige taal als het Turks en weer terug vertaalde, zag dat hij ineens de dokter was en zij de verpleegkundige.
Ook trok webwinkel Amazon de stekker uit hun ‘sollicitatierobot’ nadat ze erachter kwamen dat deze discrimineert.
Het systeem, ontworpen om nieuwe medewerkers te vinden voor het bedrijf, bleek een voorkeur te hebben voor mannen en beoordeelt vrouwen met dezelfde kwaliteiten slechter.
De kwaliteit van de data waarmee we AI's trainen is dus heel belangrijk. Als de dataset fouten bevat of niet volledig is, kunnen AI's dat overnemen en discrimineren.
Kan AI discrimineren?
Laatste update: 18-10-2024
Wil je nog meer?
Blijf op de hoogte met de
wekelijkse nieuwsbrief
Het persoonsgegeven dat je hier verstrekt - je mailadres - wordt door de NTR alleen gebruikt voor de nieuwsbrief. We bewaren het veilig (zolang je geabonneerd bent, daarna wordt het vernietigd) en geven of verkopen het nooit aan derden. Onderaan elke nieuwsbrief kun je zelf je toestemming voor de nieuwsbrief intrekken en je mailadres inzien, corrigeren of verwijderen. Bekijk ons privacystatement.