Kan AI discrimineren?
We gebruiken steeds vaker kunstmatige intelligentie (AI) om ons leven makkelijker te maken.
Kunstmatige intelligentie leert meestal van de data die mensen er in stoppen. Maar die data kunnen (onbedoeld) vooroordelen bevatten. Die kan een AI overnemen.
Die vooroordelen kunnen grote gevolgen hebben als de AI's voor belangrijke beslissingen worden ingezet. Bijvoorbeeld als een bank kunstmatige intelligentie gebruikt om te beoordelen of je een lening krijgt. Of als de overheid het gebruikt om fraude op te sporen.
AI's worden bijvoorbeeld vaker getraind met voorbeelden en foto's van witte mensen. Veel herkenningssystemen met algoritmes werken daardoor beter op witte mensen dan op mensen van kleur.
Ook trok webwinkel Amazon de stekker uit hun ‘sollicitatierobot’ nadat ze erachter kwamen dat deze discrimineert.
Het systeem, ontworpen om nieuwe medewerkers te vinden voor het bedrijf, bleek een voorkeur te hebben voor mannen en beoordeelt vrouwen met dezelfde kwaliteiten slechter.
De kwaliteit van de data waarmee we AI's trainen is dus heel belangrijk. Als de dataset fouten bevat of niet volledig is, kunnen AI's dat overnemen en discrimineren.
Kan AI discrimineren?
