Sprookje over robot zonder vooroordelen leeft voort

Sprookje over robot zonder vooroordelen leeft voort
5 apr – Leestijd 2 min

Sprookje over robot zonder vooroordelen leeft voort

Siri Beerends
Siri is cultuursocioloog en schrijver. Ze onderzoekt de betekenis van authenticiteit, autonomie en imperfectie in de context van opkomende digitale technologieën.

Eergisteren schreef NRC Handelsblad in een artikel over algoritmische CV screenings dat een robot minder last heeft van vooroordelen dan een mens. Hoog tijd om uit dit sprookje te ontwaken.

Grasduinen door honderden CV's, afgezaagde motivatiebrieven lezen, stapels ‘ja’ aan de ene kant en stapels ‘nee’ aan de andere kant, je moet er als recruiter toch niet aan denken. Gelukkig zijn er tegenwoordig verschillende algoritmische orakels op de markt die automatisch CV's kunnen screenen en potentieel geschikte kandidaten eruit pikken.

Ondanks dat Amazon vorig jaar nog zijn discriminerende sollicitatie algoritme van de markt moest halen en wiskundigen als Cathy O' Neil en medialabs als SETUP op verschillende manieren laten zien dat algoritmen niet neutraal zijn, blijven we maar al te graag in het sprookje van neutrale technologie geloven.

Eergisteren schreef NRC Handelsblad dat recruitment algoritmen voor een diverser personeelsbestand kunnen zorgen. Een algoritmische CV screening zou sollicitanten bevrijden van discriminerende werkgevers die op basis van vooroordelen personeel aannemen. Een robot zou immers — let op daar gaan we — "minder last hebben van vooroordelen dan een mens".

Voor alle bedrijven, overheden en mensen die de algoritmen zijn meningen verpakt in code boot gemist hebben: het feit dat een algoritme elke individu op dezelfde manier beoordeelt, betekent niet dat dit ook op een neutrale manier gebeurt. Algoritmen zijn gemaakt door mensen, mensen met vooroordelen en morele waarden die doorklinken in onze technologieën en verder worden verspreid via onze technologieën.