Civil Weapons of Math Retaliation

© Sebastiaan ter Burg

Civil Weapons of Math Retaliation

Welke beslissingen mogen algoritmen autonoom voor ons maken?

SETUP onderzocht automatische besluitvorming door zelf dit soort algoritmen te ontwikkelen. Algoritmen die niet alleen door overheden en bedrijven kunnen worden ingezet, maar door iedereen. Met deze toekomstscenario’s wordt het makkelijker om de wenselijkheid van deze systemen te bevragen.

Zo maakten we een algoritme om videosollicitaties te beoordelen. Deze systemen worden al gebruikt door grote bedrijven. Ons algoritme geeft de sollicitant echter direct feedback. Welke woorden scoren goed? Hoe scoor je op micro-expressies? En doet die stropdas het goed, of kun je beter een klassieke hoed of een onesie dragen? Door deze algoritmen transparant te maken, wordt ook duidelijk dat het soms om twijfelachtige wetenschap gaat. Is alles wel zo meetbaar? Is het verstandig om elke beslissing aan een algoritme over te laten?