Civil Weapons

Civil Weapons of Math Retaliation

Welke besluiten mogen algoritmen voor ons maken?

In samenwerking met kunstenaars, filosofen en vormgevers ontwikkelde SETUP vier ‘Civil Weapons of Math Retaliation’ waarmee burgers, werknemers en consumenten zich kunnen wapenen tegen onwenselijke algoritmische besluitvorming vanuit overheden en bedrijven.

Predictive policing, smart cities, recruitment software en risico-indicatie systemen; overheden en bedrijven maken steeds meer gebruik van algoritmische besluitvorming. Terwijl privacyrechten op de politieke agenda staan, is er weinig aandacht voor de morele implicaties en wiskundige formules die schuilgaan achter de ontransparante algoritmen van deze systemen.

Civil Weapons of Math Retaliation maken de morele implicaties van algoritmische besluitvorming inzichtelijk en zorgen ervoor dat burgers algoritmen kunnen inzetten voor eigen empowerment. Zo ontwikkelden we: klaagrobot Paaltje, uniformscanner RANG, open source videosollicitatie Input≠Output en urban game Flagged. De term CWMR is geïnspireerd op een concept van Harvard wiskundige Cathy O’Neil: ‘‘Weapons of Math Destruction.’ Hiermee verwijst zij naar de onwenselijke maatschappelijke gevolgen van algoritmische besluitvorming.

Lees meer

Watch