Algorithm is a Dancer

Algorithm is a Dancer

Magazine
© SETUP / Sebastiaan ter Burg

Ons nieuwe jaarprogramma in 2017 Top story


Frank-Jan van Lunteren vrijdag 13 januari 2017
Inhoud: 

2016: Ben jij een vijf-sterren-mens?

Opbeurend en positief taalgebruik op Facebook? Puntje erbij. Woon je in een relatief slechte wijk? Puntje eraf. In 2016 behandelde SETUP de reputatie-economie. In ons programma Brave Nieuwe Wereld onderzochten we een wereld waarin algoritmische ranking en scores altijd op de loer liggen. Ongemerkt worden we namelijk dagelijks beoordeeld door algoritmen. Als jouw postcodegebied bijvoorbeeld minder goed scoort op opleidingsniveau of criminaliteit, kan dat ten koste gaan van jouw risicoprofiel. De kans is dan hoger dat je niet aan betalingsverplichtingen kan voldoen. Die constante beoordeling leidt volgens ons tot een wereld waarin mensen zich 'braver' gaan gedragen. Ruimte om te experimenteren, risico's te nemen, expressief te zijn en mogelijk te falen, leidt tot lagere scores. En lagere scores kunnen deuren voor ons sluiten.

In het project Louche Apparaten maakten we deze realiteit tastbaar. Drie kunstenaars ontwikkelden hun eigen Internet-of-Things-apparaat voor in het huishouden, dat pijnlijk laat zien hoe het is om constant te worden gewogen. Zo zet het koffiezetapparaat van Vincent Hoenderop een minder goede bak koffie voor iedereen die in een minder goede buurt woont.

Het gemeenste koffiezetapparaat dat we ooit gezien hebben. — Dutch Cowboys

'If your partner isn't faithful...'

In 2017 onderzoeken we de veranderende relatie tussen mens en ding op een dieper niveau. Deze ‘dingen’ krijgen namelijk steeds meer handelingsvermogen. De stad wordt slim, ons huis geautomatiseerd, zelfrijdende auto’s voegen in op de snelweg en allerlei vormen van robotica kloppen – letterlijk – aan de deur. Met de opkomst van het Internet of Things kreeg dat handelingsvermogen een heel nieuwe dimensie. Door data te verzamelen, op te vragen en te delen, claimen onze apparaten dat ze 'onderbouwde' beslissingen maken.

In die algoritmische keuzestructuren zitten alleen wel allerlei morele voorkeuren verborgen. Zelfrijdende auto's moeten bijvoorbeeld een keuze maken wie ze beschermen bij een naderende botsing; de bestuurder van de auto, of voetganger op de straat? Of wat dacht je van Smarttress, een matras met 'lover detection system'. Onder de slogan “If your partner isn't faithful at least your mattress should be” stuurt dit matras jouw partner een notificatie als het denkt dat jij een affaire hebt. De moraal; affaires moeten direct worden ontmaskerd.

Niet alleen leggen deze algoritmes ons een moraal op, de vraag is ook hoe zuiver ze zijn. De HiMirror Plus, deze maand onthuld op de internationale Consumer Electronics Show, is een spiegel die de 'flaws' in jouw gezicht aanwijst en vertelt hoe je die het best kan maskeren. Kortom; presenteer jezelf alleen aan de buitenwereld met een perfecte huid. Maar ook; er zijn makeup- en beauty-producten om die flaws te maskeren. De spiegel helpt je graag een keuze maken.

Smarttress

Verleid door Siri?

We zien in deze ontwikkeling een discrepantie ontstaan. Aan de ene kant integreren nieuwe technologieën steeds vaker in 'third-tier brands'. Alexa, de slimme voice-assistant-technologie van Amazon, wordt bijvoorbeeld ook in apparaten van goedkopere merken gebruikt. Het voordeel voor deze bedrijven; ze kunnen gebruik maken van complexe en kostbare technologie zonder deze zelf te ontwikkelen. Het voordeel voor Amazon is ook duidelijk; door in zoveel mogelijk apparaten te zitten, is er meer data te verzamelen. Kortom, we naderen een tijdperk waarin er steeds meer stakeholders in 1 apparaat zitten, die allemaal iets van de eindgebruiker willen. Dat geldt niet alleen voor onze televisies of keukenapparaten, maar stelt ook de vraag welke stakeholders er straks in onze zorgrobots zitten. Het probleem is dat die achterliggende structuren voor de eindgebruiker niet zichtbaar zijn.

Parallel zien we dat die structuren juist steeds minder zichtbaar worden. De systeemwereld presenteert zich namelijk steeds vaker als menswereld. Het zijn niet langer 'de computers', maar de vriendelijke stem van Siri of de mooie ogen van de robot die ons een moraal opleggen of ons gedrag sturen. Het is de antropomorfisering van data politics. In die 'menselijke communicatie' met onze apparaten reageren we ook menselijker; we zijn vergeeflijker bij fouten, bouwen sneller een vertrouwelijke relatie op en handelen sneller vanuit emotionele drijfveren. Anekdotisch zijn de verhalen over soldaten die tijdens vuurgevechten hun eigen leven riskeren om hun Packbot te redden. We gaan het hebben over apparaten die hun dag niet hebben of iets ‘willen’. De 'algorithmic folk theories' – verhalen die mensen bedenken om te verklaren hoe hun slimme apparaten werken – lijken steeds meer op psychoanalyses.

De enorme opkomst van menselijk uitziende en klinkende apparaten laat ook zien dat we graag willen dat onze technologie 'natuurlijker' aanvoelt. Maar zijn we in die relaties nog in staat om die achterliggende systeemwereld, de algoritmen en stakeholders, te doorzien?

SETUP wil met haar nieuwe jaarprogramma Algorithm is a Dancer de consequenties van deze nieuwe werkelijkheid onderzoeken.

 

Ben jij ook bezig met deze thematiek? Neem contact met ons op, we werken graag samen.