Unchained Melody 2019

Inhoud: 
© Bart Leguijt
Synapsisme | Stan Wannet en Crystal de la Cruz

Unchained Melody

In plaats van een debat te voeren over technologieën die de mens vervangen, moeten we nadenken over de manier waarop beiden versmelten.

In 2018 onderzocht SETUP de opkomst van automatische besluitvorming: welke beslissingen mogen algoritmen voor ons maken? Samen met ontwerpers en kunstenaars ontwikkelden we algoritmen waarmee iedereen zich kan verzetten tegen system-level-bureaucracies. Tijdens dit programma liepen we tegen een dieper probleem aan: de human-in-the-loop wordt niet gezien als een waardevolle aanvulling op technologische systemen, maar als een inefficiënte kostenpost. Terwijl menselijke capaciteiten onmisbaar zijn om technologische systemen aan te vullen en in goede banen te leiden.

Vanuit deze constatering richten we ons in 2019 met het jaarprogramma Unchained Melody op drie hoofdpunten:

1. Het gevaar zit niet zozeer in machines die steeds menselijker worden, maar in mensen die zich meer als machines gaan gedragen.

De samenleving maakt zich vooral druk over de ontwikkeling van cyborgs en robots die onze banen overnemen. Nieuwe vormen van technologie worden aan mensen gespiegeld en lijken daardoor steeds menselijker te worden. Maar dat mensen door de toenemende digitalisering ook meer op machines gaan lijken blijft onderbelicht.

We projecteren menselijke capaciteiten als bewustzijn, redenerend vermogen en empathie op AI's, en vormen ons vervolgens naar deze simulaties. Daarnaast laten we onze definiëring van menselijke kwaliteiten steeds meer bepalen door datgene waar machines goed in zijn, waardoor ons begrip van bijvoorbeeld intelligentie vernauwt. Hierdoor schuiven we als mens dichter naar machines toe, en wordt een complementaire samenwerking lastiger.

2. We moeten samen onderzoeken wat goede vormen van versmelting zijn en hoe mens en machine elkaar complementair kunnen aanvullen.

Naast zorgwekkende ontwikkelingen zoals autonome wapens die beslissingen nemen zonder menselijke inmenging, zijn er ook positieve manieren waarop mens en machine met elkaar verweven zijn. Een voorbeeld is Debater: een debatcomputer die ons meerdere standpunten over een onderwerp laat zien en mensen kan losweken uit vastgeroeste denkpatronen.

In plaats van een debat te voeren over technologieën die de mens vervangen, moeten we nadenken over de verschillende manieren waarop beiden versmelten. Hoe zorgen we dat de menselijke waarde daarbij in-the-loop blijft? Deze vraag moeten we in praktische technologische contexten onderzoeken, die binnen onze eigen invloedssfeer liggen.

3. Door verschillende scenario's te doordenken leren we de human-in-the-loop serieus te nemen en zelf vorm te geven.

Daarom gaan we in ons activiteitenprogramma met kunstenaars op zoek naar gereedschappen en vocabulaire waarmee we zelf vorm kunnen geven aan onze versmelting met technologie. Zo bouwen we een robot die kan pottenbakken in samenwerking met een mens, als ultieme vorm versmelting. We ontwikkelen slimme barbies in verschillende opvoedstijlen om de rol van speelgoed te onderzoeken bij de opvoeding van kinderen. En we maken DIY clickbait-video’s die zo goed mogelijk scoren bij algoritmische systemen.

Benieuwd wat we nog meer gaan doen? Je leest er alles over in ons programmaboekje.