Installatie-drieluik Accept & Work maakt de wereld achter kunstmatige intelligentie tastbaar. Een wereld van onzichtbare arbeid en verborgen maatschappelijke kosten, maar ook een wereld waar je de ultieme werkflow kunt ervaren. Welk soort samenleving faciliteren we met klikwerk en wie plukken daar de vruchten van?
In 1770 ontwierp de Hongaarse uitvinder Wolfgang von Kempelen de Mechanische Turk: een schaakmachine die de beste spelers ter wereld kon verslaan. Mensen kwamen met de meest wilde verklaringen voor de indrukwekkende schaakprestaties. Werkte de machine met magnetische krachten? Was er sprake van magie? Uiteindelijk kwam de aap uit de mouw: Kempelen had de Turk zodanig ontworpen dat een schaakspeler in het bouwwerk verstopt kon worden. Hij had zich laten inspireren door illusionisten die met goocheltrucs mensen optisch konden laten verdwijnen.
Nu, 250 jaar later, laten we ons nog steeds betoveren door deze goocheltruc. De goocheltruc heet kunstmatige intelligentie en wordt niet uitgevoerd door een Hongaarse uitvinder maar door duizenden onzichtbare klikwerkers.
Niet slim en niet kunstmatig
Als er een award zou bestaan voor woorden die ons op het verkeerde been zetten dan zou kunstmatige intelligentie een goede kandidaat zijn. Computers zijn uitzonderlijk goed in rekenen en patroonherkenning, maar daarmee bereik je geen intelligentie. Bewustzijn, intentionaliteit, redenerend vermogen, empathie, verbeeldingskracht, zintuiglijke waarneming en intuïtie zijn belangrijke aspecten van intelligentie die computers missen. Daardoor kunnen computersystemen op bovenmenselijk niveau schaken en Go spelen, maar komen ze qua vermogen om intuïtief hun omgeving te begrijpen niet eens in de buurt van een peuter.
Kunstmatige intelligentie is niet alleen niet slim, het is ook nog eens niet kunstmatig. De grondstoffen die nodig zijn om een AI-systeem te bouwen zijn levensecht, net als de miljoenen arbeiders die de systemen ontwikkelen, trainen en draaiende moeten houden.
Toen Amazon een AI-systeem ontwikkelde dat zelfstandig dubbelheden in productpagina’s moest detecteren, waren ze genoodzaakt om menselijke werkers in te huren. Hoe geavanceerd hun systeem ook was, voor de ‘last mile’ bleven ze afhankelijk van verfijnd menselijk ingrijpen, oftewel: intelligentie.
Hieruit werd Amazon Mechanical Turk geboren, ’s werelds grootste online klikwerk platform waar bedrijven, universiteiten en ontwikkelaars tegen lage tarieven klikwerkers betalen om hun AI-systemen te trainen en draaiende te houden.
Want onze computersystemen worden niet vanzelf competent. Daar zijn klikwerkers voor nodig die informatie checken, labelen of omzetten, bijvoorbeeld van analoog naar digitaal of van impliciet naar expliciet. Een voorbeeld is Faceboook die 2.792 uur uur aan videoclips nauwkeurig door klikwerkers laat beschrijven om hun AI te trainen zodat het videoscènes kan begrijpen vanuit een first-person perspectief.
Maar er bestaan ook bedrijven die klikwerkers betalen om hen te laten doen alsof ze een AI-systeem zijn. Zo kwam aan het licht dat de digitale assistent van startup x.ai niet zelfstandig agenda’s beheerde, vragen beantwoordde en meetings inplande, maar een team van klikwerkers dat deed. Kunstenaar Astra Taylor noemt dit verschijnsel ‘fauxtomation’:
Klikwerk gebeurt niet alleen op platforms als Amazon Mechanical Turk. Als je moet bewijzen dat je geen robot bent door een ReCaptcha in te vullen, doe je gratis klikwerk voor Google. Je traint dan hun kunstmatige intelligentie zonder daarvoor betaald te krijgen:
De menselijke arbeid achter onze AI-systemen, betaald of onbetaald, blijft veelal verborgen. Guestworker, het eerste ontwerp uit het installatie-drieluik van Merijn van Moll en Ruben van de Ven, brengt daar verandering in.
De installatie brengt de klikwerker naar de fysieke ruimte door aan het publiek te tonen hoe Amazon Mechanical Turk een opdracht verkoopt aan een menselijke werker. De klikwerker herkennen we aan de taak die hij live aan het uitvoeren is, zijn IP adres, besturingssysteem, browser, land van herkomst en werkvergoeding.
Van uitbuiting naar de ultieme werkflow
In de afgelopen jaren is meer aandacht gekomen voor de ethische kanten van klikwerk. In het boek “Ghostwork – How to stop Silicon Valley from building a new global underclass” (2019) adresseren antropologen Gray en Suri hoe onderbetaling, slechte werkomstandigheden en de afwezigheid van basale werknemersrechten ervoor zorgen dat een kleine tech-elite profiteert terwijl een brede onderklasse hun werk faciliteert.
Journalist Jeroen van Bergeijk ging drie weken voor Vrij Nederland aan de slag als klikwerker om te ervaren hoe dat is. Hij vond geen voldoening in het werk omdat hij de connectie met het eindproduct miste:
Inmiddels schrijven journalisten regelmatig kritische stukken over klikwerk en heeft het werk een negatieve connotatie. Maar is dat ook terecht?
Met het tweede ontwerp uit het drieluik, willen Ruben en Merijn bezoekers uitnodigen om voorbij het beeld van de uitgebuite klikwerker zelf te ervaren hoe het werk is. Door je hoofd in de massagekussens van het werkbureau te leggen, word je meegenomen in een fijne meditatieve flow status die klikwerkers kunnen ervaren.
Deze status blijkt niet geheel nieuw. In wetenschappelijke artikelen staat uitvoerig beschreven hoe de flow status gefaciliteerd kan worden door klikwerk op een specifieke manier in te richten.
Ook in het slotstuk van Accept & Work nemen Ruben en Merijn hun bezoekers mee in het perspectief van de klikwerker. Exhausting MTurk toont de verhalen van Mechanical Turk werkers achter de schermen. Verhalen over eenzaamheid en samenzijn, winst en afwijzing, dankbaarheid en frustratie. Daarmee willen de makers laten zien dat dé clickworker –de in de media beschreven homogene onderklasse werker– niet bestaat.
Het drieluik Accept & Work overstijgt het dystopische beeld van klikwerk als uitbuiting, maar wil ook niet vervallen in een al te rooskleurig beeld. Daarmee roept het werk een belangrijke vraag op: voor welke eindproducten wordt geklikwerkt, wie profiteren daar het meeste van en welk soort samenleving faciliteren we daarmee?
Ook als de werkzaamheden prettig zijn, is dat nog geen rechtvaardiging om een geautomatiseerde samenleving op te tuigen waar slechts een paar techbedrijven van profiteren en iedereen die niet in kwantificeerbare malletjes past het nakijken heeft.
Verborgen kosten
In haar boek “Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence” (2021) laat Yale professor Kate Crawford zien welke verborgen kosten kunstmatige intelligentie met zich meebrengt. Door AI te verpakken als ‘innovatie’ hebben we geen oog voor de ecologische kosten en het sociaal-culturele verval dat gepaard gaat met toenemende automatisering.
In plaats van vooruitgang, laat Crawford zien hoe AI juist een stap terug betekent naar de klassieke arbeidsuitbuiting uit 1890. Ze beschrijft hoe we, verblind door de belofte dat we via klikwerk alle vervelende taken aan computers kunnen uitbesteden, niet merken dat we in dat proces zelf aan het veranderen zijn in robots:
De belofte van de AI-industrie is dat deze vorm van arbeid slechts tijdelijk is. Als we er maar genoeg datasets en klikwerkers tegenaan gooien, zullen onze computersystemen steeds ’slimmer’ worden en ons uiteindelijk bevrijden van alles wat we niet zelf willen doen. Maar deze belofte is gebaseerd op een aantal fundamentele misverstanden.
Ten eerste het misverstand dat we alle processen in de wereld kunnen dataficeren en dat kunstmatige intelligentie zich exponentieel ontwikkelt richting een ‘autonome’ intelligentie. Dat de rekenkracht en trainingsdata van onze machines doorlopend toenemen (en onze privacy en autonomie afnemen) betekent niet dat intelligentie ook toeneemt. Niet alle aspecten van intelligentie zijn berekenbaar, en niet alles wat ertoe doet kunnen we vangen in data.
Ten tweede het misverstand dat het automatiseren van taken per definitie efficiënt en kostenbesparend is. Automatisering brengt veel verborgen kosten met zich mee zoals dataverwerking, onderhoud van alle soft- en hardware en een hoog energieverbruik. De efficiency-belofte van automatisering en de alledaagse realiteit lopen daardoor nogal eens uit elkaar:
Tot slot is het beeld van AI als grote alleskunner gebaseerd op de misvatting dat menselijke intelligentie hetzelfde werkt als een computer die je in een betere versie kunt nabouwen.
Neem bijvoorbeeld bewustzijn. Dat is geen berekenbaar fenomeen, maar iets wat we in samenwerking met ons lichaam doen, en in dynamische interactie met de wereld om ons heen. Volgens de bekende natuurkundige Roger Penrose, is het onmogelijk om de hersenen te reverse engineeren omdat de werking van ons brein in veel gevallen niet berekenbaar is.
Een ander belangrijk verschil is dat computers afhankelijk zijn van inflexibele wiskundige modellen die getraind zijn met data uit het verleden. Daardoor is AI, in vergelijking met menselijke intelligentie, conservatief en inflexibel.
De mens werkt dus fundamenteel anders dan een computer. Maar zolang wij aannemen dat ons brein een zwakke verouderde computer is, en dat de mens niets meer is dan haar brein, blijven we altijd het “tijdelijke” klikwerk hulpje van een lege AI-belofte.
De belofte dat AI de sleutel is naar een wereld zonder dull, dirty en dangerous jobs is niet alleen misleidend vanwege de fundamentele beperkingen van zelflerende computersystemen, maar ook vanwege de machtsstructuren en geldstromen waarin deze systemen zijn ingebed.
Mensen zijn gemiddeld genomen juist meer uren gaan werken tegen lagere lonen, en in steeds onzekerdere posities. En omdat bedrijven qua tijdsdruk en werkomstandigheden net binnen de grenzen van het toelaatbare weten te blijven, verandert er weinig. Zo schrijft Crawford:
Vals bewustzijn
De aangename flow-status die klikwerkers kunnen ervaren is dan ook goed nieuws voor Amazon. Hoe meditatiever het werk, hoe minder klikwerkers in verzet zullen komen tegen de machtsongelijkheid waar zij deel van uitmaken. Niet alleen een machtsongelijkheid tussen platformen en platformwerkers, maar ook tussen databezitters en datasubjecten.
Een invloedrijke denker die zich bezig hield met ongelijkheid en het uitblijven van maatschappelijk verzet tegen uitbuiting is Karl Marx. Vanuit zijn perspectief zouden we de hedendaagse blije klikwerkverhalen ook kunnen duiden als ’vals bewustzijn’: een situatie waarbij arbeiders zich niet bewust zijn van hun onderdrukte positie en daardoor geen bedreiging vormen voor de heersende klasse.
Door te doen alsof sociale, economische en politieke systemen geen invloed hebben op een mensenleven, wordt economisch falen afgeschoven op de schouders van het individu. Op deze manier blijft een onderdrukkend kapitalistisch systeem in tact en is mislukking altijd de schuld van het individu. Het al dan niet vinden van beter betaalde klikwerktaken kan bijvoorbeeld gezien worden als individuele verantwoordelijkheid, waardoor Amazon Mechanical Turk zelf niet hoeft te veranderen.
Volgens Christina Morina, hoogleraar Duitse geschiedenis aan de Universiteit van Bielefeld, is het gedachtegoed van Marx opnieuw actueel vanwege de machteloosheid die vooral jonge mensen ervaren ten opzichte van de groeiende ongelijkheid. Of het nu gaat om huisvesting, studieschulden, platformwerk, flexcontracten, pensioenen of de macht van Big Tech, volgens Morina zijn mensen op zoek naar een manier om uit het kapitalistische systeem te ontsnappen:
Dat mensen via maatschappelijk inzicht meer macht kunnen verkrijgen en daarmee het heden kunnen veranderen, is de hedendaagse aantrekkingskracht van het marxistische gedachtegoed. Zeker in een periode van doorgeprikte AI-beloftes.
Het kunnen doorzien en aan de kaak stellen van machtsongelijkheid is een aantrekkelijker vooruitzicht dan in meditatieve toestand te moeten werken voor een wankele automatisering utopie waar alleen een kleine tech-elite van profiteert.
Wat we kunnen leren van Accept & Work is dat we een positieve werkervaring niet moeten verwarren met een morele rechtvaardiging voor het werk zelf. Is het -omdat het werk prettig is- opeens een goed idee geworden om menselijke taken te vervangen door disfunctionele computersystemen waar minderheden die niet tot de meetbare meerderheid behoren de dupe van worden? Is het -omdat het werk prettig is- opeens een goed idee geworden om mensen te laten werken voor het megalomane Amazon dat keer op keer mensenrechten schendt met onmenselijke performance targets en ingrijpende surveillancesystemen die plaspauzes en looproutes bijhouden? Om nog maar te zwijgen over de vakbonden die op proberen te komen voor werknemersrechten maar vleugellam worden gemaakt door halfgod Jeff Bezos.
De goocheltruc die kunstmatige intelligentie heet is een stuk minder onschuldig dan de schaakmachine van Wolfgang von Kempelen. De toekomstbelofte dat AI ons via klikwerk zal bevrijden van zware arbeid maakt ons blind voor het heden en de lessen die we kunnen leren uit het verleden. AI heeft een rookgordijn opgeworpen waarmee eeuwenoude vormen van uitbuiting kunnen voortleven onder de noemer ‘vooruitgang’. Maar waarom zien wij AI als vooruitgang? Waaraan heeft deze goocheltruc haar succes te danken?
Techno-hypnosis
Waar Crawford een verklaring zoekt in conceptuele inflatie van het begrip intelligentie en de eeuwenoude machtsstructuren waarin technologie is ingebed, zoekt filosoof Nolen Gertz de verklaring in het nihilisme.
Volgens Gertz vallen we voor de AI-goocheltruc vanwege ons nihilistische verlangen om de moeilijke kanten van het menszijn uit te besteden aan technologie. Moeilijke beslissingen delegeren aan computers beschouwen we daarom niet als het vermijden van morele verantwoordelijkheid, maar als vooruitgang.
Geautomatiseerde informatiestromen die comfortabel ons eigen gelijk bevestigen, datingalgoritmen die onze matches maken; het zijn allemaal manieren om zelf minder keuzes te hoeven te maken, en ongemak, morele verantwoordelijkheid en confrontaties uit de weg te gaan. Volgens Gertz streven we naar een status van verlaagd bewustzijn die ons helpt om aan de ongemakkelijke fysieke realiteit te ontsnappen. In zijn boek “Nihilism & Technology” (2018) schrijft hij:
Dit verlangen kan verklaren waarom sommige wetenschappers de flow-status in klikwerk beschouwen als iets positiefs wat we moeten nastreven bij het ontwerp van klikwerktaken. Werk is blijkbaar iets wat we in een prettige meditatieve status willen doen, en niet iets wat al teveel bewustzijn met zich mee moet brengen.
Naast eeuwenoude machtsstructuren en onze eigen nihilistische verlangens, is er nog een derde verklaring voor het succes van de goocheltruc die kunstmatige intelligentie heet.
De mens heeft altijd een hang gehad naar magie en betovering. Dat we onszelf voor de gek houden met onzichtbare klikwerkers, misleidende brein metaforen, fauxtomation en eeuwenoude sprookjes over een heerlijke nieuwe wereld dankzij technologische controle, is part of the deal.
Om de goocheltruc genaamd kunstmatige intelligentie overeind te houden zijn oogkleppen nodig. Of die oogkleppen ook een beetje functioneel zijn geweest zal de toekomst uitwijzen, als we genoodzaakt zijn ze af te doen.
