Klikkerdeklik: de goocheltruc die we kunstmatige intelligentie noemen

Klikkerdeklik: de goocheltruc die we kunstmatige intelligentie noemen
20 okt

Klikkerdeklik: de goocheltruc die we kunstmatige intelligentie noemen

Siri Beerends
Siri is cultuursocioloog en schrijver. Ze doet promotie-onderzoek naar authenticiteit en de vraag hoe kunstmatige intelligentie de afstand tussen mensen en machines verkleint.

Installatie-drieluik Accept & Work maakt de wereld achter kunstmatige intelligentie tastbaar. Een wereld van onzichtbare arbeid en verborgen maatschappelijke kosten, maar ook een wereld waar je de ultieme werkflow kunt ervaren. Welk soort samenleving faciliteren we met klikwerk en wie plukken daar de vruchten van?

In 1770 ontwierp de Hongaarse uitvinder Wolfgang von Kempelen de Mechanische Turk: een schaakmachine die de beste spelers ter wereld kon verslaan. Mensen kwamen met de meest wilde verklaringen voor de indrukwekkende schaakprestaties. Werkte de machine met magnetische krachten? Was er sprake van magie? Uiteindelijk kwam de aap uit de mouw: Kempelen had de Turk zodanig ontworpen dat een schaakspeler in het bouwwerk verstopt kon worden. Hij had zich laten inspireren door illusionisten die met goocheltrucs mensen optisch konden laten verdwijnen.

Dwarsdoorsnede Mechanische Turk geïllustreerd door Joseph Racknitz. Bestuurderspositie en afmetingen waren in werkelijkheid anders.

Nu, 250 jaar later, laten we ons nog steeds betoveren door deze goocheltruc. De goocheltruc heet kunstmatige intelligentie en wordt niet uitgevoerd door een Hongaarse uitvinder maar door duizenden onzichtbare klikwerkers.

Niet slim en niet kunstmatig

Als er een award zou bestaan voor woorden die ons op het verkeerde been zetten dan zou kunstmatige intelligentie een goede kandidaat zijn. Computers zijn uitzonderlijk goed in rekenen en patroonherkenning, maar daarmee bereik je geen intelligentie. Bewustzijn, intentionaliteit, redenerend vermogen, empathie, verbeeldingskracht, zintuiglijke waarneming en intuïtie zijn belangrijke aspecten van intelligentie die computers missen. Daardoor kunnen computersystemen op bovenmenselijk niveau schaken en Go spelen, maar komen ze qua vermogen om intuïtief hun omgeving te begrijpen niet eens in de buurt van een peuter.

Kunstmatige intelligentie is niet alleen niet slim, het is ook nog eens niet kunstmatig. De grondstoffen die nodig zijn om een AI-systeem te bouwen zijn levensecht, net als de miljoenen arbeiders die de systemen ontwikkelen, trainen en draaiende moeten houden.

Bedrijven, universiteiten en ontwikkelaars betalen klikwerkers lage tarieven om hun AI-systemen te trainen.

Toen Amazon een AI-systeem ontwikkelde dat zelfstandig dubbelheden in productpagina’s moest detecteren, waren ze genoodzaakt om menselijke werkers in te huren. Hoe geavanceerd hun systeem ook was, voor de ‘last mile’ bleven ze afhankelijk van verfijnd menselijk ingrijpen, oftewel: intelligentie.

Hieruit werd Amazon Mechanical Turk geboren, ’s werelds grootste online klikwerk platform waar bedrijven, universiteiten en ontwikkelaars tegen lage tarieven klikwerkers betalen om hun AI-systemen te trainen en draaiende te houden.

Want onze computersystemen worden niet vanzelf competent. Daar zijn klikwerkers voor nodig die informatie checken, labelen of omzetten, bijvoorbeeld van analoog naar digitaal of van impliciet naar expliciet. Een voorbeeld is Faceboook die 2.792 uur uur aan videoclips nauwkeurig door klikwerkers laat beschrijven om hun AI te trainen zodat het videoscènes kan begrijpen vanuit een first-person perspectief.

Maar er bestaan ook bedrijven die klikwerkers betalen om hen te laten doen alsof ze een AI-systeem zijn. Zo kwam aan het licht dat de digitale assistent van startup x.ai niet zelfstandig agenda’s beheerde, vragen beantwoordde en meetings inplande, maar een team van klikwerkers dat deed. Kunstenaar Astra Taylor noemt dit verschijnsel 'fauxtomation':

Klikwerk gebeurt niet alleen op platforms als Amazon Mechanical Turk. Als je moet bewijzen dat je geen robot bent door een ReCaptcha in te vullen, doe je gratis klikwerk voor Google. Je traint dan hun kunstmatige intelligentie zonder daarvoor betaald te krijgen:

De menselijke arbeid achter onze AI-systemen, betaald of onbetaald, blijft veelal verborgen. Guestworker, het eerste ontwerp uit het installatie-drieluik van Merijn van Moll en Ruben van de Ven, brengt daar verandering in.

© Sebastiaan ter Burg
Installatie Guestworker door Merijn van Moll & Ruben van de Ven.

De installatie brengt de klikwerker naar de fysieke ruimte door aan het publiek te tonen hoe Amazon Mechanical Turk een opdracht verkoopt aan een menselijke werker. De klikwerker herkennen we aan de taak die hij live aan het uitvoeren is, zijn IP adres, besturingssysteem, browser, land van herkomst en werkvergoeding.

Van uitbuiting naar de ultieme werkflow

In de afgelopen jaren is meer aandacht gekomen voor de ethische kanten van klikwerk. In het boek "Ghostwork - How to stop Silicon Valley from building a new global underclass" (2019) adresseren antropologen Gray en Suri hoe onderbetaling, slechte werkomstandigheden en de afwezigheid van basale werknemersrechten ervoor zorgen dat een kleine tech-elite profiteert terwijl een brede onderklasse hun werk faciliteert.

Journalist Jeroen van Bergeijk ging drie weken voor Vrij Nederland aan de slag als klikwerker om te ervaren hoe dat is. Hij vond geen voldoening in het werk omdat hij de connectie met het eindproduct miste:

"Je hebt geen idee voor wie of wat je bezig bent. Ben ik aan klikken voor de Russische geheime dienst? Voor een wapenfabrikant? Geen flauw idee."

Inmiddels schrijven journalisten regelmatig kritische stukken over klikwerk en heeft het werk een negatieve connotatie. Maar is dat ook terecht?

Voorbij het beeld van de uitgebuite klikwerker laat Accept & Work mensen zelf ervaren hoe klikwerk is.

Met het tweede ontwerp uit het drieluik, willen Ruben en Merijn bezoekers uitnodigen om voorbij het beeld van de uitgebuite klikwerker zelf te ervaren hoe het werk is. Door je hoofd in de massagekussens van het werkbureau te leggen, word je meegenomen in een fijne meditatieve flow status die klikwerkers kunnen ervaren.

Deze status blijkt niet geheel nieuw. In wetenschappelijke artikelen staat uitvoerig beschreven hoe de flow status gefaciliteerd kan worden door klikwerk op een specifieke manier in te richten.

© Concretestate Paulus van Dorsten
Installatie Auto-accept door Merijn van Moll & Ruben van de Ven.

Ook in het slotstuk van Accept & Work nemen Ruben en Merijn hun bezoekers mee in het perspectief van de klikwerker. Exhausting MTurk toont de verhalen van Mechanical Turk werkers achter de schermen. Verhalen over eenzaamheid en samenzijn, winst en afwijzing, dankbaarheid en frustratie. Daarmee willen de makers laten zien dat dé clickworker –de in de media beschreven homogene onderklasse werker– niet bestaat.

© Exhausing Mturk, Merijn van Moll & Ruben van de Ven.

Ook als het werk prettig is, rechtvaardigt dat nog geen geautomatiseerde samenleving waar slechts een kleine groep van profiteert.

Het drieluik Accept & Work overstijgt het dystopische beeld van klikwerk als uitbuiting, maar wil ook niet vervallen in een al te rooskleurig beeld. Daarmee roept het werk een belangrijke vraag op: voor welke eindproducten wordt geklikwerkt, wie profiteren daar het meeste van en welk soort samenleving faciliteren we daarmee?

Ook als de werkzaamheden prettig zijn, is dat nog geen rechtvaardiging om een geautomatiseerde samenleving op te tuigen waar slechts een paar techbedrijven van profiteren en iedereen die niet in kwantificeerbare malletjes past het nakijken heeft.

Verborgen kosten

In haar boek "Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence" (2021) laat Yale professor Kate Crawford zien welke verborgen kosten kunstmatige intelligentie met zich meebrengt. Door AI te verpakken als ‘innovatie’ hebben we geen oog voor de ecologische kosten en het sociaal-culturele verval dat gepaard gaat met toenemende automatisering.

In plaats van vooruitgang, laat Crawford zien hoe AI juist een stap terug betekent naar de klassieke arbeidsuitbuiting uit 1890. Ze beschrijft hoe we, verblind door de belofte dat we via klikwerk alle vervelende taken aan computers kunnen uitbesteden, niet merken dat we in dat proces zelf aan het veranderen zijn in robots:

"Many large corporations are heavily investing in automated systems in the attempt to extract ever-larger columns of labor from fewer workers. The bodies of workers are run according to the cadences of computational logics. The common refrain for the expansion of AI systems and process automation is that we are living in a time of beneficial human-AI collaboration. But this collaboration is based on a significant power asymmetry. Rather than repressing a radical shift from established forms of work, the encroachment of AI into the workplace should be understood as a return to older practices of industrial labor exploitation that were well established in 1890 and the early twentieth century."

De belofte van de AI-industrie is dat deze vorm van arbeid slechts tijdelijk is. Als we er maar genoeg datasets en klikwerkers tegenaan gooien, zullen onze computersystemen steeds ’slimmer’ worden en ons uiteindelijk bevrijden van alles wat we niet zelf willen doen. Maar deze belofte is gebaseerd op een aantal fundamentele misverstanden.

Ten eerste het misverstand dat we alle processen in de wereld kunnen dataficeren en dat kunstmatige intelligentie zich exponentieel ontwikkelt richting een ‘autonome’ intelligentie. Dat de rekenkracht en trainingsdata van onze machines doorlopend toenemen (en onze privacy en autonomie afnemen) betekent niet dat intelligentie ook toeneemt. Niet alle aspecten van intelligentie zijn berekenbaar, en niet alles wat ertoe doet kunnen we vangen in data.

Ten tweede het misverstand dat het automatiseren van taken per definitie efficiënt en kostenbesparend is. Automatisering brengt veel verborgen kosten met zich mee zoals dataverwerking, onderhoud van alle soft- en hardware en een hoog energieverbruik. De efficiency-belofte van automatisering en de alledaagse realiteit lopen daardoor nogal eens uit elkaar:

© XKCD - Automation

Zolang wij aannemen dat ons brein een verouderde computer is blijven we altijd het ''tijdelijke'' klikwerk hulpje van een lege AI-belofte.

Tot slot is het beeld van AI als grote alleskunner gebaseerd op de misvatting dat menselijke intelligentie hetzelfde werkt als een computer die je in een betere versie kunt nabouwen.

Neem bijvoorbeeld bewustzijn. Dat is geen berekenbaar fenomeen, maar iets wat we in samenwerking met ons lichaam doen, en in dynamische interactie met de wereld om ons heen. Volgens de bekende natuurkundige Roger Penrose, is het onmogelijk om de hersenen te reverse engineeren omdat de werking van ons brein in veel gevallen niet berekenbaar is.

Een ander belangrijk verschil is dat computers afhankelijk zijn van inflexibele wiskundige modellen die getraind zijn met data uit het verleden. Daardoor is AI, in vergelijking met menselijke intelligentie, conservatief en inflexibel.

De mens werkt dus fundamenteel anders dan een computer. Maar zolang wij aannemen dat ons brein een zwakke verouderde computer is, en dat de mens niets meer is dan haar brein, blijven we altijd het "tijdelijke" klikwerk hulpje van een lege AI-belofte.

De belofte dat AI de sleutel is naar een wereld zonder dull, dirty en dangerous jobs is niet alleen misleidend vanwege de fundamentele beperkingen van zelflerende computersystemen, maar ook vanwege de machtsstructuren en geldstromen waarin deze systemen zijn ingebed.

Mensen zijn gemiddeld genomen juist meer uren gaan werken tegen lagere lonen, en in steeds onzekerdere posities. En omdat bedrijven qua tijdsdruk en werkomstandigheden net binnen de grenzen van het toelaatbare weten te blijven, verandert er weinig. Zo schrijft Crawford:

"Workers are fighting against the logics of production and the order of time they must work within. The structures of time are never completely inhumane, but they are maintained right at the outer limit of what most people can tolerate. Workers, having been alienated from the results of their work as well as disconnected from others workers doing the same job, are liable to be more easily exploited by their employers. This is evident from the extremely low rates of compensation crowd workers receive around the world."

Vals bewustzijn

De aangename flow-status die klikwerkers kunnen ervaren is dan ook goed nieuws voor Amazon. Hoe meditatiever het werk, hoe minder klikwerkers in verzet zullen komen tegen de machtsongelijkheid waar zij deel van uitmaken. Niet alleen een machtsongelijkheid tussen platformen en platformwerkers, maar ook tussen databezitters en datasubjecten.

Het vinden van goed betaalde klikwerktaken wordt een individuele verantwoordelijkheid, waardoor het platform niet hoeft te veranderen.

Een invloedrijke denker die zich bezig hield met ongelijkheid en het uitblijven van maatschappelijk verzet tegen uitbuiting is Karl Marx. Vanuit zijn perspectief zouden we de hedendaagse blije klikwerkverhalen ook kunnen duiden als ’vals bewustzijn': een situatie waarbij arbeiders zich niet bewust zijn van hun onderdrukte positie en daardoor geen bedreiging vormen voor de heersende klasse.

Door te doen alsof sociale, economische en politieke systemen geen invloed hebben op een mensenleven, wordt economisch falen afgeschoven op de schouders van het individu. Op deze manier blijft een onderdrukkend kapitalistisch systeem in tact en is mislukking altijd de schuld van het individu. Het al dan niet vinden van beter betaalde klikwerktaken kan bijvoorbeeld gezien worden als individuele verantwoordelijkheid, waardoor Amazon Mechanical Turk zelf niet hoeft te veranderen.

Volgens Christina Morina, hoogleraar Duitse geschiedenis aan de Universiteit van Bielefeld, is het gedachtegoed van Marx opnieuw actueel vanwege de machteloosheid die vooral jonge mensen ervaren ten opzichte van de groeiende ongelijkheid. Of het nu gaat om huisvesting, studieschulden, platformwerk, flexcontracten, pensioenen of de macht van Big Tech, volgens Morina zijn mensen op zoek naar een manier om uit het kapitalistische systeem te ontsnappen:

"De marxistische zienswijze was in staat om mensen te laten geloven dat als ze op deze manier naar het kapitalisme kijken, het hun lukt om uit The Matrix te stappen en te zien hoe het kapitalisme in het hele maatschappelijke leven doordringt."

Dat mensen via maatschappelijk inzicht meer macht kunnen verkrijgen en daarmee het heden kunnen veranderen, is de hedendaagse aantrekkingskracht van het marxistische gedachtegoed. Zeker in een periode van doorgeprikte AI-beloftes.

Het kunnen doorzien en aan de kaak stellen van machtsongelijkheid is een aantrekkelijker vooruitzicht dan in meditatieve toestand te moeten werken voor een wankele automatisering utopie waar alleen een kleine tech-elite van profiteert.

De toekomstbelofte dat AI ons via klikwerk zal bevrijden van zware arbeid maakt ons blind voor het heden en belangrijke lessen uit het verleden.

Wat we kunnen leren van Accept & Work is dat we een positieve werkervaring niet moeten verwarren met een morele rechtvaardiging voor het werk zelf. Is het -omdat het werk prettig is- opeens een goed idee geworden om menselijke taken te vervangen door disfunctionele computersystemen waar minderheden die niet tot de meetbare meerderheid behoren de dupe van worden? Is het -omdat het werk prettig is- opeens een goed idee geworden om mensen te laten werken voor het megalomane Amazon dat keer op keer mensenrechten schendt met onmenselijke performance targets en ingrijpende surveillancesystemen die plaspauzes en looproutes bijhouden? Om nog maar te zwijgen over de vakbonden die op proberen te komen voor werknemersrechten maar vleugellam worden gemaakt door halfgod Jeff Bezos.

De goocheltruc die kunstmatige intelligentie heet is een stuk minder onschuldig dan de schaakmachine van Wolfgang von Kempelen. De toekomstbelofte dat AI ons via klikwerk zal bevrijden van zware arbeid maakt ons blind voor het heden en de lessen die we kunnen leren uit het verleden. AI heeft een rookgordijn opgeworpen waarmee eeuwenoude vormen van uitbuiting kunnen voortleven onder de noemer ‘vooruitgang’. Maar waarom zien wij AI als vooruitgang? Waaraan heeft deze goocheltruc haar succes te danken?

Techno-hypnosis

Waar Crawford een verklaring zoekt in conceptuele inflatie van het begrip intelligentie en de eeuwenoude machtsstructuren waarin technologie is ingebed, zoekt filosoof Nolen Gertz de verklaring in het nihilisme.

Met AI willen we de moeilijke kanten van het menszijn uitbesteden aan technologie. Is dat vooruitgang?

Volgens Gertz vallen we voor de AI-goocheltruc vanwege ons nihilistische verlangen om de moeilijke kanten van het menszijn uit te besteden aan technologie. Moeilijke beslissingen delegeren aan computers beschouwen we daarom niet als het vermijden van morele verantwoordelijkheid, maar als vooruitgang.

Geautomatiseerde informatiestromen die comfortabel ons eigen gelijk bevestigen, datingalgoritmen die onze matches maken; het zijn allemaal manieren om zelf minder keuzes te hoeven te maken, en ongemak, morele verantwoordelijkheid en confrontaties uit de weg te gaan. Volgens Gertz streven we naar een status van verlaagd bewustzijn die ons helpt om aan de ongemakkelijke fysieke realiteit te ontsnappen. In zijn boek "Nihilism & Technology" (2018) schrijft hij:

"Techno-hypnoses is my name for the phenomenon of our increasingly turning to technological means to carry out our self-hypnoses. It is the result of our desire to shut off our skepticism, let our guard down, to relax. We want to be hypnotized."

Dit verlangen kan verklaren waarom sommige wetenschappers de flow-status in klikwerk beschouwen als iets positiefs wat we moeten nastreven bij het ontwerp van klikwerktaken. Werk is blijkbaar iets wat we in een prettige meditatieve status willen doen, en niet iets wat al teveel bewustzijn met zich mee moet brengen.

Om de goocheltruc genaamd AI overeind te houden zijn (functionele) oogkleppen nodig.

Naast eeuwenoude machtsstructuren en onze eigen nihilistische verlangens, is er nog een derde verklaring voor het succes van de goocheltruc die kunstmatige intelligentie heet.

© Pawel Kuczynski

De mens heeft altijd een hang gehad naar magie en betovering. Dat we onszelf voor de gek houden met onzichtbare klikwerkers, misleidende brein metaforen, fauxtomation en eeuwenoude sprookjes over een heerlijke nieuwe wereld dankzij technologische controle, is part of the deal.

Om de goocheltruc genaamd kunstmatige intelligentie overeind te houden zijn oogkleppen nodig. Of die oogkleppen ook een beetje functioneel zijn geweest zal de toekomst uitwijzen, als we genoodzaakt zijn ze af te doen.

Een eerdere versie van dit artikel verscheen in Vrij Nederland.