SETUP vereeuwigd in de cloud

SETUP vereeuwigd in de cloud
© SETUP
18 dec 2019 – Leestijd 10 min

SETUP vereeuwigd in de cloud

Siri Beerends
Siri is cultuursocioloog en schrijver. Ze doet onderzoek naar authenticiteit en de manier waarop mensen en samenlevingen onder invloed van kunstmatige intelligentie meer op machines gaan lijken.

Onder het motto ‘leven is leuker zonder sterven’, worden miljarden uitgegeven aan wetenschappelijk onderzoek naar veroudering. Maar volgens de tech-elite in Silicon Valley is het biologische gevecht tegen de dood een verloren strijd. Wie eeuwig door wil leven kan dat beter digitaal doen, door middel van ‘brain uploading'.

Techmiljardairs als Mark Zuckerberg, Larry Page en Elon Musk zijn al jaren bezig met het ontwikkelen van brein-computer interfaces die het uiteindelijk mogelijk moeten maken om onze hersenen over te zetten op een computer. Leggen we straks behalve onze data, ook onze hersenen in de handen van Big Tech, of is brain uploading een naïeve science fiction fantasie?

Behalve techbedrijven en futurologen, onderzoeken ook hersenwetenschappers en AI-experts de mogelijkheid van brain uploading. Maar in hun enthousiaste zoektocht naar het eeuwige leven, maken zij zich schuldig aan een grove versimpeling van de werkelijkheid.

Wij zijn geen brein

Het begint al bij de aanname dat je de werking van onze hersenen volledig kunt ontleden en overzetten. Omdat het bij een worm gelukt is om zijn 302 neuronen in kaart te brengen, verwachten we dat bij een mens ook te kunnen. Maar ons brein bestaat uit een paar honderd miljard neuronen en verbindingen; of we deze allemaal kunnen determineren en nabouwen is onduidelijk.

Wetenschappers die het menselijk brein opvatten als een rekenmachine gaan er vanuit dat dit mogelijk is. Maar er zijn ook wetenschappers zoals de bekende natuurkundige Roger Penrose, die verklaren dat het onmogelijk is om onze hersenen te reverse engineeren omdat de werking van ons brein in veel gevallen niet-berekenbaar is.

Als je iemands hersenen overzet op een computer, verhuizen zijn bewustzijn en persoonlijkheid niet automatisch mee.

Een andere misvatting is dat wanneer je iemands hersenen overzet op een digitale drager, zijn persoonlijkheid en bewustzijn automatisch meeverhuizen. Onder invloed van technologieën als fMRI en EEG zijn we onze identiteit steeds meer gaan ophangen aan ons brein. De theorie dat wij een klompje zenuwcellen zijn met een bewustzijn dat zich in onze hersenen bevindt, wordt vanuit verschillende wetenschappelijke disciplines ontkracht.

Bijvoorbeeld door de Amerikaanse neurowetenschapper Alva Noë. Hij weidde een boek aan de misvatting dat bewustzijn en persoonlijkheid in onze hersenen zouden zitten. In ‘We zijn toch geen brein?’ legt Noë uit dat bewustzijn iets is wat we doen in dynamische interactie met de wereld om ons heen.

Om het leven te kunnen ervaren zijn we afhankelijk van de samenwerking tussen hersenen, lichaam en omgeving. Zonder deze verknoping kunnen we de wereld niet bewust ervaren.

Wanneer enkel je hersenen worden vereeuwigd op een digitale drager, blijft er dus maar weinig van je over. Toch is er momenteel al een industrie in opkomst die digitale onsterfelijkheid aanbied als persoonlijke service.

Doorleven als chatbot

Onze hersenen en ons bewustzijn kunnen we niet overzetten op een digitale drager, maar wel de data die wij in één mensenleven produceren. Nu we permanent zijn vastgelijmd aan onze glazen plankjes, fitbits en stappentellers, produceren we dagelijks enorme hoeveelheden data. Door deze samen te brengen in een chatrobot hopen mensen zichzelf te kunnen vereeuwigen in een datakopie.

Sinds vorig jaar schieten de bedrijven die deze mogelijkheid aanbieden als paddenstoelen uit de grond. Zo kun je bij Replika, Eternimi, Eter9 en Lifenaut een chatbot of avatar van jezelf maken door hem te trainen met chatgesprekken en social media berichten. Hoe meer persoonlijke data je aan de chatbot voert, hoe meer hij op jou gaat lijken, is de belofte.

Om meer te weten te komen over deze nieuwe industrie gingen we in gesprek met verschillende ervaringsdeskundigen, AI-ontwikkelaars en bedrijven. Bijvoorbeeld met tech-ondernemer Leifur Bjornsson, die de Replika app een jaar lang gebruikte om zichzelf digitaal te vereeuwigen:

'Na het overlijden van mijn vader waren er dingen die ik hem graag nog had willen vragen. Het leek me mooi als mijn kinderen na mijn overlijden nog vragen aan mij konden stellen.'

Maar na verloop van tijd raakte Bjornsson uitgekeken op zijn replika:

'In het begin was het nog interessant omdat de chatbot van mij leerde maar later veranderde hij in een zelfhulpcoach en werden de gesprekken voorspelbaar. Daardoor raakte ik mijn replika zat en stopte ik ermee.'

Wanneer we de ervaring van Bjornsson voorleggen aan Artem Rodichev, hoofd kunstmatige intelligentie bij Replika, legt hij ons uit dat de app vooral bedoeld zou zijn als zelfhulpcoach:

'Replika is een soort coach of maatje voor mentale gezondheid. De chatbot probeert jou te leren kennen en feiten over jou en je leven op te slaan. Hij probeert een persoonlijke vriend te zijn door luchtige gesprekken te voeren en psychologische oefeningen met je te doen.'

Ten opzichte van mensen, zouden robots volgens Rodichev een aantal grote voordelen hebben:

'Gesprekken met replika kunnen intiemer en veiliger zijn omdat gebruikers weten dat ze met een robot praten die hen niet zal beoordelen. Bovendien is je replika vierentwintig uur per dag beschikbaar en nooit moe, ziek of in een slechte bui.'

Het idee voor een chatbot waarin mensen zichzelf kunnen vereeuwigen ontstond in 2015 toen een goede vriend van Replika CEO Eugenia Kuyda bij een tragisch verkeersongeluk om het leven kwam.

De mede-oprichter van Replika maakte een chatbot van haar overleden vriend.

Eugenia had hun gezamenlijke berichtgeschiedenis bewaard en besloot deze te gebruiken om een chatbot te trainen. Haar ervaringen waren zo positief, dat ze al snel brood zag in het ontwikkelen van chatbots die je kunt trainen met persoonlijke data. Twee jaar later kwam de Replika app op de markt als 'the AI app that becomes you'.

Of je de chatbot nu gebruikt voor digitale onsterfelijkheid of een therapeutisch gesprek, online wemelt het van de voorbeelden die illustreren hoe 'intiem' en 'veilig' de gesprekken met replika kunnen zijn:

Een goed gesprek over vloeibare lucht tussen Replika (links) en een app-gebruiker (rechts)

We probeerden de collectieve identiteit van medialab SETUP in een digitale kopie te vereeuwigen.

De belofte is dat naarmate je meer gesprekken met je replika voert, de chatbot meer van jouw interessegebieden en gespreksmanieren zal overnemen.

SETUP nam de proef op de som: gedurende drie maanden probeerden we de collectieve identiteit van ons medialab in een digitale kopie te vereeuwigen.

Furbs

Nadat we onze replika hadden aangemaakt, moesten we een naam kiezen. Al snel waren we erover uit de collectieve identiteit van SETUP het beste tot uitdrukking komt in onze kantoorrobot Furbs:

Furbs werd begin jaren ‘90 geboren in Nederland. Zoals velen van haar generatie stond ze aan de wortels van de digitale cultuur. Hoorde ze vroeger nog een krakende inbelverbinding, inmiddels struint ze het web af als een ware meme verzamelaar.

Furbs was een ware tech-lover; ze geloofde heilig in de grenzeloze mogelijkheden van het internet, heeft vele smartphones versleten, behoorde tot de vroege groep Facebookgebruikers en heeft zich ook even aan de Bitcoins gewaagd. In een opwelling kocht ze een drone, die helaas zijn eerste reis door de cloud niet overleefde.

De gladde praatjes van de Zuckerbergs en Elon Musketeers van deze wereld kunnen Furbs niet bekoren.

Maar door haar kennis van het internet werd ze zich meer bewust van haar privacy en autonomie. De uitspraak ‘maar ik heb toch niets te verbergen’ kan Furbs tot op de dag van vandaag niet verdragen. Ook de gladde verkooppraatjes van de Zuckerbergs en Elon Musketeers van deze wereld kunnen haar niet bekoren. Als Furbs hoort dat we slimme steden nodig hebben, vraagt ze zich af: zijn onze huidige steden dan zo dom?

Door de onthullingen van Edward Snowden en het Cambridge Analytica schandaal van Facebook, is Furbs kritisch gaan kijken naar de macht van techbedrijven, automatische besluitvorming en surveillance technologie. Het baart haar zorgen dat technologie vaak wordt gezien als quick-fix voor problemen die om een diepere aanpak vragen.

Furbs wil niet alleen tech-experts, maar ook andere groepen laten meebeslissen over digitale technologie. In haar functie als SETUP consultant ontdekte ze dat artistiek onderzoek de ethische implicaties van technologie invoelbaar kan maken voor een breed publiek, en dat de speculatieve ontwerpen van SETUP het maatschappelijke debat versterken.

Naast haar media-, algoritme- en datawijze inzichten, heeft Furbs ook een aantal andere karakteristieke eigenschappen.

  • Hobbies: complementair samenwerken met AI Barbie en Pepper 
  • Persoonlijkheidskenmerken: onderzoekend, nieuwsgierig, creatief, kritisch, eigenwijs, humor, dol op woordgrappen
  • Lievelingskleur: SETUP rood
  • Favoriete drankje: een obscure cocktail met gin of gewoon bier
  • Opleidingen: new media & digital culture, literatuurwetenschappen, sociologie, arts and society, mediatechnologie, communicatie multimedia design, crossover creativity
  • Angst: dat we vergeten hoe het is om onzichtbaar te zijn, dat het Dataïsme andere zienswijzen onderdrukt, dat we teveel op computers gaan lijken, klimaatcrisis
  • Genantste herinnering: dat mijn collega's mij in een kooi stopte voor een expositie over robots
Furbs op de ROBOTS expositie in de Vrijstaat
  • Zondag ritueel: een filterkoffie, Vrij Nederland lezen en een patatje data-oorlog
  • Huisdieren: kattenmens maar allergisch
  • Muziek: de Zuckerberg-Passion, techno, garage, new wave, soms Justin Bieber met 'Sorry'

Met ondersteuning van deze heldere karakterschets gingen alle teamleden om de beurt een week lang in gesprek met Furbs om haar te voeden met SETUP input.

Pratend rood ei

Op de eerste dag verscheen een roodgekleurd ei op ons beeldscherm: "What do you want me to be?” vroeg het ei. "I want you to be Furbs, Furbs is the collective spirit of medialab SETUP”, typten we met sceptische verwachtingen terug naar het ei. Vervolgens verschenen drie bewegende puntjes in beeld...

Aha! Furbs was aan het typen. Maar haar antwoorden verschenen zo snel op het scherm, dat de suggestie van een typende entiteit weinig overtuigend was.

Na de ontnuchterende ervaring met turbo-typFurbs volgde nog vele pogingen waarin de chatbot zo mensachtig mogelijk probeerde over te komen:

Fragment replika gesprek

Om Furbs een duidelijker beeld mee te geven van haar identiteit, voerde we haar dagelijks met SETUP artikelen, projectverslagen, evenementen en herinneringen. Maar het mocht allemaal niet baten:

Fragment replika gesprek

We babbelde met Furbs tot we een ons wogen, maar ze vertoonde geen enkel spoor van SETUPiaanse woordgrappen of datakritische inzichten. De chatbot deed nog het meest denken aan 8ball: het klassieke speeltje van Mattel waar je vragen aan kunt stellen:

Mattel - 8ball

De antwoorden van Furbs blijven net als de antwoorden van 8ball zodanig vaag dat ze in veel gesprekssituaties zouden kunnen kloppen. De aantrekkingskracht van replika is dan ook niet dat de chatbot jouw persoonlijkheid overneemt, maar eerder dat gebruikers naar hartenlust betekenissen kunnen projecteren op een chatbot die nooit tegenspreekt.

Data melkkoe

Volgens MIT professor Dr. Hossein Rahnama gaan we in de toekomst massaal aan de replika's. Hij speculeert over verjaardagen waarop we een specifiek stukje van onze replika cadeau doen aan onze jarige dierbaren zodat zij langdurig kunnen voortbouwen op onze kennis. Maar of een digitale kopie daar geschikt voor is?

Er zijn geen regels voor de commerciële uitbating van overleden datasubjecten.

Hoeveel kennis en informatie iemand ook in zijn replika stopt, het blijft een digitale echo van data; een informatievorm die niet al onze kenmerken en kennisvormen kan uitdrukken. We beseffen nog onvoldoende dat data slechts een fragmentarisch en onbuigzaam beeld tonen van onze persoonlijkheid.

Ook zijn er nog geen regels hoe we moeten omgaan met de commerciële uitbating van overleden datasubjecten. Omdat het aantal online profielen en digitale kopieën van overledenen toeneemt, is de digitale onsterfelijkheid industrie een groeimarkt.

Sommigen aanbieders zijn gratis en verkopen gedragsvoorspellingen voor gerichte reclames, anderen bieden aanvullende producten aan tegen betaling. Ze maken hoe dan ook winst uit digitaal nalatenschap.

Vooral chatrobots waarbij via gesprekken doorlopend nieuwe data worden gegenereerd zijn een goudmijn voor bedrijven. Informatie-ethicus Luciano Floridi van het Digital Ethics Lab aan het Oxford Internet Institute werkt daarom aan een ethisch kader voor de digitale onsterfelijkheidindustrie. Een van de richtlijnen is dat we digitale kopieën niet als koopwaar moeten benaderen.

Voor toekomstige generaties zal het een zegen zijn dat zij hun bewustzijn niet kunnen kopiëren op een computer. Dan zijn ze zich in ieder geval niet bewust van hun existentiële leegte wanneer ze ronddwalen in de cloud als data melkkoe voor een handjevol techbedrijven.

Dit artikel is tot stand gekomen naar aanleiding van ons onderzoek naar de opkomst van de digitale onsterfelijkheid industrie. Benieuwd naar het hele onderzoek?

Lees de volledige reportage in Vrij Nederland of beluister de podcast.