De vloek én zegen van digitale corona-oplossingen: kom maar op 2021

De vloek én zegen van digitale corona-oplossingen: kom maar op 2021
28 dec 2020

De vloek én zegen van digitale corona-oplossingen: kom maar op 2021

Siri Beerends
Siri is cultuursocioloog en schrijver. Ze doet promotie-onderzoek naar authenticiteit en de vraag hoe kunstmatige intelligentie de afstand tussen mensen en machines verkleint.

Terwijl het leven tot stilstand kwam, denderden we via onze digitale snelweg door. Online waren we tenminste nog ‘alone together’. Maar online verloren we ook steeds meer onze gemeenschappelijke realiteit.

In 2021 kijkt SETUP hoe we naar een gedeelde realiteit kunnen komen. Wat doet technologie met ons inlevingsvermogen? Moeten we harder tegen technologieschandalen vechten of juist het potentieel van empathie en vergeving opzoeken? En wat gebeurt er als we het tegenovergestelde van polarisering als ontwerpuitgangspunt nemen?

2020 was het jaar van de digitale corona-oplossingen. Met Zoom, Teams en Skype konden we op veilige afstand vergaderen, met dashboards en apps probeerden we het virus te temmen, met telezorg konden hulpverleners op afstand zorg verlenen en met een echte AI-smartlap waanden we ons in de kroeg.

Maar online waren we ook beperkt, merkte we toen de video conferencing fatigue begon toe te slaan. Misschien zou 2020 daarom wel eens de boeken in kunnen gaan als het jaar van de digitale ontnuchtering. De belofte dat we al onze activiteiten naar de online wereld kunnen verplaatsen was nog nooit zo dichtbij en tegelijkertijd zo ver weg.

Elkaar ongepixeld in de ogen kijken

Docenten en studenten kwamen in opstand tegen het online onderwijs. Digitale colleges bleken prima geschikt voor informatie-overdacht, maar om nieuwsgierigheid, creativiteit en reflecterend vermogen te stimuleren is meer nodig dan een goede internetverbinding.

De doelgerichte efficiëntie van de online wereld heeft een keerzijde.

Ook werknemers kwamen in opstand. Ondanks het groeiende aanbod in vergaderprogramma’s -van virtual reality rooms tot videogames- missen steeds meer thuiswerkers het face-to-face contact. Elkaar ongepixeld in de ogen kijken, het praatje bij de koffiemachine en de spontane ontmoeting in de wandelgang; de doelgerichte efficiëntie van de online wereld heeft een keerzijde. We missen de ondoelmatige interacties waar de briljantste ideeën uit voort kunnen komen.

© Ron Coddington

Naast beperkt, blijken we online ook kwetsbaar. Doordat we nog meer vergroeid zijn met onze beeldschermen, kunnen werkgevers en bedrijven ons overal volgen. De verkoop van software voor het monitoren van werknemers is tijdens de coronacrisis verdrievoudigd. Denk aan programma’s die bijhouden wat jij op je op je laptop doet en gezichtherkenningtechnologie om te controleren of je wel oplet.

Ook de overheid ging meer digitaal surveilleren. Zo bleek defensie grote hoeveelheden data te verzamelen over coronabesmettingen, vervoersbewegingen, social-mediagedrag en bedrijfsfaillissementen. Als je maar genoeg data aan elkaar koppelt en analyseert met algoritmen, kunnen maatschappelijke onrust, rampen en criminaliteit voorspeld worden, zo luidt de belofte. Maar het wetenschappelijke bewijs daarvoor ontbreekt.

Gedragspatronen uit het verleden blijken geen garantie te bieden voor de toekomst. Bij het zoeken naar patronen in data komen correlaties naar voren die ten onrechte worden aangezien voor een causaal verband. Bovendien zijn niet alle factoren die bijdragen aan een escalatie voorspelbaar en dataficeerbaar. Dit kan leiden tot vals positieven: in de data is onterecht samenhang aangetroffen, of vals negatieven: in de data is onterecht geen samenhang aangetroffen. Dat we massa-surveillance moeten accepteren in ruil voor optimale veiligheid en gezondheid is daarom een valse voorstelling van zaken.

Verscheurd door desinformatie

In 2020 werden we niet alleen kwetsbaarder voor inbreuk op onze privacy, maar ook voor inbreuk op onze informatievoorziening. De meest wilde corona-complottheorieën vonden online hun vermenigvuldiging.

Afgelopen september luidde de World Health Organization de noodklok: er is sprake van een infodemic. Complotaanhangers en actiegroepen verspreiden verkeerde informatie over corona om hun eigen agenda te bevorderen. Naast schade voor de volksgezondheid, leidt desinformatie tot maatschappelijke polarisering. Niet alleen op persoonlijk niveau: families raken verscheurd door corona complottheorieën, maar ook op geopolitiek niveau: machtsblokken zoals Rusland en China proberen elkaars politieke discussies te manipuleren door desinformatie te verspreiden. Momenteel dreigt een complotwedloop rondom corona-vaccinaties.

Er dreigt een crisis van misinformatie waarbij we ons continu moeten afvragen of iets waar of onwaar is, gemanipuleerd of authentiek.

Volgens Aviv Ovadya, Chief Technologist bij The Center for Social Media Responsibility, hebben we niet alleen te kampen met een infodemic maar dreigt er een algehele infocalypse te ontstaan: een crisis van misinformatie waarbij we ons continu moeten afvragen of iets waar of onwaar is, gemanipuleerd of authentiek.

Deepfakes -technologie waarmee je mensen dingen kunt laten zeggen en doen die ze niet hebben gezegd of gedaan- hebben het afgelopen jaar een vlucht genomen. De beeldkwaliteit van deepfakes is beter geworden, de spraaktechnologie is vooruit gegaan en met gratis apps kun je in een handomdraai je eigen deepfake maken. Zo kan iedereen jouw stem en foto gebruiken om te manipuleren. Daarnaast is de productie en verspreiding van nepnieuws geavanceerder geworden. Bijvoorbeeld door nepaccounts met computer-gegenereerde profielfoto’s die in verschillende landen en in verschillende talen propaganda verspreiden.

Online raakt onze realiteit versplinterd

Het wordt niet alleen moeilijker om informatie op waarde te schatten, het wordt ook steeds moeilijker om in een gezamenlijke realiteit te leven. Online raakt onze realiteit versplinterd. Ga maar eens een avondje Googelen op de laptop van je buurman of kijk maar eens naar de nieuwsberichten in de social media tijdlijn van een neef of nicht: zij leven in een hele andere informatiebubbel dan jij.

Social media platformen gebruiken verschillende methodes om gebruikers zo lang mogelijk op hun platforms te houden. Naast persoonlijk afgestemde informatie, vormen polariserende algoritmen een belangrijk onderdeel van het verdienmodel. Uit onderzoek naar YouTube algoritmen blijkt bijvoorbeeld dat gebruikers naar extremere content worden geleid om hen meer tijd op het platform te laten spenderen. Via een paar geautomatiseerde vervolgsuggesties kun je al belanden bij extreem rechtse content, terwijl je begon met het bekijken van een onschuldige video over de Europese Unie.

Desinformatie is niet nieuw, maar de machinerie eromheen is grootschaliger, ingrijpender en abstracter geworden.

Verzuilde informatie en desinformatie zijn niet nieuw, maar de machinerie eromheen is anno 2020 grootschaliger, ingrijpender en abstracter geworden. Door het toenemend aantal laagdrempelige technologieën waarmee we de werkelijkheid kunnen bewerken, kunnen mensen steeds moeilijker doorzien wat gemanipuleerd is. Daardoor dreigt een realiteitsapathie te ontstaan waarbij mensen dat wat feitelijk gezien waar is, zoals een pandemie, ook niet meer willen geloven.

Een pandemie die we maar moeilijk kunnen temmen botst met het verlangen naar controle en de belofte dat het leven voorspelbaar en stuurbaar is. Complottheorieën hebben zoveel aantrekkingskracht omdat ze de illusie van volledige controle geven. Door te geloven dat het coronavirus een hoax is van de media of een kleine elite, lijkt de oplossing makkelijk: de vijand is in beeld en nu kan men deze ontmantelen zonder zelf vervelende coronamaatregelen te hoeven treffen.

Wie denkt dat complottheorieën alleen voorkomen onder ‘lager’ opgeleiden zit ernaast. In alle lagen van de bevolking zijn mensen de kennis van officiële instituties en experts gaan wantrouwen. Omdat corona een nieuw en complex virus is –er zijn verschillende factoren die op een complexe manier op elkaar inwerken-  en omdat burgers het oneens zijn over de weging van het nationale gezondheidsbelang en andere belangen, is het moeilijk om eenduidige informatie en oplossingen aan te bieden. Elke week verschijnen nieuwe onderzoeken waarbij de resultaten lang niet altijd dezelfde kant op wijzen. Ook dit is een voedingsbodem voor complottheorieën die een duidelijke verklaring en eenduidige oplossing aanwijzen.

Desinformatie, deepfakes en complottheorieën werken schadelijke vormen van wantrouwen en polarisering in de hand. De vraag is: hoe komen we tot meer gemeenschappelijkheid?

Naar een gedeelde realiteit

Zonder gedeelde informatiesfeer wordt elke maatschappelijk gesprek onmogelijk. We kunnen niet goed samenwerken als we niets meer vertrouwen en alles buiten onze informatiebubbel diskwalificeren als nepnieuws. Om problemen van wereldformaat zoals klimaatopwarming en pandemieën aan te pakken is een gedeelde realiteit nodig die door een brede groep gedragen wordt. Maar hoe komen we tot een gedeelde realiteit? Hoe voorkomen we dat mensen hun eigen on- en offline ervaringen verheffen tot de enige relevante waarheid?

De technologie waarmee deepfakes en nepnieuws worden gemaakt, ontwikkelt zich net zo snel als de technologie waarmee deze kunnen worden ontmanteld. Daarmee is een eindeloze wapenwedloop ontstaan tussen deepfakes en deepfake-detectiesoftware. Als we alleen inzetten op technologiegerichte oplossingen, blijven we dweilen met de kraan open.

Traditionele en nieuwe media plaatsen contrasterende informatie in de schijnwerpers. Daardoor lijkt onze realiteit extreem gepolariseerd.

Een deep-fake verbod is een optie, maar hoe realistisch is dat? Totalitaire regimes en bedrijven kunnen onder het mom van deepfake-bestrijding informatie van het internet verwijderen die hen niet bevalt en de wet misbruiken voor censuur. Een verbod geeft bovendien geen antwoord op de vraag wat die gedeelde realiteit zou moeten zijn. Daar gaan wetenschap, filosofie en ethiek over.

In plaats van nepnieuws te bestrijden met software die binnen no-time achterhaald is, kunnen we beter investeren in weerbaarheid. We moeten de maatschappelijke factoren aanpakken die ervoor zorgen dat mensen überhaupt vatbaar zijn voor nepnieuws, informatiebubbels en complottheorieën. Het is bekend dat zowel traditionele als nieuwe media contrasterende informatie in de schijnwerpers plaatsen. Daardoor lijkt onze realiteit extreem gepolariseerd. De eerste stap naar een gedeelde realiteit is het besef dat de werkelijkheid vaak minder gepolariseerd is dan we denken. 

Kranten, talkshows, nieuwsprogramma’s en social media besteden veel aandacht aan tegenpolen en radicale meningen. Schrijver Grimm Bouwmeester deed een scherpe oproep aan de media om wat vaker genuanceerde geluiden in de schijnwerpers te plaatsen:

Waar zijn de nuchtere, nuancerende negentig procent? Taak voor de media. Gun die 10% niet de hele tijd het podium, want zij vormen de mening van het land niet. Zet ook de 90% in spotlight. Als je echt gerustgesteld wilt worden, plaats dan negen spiegels rond je televisie. Zodat je tijdens het kijken naar een schreeuwer ziet dat negen verstandige lotgenoten net zo verbijsterd als jij naar het scherm staren.

Het censureren van radicale meningen is onwenselijk voor een open debat, maar we kunnen wel het polariserende verdienmodel dat een snellere verspreiding van radicale content bevordert  aanpaken. Zo adviseert The Economist dat regelgeving onderscheid moet gaan maken tussen Freedom of Speech en Freedom of Reach: laat extreme berichten online staan, maar maak ze minder zichtbaar door te verbieden dat algoritmen deze berichten bevorderen om gebruikers langer vast te houden.

Met vijanden spreken en vrede maken

Als we boos zijn dan klikken, commenten en tweeten we makkelijker waardoor we meer data-inkomsten voor techbedrijven genereren. Het verdienmodel van polariseerde algoritmen en informatiebubbels doet afbreuk aan ons inlevingsvermogen. Dankzij algoritmisch gecureerde en zelfbevestigende informatiebubbels, kunnen we nog maar moeilijk empathie opbrengen voor de denkbeelden van een ander.

Als we weten door welke gekleurde bril we zelf kijken, is het makkelijker om andere brillen te begrijpen.

De tweede stap naar een gedeelde realiteit is inlevingsvermogen. Als we ons bewust zijn van de gekleurde bril waar we zelf doorheen kijken, bijvoorbeeld door de cultuur waarin we zijn opgegroeid, is het makkelijker om de eigen bril in een context te kunnen plaatsen en andere brillen te begrijpen. Zolang we niet (willen) weten op welke manier onze eigen wereld sociaal, cultureel en digitaal gefilterd is, kunnen we geen ruimte maken voor de ander.

De online afrekencultuur vierde het afgelopen jaar dan ook hoogtij. Gesprekken ontaardde al snel in het shamen van de ander: niet jouw mening of woordkeuze is slecht, maar jij bent slecht. In plaats van een inhoudelijke dialoog kwam het gesprek vaak niet verder dan elkaar bij voorbaat al te diskwalificeren als moreel minderwaardig. In deze ‘cancelcultuur’ is geen ruimte voor nuance, empathie of mededogen. In 2020 werd de tech-industrie zelf ook onderwerp van de cancelcultuur. Zo trokken Coca Cola en Unilever zich terug als Facebook-adverteerders omdat het platform racistische uitlatingen oogluikend zou toestaan. Ook namen Facebook-werknemers ontslag nadat Zuckerberg had besloten om het looting shooting bericht van Trump te laten staan.

Maar is ontslag nemen wel een effectieve manier om deze industrie te laten veranderen? Ex-Facebook-medewerker Sophie Zhang riep in haar afscheidsspeech haar collega’s op om bij Facebook te blijven en het bedrijf van binnenuit te repareren:

Find others who share your convictions and values to work on it together. Facebook is too big of a project for any one person to fix.

In 2021 grijpt SETUP deze olijftak aan om de goede krachten binnen onze huidige schadelijke systemen verder te helpen. We doen artistiek ontwerpend onderzoek naar de vraag: hoe verandert technologie ons inlevingsvermogen? Moeten we harder tegen technologieschandalen vechten of juist het potentieel van empathie en vergeving opzoeken? Want als we niet meer met onze vijanden spreken, dan verleren we misschien wat het is om vrede te maken:

Game of Thrones - Tyrion Lannister: "We make peace with our enemies, not our friends."

Is het nog mogelijk om vergeven te worden als het internet jou niet vergeet?

Nu social media ouder zijn, worden we geconfronteerd met een verleden dat volledig is opgeslagen en overal kan worden opgeroepen. Het is moeilijk om vergeven te worden als het internet jou niet vergeet. Hoe herijken we ons morele verontwaardigingskompas zodat we oude video’s gaan zien voor wat ze zijn; oud en gemaakt in een andere tijdsgeest. Voor standbeelden en straatnamen van Koloniale overheersers bestaan musea en andere instituties, maar hoe werkt dit online? Hoe om te gaan met oude online artefacten in een veranderende tijdsgeest? Om dat te onderzoeken nemen we in 2021 als gecancelde Youtuber deel aan het Nederlands kampioenschap Levende Standbeelden.

Dat social mediabedrijven polariseringsprofiteurs zijn is duidelijk, maar wat gebeurt er als we het tegenovergestelde van polarisering als ontwerpuitgangspunt nemen? Deze vraag onderzoeken we met Nienke Huitenga en James Bryan Graves die het afgelopen jaar hun eerste prototype van WINWIN ontwikkelde: een interactieve ervaring waarin deelnemers via hun smartphone een gepolariseerde kwestie van deze tijd bediscussiëren. WINWIN structureert de discussie door alle meningen te wegen en de groep aan te sturen met een algoritme om consensus naar boven te halen.

Een gedeelde realiteit waarin technologische vooruitgang en maatschappelijke vooruitgang meer samenvallen.

 

2021 wordt ongetwijfeld een jaar vol cancelcultuur-rituelen, viruswaarheid, data-schandalen, tech-excuses en polariserende algoritmen. Maar met de digitale lessen uit 2020 en de verkiezingen in het vooruitzicht, wordt het hopelijk ook een jaar waarin het heilige geloof in big data en tech-solutionisme wat kunnen bedaren. In tijden van extreme polarisering helpt SETUP graag mee om het potentieel van empathie te benutten om dichterbij een gedeelde realiteit te komen. Een realiteit waarin technologische vooruitgang en maatschappelijke vooruitgang meer kunnen samenvallen.

Een eerdere versie van dit artikel verscheen op iBestuur.