Fuck de tech-industrie? Van diskwalificatie naar dialoog

Fuck de tech-industrie? Van diskwalificatie naar dialoog
22 sep – Leestijd 10 min

Fuck de tech-industrie? Van diskwalificatie naar dialoog

Siri Beerends
Siri is cultuursocioloog en schrijver. Ze doet onderzoek naar authenticiteit en de manier waarop mensen en samenlevingen onder invloed van kunstmatige intelligentie meer op machines gaan lijken.

Tech-giganten en privacy-schenders op het strafbankje: dat beeld kennen we nu wel. Om de eindeloze cyclus van misstappen, woede en spijt te doorbreken is een vergevingsgezinde dynamiek nodig die ruimte biedt voor dialoog en vooruitgang.

Toegegeven. Vergeving heeft een weeïge bijklank. Alsof we ja en amen moeten zeggen tegen onrecht en kwalijke misstappen. Maar dat is een groot misverstand. Vergeving betekent niet hetzelfde als onrecht accepteren.

Vergeving betekent niet hetzelfde als onrecht accepteren.

Stanford professor Fred Luskin is gepromoveerd in de counseling-psychologie en deed uitgebreid onderzoek naar vergeving. Hij ontwikkelde een effectief programma waarmee slachtoffers van gewelddadige conflicten de daders kunnen vergeven. Zijn onderzoek laat zien dat vergeving de ultieme manier kan zijn om het heft in eigen handen te nemen:

"Toen we met ons programma begonnen, hielden we de mensen voor: vergeef je ex, maar laat hem zijn alimentatie betalen. Vergeef de daders, maar stuur ze naar de gevangenis als het moet. Laat je pijn los, maar zorg dat die ander de gevolgen van zijn daden draagt. Wederopbouw begint met het bewuste, dagelijkse besluit om te vergeven en aan een gezamenlijke toekomst te werken."

Om tot effectieve vergeving te komen moeten we onze energie niet richten op de eigen gekwetstheid, maar op positieve resultaten. Bijvoorbeeld door geen onredelijke verwachtingen naar anderen te koesteren en een nieuw verhaal te vertellen dat niet in teken staat van slachtofferschap.

Ook de Amerikaanse hoogleraar Brené Brown deed onderzoek naar vergeving. Zij ondervond dat we betere beslissingen nemen als we een levenshouding aannemen waarbij we kunnen geloven dat anderen het beste doen naar hun eigen kunnen.

Misschien is het tijd om onze wrok overboord te gooien en de vergevingsfilosofie los te laten op tech-conflicten.

In plaats van onszelf vast te draaien in de emotie dat het anders had moeten zijn, zorgt het uitgangspunt ‘people are doing the best they can’ ervoor dat we vanuit compassie situaties kunnen zien voor wat ze zijn. Oftewel: stop met vechten tégen een situatie en begin te werken mét een situatie. Dan kun je betere beslissingen nemen, emoties doorvoelen en duidelijkere grenzen definiëren. Oprah Winfrey verwoord het kraakhelder:

"Forgiving is not accepting what has happened to you but accepting that it has happened to you. And then you can say: now what do I do about it?''

Oprah Winfrey over vergeving

Vergeving is dus geen blinde acceptatie, maar een persoonlijke overwinning die we op verschillende soorten conflicten kunnen toepassen om vooruit te komen.

Misschien is het tijd om onze wrok overboord te gooien en deze vergevingsfilosofie los te laten op tech-conflicten. Hoe kunnen we voormalige privacy-schenders van het strafbankje halen en een nieuwe dialoog starten die ruimte biedt voor vergeving èn rechtvaardigheid?

Jij bent slecht

De vergevingsfilosofie lijkt momenteel verder weg dan ooit. De online afrekencultuur viert hoogtij. Gesprekken ontaarden al snel in het shamen van de ander: niet jouw mening of woordkeuze is slecht maar jij bent slecht. In plaats van een inhoudelijke dialoog komen we vaak niet verder dan elkaar als moreel minderwaardig te bestempelen.

In deze ‘cancelcultuur’ is geen ruimte voor context, empathie of mededogen. Eenmaal op het strafbankje beland, kom je daar niet meer vanaf. Het idee dat mensen op termijn van hun fouten kunnen leren bestaat niet.

Ook de tech-industrie is onderwerp geworden van de cancelcultuur.

De cancelcultuur leidt tot maatschappelijke zorgen over het publieke debat. Zo schreven Salman Rushdie, J.K. Rowling, Noam Chomsky en honderdvijftig andere academici, schrijvers, journalisten en activisten een open brief waarin zij waarschuwen voor een af­rekencultuur waarbinnen voldoen aan de norm belangrijker is geworden dan een vrije uitwisseling van meningen en ideeën.

Ook in Nederland zijn hier zorgen over. Sander Duivestein en Menno van Doorn schrijven in de Volkskrant:

“Discussiëren door monddood te maken, overschreeuwen in plaats van luisteren, deze vergaande vorm van hashtagactivisme zet nu de toon. De cancelcultuur laat zien hoe intolerant mensen zijn uit naam van tolerantie: inclusiviteit nastreven door exclusief te zijn. Zo wordt een uiterst dun koord bewandeld. Iedereen loopt immers het risico te worden ge-cancelled. Het lijkt democratisch, maar het neigt naar ­totalitarisme. Hoogste tijd voor een genuanceerder debat."

Het is geen geheim dat de cancelcultuur wordt gevoed door de polariserende algoritmen van Big Tech. Als we boos zijn dan klikken, commenten en tweeten we makkelijker, waardoor we meer data inkomsten voor techbedrijven genereren. Maar inmiddels is de industrie zelf ook onderwerp geworden van de cancelcultuur. Zo trokken Coca Cola en Unilever zich terug als Facebook-adverteerders omdat het platform racistische uitlatingen oogluikend zou toestaan. Ook namen Facebook-werknemers ontslag nadat Zuckerberg had besloten om het looting shooting bericht van Trump te laten staan.

Fouten benoemen en PR-tactieken doorzien is een belangrijke eerste stap. Maar wat komt daarna?

Om hun aangetaste imago te redden komt Facebook met een ogenschijnlijk heldhaftige maatregel: stereotyperende zwarte piet-afbeeldingen zijn vanaf heden niet meer op het platform toegestaan. Hoe nobel dat ook lijkt, het is een gewiekste manier om te voorkomen dat Facebook aansprakelijk wordt gesteld voor de inhoud op hun platform. Of zoals Hans Schnitzler schrijft:

“Zuckerbergs politiek correcte pirouette met Zwarte Piet is een opzichtige poging van een recidivist die strafverzwarende maatregelen - lees: volledige aansprakelijkheidsstelling - probeert te vermijden.”

Nu we de uitgekookte PR-tactieken van Big Tech steeds beter kunnen ontmaskeren, lijkt dit het uitgelezen moment om hun politiek correcte pirouette verder te draaien. Fouten benoemen en marketing mechanismen doorzien is een belangrijke eerste stap, maar wat komt daarna?

SETUP start nieuwe dialoog

Om niet in de fuik van de cancelcultuur te vallen hebben we hulpmiddelen nodig waarmee we de stap kunnen maken van diskwalificatie naar dialoog. In navolging op de Big Brother Awards die elk jaar door Bits of Freedom worden georganiseerd, bezoeken we dit najaar voormalig award-ontvangers: welke dialoog kunnen we met hen opzoeken om constructief vooruit te kijken?

De dode-mussen index helpt privacy schenders verantwoordelijkheid te nemen voor de impact van hun technologie.

Bedrijven en instanties slingeren er graag op los met hun PR-wagen als tech-schandalen aan het licht komen. Maar helpen hun statements en tech-excuses ons ook echt verder? Als we vergevingsgezind zijn en met compassie naar de situatie kijken, welke grenzen kunnen we dan formuleren om samen vooruit te komen?

Omdat we ons niet blij laten maken met een dode mus ontwierpen we de dode-mussen index. Daarmee geven we als conversatie-starter, een waardering aan de manier waarop bedrijven en overheden hun fouten oplossen. Hoe teleurstellender de aangeboden excuses of (niet) genomen maatregelen, hoe meer de samenleving blij wordt gemaakt met een dode mus. Maar, eerlijk is eerlijk, andersom werkt het ook: bedrijven en overheden die verantwoordelijkheid nemen voor hun technologie en werken aan een oplossing, verdienen levende mussen. 

Een dode mus is geen molensteen, maar een middel waarmee we onze pijn richting voormalige privacy schenders kunnen uiten, en hen vervolgens vanuit compassie kunnen helpen om verantwoordelijkheid te nemen voor de maatschappelijke impact van hun technologische systemen.

Dode Mussen Index

De eerste award-winnaar waarmee we een nieuwe dialoog aangaan is het ministerie van Sociale Zaken en Werkgelegenheid. In 2019 ontvingen zij de Big Brother publieksprijs vanwege hun Systeem Risico Indicatie (SyRI). Het systeem koppelt duizenden gegevens aan elkaar en bepaalt op basis daarvan of jij een 'risicoburger' bent die mogelijk belastingfraude gaat plegen.

Maar daarbij gaan een hoop dingen verkeerd. Burgers worden ten onrechte als potentiële criminelen aangemerkt, en het systeem discrimineert omdat alleen armere wijken gescreend worden. Staatssecretaris Tamara van Ark reageerde bij ontvangst van de award:

“Nu zitten we in het verdachtenbankje. Maar ik blijf me er hard voor maken om sociale zekerheid bij de juiste mensen terecht te laten komen.”

Hoeveel mussen zijn de vervolgstappen waard als we met compassie naar de situatie kijken?

Als we haar statement langs de mussen-meetlat leggen, dan komen we uit op een teleurstellende score van drie dode mussen. Van Ark toont namelijk geen inzicht in de gemaakte fouten en ze verlegt de aandacht naar de positieve ambitie van het ministerie.

Een mooi doel formuleren is makkelijk, maar welke vervolgstappen heeft de overheid genomen om die te realiseren en hoeveel mussen zijn ze waard als we met compassie naar de situatie kijken?

Super SyRI

De eerste belangrijke vervolgstap kwam niet van de overheid zelf maar van het burgerrechten collectief Bij voorbaat verdacht. Zij begonnen een rechtzaak tegen de Nederlandse staat waarin de rechtbank uiteindelijk oordeelde dat SyRI niet meer gebruikt mag worden vanwege privacy-schendingen en discriminerende algoritmen. Mooi, is dat ook weer opgelost. Laat die dode mussen dan maar zitten, zou je denken.

Niet helemaal. Want terwijl de inkt van het SyRI-vonnis nog moet drogen, werkt het ministerie van Veiligheid en Justitie alweer aan een nieuw risico indicatie systeem. In een alarmerende brief aan het kabinet spreken maatschappelijke organisaties hun zorg uit over vier nieuwe SyRI’s die gezamenlijk een Super SyRI vormen:

Vervolg Systeem Risico Indicatie

Maar de overheid neemt ook stappen in de goede richting, zoals toetsingskaders voor algoritmen. Deze moeten onze privacy waarborgen en voorkomen dat groepen onevenredig worden benadeeld.

De wil om te veranderen en lessen te trekken uit het verleden lijkt dus aanwezig. Zo schreef Tamara van Ark afgelopen april in een brief aan de Tweede Kamer:

"Ik wil een nieuw instrument ontwikkelen waarbij ik ook in dit licht lering wil trekken uit het instrument SyRI. Bij deze verkenning betrek ik de partijen die ervaring hebben met SyRI zoals VNG, UWV, SVB, de Belastingdienst, het Inlichtingenbureau (IB) en de Inspectie SZW. Ik ga met deze partijen in gesprek over de knelpunten die bij de toepassing van SyRI zijn ervaren. Daarnaast wil ik de behoeften voor de toekomst inventariseren. Zo wil ik naast de SyRI-gebruikers andere partijen en inhoudelijk experts betrekken bij het ontwikkelen van een nieuw instrument. Samen met die verschillende partijen wil ik gaan onderzoeken hoe nieuwe technologische hulpmiddelen kunnen worden ingezet om op een effectieve en efficiënte manier fraude te bestrijden, met voldoende waarborgen ten aanzien van privacy."

Met het waarborgen van privacy en betrekken van experts was Tamara doing the best she can.

Toch moeten we -met compassie voor haar rol en taak als staatssecretaris, helaas concluderen dat ze niet volledig inziet wat het bouwen van een anti-fraude systeem behelst. Met het waarborgen van privacy en betrekken van experts was Tamara doing the best she can, maar ze is vergeten om samen met burgers -de mensen waarover het gaat- nieuwe grenzen te bespreken. Privacy is namelijk niet de enige kwestie. We hebben hier te maken met meerdere anti-fraude systemen waarmee de overheid op basis van wiskundige logica burgers als potientiële criminelen categoriseert.

Om verder te komen moeten hebben we niet alleen wiskundige logica en efficiëntie nodig, maar ook menselijke logica, effectiviteit en empathie. Misschien bereiken we dat niet met meer, maar juist met minder technologie.

Kumbaya

Als we de filosofie van vergeving loslaten op de stappen die de overheid sinds hun Big Brother award heeft gezet, kunnen we op een constructieve manier de dialoog aangaan over hoe het beter kan. Op hoeveel dode of levende mussen komen we dan uit? 

Op weg naar een hartig maar eerlijk gesprek, waarin we elkaars pijn erkennen om van daaruit écht samen verder te kunnen kijken. Kumba-fucking-ya!