Met de data-deeltjesversneller is het wachten op een Toeslagenaffaire 2.0

Met de data-deeltjesversneller is het wachten op een Toeslagenaffaire 2.0
24 jan – Leestijd 3 min

Met de data-deeltjesversneller is het wachten op een Toeslagenaffaire 2.0

Siri Beerends
Siri is cultuursocioloog en schrijver. Ze doet promotie-onderzoek naar authenticiteit en de vraag hoe kunstmatige intelligentie de afstand tussen mensen en machines verkleint.

De dag waarop de bevindingen van de Toeslagenaffaire openbaar werden gemaakt, stemde de kamer in met een nieuwe wet die digitale misstappen nog makkelijker maakt. Leert de overheid eigenlijk wel van haar fouten?

In de afgelopen weken werd de impact van de Toeslagenaffaire steeds duidelijker. Terwijl het kabinet viel en het grote puinruimen is begonnen, wachten de meeste gedupeerden nog altijd op compensatie.

Dit zou het moment moeten zijn om verantwoordelijkheid te nemen en een grondig onderzoek te starten naar de computersystemen die een rol speelden bij de onterechte fraude-verdenkingen. Maar in plaats daarvan is nu een wet aangenomen waarmee nog ingrijpendere risico-indicatie systemen worden opgetuigd.

Toen de wet op 17 december door de Tweede Kamer werd aangenomen, kraaide er geen haan naar. Dat is ook niet zo gek. De Wet Gegevensverwerking Samenwerkingsverbanden (WGS) is nou niet bepaald een naam die lekker blijft hangen. En het klinkt ook niet als iets waar we wakker van moeten liggen. Toch is daar alle reden toe.

Nieuwe datakoppelwet

Dankzij de Toeslagenaffaire en het fiasco met Systeem Risico Indicatie, weten we inmiddels wat er kan gebeuren als we (zelflerende) computersystemen loslaten op grote hoeveelheden data. Mensen volgen kritiekloos de rigide analyses van computersystemen en burgers worden ten onrechte aangemerkt als fraudeurs.

De Wet Gegevensverwerking Samenwerkingsverbanden doet er nog een schepje bovenop.

De systemen die de Toeslagenaffaire in de hand werkten vermenigvuldigen zich waar je bij staat.

Dankzij deze nieuwe wet kunnen overheden en private partijen op nog grotere schaal data delen en verwerken. Niet alleen banken en notarissen, maar ook overheidsorganisaties zoals de Belastingdienst, Koninklijke Marechaussee, Rijksrecherche, Immigratie- en Naturalisatiedienst, Fiscale Inlichtingen en Opsporingsdienst, Voedsel- en Waren Autoriteit, inspectiediensten, gezondheidszorginstellingen en gemeenten.

Dit betekent dat meer overheidsorganisaties en meer private partijen meer databestanden gaan delen om nog meer risico-analyses uit te voeren.

Tweede Kamerlid Kees Verhoeven luidt de noodklok over de nieuwe wet omdat ethische waarden zoals dataminimalisatie (zo weinig mogelijk data gebruiken) en doelbinding (voor doel A verzamelen betekent niet voor doel B gebruiken) niet zijn gewaarborgd. In zijn social media posts waarschuwt hij:

Vanwege de enorme reikwijdte is niet duidelijk hoe dit in de praktijk gaat uitpakken. Om fraude uit te bannen kiest men vol daadkracht voor het verkeerde middel: gehaaste inzet van data zonder grip. Nu is het doodstil, maar als het straks weer mis gaat, schreeuwt men moord en brand.

Verhoeven is een van de weinige Kamerleden die zich niet alleen in de politiek maar ook in de media luid en duidelijk heeft uitgesproken tegen de wet.

Terug bij af

Toen de rechtbank vorig jaar een verbod uitsprak op Systeem Risico Indicatie omdat burgers ten onrechte werden aangewezen als mogelijke fraudeurs, hoopten we op voortschrijdend inzicht. Maar met de nieuwe datakoppelwet zijn we weer terug bij af.

Zo wordt de nieuwe wet ook wel de Syper SyRI genoemd: vier publiek-private SyRI's zijn inmiddels opgetuigd waar doorlopend nieuwe organisaties en samenwerkingsverbanden aan toegevoegd kunnen worden.

Na de Toeslagenaffaire weten we één ding zeker: dit nooit meer. Maar de systemen die deze affaire in de hand werkten vermenigvuldigen zich waar je bij staat. In het Tweede Kamerdebat gaf Kees Verhoeven de nieuwe wet daarom de toepasselijke bijnaam: data-deeltjesversneller.

Tech-verantwoordelijkheid

De Toeslagenaffaire, de nieuwe datakoppelwet en het vervolg van Systeem Risico Indicatie vragen om een nieuwe dialoog over verantwoordelijkheid.

Wat betekent het om verantwoordelijkheid te nemen in een complex systeem waar computermodellen en mensen steeds meer met elkaar verweven zijn? Welke rol speelt empathie? Hoe kunnen we mensen verantwoordelijk houden als onduidelijk is waar hun eigen invloed begint en waar deze stopt? Hoe creëren we ruimte om fouten te durven erkennen en deze gezamenlijk te corrigeren?

Op 23 maart reikt SETUP haar mussen-award uit. Daarmee openen we een nieuwe dialoog over tech-verantwoordelijkheid. We helpen bedrijven en overheden op weg om verantwoordelijkheid te nemen voor de maatschappelijke impact van hun technologische systemen.

Blijf SETUP volgen voor belangrijke ontwikkelingen rondom Super SyRI, de nieuwe datakoppelwet en tech-verantwoordelijkheid.

Lees een vervolg van dit artikel op OneWorld