Paaltje - de automatische activist of de wonderbaarlijke vermenigvuldiging van lastpakken

Paaltje - de automatische activist of de wonderbaarlijke vermenigvuldiging van lastpakken

Magazine
© Dongwei Su

Met Paaltje kun je in een handomdraai bezwaar maken tegen ontwikkelingen in jouw buurt. Door klagen te automatiseren stellen we het algoritmische doolhof waar burgers in vastlopen aan de kaak. Top story


Dirk van Weelden maandag 5 november 2018
Inhoud: 
© Robert-Jan Lechner

1. De algoritmes die boven ons gesteld zijn

In theorie is er veel te zeggen voor het automatiseren van bijvoorbeeld de afhandeling van verkeersboetes voor snelheidsovertredingen of door het rode licht rijden. De handhaving en afhandeling door mensen is vervelend en saai werk en wordt steeds duurder en moeilijker door de grote aantallen. Daarom slaagt het automatiseren van flitsen, bekeuren en incasseren erin een acceptabele en efficiënte balans te bereiken tussen de regels en de handhaving ervan.

Zou hetzelfde, namelijk dat dit in theorie een acceptabele en efficiënte uitvoering van een publieke taak zou zijn, ook gelden voor het automatisch afhandelen van aanvragen voor een uitkering, een schuldsanering, een verblijfsvergunning, een zorgtoeslag of een paspoort enzovoort?

Er bestaat een diepe kloof tussen de innerlijke logica van de bureaucratische software en de juridische en sociale regels.

Het punt is, dat als we eerlijk naar de werkelijke feiten kijken, we dat niet weten. En toch groeit de toepassing van automatisering bij de overheid, en semi-overheid, zowel landelijk als gemeentelijk razendsnel. Bij alle vormen van geautomatiseerde ketenbesluiten gaan dingen vreselijk mis, en als we de grondige onderzoeken zoals dat van Dr Marlies van Eck voor de Universiteit Tilburg erbij betrekken blijkt dat er een systematische, onopgehelderde en niet serieus genomen discrepantie bestaat tussen het ontwerpen en gebruiken van de systemen enerzijds, en de juridische en sociale realiteit waarin ze worden ingezet. Er bestaat een diepe kloof tussen de innerlijke logica van de bureaucratische software en de juridische en sociale regels, formeel en informeel, die we erkennen en van waarde achten. We kennen het absurde verhaal van de vrouw wier leven geruïneerd wordt door schulden die ontstaan doordat niemand meer ongedaan kan maken dat de systemen van de Rijksdienst Wegverkeer, en het Justitiëel Incassobureau ervan uitgaan dat zij een auto bezit, die ze niet heeft.

Zijn dit de beroemde kinderziektes waarover technologen het zo graag hebben, of is er meer aan de hand? In het geval van door de overheid gebruikte automatische besluiten stapelen zich twee problemen op. Het allerbelangrijkste is natuurlijk dat de overheid een uitzonderingspositie inneemt en een unieke en grote macht heeft over de levens van de burgers. Cruciaal is, dat het beleid en het budget van de overheid bepaald en betaald worden door de burgers die de ‘datasubjecten’ van de automatische bureaucratieën zijn. De overheid is daarom grondwettelijk verplicht alles in het werk te stellen om gelijkwaardige en faire, controleerbare, menselijke behandeling van alle burgers te waarborgen. Als de overheid op dit punt faalt is dat niet te vergelijken met een webwinkel die slechte service geeft. Dan kopen we onze oorbellen ergens anders. Dat is onmogelijk bij de aanvraag voor een zorgtoeslag of het saneren van schuld aan een ziektekostenverzekeraar. Het is dus een sociaal-politiek urgent onderwerp van principieel belang.

Het tweede probleem heeft te maken met de botsing tussen de logica van de technologie en die van de juridisch-sociale logica van het overheidsapparaat. Die botsing levert volgens professor van Eck drie soorten problemen op.

  • Er bestaat nauwelijks erkenning noch een deugdelijke procedure voor het feit dat de gebruikte data soms onjuist of onvolledig zijn. Het rechtzetten van overduidelijke onjuiste besluiten wordt niet serieus genomen. Er is geen publieke verantwoordelijkheid voor de onbedoelde negatieve effecten, die aanzienlijk kunnen zijn. Het feit dat de systemen van de overheid in een keten staan compliceert dit gegeven nog.
  • Bij het ontwerp van de algoritmische besluit-systemen is de technologische logica dominant, en dat betekent dat er veel zaken die voor het type besluit uiterst belangrijk zijn (in sociaal en juridisch opzicht, bijvoorbeeld het regelen van uitzonderingen, veranderde (familie) omstandigheden enz) niet digitaal worden vastgelegd en meegewogen. De versimpeling tot wat makkelijk te meten en te programmeren is, produceert fouten en besluiten die in strijd zijn met de letter en de geest van de wet.
  • De regels waarlangs besluiten tot stand komen, oftewel de exacte vertaling van het overheidsbeleid (letter en geest van de wet) in software is voor burgers verborgen, en zelfs voor de medewerkers van de overheidsinstellingen onbegrijpelijk en onveranderbaar.  Dat ontneemt de burgers in de praktijk een fundamentele mogelijkheid zich via bestuursrechters te verweren tegen fouten en onrechtmatigheden.

Kortom: de dominantie van de technologische logica ten koste van de eigenheid en complexiteit van het uit te voeren overheidsbeleid maakt een disfunctionele karikatuur van wat transparant, consistent, rechtmatig en fair bestuur mag heten. Hoeveel voordeel, gemak en plezier de burger ook zou kunnen ondervinden van automatische ketenbesluiten, er zit voorlopig een principiële tekortkoming in de manier waarop dit instrument wordt ingezet.

Als achteraf blijkt dat algoritmes aannames maken en beslissingen nemen die grote delen van de bevolking als racistisch aanmerken, is dat geen kinderziekte maar een onkritisch en onverantwoord ontwikkeld systeem.

Een algoritme is niets geheimzinnigs. Het is een eindige, gestructureerde reeks van expliciete en eenduidige instructies om een procedure uit te voeren met een bepaalde hoeveelheid data, oftewel in binaire getallen omgezette metingen. Data komen niet uit de lucht vallen. Mensen kiezen en bepalen wat er gemeten wordt, hoe het te meten en welke waarde en functie de meting toe te kennen in de bewerking van de gegevens. Die bewerking bestaat uit regels die mensen bepalen, vrijwel altijd gaat het erom patronen te ontdekken in de zwerm gegevens, dus om het vinden van statistische correlaties tussen verschillende klassen data.

Dat klinkt allemaal heerlijk transparant, technisch en objectief, en als het om het voorspellen van het weer gaat, is vrij onomstreden wat je dan wilt meten, en met welke tussenpoos. Maar bij het analyseren van de situatie van werklozen, of het meetbaar maken van een meerduidig sociaal begrip als armoede, of het beoordelen van een zorgvraag vereist het een complexe vertaling van de in de wet omschreven criteria en mee te tellen feiten en omstandigheden in een digitaal programma. Statistische correlaties suggereren soms oorzakelijke verbanden die vals zijn, en nog ernstiger, ze suggereren maatregelen die de bestaande onwenselijke en ongelijke omstandigheden in de maatschappij versterken en uitvergroten.

Wat blijkbaar te weinig heeft meegespeeld bij de invoering van automatische ketenbesluiten is dat bij het bepalen van al deze meetpunten, criteria, rangordes en bewerkingsregels ethische en politieke besluiten genomen worden, met verstrekkende gevolgen voor de datasubjecten. Er is geen ontkomen aan een ethisch-politieke discussie als het over de uitvoering van overheidsbeleid gaat, en dat geldt des te meer voor digitale technologie, die ertoe neigt dat te verduisteren. Als achteraf blijkt dat algoritmes aannames maken en beslissingen nemen die grote delen van de bevolking als racistisch aanmerken, dan is dat geen kinderziekte van een machine, maar een onkritisch en onverantwoord ontwikkeld systeem, een asociaal ontwerp.

De groeiende macht van digitale systemen is te alomtegenwoordig om over te laten aan technici en bureaucraten.

Nu lijkt het alsof er geen alternatief is voor de simplificerende en soms onrechtmatig, onmenselijk uitpakkende logica van de software ontwerpers en de beheerders van de bureaucratische systemen. Het gevolg is dat alle fouten, onrechtvaardigheden, onvolkomenheden en disfunctionaliteit het probleem is van de burgers die het slachtoffer worden. Terwijl het staatsrechtelijk geredeneerd de plicht van de overheid is deze onbedoelde gevolgen van het eigen beleid te voorkomen en te verhelpen.

Ondanks het feit dat er langzaam enige beweging komt in de erkenning van deze problemen, ook door Europese wetgeving die dit jaar van kracht werd en die verplicht stelt dat burgers recht hebben op inzicht en begrip als het om op hen toegepaste algoritmes gaat, mag het gerust een groeiend democratisch tekort heten. Sterker, het blijkt erg verleidelijk voor bestuurders geen handig gebruik te maken van deze voorsprong, en zonder controle en tegenspraak hun zin door te drijven, ongeacht de nevenschade.
De groeiende macht van digitale systemen is veel te groot en alomtegenwoordig om over te laten aan technici en bureaucraten.

Bestuurders, politici en ambtenaren laten zich bedwelmen door de technologie-bedrijven die prestigieuze, maar vooral zonnige en probleemloze plannen aanleveren.

Civil Weapons of Math Retaliation is een project van SETUP dat berust op het idee dat burgers zich teweer kunnen stellen tegen de onbedoelde negatieve gevolgen van de inzet van algoritmes door overheidsdiensten, door zelf digitale systemen te ontwikkelen.
Niet alleen om in de praktijk sterker te staan, maar vooral om een publiek debat aan te jagen en te voeden over de sociaal onverantwoorde en politiek dubieuze invoering van algoritmische besluitprocessen her en der in het openbaar bestuur. Of het nu gaat om de inzet van gezichtsherkenning, de koppeling van gegevens-bestanden, de opstelling van datapunten en criteria voor de beoordeling van toeslagen en vergunningen, bij al die kwesties zouden ethische, sociale en politieke aspecten moeten worden betrokken; oftewel de belangen, zorgen en leefwereld van de mensen op wie de automatische besluiten worden uitgevoerd. En dat gebeurt niet of nauwelijks. Teveel bestuurders, politici en ambtenaren laten zich vleien en bedwelmen door de technologie-bedrijven die prestigieuze, maar vooral zonnige en probleemloze plannen aanleveren. Tekent u op de stippellijn.

Dit project wil alternatieve algoritmische systemen ontwikkelen die discussie oproepen, debat uitlokken, in de media, onderwijs, (lokale) politiek en bij maatschappelijke organisaties betrokkenheid oproepen bij dit thema. Het uiteindelijke doel is dat de bestuurders en de uitvoeringsinstanties begrijpen dat voor het slagen van de integratie van digitale systemen in de overheidsdiensten twee-richtingsverkeer nodig is. Een constante consultatie en bemoeienis van burgers, die effectief invloed hebben op het verbeteren en bijsturen, het democratischer én socialer maken van de manier waarop algoritmes worden ingezet door de overheid. Rechtszekerheid bij fouten en zelfs inzicht achteraf in de algoritmes is niet genoeg. Wederkerigheid tussen politiek, ontwerpers en burgers bij het ontwikkelen en invoeren ervan, dat zou de norm moeten zijn. Algoritmes in handen van de overheid zijn geen technisch probleem of bestuurlijke zaak, maar een politieke kwestie, die debat, onafhankelijk onderzoek en het horen van betrokkenen vereist.

2. Paaltje, het automatische lastpak

Bij het bedenken van Paaltje, was de voornaamste inspiratiebron het archetype van de beroepsklager, de man of vrouw die alle beschikbare tijd, middelen en energie inzet om zich kritisch en niet zelden obstructief te bemoeien met wat de lokale overheid doet. Het zijn mensen die bezwaar maken tegen horeca-vergunningen, die handtekeningen-acties tegen te grote reclameborden opzetten, drink en blow-verboden willen afdwingen in de straten waar ze wonen en zich officieel beklagen over de gevels aan de overkant die te hoog worden zodat de zon uit hun huis verdwijnt.

Je kunt lacherig doen over de keuze van de thema’s waarover ze zich druk maken, en je erover verbazen waar zulke mensen de energie en het uithoudingsvermogen vandaan halen om met zulke kwesties bezig te zijn, maar één ding is verbluffend: ze hebben een grondige kennis en een rotsvast geloof in de formele, bureaucratische wegen die hen in staat stellen van zich te laten horen. Bestuursrecht, WOB, bodemprocedures, ze zijn er gedetailleerd in thuis en weten precies tot welke datum ze waar, met welk formulier en met verwijzing naar welk wetsartikel en uitspraak van het Europese Hof ze punten kunnen scoren. Zulke lastpakken zijn gevreesd bij de overheidsdiensten omdat ze zich zo goed aan de regels houden. Hun bezwaren en klachten moeten dus ook volgens de letter van de wet behandeld worden, anders gaan ze naar de rechter en krijgen ze nog gelijk ook!

Een automatische activist, een algoritmische lastpak die overheden op de huid zit en politici aanspoort.

Laten we, zo dachten wij (Swen Mulderij en ik) voor deze gelegenheid uitgaan van een activist die zaken van wat groter en algemeen belang uitkiest om zich voor in te zetten. Zoals bijvoorbeeld de luchtkwaliteit, de voor leken in de lucht moeilijk waarneembare gehaltes van verschillende soorten fijnstof en giftige stoffen uit fabrieken en verbrandingsmotoren. In iedere gemeente van enige omvang in dit land speelt de luchtkwaliteit een rol bij de toetsing van bouwvergunningen aan het bestemmingsplan. Er is een complex stelsel van normen voor luchtkwaliteit die verschillend zijn voor woonwijken en bedrijventerreinen, agrarische zones en recreatiegebieden. Ook in de discussies over de aanleg van groen, de inrichting van milieuzones, het autoluw maken van binnensteden en het aanleggen van oplaadpunten voor elektrische auto’s wordt luchtkwaliteit als een element betrokken.

Stel nou, dachten we, als we een algoritme konden maken dat sommige dingen doet die zo’n luchtkwaliteit-activist doet, maar dan automatisch. En, daar bovenop, zou het niet schitterend zijn als je dat systeem zo kon maken dat duizenden mensen in een stad zo’n ding in huis hadden, als een interface met hun denkbeeldige activistische Ik. Een simpel te bedienen systeem dat de drempel voor veel mensen verlaagt om iets te doen ten behoeve van het belang van schone lucht. Een automatische activist, een algoritmische lastpak, die gebruikmakend van openbare informatie en bestaande officiele en informele mogelijkheden tot bezwaar maken en klagen, de overheden op de huid zit en de politici aanspoort. Het zou resulteren in een vreselijk irritante, maar volkomen legale en niet te negeren publieke en politieke aandacht voor iets waar te vaak de hand mee wordt gelicht, wat te vaak wordt weggemoffeld of waar symbolisch en ritueel over wordt gesproken. Terwijl er grote stappen moeten worden gemaakt, in het belang van het welzijn van de burgers.

Swen moest na enige tijd het project in de steek laten vanwege werk voor zijn bedrijf in het buitenland. Met Joost Helberg heb ik verder gewerkt aan Paaltje en hij heeft uiteindelijk het apparaat gemaakt en geprogrammeerd. In de zomer van 2018 konden we het werkende prototype, verpakt in een omhulsel dat werd vormgegeven door Maarten Kip, voorstellen op de iBestuur conferentie in Scheveningen.

Wat doet Paaltje? Hij lijkt een beetje op een digitale assistent, het is een totempaaltje dat bijvoorbeeld in de woonkeuken staat, en waar bij tijd en wijle een lampje op gaat branden. Dat betekent dat het systeem op het internet heeft vastgesteld dat de metingen van de luchtkwaliteit die het RIVM, Luchtmeetnet en soms de gemeente beschikbaar stelt voor de directe omgeving van Paaltje de normen overschrijden. Het kan ook betekenen dat er een aanvraag is gedaan om iets te gaan bouwen in de buurt, dat impact zal hebben op de luchtkwaliteit. Of dat de gemeenteraad ergens over zal gaan besluiten (bijvoorbeeld het bestemmingsplan, groenvoorziening, de aanleg van wegen, het bijstellen en veranderen van de luchtkwaliteitsnormen) dat invloed zal hebben op hoe er wordt omgegaan met het belang voor schone lucht.

Paaltje verlaagt de drempel om op de hoogte te blijven en is doelmatig in het omzetten van de bestede aandacht in handelingen die tellen.

Om te weten wat er aan de hand is, drukt de gebruiker van Paaltje op een knopje en hoort ze uit de luidspreker een stem de melding voorlezen. Als het om iets gaat waartegen officieel bezwaar kan worden gemaakt, geeft de stem dat aan. Bovenop Paaltje zit een grote rode knop die bij zo’n melding gaat branden. Wie erop drukt verstuurt zichzelf een mail met daarin het kant en klare formulier met het bezwaar, het enige wat je hoeft te doen is het te openen, te ondertekenen en op te sturen. Als het niet gaat om iets dat in aanmerking komt voor een ambtelijk bezwaar, kan de druk op de knop leiden tot het verspreiden van een tweet die ruchtbaarheid aan de melding geeft, op het eigen twitterkanaal van Paaltje. Of het kan leiden tot de ondertekening van een petitie of zwartboek. Omdat Paaltje ook de websites en twitteraccounts van de gemeente, milieuorganisaties of politieke partijen in de gaten kan houden, zijn er nog veel meer koppelingen mogelijk tussen meldingen en het activeren van een aanmelding, adhesiebetuiging of andere reacties.

Paaltje is een automatische ondersteuning voor mensen die betrokken zijn bij de kwestie van luchtkwaliteit, om die betrokkenheid juridisch en politiek meer gewicht te geven. Het systeem verlaagt de drempel om op de hoogte te blijven en is doelmatig in het omzetten van de bestede aandacht in handelingen die tellen. Belangrijk onderdeel van het idee achter Paaltje is dat er idealiter duizenden van worden verspreid in een stad, zodat er een heel netwerk ontstaat, en de overheden overspoeld worden door bezwaren, petities en tweets. De gevolgen daarvan dringen ongetwijfeld door in de media en in de gemeentepolitiek, wat de Paaltjes gebruikers kan aanmoedigen meer te doen dan af en toe op een rode knop drukken. Het is dus geen systeem dat activisme weg-automatiseert maar juist vergemakkelijkt en versterkt.

In al zijn eenvoud kan Paaltje een instrument zijn voor een losvaste groep mensen die in een stad de media, de ambtenarij en de volksvertegenwoordigers bij de les houden als het om luchtkwaliteit gaat. Het is een algoritme dat onderdeel uitmaakt van de infrastructuur van actieve en betrokken burgers. Technisch gesproken is het geen enorm complex of duur apparaat. Paaltje maakt gebruik van de Google-tekst-naar-spraak software op het internet en volgt een aantal websites en accounts waar meldingen van normoverschrijdingen en bepaalde trefwoorden het systeem in werking zetten. Deze kant van het systeem kan in de toekomst nog worden uitgebreid en verfijnd natuurlijk.

3. Hoe nu verder?

Het concept van Paaltje is uiteraard niet beperkt tot automatische meldingen, officiële bezwaren en getwitterde klachten over de luchtkwaliteit. Er zijn veel meer openbare gegevens die voor niet-professionals lastig te volgen en te interpreteren zijn en die door een algoritme kunnen worden bekeken en in omschreven gevallen worden gesignaleerd en gedeeld. In combinatie met de distributie van de fysieke Paaltjes door een stad of een streek, is dat een simpel en nuttig instrument voor actievoerders. Het bewustzijn van een groeiend volkje aan Paaltjes heeft een uitwerking op de mensen die meedoen, er ontstaat een netwerk, een groepsgevoel.

Onlangs vond een gesprek plaats met Actiegroep Binnenstad 030 over een pilot waarin meerdere Paaltjes betrokken kunnen zijn.

Omdat er een werkend prototype is, bestaat de mogelijkheid een serie te maken, van zowel technisch als uiterlijk verbeterde versies van Paaltje en die ter beschikking te stellen van een groep mensen, die zich met een thema in hun directe omgeving actief willen bezig houden. Onlangs vond er een gesprek plaats bij SETUP met enkele mensen van de Actiegroep Binnenstad 030. Dat is een groep bewoners van de Utrechtse binnenstad die zich bekommeren om de leefbaarheid van dat door toerisme, evenementen en uitgaan intensief gebruikte gebied. Hun aandacht gaat vooral naar de invloed van evenementen en horeca op hun leefomgeving. De regels, de handhaving en de vergunningsverlening zijn een onoverzichtelijk en snel veranderend verschijnsel, dat inderdaad goed en laagdrempelig te delen is via een systeem als Paaltje. Ze zeiden dat ze wel belangstelling hadden om mee te werken aan een pilot waarin een stuk of zeventig Paaltjes betrokken kunnen zijn.

© Dongwei Su
SETUP in gesprek met Actiegroep Binnenstad 030

Het is ontegenzeglijk waar dat Paaltje, als het massaal en effectief wordt ingezet een irritante en obstructieve bemoeienis met de lokale politiek kan zijn. Maar het is in juridisch opzicht niet eens burgerlijke ongehoorzaamheid. Wie uit protest tegen een overheidsbesluit zwijgend, arm in arm, op de grond gaat zitten op de stoep voor het stadhuis en zich eventueel zingend laat afvoeren door de politie, die eerst herhaaldelijk door de megafoon heeft gesommeerd te vertrekken, heeft meer regels overtreden dan de actiegroep die met gebruikmaking van Paaltje de verandering van het bestemmingsplan en het bijstellen van de luchtkwaliteitsnormen tegenhoudt door een lawine aan bezwaarschriften.

Met Paaltje worden geen regels overtreden, hij maakt slechts gebruik van openbare, door de overheid ter beschikking gestelde gegevens.

Dat is te beschouwen als een sterk punt van de strategie achter Paaltje: het gebruik van openbare, vaak door de overheid zelf ter beschikking gestelde gegevens, en het bewandelen van ambtelijke paden. Maar even belangrijk aan het concept is de eenvoud en het uit te breiden aantal van de Paaltjes, die makkelijk een groeiende groep mensen kan betrekken bij deze manier van actievoeren. Tenslotte is het goed om op te merken dat het gebruik van het algoritme in dit digitaal burgerlijk zelfverdedigingswapen verschilt van het gebruik van algoritmes in veel bureaucratische toepassingen. Daar wordt de sociale en menselijke complexiteit van een situatie waarin problemen en conflicten zijn vaak op een wrede en kortzichtige manier versimpeld. Op papier, in de programmatuur van het systeem zijn alle problemen dan opgelost en is alles efficient geregeld, terwijl de dagelijkse praktijk bestaat uit fouten, schrijnende gevallen, bureacratische tunnelvisie en uit de hand lopende kosten. Automatische keten-besluiten roepen het beeld op van de gastvrije Procrustus uit de Griekse mythe, die reizigers met geweld oprekte of van uitstekende ledematen ontdeed zodat ze maar precies in zijn logeerbed pasten.

In plaats van debat te smoren, zorgt Paaltje voor een kritische discussie over de complexiteit van automatische besluitvorming bij de overheid.

Het algoritme zoals het door Paaltje wordt ingezet, is een collectief instrument waarmee een groep mensen hun energie kan bundelen. Het legt niet vast hoe er vervolgens politiek gereageerd wordt op de meldingen die worden gedeeld. De bezwaarschriften kunnen worden aangevuld met afgedwongen hoorzittingen, met demonstraties, of bezettingen. Paaltje maakt deel uit van het opzetten van een twee-richtingsverkeer tussen overheid en burger, waar het op de inzet van digitale besluitvorming gaat.

Het algoritme legt bovendien bloot hoe tegenstrijdig veel regelgeving over de normen van luchtkwaliteit zijn. Europese en nationale normen verschillen, er bestaan voor allerlei soorten gebieden uitzonderingen en aanpassingen. Onderzoeken naar de positieve invloed van verschillende soorten beplanting op de gehaltes aan fijnstof worden genegeerd. Oftewel: in plaats van debat te smoren, oplossingen als decreet op te leggen, zorgt het algoritme dat Paaltje inzet voor het aanzetten tot een kritische discussie over de complexiteit van dit thema. Het maakt duidelijk hoe noodzakelijk het is zulke thema's van meerdere kanten te bekijken en er niet klakkeloos van uit te gaan dat de statistiek van het verleden automatisch het juiste en rechtvaardige beleid voor de toekomst oplevert.