SETUP biedt eerste hulp bij corona-app

SETUP biedt eerste hulp bij corona-app
© SETUP
14 apr – Leestijd 8 min

SETUP biedt eerste hulp bij corona-app

Siri Beerends
Siri is cultuursocioloog en schrijver. Ze doet onderzoek naar authenticiteit en de manier waarop mensen en samenlevingen onder invloed van kunstmatige intelligentie meer op machines gaan lijken.

Minister de Jonge roept bedrijven op om mee te denken over apps die de verspreiding van het coronavirus kunnen beperken. Deze moeten inzichtelijk maken of je in de buurt bent geweest van een besmet persoon. SETUP staart zich niet blind op privacy en biedt graag eerste hulp bij het ontwerp van de corona-app.

Minister Hugo de Jonge wil de denkkrachten in Nederland bundelen om de corona-apps te realiseren. Hij hamert op de waarborging van privacy.

Brandstof om verder te kijken dan privacy

Waag, Bits of Freedom, Platform Burgerrechten, Code for NL en het AI Now Institutie kwamen afgelopen week met een manifest waarin zij van de overheid eisen dat de apps alleen mogen worden ingezet voor het vereenvoudigen van contactonderzoek.

De corona-apps moeten anoniem inzichtelijk kunnen maken of je met een besmet persoon in contact bent geweest. Verder eisen de partijen dat de apps tijdelijk, transparant, vrijwillig en gebruiksvriendelijk zijn, zonder commerciële bijbedoelingen. Ook moet het ontwerp door onafhankelijke deskundigen begeleid worden.

SETUP voelt zich geroepen om vanuit haar geschiedenis van ontwerpend onderzoek brandstof aan te leveren waarmee we het maatschappelijke debat op een hoger plan kunnen tillen dan privacy. We nodigen makers uit om verschillende mockups voor de corona-app te ontwerpen zodat we beter kunnen praten over de mogelijke scenario's en maatschappelijke gevolgen.

Door de focus op privacy gaan we voorbij aan een aantal belangrijke vragen.

Het geloof dat digitale technologie de oplossing is voor alle problemen, is in de huidige crisis niet anders. Als het aan de minister ligt, hebben we de keuze tussen een langdurige lockdown met grote economische schade òf een corona-app. De gedachte dat we met effectief social distancen of een cursus handen wassen misschien wel meer gezondheid bereiken dan met een app, komt bij het kabinet niet op. Er lijkt nog maar één optie voor een intelligente open-up te bestaan: zoveel mogelijk mensen moeten de corona-app van de overheid gaan gebruiken.

Daardoor wordt nu een belangrijke stap overgeslagen. Voordat we overgaan op een privacy-vriendelijke app, is het zinvol om eerst te verkennen of een app die besmettingsrisico´s kwantificeert überhaupt effectief kan zijn in een samenleving die vrijheid, gelijkheid, democratie en veiligheid hoog in het vaandel heeft staan.

Het is onduidelijk waarom een corona-app noodzakelijk is wanneer de overheid sowieso al inzet op meer testen, anderhalve meter afstand handhaven en quarantaine maatregelen toepassen in geval van symptomen. Het vereenvoudigen van contactonderzoek lijkt een goede reden, maar is dat nog steeds zo wanneer we de maatschappelijke gevolgen en gezondheidseffecten van deze vereenvoudiging meewegen?

Risico op schijnveiligheid

De app die de overheid wil gaan gebruiken moet inzichtelijk maken of je met een coronapatiënt in contact bent geweest. De belofte is dat we daarmee de anderhalve-meter economie kunnen openstellen en verdere verspreiding kunnen tegengaan.

Als we iets hebben geleerd uit ons ontwerpende onderzoek naar de gevolgen van automatische besluitvorming, dan is het dat mensen veelal blind het advies van een computerbeslissing opvolgen.

We wantrouwen onszelf en gaan ervanuit dat de computer betere beslissingen neemt. Dus als iedereen in onze omgeving straks geen besmettingsmelding heeft ontvangen, dan gaan we ervan uit dat dit klopt en dat we veilig bij elkaar in de buurt kunnen komen. En als we wel een melding hebben ontvangen, dan gaan we ervan uit dat we vervolgstappen moeten nemen, zoals twee weken in quarantaine gaan om verdere verspreiding te voorkomen.

Is het zinvol en wenselijk om ons sociale verkeer te onderwerpen aan wiskundige logica?

Maar hoe betrouwbaar zijn de besmettingsrisico-meldingen straks? Niet iedereen kan getest worden, mensen kunnen virusdrager zijn zonder symptomen, en niet alle coronatests en immuniteit-tests zijn betrouwbaar. Daardoor ontstaat het risico op valse negatieven: de app geeft dan ten onrechte aan dat je niet met een besmet persoon in contact bent geweest. Een besmettingsvrije melding kan ons ten onrechte laconiek maken in het handhaven van virusmaatregelen.

Daarnaast zijn er volgens virologen en medisch-experts nog veel onduidelijkheden over immuniteit en hoe lang en wanneer het virus precies besmettelijk is. Daardoor kunnen er ook valse positieven ontstaan: de app geeft dan aan dat je met een besmet persoon in contact bent geweest, terwijl het contactmoment niet besmettelijk was. Bijvoorbeeld omdat je al immuun bent, de persoon in kwestie niet meer besmettelijk was, of omdat je werd beschermd door een muur, mondkapje of plastic scherm die de app niet kan meten. Een app kan het daadwerkelijke besmettingsgevaar dus niet goed kwantificeren.

Stel je voor: in (x) dagen incubatietijd heeft persoon (y), (z) plekken bezocht. Corona is besmettelijk in een straal van (a) meter over een tijd van (b) uur. Telefoons kunnen met een nauwkeurigheid van (c) meter bepalen waar iemand heeft gelopen.

Omdat over (x), (a) en (b) nog veel onbekend is, kunnen we deze variabelen niet accuraat kwantificeren. Ook weten we niet hoe deze variabelen samen het besmettingsgevaar bepalen en welke factoren nog meer een rol spelen. Dat in combinatie met de valse positieven en valse negatieven maakt dat we straks gaan handelen op basis van een app die schijnzekerheid biedt. We moeten ons dan ook afvragen in hoeverre wiskundige logica hier effectief kan zijn.

Wiskundige logica

Met het jaarprogramma Civil Weapons of Math Retaliation maakte SETUP invoelbaar hoe de algoritmische zwart-wit werkelijkheid en de vijftig-tinten-grijs werkelijkheid waarbinnen mensen opereren met elkaar botsen en tot welke onwenselijke situaties dat kan leiden.

Het indammen van een virus in een samenleving waar niet alleen medische, maar ook sociale, culturele, psychologische, economische en ideologische afwegingen een rol spelen, is alles behalve een zwart-wit aangelegenheid. Er bestaat nu eenmaal geen universeel malletje voor wenselijke en onwenselijke risico-afwegingen ten dienste van een gezonde samenleving. Neem bijvoorbeeld de afweging tussen eenzaamheid en het risico op de dood. Ook als we het collectieve belang verdedigen kiest niet iedereen dezelfde risico-afweging.

Een voorbeeld is Ko. Hij wil zijn dementerende vrouw in het verpleeghuis bezoeken, ook als dat betekent dat hij corona kan krijgen en daarna in quarantaine moet blijven. De vraag is wat er gebeurt als we de wiskundige logica van de besmettingsrisico-app loslaten op de menselijke logica van Ko. Willen we dit soort beslissingen door een app laten sturen?

Met een corona-app kunnen nieuwe vormen van sociale ongelijkheid ontstaan.

Ook moeten we kijken welke nieuwe vormen van sociale ongelijkheid ontstaan wanneer een app op basis van besmettingmeldingen onze bewegingsvrijheid bepaalt. Mensen die geen besmettingsmeldingen hebben ontvangen, hebben straks meer privileges en een grotere kans om weer deel te kunnen nemen aan de maatschappij dan degenen die nu al tot de zwakkeren behoren.

De vraag is dus niet zozeer: hoe ontwikkelen we een privacy-vriendelijke app? De vraag moet zijn: in hoeverre is het zinvol en wenselijk om ons sociale verkeer te onderwerpen aan wiskundige logica, en welke maatschappelijke gevolgen heeft dat?

Vier punten om mee te nemen

De dadendrang lijkt in deze crisis groter dan de behoefte aan onderbouwing. Zo is er bijvoorbeeld geen peer-reviewed kennis over de kwaliteit van uitvoerbare bluetooth-handshakes om de besmettingskans tussen twee personen in te schatten. De gretigheid om de economie zo snel mogelijk weer open te stellen mag niet ten koste gaan van de kwaliteit van de afwegingen.

Daarom doen wij een beroep op onze overheid om bij de ontwikkeling en inzet van corona-apps de volgende vier punten in acht te nemen:

  1. Een besmettingsrisico-app creëert valse positieven en valse negatieven, daardoor ontstaat het risico op schijnveiligheid.
  2. Een besmettingsrisico-app wakkert sociale ongelijkheid en vijandsdenken aan: het kwantificeert hoe anderen jouw gezondheid en bewegingsvrijheid bedreigen.
  3. Een besmettingsrisico-app kan zinvolle menselijke overwegingen afpakken, omdat het op basis van wiskundige logica adviseert of je naar buiten mag.
  4. Sociale, culturele en psychologische factoren zijn moeilijker te kwantificeren, maar niet minder relevant dan medische factoren.

Om burgers op een verantwoorde manier gebruik te laten maken van de apps, is het belangrijk dat zij doorlopend worden geïnformeerd over het risico op valse positieven en valse negatieven, en onvolkomenheden in de weergave van de besmettingsrisico's.

De corona-app is dus niet alleen een kwestie van privacy maatregelen, maar ook een kwestie van gewogen beslissingen al dan niet willen onderdrukken met een rigide systeem gebaseerd op wiskundige logica in plaats van menselijke logica.

Dat onze overheid hier reeds aan begonnen is, benadrukt het belang om ook partijen en deskundigen aan te haken die verder kijken dan privacy.

Ontwerpers gezocht

Google en Apple zijn vorige week een samenwerkingsverband aangegaan om overheden te helpen bij een effectieve inzet van corona-apps. We weten uit de geschiedenis dat deze techgiganten publieke waarden zoals privacy, autonomie, inclusiviteit en democratische controle nogal eens aan hun laars lappen. Ook de Nederlandse overheid heeft geen goede track-record op het gebied van digitale technologie.

Als die app er komt, laat het dan legendarischer zijn dan wat de overheid tot nu toe heeft gemaakt.

Dit kan en moet beter. Omdat we bij SETUP niet naïef optimistisch zijn, maar ook zeker niet rücksichtsloos realistisch, nodigen we makers uit om hun kritisch-hilarische licht te laten schijnen op de Nederlandse corona-app. Hoe ziet een mockup van deze app eruit? Welke scenario's zijn denkbaar? Door te verkennen hoe zo'n app gebruikt kan worden, ontdekken we samen wat we wel en niet moeten willen.

Want als de corona-app er dan toch komt, laat het dan legendarischer zijn dan alles wat de overheid tot nu toe heeft gemaakt.


Call voor makers
Meld je hier aan