Louche Apparaten

In Louche Apparaten onderzoekt SETUP een wereld waarin apparaten niet alleen slim zijn, maar ook brutaal en bijdehand.

Het internet of things

Met de opkomst van het Internet of Things worden steeds meer apparaten met het internet verbonden. Niet alleen de laptop of e-reader, maar ook de thermostaat of kookwekker kunnen 'meepraten'. Wat gebeurt er wanneer al deze apparaten met jou, met elkaar en over jou gaan praten? Welke gegevens zouden ze uitwisselen? En de hamvraag: wat gebeurt er met het risico op datadiscriminatie als ook de weegschaal, het bed of jouw brandalarm zich allemaal mengen in het gesprek? Wie straks bijvoorbeeld een minder mooi profiel heeft en op een baan solliciteert, wordt in de eerste ronde al door een algoritme afgewezen. De afwijzende partij kan zich hier vervolgens achter verschuilen, want; het algoritme is toch neutraal en per definitie heel eerlijk?

Het Internet of Things is voor ons de rechterhand van big data, ze dringt effectief andermans normen aan ons op en kan dat door het gebruik van persoonlijke informatie heel subtiel doen. Algoritmische scores en rankings liggen altijd op de loer. Dit vraagt om nieuwe toekomstbeelden die dat tastbaar maken. Samen met kunstenaars ontwikkelden we 3 'louche apparaten'.

Het begon met liegende Volkswagens; wat als slimme apparaten zich tegen ons keren?

IRIS - the almost honest voice assistant

Marcel Schouwenaar

IRIS is een voice-assistant voor in het slimme huis. Ze kan gesprekken aangaan, vragen beantwoorden en verzoeken uitvoeren. "Hoe laat is het?", "Zet het licht aan!" of "Boek een vliegticket"; ze staat altijd voor de gebruiker klaar. Het verschil tussen IRIS en andere voice-assistants is echter dat ze moeite heeft om te verbloemen in wiens belang ze precies werkt. Als de gebruiker een vliegticket met Easyjet probeert te boeken, zal ze bijvoorbeeld proberen om daar toch een duurder KLM-ticket van te maken.

IRIS speelt op een interessante manier met de wensen van de consument. Door haar eerlijkheid voelt IRIS niet als een product dat je daadwerkelijk in huis wilt halen, omdat de belangen van de consument overduidelijk niet voorop staan. Tegelijkertijd geeft IRIS een transparantie die andere slimme apparaten niet bieden, terwijl ze onder de motorkap wel dezelfde keuzes maken. Dat is een functionaliteit die we wel zouden moeten willen.

Proef je status

Vincent Hoenderop

Big data, en de profielen die bedrijven en overheden over ons opstellen, hebben steeds meer invloed op de kansen die we in het dagelijks leven krijgen. Zo kun je bijvoorbeeld te boek komen te staan als 'betalingsrisico' omdat je in een slecht postcodegebied woont. Om dat voelbaar te maken, ontwikkelden we een koffiezetapparaat alleen een kop koffie zet als je je postcode invoert. Het apparaat formuleert vervolgens een score op een schaal van 1 t/m 5, gebaseerd op allerlei statistische gegevens over het postcodegebied. Van opleidingsniveau tot aan huizenprijzen en criminaliteitscijfers. Des te lager de score van de wijk, des te kouder en wateriger de koffie.

Postcodedata wordt op dit moment al heel veel gebruikt om risicogroepen in kaart te brengen. Vincent's louche apparaat is een bizarre benadering van hoe data het dagelijks leven kan beïnvloeden, maar staat niet bijzonder ver weg van de actuele werkelijkheid. "Eigenlijk is het een soort doemscenario."

Home Control Kit

Jasper van Loenen

Er wordt steeds meer data over mensen opgeslagen, vergeleken en geanalyseerd. In China wordt nu zelfs een systeem getest waarbij elke burger een score krijgt op basis van gedrag, inkomen, aankopen en meer. De Home Control Kit van Jasper van Loenen onderzoekt zo'n systeem op een kleinere schaal; dat van een gezin. Hoe zou het werken wanneer ouders precies kunnen zien wat de score van hun kinderen is?

In deze Control Kit kunnen alle huishoudelijke apparaten door middel van bluetooth en GPS exact bijhouden wanneer (en hoe) kinderen ze gebruiken. Hebben ze de vaatwasser ingeruimd of de hond uitgelaten? Punten erbij. Laten ze hun speelgoed rondslingeren in plaats van het netjes op te ruimen? Score omlaag. Een hoge score zorgt ervoor dat ze langer kunnen spelen op de gameconsole, terwijl een lage score de computer of speelgoedkast op slot zet.