Het opvoedboekje van AI Barbie en het Internet of Toys

Het opvoedboekje van AI Barbie en het Internet of Toys
© SETUP/Waag
9 mei

Het opvoedboekje van AI Barbie en het Internet of Toys

Siri Beerends
Siri is cultuursocioloog en schrijver. Ze onderzoekt de ethische rol van authenticiteit, autonomie en imperfectie in de context van opkomende technologieën.

Met de opkomst van kunstmatige intelligentie is kinderspeelgoed een stuk geavanceerder geworden. Maar welk opvoedboekje houden AI Barbie en haar pratende robotvrienden er eigenlijk op na?

In de jaren negentig veroverde Tamagotchi vele kinderharten: de ei-vormige sleutelhanger werd geen moment uit het oog verloren. Met vier simpele knoppen gaven miljoenen kinderen hun gepixelde huisdier doorlopend snacks en aandacht om hem te behoeden voor de virtuele dood.

Met de opkomst van kunstmatige intelligentie, machine learning en gezichts-, spraak- en gevoelsherkennings-technologie zijn onze robotvrienden een stuk geavanceerder geworden. Misschien voelt het onwennig om je hart uit te storten bij Pepper, Zora, Hello Barbie, Alice, Sam, Kayla, iCat, Paro of Robear, maar voor sommige kinderen is het de normaalste zaak van de wereld.

Het Internet of Toys is een opkomende markt die de identiteitsontwikkeling en socialisering van jonge kinderen beïnvloed.

Door toepassingen in de ouderenzorg en het onderwijs wordt het ethische debat over gezelschapsrobots al enige tijd gevoerd. Zo staat de sociale meerwaarde van interactief robotcontact ter discussie. Robots kunnen slechts begrip en empathie simuleren en zouden daarmee onderdoen voor 'echt' menselijk contact. Ook zijn er zorgen over de manier waarop sociale robots onze eigen communicatie veranderen. Wanneer onze gesprekspartners geen bewustzijn hebben, kunnen we bijvoorbeeld asocialer worden. Zo praten kinderen in commando taal tegen Alexa en zouden ze hierdoor op dezelfde manier tegen hun ouders gaan praten.

Anderen wijzen er juist op dat sociale robots waardevolle communicatie kunnen stimuleren, en dat we andere kaders en categorieën nodig hebben om naar deze nieuwe vormen van interactie te kijken. Zo blijkt uit onderzoek dat kinderen hun robotvrienden in categorieën plaatsen tussen ‘levend’ en ‘niet levend’ in. Ook worden robots ingezet om kinderen met autisme te helpen bij het leggen van contact.

Gek genoeg wordt dit debat -op een aantal privacyzorgen na- niet gevoerd wanneer het gaat om slim speelgoed. Terwijl het Internet of Toys een opkomende markt is die de identiteitsontwikkeling en socialisering van jonge kinderen beïnvloedt. 

Big Barbie is judging you

In de media wordt uitvoerig gewaarschuwd voor slimme barbies die gehackt kunnen worden, gesprekken afluisteren, data verzamelen en beeldopnames maken. Maar ouders kunnen er zelf ook wat van. Sommige vaders en moeders houden hun kroost 24/7 in de smiezen met hun eigen slimme speeltjes zoals tracking apps en knuffelberen met ingebouwde camera’s.

Opvoedkundigen zijn bezorgd of kinderen nog wel hun grenzen durven te verkennen en fouten durven te maken als zij zich niet meer ongezien kunnen wanen.

Het actuele debat over slim speelgoed richt zich voornamelijk op privacy. ‘Big Barbie is watching you hebben we daardoor aardig op onze radar, maar hoe zit het eigenlijk met 'Big Barbie is judging you'?

Kid: "I feel shy trying to make new friends."
Barbie: "Feeling shy is nothing to feel bad about. Just remember this, you made friends with me right away."

Blijkbaar heeft AI Barbie uitgesproken ideeën over vriendschap, wat de vraag oproept over welke onderwerpen Barbie zich nog meer uitlaat

Wat zou ze bijvoorbeeld antwoorden als je vraagt of ze in God gelooft. Of belangrijker: wat vinden de programmeurs dat AI Barbie moet antwoorden wanneer een kind vraagt of ze in God gelooft?

De reacties die in slim speelgoed zijn geprogrammeerd bevatten indirect morele waardeoordelen over de wereld om ons heen. Deze beinvloeden de manier waarop kinderen hun identiteit ontwikkelen. In mei 2018 presenteerde Stefenia Druga de eerste resultaten van haar onderzoek “My Doll Says It’s OK: Voice-Enabled Toy Influences Children’s Moral Decisions”. Belangrijkste conclusie: slim speelgoed kan de morele keuzes van kinderen beter beïnvloeden dan mensen. Ook verandert het de manier waarop kinderen spelen, fantaseren en samenwerken.

© Stefania Druga (MIT Media Lab)
Onderzoeksresultaten "My Doll Says It's Ok"

Als ouders een AI Barbie of AI Cayla aanschaffen, halen ze dus niet alleen een pratende pop in huis maar ook een AI opvoedboekje waarmee ze moeten samenwerken. Maar hoe opvoedkundig verantwoord is dat boekje en wie bepaalt dat?

Samen met Stefania Druga en Waag programmeren we AI Barbies met verschillende opvoedstijlen.

Over weinig onderwerpen bestaan zoveel meningsverschillen als over opvoeding. Op dit moment staat bijvoorbeeld de opvoedstijl van de curlingouders ter discussie. Dat zijn ouders die -net als in de curlingsport- alle obstakels voor hun kinderen uit de weg ruimen. Pedagogen vrezen dat kinderen zich daardoor niet kunnen ontwikkelen tot veerkrachtige volwassen die om kunnen gaan met frictie. Als frictie gezond is voor onze ontwikkeling, moet er dan ook slim speelgoed op de markt komen dat af en toe tegenspreekt?

Autoritair of laissez-faire

Over het opvoedboekje van slim speelgoed en de manier waarop AI intervenieert in de relatie tussen ouders en kinderen is nog weinig bekend. In het AI AI Barbie project komen we daar meer over te weten. Samen met Stefania Druga en het Creative Learning Lab van Waag organiseren we een hackaton waarin we verschillende ‘provotypes’ (provocerende prototypes) ontwikkelen. We programmeren AI Barbies met verschillende opvoedstijlen en kijken of het mogelijk is om ruimte te bieden voor een fantasierijke manier van spelen. Hoe voorspelbaar is AI Barbie en wordt ze autoritair of meer laissez-faire?

Op donderdag 6 juni presenteren we de resultaten tijdens het AI AI Barbie publieksevent. Aan de hand van de verschillende ‘provotypes’ verkennen we nieuwe kaders voor verantwoord gebruik van AI in speelgoed.

Video "AI AI Barbie: speelgoed als opvoedhulp" door Yifan Yaing in opdracht van SETUP en Waag