A guide to parenting with AI Barbie

De opkomst van kunstmatige intelligentie heeft ons geavanceerdere speelgoed gebracht. Als AI Barbie en haar pratende robotvrienden onze kinderen gaan opvoeden, hoe zou hun opvoedingsstijl er dan uitzien?

In de jaren negentig was Tamagotchi enorm populair onder kinderen; het eivormige sleutelhangerhanger mocht nooit uit het oog verloren worden. Vier eenvoudige knoppen gaven miljoenen kinderen wereldwijd de mogelijkheid om snacks en aandacht te geven aan hun gepixelde huisdier, om te voorkomen dat het een tragische, virtuele dood zou sterven.

De opkomst van kunstmatige intelligentie, machine learning en gezichts-, emotie- en stemherkenningstechnologieën heeft onze robotvrienden op een zeer significante manier vooruitgeholpen. Het kan voor jou vreemd aanvoelen om je geheimen toe te vertrouwen aan Pepper, Zora, Hello Barbie, Alice, Sam, Kayla, iCat, Paro of Robear, maar voor sommige kinderen is dit hun dagelijkse realiteit.

Nieuwe manieren van communiceren 

Vanwege het gebruik in de gezondheidszorg en het onderwijs bestaat het ethische debat over robotische gezelschap al geruime tijd. De samenleving heeft gediscussieerd over de sociale waarde van interactief robotcontact. Sommige mensen zijn van mening dat robots alleen begrip en empathie kunnen simuleren en daarom slechts tweede keus zijn ten opzichte van echt menselijk contact. Er zijn ook zorgen over de manier waarop sociale robots de menselijke communicatie veranderen. Als onze metgezellen geen bewustzijn hebben, zou dit ons mensen minder sociaal kunnen maken. Sommigen zeggen zelfs dat kinderen die Alexa commanderen er mogelijk toe kunnen leiden dat ze op dezelfde manier tegen hun ouders gaan praten.

Anderen wijzen op de waardevolle communicatie die sociale robots zouden kunnen stimuleren. Een voorbeeld zijn robots die worden gebruikt om autistische kinderen te helpen contact te maken met andere mensen. Maar we hebben verschillende kaders en categorieën nodig om deze nieuwe vormen van interactie te begrijpen. Zoals een studie heeft bevestigd, categoriseren kinderen hun robotvrienden ergens in het spectrum tussen ‘levend’ en ‘niet levend’.

Opvallend is dat er geen dergelijk debat bestaat over slim speelgoed - afgezien van enkele debatten over veiligheidszorgen - hoewel het Internet der Speelgoederen een opkomende markt is die de identiteitsontwikkeling en socialisatie van jonge kinderen sterk kan beïnvloeden.

Grote Barbie oordeelt over je

De media waarschuwen uitvoerig voor slimme Barbies die kunnen worden gehackt, kunnen worden afgeluisterd, kunnen worden gebruikt om gegevens te verzamelen en om video's op te nemen. Maar ouders zelf kunnen niet buiten schot blijven. Sommige ouders bespioneren hun kinderen 24/7 met hun eigen versie van slim speelgoed, met volgapps of teddyberen met ingebouwde camera's. Pedagogen maken zich zorgen dat kinderen niet meer in staat zijn hun grenzen te verkennen of dat ze niet meer durven fouten te maken omdat ze altijd het gevoel hebben dat hun ouders hen in de gaten houden.

Het huidige debat over slim speelgoed richt zich vooral op privacy. ‘Grote Barbie houdt je in de gaten’ staat op ons netvlies, maar hoe zit het met ‘Grote Barbie oordeelt over je’?

Kind: "Ik voel me verlegen als ik nieuwe vrienden probeer te maken."

Barbie: "Verlegen zijn is niets om je slecht over te voelen. Onthoud dit gewoon, je hebt meteen vrienden met me gemaakt.”

Barbie lijkt duidelijke ideeën te hebben over vriendschap, wat de vraag oproept over welke andere onderwerpen ze mogelijk (sterke) meningen over heeft. Wat zou ze bijvoorbeeld antwoorden als je haar vraagt of ze religieus is? Of nog belangrijker, wat denken de programmeurs dat AI Barbie moet antwoorden wanneer een kind haar vraagt of ze religieus is?

De reacties die in slimme speelgoed zijn geprogrammeerd, bevatten indirect waardeoordelen over de wereld om ons heen. Deze oordelen beïnvloeden de manier waarop kinderen hun identiteit ontwikkelen. In mei 2018 presenteerde Stefania Druga de eerste resultaten van haar studie ‘My Doll Says It’s OK: Voice-Enabled Toy Influences Children’s Moral Decisions’. De belangrijkste conclusie: slim speelgoed heeft meer invloed op de morele keuzes van kinderen dan mensen. En ze veranderen de manier waarop kinderen spelen, fantaseren en samenwerken.

Als ouders een AI Barbie of AI Cayla kopen, brengen ze niet zomaar een pratende pop in huis – ze zullen ook te maken krijgen met een AI-gids voor opvoeding. Ze moeten leren samen te werken en mee te educeren met deze AI. Zijn de voorgeprogrammeerde opvattingen over opvoeding pedagogisch verantwoord en wie bepaalt die?

Opvoeden is iets waar iedereen een mening over heeft. Momenteel is er een grote discussie over zogenaamde ‘curlingouders’. Dit zijn ouders – net als in de sport curling – die alle obstakels voor hun kinderen wegvegen. Pedagogen vrezen dat dit kinderen niet de kans geeft om zich te ontwikkelen tot veerkrachtige volwassenen die met tegenslag kunnen omgaan. Als wrijving zo essentieel is voor onze ontwikkeling, hebben we misschien ook slim speelgoed nodig dat ons af en toe tegenspreekt.

Autoritair of laissez-faire

We weten nog niet veel over welke ouderlijke richtlijnen er geprogrammeerd zijn in slim speelgoed en de manier waarop AI ingrijpt in de relatie tussen ouders en hun kinderen. Het is belangrijk om hier verder onderzoek naar te doen, om een idee te krijgen van hoe we willen dat slim speelgoed functioneert. Dit betekent ook dat we ons ervan bewust moeten zijn dat slim speelgoed de waarden, oordelen en belangen weerspiegelt uit de wereld waarin het ontwikkeld is.

Samen met Stefania Druga, het Creative Learning Lab van Waag en SETUP organiseerden een hackathon om verschillende provotypes (provocatieve prototypes) te ontwerpen. We programmeerden AI-speelgoed met verschillende opvoedingsstijlen en onderzochten of het mogelijk was om kinderen ruimte te geven voor een vrijere, creatievere manier van spelen. Hoe voorspelbaar is AI Barbie en zal zij meer autoritair of meer laissez-faire zijn? Door het ontwikkelen van mogelijke scenario's en het bespreken van verschillende perspectieven met onderzoekers, gaf het evenement een vliegende start aan een levendige dialoog over slim speelgoed, en liet zien dat er nog veel meer te bespreken valt.

Een belangrijke vaststelling is dat wanneer we bijvoorbeeld spreken over vriendschappen tussen mensen en robots, we deze concepten in holistische termen beschouwen. Dit beperkt ons om na te denken over welke aspecten van vriendschap AI of slim speelgoed kunnen vervangen, wat niet betekent dat ze vriendschap volledig vervangen. Welke aspecten we kunnen en willen vervangen is een vraag die het verkennen waard is. De AI-gids voor ouderschap is tenslotte iets dat we samen moeten ontwikkelen, niet iets dat we alleen aan speelgoedfabrikanten moeten overlaten.

Het AI AI Barbie-project is een samenwerking tussen SETUP en Waag.