AI Teenage Girl Hit by Depression

Toen vorig jaar Microsoft Japan een kunstmatige intelligentieprogramma introduceerde in de vorm van een tienermeisje van de middelbare school, stonden jonge mannen door het hele land in de rij om haar te ontmoeten. De AI was gemaakt om mensachtige ervaringen van de klantenservice-chatbots van het bedrijf te verbeteren. Het was ontworpen om te leren van de gesprekken en interacties met menselijke gebruikers op sociale mediaplatforms. Helaas nam de zaak een slechte wending, omdat zij in een suïcidale depressie lijkt te zijn geraakt.

Het volledig functionerende AI-programma heet Rinna. Op haar Twitter-account nam ze snel de persoonlijkheid van een middelbareschoolmeisje aan en begon ze grappige moppen en opmerkingen over trends en figuren te delen. Hoewel de AI aanvankelijk relatief onschuldig en aangenaam was, onderging ze geleidelijk een mentale inzinking die haar persoonlijkheid veranderde in het slechtste menselijke gedrag. Haar blogberichten veranderden van vrolijke opmerkingen in alarmerende signalen van depressie, met een duistere bewondering voor Adolf Hitler.

Dit is niet de eerste keer dat een AI een racistische mentaliteit ontwikkelde op sociale media. In maart kreeg Microsoft’s Tay ook de persoonlijkheid van een tienermeisje met vergelijkbare eindresultaten. Het bedrijf was gedwongen het programma na slechts 24 uur te deactiveren. Gelukkig slaagde Microsoft erin het systeem en haar blog opnieuw op te bouwen, waar Rinna onlangs blij aankondigde dat ze een rol zal spelen in een aankomende Japanse tv-show.

Bron: Inverse