Racist Robots and Bloodthirsty Crowds

Op 23 maart onthulde Microsoft Tay, een twitterbot die was gemaakt met de bedoeling te praten als een tiener. De kunstmatige intelligentie was ontworpen om te leren van interacties met andere mensen in de twitterwereld. Er werd verwacht dat Tay grapjes zou maken en internet-millenialslang zou gebruiken. Wat er gebeurde was iets anders.

Microsoft creëerde deze AI-bot om te leren van degenen met wie het sprak. Maar toen deze robot eindelijk online ging, leerde het allerlei racistische, seksistische en aanstootgevende dingen te zeggen. In minder dan 24 uur in de twitterwereld veranderde Tay van een aardige en enigszins gezellige gesprekspartner van 140 tekens in het zeggen van ongelooflijk moreel verwerpelijke dingen. Hier zijn een paar voorbeelden, van voordat Microsoft het Twitter-account verwijderde:

Dit is een van de meest interessante fenomenen van de grote menselijke zwermgeest die we het internet noemen. Als het internet een persoon was, zouden we kunnen zeggen dat deze episode een uitbarsting was van verborgen en onderdrukte neigingen, misschien een Freudiaanse verspreking waarin de ware kleuren naar voren kwamen, misschien een onbeheerste impuls van onze dierlijke neigingen. En er zou een verband kunnen zijn tussen deze episode en het oude, bijna tribale instinct van de haatdragende en bloeddorstige menigte.

Deze episode belicht een donker aspect van de collectieve psychologie van het internet. Als het internet een persoon was, dan zou Tay een manifestatie zijn van een onderdrukt en haatdragend deel van zijn persoonlijkheid. Men zou zelfs zo ver kunnen gaan te zeggen dat, ondanks de beste wensen van de technoutopische gemeenschap, technologie en het internet onlosmakelijk verbonden zijn met onze eigen onvoorspelbare en menselijke aard.

Het feit dat het een menigte mensen nodig was die deze grappen maakten om Tay ze te laten "herhalen", zou op de een of andere manier een symptoom van iets diepers kunnen zijn. Het is niet noodzakelijkerwijs de AI zelf die gevaarlijk is. Zoals Carl Jung zei, "We hebben meer begrip nodig over de menselijke natuur, omdat het enige echte gevaar dat bestaat de mens zelf is". Haat en destructieve impulsen zijn inherent menselijk, en het is niet een 21e-eeuwse twitterbot genaamd Tay die ons dat moet leren. Wat we kunnen leren van de Tay-episode is dat er diepe en complexe stromen van emoties in de mensheid zijn, waarvan sommige instincten voor dood en haat belichamen. En deze zullen altijd een manier vinden om zichzelf te manifesteren, op de een of andere manier.

En het is absoluut duidelijk dat deze niet goed beheerd worden nu - zo niet, waarom zouden ze dan naar buiten komen in de vorm van online uitbarstingen van grof taalgebruik en aanstootgevendheid? Hoe moeten we hiermee omgaan in het tijdperk van het internet, Twitter, smartphones, verslaving aan afleiding en de zwermgeest? Het is moeilijk te zeggen.

Dit is een somber en onheilspellend vooruitzicht. Maar het is ook reëel. Tay geeft ons een glimp van een technologisch versterkte manifestatie van een schaduwkant van de collectieve psychologie. Men zou het een virtuele bloeddorstige menigte kunnen noemen, zoals die naar het Colosseum stroomde om de dood te zien in de tijd van de Romeinen. Door de geschiedenis heen is het fenomeen van de menigte zeer interessant geweest in termen van collectieve psychologie. Bloeddorstige uitbarstingen van razende menigten waren periodiek een soort regulerend mechanisme van de collectieve psyche. Af en toe doken revoluties en rellen op waar grote concentraties mensen bijeenkwamen. Dit is gebeurd in vrijwel elke grote stad ter wereld, van het oude Rome tot New York, van Parijs en nu tot het internet. Toegegeven, op het internet is dit een ander fenomeen. Je kunt niet echt een rel beginnen op het internet. Maar wat je wel kunt doen, is symptomen tonen van dezelfde opeenhoping van haatdragende en destructieve gevoelens. Het kostte een groot aantal mensen - een menigte - die racistische en seksistische dingen tegen Tay zeiden om het daadwerkelijk terug te laten zeggen.

Er is, zowel in de fysieke ruimte van boze menigten als in de virtuele werelden van het internet, een overlapping van motivaties. Of het nu gaat om anonieme websites, YouTube-reactiesecties of AI-twitterbots, collectieve haatdragende instincten zullen zich hoe dan ook manifesteren. Waarschijnlijk omdat beide een context van relatieve anonimiteit bieden, waarin iedereen deze instincten ook de vrije loop laat. Terug naar de Stam.

De vraag hoe om te gaan met onze eigen donkere instincten heeft de mensheid altijd geplaagd; hoe veel kunstmatige intelligentie en technologische vooruitgang we er ook tegenaan gooien, het is redelijk om te zeggen dat het nog vele jaren onze metgezel zal zijn, in alle aspecten van het leven. Een wereld waarin mensen haat volledig hebben onderdrukt of overwonnen lijkt onwaarschijnlijk; dat zou betekenen dat we een vitaal deel van onszelf zouden hebben onderdrukt. Als het goed wordt aangepakt, kan haat ook een positieve zaak zijn. Haat voor inefficiëntie kan vooruitgang aanwakkeren; haat voor lijden kan sociale vooruitgang aanwakkeren. Het is een essentieel gevoel voor de menselijke conditie.

We moeten goed kijken naar deze emoties en impulsen en precies hun bronnen begrijpen, in plaats van ze te onderdrukken. Microsoft heeft Tay misschien offline gehaald; maar de onderliggende stromen van collectieve destructiviteit zijn er nog steeds. En als er geen wenselijke uitlaatkleppen worden gekozen voor deze driften, zullen ze zich manifesteren op manieren die werkelijk verschrikkelijk zijn - zoals elk geschiedenisboek ons kan vertellen.

En er is geen snelle oplossing voor deze problemen. Een korte wandeling door de echokamer van het internet - met name de reactiesecties - zal vele, vele voorbeelden vinden waar het dient als een plek om allerlei emoties te ventileren en te versterken, voor ALLE soorten mensen. Helaas is niemand hiervan vrijgesteld.

Uiteindelijk is het internet een technologie voor onze volgende menselijke natuur. Op dezelfde manier als vuur fungeert als een externe maag, zonder welke we niet zouden kunnen eten zoals we nu doen, is het internet ook een extern collectief emotioneel systeem, zonder welke we niet meer op dezelfde manier met de wereld zouden kunnen omgaan en emoties zouden kunnen uiten. Tenminste zoals we dat doen in 2016 en daarna.

Bronnen: The Verge