What we can learn from The Social Dilemma

Verpest sociale media de wereld?

Dramatische politieke polarisatie. Toenemende angst en depressie. Een stijging van zelfmoordcijfers onder tieners. Desinformatie die zich als een lopend vuurtje verspreidt.

De gemeenschappelijke deler van al deze fenomenen is dat ze deels worden aangewakkerd door onze ogenschijnlijk onschuldige deelname aan digitaal sociaal netwerken. Maar hoe kunnen eenvoudige handelingen zoals het delen van foto's en artikelen, het lezen van het nieuws en het verbinden met vrienden zulke destructieve gevolgen hebben?

Dit zijn de vragen die worden onderzocht in de nieuwe Netflix-docudrama The Social Dilemma. Geregisseerd door Jeff Orlowski, bevat het verschillende voormalige werknemers van Big Tech die zich uitspreken tegen de producten die ze ooit hielpen bouwen. Hun overpeinzingen worden afgewisseld met scènes van een gezin waarvan de twee jongste kinderen worstelen met sociale media-verslaving en de bijwerkingen daarvan. Er zijn ook nieuwsfragmenten uit de afgelopen jaren waarin verslaggevers de technologie veroordelen en verslag doen van enkele van de schadelijke gevolgen ervan.

Tristan Harris, een voormalig ethicus voor ontwerp bij Google die medeoprichter was van het Center for Humane Technology (CHT) en een kruisvaarder voor ethische technologie is geworden, is een centrale figuur in de film. “Als je om je heen kijkt, lijkt het alsof de wereld gek wordt,” zegt hij bijna aan het begin. “Je moet jezelf afvragen, is dit normaal? Of zijn we allemaal onder een soort betovering geraakt?”

Er worden ook Aza Raskin gepresenteerd, die samen met Harris CHT heeft opgericht, Justin Rosenstein, die Asana heeft mede-opgericht en aan wie het bedenken van Facebook's "vind ik leuk" knop wordt toegeschreven, voormalig president van Pinterest Tim Kendall, en schrijver en pionier op het gebied van virtual reality Jaron Lanier. Zij en andere experts bespreken de manier waarop sociale media mensen "verslaafd" maken door misbruik te maken van de dopamine-respons van de hersenen en door machine learning-algoritmen te gebruiken om de gepersonaliseerde inhoud te leveren die het meest waarschijnlijk elke persoon laat doorklikken/doorkijken/doorscrollen.

De film waagt zich aan het terrein dat al verkend werd door zijn voorganger uit 2019 The Great Hack—die inging op het Cambridge Analytica-schandaal en in detail beschreef hoe psychometrische profielen van Facebook-gebruikers werden gebruikt om hun politieke voorkeuren te manipuleren—door zijn experts te laten praten over de miljarden datapunten die techbedrijven voortdurend over ons verzamelen. “Elke actie die je onderneemt wordt zorgvuldig gemonitord en geregistreerd,” zegt Jeff Siebert, een voormalig leidinggevende bij Twitter. De inzichten die uit die acties worden verkregen, worden vervolgens gebruikt in combinatie met onze eigen psychologische zwakheden om ons meer video's te laten kijken, meer content te laten delen, meer advertenties te laten zien en zo de geldmachine van Big Tech draaiende te houden.

“Het is de geleidelijke, lichte, onmerkbare verandering in je eigen gedrag en perceptie dat het product is,” zegt Lanier. “Dat is het enige waar ze geld aan kunnen verdienen: veranderen wat je doet, hoe je denkt, wie je bent.” De ongrijpbare “zij” waar Lanier en andere ex-techmensen naar verwijzen, wordt in de film belichaamd door drie ingenieurs in T-shirts die onvermoeibaar werken in een controlekamer om de aandacht van mensen koste wat kost op hun telefoons te houden.

Computerverwerkingskracht, zo merkt een voormalige Nvidia-productmanager op, is de afgelopen 20 jaar exponentieel toegenomen; maar ondertussen is het menselijk brein niet geëvolueerd voorbij dezelfde capaciteit die het al honderden jaren heeft. Het punt van deze vergelijking lijkt te zijn dat als we ons in een strijd tussen mensen en computers bevinden, wij mensen geen schijn van kans maken.

Maar zijn we verwikkeld in een strijd tussen mensen en computers? Zijn de bedrijven achter onze schermen echt zo geniepig als de kwaadaardige controlekamer-ingenieurs suggereren, met als doel ons allemaal in willoze robots te veranderen die slaaf zijn van onze primitieve impulsen? Zelfs als onze hersenchemie wordt uitgebuit door het ontwerp van tools zoals Facebook en YouTube, treedt persoonlijke verantwoordelijkheid op een gegeven moment toch in werking?

The Social Dilemma is een krachtige, goed gemaakte film die de nadelen van sociale media op een rauwe en directe manier blootlegt. Het is een broodnodige oproep tot overheidsregulering en tot een haalbare ethische afrekening binnen de technologiesector zelf.

Maar het overdrijft de intentie van Big Tech—dit zijn tenslotte winstgerichte bedrijven die vraaggestuurde producten hebben gecreëerd—en geeft te weinig erkenning aan sociale-mediagebruikers. Ja, wij bezwijken voor onze aangeboren behoefte aan verbinding en goedkeuring, en we zullen altijd de neiging hebben om verslaafd te raken aan dingen die ons een goed gevoel geven. Maar wij zijn nog steeds verantwoordelijk voor en in controle over onze eigen keuzes.

Wat we momenteel met sociale media zien, is een cyclus die vaak voorkomt bij nieuwe technologieën. In de eerste paar jaar van het bestaan van sociale media dachten we dat het het beste was sinds gesneden brood. Nu duikt het naar het andere uiteinde van het spectrum—we veroordelen het en richten ons op de nadelen en onbedoelde gevolgen. De volgende fase is om een soort evenwicht te vinden, waarschijnlijk door aanpassingen in het ontwerp en, mogelijk, regelgeving.

“De manier waarop de technologie werkt, is geen natuurwet. Het staat niet in steen gebeiteld. Dit zijn keuzes die mensen zoals ik hebben gemaakt, en mensen kunnen die technologieën veranderen,” zegt Rosenstein.

Het probleem met sociale media is dat het veel lastiger zal zijn om op te lossen dan, laten we zeggen, het toevoegen van veiligheidsgordels en airbags aan auto's. De enorme omvang en reikwijdte van deze tools, en de manier waarop ze overlappen met kwesties van vrijheid van meningsuiting en privacy – om nog maar te zwijgen van hoe ze de manier waarop mensen met elkaar omgaan hebben veranderd – betekent dat het waarschijnlijk veel vallen en opstaan zal kosten om tools te ontwikkelen die prettig aanvoelen om te gebruiken zonder verslavend te zijn, ons alleen ware, onbevooroordeelde informatie geven op een manier die boeiend is zonder in te spelen op onze emoties, en ons in staat stellen om inhoud en ervaringen te delen terwijl misinformatie en haatzaaien worden voorkomen.

In de meest recente aflevering van zijn podcast Making Sense, praat Sam Harris met Tristan Harris over de film en de implicaties ervan. Tristan zegt: “Terwijl we allemaal hebben uitgekeken naar het moment waarop AI menselijke sterktes zou overtreffen—wanneer zouden we de Singulariteit bereiken, wanneer zou AI onze banen overnemen, wanneer zou het slimmer zijn dan mensen—hebben we dit veel, veel eerder punt gemist waarop technologie menselijke sterktes niet overtreft, maar menselijke zwaktes ondermijnt.”

Het is aan technologiebedrijven om hun producten op een meer ethische manier opnieuw te ontwerpen om te stoppen met het uitbuiten van onze zwakheden. Maar het is aan ons om te eisen dat ze dit doen, ons bewust te zijn van deze zwakheden en te weerstaan om radertjes in de machine te worden.

The Social Dilemma is nu te streamen op Netflix.

Dit artikel oorspronkelijk verschenen op Singularity Hub, een publicatie van Singularity University.