Should We Fear Thinking Machines?

Van drones in de lucht die foto's maken en bommen laten vallen, tot slimme huizen uitgerust met beveiligingssystemen en automatisering, het lijkt erop dat denkende machines het menselijk ras in gevaar kunnen brengen.

In de nieuwste trend van Hollywood's fascinatie voor kunstmatige intelligentie, stellen drie nieuwe films de vraag wat er gebeurt als we machines net zo slim maken als wijzelf, en vervolgens proberen met hen te communiceren. In Avengers: Age of Ultron moet een groep superhelden een robotdreiging uitschakelen, in Ex Machina moet een software-ingenieur ons eerste contact met een vrouwelijke K.I. zijn, en in Chappie wordt een robotagent zich bewust van zijn eigen bestaan. Hoe realistisch zijn deze angsten?

Opnieuw weerspiegelt de cinema de diepste zorgen van onze samenleving. De nieuwsberichten staan bol van een toenemende paranoia over computers. Technologie vormt, in het publieke bewustzijn, een bedreiging op meerdere fronten. We zouden informatietechnologie kunnen gebruiken om elkaars leven te volgen en te controleren. Of onze robotmeesters zouden zich aan onze controle kunnen onttrekken en op eigen houtje verwoesting kunnen aanrichten.

Neem overheidstoezicht. In werkelijkheid is het wiskundig onmogelijk om alle mensen altijd in de gaten te houden omdat je het eeuwenoude probleem hebt van wie de bewakers bewaakt. En in een samenleving waar het normaal is om meerdere foto's van je lunch op Facebook te plaatsen terwijl niemand anders erom geeft, lijkt het hypocriet om je zorgen te maken over iemand die elk detail van ons leven kent. Er is momenteel een enorme kloof in de samenleving: we kunnen tegelijkertijd niet genoeg aandacht krijgen en vrezen er te veel van.

Hoe zit het met de dreiging van kunstmatige intelligentie? Informaticastudenten zullen deze snel ontkrachten. Hoe snel je een computer ook maakt, hoeveel middelen je er ook in stopt, je kunt hem niet laten ontwaken. Computers moeten geprogrammeerd worden, en de mogelijkheden van het programma worden beperkt door de programmeurs zelf; men kan de code om God te maken niet schrijven zonder zelf God te zijn. We zijn al paranoïde over robots die de macht overnemen sinds Mary Shelley's Frankenstein in het begin van de 19e eeuw, en toch is de ergste dreiging die computers vandaag de dag vormen wanneer ons GPS-systeem ons een riool in stuurt.

Dit roept de echte angst op: hoe verantwoordelijk zijn we met deze krachtige technologie? Overweeg de gemiddelde persoon in de huidige samenleving terwijl hij door de dag strompelt; bedenk hoe ze inparkeren, op 'Allen beantwoorden' klikken bij een kantoore-mail, de kopieermachine blokkeren, en het avondeten verbranden zelfs als ze de instructies volgen. Geef die persoon nu toegang tot goddelijke informatietechnologie en kijk hoe de vonken ervan afvliegen.

Een van de films die de echte dreiging van technologie vastlegde, was Stanley Kubricks Dr. Strangelove: onze machines doen precies wat wij ze opdragen, wat een ramp is wanneer de mensen die de bevelen geven een paar stappen verwijderd zijn van gezond verstand.

In The Avengers: Age of Ultron is de dreiging een K.I. die oorspronkelijk was ontworpen om het menselijk ras te controleren zodat de superhelden met pensioen konden gaan, alleen om teruggeroepen te worden om het uit te schakelen wanneer het op hol slaat. In Ex Machina wordt een mensachtige robot onderworpen aan de Turing-test door een menselijke bezoeker te vermaken, tenzij het andersom is. En in Chappie krijgt een robotagent bewustzijn en stelt hij zijn eigen moraliteit ter discussie binnen het grotere geheel.

De machines zelf kunnen niet echt zijn. Maar de angsten die worden uitgedrukt over onze verantwoordelijkheid bij het gebruik ervan zijn zeer reëel. Uiteindelijk is het spook dat in onze kast loert niet de zombie of het buitenaardse wezen, maar wijzelf weer.

Afbeelding: Shutterstock