Why human enhancement requires technological citizenship

Nieuwe technologieën – van kunstmatige intelligentie tot synthetische biologie – staan op het punt de wereld, de menselijke conditie en ons eigen wezen op manieren te veranderen die moeilijk voor te stellen zijn. De discussie over deze ontwikkelingen beperkt zich doorgaans tot individuele waarden. Maar het is ook cruciaal om te praten over de collectieve menselijke waarden die we willen waarborgen in onze intieme technologische samenleving. Dat brengt een belangrijke politieke vraag op tafel. Hoe kunnen we mensverbeteringstechnologieën op een maatschappelijk verantwoorde manier ontwikkelen en implementeren?

Gedurende de afgelopen decennia is de mens een steeds meer aanvaardbaar studieobject en technologisch interventiedoel geworden. Wij zijn zelf een ingenieursproject. Een belangrijke drijvende kracht achter deze ontwikkeling is de combinatie van nano-, bio-, informatie- en cognitieve technologie. Deze zogenaamde NBIC-convergentie creëert een nieuwe golf van toepassingen, grotendeels bestaande uit intieme technologieën die in staat zijn om onze lichamen en gedrag te monitoren, analyseren en beïnvloeden. In wezen betekent de NBIC-convergentie een steeds diepgaandere interactie tussen de natuurwetenschappen (nano en info) en de levenswetenschappen (bio en cogno). Deze interactie leidt tot twee megatrends: “Biologie wordt technologie” en “technologie wordt biologie”. In de natuurwetenschappen heeft er een revolutie plaatsgevonden op het gebied van materialen. Als we in de jaren zeventig materialen op microschaal konden onderzoeken en vervaardigen, hebben we nu geleerd dit op nanoschaal te doen. Een DNA-streng is bijvoorbeeld bijna twee nanometer (of twee miljoensten van een millimeter) dik. Nanotechnologie legde de basis voor de computerrevolutie. Op hun beurt maken die computers het mogelijk om betere materialen en machines te maken. Op die manier stimuleren nanotechnologie en informatietechnologie elkaar. Digitalisering maakt het mogelijk om grote hoeveelheden gegevens over de materiële, biologische en sociale wereld te verzamelen, om deze te analyseren en toe te passen. Denk aan de zelfrijdende auto die gebruikmaakt van digitale kaarten en nieuwe informatie aan die kaarten toevoegt met elke meter die wordt afgelegd. Op deze manier ontstaat er een cybernetische lus tussen de fysieke en digitale wereld. 

De bovenstaande ontwikkelingen in de natuurwetenschappen stimuleren de levenswetenschappen, zoals genetica, geneeskunde en neurowetenschap. Moderne apparatuur, van DNA-chips tot MRI-scans, biedt talloze mogelijkheden om het lichaam en de hersenen te onderzoeken en erin in te grijpen. Dit leidt tot de stelling dat “biologie steeds meer technologie wordt”. Dat betekent dat levende organismen, zoals het menselijk lichaam, steeds meer worden gezien als meetbaar, analyseerbaar en maakbaar. Kiembaantechnologie is een typisch voorbeeld van deze trend. In de zomer van 2017 slaagde een Amerikaans onderzoeksteam er voor het eerst in om met CRISPR-Cas9-technologie een erfelijke aandoening in het DNA van een (levensvatbaar) menselijk embryo te herstellen. Op hun beurt inspireren inzichten uit de levenswetenschappen het ontwerp van nieuwe soorten apparaten: denk aan DNA-computers en zelfherstellende materialen. Het simuleren van de werking van de hersenen in hardware en software is bijvoorbeeld een belangrijk doel van het grootschalige Europese Human Brain Project, waarin de Europese Commissie tien jaar lang een miljard euro investeert. Dit leidt tot de stelling dat “technologie steeds meer biologie wordt”. Ingenieurs proberen steeds vaker eigenschappen die typisch zijn voor levende wezens, zoals zelfherstel, voortplanting en intelligentie, in technologie te integreren. Voorbeelden van deze tweede trend zijn kunstmatige intelligentie en sociale androidrobots. De trends “biologie wordt technologie” en “technologie wordt biologie”, wanneer toegepast op de mens, zorgen ervoor dat mens en technologie steeds meer met elkaar versmelten. Het Rathenau Instituut spreekt daarom van een intieme technologische revolutie.

De trend “biologie wordt technologie” drijft het debat over “menselijke verbetering”. Traditioneel richt dit debat zich op invasieve medische technologieën die binnen in het menselijk lichaam werken. Denk aan psychofarmaca zoals methylfenidaat (Ritalin), die worden gebruikt om krachtige gedragsimpulsen te onderdrukken en de opslagcapaciteit van ons willekeurig toegankelijk geheugen te verbeteren, of modafinil, dat ons kan helpen alerter en bedachtzamer te zijn. Maar ook neurotechnologieën zoals diepe hersenstimulatie en andere hersenimplantaten, biotechnologieën zoals synthetische bloedvervangers, kunstmatige netvliezen, gentherapie en kiembaanmodificatie – allemaal veelgenoemde voorbeelden in discussies over menselijke verbetering. Wat betekent het om mens te zijn in de 21e eeuw? Die vraag heeft ook betrekking op de trend “technologie wordt biologie”, dat wil zeggen, technologieën buiten het lichaam die een impact hebben op iemands fysieke, mentale en sociale prestaties. Een voorbeeld is de Tactical Assault Light Operator Suit (TALOS), een exoskelet ontwikkeld door het Amerikaanse leger om soldaten sterker te maken en minder kwetsbaar voor kogels. Daarnaast kun je denken aan overtuigingstechnologie: informatietechnologie die is ontworpen om menselijk gedrag te beïnvloeden. Denk bijvoorbeeld aan smartphone-apps die mensen advies geven over wat ze (niet) moeten eten, over hun rijgedrag, en over hoe ze sociale relaties of geld zouden moeten beheren. Of een slimme armband die transpiratie en hartslag meet en trilt als de drager agressie vertoont. De drager heeft via een rollenspel geleerd dat agressief gedrag niet loont. Bijgevolg wordt verwacht dat hij of zij soortgelijk gedrag in de echte wereld zal vermijden. Door middel van EEG-neurofeedback kunnen mensen ook inzicht krijgen in hun hersenactiviteit en leren deze te beïnvloeden om hun gedrag te veranderen.

De bovengenoemde technologieën, die buiten het lichaam werken, roepen vragen op over autonomie en geïnformeerde toestemming: zijn mensen in "slimme" omgevingen echt in staat om geïnformeerde beslissingen te nemen? Wanneer wordt het concept van technologisch paternalisme relevant? Kan overtuigende technologie een reeds zwakke wil verder verzwakken? Is het moreel toelaatbaar om het gedrag van mensen te beïnvloeden – zelfs voor het goede – zonder hun medeweten? Net als invasieve technologieën, roepen niet-invasieve technologieën vragen op over privacy, evenals lichamelijke en geestelijke integriteit. In het geval van veel overtuigende technologieën, moet je veel van je gegevens afstaan om jezelf te verbeteren. Blijven gebruikers echt de controle houden over hun eigen gegevens? Hebben we het recht om anoniem te blijven, om niet gemeten, geanalyseerd en gecoacht te worden? En hoe zouden we dat kunnen, in een wereld vol sensoren? De opkomst van gezichts- en emotieherkenning maakt dit in het bijzonder een dringende vraag. Mensen kunnen vrijwillig de bovengenoemde invasieve en niet-invasieve technologieën in hun lichaam en leven integreren, bijvoorbeeld om sterker of aantrekkelijker te worden. Maar technologie kan ook onbedoelde bijwerkingen hebben. Door het steeds intensievere gebruik van technologie beginnen onze vaardigheden te veranderen. We ontwikkelen nieuwe competenties (een fenomeen genaamd "heropleiden" of "bijscholen"), zoals allerlei digitale vaardigheden. Andere competenties kunnen afnemen ("de-skilling"). Er is bijvoorbeeld een groeiend aantal onderzoeken dat lijkt aan te tonen dat onze sociale vaardigheden, zoals empathie, afbrokkelen door overmatig computergebruik. Intieme technologieën bieden dus mogelijkheden voor menselijke verbetering, maar kunnen ook leiden tot essentiële veranderingen in menselijke vaardigheden en de manier waarop we met elkaar communiceren. Dergelijke veranderingen in de menselijke conditie gaan verder dan het niveau van het individu. Ze raken collectieve vragen en waarden en vereisen publiek debat en, waar nodig, politieke overweging.

De huidige discussie over menselijke verbetering beperkt zich echter grotendeels tot individuele doelen. Voorbeelden van klassieke vragen zijn: is menselijke verbetering een individueel recht? Kunnen mensen zelf beslissen of ze technologische verbeteringen willen? In The Techno-Human Condition betogen Braden Allenby en Daniel Sarewitz dat een dergelijke benadering ontoereikend is. Zij stellen dat het debat over de impact van menselijke verbetering op de volgende drie niveaus van complexiteit moet worden gevoerd: 1) de directe impact van een enkele technologie; 2) de manier waarop een technologie een socio-technologisch systeem beïnvloedt en de sociale en culturele patronen die hierdoor worden beïnvloed; 3) de impact van technologie op mondiaal niveau. Neem de auto als voorbeeld. De auto brengt je in principe sneller van A naar B dan een fiets (niveau 1 redenering). Maar als veel mensen auto rijden, kan de fiets soms een snellere optie zijn in de stad (niveau 2 redenering). Op wereldschaal heeft de opkomst van de auto geleid tot een verscheidenheid aan belangrijke ontwikkelingen, zoals de ontwikkeling van de olie-economie, fordisme (het model van massaproductie en -consumptie), en klimaatverandering. Allenby en Sarewitz stellen dat het huidige debat over menselijke ontwikkeling vaak op het instrumentele niveau blijft steken. Het draait vooral om de vraag of mensen het recht hebben, op basis van vrije keuze, om gebruik te maken van technologieën die zijn ontworpen om hun lichamen en geesten te verbeteren. In tegenstelling tot wat transhumanisten vaak veronderstellen, tonen zij aan dat – net zoals de auto niet onder alle omstandigheden de snellere keuze is dan de fiets – het gebruik van menselijke verbeteringstechnologie op individueel niveau niet zonder meer leidt tot een betere individuele kwaliteit van leven, laat staan tot een betere samenleving. De toepassing van menselijke verbeteringstechnologie zal vaak worden gestuurd door economische of militaire motieven (niveau 2 redenering). Een dergelijk scenario bemoeilijkt de kwestie van individuele vrije keuze, omdat in dat geval "De posthumanistische persoon is geen zelfgemaakte mens, maar een persoon ontworpen door anderen."

De grootschalige implementatie van mensverbeteringstechnologie zal ook effecten hebben – hoewel moeilijk te voorspellen – op mondiaal niveau. In *Homo Deus* schetst Harari twee (parallelle) langetermijnscenario's: ten eerste de komst van de fysiek en mentaal verbeterde “übermensch” (Homo Deus) en een verdeling tussen supermensen en normale mensen (niveau 3 redenering). Volgens Harari zou dit op de lange termijn kunnen leiden tot het loslaten van het gelijkheidsbeginsel dat ten grondslag ligt aan de Universele Verklaring van de Rechten van de Mens. Naast dit “biologie wordt technologie”-scenario presenteert Harari een “technologie wordt biologie”-scenario. Hij voorziet de opkomst van het “datisme”, waarin de mensheid zichzelf integreert in een Internet-van-Alle-Dingen en zich volledig laat leiden door door AI gegenereerd advies dat door computers wordt verstrekt. In dit scenario heeft de mensheid afstand gedaan van al haar privacy, autonomie, individualiteit en bijgevolg democratie, die gebaseerd is op persoonlijke politieke keuzes. Hoewel dergelijke scenario's speculatief zijn, tonen ze ons welke belangrijke kwesties op het spel staan en laten zien dat het belangrijk is om (ver) voorbij het individuele, instrumentele niveau te kijken. De Nederlandse discussie over kiembaantechnologie laat zien dat dit vaak niet gebeurt. Tot nu toe spelen collectieve belangen een verwaarloosbare rol in dat debat. En dat ondanks het feit dat met CRISPR aangebrachte modificaties in het DNA van het embryo onomkeerbaar en erfelijk zijn voor toekomstige generaties. In het huidige debat domineert nog steeds de pragmatische benadering die we kennen uit het medisch-ethische regime. In dit debat wordt veel aandacht besteed aan de internationale positie van Nederland. Het land wil niet achterblijven als kenniseconomie. Ten tweede is er speciale aandacht voor de gezondheidsvoordelen die kiembaanmodificatie kan bieden voor het individu in kwestie. Een traditionele risico-batenanalyse staat hierbij centraal. Ten derde wordt er veel nadruk gelegd op het versterken van reproductieve autonomie. Het gaat om de mogelijkheid die kiembaanmodificatie biedt aan aanstaande ouders met een erfelijke aandoening: het krijgen van een genetisch gezond eigen kind. Maar kiembaanmodificatie roept ook vragen op die niet netjes passen binnen het kader van medisch-ethische principes die gericht zijn op veiligheid, geïnformeerde toestemming en reproductieve autonomie. Wat betreft collectieve waarden en internationale mensenrechten moet er in het debat ook ruimte zijn voor het idee dat het menselijk genoom ons gemeenschappelijk erfgoed is, en dus ons collectief eigendom.

Nieuwe NBIC-technologieën staan op het punt de wereld, de menselijke conditie en ons eigen wezen te veranderen op manieren die ons voorstellingsvermogen te boven gaan. Hierboven hebben we betoogd dat we met betrekking tot menselijke verbetering zowel invasieve medische technologieën moeten overwegen (de trend "biologie wordt technologie") als technologieën buiten het lichaam die niettemin een impact hebben op iemands lichamelijke, mentale en sociale prestaties (de trend "technologie wordt biologie"). Futuristische denkers van Harari tot Aldous Huxley en Raymond Kurzweil laten ons zien wat er deze eeuw mogelijk op het spel staat: radicale verbetering van menselijke capaciteiten en keuzes, een scheiding tussen "natuurlijke" en "verbeterde" mensen, de afschaffing van het individu en, in het kielzog daarvan, de democratie. Dit brengt een cruciale politieke vraag op tafel: hoe kunnen we menselijke verbeteringstechnologie op een maatschappelijk verantwoorde manier ontwikkelen en implementeren?

Om richting te geven aan die mogelijk radicale transitie, is een democratische zoektocht naar gedeelde morele principes noodzakelijk, principes die de fusie van mens en technologie op het juiste spoor kunnen zetten. Een absolute voorwaarde voor die collectieve zoektocht is een goed ontwikkeld “technologisch burgerschap” voor alle burgers. Technologisch burgerschap is het geheel van rechten en plichten dat burgers in staat stelt te profiteren van de zegeningen van technologie en hen beschermt tegen de bijbehorende risico's. Het betekent begrijpen hoe statistische resultaten, (genetische) profilering en zelflerende algoritmen werken, zien hoe dat ons beïnvloedt, en bereid zijn om ons te verweren tegen ongewenste invloeden en (mogelijk niet-technologische) alternatieven te kiezen waar nodig. Daarnaast is het belangrijk dat burgers de mogelijkheid hebben om deel te nemen aan het besluitvormingsproces rond technologie in elke fase van ontwikkeling, van onderzoek tot toepassing. Technologisch burgerschap emancipeert de gewone burger ten opzichte van de experts en ontwikkelaars van technologie.

Onderwijs speelt een centrale rol bij de bevordering van technologische burgerschap. En dat begint met het basisonderwijs en voortgezet onderwijs. Hier ligt een duidelijke rol voor de overheid. Ondertussen keurde de Tweede Kamer in april 2017 een herziening van het curriculum goed, voorbereid door Platform Onderwijs2032. Er worden twee nieuwe leergebieden aan het curriculum toegevoegd: digitale geletterdheid en burgerschap. In 2018 zijn ontwikkelingsteams begonnen met het realiseren van deze leergebieden. Het zou goed zijn als de twee ontwikkelingsteams nauw samenwerken, rekening houdend met het feit dat burgerschap in een technologische cultuur alleen betekenis heeft als we een geïnformeerde discussie kunnen voeren over het effect van technologie op ons privéleven en onze samenleving. Maar onderwijs alleen is niet voldoende. Om hun burgerschap werkelijkheid te laten worden, hebben mensen instellingen nodig. Zonder geschikte bestuurlijke instellingen is technologisch burgerschap een lege huls. Het moet mogelijk zijn dat rechten en plichten democratisch worden opgeëist, vastgelegd en geïmplementeerd. Individuen kunnen dan ook alleen als echte technologische burgers worden beschouwd als zij weten dat zij beschermd worden door een optimaal uitgerust systeem van bestuur. De volgende vier componenten zijn hierbij cruciaal: 1) rechten en nalevingsmonitoring, 2) publiek debat, 3) politieke visie, en 4) maatschappelijk verantwoordelijke bedrijven.

Ten eerste moeten burgers een beroep kunnen doen op fundamentele mensenrechten die passen bij de tijd waarin we leven. Op verzoek van de Parlementaire Vergadering van de Raad van Europa, de hoeder van de mensenrechten in Europa, heeft het Rathenau Instituut onderzocht hoe robotisering, kunstmatige intelligentie en virtualisatie onze huidige opvatting van mensenrechten kunnen uitdagen. Het Rathenau Instituut stelde onder andere twee nieuwe mensenrechten voor. Ten eerste het recht om niet gemeten, geanalyseerd of gecoacht te worden. Mensen moeten het recht hebben om niet bespioneerd of heimelijk beïnvloed te worden, en om te ontkomen aan continue algoritmische analyse. Ten tweede het recht op betekenisvol menselijk contact binnen de zorg. Robots zouden menselijke relaties niet moeten vervangen, maar verbeteren, of we het nu hebben over zorg voor ouderen of de opvoeding van kinderen. Reeds bestaande rechten en plichten moeten in het dagelijks leven in praktijk worden gebracht, zodat technologische burgers zich daadwerkelijk beschermd kunnen voelen. We vragen ons af of de huidige Nederlandse toezichthouders echt in staat zijn hun missie uit te voeren, en of hun mandaat werkelijk toereikend is. Het College voor de Rechten van de Mens besteedt weinig aandacht aan de vraag hoe digitalisering mensenrechten onder druk kan zetten. De Autoriteit Persoonsgegevens krijgt weinig ruimte om te kijken naar collectieve waarden anders dan privacy. Ten tweede is een maatschappelijk debat over de impact van nieuwe technologieën noodzakelijk. Hoewel het maatschappelijk middenveld sterk georganiseerd is om milieuproblemen aan te pakken, zijn er in Nederland nog weinig gevestigde maatschappelijke organisaties die bereid zijn een kritische discussie aan te gaan over de nieuwe intieme technologische revolutie, behalve als het gaat om privacy en veiligheid. Ondertussen zouden we ons moeten afvragen welke collectieve menselijke waarden we in onze intiem technologische samenleving willen waarborgen. Als we deze kwesties niet in dit vroege stadium bespreken, laten we de koers van technologische vooruitgang effectief over aan de ingenieurs, de markt en individuele keuzes. Pessers waarschuwt voor het collectieve effect van individuele zelfbeschikking, waarmee de samenleving stiekem wordt geconfronteerd met een voldongen feit, zonder enig democratisch debat. Bijvoorbeeld, in het geval van prenatale diagnostiek, verandert het afbreken van een aantal zwangerschappen van kinderen met het syndroom van Down de samenleving niet. Maar als dat op grote schaal begint te gebeuren, rijst de vraag of we echt een samenleving willen zonder mensen met het syndroom van Down.

Politiek en overheid worden opgeroepen om het voortouw te nemen in het debat en de bestuurlijke afhandeling van de revolutie van intieme technologie. Desalniettemin is er op dit moment geen brede politieke visie die de impact van technologie op ons bestaan aanpakt en wordt het huidige politieke debat grotendeels gedreven door willekeurige incidenten. Voor zo'n visie is verdere kennisontwikkeling noodzakelijk. Als het gaat om onze natuurlijke omgeving, is het centrale concept ecologische duurzaamheid. Het heeft vele jaren en de ontdekking van nieuwe kennis vereist om een kwalitatieve en kwantitatieve betekenis aan dit concept te geven. Wij denken dat in het debat over de relatie tussen technologie en menselijkheid het concept "menselijke duurzaamheid" een centrale rol moet spelen. Menselijke duurzaamheid betekent het behoud van menselijke individualiteit: welke aspecten van de menselijkheid en ons mens-zijn beschouwen wij als veranderbaar, en welke willen wij behouden? Denk bijvoorbeeld aan de wens om onze empathische vermogens op een hoog niveau te houden, of om kinderen geboren te laten worden uit een echte moeder, niet uit een kunstmatige baarmoeder. Concepten zoals menselijke waardigheid en menselijke duurzaamheid vereisen veel meer onderzoek en overweging. Tot slot moeten burgers erop kunnen vertrouwen dat gebruikersbelangen voorop staan wanneer bedrijven nieuwe technologische producten ontwikkelen. De toenemende fusie tussen mensen en technologie dwingt ons om rekening te houden met de waarden en normen die wij in producten en computerprogrammering ontwerpen. Wat betreft privacy hebben academici al jarenlang betoogd dat organisaties aandacht moeten besteden aan privacymaatregelen en gegevensminimalisatie bij de ontwikkeling van informatiesystemen. Privacy by design is een kernprincipe geworden van nieuwe Europese privacyregelgeving. Privacy-georiënteerde technologie is een voorbeeld van het bredere concept van value sensitive design, dat niet alleen privacy maar een breed scala aan relevante collectieve waarden, waaronder fundamentele mensenrechten, probeert te integreren in de ontwikkeling van technologie.

———
Geschreven door Ira van Keulen en Rinie van Est (Rathenau Instituut).

Dit essay is eerder gepubliceerd door de Hans van Mierlo Stichting, een wetenschappelijke denktank verbonden aan de Nederlandse democratisch-liberale partij (D66).

Let op: Keulen, I. van & R. van Est (2018) Intieme verbetertechnologie vereist technologisch burgerschap. In: D. Boomsma (red.) Over medische ethiek gesproken: Beschouwingen over leven, levenseinde en zorg. Den Haag: Mr. Hans van Mierlo Stichting. pp. 39-50.
De oorspronkelijke Nederlandse tekst is ook te vinden op de website van het Rathenau Instituut onder de titel Wat is de mens? Over (biomedische) technologie en ‘mensverbetering’.