Interview: Bruce Sterling on the Convergence of Humans and Machines

Bruce Sterling is een vooraanstaande sciencefictionauteur en een pionier van het cyberpunkgenre. Zijn cyberpunkromans Heavy Weather (1994), Eilanden in het Net (1988), Schismatrix (1985), The Artificial Kid (1980) leverden hem de bijnaam “Voorzitter Bruce” op. Naast zijn schrijfwerk is Bruce Sterling ook hoogleraar internetstudies en sciencefiction aan de European Graduate School. Hij heeft bijgedragen aan verschillende projecten binnen het kader van futuristische theorie, een milieugerichte esthetische beweging opgericht, bloemlezingen geredigeerd en hij blijft schrijven voor verschillende tijdschriften, waaronder Wired, Discover, Architectural Record en The Atlantic.

In het onderstaande interview hadden wij de eer Bruce Sterling te mogen ontvangen in ons Next Nature Network-hoofdkwartier om met hem te praten over het concept van de convergentie van mens en machine. Sterling deelt zijn visie op dit onderwerp met een nogal uitdagend perspectief.

Veel mensen praten eigenlijk over en investeren ook veel geld in dit idee van convergentie tussen machine en mens. Wat zijn uw gedachten hierover?

Het resultaat is het ontbundelen van die metafysische ideeën en hun vervanging door daadwerkelijke producten en diensten

Die convergentie zal niet plaatsvinden, omdat de ambitie in wezen metafysisch is. Het zal zich terugtrekken over de horizon als een luchtspiegeling. We komen er nooit. Het werkt als volgt: eerst verre metafysische stellingen. Dan probeert een academische computerwetenschapper er een in het lab te bouwen. Een aspect daarvan kan daadwerkelijk worden gecommercialiseerd, gedistribueerd en verkocht.

Dit is de geschiedenis van kunstmatige intelligentie. We hebben vandaag de dag geen Kunstmatige Intelligentie, maar we hebben wel andere zaken zoals computersystemen voor visie, robotische mogelijkheden om zich te verplaatsen, grijpsystemen. We hebben stukjes en beetjes van het grote idee, maar die stukjes zijn grote industrieën. Ze passen niet samen om één superding te vormen. Siri kan praten, maar ze kan geen dingen vastpakken. Er zijn machines die grijpen en manipuleren, maar die praten niet. Je eindigt met dit ontbundelen van de metafysische ideeën en hun vervanging door daadwerkelijke producten en diensten. Die producten bestaan op de markt zoals de meeste andere artefacten die we hebben: zoals chips, tassen, schoenen, Hollywoodproducten, spellen.

Ze moeten in die context worden gezien, je moet deze commerciële producten niet mooier maken en zeggen “Binnenkort hebben we het Super Spook van Kunstmatige Intelligentie.” Ik weet dat er mensen in het vak zijn die in die visie geloven, maar ik denk niet dat de echte captains van de industrie, die investeringen van miljoenen dollars doen, ook maar iets van dat alles geloven.

Gisteren hadden we een zeer interessante discussie over de toekomst van de mensheid. Dit hangt ook samen met het concept van kunstmatige intelligentie. Er wordt beweerd dat 2025 het singulariteitspunt zal zijn, wat is uw mening hierover?

Je wilt niet dat Siri meer op Alan Turing lijkt. Je wilt dat Siri meer op Apple lijkt. Omdat Apple eigenaar is van Siri

Er zal geen Singulariteit komen. Ik denk dat kunstmatige intelligentie een slechte metafoor is. Het is niet de juiste manier om te praten over wat er gebeurt. Dus gebruik ik liever de termen "cognitie" en "computatie". Cognitie is iets dat gebeurt in hersenen, fysieke, biologische hersenen. Computatie is iets dat gebeurt met softwarecodes op elektronische sporen die uit silicium zijn geëtst en op vezelplaat zijn geplaatst.

Het zijn niet dezelfde dingen, en dat zeggen maakt dezelfde fout als in vroegere tijden, toen mensen zeiden dat menselijk denken leek op een stoommachine. Het idee komt voort uit metafysische problemen: Is wiskunde denken? Als een machine wiskunde kan doen, denkt hij dan? Als een machine schaak kan spelen, denkt hij dan? Er zijn veel dingen die machines kunnen doen, die algoritmen kunnen doen, die software kan doen. Ze hebben weinig te maken met cognitie. Wanneer je ze probeert in te passen in het Bonsaidoosje van intelligentie, beperk je eigenlijk de technologie. Het is alsof je een vrachtvliegtuig probeert te bouwen, en je erop staat dat het ook eieren moet leggen omdat het kan vliegen. Het is een vliegmachine, het heeft vleugels en het vliegt, en je kunt het zelfs een "vogel" noemen. Maar vliegtuigen zijn eigenlijk geen vogels, en hoe vogelachtiger je ze probeert te maken, hoe meer je in de weg staat van het potentieel van de technologie.

Waarom zou een 747 met zijn vleugels klapperen? Waarom zou het eten? Als je denkt dat de technologie op de een of andere manier mystiek geïnspireerde vliegmachines zijn, en ze willen meer op een arend lijken. Het is gewoon een slechte metafoor en het staat echt in de weg.

Een entiteit zoals Siri streeft er bijvoorbeeld niet naar om menselijker te worden; Siri zou vele malen efficiënter willen zijn dan dat. Siri voert niet één gesprek zoals het gesprek dat wij hier voeren. Siri voert honderdduizenden gesprekken tegelijk. Het wil sneller door meer databases kijken; het wil niet rustig een boek lezen en nadenken, zoals Alan Turing misschien deed.

Je wilt niet dat Siri meer op Alan Turing lijkt, je wilt dat Siri meer op Apple Inc. lijkt. Je wilt dat Siri alles kan doen wat Apple kan doen: dingen geofysisch lokaliseren, grote databases beheren, apps voor je vinden, locaties voor films opzoeken. Alan Turing kent niet elke film in Californië! Je staat in de weg als je zegt, “Siri, waarom kun je niet meer op een homo wiskundige uit het midden van de 20e eeuw lijken? Zodat je de Turing-test kunt doorstaan.” Dat zou metafysisch bevredigend zijn; het zou Turings punt maken. Ik in de ene kamer, Siri in de andere kamer, en we lijken precies hetzelfde; dus cognitie is gelijk aan computatie. Cognitie is niet gelijk aan computatie. Je wilt niet eens dat cognitie gelijk is aan computatie. Je staat in de weg om computatie dingen te laten doen die echt interessant zijn.

U maakt het punt dat cognitie en computatie gescheiden moeten blijven. Waarom denkt u dat deze twee afzonderlijke concepten zo vaak door elkaar worden gehaald?

Ze kunnen het idee niet bevatten dat computatie geen denken is.

Dat het iets anders is.

Je lijkt veel meer op je huiskat dan dat je ooit op Siri zult lijken

Ze worden gewoon meegesleept door Alan Turings mystificatie. Als je een mens bent en je doet aan computatie, probeer je bijvoorbeeld 17 keer vijf in je hoofd uit te rekenen. Het voelt als denken. Machines kunnen ook vermenigvuldigen. Ze moeten wel denken. Ze kunnen wiskunde doen en jij kunt wiskunde doen.

Maar de wiskunde die jij doet, gaat niet echt over wat cognitie inhoudt. Cognitie gaat over dingen zoals zien, manoeuvreren, verlangens en behoeften hebben. Je kat heeft cognitie. Katten kunnen niet 17 keer vijf vermenigvuldigen. Ze hebben hun eigen umwelt (omgeving). Maar ze zijn zoogdieren, jij bent een zoogdier. Ze behoren eigenlijk tot dezelfde klasse als jij. Je lijkt veel meer op je huiskat dan dat je ooit op Siri zult lijken. Jij en Siri convergeren, jij en je huiskat kunnen veel gemakkelijker convergeren. Je kunt de denkbeeldige technologieën die veel posthumanistische enthousiastelingen hebben besproken nemen, en je zou ze allemaal op een kat kunnen toepassen. Ze zouden allemaal werken op een kat. De kat is een ideaal proefdier voor al deze overgangen en convergenties die we voor mensen willen maken.

Maar we hebben het nooit over een gerobotiseerde kat, een geaugmenteerde kat, een super intelligente kat. Waarom? Omdat we vastzitten in deze metafysische loopgraaf waar we denken dat het allemaal gaat om de bewustzijnstoestanden van de mensheid. Dat is het niet! Wij mensen hebben niet altijd bewuste bewustzijnstoestanden: we slapen 's nachts. Computers vertonen dit gedrag niet. We zijn oud, we vergeten wat er gebeurt. We zijn jong, we weten nog niet hoe we moeten spreken. Dat is cognitie. Je ziet nooit een computer die zo jong is dat hij niet kan spreken.

Interview door Menno Grootveld en Koert van Mensvoort.

Bewerkt door Yunus Emre Duyar.

Afbeelding via Huffington Post