Future AI may hallucinate and get depressed — just like the rest of us

Wetenschappers geloven dat de introductie van een hormoonachtig systeem, zoals dat in het menselijk brein voorkomt, AI de mogelijkheid zou kunnen geven om te redeneren en beslissingen te nemen zoals mensen dat doen. Recent onderzoek geeft aan dat menselijke emotie, tot op zekere hoogte, een bijproduct is van leren. En dat betekent dat machines misschien het risico moeten lopen op depressie of erger als ze ooit willen denken of voelen.

Zachary Mainen, een neurowetenschapper aan het Champalimaud Centre for the Unknown in Lissabon, sprak op het symposium Canonical Computation in Brains and Machines over de implicaties van recente experimenten om de effecten van serotonine op besluitvorming te ontdekken.

Volgens Mainen en zijn team is serotonine mogelijk niet gerelateerd aan 'stemming' of emotionele toestanden zoals geluk, maar is het in plaats daarvan een neuromodulator die bedoeld is om leerparameters in de hersenen bij te werken en te veranderen.

Hij is zelfs van mening dat dergelijke mechanismen noodzakelijk kunnen zijn voor machinaal leren, ondanks enkele mogelijk verontrustende bijwerkingen, namelijk die waar mensen last van hebben. In een interview met Science, zei hij:

"Depressie en hallucinaties lijken afhankelijk te zijn van een chemische stof in de hersenen genaamd serotonine. Het kan zijn dat serotonine slechts een biologische eigenaardigheid is. Maar als serotonine helpt bij het oplossen van een algemener probleem voor intelligente systemen, dan zouden machines een vergelijkbare functie kunnen implementeren, en als serotonine bij mensen verkeerd gaat, zou het equivalent in een machine ook verkeerd kunnen gaan."

Het onderzoek is nog vrij pril en vereist verder testen, maar experimenten uitgevoerd op muizen geven aan dat serotonine een grote rol speelt in welke 'gegevens' de hersenen kiezen te behouden en hoeveel gewicht eraan wordt gegeven. In essentie tonen de resultaten van het onderzoek aan dat serotonine en dopamine mogelijk intrinsiek zijn voor het faciliteren van een zich ontwikkelende intelligentie.

Om te bepalen hoe serotonine de besluitvorming beïnvloedt, gaven wetenschappers muizen de keuze tussen twee paden, links of rechts. Aan het einde van één pad plaatsten ze een beloning in de vorm van water. Zodra de muizen bekend waren met de locatie van de beloning, kon het team een serotoninerespons bij de knaagdieren opwekken door het water te verplaatsen en ze te verrassen. Of de muizen het water vonden was niet zo'n grote factor in of serotonineniveaus piekten of niet, maar of ze verrast waren wel.

Toen Mainen's team verdere experimenten uitvoerde, waaronder het handmatig activeren van serotonineproductie bij een dier dat rondliep in een veld, ontdekten ze dat de proefdieren bijna onmiddellijk na een piek langzamer gingen en de situatie gingen overwegen. Dit, volgens Mainen, geeft aan dat serotonine ervoor zorgt dat een leersysteem minder waarde hecht aan dingen die net zijn gebeurd (de vorige input), in plaats daarvan werkend om eerdere aannames te veranderen. Dit is iets dat AI sterk ten goede zou kunnen komen.

De onderzoekers injecteerden dezelfde muizen ook met een serotonine-remmer en ontdekten dat het leren vertraagd werd. Met het hormoon, of neurotransmitter zoals het vaak wordt genoemd, duurde het slechts een paar dagen voordat hun hersenen nieuwe gegevens normaliseerden. Die tijd werd verlengd wanneer de muizen niet in staat waren om op natuurlijke wijze serotonine vrij te geven. En dat betekent dat serotonine (en de effecten ervan) mogelijk cruciaal is voor menselijk leren.

Of dit nuttig is voor ontwikkelaars van machinaal leren hangt af van hoe nauw ze het menselijk brein willen nabootsen. Sommige wetenschappers beweren dat chemische onevenwichtigheden in een organisch brein afwijkend zijn, maar Mainen's onderzoek lijkt het tegenovergestelde aan te tonen. Zijn team veronderstelt dat hypermodulatoren, vergelijkbaar met serotonine, gebruikt zouden kunnen worden als 'snelkoppelingen' om autonome systemen te voorkomen vast te lopen in verouderde modellen.

Het ontwerpen van robots om met een statische omgeving om te gaan met behulp van begeleid leren, zal machines waarschijnlijk niet voorbereiden op de voortdurend veranderende echte wereld. Maar hen emoties geven en het vermogen om dingen te hallucineren die niet echt zijn, lijkt ook geen goed idee.

Niemand heeft tijd om zijn Tesla uit de garage te praten voordat hij naar zijn werk gaat omdat hij denkt dat de Ford Focus naast de deur in het geheim tegen hem samenspant.

Dit verhaal is gepubliceerd in samenwerking met The Next Web. Lees het originele artikel hier.

Coverafbeelding via YouTube: Sad Robot Song.