How to Fool a Neural Network

Computers zijn slim en worden dankzij kunstmatige neurale netwerken nog slimmer. Deze netwerken, gemodelleerd naar echte neurologische systemen, stellen computers in staat om complexe taken uit te voeren, zoals beeldherkenning. Tot nu toe waren ze indrukwekkend moeilijk om voor de gek te houden. Maar een groep onderzoekers beweert een manier gevonden te hebben om deze netwerken betrouwbaar te misleiden.

Optische Illusies voor Neurale Netwerken?

Afbeeldingen die ontworpen zijn om beeldherkenningsnetwerken te misleiden, worden "adversarial" genoemd. Dat wil zeggen, ze zijn ontworpen om er voor ons uit te zien als het ene, en - door subtiele aanpassingen - voor het netwerk eruit te zien als iets totaal anders, wat een conflict veroorzaakt. Neem het onderstaande voorbeeld:

Wij kunnen duidelijk zien dat dit een kat is. Maar door het beeld zorgvuldig te "verstoren", kon het team Google's InceptionV3-beeldclassificator ervan overtuigen dat het in feite guacamole was. Tot zover alles goed, maar de truc werkt alleen vanuit deze specifieke hoek. Draai het beeld zelfs een beetje en het netwerk herkent het correct als een kat.

De onderzoekers, een team van MIT-studenten genaamd LabSix, wilden een truc die betrouwbaarder zou werken.

Adversarial Objecten

Ze wilden aantonen dat niet alleen stilstaande beelden, maar ook objecten uit de echte wereld "adversarial" gemaakt konden worden voor het patroonherkenningsvermogen van het netwerk. Hiervoor ontwierpen ze een algoritme om 2D-afdrukken en 3D-geprinte modellen te maken met eigenschappen die "gerichte misclassificatie" veroorzaken, ongeacht de kijkhoek, zelfs wanneer het beeld wazig is door snelle camerabewegingen.

Met andere woorden, ze waren in staat om niet alleen stilstaande beelden, maar ook objecten uit de echte wereld te maken die neurale netwerken betrouwbaar konden misleiden. Om hun creatie te testen, produceerde het team een schildpad die het netwerk voor een geweer aanzag, en een honkbal die het verkeerd identificeerde als een espresso. Ze testten de objecten zelfs tegen verschillende achtergronden. Het plaatsen van het "geweer" tegen een waterige achtergrond verpestte de truc niet; noch het plaatsen van de "espresso" in een honkbalhandschoen. Volgens het artikel lijkt de truc te werken ongeacht de visuele context.

In een wereld waarin we steeds meer vertrouwen op neurale netwerken voor ingewikkelde en complexe taken, moeten we ons dan zorgen maken dat ze op deze manier voor de gek gehouden kunnen worden? Afgezien van het uitvoeren van Google's beeldzoekopdracht, wijst de LabSix-groep erop dat deze netwerken worden gebruikt in "hoogrisico, real-world systemen". Als mensen zijn we vatbaar voor bepaalde optische illusies. Misschien moeten we niet verbaasd zijn dat neurale netwerken ook niet onkwetsbaar zijn.