Morality of an Autonomous Car

Stel je drie verkeerssituaties voor die leiden tot onvermijdelijke schade: 1. Afslaan om het leven van meerdere voetgangers te redden, maar één persoon doden; 2. Afslaan om jezelf op te offeren ten gunste van één voetganger; 3. Afslaan om jezelf op te offeren ten gunste van meerdere mensen. Wat zou je in elk van deze situaties doen? Zou het je beslissing beïnvloeden als je de leeftijd van de mensen die zouden sterven kende? Of de overlevingskansen (snelheid, wegomstandigheden enz.)? Stel je nu voor dat deze vragen door een auto beantwoord moeten worden.

Autonome voertuigen (AV's) bevinden zich nog in de testfase, maar de meest urgente problemen zijn morele kwesties in plaats van technische. De algoritmen waarop de auto draait, moeten alle mogelijke acties dekken, zelfs als deze onwaarschijnlijk zijn in het echte leven. Het blijkt dat het omgaan met de problemen die AV's zouden moeten oplossen (auto-ongelukken, veiligheidsproblemen, verkeersefficiëntie) eigenlijk het grootste obstakel is bij het wereldwijd introduceren ervan. Bovendien zijn antwoorden op deze problemen helemaal niet eenvoudig.

Jean-François Bonnefon, Azim Shariff en Iyad Rahwan publiceerden de resultaten van zes online enquêtes onder 2.000 deelnemers van het Amazon Mechanical Turk-platform. Vragen betroffen denkbeeldige verkeersongevallensituaties, zoals de drie die aan het begin werden genoemd. Mensen moesten beslissen of ze voor utilitaire AV's waren (het opofferen van de passagier om anderen te redden) of voor degenen die de veiligheid van de passagier voorop stellen. Het is geen verrassing dat de meeste deelnemers ervoor kozen om het aantal slachtoffers te minimaliseren volgens de algemene morele doctrine - dat zou betekenen dat utilitaire AV's worden geïntroduceerd. Maar toen het erop aankwam om een zelfrijdende auto voor henzelf te kopen, stemden ze sterk voor een algoritme dat de bestuurder tegen elke prijs beschermt.

De morele strijd vertraagt het lanceringsproces van AV's en als gevolg hiervan kan het aantal levens dat gered zou kunnen worden door het introduceren van het utilitaire model, overtroffen worden door de sterfgevallen veroorzaakt door de vertraging. Als in een Griekse tragedie - er is geen goede keuze, maar deze moet ooit gemaakt worden.

Bron: Jean-François Bonnefon, Azim Shariff, Iyad Rahwan, Het sociale dilemma van autonome voertuigen, “Science” (24 jun 2016:Vol. 352, Issue 6293, pp. 1573-1576).

Afbeelding: Google Zelfrijdende Auto Project