Dit is een gastbijdrage. Een Apache-lezer levert met dit stuk een bijdrage aan het maatschappelijk debat. De auteur schrijft in eigen naam en is verantwoordelijk voor de inhoud van de tekst.

Waarom we geen winkeldiefstal plegen en andere morele kwesties

17 november 2017 Koen Smets
trolley

Gedrag en keuzes zijn twee kanten van dezelfde medaille. Bijna al ons gedrag wordt bepaald door keuzes die we maken. De neoklassieke economie beschouwt ons grotendeels als rationele, zelfzuchtige wezens die erop uit zijn onze baten te maximaliseren – de zogenaamde homo economicusen verklaart vanuit dat perspectief onze keuzes en dus ons gedrag.

Ho maar, zeggen psychologen en gedragseconomen (het verschil tussen beide kan wat vaag zijn). We denken misschien wel dat we goed zijn in het maken van rationele beslissingen, maar we hebben toch wat problemen met wilskracht en zelfcontrole, flink wat van ons gedrag is een kwestie van gewoonten en onbewuste keuzes, en bovendien barsten we van de denkfouten. Die hebben we ook nodig om ons gedrag te verklaren.

Geven deze twee benaderingen ons al wat we nodig hebben om het gedrag des mensen te begrijpen, en om betere beslissingen te nemen? Niet helemaal. Onze keuzes worden soms ook bepaald door wat we als juist of fout beschouwen – onze morele intuïtie.

Moraliteit speelt dan wel geen grote rol wanneer je ’s ochtends moet kiezen tussen een bordeauxrode of een beige trui, maar komt wel tevoorschijn wanneer we suiker kopen (fair trade of huismerk?), proberen te ontsnappen aan een nakend bezoek aan de schoonouders (een leugen om bestwil, of toch maar gaan?), of inderdaad tussen een duur item voorbij de kassier smokkelen... of het netjes betalen.

Een halve eeuw vliegt voorbij

Vragen met een dergelijk ethisch karakter behoren tot het domein van de filosofie. Net zoals een gedragseconoom opgewonden kan geraken over situaties waarin de intuïtie van de mensen niet noodzakelijk een goede leidraad is voor wat het beste is voor hen, zo ook kunnen de ogen van een filosoof oplichten bij de gedachte aan morele dilemma’s, waarin onze morele intuïtie een slechte raadgever is.

Een klassiek gedachte-experiment rond een dergelijk dilemma is het trolleyprobleem. De Britse moraalfilosoof Philippa Foot formuleerde het voor het eerst (bijna terloops) in een paper in de Oxford Review in 1967. (Het kwam ook al eens aan bod in een eerder stukje.)

Over de voorbije 50 jaar kreeg het – zeker voor een filosofisch instrument – bijzonder veel bekendheid. Mocht u er niet van hebben gehoord (of het vergeten zijn), het gaat om de volgende vraag.

Als een op hol geslagen tram afstevent op een spoor waar vijf werklui zullen worden gedood, moet men dan de wissel omgooien zodat de tram op een ander spoor terechtkomt waar slechts één werkman om het leven zal komen, of niets doen?

trams
Een moeilijke keuze (bron: Minnesota Historical Society)

 

Niet iedereen is echter overtuigd van de waarde van dergelijke gedachte-experimenten. Enkele weken geleden verscheen in Current Affairs een artikel met de titel “The trolley problem will tell you nothing useful about morality” (Het trolleyprobleem vertelt u niets nuttigs over moraliteit). Dat laat weinig twijfel over de opinie van de auteurs, die stellen dat het zo ver van elke normale morele keuze is dat het eigenlijk nonsens is.

Nochtans wordt net dit probleem naar voren geschoven in de discussie rond het gedrag van autonome voertuigen. Wat als een zelfrijdende auto geconfronteerd wordt met een situatie waarin het ofwel vijf voetgangers kan neermaaien, en de inzittenden redden, of de voetgangers sparen door tegen een betonnen muur te knallen en de twee passagiers te doden?

Het Medialab van het Massachusets Institute of Technology verwerkte dit soort vragen tot scenario’s in hun Moral Machine. Drie oude mannen en twee oude vrouwen doden die bij groen licht oversteken, of een jong koppel met twee zoontjes en een baby die oversteken bij het rode licht? U kunt het zelf uitproberen – er zijn 13 standaardscenario’s, en honderden die door gebruikers zijn gemaakt.

Geen goede leidraad

Het trolleyprobleem is geen goed hulpmiddel bij het ontwikkelen van de algoritmes die (letterlijk) autonome voertuigen besturen. Het zal in de nabije toekomst niet mogelijk zijn voor zulke auto’s te bepalen of een voetganger een vrome kerkganger is, of een seriemoordenaar.

Ze zullen niet weten of het café aan de linkerzijde leeg is, of net vol met mensen die de overwinning van hun voetbalploeg vieren, en evenmin of er een moeder met een kinderwagen op het punt staat de straat over te steken van achter die bestelwagen.

Zelfrijdende auto’s kunnen ons niet helpen betere morele keuzes te maken in zulke noodsituaties, want ze hebben niet meer of geen betere informatie. Ze kunnen ons wel helpen door zich niet te laten verstrooien, of niet impulsief en onwijs te reageren op een obstakel.

Het beste wat artificiële intelligentie kan doen is onze zwakten te ondervangen – van de verleiding om onze telefoon te checken wanneer die even biept en onze vatbaarheid voor aggressie achter het stuur, tot onze neiging te dicht op het voertuig voor ons te rijden en op de rem te gaan staan wanneer het vertraagt. Maar het is geen supermacht die morele dilemma’s kan oplossen.

Wel een goede leidraad

Anderzijds zijn de auteurs van het Current Affairs artikel te snel om het trolleyprobleem te verwerpen als gids voor onze menselijke morele keuzes. Sommigen onder ons, bijvoorbeeld in de gezondheidssector, staan geregeld voor gelijkaardige netelige vraagstukken.

Een paramedicus die twee zwaargewonden vindt bij een verkeersongeval moet snel beslissen wie hij het eerst verzorgt. Wanneer NICE in het VK of de Commissie Tegemoetkoming Geneesmiddelen in België een medicijn aanbevelen of verwerpen, beslissen ze eigenlijk wie (langer) zal leven en wie (eerder) zal sterven.

De middelen zijn beperkt, en elke euro die gaat naar een nieuw middel om kanker te bestrijden kan niet worden besteed aan diagnostische apparatuur voor ziekenwagens. Zulke keuzes zijn nauwelijks minder gruwelijk dan het trolleyprobleem.

 

ambulance
Of toch liever een medicijn tegen kanker? (foto: Biotechnose)

En zelfs in onze alledaagse leventje is het niet omdat onze morele keuzes niet over leven en dood gaan dat ze triviaal zijn. Een recent paper van Amitai Shenhav en collega’s beschrijft hoe banale keuzes net zoveel angst veroorzaken als keuzes tussen opties van groot belang.

Misschien is een hypothetische vraag rond leven-en-dood nog niet zo slecht als gedachte-experiment, om ons te helpen beslissingen met een morele dimensie beter te begrijpen.

Moeten we onze goede collega teleurstellen, die ons vraagt om na het werk iets te gaan drinken en onze opinie wil over een belangrijk probleem, of onze partner die iets extra lekkers kookt voor ons vanavond?

Moeten we onze goede collega teleurstellen, die ons vraagt om na het werk iets te gaan drinken en onze opinie wil over een belangrijk probleem, of onze partner die iets extra lekkers kookt voor ons vanavond?

Als je moet beslissen over het lot van een lid van je team dat persistent slecht presteert, moet je ze dan nog maar eens een laatste kans geven, of ze toch maar ontslaan (wetend dat ze het niet makkelijk zullen hebben een nieuwe baan te vinden)?

We staan wel vaker voor zulke situaties: geforceerde keuzes die tot een no-win resultaat leiden... net als in het trolleyprobleem. We kunnen proberen ze te vermijden of weg te kijken, maar dat werkt slechts zelden.

In tegenstelling tot irrationele besluitvorming, waar je op zijn minst een rationele maatstaf hebt waartegen ze kan worden geëvalueerd, hebben zulke morele dilemma’s geen voor de hand liggend correct antwoord. Er zijn geen nudges, geen gedragseconomische trucs (en geen artificiële intelligentie) die ons kunnen helpen de juiste keuze te maken.

Het beste wat we kunnen doen, is ons bewust te zijn van zulke moeilijke kwesties. En het trolleyprobleem, met zijn vijftig jaar, kan nog steeds een goede leidraad zijn om ons inzicht te geven in hun complexiteit. Als dat gedachte-experiment eerstejaarsstudenten filosofie, en ons allemaal, helpt de beperkingen in te zien van onze simpele morele intuïties, dan moesten we het misschien maar een gezonde en productieve volgende halve eeuw toewensen.

LEES OOK