Maar zo simpel blijkt het niet te zijn. (Dat is het eigenlijk nooit.)
Tijdens een conferentie over de economische aspecten van Artificiële Intelligentie maakte gedragseconoom par excellence Daniel Kahneman een opmerking die al meerdere dagen blijft rondzingen in mijn hoofd. “Er zit flink wat ruis op de mens,” observeert hij, “je toont ze twee keer dezelfde stimulus, en ze geven je niet twee keer dezelfde respons.” Hij beweert dat de grootste beperking op onze menselijke prestaties niet onze denkfouten zijn, maar de ruis op onze besluitvorming.
Artificiële intelligentie (AI) wordt wel eens voorgesteld als een mechanisms om ons te helpen onze irrationele beslissingen te ondervangen. AI heeft geen problemen met zelfbeheersing, wordt niet misleid door lepe framing, en lijdt niet onder tunnelvisie of optimism bias. Helaas kunnen echter zowel de algoritmes (die uiteindelijk door mensen worden ontworpen) als het leerproces van AI vooroordelen invoeren. In 2015 bleek een van Google’s algoritmes per ongeluk twee zwarte mensen als gorilla’s te hebben gemarkeerd. De firma zelf legt uit hoe dat kan gebeuren in deze korte video. Maar het probleem is lang nog niet van de baan. Joanna Bryson, een computerwetenschapper aan de universiteit van Bath in het VK, stelde vast dat Google geslachtsneutrale voornaamwoorden in andere talen vertaalt naar het Engels als 'hij' wanneer het om dokters gaat, en 'zij' wanneer het verpleegsters betreft.
Maar als het inderdaad zo is, zoals Kahneman beweert, dat ruis de grootste reden is voor onze suboptimale besluiten, en niet irrationaliteit, vooroordelen en denkfouten, dan heeft AI zeker een voetje voor op ons. Een algoritme zal, wanneer het dezelfde stimuli krijgt, altijd op dezelfde manier reageren.
Hoeveel ruis?
Dat doet twee vragen rijzen: in welke mate wordt ons oordeel werkelijk vervormd door ruis, en is die ruis werkelijk een probleem?
We lijken inderdaad vaak verschillend te reageren wanneer we worden geconfronteerd met dezelfde stimuli – of tenminste schijnbaar dezelfde stimuli. In een laboratorium kun je de hele omgeving min of meer controleren, en identieke stimuli aanbieden, maar hoe zit dat in de rommelige wereld daarbuiten?
In een artikel op de Behavioral Scientist website wijst Jason Collins erop hoe makkelijk het is andermans gedrag als irrationeel te beschouwen wanneer we onwetend zijn over hun motieven en beweegredenen. Zouden we niet dezelfde fout maken wanneer we gedrag bestempelen als onderhevig aan ruis? Misschien zit achter de klaarblijkelijke variatie in onze besluitvorming eerder een complex samenspel van invloeden dat we onterecht, en veel te veel simplificeren.
Wanneer je zou nagaan wat iemand elke ochtend als ontbijt heeft, dan lijkt er best wel wat ruis op hun keuzes te zitten. Nu eens eten ze boterhammen met choco, dan weer een spiegelei, porridge of corn flakes. Dat ziet er beslist onvoorspelbaar uit (ook al kunnen we wel voorspellen dat ze niet plots gras of kattenvoer, laat staan paperclips of houtsnippers zouden verkiezen). Maar kunnen we echt zeggen dat dezelfde stimulus – een hongergevoel bij het opstaan – tot een verschillende respons leidt? Zelfs wanneer we ad hoc voorkeuren buiten beschouwing laten zijn er tal van verklaringen. Mogelijk is de porridge op, of hebben ze net iemand op de radio horen waarschuwen voor teveel eieren, of misschien zijn ze gewoon wat gehaast? Als we niet weten welke elementen bewust of onbewust de ontbijtkeuze kunnen beïnvloeden, dan kunnen we niet echt zeggen dat er ruis in het spel is.
En wanneer dat zo is voor relatief irrelevante keuzes als welk ontbijt je gaat eten, dan is dat wellicht ook het geval voor meer betekenisvolle beslissingen. We houden rekening met subtiele signalen die een observator niet meteen opvallen – en die zelfs voor onszelfs ongemerkt kunnen blijven.
Een ruisprobleem?
Dat betekent natuurlijk niet dat er geen sprake is van ruis in het proces. Maar is dat een fout, of net een wenselijke eigenschap?
Nogal wat mensen betalen flinke bedragen – vele keren de prijs van een opname – om artiesten hun muziek live te zien brengen. Waarom? Omwille van de ruis: de vele kleine afwijkingen ten opzichte van ons verwachtingspatroon. De live uitvoering, met de specifieke interactie tussen muzikanten onderling (en zelfs tussen hen en het publiek), hier en nu, betekent dat geen twee uitvoeringen dezelfde zijn. Dat is ruis.
Stel je voor dat de artiesten elke avond een 100% identiek concert brengen – elke individuele noot in de solo van de saxofonist is een perfecte kopie van wat gisteren en eergisteren werd gespeeld, elke vibrato in de hoge noot van de sopraan exact dezelfde, keer op keer. Hoe eentonig zou dat zijn?
