Uw toaster zal ’s ochtends suggereren uw boterhammen niet te hard te roosteren. Dat is slecht voor je gezondheid. Kanker en zo. Best vermijden. De lift in je bedrijf zal je enkele minuten lang onderhouden met de roddels die hij heeft opgevangen over jouw collega’s. Zo weet je meteen wie wat heeft met wie en hoe hoog je kansen op promotie worden ingeschat. Je auto zal een eigen mening hebben over de te volgen route. Misschien wil hij zelf niet te lang in de file staan. Je douche zal je aanraden niet te lang onder de heetwaterstraal te leuteren, om energie te sparen. En: vaak douchen is ook al niet goed voor de huid.
De lift in jouw bedrijf zal je onderhouden met de roddels die hij heeft opgevangen over je collega’s
Welkom in de wereld van intelligente machines. De apparaten die hun eigen mening hebben, vooral omdat ze veel méér weten dan u. Ze bestaan overigens al. Siri op uw iPhone, de GPS van je auto. Je kunt ook al zo’n schattig robotje in huis halen dat op de kinderen past en de binnenkomende post behandelt. Binnenkort denken alle apparaten met je mee (of niet).
We leven in een Philip K. Dick-wereld. Hij is de auteur - ondertussen al 35 jaar dood - van boeken en verhalen waarop de films Blade Runner, Minority Report en de tv-serie The Man in the High Castle gebaseerd zijn. Dick beïnvloedde al bijna twee generaties filmmakers en auteurs. Hij krijgt, nadat hij tijdens zijn leven slechts door sciencefiction-fans werd gelezen, uiteindelijk zijn plaats in onze wereld als de profeet van de virtualiteit. De realiteit, stelde hij, is kwetsbaar en een zaak van interpretatie, vaak gerund door andere intelligenties dan de onze. Hun virtualiteit is echter even ‘echt’ als de materiële wereld, waardoor het onderscheid niet meer te maken is.
Dick schreef ook over machines. De broodrooster met een eigen mening, en de gasmeter die met je in de clinch gaat wanneer je er geen munt wilt ingooien (een fenomeen uit een vorige generatie, weliswaar): het zijn voorbeelden van de wankele verhouding tussen mensen en machines.
Als machines autonoom denken, welke morele rol spelen ze dan? Wanneer ze beslissingen nemen, in wiens voordeel zullen ze dat doen?
Rebellerende robots
Wat Dick toen al voorspelde, is voor ons een bijna alledaagse ervaring geworden. Steeds meer van ons leven speelt zich af in de virtuele wereld van sociale netwerken en games, en van slimme algoritmen. De fundamentele problemen waar hij over schreef, blijven echter nog zonder oplossing. Als machines autonoom denken, welke morele rol spelen ze dan? Wanneer ze beslissingen nemen, in wiens voordeel zullen ze dat doen? Kunnen wij die beslissingen nog wel bevatten, wanneer ze veel intelligenter zullen zijn dan wij? Geven we hen bovendien rechten? Dezelfde rechten als mensen?
We moeten niet bang zijn voor rebellerende robots of voor de singulariteit (het verschijnsel bedacht door de Amerikaanse auteur Vernor Vinge, waarbij artificiële intelligentie de menselijke zo ver overtreft dat de machines onbegrijpelijk worden en daarmee ons lot bezegelen). Dat zijn populaire thema’s uit boeken en films. De realiteit zal - voorlopig toch - veel dichter bij het alledaagse staan. Toasters en liften zullen in staat zijn met ons te communiceren omdat intelligente algoritmen overal ingebouwd zijn.
Verwacht dus niet dat menselijk lijkende robots in het straatbeeld opduiken. Hooguit voeren ze gespecialiseerde taken uit, in ziekenhuizen, hotels, fabrieken. In Japan hebben ze daar al ruime ervaring mee.
Werkvloer
Autonoom functionerende algoritmen zullen wél overal ingebouwd worden, steeds vaker en steeds meer. Wanneer onze auto’s zonder onze tussenkomst rijden, is dat dankzij intelligente algoritmen. De klimaat- en energieregeling van ons huis laten we over aan een algoritme. Communicatie met andere mensen, planning van vakanties, het productieproces op de werkvloer, zal een kolfje naar de hand van algoritmen zijn. De mens zal daarbij, als werknemer, een stapje opzij moeten zetten.
Uw keuken zal bij het warenhuis bestellen, voorraden aanvullen, de rekeningen betalen
Vandaag zijn apparaten voorbestemd om één enkele functie uit te voeren, of hooguit een beperkt aantal functies. Een toaster maakt toast. Een koffiemachine zet koffie. De rest doen wij zelf, zoals de telefoon beantwoorden. Integratie van functies is de volgende stap. Een keuken die al deze functies samenbrengt en automatiseert, zal uw voorkeuren kennen, uw dieet en smaak, de uren waarop u wilt eten, en de wensen van uw gasten (die ze meteen herkent). Diezelfde keuken zal bij het warenhuis bestellen, voorraden aanvullen, de rekeningen betalen. Machines zijn nu single purpose entiteiten, en zullen general purpose entiteiten worden. Wat mensen overigens ook zijn.
Deze evolutie verloopt gestaag, maar om sociaal aanvaardbaar te zijn is een zekere traagheid nodig. Menselijke aanpassing aan technologische ontwikkelingen is een kwestie van geduld — en van de juiste interfaces. Niet iedereen wil een Siri in de buurt, maar de aanvaarding van het principe (communicatie door middel van de stem en conversatie met een machine) is al ingeburgerd. Al snel praten alle huishoudtoestellen met ons. En ze verwachten een reactie.
Manipulatie
Maar algoritmen en intelligente machines moeten, om sociaal aanvaardbaar te zijn, voldoen aan een aantal kenmerken. Hun functies moeten begrijpelijk zijn, maar ook refereerbaar. Dat wil zeggen: achter hun beslissingen zitten menselijke verantwoordelijkheden. Het bedrijf dat u uw GPS of smartphone verkoopt, is per slot van rekening aanspreekbaar voor het correcte functioneren ervan.
Niemand wil een GPS of een klimaatcontrolesysteem dat plots gehackt wordt door misdadigers
Die machines moeten ook veilig zijn voor manipulatie. We hebben de voorbije maanden al genoeg cyberaanvallen gezien. Niemand wil een GPS of een klimaatcontrolesysteem dat plots gehackt wordt door misdadigers. Ook niet door de overheid, overigens. Het gedrag van systemen moet voorspelbaar zijn — voor mensen. Exotische artificiële intelligentie waarvan de motieven ver voorbij menselijk begrip liggen? Misschien moeten we dat vermijden. Klinkt alleen goed als scenario voor een techno-thriller.
In welke mate echter zullen toekomstige systemen morele regels ingebouwd krijgen? Zoals de drie wetten van de robotica van Isaac Asimov? Gebaseerd op menselijke moraliteit, welteverstaan, niet de een of andere algoritmische interpretatie. Want autonome voertuigen zullen op zeker moment morele beslissingen moeten nemen: rij ik een oude man op het trottoir aan omdat ik een overstekende groep kinderen wil ontwijken?
En hoe gaan wij vervolgens intelligente systemen en slimme machines behandelen, vooral wanneer ze steeds meer ‘menselijke’ trekken vertonen? Zullen we dan geneigd zijn hen ook ‘menselijk’ te behandelen? Zullen zij daar om vragen? Zullen we hen dezelfde rechten geven als dieren? Of als mensen? Het is een penibele kwestie, gezien de manier waarop wij dieren en andere mensen soms (slecht) behandelen.
Vandaag is de consensus dat machines geen rechten hebben. We beschouwen hen niet als ‘personen’. Ze zijn niet aan ons verwant. Maar in zeker zin zullen ze — wanneer ze steeds intelligenter worden — toch op de een of andere manier onze nakomelingen zijn. Het feit dat sommige mensen de evolutie naar artificiële intelligentie vrezen, duidt op sterke morele gevoelens. Misschien leren we van onze machines te houden, zoals we nu houden van onze huisdieren. Misschien verlangen we dan ook in even grote mate liefde en genegenheid van hen terug.
Net dat kan wel eens ons grootste probleem worden.
Bewaren
Bewaren
Bewaren
Bewaren
Bewaren
