Verbieden we killer robots? Of niet?

 Leestijd: 5 minuten1

Een verbod op killer robots is een hot topic, de Kamer stemde er al voor, de VN werkt eraan en het Europees Parlement sprak er zich net over uit. Autonome wapens halen de mens weg uit beslissingen rond geweld, wat geweld te goedkoop maakt en een wapenwedloop kan ontketenen. Maar er moet ook internationaal een consensus zijn voor zo’n verbod en de snel veranderende technologie is helemaal niet zo makkelijk te reguleren.

Zwermen kleine drones dringen razendsnel een universiteitscampus binnen. Daar zoeken ze via gezichtsherkenning elke student die een mensenrechtenfilmpje deelde, en doorboren de hoofden van die studenten. Dat is een van de scènes uit Slaughterbots, een Youtube-filmpje met nu al meer dan 2,5 miljoen views. Dat filmpje is fictioneel, maar het bleek een hoogst effectief wapen in de strijd om killer robots te verbieden.

 

Het verbieden van killer robots of autonome wapens is al een tijdje een hot item. In juli riep de Belgische Kamer nog op tot een verbod op killer robots, eind augustus kwam de Verenigde Naties erover bijeen en op 12 september keurde het Europees Parlement een resolutie goed voor een verbod. Zelfs tech-ondernemer Elon Musk is ertegen. Niettemin is dankzij internationaal politiek gemanoeuvreer het helemaal niet duidelijk of er zo’n verbod zal komen, en dankzij de snelle technologische innovatie is reguleren ook makkelijker gezegd dan gedaan.

Killer robots?

Killer robots spreken tot de verbeelding, maar wat zijn ze nu precies? “Er is een belangrijk verschil tussen militaire robots en autonoom militaire robots”, stelt Bram Vanderborght, professor robotica aan de VUB. “Militaire robots worden al veel gebruikt, maar hier zit er altijd een mens tussen die de beslissing om te vuren neemt. Maar nu is er ook een trend waarbij dit soort robots autonoom gaan beslissen over leven en dood.”

De beweging tegen killer robots focust zich dus vooral op wapens die autonoom werken, zonder menselijke tussenkomst, doorgaans via artificiële intelligentie of AI. Een drone of onbemand vliegtuig zou zo zijn camerabeelden via AI kunnen analyseren, kijken of er op de grond patronen voorkomen die overeenkomen met vijandelijke activiteit en autonoom beslissen of het daar een raket op afschiet.

Dankzij snelle vooruitgang in het veld van AI komen dit soort wapens steeds dichterbij. “En dit is toch wel een grens die overschreden wordt”, vervolgt Vanderborght. “De technologie zou dit soort beslissingen misschien toch wel niet mogen nemen.”

Disconnect tussen parlement en VN

Daarom wordt er nu op allerhande niveaus nagedacht over een preventief verbod op dit soort autonome wapens. Eind augustus zaten de Verenigde Naties nog samen om zo’n verbod te bespreken.

“De kern van de discussie is menselijke controle over het gebruik van geweld”, legt Daan Kayser van de Nederlandse NGO PAX uit, die hij vertegenwoordigde bij de VN-meeting. “Meer en meer landen zijn daar voor. In augustus zijn er nu twee concrete voorstellen neergelegd. Frankrijk en Duitsland willen een politieke verklaring, en Oostenrijk, Brazilië en Chili willen de start van onderhandelingen voor een bindend juridisch instrument. Een kleine groep landen van onder andere de Verenigde Staten en Rusland werken het nemen van concrete maatregelen nog tegen, en dat maakt het lastig omdat je consensus moet hebben.”

België liet zich tijdens die onderhandelingen opmerken omdat ze het Frans-Duitse voorstel steunden, in tegenstelling tot de Kamer die een verbod steunde. Officieel deed onze buitenlandse delegatie dat omdat er nog geen duidelijke definitie is over wat autonome wapens nu net zijn. “Er lijkt een disconnect tussen het parlement en de delegatie van België aan de VN”, besluit Kayser.

Diederik Cops, Vlaams Vredesinstituut
“Je moet een gemeenschappelijk standpunt krijgen, en alleen al binnen Europa lopen de visies nog steeds uiteen.”

Op 12 september stemde een ruime meerderheid van het Europees Parlement ook voor een resolutie die oproept om dit soort wapens te verbieden. Dit betekent niet dat een verbod al in zicht is. “Een resolutie is natuurlijk niet bindend, Federica Mogherini moet hier nu iets mee doen”, legt Diederik Cops van het Vlaams Vredesinstituut uit. “En dan zit je met dezelfde discussies als bij de VN. Je moet een gemeenschappelijk standpunt krijgen, en alleen al binnen Europa lopen de visies nog steeds uiteen.”

Wapenwedloop

De beweging tegen killer robots kreeg ook al steun binnen België, onder andere bij onderzoekers en academici. Eind vorig jaar tekenden 116 Belgische wetenschappers een open brief voor een verbod op dat soort robots. Een van de initiatiefnemer daarvan was Tony Belpaeme, professor aan de UGent en de Universiteit van Plymouth die onder andere werkt rond robotica en AI.

Eind vorig jaar tekenden 116 Belgische wetenschappers een open brief voor een verbod op dat soort robots.

“De meeste mensen die ertegen zijn vinden dat we machines geen morele beslissingen mogen laten nemen, of dat de technologie zelf nog niet op punt staat, maar ik volg die argumenten niet helemaal”, stelt Belpaeme.

Zijn tegenargument voor killer drones is verrassend genoeg menselijker: “Voor mij gaat het meer over dat we een dure wapenwedloop zullen ontketenen. En die wapens zullen zo goedkoop zijn dat het niet enkel legers zijn, maar dat ook terroristen en individuen dat soort wapens zullen aanschaffen. Dan weet je niet waar het gaat eindigen.”

Professor Tony Belpaeme
“Een oorlog moet duur zijn, plegen van geweld moet moreel en economisch duur blijven, want anders is het hek van de dam.”

Killer robots maken volgens Belpaeme oorlog ook te makkelijk, althans voor één kant. “Het is erg makkelijk een oorlog te starten als er geen slachtoffers zijn aan jouw kant. Een oorlog moet duur zijn, plegen van geweld moet moreel en economisch duur blijven, want anders is het hek van de dam.”

Terminator

Debatten over killer robots roepen beelden op van science-fiction films zoals Terminator, waar intelligente robots de mensheid uitroeien. Dat is vaak een vrees in het debat rond killer robots: dat robots in opstand komen en zich tegen de mensheid keren.

Volgens Belpaeme is dat geen belangrijk argument tegen killer robots: “Het gaat helemaal niet in die richting. Zeg nooit nooit, want misschien wordt binnen 100 jaar het tegendeel bewezen. Maar deze bezorgdheid is niet prangend. Wat robots echt kunnen is erg beperkt, en het idee dat ze een bewustzijn krijgen is volledig science-fiction.”

“Misschien dat dit binnen 100 jaar een probleem is”, vervolgt hij. “Maar AI is fundamenteel heel eenvoudig, en staan erg ver weg van de intelligentie die hiervoor nodig is. Software bugs kunnen natuurlijk wel een probleem vormen. Net zoals je IPhone soms crasht kan dit ook gebeuren met killer robots, maar met wapens ligt de prijs daarvan natuurlijk veel hoger.”

Verbod op onderzoek?

De visies op hoe een verbod op autonome wapens er moet uitzien lopen wel licht uiteen. “Wij ijveren voor een verbod op de hele keten, dus op onderzoek naar dit soort wapens, de productie ervan en het uiteindelijke gebruik”, stelt Kayser van Pax.

Zowel Vanderborght als Belpaeme zijn terughoudender voor een verbod op onderzoek, alhoewel ze voor een verbod op het bouwen en verkopen van dit soort wapens zijn. Voor hen is het vaak erg moeilijk om militaire en civiele technologie uit elkaar te houden. Het verbod vanuit de Belgische Kamer verwees trouwens niet naar onderzoek.

Professor Belpaeme
“Heel wat van de civiele technologie die we hier ontwikkelen kan gebruikt worden in wapens.”

“Een verbod op onderzoek naar dat soort robots is erg moeilijk, want wat is ontwikkeling?”, vraagt Vanderborght. “Voor drones bijvoorbeeld is er erg veel technologie die zowel civiel als militair gebruikt wordt en gezichtsherkenning is nuttig voor een IPhone maar ook voor wapens. Dus ga je al die ontwikkeling aan banden leggen? Die grens is heel vaag.” Belpaeme beaamt dat: “Heel wat van de civiele technologie die we hier ontwikkelen kan gebruikt worden in wapens.”

Ook Pax nuanceert dat ze vooral onderscheid willen aanbrengen in onderzoek: “We willen alleen een beperkt stuk militair onderzoek verbieden, namelijk het autonoom selecteren en aanvallen van doelen. En dat schept ook meer duidelijkheid voor de onderzoekers zelf. Bij het verbod op chemische wapens was de chemische industrie ook erg blij dat alles eindelijk duidelijk was”, vertelt Kayser.

“Het is heel moeilijk om in die onderzoeksfase te bepalen of iets een militaire finaliteit heeft”, vertelt Diederik Cops. “En er is een bezorgdheid dat vooruitgang van civiele technologie ook geschaad wordt. Er moet dus een balans komen tussen het vermijden van mogelijke rechtenschendingen enerzijds, en anderzijds het mogelijk maken van innovatie in civiele domeinen toelaten. En dat is heel moeilijk want de technologie evolueert zo snel.”

Voorlopig blijft de stoomtrein voor een verbod nog wel op gang: “Dit is een eis die breed gedragen wordt, en er zijn historische voorbeelden. Eerder zijn ook verblindende laserwapens succesvol preventief verboden, en met killer robots kan dat evengoed werken”, besluit Kayser.

Auteur: Tom Cassauwers

Freelance reporter en schrijver, vooral over technologie en geschiedenis,

Word lid

Word jij lid van Apache? Lees direct verder en steun onafhankelijke onderzoeksjournalistiek. Nu al vanaf 6,25 euro per maand.


Ja, ik word lid

Word nu lid van Apache en geniet van deze voordelen:

  • Toegang tot alle ruim 4.000 artikels
  • Deel de artikels gratis met je vrienden
  • Toegang tot alle dossiers en het volledige archief
  • Treed in discussie met journalisten en andere lezers
  • Korting op events en andere journalistieke producten, zoals e-books