Artikel: Beteugel de killer robot, nu het nog kan

Artikel: Beteugel de killer robot, nu het nog kan

September 8, 2017 Uncategorized 0

Zojuist Miriam Struijk van Pax For Peace uitgenodigd voor een Goodmorning Rotterdam in de slotweek van de Dutch Design Month naar aanleiding van haar opiniestuk “Beteugel de killer robot, nu het nog kan” in Trouw. zie https://www.trouw.nl/home/beteugel-de-killer-robot-nu-het-nog-kan~a1e543a3/. Ik vind het zo’n belangrijk artikel dat ik het ongecensureerd heb overgenomen. 

Miriam Struyk 

De Guardium II, een in Israël ontwikkeld onbemand verkenningsvoertuig. © AFP
OPINIE

Autonome wapens zijn volgens Nederland geen probleem en dat is ronduit naïef, stelt Miriam Struyk, directeur programma’s bij Pax.

Bedrijven die vragen om regulering van hun eigen werkgebied: het is beslist geen schering en inslag. Doorgaans laten ondernemers zich het liefst zo min mogelijk in de weg leggen. Zo niet de directeuren van 116 roboticabedrijven. In een brandbrief riepen zij onlangs de Verenigde Naties op tot een verbod, om te voorkomen dat autonome wapens oftewel killer robots ooit het levenslicht zien: wapens die zonder menselijke tussenkomst hun doelwit kunnen selecteren en uitschakelen. Door de voortdenderende technologie is het allang niet meer de vraag of, maar wanneer dergelijke wapens hun intrede doen op het slagveld, tenzij staten gezamenlijk besluiten deze levensgevaarlijke ontwikkeling een halt toe te roepen. Haast is geboden, stellen de 116 technologie-bazen: zodra deze doos van Pandora is geopend, is er geen weg terug.

Op zijn beloop

Minister Hennis van defensie gaf een dag na publicatie van de brief al aan dat bij het gebruik van wapensystemen altijd sprake moet zijn van ‘betekenisvol menselijk handelen’. De minister gaf zelfs te kennen de open brief als een ‘steun in de rug’ te beschouwen en dat het risicovol zou zijn om de kwestie maar op zijn beloop te laten.

Maar dat is nu net precies wat Nederland doet. Hennis speelt namelijk met woorden om zo de deur open te houden voor de verdere ontwikkeling van deze wapens.

Het Nederlandse beleid – lopend tot 2020 – stelt dat menselijke controle helemaal niet noodzakelijk is tijdens de kritieke fase van selectie van en aanval op een doelwit, maar dat controle aan het begin van het proces, te weten tijdens de programmeerfase, afdoende is. En aldus zijn autonome wapens volgens Nederland geen enkel probleem.

Dit standpunt is ronduit naïef. Een robot kan goed functioneren binnen een veilige gestructureerde omgeving. Maar oorlog is uitermate chaotisch en onvoorspelbaar. Hoe vooraf een systeem te programmeren, dat garandeert dat het juiste doelwit aangevallen wordt? Hoe te garanderen dat het wapen op het cruciale moment onderscheid maakt tussen een burger of een militair?

Het is onmogelijk om de regels van het humanitair oorlogsrecht of het internationaal recht na te leven wanneer niet meer de mens, maar de machine de dienst uitmaakt op het slagveld. Tot slot spelen grote ethische bezwaren een rol. Willen we dat machines beslissingen maken over leven of dood?

Tekentafelbeleid

Op het eerste gezicht kan het aantrekkelijk lijken dat soldatenlevens kunnen worden gespaard door de inzet van autonome wapens, maar, net als bij bewapende drones, zullen ze ook door anderen – inclusief terroristen – worden ingezet. Als je de gedachte toelaat dat dergelijke wapens tegen ons gebruikt kunnen worden, klinken de beweerde voordelen al snel minder aangenaam. Moeten we in deze onzekere en gevaarlijke tijden inzetten op een verdere industrialisering van oorlogsvoering, op een nieuwe wapenwedloop?

Nu naast ngo’s ook wetenschappers en het bedrijfsleven zich uitspreken tegen killer robots, moet de Nederlandse regering zich niet langer verschuilen achter haar tekentafelbeleid. Een nieuwe regering zal het beleid moeten herzien en zich hardmaken voor een preventief internationaal verbod. Wapens worden vaak pas gereguleerd of verboden als het eigenlijk te laat is, als ze al gebruikt worden. Bij killer robots kunnen we nog op tijd zijn – een kans die de VN, inclusief Nederland, niet mag laten lopen.