“Robots die zich tegen de mens keren, robots die de wereld overnemen, het zijn scenario’s waarover al decennia sciencefictionfilms worden gemaakt. In essentie verschillen blockbusters als Terminator en The Matrix weinig van het verhaal van de Golem die al in de vroege Talmoed opduikt.” 

De openingszinnen van een artikel van Sietse Bruggeling in de Volkskrant. Volgens Bruggeling worden de gevaren van automatische en autonome gevechtssystemen schromelijk overdreven. 

Foto: Flickr

Dergelijke wapens kunnen juist helpen om levens van onschuldigen te sparen en vernietiging te voorkomen. “Als het ons lukt daarover een intelligente discussie te voeren, zonder fabels en horrorverhalen, kunnen autonome en onbemande systemen ons helpen te bereiken wat we met z’n allen zo graag willen: minder oorlogsslachtoffers.”  De discussie daarover moeten we nu voeren, want: “We hebben nu een kans om democratisch te bepalen wat onze toekomstige manier van oorlogvoeren gaat worden. Die moeten we niet laten voorbijgaan door ons te verliezen in sciencefiction-scenario’s.” 

Zou bij het voeren van die intelligente discussie niet juist ook met de horrorscenario’s rekening moeten worden gehouden? Een kenmerk van techniek is dat deze niet goed of slecht is. Techniek kan voor goede of slechte doeleinden worden aangewend. Dat er haken en ogen aan autonome gevechtssystemen zitten lijkt Bruggeling zich ook te realiseren: “Hoe voorkomen we dat deze wapens in verkeerde handen vallen of worden gehackt? En als we zelflerende wapens willen, nog weer een stap verder in het automatiseringsproces, van wie moeten ze dan leren?” Terechte vragen waar er nog een paar aan kunnen worden toegevoegd. Hoe kunnen we voorkomen dat kwaadwillenden zelf dergelijke wapens ontwikkelen? Met name de vraag van wie de zelflerende wapens moeten leren is een interessante. Als de geschiedenis iets laat zien dan is het dat ‘zelflerende apparaten (mensen) niet alleen leren van goede voorbeelden. Zou dat bij zelflerende machines ook kunnen gebeuren?

Een bijzonder probleem in de redenering van Bruggeling levert het op zich nobele streven om democratisch bepalen wat de toekomstige manier van oorlogvoeren is. Stoten we daar niet op een probleem? Hoe bepaal je iets democratisch terwijl zeer veel landen niet democratisch zijn? Zelfs al waren alle landen democratieën, zou een land dat een oorlog dreigt te verliezen, zich aan de gemaakte afspraken houden? Immers, als de hele wereld democratisch zou zijn, zouden er dan nog oorlogen worden gevoerd?