“Robots die zich tegen de mens keren, robots die de wereld overnemen, het zijn scenario’s waarover al decennia sciencefictionfilms worden gemaakt. In essentie verschillen blockbusters als Terminator en The Matrix weinig van het verhaal van de Golem die al in de vroege Talmoed opduikt.”
De openingszinnen van een artikel van Sietse Bruggeling in de Volkskrant. Volgens Bruggeling worden de gevaren van automatische en autonome gevechtssystemen schromelijk overdreven.
Foto: Flickr
Dergelijke wapens kunnen juist helpen om levens van onschuldigen te sparen en vernietiging te voorkomen. “Als het ons lukt daarover een intelligente discussie te voeren, zonder fabels en horrorverhalen, kunnen autonome en onbemande systemen ons helpen te bereiken wat we met z’n allen zo graag willen: minder oorlogsslachtoffers.” De discussie daarover moeten we nu voeren, want: “We hebben nu een kans om democratisch te bepalen wat onze toekomstige manier van oorlogvoeren gaat worden. Die moeten we niet laten voorbijgaan door ons te verliezen in sciencefiction-scenario’s.”
Zou bij het voeren van die intelligente discussie niet juist ook met de horrorscenario’s rekening moeten worden gehouden? Een kenmerk van techniek is dat deze niet goed of slecht is. Techniek kan voor goede of slechte doeleinden worden aangewend. Dat er haken en ogen aan autonome gevechtssystemen zitten lijkt Bruggeling zich ook te realiseren: “Hoe voorkomen we dat deze wapens in verkeerde handen vallen of worden gehackt? En als we zelflerende wapens willen, nog weer een stap verder in het automatiseringsproces, van wie moeten ze dan leren?” Terechte vragen waar er nog een paar aan kunnen worden toegevoegd. Hoe kunnen we voorkomen dat kwaadwillenden zelf dergelijke wapens ontwikkelen? Met name de vraag van wie de zelflerende wapens moeten leren is een interessante. Als de geschiedenis iets laat zien dan is het dat ‘zelflerende apparaten (mensen) niet alleen leren van goede voorbeelden. Zou dat bij zelflerende machines ook kunnen gebeuren?
Een bijzonder probleem in de redenering van Bruggeling levert het op zich nobele streven om democratisch bepalen wat de toekomstige manier van oorlogvoeren is. Stoten we daar niet op een probleem? Hoe bepaal je iets democratisch terwijl zeer veel landen niet democratisch zijn? Zelfs al waren alle landen democratieën, zou een land dat een oorlog dreigt te verliezen, zich aan de gemaakte afspraken houden? Immers, als de hele wereld democratisch zou zijn, zouden er dan nog oorlogen worden gevoerd?
Ballonnendoorprikker 
Dank voor het kritisch lezen van het stuk. En je plaatst een terechte kanttekeningen.
Als het oorlog is, gaat een verliezend land zich dan nog aan de regels houden? Als je kijkt naar de internationale afspraken die er zijn over gifgas bijvoorbeeld en je ziet wat er nu in Syrië gebeurt, zou je kunnen zeggen dat dergelijke afspraken niets uithalen. Toch is dat niet helemaal waar. De hele internationale gemeenschap is in opstand gekomen en heeft de inzet van gifgas veroordeeld. Vervolgens heeft de politiek weer allerlei vreselijke bochten genomen waardoor het waarschijnlijk alsnog is door gegaan. Dus in die zin zou je kunnen zeggen dat de 30 jaar die er in Geneve onderhandeld is over chemische wapens voor niets zijn geweest. Aan de andere kant is het inmiddels “not done” om ze in te zetten en kun je dat niet meer zo maar doen. En het gebruik is zeer beperkt geworden.
En we moeten ook wel rekening houden met horrorscenario’s. Ik vind ook echt dat we goed moeten discussiëren over het onderwerp, want ze kunnen in potentie levens redden, maar dat is nu natuurlijk nog onduidelijk. Maar dan moeten we wel praten over feiten en niet over vergezochte fantasien.
Met groet,
Sietse Bruggeling
LikeLike
Beste meneer Bruggeling,
bedankt voor uw reactie. Deze problematiek of kans, het is maar hoe je het bekijkt, moet inderdaad goed worden doordacht en daarbij helpen gesprekken en het stellen van vragen. Ik ben het met u eens dat internationale afspraken meer garantie bieden bij het voorkomen van ongewenste zaken. Dat die afspraken landen en hun leiders voorzichtiger maken.
Inderdaad moeten feiten een belangrijke rol spelen. Fantasieën moeten we echter ook niet helemaal vergeten. Ervaringen uit het verleden leren immers dat de fantasieën van vandaag in de toekomst soms realiteit worden. dat geldt voor negatieve fantasieën(dus naar de horror kant), maar ook voor de positieve. Wellicht zou het helpen om beide kanten eens goed te doordenken en daarbij de vraag te stellen hoe het gekomen zou kunnen zijn dat de ‘hemel’ of de ‘hel’ is uitgebroken. Dit om zo op zoek te gaan naar de kritische succes- en faalfactoren. Wellicht helpt ons dat vooruit?
In ieder geval bedankt voor uw reactie en altijd bereid om de bovenstaande ‘oefening’ te doen.
Met vriendelijke groet,
de Ballonnendoorprikker
LikeLike