Wat als …

Een paar dagen geleden schreef ik een prikker met als titel Democratische oorlog. Dit naar aanleiding van een artikel van Sietse Bruggeling in de Volkskrant. Bruggeling schreef over automatische en autonome gevechtssystemen die zouden kunnen helpen om de levens van onschuldigen te sparen en onnodige vernietiging van zaken te voorkomen. Bruggeling reageerde op mijn prikker, iets wat ik zeer op prijs stel. Dit biedt namelijk de mogelijkheid om met elkaar in gesprek te gaan en zo samen verder te komen.

dromen

Illustratie: Pixabay

Bruggeling sloot zijn reactie af met de volgende woorden: “En we moeten ook wel rekening houden met horrorscenario’s. Ik vind ook echt dat we goed moeten discussiëren over het onderwerp, want ze kunnen in potentie levens redden, maar dat is nu natuurlijk nog onduidelijk. Maar dan moeten we wel praten over feiten en niet over vergezochte fantasieën.” Inderdaad moeten we de feiten niet uit het oog verliezen. Die dienen een belangrijke plek in te nemen, dat ben ik met Bruggeling eens en heb ik hem ook geantwoord.

Zouden echter die fantasieën niet ook een plek moeten krijgen in het gesprek over kunstmatige intelligentie, want daar heb je het over als je het over autonome wapens hebt? Zijn fantasieën immers niet een van de motoren achter de technische ontwikkeling? Zijn er niet vele voorbeelden van fantasieën die uiteindelijk werkelijkheid zijn geworden? Neem vliegen, dat was eeuwenlang een fantasie, nu is het werkelijkheid. Of het bezoeken van de maan? Direct spreken met mensen aan de andere kant van de wereld? Allemaal ooit een fantasie, nu werkelijkheid.

Zouden niet zowel de ‘hemelse’ als de ‘helse’ fantasieën een plek moeten krijgen in het gesprek? Zou het proberen te achterhalen wat de cruciale factoren zouden kunnen zijn in het bereiken van zowel de ‘hemelse’ als de ‘helse’ fantasieën, ons niet verder helpen juist bij het bereiken van de ‘hemel’ en het voorkomen van de ‘hel’?

Democratische oorlog

Robots die zich tegen de mens keren, robots die de wereld overnemen, het zijn scenario’s waarover al decennia sciencefictionfilms worden gemaakt. In essentie verschillen blockbusters als Terminator en The Matrix weinig van het verhaal van de Golem die al in de vroege Talmoed opduikt.” 

De openingszinnen van een artikel van Sietse Bruggeling in de Volkskrant. Volgens Bruggeling worden de gevaren van automatische en autonome gevechtssystemen schromelijk overdreven. 

terminator

Foto: Flickr

Dergelijke wapens kunnen juist helpen om levens van onschuldigen te sparen en vernietiging te voorkomen. Als het ons lukt daarover een intelligente discussie te voeren, zonder fabels en horrorverhalen, kunnen autonome en onbemande systemen ons helpen te bereiken wat we met z’n allen zo graag willen: minder oorlogsslachtoffers.”  De discussie daarover moeten we nu voeren, want: “We hebben nu een kans om democratisch te bepalen wat onze toekomstige manier van oorlogvoeren gaat worden. Die moeten we niet laten voorbijgaan door ons te verliezen in sciencefiction-scenario’s.” 

Zou bij het voeren van die intelligente discussie niet juist ook met de horrorscenario’s rekening moeten worden gehouden? Een kenmerk van techniek is dat deze niet goed of slecht is. Techniek kan voor goede of slechte doeleinden worden aangewend. Dat er haken en ogen aan autonome gevechtssystemen zitten lijkt Bruggeling zich ook te realiseren: “Hoe voorkomen we dat deze wapens in verkeerde handen vallen of worden gehackt? En als we zelflerende wapens willen, nog weer een stap verder in het automatiseringsproces, van wie moeten ze dan leren?” Terechte vragen waar er nog een paar aan kunnen worden toegevoegd. Hoe kunnen we voorkomen dat kwaadwillenden zelf dergelijke wapens ontwikkelen? Met name de vraag van wie de zelflerende wapens moeten leren is een interessante. Als de geschiedenis iets laat zien dan is het dat ‘zelflerende apparaten (mensen) niet alleen leren van goede voorbeelden. Zou dat bij zelflerende machines ook kunnen gebeuren?

Een bijzonder probleem in de redenering van Bruggeling levert het op zich nobele streven om democratisch bepalen wat de toekomstige manier van oorlogvoeren is. Stoten we daar niet op een probleem? Hoe bepaal je iets democratisch terwijl zeer veel landen niet democratisch zijn? Zelfs al waren alle landen democratieën, zou een land dat een oorlog dreigt te verliezen, zich aan de gemaakte afspraken houden? Immers, als de hele wereld democratisch zou zijn, zouden er dan nog oorlogen worden gevoerd?