De late reacties op de killerrobots

Van robots die in de nabije toekomst te maken zijn, zegt men wel dat die gevaarlijk kunnen zijn omdat ze zonder scrupules – die immers zonder programmering bij robots niet bestaan – hun ingestelde doelstelling willen halen. Kun je nog bij de veiligheidsknop voor ze veel verwoestend op weg zijn naar dat doel? Een doel, het kan een heel eenvoudige zijn, als ze maar gehaald worden. Koste wat het kost.
    Nog slimmer – in meerdere betekenissen van het woord – wordt het als robots geprogrammeerd kunnen worden om zelf verder te programmeren en produceren. Van alles kan bedacht worden wat tot voor kort een droom leek, maar nu dichterbij komt.
    Het beeld is dat overal individuen en naar winst snakkende bedrijven bezig zijn systemen te vervolmaken, maar nergens de samenleving voldoende paraat staat om te zorgen voor een juiste, veilige en sociale inbedding en afgrenzing. Men weet niet wat men doet, wat een vervreemding!
    Een droom? Of een drone? Zo’n drone eigenlijk, is gewoon een nog vrij eenvoudig vliegend robotje. Je kunt er van alles mee, een brood, een zak pepernoten of een bom als strooigoed er onder hangen. Eenvoudig misschien, maar tien jaar geleden had nog (bijna) niemand ervan gehoord. Het kan snel gaan.

Je zou als het om ‘autonome’ wapensystemen gaat minimaal drie flinke breed gevoerde discussies verwachten: de meer technische, de strategische en de morele, dus sociaalethische. Wat wil je, wat houd je in de hand, en waar dreig je het grip kwijt te raken? En bij dat laatste, welke gradaties van resultaat of ongeluk komen aan de orde? In feite heel veel aspecten, wat er maar over te verzinnen valt. En vooral wat nu nog niet wordt verzonnen, maar even later wel.

Deze discussies dringen zich op wanneer je denkt aan deze ‘killerrobots’, die dus ook een doelstelling waar moeten maken, bedacht vanuit de soms ronduit slechte gezindheid van bouwers, overheden, politici en de programmeur.
    Het meest vreemde is het gemis van deze noodzakelijke pittige discussies. Gaat het weer als altijd, dat de Verenigde Naties en de diverse – elkaar naar het leven staande – bondgenootschappen er pas over nadenken als het kwaad al is geschied?
    Ook hier zou het voorzorgprincipe moeten gelden. Verbod, tenzij! En niet eerst bouwen en dan weer beheersen, wat gewoon neerkomt op een nieuwe wapenwedloop met een enorm ‘potentieel’ aan slachtoffers en verwoesting, dus ook van machtsmisbruik.

Laat vredesbewegingen, de politiek en weldenkende mensen zich uitspreken. Het is zo paradoxaal. Niemand is gebaat bij een moordende en verwoestende technologie, en tegelijk is die al reëel aanwezig. Terwijl in feite de mensheid nog maar in haar kinderschoenen staat. Het hoeft nog niet te gaan om een de Apocalyps, maar kleinere oorlogen kunnen evenzeer verwoestend, uitdijend en nauwelijks af te stoppen zijn.

Natuurlijk zal de lezer nu voorbeelden kennen waar er wel wordt nagedacht en gewaarschuwd. Dat is echter nog geen verdrag of wet, laat staan een rem om vrijwel zonder enige regulering alles maar uit te vinden. Ook het kwaad.
    Op het gebied van killerrobots ben ik maar een gemiddelde krantenlezer. Net als alle andere normale lezers zie ik soms een artikel over killerrobots of robotisering voorbij komen. En er ontstaat langzamerhand  op tv een soort beeld wat er allemaal gaat kunnen. Maar een grote beweging, een poging iets te beheersen dat onbeheerst levensgevaarlijk is, staat hooguit in haar kinderschoenen.

Er is één argument dat niet geldt, dat slechts neerkomt op een drogreden. Er zijn mensen die zeggen dat een automatisch wapen niet zo erg is zolang die maar doet wat wij willen, dus niet zichzelf programmeert of zelfs zelfprogrammerende wapens kan maken. Maar wat ‘wij’ willen? Is dat altijd zo zuiver? Met dat argument zouden er ook geen oorlogsmisdadigers bestaan. In tijden van oorlog, met welke oorzaak dan ook, zijn mensen geneigd zich niet aan afspraken en regels te houden. Sommigen gaan dan nog verder en vermaken zich over ‘ethische’ tegenstanders, die dat wel doen. Die worden gewoon uitgelachen ‘Sliep-uit!’

Al met al moet de regulering dus snel, doeltreffend en geavanceerd zijn. Weet ik er te weinig van? Misschien wordt aan dit ‘veel verbieden’ van deze ontwikkeling wel gewerkt. Toch waag ik te betwijfelen of dat in voldoende mate gebeurt. Het ligt meer voor de hand dat Trump en Poetin liever aan iets anders werken.
      Er bestaat een groot risico van ‘mosterd na de maaltijd’. Wat kan dan nog in de hand worden gehouden? Acties over deze kwestie verdienen alle ondersteuning.
      Inclusief de steun van de vermeende ‘groten der aarde’, want zij zullen zich allicht vergissen en denken voorop te lopen, terwijl ze al gepasseerd worden.






Een organisatie die duidelijk wel aandacht besteedt aan killerrobots is PAX.
Zie bijvoorbeeld: https://www.paxvoorvrede.nl/publicaties/alle-publicaties/keeping-control

Over belangrijk onderzoek naar wapenhandel, zie http://www.stopwapenhandel.org/