Packbot en oneindige menselijke domheid

Robots spelen een steeds grotere rol in oorlogvoering. Geweld wordt uitbesteed aan machines. Belangwekkend, vindt P.W. Singer. Maar: ‘Wie houdt toezicht op deze shit?’..

Diederik van Hoogstraten

Op Amerika’s grote rampdag, 11 september 2001, maakte een slimme robot zijn debuut. De 1,50 meter hoge ‘Packbot’ wordt door de fabrikant omschreven als een op afstand bestuurbare ‘soldaat’ die bovenmenselijke risico’s kan nemen zonder levens in gevaar te brengen. Op en na 9/11 hielp hij zoeken in de puinhopen van het World Trade Center.

The New York Times omschreef de Packbots destijds als ‘reddingswerkers die niet worden beïnvloed door de verwoesting, het stof en de rook. Ze zijn immuun voor de uitputting en droefenis die in de lucht hangen’. Ook kunnen ze geen kanker krijgen door vervuilde lucht. Juist afgelopen week kwam in het nieuws dat jonge reddingswerkers door de rotzooi destijds in de lucht nu een verhoogd risico lopen op bloedkanker.

De Packbot maakte kort daarna zijn entree in Afghanistan en Irak. Andere robotmakers volgden het voorbeeld van fabrikant iRobot, met alle mogelijke soorten en exemplaren die het Amerikaanse leger – en de krijgsmachten van steeds meer andere landen – sindsdien bijstaan. De rol en invloed van deze supercomputers-in-kogelvrij-materiaal groeit met de dag. ‘Wij betreden het tijdperk van robots in oorlog’, merkt P.W. Singer op. Het omslag van zijn knappe boek Wired for War oogt dreigend, met een grijze lucht boven een gevechtsvliegtuig en de ondertitel: The Robotics Revolution and Conflict in the 21st Century.

Singer heeft nieuws voor wie dacht dat een ‘revolutie van robots’ iets was van sciencefiction films. Binnen een paar jaar is het aantal vliegende, rijdende, zwemmende, schietende robots in Irak en Afghanistan explosief gestegen. Amerikaanse bedrijven zoals Foster-Miller en het beursgenoteerde iRobot maken imposante winsten met hoogwaardige machines die mijnen kunnen ontmantelen, vijanden kunnen opsporen, geen dorst of honger krijgen, en nauwelijks kapot kunnen.

De politicoloog en defensiespecialist Singer is verbonden aan het Brookings Institution, een denktank in Washington; hij diende Barack Obama vorig jaar van advies. In zijn twee eerdere boeken, over de commercialisering van oorlog en het misbruik van kindsoldaten, toonde hij al zijn scherpe geest en schrijftalent.

Beide zijn opnieuw zichtbaar in dit boek vol humor en met talrijke referenties aan de popcultuur. Zo betreurt hij het, ‘samen met veel mannen’, dat de beveiliging bij lingerie-maker Victoria’s Secret is opgedragen aan een robot: ‘Een van de meest verontrustende voorbeelden van gemechaniseerde uitbesteding.’ Hij gaat in op de rol van Star Trek: ‘De populariteit en invloed van sciencefiction komt ten dele voort uit een opmerkelijk talent om de toekomst te voorspellen.’

Robots zijn cool, vindt Singer. Maar ook toont hij zich bezorgd over het gebrek aan coördinatie en toezicht op de militaire toepassing. Het is waar dat er robots worden gemaakt om te helpen in het huishouden; een groeiend aantal mensen stofzuigt niet langer zelf. Het klopt ook dat robots belangrijk werk doen na natuurrampen, zoals in New Orleans na de overstromingen van 2005.

Maar het leeuwendeel van de technologie – van ‘slimme bommen’ uit de jaren negentig tot de nieuwste generatie onbemande Predator-vliegtuigen – is voor militaire doeleinden. En in die sector heerst een sfeer die de anarchie benadert. Singer citeert een straaljagerpiloot: ‘Wie houdt toezicht op al deze shit? Wie integreert het? Die structuren zijn er gewoon niet.’

Ook op meer filosofisch gebied zijn er vragen. Singer noemt een opstandeling in Irak die de Amerikanen lafaards vindt. Ze durven niet meer te vechten en sterven, ze sturen machines. Zo bezien is de uitbesteding van geweld aan robots een uiting van de waarde die in het Westen wordt gehecht aan het individu. Een cultuur die elk leven waardeert en elke dode betreurt, ziet zijn ‘sneuvelbereidheid’ dalen. Robots maken het mogelijk om desondanks effectief oorlog te voeren. Er sneuvelen minder soldaten, en de Packbot cum suis zijn preciezer en zorgvuldiger dan mensen.

Singer waarschuwt echter voor de ‘ontmenselijking’ van oorlog. Geleerden vanaf Hugo de Groot hebben nagedacht over de ethiek van oorlog. ‘Oorlog is nog altijd gebonden aan regels, een wereld van ge- en verboden – een morele wereld middenin de hel’, schreef de Amerikaanse filosoof Michael Walzer.

De theorie was gebaseerd op ‘wederkerigheid’, symmetrie tussen de strijdende partijen. Maar oorlog wordt asymmetrisch; aan de ene kant door ongrijpbare terroristen die geen wet of regel erkennen, anderzijds door ‘automatisering’. De man in Irak die ongezien een bermbom plaatst, wordt alsnog opgeblazen door een Predator-vliegtuig, bestuurd vanuit Kansas. De partijen zien elkaar niet meer. Respect is verdwenen en het 20ste-eeuwse oorlogsrecht wordt onbruikbaar.

Singer: ‘Door oorlog minder een zaak van mensen te maken, kan het zijn dat we oorlog ook minder humaan maken.’ De kans op oorlogsmisdaden verdwijnt, maar dat geldt ook voor het vermogen om wreedheden te weigeren. ‘Een computer kent geen woede, maar ook geen medelijden, geen afschuw, geen schuldgevoel.’

Maar in de ‘vlakke’, volle, verbonden wereld van nu is er weinig tijd om stil te staan bij de fundamentele veranderingen door de opkomst van robots. Singer vreest dat mensen te ongeduldig, te snel afgeleid zijn om verstandig om te gaan met de implicaties van de nieuwe technologie die we zelf hebben geschapen. ‘Vergissingen zitten niet alleen in de aard van de robot, maar ook in de aard van de mens’, observeert hij. Om vervolgens Albert Einstein aan te halen: ‘Er zijn maar twee dingen oneindig: het universum en menselijke domheid. En ik ben niet zeker van het eerste.’

Er is na duizenden jaren van oorlog geen reden om aan te nemen dat het binnenkort – of ooit – pais en vree zal zijn op aarde. Oorlog is van oudsher oer-menselijk, merkt Singer op, net als kunst.

De auteur weet dit, en is toch teleurgesteld. Waarom moet de creatieve energie, het wetenschappelijke talent en al dat geld aan ‘gerobotiseerde oorlogsvoering’ worden besteed? ‘Deze revolutie wordt vooral voortgedreven door ons onvermogen om conflicten achter ons te laten.’

De meeste mensen haten oorlog. Door niets te willen weten van de revolutionaire veranderingen, negeren ze wat er gaande is. Een riskante vorm van ontkenning, vindt Singer. Zijn eigen boek draagt gelukkig bij aan voortschrijdend inzicht over ‘een van de hoofdzonden van onze soort: het onvermogen om in vrede te leven’.

Diederik van Hoogstraten

Meer over