EssayKunstmatige intelligentie

De mens als machine en de machine als mens

null Beeld Maus Bullhorst
Beeld Maus Bullhorst

In het boek The Human-Machine Team beschrijft de Israëlische brigadegeneraal Y.S zijn studiejaar aan de National Defense University in Washington. We bevinden ons volgens hem in een digitale revolutie waarin AI een cruciale rol zal spelen.

Arnon Grunberg

Wetenschapsfilosoof Thomas Kuhn (1922-1996) is beroemd geworden met zijn boek De structuur van wetenschappelijke revoluties (1962), waarin hij de geschiedenis van de wetenschap vanuit sociologisch perspectief probeerde te overzien. De Nederlandse socioloog Joop Goudsblom (1932-2020) liep in de jaren zestig college bij Kuhn op Princeton University.

In zijn memoires Geleerd (2016) vat Goudsblom een belangrijke bouwsteen van Kuhns denken zo samen: ‘Kuhn gebruikte het begrip ‘paradigma’ om aan te duiden dat elke wetenschappelijke school uitging van een eigen stilzwijgend aanvaard gemeenschappelijk wereldbeeld.’

Op den duur is zo’n gemeenschappelijk wereldbeeld niet langer houdbaar en is er sprake van een crisis die een paradigmawisseling ten gevolg heeft, oftewel een wetenschappelijke revolutie. De anomalie, de afwijking van de regel, die volgens Kuhn onder normale omstandigheden wordt genegeerd, kan dan niet langer terzijde worden geschoven.

De tegenwoordig onder zogenaamd verlichte geesten populaire uitspraak dat we in wetenschap moeten geloven is niet alleen onwetenschappelijk, maar zou vooral aanleiding moeten zijn om Kuhn te lezen, al was het maar om scherp te krijgen waarover we het hebben als we over wetenschap spreken.

Brigadegeneraal

In het merkwaardige en fascinerende boek The Human-Machine Team (‘Het mens-machineteam’) van brigadegeneraal Y.S wordt er met achting over Kuhn geschreven. Y.S vat Kuhn zo samen: elke menselijke revolutie is voortgebracht door een crisis.

Fascinerend aan The Human-Machine Team is om te beginnen de auteur, Y.S. Hij leidt Eenheid 8200, de grootste afdeling van het Israëlische leger, vergelijkbaar met de National Security Agency (NSA) in Amerika; beide organisaties houden zich bezig met het vergaren, sorteren en interpreteren van informatie. Hoe groot die schaal is, werd mede bekend door Edward Snowden, die in 2013 onthulde dat ruwe data van vrijwel iedere Amerikaanse burger op de burelen van de NSA belandden – en de NSA was zeker niet de enige die deze praktijken bezigde.

Brigadegeneraal Y.S (uit veiligheidsoverwegingen wordt hij alleen met zijn initialen aangeduid, een e-mailadres in het boek wekt de indruk dat zijn voornaam Yossi is) studeerde een jaar lang aan de National Defense University in Washington. Dit boek is de neerslag van dat studiejaar.

Het is uitzonderlijk dat een militair in actieve dienst die een belangrijke eenheid leidt een boek publiceert over zijn werk. Ongetwijfeld speelde ijdelheid een rol, het boek is in het Engels geschreven en in een nawoord schrijft Y.S dat hij eigenlijk pas Engels is gaan leren in Washington. (Het boek is overigens in eigen beheer uitgegeven, ik kwam het bij toeval op het spoor door een artikel in de Israëlische krant Ha’aretz.)

Filosofische motieven kunnen ook een rol spelen, zo schrijft Y.S dat geheime diensten af moeten van het paradigma (de opvatting) dat zij het monopolie op informatie bezitten. Zij moeten sneller en beter informatie delen en om die reden adviseert hij dat elke geheime dienst voor minstens 51 procent uit vrouwen zou moeten bestaan, omdat die volgens hem beter in staat zijn te delen.

Robotsoldaat

Natuurlijk zou dit boek geschreven kunnen zijn om andere, vijandige geheime diensten te misleiden, maar niets wijst daarop. Daarnaast zou dat een omslachtige manier zijn om een doel te bereiken dat strategisch weinig nut heeft.

Y.S meent (dat an sich is niet uniek, hooguit dat hij Kuhn daarbij zo expliciet noemt) dat wij ons na de agrarische en industriële revolutie midden in de digitale revolutie bevinden. Een revolutie die tot een paradigmawisseling zal leiden waarbij artificiële intelligentie (AI) een cruciale rol speelt.

Hij waakt ervoor AI te romantiseren en betwijfelt dat machines (en AI is een machine) gevoelens zullen kunnen ontwikkelen. De filosofische discussie of gesimuleerde gevoelens echt gevoelens zijn interesseert hem niet. Ook is hij sceptisch over de mogelijkheid van AI om zelfstandig morele principes te ontwikkelen. De in sciencefiction populaire fantasie dat de machine (AI) zich tegen mensen zal keren acht hij onwaarschijnlijk.

Uit dit alles concludeer ik dat Y.S mijn voorspelling dat over zestig jaar een machine de Nobelprijs voor Literatuur zal winnen niet deelt. Wel meent hij dat over dertig jaar de frontsoldaat is vervangen door een robotsoldaat.

Hoe definieert hij AI? AI bestaat volgens hem bij de gratie van deep learning, een proces dat mogelijk wordt gemaakt door kunstmatige neurale netwerken (artificial neural networks). Dat machines dingen sneller kunnen dan mensen, wisten we al langer. Bij deep learning gaat het erom dat de machine tijdens het verwerken van data kan leren en geleidelijk eigen fouten kan corrigeren, een vaardigheid die hij deelt met het menselijk denken en die daarom kunstmatige intelligentie kan worden genoemd.

Y.S waarschuwt echter dat deze machine de mens in bepaalde beroepen overbodig zal maken, maar dat hij de mens nooit helemaal kan vervangen. Vandaar de nadruk die hij legt op het team dat mens en machine moeten worden – en dat ze al gedeeltelijk zijn.

Onbesliste oorlogen

Uiteraard beziet hij AI en het nut ervan uit hoofde van zijn functie, leider van een van de grotere spionnendiensten ter wereld, maar hij meent dat vrijwel geen enkele bedrijfstak zonder het juiste gebruik van AI zal kunnen overleven. En hij stelt dat de grote competitie tussen Rusland, China en Amerika (inclusief het Westen) over AI gaat. Hij citeert Poetin, die een paar jaar geleden zei dat kunstmatige intelligentie de toekomst van Rusland en van de mensheid was. En hij wijst op pogingen van Rusland om de Amerikaanse presidentsverkiezingen van 2016 te beïnvloeden; ook daarbij speelde AI een rol.

Volgens Y.S zullen oorlogen steeds vaker betrekkelijk onbeslist eindigen, waarbij het beeld dat van die oorlogen wordt gecreëerd cruciaal zal blijken te zijn als het gaat om winst of verlies. Hij erkent dat dit altijd al zo was, maar wat nieuw is, is dat iedereen met een smartphone zijn eigen radio- en televisiestation kan zijn. Bij beeldvorming zal AI steeds beslissender zijn. Over de vraag of dit wenselijk of onwenselijk is, laat hij zich niet uit. Hij beschrijft wat gaande is en wat volgens hem eerder meer dan minder zal worden.

Zonder moreel besef is Y.S zeker niet. Zo schrijft hij dat Google meer weet van haar gebruikers dan Stalin ooit van zijn burgers wist. Door massamoordenaar Stalin en Google (ooit had het bedrijf als slogan ‘Don’t be evil’) in één adem te noemen, maakt Y.S duidelijk dat geen enkele revolutie waarlijk goedaardig is.

De beste en trouwste lezer

Het vergaren van informatie die voor iedereen toegankelijk is, oftewel het leegzuigen van het internet, is de belangrijkste opdracht van elke geheime dienst. Deze informatie wordt vervolgens aangevuld met informatie die niet voor iedereen toegankelijk is (classified information).

Het is daar dat AI een cruciale rol gaat spelen, aangezien er zo veel informatie beschikbaar is dat geen mens daar meer iets wezenlijks uit kan peuren. AI kan in een grote hoeveelheid data (big data) anomalieën detecteren, waardoor, meent Y.S, bijvoorbeeld aanslagen van zogenoemde lone wolves kunnen worden voorkomen – al was het maar omdat de gemiddelde lone wolf de neiging heeft zijn plannen kort van tevoren op sociale media aan te kondigen.

AI kan bijvoorbeeld ook snel antwoord geven op de vraag: wie zijn in buurt X midden in de nacht wakker? Kennelijk willen geheime diensten dat weten. U zou dat zelf kunnen onderzoeken, maar dat gaat zo langzaam dat de nacht alweer voorbij zal zijn terwijl uw onderzoek net is begonnen.

Y.S stelt verder dat gebouwen kunnen worden beveiligd doordat bijvoorbeeld onbekende mobieltjes, die zich normaal niet in dat gebouw bevinden, meteen worden opgemerkt. Wat controle doelmatiger maakt.

Om goed te kunnen functioneren, is het voor geheime diensten van groot belang geheime informatie uit de gesloten netwerken optimaal te verbinden met informatie uit open netwerken, zoals een foto gemaakt in een winkelstraat. Die foto hoeft niet door mensen te worden genomen. Zo schrijft Y.S dat China aan AI-drones werkt die in zwermen van duizend en meer kunnen opereren, drones kunnen niet alleen bombarderen maar ook uitstekend filmen en fotograferen. (Wie meent dat de overheid ons een QR-code opdringt om ons beter in de gaten te houden, loopt enkele decennia achter.)

Het analyseren van beelden en het beluisteren van geluidsfragmenten, wat vroeger mensenwerk was, wordt al voor een groot gedeelte door AI gedaan en zal voor 80 procent door AI worden overgenomen. Allicht dat wij schrijvers ons erbij moeten neerleggen dat AI onze beste en trouwste lezer zal zijn.

Menselijke fouten

De NSO Group kan hier niet onvermeld blijven, een Israëlisch bedrijf dat technologie heeft ontwikkeld die smartphones geheel kan overnemen, waardoor uw smartphone als het ware een buitenpost wordt van de geheime dienst. Verleden jaar kwam dat bedrijf in opspraak toen bleek dat de technologie was verkocht aan landen die het niet zo nauw nemen met mensenrechten. Elke technologie komt vroeg of laat vrijwel overal terecht en tegen die tijd heeft de avant-garde weer nieuwe technologie ontwikkeld. Relatieve uitzondering op deze regel is vooralsnog de atoombom.

Een echte paradigmawisseling zal op zich laten wachten, meent Y.S. Nu al kunt u in een zelfrijdende auto stappen en zeggen: ‘Rijd me naar mijn werk.’ Dergelijke auto’s zijn echter vrijwel overal verboden, omdat men vooralsnog fouten van mensen acceptabeler vindt dan van machines. De paradigmawisseling vindt plaats als uw auto zal antwoorden: ‘Nee, vandaag niet’, omdat hij weet dat het beter is dat u vandaag thuisblijft. De digitale revolutie in een notendop: ‘Alles is informatie en informatie is alles.’

Y.S blijft stellig dat AI nooit out of the box zal kunnen denken, oftewel nooit echt creatief zal zijn.

Wij zullen bijna één worden met de machine, voor zover dat niet al het geval is, maar om ons eraan te herinneren dat we niet volstrekt overbodig zijn, denken we van tijd tot tijd out of the box. Ook zo ontstaan revoluties, wetenschappelijke en andere.

Meer over