De week in wetenschapkunstmatige intelligentie

Laten we niet vergeten dat algoritmen geen mening hebben

Algoritmen zitten in het verdom­hoekje. Maar laten we niet vergeten dat het nog altijd de mens is die het doel bepaalt. 

Ook in Netflix-documentaire The Social Dilemma komen algoritmen er slecht af.Beeld Netflix

Veel minder bekend dan de turingtest is de Chinese kamer van de Amerikaanse taalfilosoof John Searle. Met dit gedachtenexperiment probeerde Searle, net als Turing, antwoord te krijgen op de vraag: kunnen we computers intelligent noemen?

Stel: je bevindt je in een afgesloten kamer en spreekt geen woord Chinees. In de muur zit een gleuf waardoor af en toe een vel met Chinese tekens wordt geschoven. In de kamer bevindt zich een handleiding die precies vertelt wat een goed antwoord zou zijn op de onbegrijpelijke tekens die op de vellen staan. Met hulp van die handleiding zou degene in de kamer een overtuigend gesprek kunnen voeren met de persoon die van buiten de kamer papieren naar binnen schuift. Hij krijgt immers telkens een adequaat antwoord.

De persoon buiten heeft geen idee wat er in de kamer gebeurt. En de kamer zou de ­turingtest doorstaan, met hulp van de handleiding. Maar wat Searle wilde ­aantonen: deze kamer heeft geen intelligentie. Degene in de kamer volgt slechts de regels; hij heeft geen idee waar de conversatie over gaat. Ook de handleiding heeft geen begrip en is niet meer dan een oneindige reeks regels.

Die kamer is een computer. Of, anno 2020, kunstmatige intelligentie. Algoritmen zijn het best te vergelijken met recepten: het stappenplan dat doorlopen moet worden om tot beslissingen te komen. Algoritmen zitten tegenwoordig in het verdomhoekje. Omdat ze inderdaad beslissingen nemen, we niet snappen hoe ze daartoe komen én omdat we als mensen het gevoel hebben buitenspel te worden gezet. Wat deels ook klopt.

In de wat drammerige Netflix-documentaire The Social Dilemma komen algoritmen er ook weer slecht af. Ze zijn verantwoordelijk voor al het slechts op Facebook en YouTube. Ze zijn geoptimaliseerd om weerloze mensen zo lang mogelijk als zombies aan hun schermen gekluisterd te houden. Ze schotelen nepnieuws voor en zuigen ons konijnenholen in vol haat en complottheorieën. Allemaal waar.

Maar het is goed te beseffen dat die vermaledijde algoritmen helemaal geen mening hebben. Dat ze niet snappen waar ze mee bezig zijn, of iets willen. De mens bepaalt nog altijd het doel. Is dat zo veel mogelijk schermtijd? Dan zorgen de algoritmen daarvoor. Als dat gebeurt via zo veel mogelijk nepnieuws, haat en complotten, dan worden die ingezet. In de woorden van datawetenschapper Cathy O’Neil: algoritmen zijn geoptimaliseerd voor succes. En daar moet alles voor wijken.

Dat algoritmen ook mooie dingen kunnen voortbrengen, bewijst de tentoonstelling Bloom van de Amerikaanse kunstenaar Trevor Paglen, die nu wordt gehouden in Londen. Hij is gefascineerd door de vraag hoe machines de wereld ervaren. Camera’s met gezichtsherkenning zijn overal aanwezig, maar hoe zien ze ons? Paglens soms droomachtige schilderijen vormen een weerslag van die verkenning. Het is alsof hij de anonieme persoon in de Chinese kamer alsnog een stem geeft.

Meer over