RecensieCoded Bias

Coded Bias laat de verontrustende invloed zien van (onbedoeld) racistische en seksistische algoritmen ★★★☆☆

Wie Big Brother aan het werk wil zien, hoeft helemaal niet naar landen als China te kijken, maakt documentairemaker Shalini Kantayya pijnlijk duidelijk.

Coded Bias Beeld Netflix
Coded BiasBeeld Netflix

Soms hebben de algoritmen gelijk. Wie op Netflix na het zien van The Social Dilemma automatisch wordt doorgestuurd naar Coded Bias, vindt opnieuw een urgente documentaire over de alsmaar fermere grip die Big Tech heeft op het maatschappelijke leven. Waar The Social Dilemma over de schaduwzijde van sociale netwerken gaat, richt documentairemaker Shalini Kantayya zich met Coded Bias op de verontrustende invloed van (onbedoeld) racistische, seksistische en validistische computerprogramma’s en algoritmen. Kunstmatige intelligentie zonder ethiek ís geen intelligentie, stelt Coded Bias overtuigend.

Het belangrijkste personage is computerwetenschapper en activist Joy Buolamwini, die verbonden is aan het gerenommeerde MIT Media Lab in Massachusetts. Toen ze werkte aan een ‘inspiratiespiegel’, die de gezichten van haar helden over haar eigen gezicht moest plaatsen, ontdekte de Afro-Amerikaanse Buolamwini iets bizars: de gebruikte gezichtsherkenningssoftware functioneerde alleen als ze een wit masker opzette. Dat krijg je ervan, moest ze concluderen, als zulke software uitsluitend door witte mannen wordt ontworpen.

Buolamwini richtte de Algorithmic Justice League op, waarmee ze zich inzet voor een onbevooroordeeld én ethisch gebruik van informatietechnologie. Coded Bias, als film weinig opvallend, kiest onomwonden Buolamwini’s partij en die van gelijkgestemden als datascepticus Cathy O’Neil. Onthutsend is de zomaar in Londen op straat geschoten scène, waarin een man wordt beboet omdat hij zijn gezicht verborg voor biometrische politiecamera’s. Of die waarin een zwarte schooljongen door diezelfde camera’s voor een zware crimineel wordt aangezien.

Texaanse docenten die op basis van een geheim, op algoritmen stuttend evaluatieproces werden ontslagen, flats waar de bewoners via gezichtsherkenning de deur opendoen terwijl meteen ook wordt gecontroleerd of ze de huur hebben betaald, de 117 miljoen Amerikaanse gezichten die in politiedatabases zijn opgeslagen: wie Big Brother aan het werk wil zien, hoeft helemaal niet naar landen als China te kijken, maakt Kantayya pijnlijk duidelijk. ‘Het verschil is dat China transparant is’, zegt een van de deskundigen in Coded Bias.

Kantayya’s aanval op de algoritmen zou aan diepgang hebben gewonnen als ook de ontwikkelaars en afnemers van de bekritiseerde software aan het woord waren gekomen. Dat neemt niet weg dat Coded Bias je (iets) sceptischer en alerter achterlaat. Hoe makkelijk is het om zelf sporen te ontdekken van dit in stilte discriminerende surveillancesysteem?

Coded Bias

Documentaire

★★★☆☆

Regie Shalini Kantayya.

85 min., te zien via Netflix en op 11 april (online) op het Imagine Film Festival.

Meer over