U ziet Clearview niet, maar Clearview ziet u: welkom in de wereld der gezichtsherkenning

Misschien kent u de muziek­app Shazam wel. U hoort ergens, op tv of in een café, een leuk nummer en wilt weten wie de artiest is. Shazam biedt dan uitkomst: de app luistert een paar seconden en geeft vervolgens de benodigde informatie. Precies datzelfde trucje bestaat ook voor gezichten.

U wilt weten wie die interessante persoon is aan de andere kant van de bar? Maak op een onbewaakt moment een foto met uw smartphone. Een vage foto is voldoende. Upload het kiekje en speciale AI-software onthult de identiteit van de persoon die u fotografeerde. Die techniek is er en zo’n beetje iedere westerse burger zit al in de database van Clearview, het bekendste bedrijf dat dit soort diensten aanbiedt.

Logisch dat politiekorpsen over de hele wereld er dol op zijn. Journalist Kashmir Hill schreef er het onlangs verschenen verontrustende boek Your Face Belongs to Us over (Nederlandse vertaling: Je gezicht is nu van ons). Hierin duikt ze in de wereld van gezichtsherkenning, met het Amerikaanse bedrijf Clearview als de even bizarre als enge protagonist.

We spreken de 42-jarige Hill via een videoverbinding. Zij is de aangewezen persoon om dit boek te schrijven: ze zorgde er begin 2020 hoogstpersoonlijk voor dat Clearview uit de anonimiteit werd getild. Tot dat moment kende nog niemand het bedrijf, terwijl Clearview iederéén kende. In een groot stuk in The New York Times, waar ze nog steeds voor schrijft, deed Hill uit de doeken wat voor bedrijf Clearview is. Het schuimt sociale media af en legt een database aan van miljarden foto’s met bijbehorende namen. Niet van criminelen, maar van gewone burgers die hun kiekjes nietsvermoedend op Facebook of Instagram zetten.

Toen Hill haar artikel publiceerde, bleken verschillende Amerikaanse politiekorpsen er al gebruik van te maken: zij konden beelden van beveiligingscamera’s vergelijken met de foto’s van Clearview. Het artikel sloeg in als een bom.

Kunt u ons geruststellen? Toen ik de Nederlandse politie twee jaar geleden vroeg of ze Clearview gebruikte, kreeg ik een ontwijkend antwoord: ‘We zijn niet centraal benaderd door Clearview, maar het kan natuurlijk altijd dat individuele politiemensen het gebruiken.’

“Dit is precies het antwoord dat ik altijd kreeg, ook bij de New Yorkse politie. Zo werkt Clearview, door zijn software aan individuele rechercheurs aan te bieden. Zo kan de politie altijd zeggen: wij weten van niets. Maar het is kraakhelder dat de software institutioneel wordt gebruikt. Dus sorry, nee, ik vind dat niet per se geruststellend.”

Het begon met een tip die u kreeg: naar dit bedrijf moet u eens kijken. Was u meteen overtuigd?

“Ja, zodra die mail binnenkwam, besefte ik: dit kan een groot verhaal worden. Ik schrijf al meer dan tien jaar over technologie en privacy en het gaat al lang over gezichtsherkenning. Ik was in 2011 in Washington bij een conferentie over dat onderwerp. Google was er, Facebook, ambtenaren, privacymensen. En iedereen, echt iedereen was het erover eens: dit mag nooit gebeuren. We moeten geen gigantische database met foto’s willen waarmee iedere vreemdeling kan worden geïdentificeerd, met alle risico’s die daarbij horen. Toen ik de tip over Clearview kreeg, dacht ik onmiddellijk: wacht even, dit gebeurt dus al! Niet in China, maar onder mijn neus in New York.”

Wat mij verraste, is de ontstaansgeschiedenis van Clearview. Het bedrijf dat de privacy van miljarden burgers bedreigt, blijkt te zijn opgezet door ‘een bij elkaar geraapt zootje met rechtse opvattingen’, zoals u het noemt. Er is iemand met een ongezonde obsessie voor eugenetica en CEO Hoan Ton-That identificeert zich graag met wit-nationalisten met Make America Great Again-petjes. Is het toeval dat Clearview juist daar is ontstaan?

“De achtergrond van dit bedrijf is inderdaad nogal ongebruikelijk. Het heeft zijn kiem tijdens de Republikeinse conventie in Cleveland in 2016, toen het erg ging over de vraag: wie zit in je kamp en wie is je vijand? Het was allemaal erg gepolariseerd en achterdochtig. Logisch dus dat technologie die kan vertellen wie de persoon achter een gezicht is, in goede aarde viel. Maar ik weet niet of dat nu iets typisch Republikeins of rechts is. Dit is waarschijnlijk een macht die iedereen wil hebben.”

Tegelijk is het ook verbazingwekkend dat dit vreemde plukje mensen, zonder enige expertise in biometrie, erin is geslaagd zo’n krachtig product met goed werkend algoritme op de markt te brengen. Hoe verklaart u dat?

“Ton-That is iemand die met hart en ziel aan zijn project werkte en er onnoemelijk veel tijd in stopte. Het is ongelooflijk hoe hij van het maken van stompzinnige Facebook-quizjes naar het bouwen van deze radicale technologie ging. Daar heb ik best bewondering voor. Tegelijk is het ook niet zo dat hij echt wat nieuws heeft verzonnen. Hij staat op de schouders van allerlei AI-wetenschappers. De bouwblokken zijn aanwezig en het is ook niet zo moeilijk om foto’s van internet te halen. De echte barrière om de dingen te bouwen die Clearview doet, is niet zozeer een gebrek aan kennis of ervaring, maar ethiek: ben je bereid om dit te maken?’

Facebook en Google trokken wél een grens...

“Klopt, zij hebben dit soort technologie ook in huis, maar durven die niet op de markt te brengen. Dat kun je niet los zien van het feit dat techbedrijven de laatste jaren zwaar onder vuur liggen vanwege hun privacybeleid. Europese toezichthouders zitten erbovenop, maar ook in Amerika zit de Federal Trade Commission achter big tech aan. Het laatste waar Facebook en Google zin in hebben, is nóg een privacyschandaal.”

We hoeven die bedrijven op dit punt niet te vrezen?

“Nou, nee. Vergeet niet dat het nog altijd de grote droom van Facebook is om gezichtsherkenning in augmented-realitybrillen te stoppen. Je hebt dan zo’n bril op, loopt over straat en ziet op het glas van je bril informatie geprojecteerd over wat je ziet. Ik verwacht dat die bril er echt wel komt. Facebook heeft altijd al de hele wereld met elkaar willen verbinden en wil dat we dat via zijn producten doen. Gezichtsherkenning is daar perfect voor.”

Terug naar CEO Hoan Ton-That. U heeft hem intensief gevolgd en vaak gesproken. Wat is uw indruk? Wil hij de wereld echt beter maken, wat de slogan van Clearview is?

“Als je een ondernemer bent zoals Ton-That doe je er alles aan de buitenwereld te laten geloven dat je product intrinsiek goed is en de wereld een stukje beter maakt. In zijn geval: met de belofte pedofielen of terroristen op te pakken. Maar dat heeft hij er later van gemaakt. Het begon echt met wat anders. Hij wilde gewoon dolgraag een succesvolle app maken met veel gebruikers, zodat hij onnoemelijk veel geld kon verdienen. Pas daarna kwam hij met het verhaal dat zijn app alleen voor de politie is bedoeld.”

Hill beschrijft in haar boek hoe Amerikaanse opsporingsambtenaren enthousiast gebruikmaken van Clearview, maar ook hoe gezichtsherkenningssoftware al diep is doorgedrongen in het dagelijks leven van China. De voorbeelden zijn soms verbijsterend, zoals de camera’s in de stad Suzhou die mensen volgen die in pyjama over straat gaan, iets wat oudere Chinezen niet raar vinden, maar wat de autoriteiten als aanstootgevend zien. Ambtenaren plaatsen daarna de foto’s van de onverlaten op sociale media, inclusief hun naam.

Of, in de VS, de zwarte Amerikaan die ten overstaan van vrouw en kinderen ten onrechte wordt opgepakt en vastgezet vanwege een winkeldiefstal die hij nooit pleegde. De gezichtsherkenningssoftware zat ernaast. Maar Hill tekent óók op hoe de politie een kindermisbruiknetwerk oprolt en de spin in het web achter de tralies krijgt. Dankzij Clearview.

Het privacyargument verliest het vaak wanneer een nieuwe technologie leidt tot concrete successen, zoals het vangen van criminelen. Hoe valt de balans voor u uit?

“Allereerst: ik ben geen activist en pleit niet voor een algemeen verbod op gezichtsherkenning. Ik zie echt wel de nuttige toepassingen. Maar je moet niet doorslaan. Ik bedoel: China is voor de doorsnee-Chinees een behoorlijk veilig land, maar wel op een kille manier.

“Privacy is een belangrijke waarde in onze maatschappij en we hebben ruimten nodig waar we veilig zijn en niet 24 uur per dag bespied worden door camera’s van de overheid, winkels of buren. Het is prima dat de politie bij zware verdenkingen toegang heeft tot bepaalde informatie, maar ik wil niet in een wereld leven waar letterlijk iedereen een potentiële verdachte is. Het is een glijdende schaal: voordat je het weet, word je door camera’s in de gaten gehouden omdat je te veel wc-papier gebruikt op een openbaar toilet. Dat is het grote gevaar: steeds meer controle, zoals in China al gebeurt.”

De techniek is niet meer tegen te houden; Clearview is al lang niet meer de enige die dit aanbiedt. Wat kun je nog doen?

“Nou, ik ben op dit punt helemaal niet zo pessimistisch. De techniek is niet tegen te houden, maar we hebben wel privacywetten. Europa heeft al duidelijk nee gezegd tegen Clearview. In de Verenigde Staten als geheel zijn we nog niet zover, maar in sommige staten wel. En dan zie je dat Clearview niet is toegestaan bij de ingang van grote concertzalen in Chicago. Die wetten werken dus.”

U heeft zelf jonge kinderen. Durft u nog foto’s van ze op sociale media te zetten?

“Ik ben daar voorzichtig mee, ik plaats nooit op openbare accounts. Mijn dochter van zes vindt haar strenge moeder maar irritant en vraagt altijd: mama, waarom mag ik niet op TikTok, zoals al mijn vrienden? Op deze jonge leeftijd willen ze allemaal al YouTube-ster of TikTok-ster zijn. Maar ja, mama schrijft over privacy.”

Kashmir Hill, Je gezicht is nu van ons. Een real-life thriller over een ontwrichtende technologie, POM, 344 p., 23,50 euro. Vertaling Koen Boelens.