‘De mensen die Facebook bouwden, hebben op geen enkel moment gedacht: wat zou er kunnen fout lopen?’

In het hol van de leeuw. Zo beschrijft Marietje Schaake haar positie aan Stanford University. De universiteit ligt op een boogscheut van de stad Palo Alto in Californië. Het epicentrum van Silicon Valley. De plek die beloofde om de wereld te verbeteren met behulp van zoekmachines en sociale media. De plek waar uiteindelijk de kiemen werden gelegd voor een gewelddadige bestorming van het Amerikaanse Capitool op 6 januari. Een steenrijke plek waar geen enkele sterveling nog een huis kan betalen.

Toen Schaake in het najaar van 2019 aankwam op de campus, waar gebouwen naar Bill Gates, William Hewlett en David Packard zijn genoemd, keek men in en rond Stanford wat raar op. Schaake is al jaren luis in de pels van de grote techbedrijven. Dat deed ze tien jaar lang, van 2009 tot 2019, in haar rol als Europarlementslid voor de Nederlandse partij D66. Ze engageerde zich voor dossiers inzake netneutraliteit, databescherming en cyberveiligheid. 

Ook haar Europese collega’s begrepen niet helemaal wat Schaake in Silicon Valley zou gaan zoeken. “Een derde termijn in het Europees Parlement hoefde voor mij niet. Ik wilde een stap in een andere richting zetten. Het is erg verleidelijk om in de Europese bubbel te blijven hangen.” Schaake had in de loop der jaren als geen ander ervaren dat Silicon Valley een te duchten speler in het spel der machten was. Iets waar we ons in Europa én in de Verenigde Staten nog te vaak op miskijken.

“In Silicon Valley worden nieuwe technologieën en nieuwe verdienmodellen uitgerold die een nieuwe realiteit creëren. Denk aan gezichtsherkenning. Alleen al omdat die technologie bestaat en zich wereldwijd verspreidt, komt een mensenrecht als privacy onder druk te staan. En dan kun je vanuit Europa proberen om dat recht van je Europese burgers te beschermen. Ik wil ook begrijpen wat de mensen drijft achter die technologie. Ik ben naar Stanford getrokken met het doel om studenten te leren wat de impact is van technologie op onze democratie.”

Nog voor de bestorming van het Capitool in Washington waren er al Amerikanen die bereid waren om te luisteren naar het pleidooi van de Nederlandse ex-politica voor betere wetgeving voor technologie. Het gerenommeerde tijdschrift The New Yorker publiceerde een portret van Marietje Schaake met als titel What can America learn from Europe about regulating Big Tech? “Mijn mening was er op dat moment een die je niet veel hoorde in de Verenigde Staten, zeker niet in Silicon Valley. Ik heb de indruk dat een deel van de publieke opinie in de VS het Europese pleidooi steeds beter begrijpt.”

Hoe merkt u dat?

“Toen ik anderhalf jaar geleden in een toespraak op Stanford vertelde dat technologiebedrijven een negatieve impact kunnen hebben op de democratie, waren mensen gechoqueerd. ‘Moet je eens horen wat die durft zeggen?’ Vandaag is dat al een heel stuk normaler. Men lijkt te beseffen dat innovatie vieren omdat er geïnnoveerd wordt niet altijd een feest voor de democratie betekent.”

Clubhouse, de nieuwe hype uit Silicon Valley, lijkt dat te bewijzen. Slimme marketing, weinig databescherming en veel controverse hangen rond de socialemedia-app die audiogesprekken centraal zet. 

“Klopt. Je ziet meteen een aantal bekende problemen opduiken. Wat mag er wel en niet gezegd worden? Wat zijn de grenzen? Stel dat enkele neonazi’s beslissen om er een evenement te organiseren om nog eens eventjes hun laatste idealen en plannen te delen. Wie moet daar toezicht op houden? Wie moet daar een stokje voor steken? In de Verenigde Staten interpreteert men het recht op vrije meningsuiting heel erg ruim. Al zie je dat de botsing van dat recht met andere rechten zoals non-discriminatie, openbare veiligheid en publieke gezondheid steeds prominenter wordt. Die inhaalslag moeten de Verenigde Staten nog maken.”

Hoe bedoelt u?

“De Verenigde Staten hechten veel belang aan het recht op vrije meningsuiting. Tegelijkertijd is het Facebook dat met zijn algoritmes beslist welke meningen versterkt worden en dewelke er in de vergetelheid belanden. Dan is er toch iets mis.”

“Ik geef een ander voorbeeld. Mensen mogen samenzweringstheorieën delen. Daar is niets illegaals aan. Alleen, als die gekke gedachtekronkels ervoor zorgen dat steeds meer mensen beslissen om zich niet meer te laten vaccineren, dan creëer je een gezondheidsprobleem. Of wanneer mensen geloven dat er zulke complotten spelen dat het geoorloofd is om met geweld het Capitool te bestormen, dan krijg je te maken met een veiligheidsprobleem. Het afwegen van individuele rechten ten opzichte van publieke belangen zoals gezondheid en veiligheid, is een taak van de rechtsstaat. Niet van privébedrijven.”

Waar liep het dan precies mis?

“Kijk naar de Europese geschiedenis. Neem de Holocaust, de transitie na het communisme, de oorlogen in voormalig Joegoslavië of onze dagelijkse strijd tegen rechts-populisme. Onze democratie is kwetsbaar. Die moet je beschermen. Dat doe je met behulp van wetten en instituten. We moeten er constant over waken dat onze democratie weerbaar en gezond blijft. Alleen is er in Silicon Valley een cultuur ontstaan die vertrok vanuit disruptie. Het idee was: we ontwrichten de taximarkt, we ontwrichten de hotelmarkt, we ontwrichten de media. Met andere woorden: we ontwrichten de macht. Dan moet je wel heel erg goed kijken wat je niet wil ontwrichten. Dat is veel te weinig gebeurd.”

Facebook wilde mensen dichter bij elkaar brengen en Google wilde alle informatie ter wereld consulteerbaar maken. Wij, de gebruikers, hebben mee die platformen verziekt, toch?

“Daar ligt een deel van het probleem. Mensen in Silicon Valley zijn optimisten. Ze vertrouwen op een goede uitkomst. De oprichters van de grote techbedrijven zijn haast allemaal jonge mensen die met veel kansen zijn opgegroeid. Ze zijn hoogopgeleid, kennen veel over technologie, die hen ook nog eens ver heeft gebracht. Veel succes. Veel investeringen. Veel salaris. De mensen die Facebook bouwden, hebben kennelijk op geen enkel moment gedacht: wat zou er kunnen fout lopen? Als beleidmaker denk je net andersom: om enige balans in de samenleving te behouden en om eerlijke regels te maken, vertrek je vanuit het slechtste scenario. Je kan nooit vertrekken vanuit goede bedoelingen.”

Wat Schaake aanhaalt, illustreert een van de grootste problemen in maatschappelijke discussies over digitale technologieën. Er is een kloof ontstaan tussen succesvolle technologie-ondernemers aan de ene kant en beleidmakers aan de andere kant. Beleidsmensen en techmensen lijken wel aliens voor elkaar. Ze spreken een andere taal. Het mooiste voorbeeld daarvan dateert uit 2018. Toen werd Facebook-baas Mark Zuckerberg op het matje had geroepen om zich te verantwoorden voor de Russische inmenging op zijn platform tijdens de presidentsverkiezingen van 2016.

“Hoe kun je een rendabel bedrijf uitbouwen wanneer gebruikers niet betalen voor je dienst?”, vroeg de toen 84 jaar oude Amerikaanse senator Orrin Hatch aan Zuckerberg. Die kon zijn glimlach nauwelijks bedwingen en antwoordde vriendelijk. “Senator, we run ads.” (“Senator, wij verkopen advertentieruimte”, FE).  Schaake hamert er al jaren op dat we de kenniskloof tussen beleid en ondernemers op vlak van digitalisering dringend moeten verkleinen. “Enkel zo kunnen we een geïnformeerd debat houden”, zegt ze.

Toen Schaake in het Europees Parlement werkte, organiseerde ze Nerds in the Parliament. Op die manier konden Europarlementsleden en hun staf zich informeren over de technologiewereld. En dat doet ze nog steeds, nu in haar rol als beleidsdirecteur van het Cyber Policy Center en als fellow van het Institute for Human-Centered Artificial Intelligence. “Voor heel veel mensen is artificiële intelligentie iets ongelofelijk complex”, zegt Schaake. “Ik probeer met mijn collega’s de allerlaatste ontwikkelingen in het vakgebied om te zetten naar mensentaal. En ik probeer ook meteen in te schatten wat de impact van die veranderingen kan zijn op beleid.” Die technologische kennis in de samenleving wordt met de dag belangrijker volgens Schaake.

“Er is op dit moment heel veel aandacht voor de machtsverschuiving naar de big tech. Maar het draait niet alleen om die zichtbare platforms. We moeten ook aandacht besteden aan de machtsverschuivingen die minder zichtbaar zijn, zoals de ontwikkeling van de digitale stad, de infrastructuur die we daarvoor gebruiken en de systemen en databases waar onze overheden steeds meer afhankelijk van worden. De macht van het bedrijfsleven infiltreert overal in de samenleving. Het gaat veel verder dan Facebook, Amazon en Google.”

Kunt u dat even duiden?

“De recente hack van de Solarwinds-software (Hackers waren er in geslaagd om malware te verstoppen in populaire software van het Texaanse bedrijf SolarWinds, FE) is een goed voorbeeld. Twee jaar geleden hadden we nog nooit van die naam gehoord. Het gaat om software die diep verborgen zit in systemen van de Amerikaanse overheid, de NAVO en het Europees Parlement. Hoe is het mogelijk dat dergelijke software kwetsbaar is voor cyberaanvallen? Is het bedrijf nalatig geweest? Daar lijken aanwijzingen voor te zijn. Tegelijkertijd mag je er als burger toch van uitgaan dat een ministerie van veiligheidszaken niet blind vertrouwt op de verkooppraatjes van een softwarebedrijf. Al vrees ik het tegendeel. Van de kleinste gemeente, tot de grootste digitale overheid, overal zullen we voorbeelden kunnen vinden van kwetsbare software.”

Overheden zijn dus veel te slordig in hun keuze voor software.

“In principe moet je als overheid toezicht houden op de software die je gebruikt. Je moet ook onafhankelijk onderzoek kunnen doen. Dat is niet eenvoudig. Dat merk ik ook hier op Stanford. Er zijn geen wetenschappers ter wereld die meer toegang hebben tot de leiders van de grote techbedrijven dan mijn collega’s hier. Hun banden zijn erg nauw. En toch lukt het niet om toegang te krijgen tot data en informatie om dat onafhankelijk wetenschappelijk onderzoek te doen.”

“Er zijn nochtans veel vragen die een gefundeerd wetenschappelijk onderzoek vereisen. Hoe groot is de beïnvloeding van sociale media op verkiezingen nu echt? Waar liggen de kwetsbaarheden die gebruikt worden voor spionage of cyberaanvallen? Wanneer je als overheid processen, diensten of producten aanbiedt, moeten die veilig, betrouwbaar en onafhankelijk onderzocht zijn. Er is een totaal gebrek aan transparantie.”

Aan de andere kant tonen overheden graag dat ze inzitten met onze veiligheid. Zo wordt Chinese 5G-infrastructuur geweigerd omdat bedrijven als Huawei en ZDE linken zouden hebben met de Chinese overheid. Pakt Europa dat goed aan?

“Het is volgens mij niet slim om te denken dat je de richting waar het cybergevaar vandaan zal komen kunt voorspellen. Of technologie nu uit het oosten, het westen, het noorden of het zuiden komt, je moet ze controleren. Dat ben je verplicht aan je burgers. Europa doet het op dat vlak niet goed.”

In welke zin?

“Het dossier rond de Chinese 5G-netwerktechnologie van Huawei en ZDE heeft het een en ander zichtbaar gemaakt. Zo heeft het onwaarschijnlijk lang geduurd vooraleer de EU tot een gezamenlijk standpunt is gekomen. Veiligheid wordt nog steeds nationaal georganiseerd. Tegelijkertijd is er een belofte van een interne digitale markt, en die twee schuren gewoon. De hele EU is maar zo weerbaar als de zwakste schakel. In de tussentijd hebben Chinese bedrijven niet stilgezeten. Er worden bijvoorbeeld onderzoekssamenwerkingen aangegaan met universiteiten die gefinancierd worden door Huawei. Zolang je geen heldere visie uitwerkt, krijg je geen vat op de zaak.”

Dat brengt ons in Australië. De overheid heeft er geprobeerd vat te krijgen op Google en Facebook. Wat is uw analyse van wat daar gebeurd is?

“Laten we eens beginnen met een onderbelicht aspect van dit verhaal. Hoe machtig is Rupert Murdoch en zijn media-imperium in Australië? Er zijn twee ex-premiers die een onderzoek vragen naar de invloed van Rupert Murdoch op het medialandschap en de democratie in Australië. Die man speelt een controversiële rol in dit conflict. Daarnaast heb je natuurlijk Google en Facebook en de Australische overheid. Die laatste heeft het initiatief genomen om een wet te stemmen die uitgevers een betere onderhandelingspositie moest geven in de discussie over compensatie van nieuwsberichten die via de platformen gedeeld worden. Het idee achter die wet is niet slecht: er is een arbitragesysteem nodig en de advertentiereuzen moeten inzicht geven in de cijfers. Google kan jouw bazen bij De Morgen wijsmaken dat het 20.000, 200.000 of 2.000.000 surfers naar jullie website stuurt. Niemand die het kan controleren. En die controle is geen overbodig luxe. Zowel Google als Facebook hebben rechtszaken tegen zich lopen over over leugens over hun bereik of of de contracten die ze afsluiten.”

Google sloot een deal met een aantal grote nieuwsuitgevers. Facebook besloot tijdelijk de stekker eruit te trekken in Australië. Nieuwsmedia en overheidsdiensten waren niet meer te vinden. Wat leest u in die reactie?

“Ik interpreteer dat als een bereidheid van bedrijven om te lobbyen op een manier die we nooit hebben gezien. En het lijkt erop dat het nog eens gewerkt heeft ook. Wat hier meer dan ooit aangetoond is, is hoezeer een bedrijf als Facebook zijn macht of positie bij consumenten wil inzetten voor zijn eigen verdienmodel. Dit ging heel erg ver. Stel je voor dat Shell te maken krijgt met milieumaatregelen en zo boos is dat het zijn pompstations sluit. Dat is heel erg cynisch. Ik denk niet dat het hen in dank is afgenomen.”

Er zijn stemmen die beweren dat Google en Facebook helemaal niet zo machtig zijn als ze worden voorgesteld. Ze verwijzen dan naar de concurrentie op de markt. Denk aan Bing, TikTok, Snapchat. Hebben zij een punt?

“Zij bekijken het vraagstuk vanuit het mededingingsrecht. En dat is wel degelijk belangrijk. We zien allemaal dat Facebook wel degelijk concurrentie heeft dankzij TikTok, Snapchat en wie weet Clubhouse. Maar dat is wat er zich afspeelt aan de oppervlakte. Wat we niet zien, is hoeveel data Google en Facebook verzameld hebben en hoeveel ze elke dag verzamelen. Data geeft macht. Onzichtbare macht die ze ook inzetten. Er is een reden waarom Facebook WhatsApp en Instagram tegen astronomische bedragen heeft gekocht. Zij konden op die manier concurrenten uit de markt weren en hun eigen datahonger nog beter stillen.”

“De vraag is: hoe moet je mededingingsregels interpreteren voor de digitale wereld? Een van de meetlatten waarlangs de schending van mededingingsregels lange tijd werd gemeten, was: heeft de consument te veel betaald? En komt dat door oneerlijk, onrechtmatig gedrag van spelers in de markt? Alle diensten van Google en Facebook zijn gratis. Je betaalt geen euro’s, maar data. Die meetlat van vroeger werkt niet meer.”

In uw column voor The Financial Times beschreef u hoe techbedrijven door hun macht beleidmakers worden. Is dat tegen hun zin?

“Ik geloof zeker dat ze er heus mee worstelen. Maar ik ben niet naïef. We hebben Facebook-baas Mark Zuckerberg allemaal horen zeggen: ‘We willen wetgeving.’ Australië komt dan met wetgeving en ze trekken de stekker uit een belangrijk deel van hun platform. Ik heb te lang de mooie praatjes gehoord om die serieus te nemen.”

Hoe pak je die machtige platformen dan aan?

“Het kan niet zo zijn dat techbedrijven alleen maar kunnen functioneren als er geen wetgeving is. Als ze het moeilijk krijgen door wetgeving, dan is dat ons probleem niet. Je moet er vooral voor zorgen dat een regel de samenleving dient. Niet een bedrijf. Er zijn verschillende manieren om tegengas te geven. Er is het mededingingsrecht, er is het recht op privacy, we hebben het gehad over de afweging van publieke belangen ten opzichte van het individueel belang en we begonnen het gesprek over de weerbaarheid van de democratie. Het is een kwestie van al die verschillende invalshoeken ook met elkaar te verbinden.”

Dat is toch onwaarschijnlijk lastig. Als overheid hink je constant achterop.

“Dat een wetgever achterop loopt, is te verwachten. Je wilt niet alles op voorhand dicht betonneren. Je kan niet voorspellen welke regels nodig zullen zijn. Je moet daarom vooral goed nadenken over welke principes je belangrijk vindt. Mededingingsregels die vandaag gelden, zijn bijna een eeuw oud. Wat er nu gebeurt op vlak van digitale wetgeving, zal een lange termijn meegaan. We moeten altijd onze kwetsbare democratie in het achterhoofd houden.”

Was de bestorming van het Capitool - mijn excuses om het zo uit te drukken - een geschenk voor de democratie?

“Ik snap wat je bedoelt. 6 januari was voor veel Amerikanen een wake-upcall. Ten eerste om vast te stellen dat de digitale wereld niet gescheiden is van de echte wereld. Ten tweede hebben we gezien hoe een relatief kleine groep voor gigantische schade kan zorgen. Als je niet voldoende zicht hebt op wat er online gebeurt, kan je niet voorbereid zijn. Ten derde is die gebeurtenis een symbool voor alles wat fout loopt in onze relatie met techbedrijven. Amerikanen lijken eindelijk de bezorgdheid van Europeanen te begrijpen: commercialisering van publieke ruimte heeft negatieve gevolgen. Vroeger werd die bezorgdheid afgedaan als Europese jaloezie omdat er nog nooit een groot Europees sociaal platform is geweest.”