Monstermachine Silicon Valley

De machines waaraan we ons hebben overgeleverd, hebben armen en benen. Ze stappen uit anonieme bussen bij een kantoorcomplex in Menlo Park, een stadje in Silicon Valley in Californië, met koptelefoons op de oren en een laptop onder de arm. Zwijgend lopen ze richting de deuren van het complex, naar de klaslokalen gevuld met rijen en rijen bureaus met grote beeldschermen, gevoed door draden uit een industrieel plafond.

Vlak voor de buschauffeur de deur sluit om een nieuwe lading op te halen, is binnen een sticker met het logo van het bedrijf te zien, in al zijn ironische eenvoud.

De opgestoken duim. Alles is oké.

Amerika is veranderd in het eerste jaar onder Donald Trump. De president heeft besluiten genomen, besluiten geschrapt, mensen hoop gegeven, mensen hoop ontnomen, rechters aangesteld, een FBI-directeur ontslagen. Wat kwetsbaar was is kwetsbaarder geworden, wat machtig was machtiger. Sommige Amerikanen zijn daar blij mee, andere niet. Normaal gesproken wordt een president daar bij de volgende verkiezingen op afgerekend. Zo werkt een democratie.

Maar werkt de democratie nog?

Hier, in Silicon Valley, hebben informatieverspreiders als Facebook, Google en Twitter de afgelopen jaren misschien wel de belangrijkste verandering van Amerika in gang gezet, een verandering die ook in de rest van de wereld merkbaar is geweest. Sociale bubbels. Alternatieve waarheden. Nepnieuws. Extreme polarisatie. Manipulatie. Meer dan ooit heeft 'microtargeting', het individualiseren van een boodschap, geleid tot een wereld waar parallelle waarheden naast elkaar kunnen blijven bestaan. In zo'n wereld is het lastig praten, bleek het afgelopen jaar. En dat lijkt toch een voorwaarde voor democratie.

Het gaat niet alleen over Russische robots die tijdens de verkiezingen het al verhitte land verder opstookten. Er zijn meer redenen waarom Trump wel de eerste Facebook-president van Amerika is genoemd. Zo wist de Trump-campagne, geholpen door Facebook, met speciaal op zwarte Amerikanen gerichte advertenties hun gang naar de stembus te ontmoedigen. Die advertenties waren voor andere gebruikers onzichtbaar en dus konden de Democraten er niet op reageren, zoals met ouderwetse tv-spotjes wel kan.

Het had effect: in Detroit kreeg Clinton 70.000 stemmen minder dan Obama vier jaar eerder. Clinton verloor de staat Michigan met 11.000 stemmen verschil. Volgens Trumps digitale campagneleider Brad Parscale, bedenker van dit 'Project Alamo', waren Facebook, Twitter en Google 'cruciaal' om de verkiezingen te winnen. En het hoeft dus helemaal niet om grote aantallen te gaan; in Amerika worden verkiezingen beslist door kleine aantallen, op specifieke plekken.

En het gaat niet alleen over de VS. In de Filipijnen maakt president Rodrigo Duterte dissidenten monddood met behulp van zijn trollenleger op Facebook - dat dankzij vergaande samenwerking met het regime het belangrijkste internetplatform van het land is geworden. In Myanmar speelde Facebook een belangrijke rol bij de etnische zuivering van de islamitische Rohingya door de boeddhistische bevolking.

En dus staan we hier, in Silicon Valley, met de vraag of de twijfel ook hier begint door te dringen. Beginnen ze hier misschien te beseffen dat de technologische heilstaat, hier ontsproten uit de breinen van hippies en uitvinders - 'doe geen kwaad', was ooit het motto van Google - ook averechtse uitwassen heeft?

Op zijn stepje komt James Hong (24) aangereden, tussen de palmbomen over de zonnige stoepen van de Stanford-campus in het hartje van het suburbia dat Silicon Valley eigenlijk is. Hij moet in het naar Bill Gates vernoemde informaticagebouw zijn, waar hij promoveert op computernetwerken.

Ja, zegt hij, de zorgen worden gedeeld onder de aankomende generatie techwerkers. "We praten over die excessen. We zien de zwaktes van wat hier wordt gemaakt. Maar je moet het ook niet overdrijven. Sociale media zijn net als snoep: daar moet je ook niet te veel van nemen."

Toverwoord 'disruptie'

Kritiek op Silicon Valley is niet van vandaag of gisteren. Al jaren wijzen intellectuelen en activisten op de gevaren van zoekmachines en sociale media, op hun privacyschendingen en utopische grootspraak en monopolistische tendensen - met 'disruptie' als toverwoord, de libertaire aandrang om te ontregelen en bestaande structuren kapot te maken. 'Beweeg snel en breek dingen', was het motto van Facebook.

Maar vorig jaar kwam de kritiek ineens van binnenuit. "We hebben een monster geschapen", zei Facebooks allereerste voorzitter, Sean Parker. "Ik denk dat we gereedschappen hebben gecreëerd die het sociale weefsel van de maatschappij kapotmaken", zei Chamath Palihapitiya, een voormalig directielid van Facebook. Hij hekelde de jacht op likes, op complimenten, op zelfbevestiging. "De korte termijn, door dopamine gedreven terugkoppelingen die we hebben gecreëerd, vernietigen de manier hoe de samenleving werkt. Geen beleefd discours. Geen samenwerking. Desinformatie. Wantrouwen. We staan er echt slecht voor."

Palihapitiya, die zijn uitspraken in november deed voor een publiek van bedrijfskundestudenten aan de Stanford-universiteit in het hart van Silicon Valley, zei "een geweldig schuldgevoel" te hebben vanwege zijn medeplichtigheid, en adviseerde een "harde breuk" met sociale media. "Mijn oplossing is dat ik deze dingen gewoon niet meer gebruik. Al jaren niet meer. Het heeft mijn vriendschappen onder druk gezet, maar ik wilde niet meer geprogrammeerd worden." Zijn kinderen mogen ook geen sociale media gebruiken.

Op de conferentie Techonomy, rond dezelfde tijd in het plaatsje Half Moon Bay aan de Stille Oceaan, waar de tech-elite jarenlang het succes van de vooruitgang vierde, werd dit jaar breed gesignaleerd dat de antidemocratische effecten misschien wel groter zijn. "Ik was verbaasd door het vitriool dat uit de discussies opsteeg", zegt organisator David Kirkpatrick. "Ineens is duidelijk dat deze bedrijven, met meer dan 2 miljard gebruikers, eigenlijk nog gewoon onvolwassen zijn. Ze hebben een nieuw wereldwijd dorpsplein gecreëerd, maar niemand weet wat dat precies betekent voor de bedrijven, de gebruikers en de regeringen die daar rondlopen."

Vorig jaar, vlak na de verkiezingen, was Facebook-baas Mark Zuckerberg een van zijn gasten. Toen hij hem vroeg of Facebook de verkiezingen kon hebben beïnvloed, zei hij dat dat een 'crazy' gedachte was. Kirkpatrick, die als journalist een lovend boek over Facebook schreef, vindt nu dat Zuckerberg veel eerder maatregelen had moeten nemen. "Op een gegeven moment gaat naïviteit over in onverantwoordelijkheid."

Roger McNamee, een investeerder van het eerste uur in Facebook, zit met zijn investeringsmaatschappij Elevation Partners in een bedrijvenpark tussen de bomen aan Sand Hill Road, aan de voet van de heuvels die Silicon Valley tot een vallei maken, niet ver van Stanford. Dit is de mythische plek waar het grote geld samenschoolde dat de brandstof vormde voor de techrevolutie. Hier, achter de glazen tussenwanden, in de leren fauteuils aan de notenhouten vergadertafels, werden de eerste miljoenen gestoken in Google en Facebook - toen nog gewoon geinige ideeën van jongens op gympen.

Sensatie boven inhoud

McNamee is 61, maar heeft nog steeds de lange haren van een gitarist. Hij heeft een band waarmee hij tourt, en U2-zanger Bono is zijn collega: hij is de partner van Elevation Partners. McNamee was de mentor van Mark Zuckerberg in de beginjaren van Facebook, en was een groot fan, zegt hij - zowel van Zuckerberg als van zijn bedrijf. "Ik gebruikte Facebook om mijn band Moonalice te promoten, en wist precies hoe ik de advertentiemodules moest inschakelen om de doelgroep te bereiken. Ik kende Facebook dus vrij goed. Toen ik in april 2016 zag dat er een brede anti-Clinton-campagne op Facebook op gang kwam, ogenschijnlijk afkomstig van aanhangers van Bernie Sanders, zag ik dat daar iets vreemds mee aan de hand was. Het was niet organisch, niet viraal. Het was georkestreerd."

Hij wist het nog niet, maar McNamee zag als een van de eersten de hand van de Russen in de Amerikaanse verkiezingen. En hij zag meer rare dingen. Een bedrijfje dat gegevens van Black Lives Matter-activisten van de site schraapte en aan de politie verkocht. Een negatieve xenofobische echokamer die tot de brexit leidde. Banken en verzekeraars die Facebook-gebruikers discrimineerden op basis van ras en religie. "Ik nam contact op met Mark en Sheryl (Sandberg)", zegt McNamee. "Ze zeiden: bedankt, maar je ziet het verkeerd. We doen allerlei geweldige dingen die je niet kunt zien. Vertrouw ons nu maar."

McNamee begon ervan overtuigd te raken dat het businessmodel van Facebook (ook eigenaar van Instagram) en Google (ook eigenaar van YouTube), van Twitter en al het andere spul, principieel verkeerd was. "Langzaam begon het me te dagen. Sociale media verdienen geld met advertenties, en daarvoor moeten ze gebruikers zo lang en zo vaak mogelijk naar de site krijgen. Het is een gevecht om aandacht, en daarom werken sociale media opzettelijk verslavend. Het blijkt dat verslavingen het beste werken als je reptielenbrein wordt geprikkeld met primaire emoties zoals angst en woede. Dat is waarom de algoritmen van Facebook je vooral negatieve berichten proberen te sturen. Sensatie boven inhoud. Dat roept de meeste reacties en interactie op."

Slecht nieuws verkopen kranten en televisie natuurlijk ook. Maar de traditionele media hebben meestal een veel breder publiek, waarvan de emoties gemiddeld nooit zo extreem zijn als die van een individu (al speelt in Amerika een zender als Fox News ook een polariserende rol).

Sociale media kunnen, dankzij de volstrekt persoonlijke berichtenstroom, veel sterker op emoties inspelen. "En dat werkt ook verslavend", zegt McNamee. "Iedereen ziet zijn gelijk bevestigd."

Vier maanden lang sprak hij met Facebook over zijn bevindingen. "Ze gaven geen duimbreed toe", zegt McNamee. "Toen ben ik met anderen gaan praten, en kwam ik uiteindelijk terecht bij senator Mark Warner, die als voorzitter van de inlichtingencommissie onderzoek deed naar de Russische bemoeienis met de verkiezingen. Dat was een van de meest wonderlijke vergaderingen die ik ooit heb gehad. Alles kwam samen. En ik zag: de Russen doen dit al jaren."

In Facebook is hij teleurgesteld. "Binnen de techbedrijven zelf is er nauwelijks discussie over dit soort dingen. Ze zijn het blijven ontkennen en negeren, tot eind 2017. Nog steeds zeggen ze dat ze niet verantwoordelijk zijn voor de inhoud van derden op hun platform." Wel plaatst Facebook inmiddels waarschuwingen en correcties bij berichten die waarschijnlijk nepnieuws zijn.

Kirkpatrick houdt Zuckerberg zelf verantwoordelijk. "Er is binnen dat bedrijf geen gedisciplineerd proces van zelfreflectie. Het enige wat telt is wat Hij denkt of vindt."

Hoe gevaarlijk is dat gebrek aan controle voor de democratie in Amerika? Als Trump Facebook al zo slim kon gebruiken om de cruciale kiezers naar de stembus te krijgen en andere cruciale kiezers van de stembus weg te houden, hoe goed kan Zuckerberg dat dan wel niet, een man die presidentiële ambities schijnt te hebben?

Dat gaat nooit lukken, denkt Kirkpatrick. "Als hij zijn eigen machine voor zichzelf zou willen gebruiken, zouden toezichthouders hem daar nooit mee laten wegkomen. Pas als hij zijn machine transparanter maakt, kan hij zich verkiesbaar stellen."

Reguleer ze

De machines waaraan we ons hebben overgeleverd moeten ook drinken. Op een hoek van een uitgestrekt bedrijventerrein in Mountain View, waar alle gebouwen eigendom van Google zijn, staat een schattig krakkemikkig gebouwtje waaruit de geur van frituurvet walmt, de Sports Page-bar - gebouw 50, in Google-codetermen.

Vroeger, voor Silicon Valley Silicon Valley was, dronken hier de locals Budweiser met de NASA-ingenieurs die verderop in de windtunnels werkten. Nu worden hele bataljons Chinezen aan lange picknicktafels, onder de palmbomen en terraswarmers, dronken met bier. Op de parkeerplaats staan vrolijk gekleurde Google-fietsen, binnen lopen de meesten nog met hun badge rond. Op het volleybalveld loopt iemand met een doos Cards Against Humanity rond - 'een gezelschapsspel voor afschuwelijke mensen'. Iemand zegt: "Dansen?" Ik heb geen idee hoe ik moet dansen!

Als we vragen of we iets mogen vragen, valt het stil. Er wordt zenuwachtig gelachen. "We zijn getraind om niet te antwoorden", zegt iemand. Als we een foto maken, zegt een jongen dat hij recht heeft op privacy en dat hij geen toestemming geeft voor publicatie. Dit is Google, het bedrijf dat alles openbaar maakt, behalve zichzelf.

"De grote techfirma's worden alleen maar geslotener", zegt Frank Pasquale, een hoogleraar in Maryland, een dag later aan de telefoon. "De geheimhoudingsafspraken zijn steeds strenger en harder geworden. Die werknemers zijn doodsbang. Niet alleen voor hun baan, ook voor juridische stappen. Niemand hier gaat met een journalist over zijn werk praten. En ook niet over andere dingen."

Pasquale schreef drie jaar geleden het boek The Black Box Society, waarin hij meer inzicht in de grote techbedrijven bepleitte. Waarom krijg ik deze zoekresultaten? Waarop is mijn nieuwsstroom gebaseerd? Waarom is mijn kredietwaardigheid zo laag? Welke algoritmen zitten daarachter?

Het ging hem in eerste instantie vooral over privacy- en reputatiekwesties, maar de roep om meer transparantie is met de gegroeide macht en invloed van de techbedrijven alleen maar groter geworden.

Alleen is er niemand die die roep beantwoordt, zegt Pasquale.

"Ik ging nog weleens naar Google om met ze te praten. Maar er heerst nu een complete onwil om er serieus op in te gaan. Het is belachelijk. Hoe meer verantwoordelijkheid ze krijgen, hoe minder verantwoordelijkheid ze tonen. Ze lachen erom."

Ja, er wordt vanuit Washington en omstreken steeds meer druk uitgeoefend om de libertariërs van Silicon Valley in het gareel te krijgen. Van links tot rechts klonk het afgelopen jaar de roep om meer regulering van de techbedrijven.

Zelfs Tucker Carlson, de rechtse presentator van Fox News, riep in augustus dat "Google gereguleerd zou moeten worden als het nutsbedrijf dat het is" (hij was bang voor linkse tendenzen in het bedrijf). Ook Trump zelf ageerde tijdens zijn campagne tegen de macht van de techtycoons, specialistische progressieve nerds die qua karakter en stijl diametraal tegenover de oppervlakkige populistische showman staan.

"Ik pleit daar al jaren voor", zegt Pasquale. "Reguleer de techbedrijven. Breek ze in stukken. Maar nu is het te laat. Trump heeft zich ontpopt als hun ideale president met zijn dereguleringsagenda. Hij legt ze geen strobreed in de weg, hij kijkt alleen naar de beurskoersen. Kijk naar de man die Trump heeft aangesteld om monopolies te bestrijden. Die werkte vroeger als advocaat voor Google."

Goede voornemens

De machines waaraan we ons hebben overgeleverd moeten ook eten. Twitter zit in een groot gebouw in het centrum van San Francisco. Onder dat hoofdkantoor is een markthal geopend, zo'n open ruimte met een tapasbar, verantwoorde kruidenier, een wijnproefplek en een fastfoodtentje met gefermenteerde ananas-theesalade op het menu.

Aan de centrale bar zitten drie jonge mannen met baarden en bier. Ze hebben het over bitcoins ("tulpenmanie!"), over de huizenprijzen ("Als je dakloos wordt, ben je deze stad kennelijk niet meer waard"), over de collega die zo slim maar slordig programmeert ("Geen idee wat hij doet, maar het werkt.")

Maar over Twitter willen ze niets zeggen, natuurlijk.

"Het zal onmogelijk zijn bedrijven van transparantie of een moreel kompas te overtuigen totdat hun economische structuur wordt veranderd", zegt Danah Boyd, hoofdonderzoeker bij Microsoft en oprichter van het onderzoeksinstituut Data & Society. "Deze bedrijven worden impliciet en expliciet gestuurd door de logica van investeerders. En die willen gewoon geld verdienen."

Regulering? Transparantie? Monopolies bestrijden? Het lijkt allemaal verdacht veel op wat er met de financiële sector is gebeurd, zegt Boyd. "En daar heeft het ook niet veel geholpen."

Facebook meldt zich. Als antwoord op de vraag wat Facebook gaat doen aan het misbruik van Facebook, verwijst de Nederlandse woordvoerder naar de goede voornemens van Mark Zuckerberg voor 2018. "De wereld voelt angstig en verdeeld, en Facebook heeft veel werk te doen - of het nu het beschermen van onze gemeenschap is tegen misbruik en haat, het verdedigen tegen inmenging door andere landen, of het bewerkstelligen dat de tijd die op Facebook wordt doorgebracht welbesteed is. Mijn persoonlijke uitdaging voor 2018 is om die belangrijke kwesties op te lossen. We maken te veel fouten."

Weer een dag later blijkt Zuckerberg een plan te hebben bedacht om interacties 'betekenisvoller' te maken. Dat betekent concreet dat de nieuwsberichten van echte nieuwsmedia voortaan worden weggehouden van de gebruiker. Hij zal vaker kunnen kijken naar berichten uit de informele hoek, berichten die worden gedeeld door familie en vrienden.

Instellingen aanpassen

Gaat dit de democratie helpen? "Helaas zijn die aanpassingen geen oplossing voor het onderliggende probleem", zegt Roger McNamee. "Als dit in 2015 was doorgevoerd, zouden ze het perverse effect hebben gehad dat de Russische inmenging nog was versterkt. Deze veranderingen helpen niemand verder, ook Facebook niet." De aanpassing van vorige week leidde tot een daling van de beurskoers: de angst is dat Facebook-gebruikers hun tijd elders gaan doorbrengen. Zuckerberg verwacht dat ook, maar zei dat de verandering 'op lang termijn ook goed is voor onze business'.

McNamee denkt dat échte veranderingen alleen door gebruikers kunnen worden afgedwongen. Door te stoppen met gebruiken. "Dat kost wel een generatie, vrees ik. Ik hoop dat het nieuwe er op een gegeven moment af gaat. Dat mensen hun gemeenschapszin en informatiebehoefte weer gaan scheiden."

James Hong, de promovendus op Stanford, vindt de problemen van sociale media "technologisch eigenlijk niet zo interessant". Een bubbel van het eigen gelijk? Facebook zou zijn newsfeed zo kunnen aanpassen dat je als gebruiker ook berichten krijgt die je eigen gelijk juist niet bevestigen. "Ze doen alsof die algoritmen een soort onvermijdelijke optimalisatie zijn, maar dat is natuurlijk onzin. Ze zijn alleen geoptimaliseerd naar advertentie-inkomsten."

Nog beter, zegt Hong, zou het zijn als gebruikers zelf hun informatiestromen konden aanpassen. "Geef mensen de keuze. Laat ze zelf voor meer of minder nieuws kiezen. Laat ze zelf klooien met de instellingen. Dat is technisch allang mogelijk. Het is vooral de vraag of de techbedrijven de gebruikers die macht en dat inzicht willen geven."

Nu zijn het vooral de 'zenders' die hulpmiddelen van Facebook krijgen om hun boodschap naar de juiste mensen te sturen. Die aanpak-op-maat, waarmee de Trump-campagne in 2016 zwarte Amerikanen en Sanders-stemmers van de stembussen weg wist te houden, is bij uitstek geschikt voor een gefragmenteerde, inconsequente, liegende en zichzelf tegensprekende politicus als Trump. Hij heeft voor elk wat wils. Sociale media vormen geen dorpsplein, maar een labyrint van steegjes waarin iedereen zijn eigen roddels in het oor krijgt gefluisterd.

De mensen die daar in die steegjes boodschappen ontvangen moeten maar afwachten wat ze krijgen. Terwijl de vrijheid om een mening te uiten tamelijk onbegrensd is, wordt de vrijheid om een mening te horen wel beperkt - of in elk geval gemanipuleerd.

Waardoor precies? Door algoritmen die hier in Silicon Valley worden bedacht. Maar de machines waaraan we ons hebben overgeleverd zeggen niets en nemen nog een biertje.

Op naar de volgende verkiezingen.