'Facebook kan zich niet langer verschuilen'

In het Zweedse Uppsala wordt een vrouw urenlang verkracht door drie mannen. De verkrachting wordt door zo'n tweehonderd personen live gevolgd via een livestream op Facebook. In eerste instantie wordt aan een slechte grap gedacht, daarna dringt het besef door dat het echt is. De vrouw is niet volledig bij bewustzijn. Snel daarna komen de reacties: stop hiermee. Een van de kijkers waarschuwt de politie, die het appartement in Uppsala kan binnenvallen. De drie mannen, tussen de 18 en de 24 jaar oud, worden gearresteerd. Ook live te volgen. Pas daarna gaat de camera uit.

Het is het zoveelste voorbeeld van de donkere kant van livevideo. Al snel na de introductie (in april vorig jaar) van zijn livevideodienst laat Facebook weten dat het zich bewust is van het feit dat het niet altijd gewone mensen zijn die hun vrolijke video's van huisdieren, gezellige etentjes of hippe festivals met hun dierbaren zullen delen. Ook al is dit wel de bedoeling.

Facebook zegt ook keer op keer dat het zijn verantwoordelijkheid neemt als het niet goed gaat. Een team staat 24 uur per dag, zeven dagen per week paraat om ongewenste video's offline te halen. Dit gebeurt dan op basis van meldingen van Facebook-gebruikers. Achteraf uiteraard: alles wordt live, rauw en ongefilterd uitgezonden.

Dit is precies de achilleshiel van het systeem. Bij livebeelden van verkrachtingen of martelingen duurt het per definitie te lang voordat er kan worden ingegrepen. Facebook lijkt dit zelf ook in te zien. Het zegt te werken aan een systeem om automatisch ongewenste livebeelden te kunnen herkennen.

Jeroen van den Hoven, hoogleraar ethiek en techniek aan de TU Delft, ergert zich aan deze afwachtende houding. "Bedrijven als Facebook en Google hebben een grote verantwoordelijkheid. Die moeten ze nu eens gaan nemen. Ze zijn bezig de sociale infrastructuur van de samenleving te maken. We hebben het hier niet over het verkopen van schoenveters. Bovendien verdienen ze er goed aan."

Spiegelmetafoor

Deze kritiek klinkt de laatste tijd vaker, ook in verband met het fenomeen nepnieuws. Een paar jaar geleden al ageerde internetcriticus Evgeny Morozov tegen de houding van Google en Facebook. Tot zijn ergernis verschuilen ze zich achter de 'spiegelmetafoor': ze zijn slechts neutrale techbedrijven die een spiegel zijn van wat er in de maatschappij gebeurt.

Onzin, zegt ook Van den Hoven. "Het ís niet neutraal wat ze doen. Ze zijn nota bene de grondslagen van onze verstandhouding ten opzichte van elkaar aan het ontwerpen. Dat gaat heel wat verder dan frivole en leuke filmpjes." De ethicus is niet onder de indruk van inspanningen op het gebied van kunstmatige intelligentie. "Dat is me veel te vaag. Het gebeurt nú. De ontwikkelingen gaan razendsnel. Dit gebeurt er nou als je dingen laat lopen."

Iemand moet bedrijven als Facebook "op tamelijk indringende wijze" aan het verstand brengen dat ze zich niet langer kunnen verschuilen, vindt Van den Hoven. "Het loopt helemaal uit de hand. De overheid zou dit moeten doen. Maar ja, die is druk bezig met hippe start-ups."

Tot die tijd moet Facebook pas op de plaats maken, vindt hij. "Prima als Facebook het met artificiële intelligentie denkt te kunnen oplossen, maar zolang dat niet het geval is, moet het gewoon even wachten met een dergelijke dienst."

Van den Hoven onderschrijft de commentaar die onlangs in The New Scientist stond. Het tijdschrift riep op tot nieuwe morele codes voor verantwoord innoveren.

Linda Kool van het Rathenau Instituut, dat de Nederlandse overheid adviseert op het gebied van wetenschap en technologie, zit op dezelfde lijn. "ICT is geen gadget meer, het is onderdeel van ons hele leven. Te lang heeft de overheid op de lijn gezeten dat het digitale domein iets bijzonders was." Het gevolg is volgens haar conceptuele verwarring: is Uber nu een vervoersbedrijf of een techbedrijf? Hetzelfde geldt voor Facebook: is het een mediabedrijf of een technologiebedrijf? "Bedrijven noch de overheid kunnen het zich veroorloven weg te kijken."

Kool ziet tot haar vreugde dat Facebook zich wat volwassener begint te gedragen. "Maar daarbij komen weer nieuwe dilemma's. Voor je het weet, wordt Facebook beschuldigd van censuur als het ingrijpt."