Krijgen we binnenkort allemaal een reputatiescore op Facebook?

In de nasleep van de Amerikaanse presidentsverkiezingen van 2016 ontwikkelde Facebook een factcheckprogramma. Dat moet helpen voorkomen dat gebruikers met slechte bedoelingen nepnieuws kunnen verspreiden op het vriendennetwerk.

Onder slechte bedoelingen verstaan we zowel partijen die uit puur geldgewin populaire nepverhalen de wereld insturen om er advertentiegeld aan te verdienen, als partijen die desinformatie de wereld insturen om verkiezingen of referenda te beïnvloeden.

Facebook rekent in de strijd tegen de verschillende soorten nepnieuws op externe factcheckpartijen. Denk aan de Amerikaanse website Snopes, maar ook de Nederlandse universiteit van Leiden werkte een tijdlang samen met Facebook om hoaxes te ontmantelen. Die samenwerking werd eerder dit jaar om onduidelijke redenen beëindigd.

De voorraad aan te controleren berichten wordt aangevuld door Facebook-gebruikers. Sinds 2015 kan iedereen berichten rapporteren als nepnieuws, haatspraak of spam. Het probleem is dat de informatie-oorlog op Facebook ondertussen tot in de rapportering is doorgedrongen. Dat vertelde Tessa Lyons, die bij Facebook verantwoordelijk is voor het gevecht tegen desinformatie, aan The Washington Post.

"Het is niet ongewoon dat mensen ons vertellen dat een bericht valse informatie is puur omdat ze het niet eens zijn met het uitgangspunt van een verhaal of omdat ze een bepaalde website willen aanvallen."

Zwaarder gewicht

Zulke valse meldingen maken het werk van factcheckers, die nu al overbevraagd zijn, er niet gemakkelijker op. Om beter te kunnen inschatten of een rapportering oprecht, dan wel kwaad opzet is, ontwikkelde Facebook een algoritme dat moet helpen om die laatsten sneller te ontdekken.

The Washington Post schrijft over een reputatiescore op een schaal van 0 tot 1 (met 1 als perfect betrouwbaar) om in te schatten of rapporteringen van gebruikers te vertrouwen zijn. Zo vertelt Lyons aan The Washington Post: "Een van de signalen die we gebruiken, is hoe mensen omgaan met berichten. We kunnen bijvoorbeeld een zwaarder gewicht toekennen aan een rapportering van een gebruiker die in het verleden al een keer terecht een artikel als vals heeft aangeduid, dan aan iemand die klakkeloos alles al vals nieuws markeert, waaronder ook artikels die wel waar blijken te zijn."

In een schriftelijke reactie aan De Morgen laat Facebook weten dat de bewoordingen van de Amerikaanse nieuwswebsite misleidend zijn.

"Het idee dat we een gecentraliseerde reputatiescore hebben voor mensen die Facebook gebruiken, is simpelweg onjuist en de kop van The Washington Post is misleidend. Wat we doen is het volgende: we hebben een proces ontwikkeld om ons te beschermen tegen mensen die – zonder onderscheid te maken – nieuws als nep markeren en die zo proberen om het factcheckprogramma voor de gek te houden."

Onrustwekkend

Hoe dat proces dan wel precies werkt, blijft koffiedik kijken. Om gebruikers die valselijk nepnieuws markeren te herkennen, heb je patronen en scores nodig. Maar hoe dat dan precies gebeurt wil Facebook niet communiceren.

Het heeft op het eerste gezicht allemaal wat weg van Black Mirror-achtige taferelen, de serie waarin personages op basis van hun reputatie al dan niet het vliegtuig kunnen nemen. Het feit dat Facebook geen details wil delen over wie wel en wie niet vertrouwd wordt bij het rapporteren van valse informatie, is onrustwekkend.

Verschillende commentatoren wijzen er ook op dat de redenering van Facebook te begrijpen is. Hoe meer details het bedrijf vrij geeft over hoe het valsspelers wil aanpakken, hoe groter de kans dat die gebruikers een strategie vinden om het systeem toch nog te verschalken en berichten te laten verwijderen waar ze het niet mee eens zijn.