Als iemand in een chatgroep schokkende beelden verstuurt of spam verzendt, kunnen gebruikers dit via een rapportageknop rapporteren. Dan wordt een team van duizend ingehuurde moderatoren ingeschakeld, meldt het Amerikaanse onderzoeksplatform Propublica. Deze medewerkers controleren of er sprake is van kinderporno, kindermisbruik, haatzaaierij, terroristische dreiging of spam.

Context

Daarvoor bekijken de WhatsApp-moderatoren niet enkel het omstreden bericht, maar ook de vier voorgaande berichten. Deze context moet mee bepalen of het gerapporteerde bericht moet leiden tot het in de gaten houden of blokkeren van het account. In de voorwaarden van WhatsApp staat dan ook te lezen dat je akkoord gaat met het versturen van ‘een paar berichten’, als je een bericht rapporteert. Volgens Propublica is de privacy van de twee miljard gebruikers in het gevaar.

WhatsApp rapporteerde op deze manier in 2020 meer dan 400.000 mogelijke gevallen van kindermisbruik. Maar de rapportageknop wordt ook vaak misbruikt voor plagerijen en grappen in chatgroepen.

Ook gekoppelde accounts in zicht

Om meldingen naar waarde te schatten, gaat een geautomatiseerd systeem aan de slag met de waarschuwingen van gebruikers en linkt die met data die WhatsApp zelf verzamelt over accounts, gebruikspatronen en mogelijke eerdere overtredingen. Die informatie bestaat volgens Propublica onder meer uit profielfoto’s, telefoonnummers, details over het toestel en eventueel gekoppelde Facebook- en Instagram-accounts.

Technisch gezien blijft het berichtenverkeer in WhatsApp versleuteld, en dus beveiligd tegen ongewenste meelezers. Het zijn gebruikers die - andermans - berichten ontsleutelen door ze te rapporteren, al dan niet voor de grap.