Nederlandse politie stopt met algoritme dat voorspelt wie gewelddadig wordt

Het algoritme was sinds 2014 in gebruik bij de Nederlandse politie. Het keek naar iemands geslacht, leeftijd en strafblad om te beoordelen wie gewelddadig zou kunnen worden. Mensen die daaruit naar voren kwamen, kregen te horen dat ze een “veiligheidsrisicosubject” waren. Ze zouden vaker gecontroleerd worden en waren verplicht om daaraan mee te werken. Follow The Money meldde eerder deze week dat ook etnische achtergronden een rol speelden: mensen met een Marokkaanse, Antilliaanse of Somalische achtergrond werden als een groter risico gezien dan anderen.

De Nederlandse politie zegt dat het algoritme nooit alleen werd gebruikt. “Het was een ondersteuning, in combinatie met andere systemen, om te kijken of de kans groot is dat iemand geweld gaat toepassen. Als dat zo is, konden we dat gebruiken voor een persoonlijke aanpak, bijvoorbeeld met de geestelijke gezondheidszorg en de gemeenten.” Het is niet duidelijk of de uitkomsten van het algoritme nog in de dossiers van mensen staan, en of die worden aangepast.

Eerder moest de overheid al stoppen met het gebruik van een algoritme om bijstandsfraude op te sporen. Dat Systeem Risico Indicatie (SyRI) is in strijd met Europese regels die het privéleven van mensen beschermen, bepaalde de rechtbank in 2020.