Algoritmes bepalen uw leven: van hoe de stoplichten veranderen tot hoe de politie verdachten zoekt. In Nieuw-Zeeland heeft de overheid voor het eerst een charter uitgevaardigd dat bepaalt hoe algoritmes mogen gebruikt worden.

Overheidsdiensten gebruiken de hele dag door algoritmes die hen helpen hun job te doen. Volgens critici kunnen er in die lijntjes code echter fouten sluipen, waardoor er discriminerende of verkeerde beslissingen genomen worden. Daarom is het belangrijk dat mensen weten hoe hun gegevens gebruikt worden. Nieuw-Zeeland heeft er een charter voor ondertekend, het eerste ter wereld.

Wie checkt er de algoritmes?

In het charter zeggen de ondertekenende organisaties dat ze transparant zullen zijn over hoe algoritmes beslissingen maken. Dat moet in normaal Engels, zonder jargon dus, gebeuren. Tenzij er redenen zijn om die informatie niet vrij te geven, moet ook duidelijk zijn hoe data worden bijgehouden en hoe men omgaat met vooroordelen binnen algoritmes.

Zo moet men in Nieuw-Zeeland bekijken hoe men omgaat met de Maori. Die inheemse bevolkingsgroep wordt disproportioneel vaker veroordeeld en zit vaker in de gevangenis. Dat heeft niets te maken met een hoger criminaliteitscijfer, maar kan te maken hebben met hoe algoritmes de bevoegde diensten sturen.

Vertrouwen winnen

James Shaw, de Nieuw-Zeelandse minister van Statistiek, zegt aan de Britse krant The Guardian: ‘Deel van de reden voor dit charter is dat mensen zich er steeds meer van bewust zijn hoe Facebook werkt en op welke manier ons leven vorm wordt gegeven door het gebruik van en de manipulatie van gegevens.’ Shaw bedoelt daarmee dat sociale media hun gebruikers in de richting van bepaalde content kunnen sturen. ‘Dit is een belangrijk deel van vertrouwen opbouwen bij het publiek.’

Enkele overheidsdiensten die het charter al ondertekenden, zijn het Nieuw-Zeelandse Ongevallencompensatiefonds. Dat kreeg in 2017 kritiek omdat het algoritmes gebruikte om fraude te detecteren bij potentiële claims. Ook de penitentiaire dienst, die de gevangenissen overziet, heeft getekend. Die gebruikten eerder al algoritmes om de kans op hervallen van delinquenten te berekenen.

Immigratiedienst zegt nee

Andere afdelingen lagen al eerder onder vuur, maar hebben het charter nog niet ondertekend. Daarbij zijn de immigratiedienst, die profielen scant op basis van een algoritme, en de politie. Die laatste introduceerde onlangs gezichtsherkenningstechnologie zonder dat aan te kondigen.