Van “onaanvaardbaar” tot “minimaal risico”: deze regels hoopt Europees Parlement op te leggen aan artificiële intelligentie

De Europese Unie wil met de wetgeving een wereldwijde norm opstellen voor het gebruik van de technologie die zich in volle vaart ontwikkelt. De privacywetgeving GDPR wordt vaak als voorbeeld genoemd. De parlementsleden keurden hun standpunt goed met 499 stemmen voor en 28 stemmen tegen, en bij 93 onthoudingen.

In het voorstel van de Europese Commissie worden de AI-toepassingen opgedeeld volgens risico. Games met de technologie kennen een minimaal risico, zelfrijdende wagen worden dan weer als hoog risico ingeschat, terwijl een scoringssysteem voor het gedrag van burgers onaanvaardbaar is.

Afhankelijk van de categorie zijn er verplichtingen qua transparantie tot strenge controles. Het voorstel van de Commissie kwam er echter vóór de doorbraak van generatieve AI zoals ChatGPT en Midjourney. Die systemen kunnen op basis van grote hoeveelheden data automatisch teksten, afbeeldingen tot audio en video aanmaken.

Het Europees Parlement wil dat er voor dat soort AI een aparte categorie komt. De parlementsleden zien het niet als hoog risico, maar moet wel aan een aantal verplichtingen worden voldaan qua menselijk toezicht en transparantie.

Sam Altman, de CEO van OpenAI - dat ChatGPT ontwikkelt - dreigde er al mee om de EU te verlaten. Eurocommissaris Thierry Breton tikte hem op de vingers voor die uitspraak, waarna er wat meer nuance kwam. Altman was de afgelopen weken ook druk in de weer om te spreken met politici in Europa en elders in de wereld.

Eén van de meest controversiële aspecten aan de AI Act binnen het Europees Parlement is real-time gezichtsherkenning met AI in de publieke ruimte. Een brede meerderheid wil dat verbieden, maar de christendemocratische fractie is daar niet mee akkoord.

“In zeer uitzonderlijke gevallen moet dit wel mogelijk zijn, mits voorafgaande rechterlijke toestemming en beperkt in de tijd en ruimte. Denk aan het opsporen van een vermist kind of een terrorist die na een aanslag op de loop is”, aldus Vandenkendelaere. Ook liberaal Europarlementslid Hilde Vautmans wil uitzonderingen op de regels toelaten: “Politie en opsporingsdiensten moeten een beroep kunnen doen op AI, ook voor gezichtsherkenning.”

De christendemocraten dienden nog amendementen in om de uitzonderlijke gevallen mogelijk te maken, maar dat werd weggestemd. De EU-landen stemden eerder wel in met het gebruik van zulke biometrische identificatiesystemen op afstand. Dit lijkt alvast een harde noot om te kraken tijdens de onderhandelingen.

De EU-lidstaten en het Parlement kunnen nu beginnen onderhandelen. Sociaaldemocraat Brand Benifei, die de wetgeving mee door het parlement loodste, zei dat die vanavond al beginnen. “De hoop is dat in 2024, nog voor de verkiezingen – en dus onder het Belgische EU-voorzitterschap – dit dossier landt, om dan in 2025 de regels te implementeren”, laat Vautmans weten in een persbericht.

Ondertussen wordt er wel tussen de EU en de Verenigde Staten gewerkt aan een gedragscode voor de sector. Al gooien ook andere EU-regels roet in het eten van generatieve AI.

Zo was ChatGPT een tijdlang niet beschikbaar in Italië na vragen van de nationale privacywaakhond. Nieuwssite Politico schreef dinsdag dat de lancering van chatbot Google Bard in de EU werd uitgesteld na vragen van de Ierse toezichthouder.