Niet zo onschuldig als het lijkt: radicaal-rechtse internetgebruikers maken met hulp van AI haatdragende memes

Uit een recent onderzoek van het techbedrijf Textgain, een spin-off van de Universiteit Antwerpen, blijkt dat radicaal-rechtse internetgebruikers steeds vaker artificiële intelligentie gebruiken om haatdragende beelden, ook wel subliminale haatmemes genoemd, te creëren.

Op het eerste gezicht lijken de beelden onschuldig, maar een aandachtige kijker merkt op dat er antisemitische, ­racistische en nazisymbolen in verwerkt zijn. De beelden zijn gemaakt door radicaal-rechtse internetgebruikers die “handleidingen delen op sociale media zoals 4Chan, vooral bekend in rechtse kringen, die precies uitleggen wat ze moeten vragen aan artificiële intelligentie om zulke beelden te genereren”, legt onderzoeker online radicalisering bij Textgain, Olivier Cauberghs, uit.

In een volgende stap belanden deze beelden op reguliere media zoals Facebook of X (voorheen Twitter). De beelden lijken onschuldig, maar dat is het niet. “Wanneer je zo’n beeld leuk vindt, kom je stilaan in een vicieuze cirkel terecht, waarbij je mogelijk steeds radicalere berichten te zien krijgt”, aldus Cauberghs.

Het Interfederaal Gelijkekansencentrum Unia merkt op dat er steeds meer meldingen zijn over online haatspraak en vooral de toon ervan ernstiger wordt. Daarnaast is het erg moeilijk om de verspreider te identificeren, laat staan te veroordelen.

Geschreven raciale haat is wel degelijk strafbaar in ons land, maar in de praktijk wordt zulke haatspraak niet vervolgd. Dit komt doordat het beschouwd wordt als een drukpersmisdrijf en dit valt onder de bevoegdheid van het hof van assisen in plaats van de correctionele rechtbank.

Unia pleit dan ook voor een grondwetswijziging waardoor het mogelijk wordt om online homofobe en niet-raciale haatspraak te berechten voor de correctionele rechtbank.