Chinese politie arresteert man voor het verspreiden van fake nieuws met behulp van ChatGPT

De politie verklaarde dat de verdachte ChatGPT heeft gebruikt om valse informatie te verspreiden over een treinongeluk, met als doel er financieel gewin uit te halen. Volgens lokale autoriteiten werd het artikel ongeveer 15.000 keer bekeken. Hoewel de AI-tool verboden is in China, maken inwoners vaak gebruik van een VPN om er toegang toe te krijgen.

“Hong gebruikte moderne technologie om valse informatie te fabriceren en te verspreiden op het internet, die op grote schaal werd verspreid,” zei de politie in een verklaring. “Zijn gedrag kwam neer op ruzie zoeken en problemen uitlokken.”

De politie zei dat het de eerste arrestatie is sinds China’s Cyberspace Administration in januari nieuwe regels uitrolde om het gebruik van vervalsingen te beperken. Volgens de staatsomroep CGTN was het de eerste arrestatie van een Chinees persoon die beschuldigd werd van het gebruik van de tool om fake nieuws te fabriceren en te verspreiden.

Sinds het begin van dit jaar hebben Chinese internetgiganten zoals Baidu (BIDU) en Alibaba (BABA) geprobeerd OpenAI bij te benen door hun eigen versies van de ChatGPT-dienst te lanceren. In richtlijnen die vorige maand werden gepubliceerd, heeft de Chinese toezichthouder voor de cyberruimte verklaard dat AI-diensten een veiligheidsbeoordeling moeten ondergaan voordat ze gebruikt kunnen worden. Dienstverleners moeten ook de identiteit van gebruikers verifiëren en gedetailleerde informatie verstrekken over de aard en omvang van de gegevens die ze gebruiken, evenals hun basisalgoritmen en andere technische gegevens.

De nieuwe wetgeving verbiedt gebruikers om deepfake-content te genereren over onderwerpen die al verboden zijn op het sterk gecensureerde Chinese internet. Daarnaast voorziet de wetgeving in procedures voor het verwijderen van inhoud die als vals of schadelijk wordt beschouwd.

Met behulp van deepfake-technologie kunnen mensen op een uiterst realistische manier worden nagebootst. Gebruikers kunnen iemands gezicht en stem integreren in bestaande afbeeldingen of video’s, waardoor het lijkt alsof die persoon dingen zegt of doet die nooit werkelijk hebben plaatsgevonden.