Een hele reeks AI-gegenereerde seksueel expliciete beelden van Taylor Swift gingen de voorbije uren en dagen rond op X, het voormalige Twitter. Een ervan trok meer dan 45 miljoen views, werd 24.000 ‘gerepost’ en ontving honderdduizenden likes voordat het account werd opgeschort van de gebruiker die de afbeeldingen online had geplaatst. Uiteindelijk stond de post ongeveer 17 uur op het platform voor hij werd verwijderd.

Ook vele andere foto’s gingen rond op het sociale medium, en er blijven her en der nieuwe vervalsingen verschijnen. In sommige gebieden werd de term ‘Taylor Swift AI’ een trending topic, waardoor de beelden een nog breder publiek bereikten. De foto’s zouden inmiddels zo goed als verwijderd moeten zijn van X, maar natuurlijk is niets op internet definitief verdwenen.

Volgens een bericht van de technologiewebsite 404 Media zijn de afbeeldingen mogelijk afkomstig van een groep op Telegram, waar gebruikers expliciete, door AI gegenereerde afbeeldingen van vrouwen delen. Gebruikers in de groep maakten naar verluidt grapjes over hoe de beelden van Swift viraal gingen op X.

Bescherm Taylor

Fans van Taylor Swift uitten hun woede de zaak en gaan in de tegenaanval door massaal normale foto’s van de zangeres te posten en zo – met succes – het topic ‘Protect Taylor Swift’ (Bescherm Taylor Swift) trending te maken.

Ook Swift zelf zou “woedend” zijn over het voorval, zo schrijft de Britse tabloidkrant Daily Mail op basis van een bron dicht bij de zangeres. “Of er juridische stappen worden ondernomen, moet nog beslist worden, maar één ding is duidelijk: deze neppe, AI-gegenereerde beelden zijn beledigend, aanstootgevend, uitbuitend en gemaakt zonder toestemming of medeweten van Taylor”, aldus de bron tegen de krant.

Het incident legt andermaal bloot dat X de grootste moeite heeft met contentmoderatie, wat sowieso bepaald niet de hoogste prioriteit van X-opperhoofd Elon Musk. In december opende de Europese Commissie al een onderzoek naar X wegens het verspreiden van desinformatie. Ook maakt het voorval opnieuw de gevaren van deepfake (pornografische) beelden duidelijk.