Organisatie betaalde meer dan 9 miljoen dollar voor pro-Trump-campagne met valse beelden

De accounts werden gelinkt aan The BL, wat staat voor The Beauty of Life, een Amerikaans mediabedrijf dat banden heeft met Epoch Media Group. Die organisatie is erg kritisch voor de Chinese overheid en heeft banden met de Chinese spirituele beweging Falun Gong. Epoch Media Group is ook een erg uitgesproken voorstander van de herverkiezing van president Trump.

Volgens Facebook was The BL gelinkt aan honderden nepaccounts die met grote regelmaat politieke boodschappen verspreidden op zowel Facebook als Instagram. De boodschappen waren erg pro-Trump en bijzonder kritisch voor zijn tegenstanders en critici. Gebruikers werden aangemoedigd om te reageren als ze het eens waren met politieke stellingen.

Facebook deelt mee dat de accounts niet werden offline gehaald omwille van de inhoud van de boodschappen, maar wel omwille van de tactieken die gebruikt werden door de mensen die ze verspreidden, zoals het gebruik van beelden die met artificiële intelligentie werden gegenereerd, wat in strijd is met het Facebook-reglement. Daarnaast maakten de nepaccounts ook vaak gebruik van echte foto’s die werden gestolen van andere gebruikers.

Volgens onderzoekers van Graphika en het Digital Forensics Research Lab, twee Amerikaanse bedrijven die zich specialiseren in data- en socialenetwerkanalyse, is het de eerste keer dat ze “AI-gegenereerde beelden zien die op grote schaal worden ingezet om een reusachtige collectie van profielfoto’s te genereren die worden ingezet in een socialemediacampagne”.

Hoewel de duidelijke signalen als misvormde oren en vervormde achtergronden de onderzoekers hielpen bij het identificeren van de valse foto’s “evolueert deze technologie snel naar de vervaardiging van meer geloofwaardige beelden”, delen de experts van Graphika mee in een rapport.

Volgens Facebook waren 610 Facebook-accounts, 89 Facebookpagina’s, 156 Facebookgroepen en 72 Instagram-accounts betrokken bij het netwerk. Zo’n 55 miljoen Facebookgebruikers volgden minstens een van de pagina’s die verband hielden met de operatie, maar het is onduidelijk hoeveel van hen in de Verenigde Staten wonen.

Twitter bevestigt dat het 700 accounts die gelinkt worden aan hetzelfde netwerk offline haalde.

De organisatoren van de campagne spendeerden meer dan 9 miljoen dollar (8,1 miljoen euro) aan de promotie van hun content op Facebook, die handelde over hete hangijzers zoals “de impeachment (van Trump, red.), Conservatieve politieke ideologie, politieke kandidaten, verkiezingen, handel, familiewaarden en religieuze vrijheid”. Dat bedrag ligt bijna 100 keer hoger dan wat de beruchte Russische trollenfabriek volgens Facebook rond de tijd van de Amerikaanse presidentsverkiezingen in 2016 neertelde.

Epoch Media Group laat in een verklaring weten dat ze “niets te maken heeft met de website The BL”. “The BL werd opgestart door een voormalige medewerker en stelt sommige van onze voormalige personeelsleden te werk”, zegt uitgever Stephen Gregory in een verklaring. Hij vraagt Facebook om de beschuldigingen in te trekken en een verbod op advertenties van Epoch Media in te trekken.

Facebook reageerde vrijdag dat de leidinggevenden van The BL vrijdagochtend “nog actieve beheerders waren van de pagina’s Epoch Media Group toen hun accounts werden gedeactiveerd en The BL werd verwijderd.”

Verscheidene Amerikaanse media en onderzoekers luidden de voorbije maanden al de alarmbel omwille van de verdachte tactieken van The BL en de mogelijkheid dat het mediabedrijf nepaccounts gebruikte om pro-Trump-boodschappen te verspreiden. Factchecker Snopes berichtte als eerste over de banden tussen The BL en Epoch Times.