Facebook en Microsoft lanceren wedstrijd om deepfake video’s op te sporen

Facebook investeert maar liefst 10 miljoen dollar (9 miljoen euro) in de ‘Deepfake Detection Challenge’ die het onderzoek naar opsporingsmethoden voor dergelijk nep beeldmateriaal een duw in de rug moet geven. 

In het kader van het onderzoek heeft Facebook onderzoekers de opdracht gegeven om realistische deepfakes te produceren, zodat er een dataset kan gecreëerd worden voor het testen van detectietools. 

In aanloop naar de Amerikaanse presidentsverkiezingen in november 2020 staan socialemediaplatformen onder druk om de dreiging van deepfakes aan te pakken. In deepfakes wordt artificiële intelligentie gebruikt om hyperrealistische video’s te creëren waarin een persoon iets lijkt te zeggen of doen dat hij in werkelijkheid niet zei of deed.

Voorlopig doen er nog geen goed gemaakte deepfake video’s de ronde die grote politieke gevolgen hebben, maar dat dergelijke gemanipuleerde video’s voor opschudding kunnen zorgen werd recent nog aangetoond met een ‘cheapfake’ video van Nancy Pelosi, de Democratische voorzitter van het Huis van Afgevaardigden: de beelden waren manueel vertraagd zodat het leek alsof ze dronken was.

Sommige onderzoekers werken nu aan systemen om een video of foto op het ogenblik van productie een digitaal watermerk te geven, maar de snelle evolutie van deepfake-technologie leidt tot een wapenwedloop tussen de makers ervan en degenen die de video’s proberen op te sporen.

“Het is een kat-en-muisspel. Als ik een detectie voor deepfakes ontwikkel, dan geef ik de aanvaller een nieuwe discriminator om op te testen”, zegt Siddharth Garg, assistant-professor computer engineering aan de Tandon School van New York University.

Bovendien wordt deepfake-technologie ook steeds toegankelijker voor minder ervaren videomakers. De Chinese app Zao maakt het bijvoorbeeld mogelijk voor gebruikers om hun gezicht op het lichaam van filmsterren te plaatsen. Op YouTube zijn er tutorials te vinden voor het maken van deepfakes en er bestaan websites waarop deepfakes gecreëerd kunnen worden.