Fake news 2.0: slimme nieuwe tools moeten ‘deepfake’-video’s met valse gezichten ontmaskeren

Die valse video's kwamen bijvoorbeeld onder de aandacht toen een tool werd gepubliceerd waarmee het relatief eenvoudig is om hoofden van veelal bekende vrouwen toe te voegen aan pornovideo's. De makers achter de tool Fake App trainden een neuraal netwerk aan de hand van in video's gedetecteerde gezichten om de gezichtsuitdrukkingen, belichting en positie te bepalen. 

De echt ogende valse video's kunnen volgens critici een destabiliserend effect hebben, omdat het moeilijk is om echt nog van nep te onderscheiden. Zo waarschuwde technoloog Aviv Ovadya in februari voor een ‘Informatie Apocalyps’ omdat de technologie de lijnen tussen feit en fictie zodanig doet vervagen dat “iedereen kan doen lijken alsof wat dan ook gebeurd is, of het nu echt is of niet”. En net zoals de desinformatiecampagnes aanvankelijk niet bedreigend leken – tot we realiseerden dat het eigenlijk al aan het gebeuren was – zijn we volgens hem dichter dan we denken bij die potentiële ‘Informatie Apocalyps’ of ‘Infocalyps’.

De gevolgen kunnen verwoestend zijn, bijvoorbeeld wanneer een wereldleider in een valse video een oorlog uitlokt. "Het moet niet perfect zijn", aldus Ovadya. "Gewoon goed genoeg om de vijand te laten denken dat er iets is gebeurd zodat het een roekeloze reactie of vergelding uitlokt."

Om dergelijke valse video's te ontmaskeren, moet andere software de trucageprogramma's een stap voor blijven. En dat is een taak voor het Amerikaans overheidsprogramma Media Forensics, dat wordt geleid door het Defense Advanced Research Projects Agency (DARPA). Hoofd Matthew Turek van het programma legt aan MIT Technology Review uit dat aanpassingen kunnen worden gedetecteerd via subtiele aanwijzingen die zijn aangetroffen in bestaande gemanipuleerde afbeeldingen en video's.

Een van de technieken werd ontwikkeld door professor Siwei Lyu van de Universiteit van Albany, die vertelt dat traditionele forensische methodes voor het 'ontmaskeren' van nepvideo's niet altijd even goed werken. Hij maakte samen met een student vijftig verschillende nepvideo's, waarna hij er een aantal bestaande methodes op losliet. Sommige methodes leverden resultaat op, maar andere weer niet.

Lyu ontdekte dat de gezichten op deepfakes zelden of nooit met de ogen knipperen, of dat ze dat doen op een onnatuurlijke manier. Dat hangt samen met het feit dat deepfakes worden 'getraind' op stilstaande afbeeldingen van een persoon met open ogen. Lyu erkent dat een goede vervalser hier iets op kan verzinnen, bijvoorbeeld door plaatjes te verzamelen van een persoon die met de ogen knippert. De professor zegt ook hier iets op te hebben verzonnen, al wil hij niet prijsgeven wat. Volgens hem is hij met deze tool de vervalsers nog te slim af en dat wil hij graag zo houden.

Andere onderzoekers werken aan vergelijkbare technieken waarbij het draait om het automatisch herkennen van opvallende signalen, zoals rare hoofdbewegingen of een vreemde oogkleur. De wetenschappers richten zich op aspecten die moeilijk zijn om goed na te bootsen in deepfakes.