Facebook bant nepvideo's in aanloop naar verkiezingen VS

Vorig jaar weigerde Facebook een bewerkte video te verwijderen van Nancy Pelosi, de Democratische voorzitter van het Amerikaanse Huis van Afgevaardigden. In het filmpje leek het alsof ze over haar woorden struikelde en kwam er een onsamenhangend verhaal uit haar mond. Het besluit om de video niet weg te halen, kwam Facebook op veel kritiek te staan.

“Gemanipuleerde media die zijn bewerkt of veranderd - afgezien van aanpassingen als helderheid of kwaliteit - op manieren die niet te zien zijn zullen worden verwijderd”, licht Facebook toe in een verklaring. Een video zal ook worden verwijderd “als het een product is van kunstmatige intelligentie, waarin content wordt samengevoegd, vervangen of over een andere video heen wordt geplaatst, waardoor het beeld authentiek lijkt.”  

Volgens Facebook houden deepfakes “een significante bedreiging voor onze sector en de samenleving” in. Terwijl ze nu nog relatief zeldzaam zijn, komen ze wel almaar meer voor, luidt het. Het bedrijf heeft de strijd tegen nepaccounts al eerder geopend. Onlangs wist Facebook nog een netwerk van profielen met door software geconstrueerde foto’s en gegevens te achterhalen. Of er gevolgen zijn voor de mensen achter zulke accounts, is niet duidelijk. 

Hany Farid, een digitaal forensisch expert aan de Universiteit van Californië, vraagt zich in The Washington Post af waarom Facebook zich enkel richt op gemanipuleerde video’s en niet naar het bredere probleem van misleidende filmpjes kijkt. “Deze misleidende video’s zijn gemaakt met simpele technische hulpmiddelen en zonder AI, maar ze waren net zo misleidend als een deepfake-video.”

De Amerikaanse presidentsverkiezingen zijn op 3 november.