De comdom-app werd gelanceerd door Telenet in samenwerking met Child Focus om jongeren veiliger naaktfoto’s te laten sturen naar mekaar. De app legt namelijk een watermerk met de identiteit van de ontvanger over de foto. Zo is altijd te traceren wie de originele foto verspreidde.

Dat watermerk blijkt nu heel simpel te verwijderen.

Onderzoekers Martijn Courteaux en Hannes Mareen uit het onderzoeksteam IDLab-MEDIA van prof. Peter Lambert aan de Universiteit Gent, vonden enkele belangrijke beperkingen waardoor de app een pak minder veilig is dan men beweert.

Zo werd bijvoorbeeld gezegd dat ‘Deze filter zelfs door de ervaren Photoshop gebruiker niet zomaar verwijderd kan worden – of toch niet zonder de naaktfoto onherkenbaar te maken.’

Lees verder onder de foto’s

‘Toch slaagden de onderzoekers erin om in enkele dagen tijd een programma te ontwikkelen dat deze watermerken zelfs automatisch kon laten verwijderen. De software kan de originele foto bijna perfect reconstrueren, en dus de identiteit van de ontvanger laten verdwijnen, waardoor de veiligheid van de zender niet langer gegarandeerd is’, klinkt het.

Artificiële intelligentie (AI) helpt watermerk te verwijderen

Hoe kan dit? De onderzoekers konden eenvoudig achterhalen hoe het watermerk precies opgebouwd wordt door de app. Daarna pasten ze zélf het watermerk toe (in tal van variaties) op een verzameling van enkele duizenden willekeurig gekozen foto’s. Tot slot werd op basis hiervan een relatief eenvoudig AI-algoritme (neuraal netwerk) getraind om de relatie te vinden tussen de gewatermerkte foto’s en hun originelen, waarna het algoritme in staat was om het watermerk te verwijderen van foto’s die door de app gemaakt worden.

Geen absolute veiligheid

‘De .comdom app claimt een veilig alternatief te zijn voor apps zoals Snapchat en Confide die slechts de illusie van online veiligheid bieden, maar het lijkt erop dat .comdom in hetzelfde bedje ziek is. De onderzoekers betreuren dat bedrijven en instellingen met klinkende namen op bijna gratuite wijze veiligheid claimen terwijl men zelf onvoldoende aandacht heeft besteed aan de uitwerking van die veiligheid. Zo zijn de eigenschappen van het watermerk te doorzichtig, en, misschien belangrijker, werd geen rekening gehouden met van de kracht van huidige AI-algoritmen (zogeheten ‘Deep Fakes’)’, zeggen de onderzoekers.

Het onherkenbaar maken van gezichten kon de app wel beter.

’In plaats van absolute veiligheid te beloven, lijkt het beter om mensen nóg bewuster te maken van de gevaren en/of beperkingen van online veiligheid en te blijven inzetten om digitale geletterdheid’, concluderen de onderzoekers.