Is de razend populaire "portret-app" Lensa wel zo onschuldig en hoe veilig is hij?
Lensa, de app die van je gezicht een uniek portret maakt, is razend populair. De afgelopen weken werden Instagram- en Twitter-tijdslijnen overspoeld met bewerkte sciencefiction of feeërieke afbeeldingen. De app gebruikt artificiële intelligentie. Dat roept vragen op. Zijn je gegevens beschermd? En wie is de eigenaar van het eindproduct?
1. Hoe werkt de app?
De app maakt van je portretfoto's een avatar, waardoor het lijkt dat je foto getekend is door een professioneel grafisch ontwerper. De service is betalend. Om tot die digitale avatars te komen, gebruikt de app artificiële intelligentie (AI). Om de AI-machine te "trainen" moet ze eerst weten wat beeldende kunst is. De makers laten haar daarvoor grote hoeveelheden kunstwerken en grafische ontwerpen zien. Daaruit haalt het systeem verscheidene gegevens, zoals kleurcombinaties, vormen en composities.
Die AI-machine leert ook uit de foto's die je oplaadt. Je selfies bevatten namelijk ook belangrijke data: de afstand tussen je ogen, de kleur van je lippen, de positie van je wenkbrauwen. Hoe meer selfies je uploadt, hoe beter het eindresultaat.
Eenmaal de foto's zijn opgeladen, kies je een geslacht en je prijsformule. De app zal daarna alles wat die heeft geleerd over beeldende kunst combineren met de gegevens van je gezicht. Na twintig minuten wachten, krijg je een vijftigtal verschillende avatars in verschillende stijlen.
2. Zijn mijn gegevens beschermd?
Het privacybeleid van de app is nogal vaag. Daarin staat enerzijds dat je gegevens maximaal 24 uur lang bewaard worden. Anderzijds staat er ook in dat foto's en video's gebruikt kunnen worden om de AI-machine te kunnen trainen. Of de data van die beelden daardoor wel langer bewaard worden, is niet duidelijk.
De app is Russisch, maar ontsnapt daardoor niet aan de Europese GDPR-wetgeving, vertelt advocate en professor bij de Université Saint Louis Bruxelles Sari Depreeuw. Ze is gespecialiseerd in IT-recht en intellectuele eigendom. Toch begrijpt ze de angst die mensen hebben om hun gegevens zomaar vrij te geven. "De GDPR-wetgeving is geen waterdichte bescherming. In de praktijk kan de EU die hoge beschermingsstandaard moeilijk handhaven tegenover niet-Europese bedrijven."
De Belgische Gegevensbeschermingsautoriteit (GBA) mag zich niet uitspreken over een specifieke app, maar waarschuwt toch. "Wees voorzichtig met de toestemming die de app vraagt. Als je na het lezen van het privacybeleid het gevoel hebt dat je ernstige twijfels hebt over hoe de app met je gegevens omgaat, gebruik deze dan liever niet. Die tips gelden zeker omdat het om een Russische app gaat."
Jen King, privacybeleidsonderzoeker bij de Universiteit van Stanford, zou de app alvast niet gebruiken. Aan de New York Times vertelt hij dat hij zich vragen stelt bij het verdienmodel. Dat Lensa je data verkoopt, is altijd een mogelijkheid.
3. Wie krijgt het auteursrecht?
Die vraag is tweeledig: wie heeft de rechten op het eindproduct? En mag de app zomaar al die kunstwerken gebruiken om de AI-machine te trainen?
De avatar die Lensa uiteindelijk voor je maakt, is niet beschermd. "Voor auteursrechtelijke bescherming heb je voorlopig een menselijke input nodig", vertelt Depreeuw. "De auteur moet een mens zijn." De app kan hier dus geen auteursrecht voor claimen.
De tweede vraag is wat complexer. Eerder legden we uit hoe de app kunstwerken gebruikt om bij te leren. "Van die kunstwerken worden technische kopieën gemaakt die in principe beschermd worden onder het 'reproductierecht' van de auteur", zegt Depreeuw. Dat houdt in dat alleen de auteur kopieën mag maken van haar of zijn werk.
Voor een appmaker of AI-onderzoeker is het onbegonnen werk om aan elke artiest toestemming te vragen. Daarom is er een uitzondering. "Als je de kopieën gebruikt in het kader van "tekst- en datamining", mag je die werken toch gebruiken." Tekst- en datamining is kort uitgelegd wat AI-machines doen als ze leren uit data.
De auteur kan wel aangeven dat haar of zijn werken niet zomaar gebruikt mogen worden. "Buiten wetenschappelijk onderzoek, kan de auteur haar of zijn rechten voorbehouden door een zogenaamde 'opt-out'", zegt Depreeuw. Hoe je dat als artiest moet aanvragen is nog niet duidelijk. "Er zijn nog veel praktische problemen met dat opt-outsysteem. Je kan dat wel op je website aangeven of in de metadata verwerken, maar het is niet erg verifieerbaar."
4. Is de app een bedreiging voor digitale kunstenaars?
De opkomst van artificieel gegenereerde beelden bezorgt kunstenaars heel wat kopzorgen. Waarom zou je nog een kunstenaar betalen als je bijna gratis en in enkele minuten een beeld kan laten maken door een app? "Als bespaard kan worden op beeld, tekst of muziek, zál bespaard worden op beeld, tekst en muziek", schreef illustratrice Stephanie Dehennin in De Standaard.
Daarnaast zien artiesten hun handtekeningen opduiken in Lensa-avatars. Artiesten krijgen daarbij steeds meer het gevoel dat apps zoals Lensa hun werk stelen. Hun werk wordt gebruikt om de machine te voeden. Soms is het eindresultaat ook effectief in de stijl waarmee een bepaalde artiest zich wil onderscheiden.
Stijl is voor artiesten vaak een identiteit, maar wordt auteursrechtelijk niet beschermd. "De kunstenaar kan de makers van de app dus niet verbieden werken te genereren in diens stijl", vertelt Depreeuw. "De app maker mag natuurlijk ook niet doen alsof die avatar door een echte artiest gemaakt of goedgekeurd werd, als die artiest daarmee niet akkoord was." Als kunstenaar kan je nagaan of je werk is gebruikt in dergelijke AI-systemen. Dat kan via de website “Have I been trained?”.
Het bedrijf achter Lensa liet in een verklaring op Twitter weten dat AI-gegenereerde afbeeldingen artiesten niet zullen vervangen. "AI produceert unieke beelden op basis van gegevens, maar kan zelf geen dingen bedenken en verbeelden."