AI-tool om stemmen te klonen kan “desastreuze gevolgen” hebben voor onze portemonnee: “Het gaat écht als een raket”

De Nederlandse politie is bezorgd over de razendsnelle opmars van kunstmatige intelligentie en pleit voor tientallen digitale rechercheurs en analisten om cybercrime het hoofd te bieden. “We kunnen de ontwikkelingen amper meer bijbenen”, verzucht Jan Struijs, voorzitter van de Nederlandse Politiebond. “Het gaat écht als een raket. Van rechercheurs krijg ik al verontrustende signalen die alle alarmbellen laten afgaan.”

Struijs is in het bijzonder bezorgd over voice cloning: het imiteren van de stem van iemands familielid door middel van AI-gedreven software. Criminelen gebruiken dit om mensen telefonisch op te lichten. Bijvoorbeeld met een kletsverhaal dat iemands dochter in acute nood zit en nú geld nodig heeft. In de Verenigde Staten komt dit al zo vaak voor dat een toezichthouder voor deze nieuwe vorm van oplichting waarschuwt. Ook in andere landen zijn diverse personen en zelfs bedrijven en banken voor honderdduizenden euro’s opgelicht.

Het is slechts een kwestie van tijd voor deze vorm van oplichting voet aan de grond krijgt, waarschuwt de Nederlandse Fraudehelpdesk. “Zo gaat het altijd met nieuwe vormen van oplichting. Het start elders, en dan waait het langzaam maar zeker onze kant op. Dat is zorgwekkend, want zo wordt het nog moeilijker om te onderscheiden wat nu echt of nep is. We houden ons hart vast voor wat er komen gaat.” De Fraudehelpdesk adviseert om alvast een codewoord met je kind af te spreken, zodat je bij twijfel een oplichter kunt ontmaskeren.

Het Centrum voor Cybersecurity in België (CCB) heeft nog geen meldingen gekregen over deze vorm van oplichting, maar geeft wel een tip mee om de online fraude het hoofd te bieden. “Als je een oproep krijgt van iemand die je kent, maar via een onbekend nummer, contacteer dan altijd die kennis of familielid met het nummer dat je zelf hebt”, zegt CCB-woordvoerder Katrien Eggers aan onze redactie. “Deze tip geldt ook bij de WhatsApp-berichtjes ‘Hallo mama, ik ben m’n telefoon kwijt, dit is m’n nieuwe nummer.’”

AI-deskundige Henk van Ess uit zijn scepsis over het gebruik van codewoorden, omdat hij op de hoogte is van drie gevallen waarin dit niet hielp om vervalste gesprekken te voorkomen. “De daders veroorzaken bewust acute stress. Het is moeilijk om kalm te blijven als je zoon belt en zegt: ik heb een ongeluk gehad en mijn vriendin is overleden.”

Achtergrondgeluiden van verkeerslawaai worden door de crimineel expres opgenomen om de stem moeilijk verstaanbaar te maken, weet Van Ess. “De eerste reactie is vaak blinde paniek, niet het vragen om een codewoord. En als je daar wel aan denkt, beweert je ‘nepzoon’ dat hij je niet kan verstaan.” In plaats van het gebruik van codewoorden, pleit Van Ess voor een meer fundamentele oplossing: met slimme techniek verificatie van stem afdwingen. “Maximaal één stem per account in combinatie met legitimatie zorgt ervoor dat je het nog wel voor legitieme doeleinden kan gebruiken en voorkomt dat er stemmen van anderen misbruikt worden.”

De meest overtuigende vervalsingen maken gebruik van geavanceerde diensten, die een aanzienlijke rekenkracht hebben en binnen een half uur een stem in een robot kunnen omzetten. “In tegenstelling daarmee verloopt het vervalsen van een stem op een standaard computer met gedownloade scripts veel moeizamer en primitiever. Dus gebruiken scammers doorgaans de commerciële diensten. Die zouden niet elke stem moeten accepteren”, weet Van Ess.

Mensen die vrezen slachtoffer te worden van voice cloning kunnen ook andere ‘simpele voorzorgsmaatregelen nemen’, zegt Peter de Kock, voormalig politieman in Nederland en oprichter van Pandora Intelligence, een bedrijf dat beslissingondersteunende software levert aan politie en justitie. ‘Stemkloners’ werken volgens hem vaak met een scenario dat op vooraf ingestelde aannames berust. “Je kunt dit verhaal onderuit halen door bijvoorbeeld hele persoonlijke vragen te stellen, of om over iets totaal anders te beginnen.”

Deskundigen stellen wel dat we aan ‘de vooravond staan van een nieuwe exponentiële groei van cybercrime’. De vraag is niet of dat gebeurt, de vraag is hoe snel we er op gaan reageren. “Er komt nog zóveel op ons af”, waarschuwt De Dock. “Zoveel scenario’s waar we nu niet over nadenken. Denk aan de bewijsvoering in de rechtsgang. Het is echt wachten op de eerste crimineel die zegt: ‘Die man op die tape: Dat ben ik helemaal niet. Toon maar aan dat ik dat ben.’ Je kunt je voorstellen wat voor een impact AI op zo’n beetje alles gaat hebben.”