“Het was zeker Brie die ik om hulp hoorde schreeuwen aan de telefoon”, zegt de Amerikaanse Jennifer DeStefano. “Een moeder herkent de stem van haar dochter.”

De vrouw was opgebeld door een anoniem nummer. Een man beweerde dat hij haar 15-jarige dochter had ontvoerd. Om zijn woorden kracht bij te zetten, liet hij Jennifer horen hoe het tienermeisje op de achtergrond huilde. “Mam, ik heb het verprutst. Help me”, schreeuwde ze.

De man eiste in eerste instantie 1 miljoen dollar losgeld om het meisje vrij te laten. “Toen ik hem zei dat ik dat niet kon betalen, halveerde hij het bedrag ineens”, liet ze optekenen in het proces-verbaal bij de politie.

Je eigen oren niet geloven

Gelukkig was DeStefano niet alleen op dat moment en konden vriendinnen haar kalmeren en de politie bellen. Haar man, die intussen ook verwittigd was, kon de ballon snel doorprikken. Hij belde zijn dochter, die met school op skireis was, op haar gsm en kreeg haar tot zijn grote opluchting direct aan de lijn. Het meisje was zich van geen kwaad bewust.

Subbarao Kambhampati, professor computerwetenschappen aan de Arizona State University en gespecialiseerd in artificiële intelligentie (AI) zegt dat de technologie voor het klonen van stemmen snel evoluteert. “Je kunt je eigen oren niet meer vertrouwen”, zegt hij.

De nieuwe AI van Microsoft heeft genoeg aan drie seconden stemgeluid om de stem van iemand te simuleren. Toch blijft Tom Lenaerts, AI-expert en prof aan de VUB en de ULB, voorzichtig. “Het gebruik van AI in dit verhaal is moeilijk te verifiëren. De stemtechnologie waarover sprake is bestaat wel, maar ik stel me de vraag of de eerste de beste oplichter of crimineel er zo vlotjes weg mee kan.”

Wat zeker is, zegt Lenaerts, is dat de nieuwe ontwikkelingen elkaar momenteel snel opvolgen, zelfs misschien te snel. “Het is opnieuw belangrijk om de vraag te stellen of we dit wel wensen en of we misschien even een pauze moeten inlassen”, zegt hij.

Bij ons hebben politiediensten geen weet dat er al artificiële intelligentie werd gebruikt bij criminele feiten zoals wat er in Arizona gebeurde. “Maar cybercriminelen gebruiken wel al langer de chatbot ChatGPT om online slachtoffers te maken”, zo luidt het.

Strengere reglementeringen

Daarom moeten er, volgens professor Lenaerts, snel duidelijke regels worden opgesteld. Best ook op Europees niveau.

De federale regering in ons land heeft in oktober al het licht op groen gezet voor een nationaal plan rond de ontwikkeling van artificiële intelligentie. Het nationaal convergentieplan voor AI komt er op voorzet van minister van Werk Pierre-Yves Dermagne, minister van Telecommunicatie Petra De Sutter en staatssecretaris voor Digitalisering Mathieu Michel en moet de sector niet alleen versterken, maar ook het ethische aspect in de gaten houden.

“Want het Wilde Westen van nieuwe AI bedrijfjes levert niet altijd even ethisch onderbouwde producten af en niet iedereen heeft even goede bedoelingen. Het is duidelijk dat deze AI technologie er nu is en dat de mogelijkheden snel zullen uitbreiden. We moeten zorgen dat mens en maatschappij hier niet onder zullen lijden”, benadrukt professor Lenaerts.

De politie van Arizona zegt dat het een onderzoek heeft geopend naar de ‘ontvoering’ maar heeft nog geen verdachte kunnen identificeren.