Het leven na de dood blijft een groot mysterie. Niemand weet wat er ons te wachten staat wanneer we ons laatste adem uitblazen. Dat houdt wetenschappers weliswaar niet tegen om na te denken over hoe onze nabestaanden met ons in contact kunnen blijven na de dood. Chatbots zouden daarbij kunnen helpen.
Chatbots zijn niets nieuws onder de zon. De geautomatiseerde gesprekspartner wordt vandaag al voor uiteenlopende toepassingen gebruikt, zoals de chatbot van Jaguar die het makkelijker maakt om proefritten aan te vragen. Tot nu toe betreft het voornamelijk onschuldige toepassingen, maar wat als iemand onze data gebruikt om na onze dood een chatbot te creëren die gebaseerd is op alles wat we ooit online gezegd hebben.
Patent voor Microsoft
Microsoft heeft afgelopen december een patent gekregen van de U.S. Patent and Trademark Office (USPTO) waarin een proces wordt beschreven om een chatbot te creëren op basis van sociale data. Denk bijvoorbeeld aan afbeeldingen, geluidsfragmenten en berichten op sociale media. De chatbot zou al die data kunnen gebruiken om als het ware een digitaal profiel te creëren van uw persoonlijkheid.
Zo’n chatbot zou onder meer ingezet kunnen worden om mensen te helpen het verlies van een dierbare te verwerken. Toch lijkt niet iedereen overtuigd te zijn van zo’n geautomatiseerde gesprekspartner. ‘Als u een goede chatbot maakt voor iemand die is overleden, kunt u mensen woorden in de mond leggen die ze nooit hebben gezegd’, waarschuwt Irina Raicu, directeur van het programma internetethiek aan de Santa Clara University, in een interview met de wetenschappelijke nieuwssite Popular Mechanics.
Volgens haar kan de chatbot ook geen perfect beeld scheppen van de overleden persoon. ‘De bot mag nog over veel persoonlijke gegevens beschikken, het zal er niet altijd in slagen om een oprecht of organisch antwoord te geven’, klinkt het. ‘En wat met bijvoorbeeld de ironische of sarcastische berichten van iemand? Een chatbot zal dergelijke boodschappen niet altijd correct kunnen interpreteren.’
‘Als dit de realiteit wordt, denk ik dat dit een huiveringwekkend effect kan hebben op menselijke communicatie’, aldus Raicu. ‘Als we weten dat een chatbot al onze data kan gebruiken, moeten we alles in twijfel trekken wat we online zeggen of schrijven.’
Gebruik data regelen in testament
Een chatbot creëren op basis van data van een overleden persoon is overigens niets nieuws onder de zon. Techneut Eugenia Kuyda is Microsoft al voorgegaan in 2015. Ze heeft toen een chatbot gecreëerd op basis van de sociale data, waaronder sms-berichten, van een vriend die was omgekomen in een auto-ongeluk. In 2017 gebruikte ze die ervaring om Replika te lanceren, een AI-chatbotdienst waarmee iedereen zijn eigen virtuele vriend kan maken.
‘Terwijl een chatbot sommige mensen kan helpen om het verlies van een vriend of familielid te verwerken, kan de technologie ook gebruikt worden om winst te halen uit de dood van iemand’, waarschuwt Raicu. Ze benadrukt dat het recht op privacy een basisrecht blijft. ‘Volgens het huidige concept schendt de chatbot dat recht al. De overleden persoon kan bijvoorbeeld onmogelijk bepalen welke data gebruikt mag worden voor de chatbot.’
Volgens Alexander Hauptmann, een onderzoeker aan de Carnegie Mellon University’s Language Technologies Institute kunnen mensen in hun testament bepalen welke info er gebruikt mag worden. ‘Maar dat doet dan weer de vraag rijzen wie de ontwikkelaar van de chatbot juridisch zal aanklagen als het bedrijf de data onrechtmatig of foutief gebruikt.’
Lees ook:
