TikTok onder vuur na viraal zelfmoordfilmpje: ‘Moderatie kan niet meer alles filteren’

Geen gek kattenfilmpje, vrolijk dansje of een nieuwe hit van Jason Derulo dat viraal gaat op TikTok. Wel een video van een Amerikaanse man die zichzelf voor de webcam van het leven berooft. De 33-jarige Robbie McNutt schoot zichzelf voor zijn bureau door het hoofd. Hoewel TikTok alle zeilen bijzet om het filmpje van zijn platform te verwijderen, blijft het in allerlei video’s opduiken. 

Het Chinese videoplatform TikTok, dat sinds zijn oprichting in 2016 een stormachtige groei kent, is geliefd bij jongeren omwille van de creatieve mogelijkheden en interactie die het biedt. Maar die worden nu gebruikt om beelden van de zelfmoord te verspreiden. Via duetvideo’s filmen gebruikers zichzelf terwijl ze reageren op de zelfmoordvideo. Anderen vervormen het geluid van het filmpje, mixen het met onschuldige beelden of plakken er filters op, waardoor TikToks algoritme de originele video niet herkent. “Contentmoderatie gebeurt in de eerste plaats met artificiële intelligentie”, legt Elke Boudry van Mediawijs uit. “Maar artificiële intelligentie kan ook maar leren van wat het regelmatig ziet. Dit soort video’s komen niet zo vaak voor, gelukkig. Maar dat maakt ze dus moeilijker om op te pikken.”

Ook het algoritme van TikTok speelt een rol. Anders dan bij Instagram of Facebook vind je bij het openen van de app geen feed met wat je vrienden bezighoudt, wel een speciaal aangepaste ‘Voor-jou-pagina’. Daar verzamelt het algoritme van TikTok alle video’s die je mogelijk interesseren, op basis van de video’s die je eerder bekeken hebt, of de video’s waar je vaak op reageert. TikTok voegt er ook video’s aan toe waarvan het algoritme vermoedt dat ze viraal zullen gaan. Je hoeft er dus geen maanden aan je online-identiteit te bouwen. Eenmaal een filmpje snel door veel mensen bekeken wordt, verschijnt het in een mum van tijd op de startfeed van miljoenen Tiktokkers. 

Groeipijnen van een platform in opmars

“TikTok is al lang geen onschuldig platformpje voor muziekvideo’s meer. Het evolueert steeds meer naar een soort YouTube voor kinderen, soms zelfs een politiek platform”, zegt professor Michaël Opgenhaffen (KU Leuven). Tijdens de Black Lives Matter-protesten verschenen er heel wat politieke, zelfs shockerende video’s. “Op de feed van mijn kinderen zag ik er zelfs beelden van rellen, of een auto die op een menigte inreed. Bovendien bieden die filmpjes geen enkele context. Erg verwarrend voor kinderen”, zegt Elke Boudry. In april was er controverse rond de trend waarbij tienermeisjes zich op TikTok voordeden als slachtoffer van huiselijk geweld, compleet met door make-up geboetseerde verwondingen en bloedneuzen. In augustus nog deden heel wat jongeren zich op TikTok-filmpjes voor als Holocaust-overlevers. 

Waar TikTok aanvankelijk onder jonge gebruikers populair was, trekt het steeds meer gebruikers van verschillende leeftijdsgroepen aan. Vooral sinds corona kwam het platform in publieke belangstelling. “Al die nieuwe gebruikers veranderen het medium zelf. Nu vind je op TikTok ook content die maatschappelijke commotie veroorzaakt. En correctie gebeurt altijd pas na de feiten. Het zijn de klassieke groeipijnen van een medium in opmars, zoals Twitter en Facebook dat hebben meegemaakt”, zegt technologiesocioloog Ben Caudron van de Erasmushogeschool. In maart 2019 overkwam Facebook hetzelfde. Ook toen bleef de livevideo van de massamoord in Christchurch op tal van kanalen opduiken, ondanks dat Facebook de video onmiddellijk gerapporteerd had.

Het roept de vraag op in welke mate sociale media de verspreiding van gewelddadige beelden tegen kunnen gaan. “We vestigen onze hoop te vaak op contentmoderatie. Met de huidige technologie en alle inspanningen die die bedrijven doen, kunnen ze er gewoon niet alles uithalen. Een even grote verantwoordelijkheid ligt bij gebruikers die die video’s naar elkaar doorsturen", zegt Opgenhaffen. 

Mediawijsheid kweken

Onder meer scholen moeten bijdragen aan die verantwoordelijkheidszin bij jongeren, de voornaamste TikTok-gebruikers. Aan de hand van leerplannen en campagnes werkt Mediawijs samen met scholen om Vlaamse leerlingen te leren gezond om te gaan met sociale media. Ook voor ouders is een belangrijke rol weggelegd. “Als je kijkt hoe vaak jongeren met sociale media bezig zijn, dan is het straf hoe weinig ouders met hen daarover praten. En als ze het doen, dan is het vaak negatief. Dan zeggen ze dat ze er minder moeten opzitten. Natuurlijk gaan kinderen dan niet snel met vragen naar hun ouders stappen”, zegt Opgenhaffen. 

“Het is veel beter om interesse te tonen en open vragen te stellen", zegt mediaonderzoeker Tom de Leyn van de Universiteit Gent. “Dan verlaag je de drempel voor kinderen, en je kunt er als ouder zelf van leren. Ouders denken altijd dat hun kinderen niet vaardig zijn met privacy. Maar ze zijn veel geletterder dan we denken.” 

Nood aan een gesprek? Praten helpt, dat kan bij Tele-Onthaal: bel 106 of ga naar de website tele-onthaal.be. Wie met vragen zit over zelfdoding, kan terecht bij de Zelfmoordlijn op het gratis nummer 1813 en op de website zelfmoord1813.be.