TikTok je znova v središču škandala, tokrat zaradi motečega trenda, ki za fasado nedolžnosti skriva grozljive vsebine. Platformo prevzema nov in še posebej nevaren pojav: nasilni in krvavi videoposnetki so prikriti s filtrom umetne inteligence, ki like spremeni v sluge. Kar se je začelo kot šala, se je hitro spremenilo v nevarno vrzel, ki je otrokom in najstnikom razkrila šokantno gradivo.

Vse se je začelo decembra 2024, ko je Runwayjev model AI predstavil nov filter, ki bi vse like v videoposnetku spremenil v minione in dodal ustrezne zvočne učinke. Večina uporabnikov je filter uporabila za ustvarjanje neškodljive in zabavne vsebine. Nekateri pa so ga začeli uporabljati za objavo šokantnih videoposnetkov nasilnih prizorov, povzetih iz temnega spleta, vključno z nasiljem, zločini in drugimi travmatičnimi dogodki.

Ta filter preslepi TikTokove algoritme, ki ne morejo določiti prave vsebine takih videoposnetkov. Posledično takšni videoposnetki končajo v rubriki Za vas, ki je dostopna širokemu občinstvu, vključno z otroki in najstniki, ki jih začnejo gledati, ne da bi ničesar posumili.

Kljub trditvam TikTok, da ima napredno tehnologijo filtriranja vsebine, takšni incidenti kažejo na resne napake v sistemu. Očitke, da platforma tovrstnih videoposnetkov ne odstrani niti po številnih zahtevah, še dodatno povečujejo val kritik.

Ta primer ponovno odpira vprašanja o varnosti družbenih omrežij za otroke. Poleg tega jih lahko radovednost najstnikov glede "prepovedane" vsebine pripelje do tega, da poiščejo izvirne, neblokirane različice teh videoposnetkov.