TikTok er en av de mest populære mobilappene i verden med en selvrapportert milliarder eller flere aktive brukere rundt kloden. Emarketer anslår at TikTok er på vei mot over 11 milliarder dollar i annonseinntekter innen 2024. Selv om det sosiale nettverket krever at brukere er minst 13 år gamle for å bruke det, er autentisering for denne delen av prosessen hovedsakelig ærlighetsbasert. I følge New York Times, så mange som en tredjedel av alle TikTok-brukere i USA er under 14 år.
De Financial Times rapporterer at US Department of Homeland Security har startet en etterforskning av bekymringer om at selskapet ikke gjør nok for å bekjempe materiale om seksuelt misbruk av barn (CSAM). I følge rapporten har TikTok over 10 000 personer ansatt spesifikt for å moderere innhold på tvers av plattformen, men til tross for dette tilsynelatende stort moderasjonsteam, ser det ut til at TikTok sliter med å holde lokk på upassende materiale og rovaktivitet innenfor sin Nettverk.
I følge Financial Times-rapporten la Department of Homeland Security merke til et mønster i TikTok-kontoer som deler CSAM-materiale. Med nettverkets «Only Me»-funksjon kan brukere legge ut CSAM-materiale som kun er synlig for eieren av kontoen. Dette innholdet er kun tilgjengelig med kontoens passord, som rovdyr deler med ofre og andre rovdyr.
TikTok sine nettsted sier at i tillegg til menneskelig moderering, bruker den også maskinbaserte modereringsverktøy "for å identifisere og fjerne utnyttende innhold." TikTok hevder de "rød-flagg-språk og deler informasjon med NCMEC [National Center for Missing and Exploited Children] om situasjoner som kan indikere pleieadferd, i henhold til deres retningslinjer og bransjenormer." rapporten antyder at Department of Homeland Security er bekymret for at TikTok fortsatt ikke gjør nok for å bekjempe CSAM-rovdyr eller overføring av CSAM-materiale på tvers av Nettverk.
Dette er selvfølgelig ikke de eneste bekymringene rundt TikTok som har blitt reist i det siste. Den amerikanske regjeringen under Trump-administrasjonen forsøkte, uten hell, å har TikTok utestengt i landet. Administrasjonen hadde sikkerhetsbekymringer om selskapet på grunn av dets bånd til den kinesiske regjeringen gjennom morselskapet ByteDance. Nylig har den amerikanske regjeringen under Biden-administrasjonen gått tilbake på et direkte forbud, men har i stedet gjort det bestilte en anmeldelse av alle populære utenlandseide apper og eventuelle trusler mot brukerdata eller nasjonal sikkerhet.
På det tidspunktet den nye politikken ble kunngjort, forble Biden-administrasjonen ganske skarp i sin posisjon og sa: "Enkelte land, inkludert Folkerepublikken Kina (PRC), deler ikke [våre] verdier og søker å utnytte digitale teknologier og amerikanernes data på måter som presentere uakseptable nasjonale sikkerhetsrisikoer samtidig som autoritære kontroller og interesser fremmes." Den rapporterte etterforskningen fra Department of Homeland Security følger nyheter at tre statsadvokater etterforsker også TikTok for angivelig negativ innvirkning på den psykiske helsen til unge mennesker. Den samme etterforskningen vurderer også om TikTok "brøt statlige lover om forbrukerbeskyttelse og satte publikum i fare".