Moderatorernas hemliga liv i sociala medier

Det finns gott om innehåll som anses vara för våldsamt, sexuellt, kränkande eller på annat sätt för att ses på sociala medier. TikTok, Instagram, Facebook, Twitter/X, de modererar alla sitt innehåll i varierande grad, men om du trodde att det var någon stor dator bakom det hela kanske du vill tänka om.

Riktiga människor sållar igenom innehållet som laddas upp till dessa webbplatser och ser till att även om vi kanske aldrig kommer att se hemska syner, utsätts de för dem ständigt, dagligen. BBC pratade med den Nairobi-baserade moderatorn Mojez om hur hårt det kan ta på en moderators liv.

"Om du tar din telefon och sedan går till TikTok kommer du att se många aktiviteter, dans, du vet, glada saker", sa han. "Men i bakgrunden modererade jag personligen, i hundratals, fruktansvärda och traumatiserande videor. Jag tog på mig det. Låt min mentala hälsa ta smällen så att vanliga användare kan fortsätta med sina aktiviteter på plattformen."

Även om det finns moderatorer över hela världen, är en stor del baserade i Östafrika, och många moderatorer hävdar att arbetet har förstört deras mentala hälsa. Vissa har lämnat branschen helt, medan andra har gått samman för att bilda en fackförening.

AI-modeller är på gång för att göra denna moderering, men de måste tränas av människor, som därför fortfarande kommer att behöva se ohyggligt och kränkande innehåll. Tills ett sådant verktyg perfekt kan moderera onlineutrymmen kommer det att finnas människor i frontlinjen.