As redes sociais tentam ser locais relativamente seguros no que se refere ao conteúdo, proibindo imagens ou vídeos de violência extrema ou de delitos diversos.
Não apenas sistemas de inteligência artificial analisam de forma automática as imagens enviadas, mas também o árduo trabalho de pessoas que analisam milhares de materiais publicados, filtrando o que não é apropriado.
O Wall Street Journal entrevistou vários desses profissionais em postos de controle, mostrando o terror que eles passam ao ver diariamente milhares de imagens de violência extrema, pornografia e maltrato de animais.
Este é o pior trabalho que você pode ter dentro do setor de tecnologia. Fato.
Sarah Katz, uma controladora de conteúdo no Facebook, afirma ter visto vídeos de bestialismo e abusos sexuais com menores no seu segundo dia de trabalho. Ela analisava mais de 8 mil fotos e vídeos por dia, através de alertas de algum tipo de conteúdo inapropriado. Não há qualquer tipo de preparo para esses profissionais enfrentarem o material que recebem, e isso gera um devastador impacto psicológico nessas pessoas.
A maioria dos profissionais são subcontratados para esse trabalho sujo, que não é fácil. É estimado que o Facebook receba em média 1 milhão de alertas de conteúdo inapropriado por dia, que devem ser verificados por um ser humano. E esse conteúdo não para de crescer, tornando o problema ainda maior.
As grandes redes sociais sabem disso, e trabalha pesado nos sistemas de aprendizagem automática, que podem ajudar os humanos nessa tarefa. Porém, as máquinas estão muito longe de alcançar a eficiência de filtragem de um ser humano.
Mesmo sem números oficiais, é estimado que dezenas de pessoas desempenhem esse trabalho sujo todos os dias. Muitos deles jogam a toalha em poucos dias, pois não suportam o que acabam vendo.