A mudança mais importante da história do Tumblr está virando uma tarefa titânica: afinal de contas, eliminar todo o conteúdo pornográfico da plataforma não é uma tarefa das mais fáceis. Ainda mais quando esta plataforma se transformou em um bastião da pornografia online.

O Tumblr anunciou que vai retirar todo o material adulto da plataforma a partir de 17 de dezembro. Para isso, implementou um algoritmo que, em teoria, é capaz de identificar esse conteúdo ofensivo. Na prática, tal algoritmo está censurando material que pouco ou nada tem a ver com a pornografia.

A implementação do algoritmo automatiza a tarefa, mas bastou um dia da implementação para que milhares de usuários recebessem notificações de material ofensivo, mas que nada tem a ver com o que o Tumblr quer realmente proibir.

 

 

No final das contas, a plataforma está cheia de falhas. Usuários que não deveriam ser afetados pela mudança agora são notificados porque postaram uma foto de um frango congelado, e esse frango foi identificado pelo tal algoritmo como nudez.

Os usuários apelaram para as redes sociais para criticar o Tumblr e seu algoritmo maluco, com a hashtag #TooSexyForTumblr em algumas publicações. Como o algoritmo identifica essa tag como conteúdo pornográfico, os resultados de censura automática são hilariantes e inexplicáveis.

Diante do desastre, o Tumblr veio se explicar. Afirmou que a tarefa de remoção da pornografia envolve “uma combinação que contempla o machine learning e a moderação humana”. Mesmo assim, garante que a equipe humana aumentou nos últimos dias para ajudar nessa tarefa.

 

 

Jeff D’Onofrio, CEO do Tumblr, admitiu que o algoritmo está longe de ser perfeito, e por enquanto decidiu implementar uma forma de solicitar uma revisão da censura ao time de analistas, algo que estará presente em todas as publicações que foram marcadas como inapropriadas. Assim, ele garante um melhor treinamento do sistema para detectar com maior precisão os conteúdos pornográficos.

Fato é que a comunidade do Tumbr está muito ofendida, e os atuais usuários ameaçam abandonar a plataforma se as coisas não mudarem.

 

Via Vice, Tumblr