A OpenAI decidiu arquivar por tempo indeterminado os planos de lançar um chatbot com conteúdo sexualmente explícito. A informação foi confirmada nesta semana, após forte resistência interna e de investidores.
O projeto, conhecido internamente como “Citron mode”, visava oferecer conversas adultas para usuários verificados. No entanto, preocupações sobre vínculos emocionais prejudiciais e exposição de menores falaram mais alto.
A empresa optou por concentrar esforços em ferramentas de produtividade, unificando produtos em um “superaplicativo”. A suspensão reflete um momento de maior escrutínio sobre os impactos sociais da IA generativa.
Agora, cabe a nós, produtores de conteúdo, explicar de forma mais detalhada os principais motivos para essa decisão. E tentar fazer isso da forma mais madura possível.
Pressão interna e de investidores
A decisão não foi unânime dentro da própria OpenAI. Parte dos funcionários questionou se o recurso estaria alinhado à missão de beneficiar a humanidade.
Investidores também demonstraram preocupação com danos reputacionais, já que colocar dinheiro em algo que pode ser encarado como entretenimento adulto não é exatamente a finalidade daqueles que queriam a automação de algumas tarefas. Eles avaliaram que os riscos superariam os ganhos comerciais de um nicho tão específico.
Um ex-funcionário sênior chegou a afirmar que deixou a empresa em parte por essa questão. Para ele, a IA não deve substituir conexões humanas fundamentais, e nesse momento, muito se discute sobre o elevado número de pessoas que estão passando mais tempo com um chatbot do que com amigos e familiares.
Desafios técnicos e falta de evidências
A criação do modo adulto esbarrou em obstáculos técnicos que a OpenAI não consegue superar (por enquanto). A equipe enfrentou dificuldades para treinar modelos que anteriormente evitavam esse tipo de conversa por segurança.
O uso de conjuntos de dados com conteúdo sexual apresentou desafios complexos. Foi necessário remover comportamentos ilegais, como bestialidade ou incesto, dos materiais de treinamento.
A própria OpenAI reconheceu a falta de “evidências empíricas” sobre os efeitos dessas interações. Por isso, decidiu priorizar pesquisas de longo prazo antes de qualquer lançamento.
Ambiente regulatório e casos recentes
O recuo ocorre em um momento de maior sensibilidade para as big techs.
A Federal Trade Commission (FTC) abriu investigações sobre como chatbots afetam crianças e adolescentes. Casos como o do Grok, da xAI, geraram forte repercussão negativa, o que faz com que as demais plataformas repensem a ideia sobre a sexualização de seus serviços.
Todo mundo sabe do que estou falando aqui. A ferramenta de inteligência artificial “sem filtros morais e éticos” idealizada por Elon Musk foi usada para criar imagens sexuais falsas, incluindo o envolvimento de menores nas gerações.
A própria OpenAI enfrenta questionamentos judiciais de famílias que foram diretamente afetadas pela alta imersão emocional das interações. Os processos alegam que o uso do ChatGPT causou danos a adolescentes, pressionando a empresa por mais segurança.
Sistema de verificação e futuro incerto
Para acessar o “Citron mode”, os usuários precisariam comprovar ter mais de 18 anos. Porém, o sistema de previsão de idade da empresa tem taxa de erro superior a 10%, o que deixa a plataforma exposta a possíveis fraudes (realizadas pelos próprios usuários).
Especialistas do conselho consultivo de bem-estar manifestaram preocupação sobre o tema. A margem de erro aumenta o risco de menores acessarem conteúdo adulto, e uma empresa como a OpenAI, que precisa construir sua imagem de credibilidade e, ao mesmo tempo, levantar recursos financeiros para manter a sustentabilidade de suas operações, não pode (ou melhor, não precisa) correr esses riscos.
A OpenAI afirma que continuará investindo na melhoria da precisão do seu chatbot. Enquanto isso, o projeto permanece suspenso, sem qualquer previsão de retomada.