A impressão que fica é que o GPT-5 é um outro flop da OpenAI, já que o modelo segue “alucinando”, entregando respostas falsas apresentadas com enorme convicção.
A própria OpenAI decidiu ser transparente sobre o assunto, reconhecendo o problema em um artigo e dando as suas explicações sobre o assunto de forma um pouco mais aprofundada. Se essas explicações vão convencer aos usuários que dependem da maior confiabilidade da ferramenta, esse é outro departamento.
De quebra, a mesma OpenAI diz o que devemos fazer para encarar o problema. E a partir de agora, abordamos os cinco pontos mais importantes da explicação.
O sistema de recompensas estimula respostas
A OpenAI explica que, em testes e benchmarks, um modelo que responde algo — mesmo que inventado — pode ser recompensado por acertar ocasionalmente, enquanto aquele que simplesmente admite “não sei” acaba penalizado.
Ou seja, o modelo foi treinado de forma evasiva, aprendendo que sempre vale a pena tentar uma resposta, ainda que sem certeza. Apenas e tão somente para entregar uma resposta satisfatória para o usuário e, em função disso, receber uma recompensa pelo trabalho feito.
O exemplo utilizado é o de um exame de múltipla escolha.
Um estudante que chuta pode acertar por acaso, enquanto quem deixa a questão em branco não pontua. Para a IA, esse ambiente de avaliação cria um incentivo claro: arriscar é melhor do que se abster.
Isso explica por que muitas vezes vemos respostas convincentes, mas incorretas.
Alucinações são inerentes ao funcionamento da IA
Essas falhas não decorrem de negligência ou de pouca capacidade de processamento (acredite, se quiser), mas da própria natureza do modelo.
Sistemas de linguagem trabalham prevendo a próxima palavra em uma sequência, a partir de padrões estatísticos. Isso garante coesão e fluidez, mas falha diante de dados objetivos, como datas ou números específicos, que não seguem lógicas previsíveis.
Quando o modelo não encontra uma resposta clara, ele não interrompe a geração de texto. Pelo contrário, tende a “preencher lacunas” com o que estatisticamente parece mais plausível.
O resultado é uma afirmação que soa correta, mas que não tem base factual. Esse comportamento mostra por que as alucinações não podem ser simplesmente eliminadas.
O que me deixa um pouco mais tranquilo, pois o GPT-5 não é um mentiroso compulsivo. Ele é apenas um irresponsável que tenta ajudar a todo custo. Mesmo que o preço a ser pago seja a desinformação.
É menos pior do que ser treinado para mentir. E tudo o que a OpenAI está falando em seu artigo abre margem para essa possibilidade.
Modelos mais novos aprendem a dizer “não sei”
A OpenAI mostra em seus dados comparativos que modelos mais recentes apresentam taxas bem menores de alucinação porque são treinados para reconhecer incertezas, mostrando que a empresa está fazendo avanços neste aspecto.
Enquanto versões antigas atingiam até 75% de respostas falsas, novas gerações reduziram esse índice para cerca de 26%. Isso ocorre porque, em vez de tentar responder a qualquer custo, alguns modelos mais recentes conseguem se abster quando não têm confiança.
O problema, segundo a empresa, é que as métricas usadas no setor ainda valorizam mais quem arrisca respostas do que quem demonstra cautela, já que a “filosofia” ou “pensamento objetivo” das plataformas ainda está calcada na ideia de cumprir com os prompts sugeridos pelo usuário.
Ou seja, mesmo que um modelo seja mais responsável ao reconhecer suas limitações, os rankings e benchmarks tendem a privilegiar aqueles que apostam no “chute” ocasionalmente certeiro.
Não deixa de ser uma fábrica de fake news ambulante, mas ao menos deixa de ser um mentiroso compulsivo para ser um sincero que diz “eu não faço a menor ideia do que você está falando” quando necessário.
Gerenciar, e não eliminar, as falhas
A OpenAI também enfatiza que qualquer promessa de eliminar as alucinações é ilusória, pois o modelo de inteligência artificial atual é baseado na estrutura de raciocínio humano que, por natureza, pode mentir ou ser burro.
Não se trata de um defeito a ser corrigido com mais poder computacional, mas de uma característica estrutural da tecnologia.
O caminho, portanto, não é a busca por um modelo perfeito, mas o desenvolvimento de métodos que permitam controlar e gerenciar melhor esses erros.
Isso significa reformular as métricas de avaliação, dando mais valor a respostas cautelosas ou à admissão de desconhecimento.
Como explicam os especialistas, é necessário recompensar a “humildade” das inteligências artificiais, incentivando-as a não se aventurarem em áreas de incerteza. Assim, a confiabilidade aumentaria sem criar a falsa expectativa de perfeição.
O perigo dos mitos e soluções milagrosas
Por fim, a OpenAI reforça a importância de desmistificar o debate atual sobre as alucinações no GPT-5, passando a discussão para outro patamar.
Ainda que especialistas de fora prometam truques ou prompts capazes de “curar” as alucinações, a realidade é mais complexa. Não basta dizer para o ChatGPT não alucinar ou evitar informações imprecisas, pois não é assim que a tecnologia de IA funciona.
Nem a ampliação dos modelos, nem técnicas mágicas podem eliminar completamente o problema. Em muitos casos, modelos menores conseguem até se sair melhor ao reconhecer seus próprios limites.
O que também reproduz o comportamento intelectual humano, de algum forma.
As pessoas mais inteligentes não são aquelas que conseguem acumular o maior volume de informação, mas sim aquelas que são curiosas e que, em função disso, estão sempre questionando e até duvidando de sua capacidade de compreensão e entendimento de diversas questões.
A mensagem da empresa é clara: precisamos desconfiar de quem oferece soluções simples para uma questão tão intrincada.
As alucinações fazem parte da lógica da IA e só podem ser reduzidas e administradas, nunca erradicadas totalmente.
Reconhecer esse limite é o primeiro passo para avançar com transparência e segurança no uso desses sistemas.
Via OpenAI