Cezar Taurion – Linkedin – 22 de julho de 2026
Head of AI Strategy, thegarageIA Embaixador MyDatagent
Gosto de ministrar aulas e palestras porque sempre surgem perguntas interessantes. Uma delas foi: como realmente ocorrem as alucinações em um LLM?
Para quem observa de fora, parece que o modelo “inventou” uma informação ou decidiu mentir. Mas essa não é isso que acontece.
Na realidade, um LLM não possui intenção, imaginação nem compromisso com a verdade factual. Durante a inferência, ele faz exatamente aquilo para o qual foi treinado: prever, a cada passo, qual token possui maior probabilidade de aparecer em seguida, dado o contexto disponível.
Por isso, a alucinação não decorre de uma falha de software nem de uma tentativa deliberada de inventar informações. Ela é uma consequência natural da forma como modelos probabilísticos geram texto.
Deixe-me explicar isso sem recorrer a equações.
1. Generalização em regiões de maior incerteza. Um LLM representa palavras, frases e conceitos como vetores em um espaço de milhares de dimensões. Durante o treinamento, o modelo aprende padrões presentes em enormes volumes de texto. Algumas regiões desse espaço são extremamente bem representadas porque aparecem inúmeras vezes nos dados de treinamento. Outras, correspondentes a temas muito específicos, raros ou inéditos, possuem muito menos exemplos.
Quando fazemos uma pergunta comum, o modelo costuma navegar por regiões bastante conhecidas desse espaço. Mas perguntas muito específicas, combinações incomuns de fatos ou situações inéditas aumentam a incerteza da previsão. Nessas situações, o modelo precisa generalizar a partir dos padrões que aprendeu. Intuitivamente, podemos imaginar que ele tenta preencher lacunas utilizando exemplos semelhantes presentes durante o treinamento.
É apenas uma analogia, mas imagine um mapa extremamente detalhado contendo milhares de cidades conhecidas. Se alguém pedir informações sobre uma cidade inexistente, um algoritmo pode inferir características baseando-se nas cidades mais próximas. A resposta pode parecer plausível, embora não corresponda à realidade. Algo semelhante pode acontecer com um LLM.
2. A coerência local pode superar a verdade factual. O modelo gera um token de cada vez. Cada palavra escolhida passa imediatamente a fazer parte do contexto utilizado para prever a próxima. Imagine que alguém peça a biografia de uma pessoa pouco conhecida. O modelo pode começar corretamente, mas, se houver pouca informação disponível durante o treinamento, a distribuição de probabilidades passa a favorecer continuações estatisticamente plausíveis. Se, naquele contexto, “formou-se em Harvard” aparecer como uma continuação mais provável do que outras alternativas, essa poderá ser a sequência escolhida, mesmo sendo falsa. Depois que “Harvard” entra na resposta, ela passa a integrar o contexto das próximas previsões. O modelo então tende a gerar novos tokens coerentes com essa informação, acrescentando professores, pesquisas, prêmios ou cargos igualmente fictícios.
Esse fenômeno é conhecido como propagação de erro em modelos autorregressivos. Um pequeno desvio inicial pode se acumular ao longo da geração da resposta.
3. O modelo sempre precisa escolher alguma continuação. Depois que o modelo calcula uma pontuação para cada token do vocabulário, essas pontuações são convertidas em probabilidades. Mesmo quando nenhuma continuação possui alta confiança absoluta, o algoritmo precisa produzir uma distribuição de probabilidades. Sempre existirá uma alternativa relativamente mais provável do que as demais.
O modelo não possui uma representação explícita de “não sei” durante a geração do próximo token. Ele continuará produzindo texto enquanto o processo de inferência permitir.
Se utilizarmos temperaturas mais altas, a distribuição de probabilidades fica menos concentrada, aumentando a chance de selecionar tokens menos prováveis e, consequentemente, respostas mais criativas. Em situações de elevada incerteza, isso também pode aumentar a probabilidade de surgirem informações incorretas.
E, naturalmente, surge outra pergunta: por que arquiteturas como RAG e o uso de ferramentas externas costumam reduzir as alucinações? A resposta é que elas não modificam a matemática do Transformer nem mudam a forma como o LLM gera texto. O modelo continua prevendo um token de cada vez, exatamente da mesma maneira. O que muda é a qualidade das informações disponíveis durante a inferência.
Um LLM depende do conhecimento distribuído em seus parâmetros, adquirido durante o treinamento. Esse conhecimento pode estar incompleto, desatualizado ou simplesmente não conter a informação específica necessária para responder a uma determinada pergunta.
O RAG procura reduzir essa limitação recuperando documentos potencialmente relevantes e incorporando-os ao contexto antes da geração da resposta. Já as ferramentas permitem que o modelo consulte fontes externas, execute cálculos, acesse bancos de dados, realize buscas ou interaja com sistemas corporativos em vez de depender apenas do que “lembra” do treinamento.
Em ambos os casos, o objetivo é reduzir a incerteza durante a inferência. Quanto mais relevante, atual e consistente for o contexto fornecido ao modelo, menor tende a ser sua dependência de generalizações baseadas apenas no conhecimento paramétrico.
Isso não significa que RAG elimine alucinações. Se os documentos recuperados forem irrelevantes, contraditórios ou incorretos, o modelo poderá continuar produzindo respostas equivocadas. Da mesma forma, ferramentas externas só ajudam quando retornam informações corretas e quando o modelo sabe utilizá-las adequadamente.
Na minha opinião, esse é um ponto frequentemente mal compreendido. As alucinações não surgem porque o modelo “mente”. Elas surgem porque o objetivo do treinamento nunca foi distinguir verdade de falsidade, mas prever qual sequência de tokens é mais provável dado o contexto disponível.
Quando plausibilidade estatística e verdade factual coincidem, obtemos respostas corretas. Quando deixam de coincidir, surgem as alucinações.
Esse é um dos motivos pelos quais considero arriscado utilizar LLMs isoladamente em aplicações críticas. Não basta que uma resposta pareça convincente; ela precisa ser verificável. E essa verificabilidade normalmente depende de dados externos, ferramentas de consulta, mecanismos de validação e governança, não apenas de um modelo maior.
(1) Por que a IA alucina? A resposta está na matemática e não na “imaginação”. | LinkedIn
Se você tiver interesse e ainda não estiver inscrito para receber diariamente as postagens de O Novo Normal, basta clicar no link: https://chat.whatsapp.com/GeLUPi5zQ2582nGKD6JFey para WhatsApp e https://t.me/joinchat/SS-ZohzFUUv10nopMVTs-w para Telegram. Este é um grupo restrito para postagens diárias de Evandro Milet. Além dos artigos neste blog, outros artigos de Evandro Milet com outras temáticas, publicados nos fins de semana no Portal Tribuna online, encontram-se em http://evandromilet.com.br/
Acesse o link abaixo para entrar no meu grupo do WhatsApp onde publico meus artigos semanais e entrevistas que faço no rádio e TV Tribuna, bem como outras publicações e notícias, sempre na temática inovação e negócios: https://chat.whatsapp.com/CNud8bQUUYM4n8ryXA3ZaW
Por mudanças profissionais com a instituição onde publicava outros artigos meus e informações sobre inovações, tive que criar um novo grupo no WhatsApp https://chat.whatsapp.com/CNud8bQUUYM4n8ryXA3ZaW e parar de publicar em https://chat.whatsapp.com/HqlJjC80rJ0Bu9lmsZgw5B . Quem tiver interesse pode sair do anterior e entrar nesse novo. Desculpem os transtornos.
Sugestão: Se estiver procurando alguém para implementar uma solução de IA com agentes e SLM veja a Aumo | Transformamos dados em soluções de IA avançadas
Se tiver interesse em gêmeos digitais para a indústria procure a Neo Vision – Captura Digital da Realidade
Para IoT chame a 2solve
O novo normal 