Alucinação é a IA generativa produzindo informação plausível e errada — veja por que isso acontece e como detectar antes de assinar o prontuário.
A IA escreveu um número no resumo da consulta. Parece certo, está formatado como um dado real, e você quase não confere — mas ele não existe em lugar nenhum.
Isso tem nome: alucinação. É quando um modelo de linguagem gera informação que parece plausível, mas é factualmente incorreta ou simplesmente inventada. Não é bug raro. É consequência da forma como esses modelos funcionam — e por isso não desaparece sozinho.
Este artigo explica o que é alucinação, por que ela acontece mesmo nos modelos mais avançados, e como você confere um texto gerado por IA antes de colocar seu CRM embaixo dele.
Um modelo de linguagem não consulta uma base de dados para responder. Ele prediz, palavra por palavra, qual é a sequência estatisticamente mais provável dado o que foi perguntado — sem validação contra uma fonte externa e sem compreensão semântica do que está escrevendo.
Isso é a arquitetura em si, não uma falha de configuração. O modelo não distingue, por dentro, entre "isto eu sei" e "isto eu estou completando porque soa coerente". Como registra a literatura sobre LLMs em saúde, essa limitação estrutural é o que torna a alucinação um risco inerente ao uso clínico desses modelos — não um efeito colateral raro.
Na prática, o resultado é um texto gramaticalmente perfeito e factualmente furado. É exatamente essa fluência que torna a alucinação difícil de pegar numa leitura rápida.
Estudos desenhados especificamente para medir alucinação em domínio médico mostram o que é de esperar: sistemas de linguagem conseguem ser muito fluentes mesmo quando estão completamente errados.
O Med-HALT, teste específico para alucinação em cenários clínicos, avaliou modelos de linguagem e mostrou que mesmo os sistemas mais usados não estão imunes a gerar respostas incorretas apresentadas com confiança — é a base do paper apresentado na CoNLL 2023.
A vulnerabilidade que isso expõe é consistente: a confiança na resposta não é indicador de precisão. O texto errado sai tão fluente quanto o certo. E pequenas alterações na forma como a informação é apresentada — ataques adversariais, como a literatura chama — já bastam para induzir o modelo a erro.
| O que isso significa na prática |
|---|
| O modelo pode repetir um erro que já estava no texto de entrada, em vez de corrigi-lo |
| Confiança na resposta não é indicador de precisão — o texto errado sai tão fluente quanto o certo |
| Nenhum modelo testado nos estudos disponíveis ficou livre do problema — é uma questão de grau, não de exceção |
Um dos formatos mais traiçoeiros de alucinação é a citação fabricada: a IA produz um nome de autor, um ano, um título de revista e até um formato de DOI — tudo com aparência de referência acadêmica legítima.
O problema é que isso não é incomum. É justamente o tipo de erro que a literatura sobre uso de LLMs em apoio à pesquisa médica já registrou com frequência relevante — e é por isso que toda citação gerada por IA merece ser clicada, não só lida.
Na prática, há dois sinais que entregam a fabricação:
Alucinação não se resolve perguntando de novo para a mesma IA — ela pode repetir o mesmo erro com outras palavras. A conferência precisa ser fora do modelo.
Existem técnicas de prompt desenhadas para reduzir alucinação: pedir que o modelo cite a fonte antes de afirmar, pedir que ele assuma incerteza quando não tiver certeza, pedir resposta apenas com base no texto fornecido.
Essas técnicas funcionam — elas reduzem a frequência de erro. O que elas não fazem é eliminar o risco. A arquitetura do modelo continua sendo preditiva, não factual, e isso não muda por causa da forma como a pergunta foi escrita.
Por isso a conferência humana não é uma etapa que vira dispensável com o prompt certo. Ela é estrutural — faz parte de como esse tipo de ferramenta precisa ser usado, não uma camada extra de cautela.
A Resolução CFM nº 2.454/2026 trata exatamente desse ponto. O Art. 4º estabelece que o médico deve exercer julgamento crítico sobre o que a IA produz e registrar no prontuário o uso de IA como apoio à decisão (inciso V).
E o Art. 3º, inciso V traz a contrapartida: o médico tem proteção contra responsabilização indevida por falha exclusiva da ferramenta, desde que comprovado o uso diligente. Revisar o que foi gerado, linha por linha, antes de assinar, não é burocracia — é o que sustenta essa proteção.
Isso vale tanto para uma IA de pesquisa clínica quanto para uma ferramenta de documentação que redige o resumo da consulta. A lógica é a mesma: o texto gerado é rascunho até você confirmar que está correto.
| Pergunta a fazer antes de aceitar o texto | O que ela revela |
|---|---|
| Esse número eu já vi em algum lugar confiável? | Se não, confira a fonte antes de usar |
| Essa citação abre para algo real? | Clique — link morto é sinal de alucinação |
| A informação é específica demais sem origem clara? | Desconfie de detalhe sem referência |
| Eu perguntaria "de onde você tirou isso?" e a resposta me convenceria? | Se não, o dado não entra |
Para documentação clínica, isso aponta a diferença que importa na escolha de uma ferramenta: ela deve deixar visível o que veio da fala do paciente e o que foi composto pela IA, e permitir que você edite livremente antes de salvar. Um sistema que esconde essa distinção dificulta exatamente a verificação que o Art. 4º pede.
Cada referência abaixo foi conferida na base original antes da publicação.
Pare de levar prontuário para casa
Dois minutos de perguntas e você recebe um plano para a sua rotina.
Montar meu plano
Colar nome, exame ou histórico de paciente no ChatGPT comum manda um dado sensível para fora do seu controle — veja o que a LGPD exige e o que muda de versão para versão.
Um estudo de 30 dias com 263 profissionais mostrou burnout caindo de 51,9% para 38,8% com scribe de IA — veja o que o número prova e o que ainda não prova.
