
Alucinação em IA: quando a máquina inventa e você assina
Alucinação é a IA generativa produzindo informação plausível e errada — veja por que isso acontece e como detectar antes de assinar o prontuário.
Colar nome, exame ou histórico de paciente no ChatGPT comum manda um dado sensível para fora do seu controle — veja o que a LGPD exige e o que muda de versão para versão.


São 22h e falta só organizar a anamnese do último paciente. O ChatGPT está aberto numa aba ao lado. É tentador colar o resumo da consulta ali e pedir para ele deixar o texto mais claro.
A resposta direta: não cole dado identificável de paciente no ChatGPT comum. Não porque exista uma lei dizendo essa frase exata, mas porque a LGPD trata dado de saúde como dado pessoal sensível, e o ChatGPT gratuito ou Plus não foi desenhado com as garantias que esse tipo de dado exige.
Este artigo explica o motivo técnico e legal, e onde fica a linha entre o que é arriscado e o que tem contrato para proteger.
A Lei 13.709/2018, no Art. 5º, inciso II, define dado pessoal sensível como aquele sobre origem racial ou étnica, convicção religiosa, opinião política, saúde ou vida sexual, dado genético ou biométrico.
Diagnóstico, exame, prontuário e histórico clínico entram nessa categoria. A lei pede proteção reforçada justamente porque o vazamento desse tipo de dado pode causar dano maior ao titular do que o de um dado comum, como um e-mail ou um endereço.
Na prática, isso significa que o nível de cuidado que a lei exige para um prontuário é maior do que para qualquer outro tipo de informação que passa pela sua rotina.
Quando você digita ou cola algo no ChatGPT gratuito ou no Plus, esse conteúdo viaja para os servidores da OpenAI, fora do Brasil, fora do seu controle direto.
Dependendo da configuração da conta, essa conversa pode ser usada para treinar o modelo — ou seja, para melhorar a IA de forma geral, o que significa que o texto deixa de ser só seu e passa a integrar um processo que você não administra.
Essa opção pode ser desativada nas configurações, mas isso depende do usuário lembrar de fazer, e a configuração padrão não é essa.
| Versão | O dado pode treinar o modelo? | Existe contrato de proteção de dados? |
|---|---|---|
| ChatGPT gratuito | Sim, por padrão | Não |
| ChatGPT Plus | Sim, por padrão (pode desativar manualmente) | Não |
| ChatGPT Business / Enterprise | Não, por contrato | Sim (DPA) |
A sigla da terceira coluna é DPA — Data Processing Agreement, um contrato que estabelece o que a empresa pode e não pode fazer com o dado processado. É esse documento que falta nas versões gratuita e Plus.

Não é só teoria. Há registros de incidentes técnicos que expuseram conversas de usuários a terceiros. Isso não significa que todo uso do ChatGPT vaza dado o tempo todo. Significa que o sistema, como qualquer plataforma, pode falhar — e quando falha, o que estiver dentro da conversa fica exposto junto.
Para um dado comum, uma falha dessas é um incômodo. Para um dado de saúde identificado, é exatamente o tipo de risco que a LGPD foi feita para evitar.
Fora da LGPD em si, há também a exigência de que qualquer sistema usado na prática médica garanta padrões mínimos de segurança da informação compatíveis com dado pessoal sensível. Isso significa, na prática, três coisas:
O ChatGPT comum não falha nos dois primeiros pontos — a minimização e a finalidade dependem de você. O problema está no terceiro: sem um contrato que proíba o uso para treinamento, você não controla o destino do dado depois que aperta enviar.
Sim, mas a resposta muda dependendo de qual versão e de qual dado.
Um caso hipotético sem nome, sem data de nascimento, sem número de prontuário — uma pergunta genérica sobre um quadro clínico, sem identificação — tem um risco muito menor do que colar a anamnese inteira com o nome do paciente no topo.
A diferença prática está aqui:
A linha de corte não é "pode ou não pode usar IA". É o que você coloca dentro da conversa e em qual versão da ferramenta isso acontece.
Esse é exatamente o motivo pelo qual ferramentas de documentação clínica não são "ChatGPT com roupa de médico". Uma ferramenta pensada para esse uso específico trata o áudio da consulta e o texto do prontuário como dado sensível desde o desenho — não como um ajuste de configuração que o usuário precisa lembrar de ativar.
Na Avora, por exemplo, o áudio não é armazenado: ele é transcrito e descartado. E o texto final do prontuário passa por revisão do médico antes de ser salvo — o que é diferente de colar um resumo numa ferramenta genérica e confiar que ele não vai para lugar nenhum além da tela.
A diferença entre essas duas situações não é de marketing. É de contrato, arquitetura e finalidade declarada — os três pontos que a LGPD cobra de qualquer sistema que lide com dado de saúde.
Três ajustes simples, sem precisar trocar de ferramenta amanhã:
Nenhum desses passos exige trocar de rotina da noite para o dia. Exige separar com clareza o que é pergunta genérica do que é dado de paciente — e isso já resolve a maior parte do risco.
Cada referência abaixo foi conferida na base original antes da publicação.
Pare de levar prontuário para casa
Dois minutos de perguntas e você recebe um plano para a sua rotina.
Montar meu plano
Alucinação é a IA generativa produzindo informação plausível e errada — veja por que isso acontece e como detectar antes de assinar o prontuário.

Um estudo de 30 dias com 263 profissionais mostrou burnout caindo de 51,9% para 38,8% com scribe de IA — veja o que o número prova e o que ainda não prova.
