ChatGPT para médico: onde ajuda e onde é perigoso confiar

São 22h e a dúvida não é grave, mas também não é banal. Você abre o ChatGPT — todo mundo abre, em algum momento — e digita o caso. A resposta vem rápida, bem escrita, convincente.

O problema não é a resposta ruim. É que ela pode ser boa demais para o caso fácil e ruim exatamente onde você mais precisava que fosse boa.

Este artigo não é sobre proibir a ferramenta. É sobre entender onde a confiança é razoável e onde ela vira risco — com o que a evidência já mostrou, sem inventar o que ela não mostrou.

O padrão que a evidência descreveu

Um estudo estruturado testou recomendações do ChatGPT em situações clínicas de gravidades diferentes. O achado central: a ferramenta acerta nos casos de baixo risco e erra proporcionalmente mais nos casos críticos — o oposto do que se esperaria de um modelo treinado em literatura médica.

Isso inverte a expectativa mais comum. A intuição diz que o caso grave, por ser mais discutido na literatura, deveria ser o ponto forte. Não é o que o estudo encontrou.

Na prática, é o oposto do que você gostaria de uma segunda opinião: ela é mais confiável exatamente onde você menos precisa dela, e mais falível onde o erro custa mais.

O erro que ninguém está procurando

Quando se pensa em "IA errando em medicina", a imagem mental é a informação incorreta — a dose errada, o diagnóstico trocado. Mas não é aí que está a maior parte do problema.

Segundo o mesmo corpo de evidência, a maioria dos danos potenciais vem de omissão — a ferramenta deixa de recomendar um passo importante, não porque errou o fato, mas porque não mencionou o que deveria ter mencionado.

É um tipo de falha mais difícil de perceber. Uma resposta errada salta aos olhos de quem tem formação clínica. Uma resposta incompleta, não — porque o texto está fluente, bem estruturado e parece completo até que falte, silenciosamente, a orientação que faria diferença.

Por que o modelo não avisa quando está errado

Aqui está o ponto que mais gera confiança indevida: o ChatGPT responde com a mesma fluência acertando e alucinando.

Não existe sinal de incerteza visível na forma da resposta. O texto que descreve corretamente uma conduta e o texto que inventa uma informação saem com a mesma confiança, a mesma clareza, a mesma pontuação. Quem lê não tem como distinguir pelo tom.

Isso é o oposto do que um colega faria ao telefone — hesitar, dizer "não tenho certeza", sugerir confirmar em outra fonte. O modelo não hesita mesmo quando deveria.

Por que "é a mesma IA de tudo" é o problema

Vale separar uma confusão comum: ChatGPT é um modelo generalista, treinado para conversar sobre qualquer assunto — não foi construído especificamente para medicina.

Existem modelos médicos dedicados que usam dados especializados e passam por validação voltada a esse domínio — uma abordagem estruturalmente diferente de perguntar a um assistente de uso geral.

A diferença não é sutil: usar o ChatGPT para uma dúvida clínica é usar uma ferramenta genérica fora do domínio para o qual ela foi otimizada. Ela pode ajudar — e ajuda, em certos usos — mas não parte da mesma base que um sistema desenhado para essa finalidade.

Onde o uso é razoável — e onde não é

O fio que separa a coluna segura da arriscada não é "gravidade do assunto" — é se a resposta vira conduta sem passar pelo seu julgamento crítico antes.

O que a Resolução do CFM já prevê para isso

A resolução do CFM que trata de inteligência artificial na prática médica permite o uso de IA como apoio, mas estabelece limites claros que se aplicam direto a esse tipo de uso:

• É vedado delegar à IA a comunicação de diagnóstico ou prognóstico — a decisão e a fala final continuam sendo do médico, não da ferramenta.
• O uso de IA como apoio à decisão deve ser registrado no prontuário.
• O médico permanece integralmente responsável pelos atos praticados, mesmo com apoio de IA.

Isso não é burocracia distante da sua rotina: significa que, se você usar qualquer IA — incluindo o ChatGPT — como apoio a uma decisão real, a responsabilidade não sai de você, e o registro disso deveria constar no prontuário.

Um risco que não é sobre o paciente de hoje

Há um efeito mais silencioso, discutido em textos de educação médica: usar ferramentas generalistas para "pensar por você" com frequência, sem checagem crítica, pode enfraquecer o próprio raciocínio clínico com o tempo — a habilidade de formular hipótese antes de ler a resposta pronta.

Isso não é um achado numérico preciso, mas um padrão observado: é um risco de processo, não uma estatística. Vale a atenção mesmo sem números.

Quatro perguntas antes de confiar na resposta

1. Este caso é simples ou complexo? O padrão observado sugere mais cautela justamente no caso complexo — o oposto do que a intuição sugere.
2. A resposta pode estar incompleta, não só errada? Pergunte-se o que ela pode ter deixado de mencionar, não só se o que disse está certo.
3. Eu confirmaria isso numa fonte médica antes de agir? Se a resposta não sobreviver a essa pergunta, ela não deveria virar conduta.
4. Isso envolve comunicar diagnóstico ou prognóstico ao paciente? Se sim, a resolução do CFM já resolve a dúvida: essa parte não pode ser delegada.

Onde a Avora entra nessa conversa

Vale ser direto sobre isso: a Avora não é uma ferramenta de diagnóstico, e não pretende ser. Ela escuta a consulta e organiza o prontuário — uma função administrativa, não uma opinião clínica.

Isso muda o tipo de risco. Não há aqui a pergunta "a IA acertou a conduta?", porque a conduta nunca sai da sua mão: você revisa e valida cada nota antes de salvar, e a ferramenta não sugere diagnóstico nem substitui julgamento — só reduz o tempo que vai para escrever o que você já decidiu.

É uma diferença de categoria, não de grau: um assistente generalista tenta responder qualquer pergunta com a mesma fluência; uma ferramenta de documentação não tenta decidir nada — só ajuda a registrar melhor o que você já decidiu com calma.