Quem responde pelo erro de uma IA médica no Brasil?

Imagine a cena: um sistema de inteligência artificial analisa o prontuário de um paciente com câncer e sugere um protocolo de tratamento. A recomendação parece confiável — afinal, a promessa da tecnologia é justamente ajudar médicos a tomar decisões mais rápidas e precisas.

Mas, durante testes internos do Watson for Oncology, da IBM, a ferramenta apresentou sugestões consideradas inadequadas e potencialmente perigosas caso aplicadas em um paciente real, incluindo recomendações incompatíveis com boas práticas médicas.

O episódio gerou uma questão, que é simples de formular, mas complexa de responder: se uma ferramenta de IA sugerir algo errado durante um atendimento médico, e isso prejudicar um paciente, quem será responsabilizado por esse erro?

Em fevereiro deste ano, o Conselho Federal de Medicina estabeleceu novas regras para enfrentar esse desafio. A Resolução CFM nº 2.454/2026 normatiza o uso de IA na prática médica e deixa claro, logo de partida, que a ferramenta apoia a decisão clínica, mas não a substitui. Em outras palavras, o médico continua sendo o responsável final.

Na prática, a resolução também determina o registro no prontuário do uso de sistemas de IA como apoio à decisão, além de garantir ao paciente o direito à informação e à recusa. Contudo, transformar esse princípio em realidade envolve desafios que vão muito além da norma.

Para entender o que essa regulamentação realmente resolve — e o que ainda fica em aberto —, o Prime Health Report ouviu quem redigiu a resolução e quem estuda, na prática jurídica, o que acontece quando ela é colocada à prova.

O que diz a lei sobre responsabilidade quando uma IA erra?

A advogada Rafaella Nogaroli — parecerista em Direito Médico e da Saúde, e autora do livro Responsabilidade Civil Médica e Inteligência Artificial — resume o espírito da resolução de forma direta: o médico continua sendo integralmente responsável, mesmo quando há IA envolvida.

Mas isso não significa, automaticamente, responder por qualquer erro tecnológico.

“A própria resolução protege o profissional contra responsabilização indevida quando a falha for exclusivamente atribuível ao sistema e ele tiver atuado com diligência, julgamento crítico e fundamentação técnica”, explica Nogaroli, que é mestre em Direito pela Universidade Federal do Paraná (UFPR).

Na prática, as diretrizes da resolução não ficam restritas ao âmbito médico. Elas passam a servir também como referência nos tribunais, ajudando a definir o que é — ou não — um comportamento diligente no uso da IA.

Como a apuração de erro médico depende de perícia, decisões dos Conselhos de Medicina frequentemente entram nos processos como parâmetro, ainda que não vinculem o juiz. “Não deverá ser diferente nos futuros casos envolvendo inteligência artificial”, diz a advogada.

Esse alinhamento acompanha uma tendência global. Segundo Nogaroli, entidades internacionais como a Organização Mundial da Saúde e a Alta Autoridade de Saúde da França defendem que a IA deve ampliar a capacidade do médico, não substituir seu julgamento.

O efeito é quase contraintuitivo — em vez de aliviar, a tecnologia reforça deveres antigos. Vigilância, atualização, documentação. E “atualizar-se”, agora, inclui também conhecer as capacidades, os limites e os vieses das ferramentas usadas no dia a dia.

Existe precedente de caso real que já testou essa responsabilidade na Justiça?

No Brasil, diz Nogaroli, ainda não há decisões judiciais que tratem diretamente da responsabilidade médica em casos envolvendo IA. Mas, com o uso crescente da tecnologia e a já conhecida “litigiosidade brasileira”, ela acredita que isso deve mudar em breve.

Nos EUA, o caso Sampson v. HeartWise Health Systems (2023) tornou-se emblemático. Aos 29 anos, Joshua Sampson fez exames preventivos após o pai morrer de uma doença cardíaca hereditária. O software de triagem classificou os resultados como “normais” e o médico chancelou o laudo sem considerar o histórico familiar. Poucas semanas depois, o jovem morreu de morte súbita por cardiomiopatia hipertrófica.

O caso nem chegou a uma decisão final: terminou em acordo confidencial antes do julgamento de mérito. Ainda assim, para Nogaroli, o episódio funciona como um alerta claro — o risco não está só no erro da IA, mas em transformar uma recomendação algorítmica em conclusão clínica automática.

Enquanto o Judiciário brasileiro ainda não testou esse tipo de caso, a mudança de postura já começa a aparecer na rotina clínica. Jeancarlo Cavalcante, conselheiro federal do CFM e relator da resolução sobre IA, diz que a nova norma trouxe um efeito imediato: mais cautela no uso dessas ferramentas.

No dia a dia, isso se traduz em pequenos gestos. Diante de um laudo gerado por IA, o médico volta ao exame, revisa ponto a ponto, cruza informações —

como se desacelerasse o processo para ter certeza de que nada ficou para trás. Segundo Cavalcante, esse cuidado tem sido especialmente visível em áreas como diagnóstico por imagem. “A supervisão humana sempre foi necessária nesses casos”, afirma o especialista ao PHR.

Hospitais e empresas de tecnologia compartilham essa responsabilidade?

Para Nogaroli, a responsabilidade não é exclusiva do médico — ela acompanha o grau de controle que cada agente tem sobre o risco. A empresa de tecnologia responde pelo que está sob sua alçada: o desenvolvimento do sistema, a qualidade dos dados, os testes e a clareza sobre suas limitações.

Do lado das instituições de saúde, o foco muda: hospitais e clínicas escolhem bem a ferramenta, garantem que ela faz sentido para a população atendida, treinam as equipes e acompanham seu desempenho ao longo do tempo. Não por acaso, a própria resolução reforça isso, quando exige avaliação de risco, governança e auditoria — e até sugere a criação de uma Comissão de IA e Telemedicina nas instituições com sistemas próprios.

O médico, por sua vez, entra em outro momento da cadeia: é dele a supervisão clínica. Isso significa entender a ferramenta o suficiente para questionar suas recomendações, cruzá-las com o caso concreto e, principalmente, registrar como chegou à decisão final.

Quando algo dá errado, raramente há uma única causa. Se o problema nasce de um algoritmo falho, passa por uma governança frágil e chega a um uso pouco crítico na ponta, a responsabilidade tende a ser compartilhada. “O que não se admite”, resume Nogaroli, é o empurra-empurra — “a empresa para o hospital, o hospital para o médico e o médico para a máquina”.

Cavalcante puxa esse tema da transparência para o chão da clínica, onde a conversa acontece de verdade. Quando questionado sobre como explicaria ao paciente até onde a IA entrou no cuidado, ele prefere ser direto: diz que usaria uma ferramenta para dar mais agilidade ao processo, mas faz questão de reforçar que tudo passa por revisão médica antes de qualquer decisão.

No fim, a mensagem é simples — "deixaria bem claro que a ferramenta serviu para agilizar o processo, não para substituí-lo", conclui.

A resolução do CFM resolve essa dúvida, ou só formaliza o que já era esperado?

Para Cavalcante, a resolução não inventa uma nova responsabilidade — só tira do implícito e coloca no papel. Algo que já existia na prática, mas agora ganha contorno mais claro. “Ela serviu como marco regulatório e consequentemente como diferencial na maneira como a gente utiliza a inteligência artificial na medicina”, enfatiza.

Nogaroli concorda, mas faz um ajuste fino importante: a clareza da norma não simplifica o problema — só muda onde ele está. “Seguir ou ignorar a sugestão da IA, isoladamente, não define a responsabilidade”, diz. Em ambos os casos, o elemento central será o grau de cuidado: questionar o resultado, cruzar com o histórico do paciente, entender limites da ferramenta.

É aí que entra um ponto que tende a ganhar cada vez mais peso: “a resolução do CFM exige expressamente que o médico registre no prontuário o uso da IA como apoio à decisão”. Esse registro tem que contar toda a história — qual sistema foi usado, o que ele sugeriu, por que o médico aceitou ou descartou aquela recomendação.

Porque, no fim das contas, a discussão deixa de ser “quem estava certo, o médico ou a máquina?”, e passa a ser outra, bem mais decisiva: “o médico foi diligente ao interagir com a inteligência artificial?”, conclui a parecerista em direito médico e saúde.