Médico recorre ao Gemini e entrega recomendações da IA sem validação clínica

Sim, o mundo mudou e a IA é hoje o “médico de família” de muitos portugueses. Aliás, já começa a ser um grande auxíliar de memória (e não só) para a classe médica. Segundo informações, um urologista do Hospital da Trofa terá entregue a uma paciente recomendações produzidas pelo Gemini.

É errado consultar a IA para ajudar na informação médica?
A utilização da Inteligência Artificial (IA) na medicina continua a ganhar espaço, mas um caso ocorrido em Portugal está a gerar polémica e a levantar questões sobre os limites da tecnologia na prática clínica.
Um urologista do Hospital da Trofa terá entregue a uma paciente recomendações produzidas pelo Gemini, o modelo de IA da Google, sem qualquer validação médica aparente antes da sua entrega.
A situação motivou críticas da Ordem dos Médicos, que relembra que estas ferramentas podem apoiar o trabalho clínico, mas nunca substituir a avaliação e a responsabilidade do profissional de saúde.
Paciente recebeu uma "Vista geral do Gemini"
Segundo a notícia avançada pelo Correio da Manhã, o caso ocorreu durante uma consulta de urologia realizada a 2 de junho.
A paciente procurava aconselhamento relacionado com um problema renal e esperava receber um plano nutricional adaptado ao seu estado clínico. Em vez disso, terá recebido uma folha impressa contendo recomendações geradas pelo Gemini, identificadas no topo do documento com a expressão "Vista geral de IA".
O documento foi entregue diretamente pelo médico, sem qualquer indicação de que tivesse sido revisto, adaptado ou validado para aquele caso clínico específico.
Segundo o testemunho da paciente, citado pelo jornal, o profissional limitou-se a imprimir o conteúdo gerado automaticamente, deixando a sensação de que não existiu uma análise personalizada.
Ordem dos Médicos: "A IA é um apoio, não um substituto"
Questionada sobre o caso, a Ordem dos Médicos foi clara ao recordar que a responsabilidade sobre qualquer ato clínico pertence sempre ao médico.
O bastonário Carlos Cortes afirma que:
A inteligência artificial é um apoio, não um substituto.
A Ordem sublinha ainda que toda a informação produzida por sistemas de IA deve ser obrigatoriamente validada antes de ser entregue ao doente, independentemente da tecnologia utilizada.
Além disso, distingue duas realidades diferentes:
Utilizar sistemas de apoio clínico devidamente validados científica e tecnicamente;
Recorrer diretamente a um chatbot generativo, cujas fontes não são certificadas e cuja informação pode conter erros.
Segundo a Ordem, mesmo que uma ferramenta de IA seja utilizada durante a consulta, toda a responsabilidade civil, ética e disciplinar continua a recair sobre o médico.
A IA pode ajudar, mas exige supervisão humana
Apesar deste episódio, especialistas defendem que a Inteligência Artificial pode representar uma enorme mais-valia na medicina quando utilizada corretamente.
Atualmente já existem aplicações para apoio ao diagnóstico, elaboração de notas clínicas, resumo de exames, apoio à decisão clínica,  comunicação com os doentes e organização administrativa.
Contudo, a comunidade científica é praticamente unânime em afirmar que os modelos generativos devem funcionar como um "copiloto" do médico e nunca como um sistema autónomo de decisão. A supervisão humana continua a ser considerada essencial para garantir segurança, rigor científico e adaptação ao historial de cada paciente.
Estudos mostram que os chatbots ainda cometem muitos erros
O caso surge numa altura em que continuam a ser publicados estudos sobre a fiabilidade dos grandes modelos de linguagem na área da saúde.
Uma investigação publicada este ano na BMJ Open, que analisou respostas produzidas por cinco modelos de IA, concluiu que 49,6% das respostas apresentavam problemas relevantes e que 19,6% eram consideradas altamente problemáticas.
Os investigadores identificaram ainda várias limitações importantes:
Os autores defendem que estas ferramentas exigem regulamentação, formação adequada dos profissionais e validação humana permanente antes de serem utilizadas em contexto clínico.
A IA está a mudar a medicina, mas não substitui o médico
A utilização de Inteligência Artificial nos cuidados de saúde continuará inevitavelmente a crescer. Os grandes modelos linguísticos já demonstram capacidade para acelerar tarefas administrativas, resumir documentação clínica e apoiar decisões médicas.
No entanto, este caso mostra precisamente onde reside a principal preocupação: quando a tecnologia deixa de ser uma ferramenta de apoio e passa a substituir o julgamento clínico.
A mensagem deixada pela Ordem dos Médicos é clara: qualquer informação produzida por IA deve ser analisada, validada e assumida pelo profissional de saúde antes de chegar ao doente. A responsabilidade clínica continua a ser exclusivamente humana.