ESET alerta para riscos de chatbots de IA na saúde

O avanço das ferramentas de inteligência artificial generativa tem ampliado a oferta de chatbots voltados a dúvidas sobre saúde, interpretação de exames e orientação sobre sintomas. No entanto, especialistas alertam que recorrer a essas plataformas sem o devido cuidado pode trazer riscos relacionados tanto à privacidade dos dados quanto à confiabilidade das respostas.

Segundo a ESET, a popularização de serviços como Copilot Health, ChatGPT Health e Amazon’s HealthAI reflete uma mudança na forma como as pessoas buscam informações médicas. Disponíveis a qualquer hora do dia, os chatbots acabam se tornando uma alternativa rápida para usuários que desejam entender sintomas, resultados laboratoriais ou opções de tratamento antes mesmo de procurar atendimento profissional.

Para Mario Micucci, pesquisador de segurança da informação da ESET América Latina, o problema vai além da possibilidade de receber uma orientação errada.

"O risco não é apenas receber um conselho incorreto, mas também compartilhar informações pessoais altamente sensíveis com sistemas cujas práticas de privacidade e compartilhamento de dados podem ser diferentes das adotadas por médicos e hospitais", afirma.

A preocupação ganha relevância em um cenário em que sistemas de saúde enfrentam sobrecarga e pacientes recorrem cada vez mais ao autodiagnóstico. Um estudo da Universidade de Oxford, publicado na revista Nature Medicine, apontou que usuários de chatbots de IA para saúde frequentemente recebem respostas inconsistentes e têm dificuldade para diferenciar recomendações corretas de orientações equivocadas.

De acordo com a autora principal do estudo, a doutora Rebecca Payne, pacientes precisam entender que perguntar sobre sintomas a modelos de linguagem pode resultar em diagnósticos incorretos ou até deixar passar situações que exigem atendimento urgente.

A preocupação com o uso dessas ferramentas também já aparece entre entidades do setor de saúde. Segundo a organização independente de segurança do paciente ECRI, dos Estados Unidos, o uso inadequado de chatbots de IA representa atualmente o principal risco tecnológico para a área da saúde em 2026. A entidade alerta que respostas incorretas ou mal interpretadas podem influenciar decisões médicas de pacientes e profissionais.

Dados de saúde estão entre os mais valiosos para criminosos

Além das falhas nas respostas, especialistas destacam os riscos envolvendo privacidade. Segundo a ESET, ao compartilhar informações médicas com plataformas públicas de IA, os usuários podem expor dados que eventualmente podem ser utilizados para treinamento de modelos ou compartilhados com terceiros.

A empresa explica que, mesmo quando os serviços prometem anonimização das informações, ainda existem riscos de vazamento ou uso indevido. Dados de saúde estão entre os mais valorizados por criminosos virtuais, já que podem ser utilizados em fraudes, golpes relacionados a seguros médicos e até extorsões.

No Brasil, episódios recentes reforçam essa preocupação. Em 2025, o Conselho Nacional de Saúde repudiou o vazamento de informações de mais de 600 pessoas com HIV, fibromialgia e doença falciforme em Feira de Santana (BA), após os dados serem publicados indevidamente em um documento oficial. Casos como esse evidenciam os impactos que a exposição de registros médicos pode causar à privacidade e à segurança dos pacientes.

"Quanto mais empresas tiverem acesso a esses dados, maiores são as oportunidades para ataques e vazamentos", destaca Micucci.

Outro ponto levantado pela ESET é que muitas ferramentas de IA voltadas ao consumidor não seguem regulamentações equivalentes às exigidas de hospitais e operadoras de saúde, o que pode resultar em níveis menores de proteção para as informações armazenadas.

Recomendações para o uso seguro de IA em saúde

Diante desse cenário, a ESET recomenda que usuários evitem compartilhar documentos médicos completos, resultados de exames ou informações pessoais identificáveis em plataformas de IA. A orientação é priorizar ferramentas desenvolvidas especificamente para saúde e verificar previamente como os dados serão tratados.

A empresa também reforça que respostas fornecidas por IA não devem substituir consultas médicas nem ser encaradas como diagnósticos definitivos.

"Existe uma grande diferença entre usar a IA para se preparar para um atendimento médico e utilizá-la como substituta desse atendimento", conclui Micucci.