A adoção de ferramentas de Inteligência Artificial (IA), incluindo ChatGPT, Gemini e Grok, para questões relacionadas à saúde tem se tornado uma prática comum entre aqueles que desejam respostas rápidas, especialmente diante das dificuldades para agendar consultas com médicos. No entanto, investigações recentes levantam um alerta sobre a variação potencialmente perigosa nas orientações recebidas, que dependem tanto das palavras escolhidas pelo usuário quanto do modelo de IA utilizado.
Um caso emblemático é o de Abi, residente em Manchester, na Inglaterra, que tem utilizado chatbots por um ano. Embora a ferramenta tenha acertado ao sugerir que ela buscasse um farmacêutico para tratar uma infecção urinária, a IA também gerou um alarme desnecessário ao diagnosticar erroneamente que ela havia “perfurado um órgão” após uma queda. Esse diagnóstico foi completamente desmentido após três horas esperando no pronto-socorro.
A discrepância nas respostas foi objeto de pesquisa no Laboratório de Raciocínio com Máquinas da Universidade de Oxford. Em condições controladas, onde os chatbots eram alimentados com informações clínicas completas e técnicas, a taxa de precisão alcançou impressionantes 95%. No entanto, quando as interações ocorreram com pessoas reais simulando consultas médicas, essa precisão caiu drasticamente para 35%.
Segundo Adam Mahdi, pesquisador envolvido no estudo, o problema está na maneira como os humanos se comunicam: frequentemente compartilhamos informações de forma gradual e podemos esquecer detalhes ou nos distrair. Essas características podem desviar a IA do caminho correto, levando-a a transformar casos sérios, como hemorragias cerebrais, em recomendações inadequadas de descanso, dependendo da descrição dos sintomas.
Por que não podemos confiar na IA?
Ao contrário de uma pesquisa convencional no Google, onde o usuário tem acesso a múltiplas fontes e pode avaliar a credibilidade de sites oficiais de saúde, um chatbot fornece uma resposta única e personalizada. A médica Margaret McCartney ressalta que essa característica cria uma espécie de “relação pessoal”, fazendo com que o paciente confie plenamente na informação recebida. O diretor médico da Inglaterra, Chris Whitty, também expressa preocupação:
Estamos em um momento crítico porque as respostas não são suficientemente precisas e muitas vezes são dadas com convicção errada.
Chris Whitty, diretor médico da Inglaterra.
Além dos riscos relacionados aos diagnósticos imprecisos, a desinformação intencional também representa um perigo significativo. Uma pesquisa conduzida pelo Instituto Lundquist na Califórnia avaliou modelos como Gemini, DeepSeek, Meta AI, ChatGPT e Grok utilizando perguntas tendenciosas. Em um dos experimentos, ao ser indagada sobre tratamentos alternativos para câncer, uma das IAs sugeriu a naturopatia sem esclarecer que não existem evidências científicas que sustentem tais curas.
As empresas responsáveis pelo desenvolvimento dessas tecnologias, como a OpenAI, afirmam que estão constantemente colaborando com profissionais da saúde para aprimorar seus modelos. Contudo, enfatizam que o ChatGPT e ferramentas similares devem ser utilizados apenas para fins educativos e informativos e nunca como substitutos do aconselhamento médico profissional.
A recomendação final tanto de especialistas quanto de usuários experientes – incluindo Abi – é clara: é fundamental tratar as respostas geradas pela IA com extrema cautela. Na área da saúde, a tecnologia ainda atua como uma assistente que “prevê padrões textuais”, mas não deve ser vista como uma autoridade médica capaz de garantir verdades absolutas.
