Médicos chineses reagem a pacientes que chegam com um diagnóstico de IA
Uma placa falsa, colada nas redes sociais, diz aos pacientes que já receberam um diagnóstico do Doubao que parem de pedir uma segunda opinião aos médicos e experimentem o Qwen ou o Yuanbao. A imagem é uma piada. A frustração por trás dela não é. Médicos de toda a China passaram os últimos meses reclamando que os pacientes agora chegam aos consultórios com uma resposta gerada por IA, prontos para discutir com quem passou anos na faculdade de medicina.
As ferramentas em questão são produtos de consumo de massa. O Doubao é o chatbot da ByteDance, a empresa por trás do Douyin, o irmão chinês do TikTok. O Qwen vem da Alibaba, e o Yuanbao, da Tencent. Os três são gratuitos, rápidos e respondem de bom grado a uma pergunta como o que está causando esta dor de estômago. Essa facilidade é exatamente o problema: um grande modelo de linguagem produz um parágrafo confiante tenha ou não informação suficiente, e um paciente que o lê não tem como distinguir facilmente a diferença.
Os médicos descrevem um padrão conhecido. Um paciente chega com uma lista de doenças possíveis e um tratamento preferido. O médico discorda, e a consulta vira um debate sobre qual fonte está certa. Alguns clínicos dizem que os piores casos envolvem pessoas que adiaram a visita porque uma IA lhes disse que os sintomas eram leves. Outros descrevem o oposto: pacientes que chegam assustados com uma doença rara que o modelo mencionou como possibilidade remota.
A raiva é real o bastante para ter virado um gênero próprio de humor na internet. O aviso falso da clínica é um exemplo. Os médicos que publicam desabafos noturnos sobre plantões passados discutindo com uma tela de celular são outro. A piada funciona porque quase todo mundo reconhece a cena, de um lado ou do outro da mesa.
A pergunta mais útil é para que a IA realmente serve nesse contexto. Pesquisadores e clínicos que estudam a tecnologia costumam concordar com uma divisão aproximada de tarefas. Um chatbot pode explicar o que um exame mede, traduzir um resumo de alta para uma linguagem simples, lembrar alguém de tomar o remédio ou ajudar um paciente a preparar perguntas antes de uma consulta. É bem mais fraco no diagnóstico, que depende de exame físico, histórico e contexto que um texto de comando raramente captura.
Essa distinção importa mais na China do que em muitos mercados, porque as ferramentas já estão em centenas de milhões de bolsos. Não é preciso agendar nada para fazer uma pergunta ao Doubao, e não há nenhum filtro verificando se a resposta faz sentido. O resultado é um experimento vasto e descontrolado de autotriagem, que roda em paralelo a um sistema hospitalar onde os médicos atendem dezenas de pacientes por dia e têm pouco tempo para destrinchar o raciocínio de um chatbot.
Alguns hospitais começaram a reagir, não proibindo as ferramentas, mas reconhecendo-as. Algumas clínicas agora pedem aos pacientes que tragam qualquer conselho de IA que tenham recebido, para que o médico possa abordá-lo diretamente em vez de descobri-lo no meio da consulta. A abordagem trata o modelo como uma fonte de perguntas, não de respostas.
A placa falsa, no fim, aponta para algo real. Os pacientes não vão parar de perguntar à IA sobre seus sintomas, e os médicos não vão parar de se irritar quando a resposta está errada. A questão é se a consulta pode se adaptar rápido o suficiente para fazer do chatbot uma ponte em vez de um campo de batalha.