Chinese artsen verzetten zich tegen patiënten die met een AI-diagnose komen
Een nep-bordje, op sociale media geplakt, zegt patiënten die al een diagnose van Doubao hebben gekregen dat ze moeten stoppen met artsen om een second opinion te vragen en in plaats daarvan Qwen of Yuanbao moeten proberen. Het beeld is een grap. De frustratie erachter niet. Chinese artsen klagen al maanden dat patiënten nu in de spreekkamer komen met een door AI gegenereerd antwoord in de hand, klaar om in discussie te gaan met iemand die jaren op de medische faculteit heeft doorgebracht.
De tools in kwestie zijn gangbare consumentenproducten. Doubao is de chatbot van ByteDance, het bedrijf achter Douyin, de Chinese tegenhanger van TikTok. Qwen komt van Alibaba en Yuanbao van Tencent. Alle drie zijn gratis, snel en maar wat graag bereid om een vraag te beantwoorden als wat veroorzaakt deze buikpijn. Juist dat gemak is het probleem: een groot taalmodel produceert een zelfverzekerde alinea, of het nu genoeg informatie heeft of niet, en een patiënt die het leest heeft geen gemakkelijke manier om het verschil te zien.
Artsen beschrijven een bekend patroon. Een patiënt komt met een lijst mogelijke aandoeningen en een voorkeursbehandeling. De arts is het er niet mee eens en het consult verandert in een debat over wiens bron gelijk heeft. Sommige clinici zeggen dat de ergste gevallen mensen betreffen die een bezoek hebben uitgesteld omdat een AI zei dat de symptomen onschuldig waren. Anderen beschrijven het tegenovergestelde: patiënten die bang aankomen voor een zeldzame ziekte die het model als verre mogelijkheid noemde.
De woede is echt genoeg om een eigen genre van onlinehumor te zijn geworden. Het nep-bericht in de kliniek is één voorbeeld. Artsen die laat op de avond klagen over nachtdiensten die ze hebben doorgebracht met ruziën tegen een telefoonscherm zijn een ander. De grap werkt omdat bijna iedereen de scène herkent, aan de ene of de andere kant van de balie.
De nuttigere vraag is waar AI in deze setting eigenlijk goed voor is. Onderzoekers en clinici die de technologie bestuderen, zijn het doorgaans eens over een ruwe taakverdeling. Een chatbot kan uitleggen wat een test meet, een ontslagbrief in gewone taal omzetten, iemand eraan herinneren medicijnen in te nemen of een patiënt helpen vragen voor te bereiden voor een afspraak. Veel zwakker is het bij diagnose, die afhangt van lichamelijk onderzoek, anamnese en context die een tekstprompt zelden vangt.
Dat onderscheid is in China belangrijker dan in veel andere markten, omdat de tools al in honderden miljoenen zakken zitten. Je hebt geen afspraak nodig om Doubao een vraag te stellen, en er is geen poortwachter die controleert of het antwoord verstandig is. Het resultaat is een enorm, ongecontroleerd experiment in zelf-triage, dat naast een ziekenhuissysteem draait waar artsen tientallen patiënten per dag zien en weinig tijd hebben om de redenering van een chatbot te ontrafelen.
Sommige ziekenhuizen beginnen te reageren, niet door de tools te verbieden maar door ze te erkennen. Een paar klinieken vragen patiënten nu eventueel AI-advies mee te nemen, zodat de arts er direct op in kan gaan in plaats van het halverwege het consult te ontdekken. De aanpak behandelt het model als een bron van vragen in plaats van antwoorden.
Het nep-bordje wijst uiteindelijk op iets echts. Patiënten zullen niet stoppen met AI naar hun symptomen te vragen, en artsen zullen niet stoppen zich te ergeren als het antwoord fout is. De vraag is of het consult zich snel genoeg kan aanpassen om de chatbot een brug te maken in plaats van een slagveld.