I medici cinesi si difendono dai pazienti che arrivano con una diagnosi dell'IA
Un cartello falso, incollato sui social media, dice ai pazienti che hanno già ricevuto una diagnosi da Doubao di smettere di chiedere un secondo parere ai medici e di provare invece Qwen o Yuanbao. L’immagine è uno scherzo. La frustrazione che c’è dietro no. Da mesi i medici di tutta la Cina si lamentano del fatto che i pazienti arrivano in ambulatorio stringendo una risposta generata dall’IA, pronti a discutere con chi ha passato anni all’università di medicina.
Gli strumenti in questione sono prodotti di consumo mainstream. Doubao è il chatbot creato da ByteDance, la società dietro Douyin, la versione cinese di TikTok. Qwen viene da Alibaba e Yuanbao da Tencent. Tutti e tre sono gratuiti, veloci e ben felici di rispondere a una domanda come che cosa causa questo mal di stomaco. Proprio questa facilità è il problema: un modello linguistico di grandi dimensioni produce un paragrafo sicuro di sé indipendentemente dal fatto che abbia informazioni sufficienti, e chi lo legge non ha un modo semplice per distinguere.
I medici descrivono uno schema ricorrente. Un paziente arriva con un elenco di possibili patologie e una terapia preferita. Il medico non è d’accordo e la visita si trasforma in un dibattito su quale fonte abbia ragione. Alcuni clinici dicono che i casi peggiori riguardano chi ha rimandato la visita perché un’IA gli aveva detto che i sintomi erano lievi. Altri raccontano l’opposto: pazienti che arrivano spaventati da una malattia rara che il modello aveva menzionato come possibilità remota.
La rabbia è abbastanza reale da essere diventata un genere a sé di umorismo online. Il finto avviso dello studio medico è un esempio. Un altro sono i medici che pubblicano sfoghi notturni sui turni passati a discutere con uno schermo del telefono. La battuta funziona perché quasi tutti riconoscono la scena, da una parte o dall’altra della scrivania.
La domanda più utile è a che cosa serva davvero l’IA in questo contesto. Ricercatori e clinici che studiano la tecnologia tendono a concordare su una divisione di massima dei compiti. Un chatbot può spiegare che cosa misura un esame, tradurre una lettera di dimissione in un linguaggio semplice, ricordare a qualcuno di prendere le medicine o aiutare un paziente a preparare le domande prima di una visita. È molto più debole nella diagnosi, che dipende da esame obiettivo, anamnesi e contesto che un prompt testuale raramente cattura.
Questa distinzione conta in Cina più che in molti altri mercati, perché gli strumenti sono già nelle tasche di centinaia di milioni di persone. Non serve un appuntamento per fare una domanda a Doubao e non c’è nessun guardiano che controlli se la risposta è sensata. Il risultato è un vasto esperimento incontrollato di autotriage, che corre accanto a un sistema ospedaliero in cui i medici vedono decine di pazienti al giorno e hanno poco tempo per districare il ragionamento di un chatbot.
Alcuni ospedali hanno iniziato a reagire, non vietando gli strumenti ma riconoscendoli. Alcune cliniche ora chiedono ai pazienti di portare qualsiasi consiglio dell’IA abbiano ricevuto, così il medico può affrontarlo direttamente invece di scoprirlo a metà visita. L’approccio tratta il modello come una fonte di domande, non di risposte.
Il cartello falso, in fondo, indica qualcosa di reale. I pazienti non smetteranno di chiedere all’IA dei loro sintomi e i medici non smetteranno di irritarsi quando la risposta è sbagliata. La questione è se la visita possa adattarsi abbastanza in fretta da fare del chatbot un ponte invece di un campo di battaglia.