Chinas Ärzte wehren sich gegen Patienten, die mit einer KI-Diagnose anreisen
Ein gefälschtes Schild, das in sozialen Medien die Runde macht, fordert Patienten, die bereits eine Diagnose von Doubao erhalten haben, auf, Ärzte nicht mehr um eine zweite Meinung zu bitten und stattdessen Qwen oder Yuanbao auszuprobieren. Das Bild ist ein Scherz. Die Frustration dahinter nicht. Ärzte in ganz China beklagen seit Monaten, dass Patienten inzwischen mit einer KI-generierten Antwort in die Praxis kommen und bereit sind, mit der Person zu diskutieren, die jahrelang Medizin studiert hat.
Die betreffenden Tools sind gängige Verbraucherprodukte. Doubao ist der Chatbot von ByteDance, dem Unternehmen hinter Douyin, dem chinesischen Gegenstück zu TikTok. Qwen stammt von Alibaba, Yuanbao von Tencent. Alle drei sind kostenlos, schnell und beantworten bereitwillig eine Frage wie: Was verursacht diese Magenschmerzen? Genau diese Leichtigkeit ist das Problem: Ein großes Sprachmodell produziert einen selbstsicheren Absatz, ob es genügend Informationen hat oder nicht, und ein Patient, der ihn liest, kann den Unterschied kaum erkennen.
Ärzte beschreiben ein vertrautes Muster. Ein Patient kommt mit einer Liste möglicher Erkrankungen und einer bevorzugten Behandlung. Der Arzt widerspricht, und die Sprechstunde wird zur Debatte darüber, wessen Quelle recht hat. Manche Kliniker sagen, die schlimmsten Fälle beträfen Menschen, die einen Besuch aufgeschoben haben, weil eine KI die Symptome als harmlos eingestuft hatte. Andere beschreiben das Gegenteil: Patienten, die in Angst vor einer seltenen Krankheit kommen, die das Modell als entfernte Möglichkeit erwähnt hat.
Die Wut ist real genug, dass sie zu einem eigenen Genre des Online-Humors geworden ist. Das gefälschte Klinikschild ist ein Beispiel. Ärzte, die nächtliche Tirade über Nachtschichten posten, in denen sie mit einem Handybildschirm diskutiert haben, ein anderes. Der Witz funktioniert, weil fast jeder die Szene erkennt – auf der einen oder anderen Seite des Schreibtischs.
Die nützlichere Frage ist, wofür KI in diesem Umfeld tatsächlich taugt. Forscher und Kliniker, die die Technologie untersuchen, sind sich über eine grobe Arbeitsteilung weitgehend einig. Ein Chatbot kann erklären, was ein Test misst, einen Entlassungsbrief in einfache Sprache übersetzen, jemanden an die Medikamenteneinnahme erinnern oder einem Patienten helfen, Fragen für einen Termin vorzubereiten. Bei der Diagnose ist er deutlich schwächer, denn diese hängt von körperlicher Untersuchung, Vorgeschichte und Kontext ab, die eine Texteingabe selten erfasst.
Dieser Unterschied wiegt in China schwerer als in vielen anderen Märkten, weil die Tools bereits in Hunderten Millionen Taschen stecken. Für eine Frage an Doubao braucht es keinen Termin, und niemand prüft, ob die Antwort vernünftig ist. Das Ergebnis ist ein riesiges, unkontrolliertes Experiment der Selbst-Triage, das parallel zu einem Krankenhaussystem läuft, in dem Ärzte Dutzende Patienten am Tag sehen und kaum Zeit haben, die Argumentation eines Chatbots nachzuvollziehen.
Einige Krankenhäuser beginnen zu reagieren, nicht indem sie die Tools verbieten, sondern indem sie sie anerkennen. Manche Kliniken bitten Patienten inzwischen, erhaltene KI-Ratschläge mitzubringen, damit der Arzt direkt darauf eingehen kann, statt sie mitten in der Sprechstunde zu entdecken. Der Ansatz behandelt das Modell als Quelle von Fragen statt von Antworten.
Das gefälschte Schild weist am Ende auf etwas Echtes hin. Patienten werden nicht aufhören, die KI nach ihren Symptomen zu fragen, und Ärzte werden sich nicht aufhören zu ärgern, wenn die Antwort falsch ist. Die Frage ist, ob sich die Sprechstunde schnell genug anpassen kann, damit der Chatbot eine Brücke wird statt ein Schlachtfeld.