Китайские врачи дают отпор пациентам, которые приходят с диагнозом от ИИ
Фальшивая вывеска, разошедшаяся по соцсетям, велит пациентам, уже получившим диагноз от Doubao, перестать просить врачей о втором мнении и обратиться вместо этого к Qwen или Yuanbao. Картинка — шутка. Раздражение за ней — нет. Врачи по всему Китаю последние месяцы жалуются, что пациенты приходят в клиники с ответом, сгенерированным ИИ, и готовы спорить с человеком, который провёл годы в медицинском вузе.
Речь идёт о массовых потребительских продуктах. Doubao — чат-бот от ByteDance, компании, стоящей за китайским аналогом TikTok — Douyin. Qwen принадлежит Alibaba, Yuanbao — Tencent. Все три бесплатны, быстры и охотно отвечают на вопрос вроде «из-за чего болит живот». Эта лёгкость и есть проблема: большая языковая модель выдаёт уверенный абзац независимо от того, хватает ли ей информации, а читающий его пациент не может легко отличить одно от другого.
Врачи описывают знакомую картину. Пациент приходит со списком возможных болезней и предпочтительным лечением. Врач не соглашается, и приём превращается в спор о том, чей источник прав. Некоторые клиницисты говорят, что худшие случаи — это люди, отложившие визит, потому что ИИ назвал симптомы незначительными. Другие описывают обратное: пациентов, напуганных редким заболеванием, которое модель упомянула как маловероятную возможность.
Гнев достаточно реален, чтобы стать отдельным жанром интернет-юмора. Фальшивое объявление в клинике — один пример. Врачи, публикующие ночные тирады о сменах, проведённых в спорах с экраном телефона, — другой. Шутка работает, потому что почти каждый узнаёт эту сцену — по ту или другую сторону стола.
Полезнее спросить, для чего ИИ в этой ситуации действительно годится. Исследователи и клиницисты, изучающие технологию, в целом сходятся в примерном разделении труда. Чат-бот может объяснить, что измеряет анализ, перевести выписку на простой язык, напомнить принять лекарство или помочь пациенту подготовить вопросы к приёму. Он гораздо слабее в диагностике, которая зависит от осмотра, анамнеза и контекста, редко улавливаемых текстовым запросом.
Это различие важнее в Китае, чем на многих рынках, потому что инструменты уже лежат в сотнях миллионов карманов. Чтобы задать вопрос Doubao, не нужна запись, и нет никакого привратника, проверяющего, разумен ли ответ. В результате идёт огромный неконтролируемый эксперимент по самодиагностике — параллельно с больничной системой, где врач принимает десятки пациентов в день и почти не имеет времени разбирать рассуждения чат-бота.
Некоторые больницы начали реагировать — не запрещая инструменты, а признавая их. Несколько клиник теперь просят пациентов приносить любые советы от ИИ, чтобы врач мог разобрать их напрямую, а не обнаружить посреди приёма. Такой подход видит в модели источник вопросов, а не ответов.
В конечном счёте фальшивая вывеска указывает на реальную вещь. Пациенты не перестанут спрашивать ИИ о своих симптомах, а врачи не перестанут раздражаться, когда ответ неверен. Вопрос в том, успеет ли приём адаптироваться, чтобы чат-бот стал мостом, а не полем боя.