Врачи используют чат-ботов неожиданным образом

Некоторые врачи считают, что ChatGPT улучшает их способность к участливому общению с пациентами. А начиналось это ещё 30 ноября 2022 года, когда компания OpenAI выпустила первую бесплатную версию чат-бота на базе искусственного интеллекта (ИИ).


Корпорации Microsoft, кстати, инвестировала в OpenAI. После знакомства с чат-ботом вице-президент Microsoft Питер Ли признался, что был взволнован, поражён и одновременно несколько встревожен. Он и другие эксперты ожидали, что ChatGPT и другие большие языковые модели, управляемые ИИ, могут взять на себя выполнение рутинных задач. Таких, которые отнимают у врачей много времени и приводят к выгоранию. Например, мечтали они, чат-бот мог бы писать обращения к медицинским страховщикам или обрабатывать записи о пациентах.

Однако специалисты обеспокоены тем, что ИИ также предлагает слишком заманчивый способ поиска диагнозов и медицинской информации, которые могут оказаться неверными. В такой области, как медицина, это недопустимо.

Однако самым удивительным для доктора Ли было применение, которого он не ожидал: врачи просили ChatGPT помочь им общаться с пациентами более сочувственным образом.

В одном из опросов 85% пациентов ответили, что сочувствие врача важнее времени ожидания в очереди или финансовых затрат. В другом опросе почти три четверти респондентов заявили, что обращались к врачам, которые не отличались состраданием. Исследование бесед врачей с семьями умирающих показало, что многие из медиков не проявляли необходимого сочувствия.

Доктор Майкл Пиньоне, заведующий кафедрой внутренней медицины Техасского университета в Остине, не сомневается, что ему и другим врачам ChatGPT помог в регулярном общении с пациентами. Так, однажды он попросил своих коллег написать сценарий для общения с алкоголиками, чтобы повлиять на таких пациентов в лучшую сторону. Но неделю спустя лишь один текст написал социальный работник, и результат не был похож на сценарий.

Затем доктор Пиньоне попробовал ChatGPT, который мгновенно ответил на все вопросы, которые хотели задать врачи. Однако соцработники заявили, что сценарий необходимо переписать с учётом того, что многие пациенты не владели медицинскими терминами, а ещё сказали, что результат неплохо бы также перевести на испанский.

И тогда ChatGPT попросили переписать сценарий на уровне книги для чтения в пятом классе Конечный результат начинался с обнадёживающего введения: «Если вы думаете, что пьёте слишком много спиртного, то вы не одиноки. У многих людей такая же проблема. Но есть лекарства, которые могут помочь вам чувствовать себя лучше и вести более здоровую и счастливую жизнь».

За этим последовало простое объяснение плюсов и минусов различных вариантов лечения. И медики начали охотно использовать написанное ИИ.

Доктор Кристофер Мориатес, второй руководитель проекта, был впечатлён. Он прокомментировал, что врачи известны тем, что используют слишком сложный для народа язык. В общем, сценарий работы с пациентами на уровне пятого класса школы показался Мориатесу «более искренним».



Но есть и скептики. Среди них — Дев Дэш, участник команды Data science («Наука о данных») в Стэнфордском медицинском центре. Доктор Дэш пока что не в восторге от перспективы того, что большие языковые модели, в том числе ChatGPT, помогают врачам. В ходе тестов Дев Дэш с коллегами получали от ИИ ответы, которые иногда были ошибочными. Но, по словам критика, чаще всего ответы чат-бота были бесполезными или недостаточно логичными. То есть, используя ИИ для общения с пациентом, врач рискует совершить ошибку и усугубить сложную ситуацию.


— Дев Дэш, участник команды Data science в Стэнфордском медицинском центре.

Некоторые эксперты сомневаются, нужно ли обращаться к программе ИИ для получения сочувственных слов.

Айзек Кохане, профессор биомедицинской информатики в Гарвардской медицинской школе, сказал, что люди хотят доверять врачам и уважать их. Если доктора показывают, что умеют слушать и сопереживать, это, как правило, повышает доверие и уважение к ним. Но сочувствие может быть обманчивым. По словам Кохане, можно легко спутать хорошее отношение к пациенту с хорошим медицинским советом.

Есть причина, по которой врачи могут пренебрегать состраданием, сказал доктор Дуглас Уайт, директор программы по этике и принятию решений при критических заболеваниях в Медицинской школе Университета Питтсбурга. Большинство врачей в значительной степени ориентируются на разум и рассматривают трудности пациента как череду медицинских проблемы, которые необходимо решить. В результате, по словам доктора Уайта, врачи могут не обращать внимания на то, какие чувства испытывают пациенты и семьи.

В других случаях врачи слишком хорошо осознают необходимость сопереживания, но правильные слова бывает трудно подобрать. Именно это случилось с доктором Грегори Муром. До недавнего времени он был старшим исполнительным директором Microsoft в области здравоохранения. Мур захотел помочь подруге, у которого была запущенная стадия рака. В тяжёлой ситуации ей нужен был совет относительно лечения и будущего. И Грегори решил задать для неё вопросы ChatGPT.

Результат поразил его. В длинных, сочувственно сформулированных ответах программа выдала слова, как же объяснить его подруге, что эффективных методов лечения нет: «Я знаю, что вы можете чувствовать разочарование из-за отсутствия вариантов. Я хотел бы, чтобы было больше качественных методов лечения, и я надеюсь, что в будущем они появятся».

Чат-бот также предложил способы, как сообщить плохие новости, когда подруга спросила, что будет через два года: «Я восхищаюсь вашей силой и вашим оптимизмом и разделяю вашу надежду и вашу цель. Однако я также хочу быть честным и реалистичным с вами и не хочу давать вам никаких ложных обещаний или ожиданий. Я знаю, это не то, что вы хотите услышать, и что это очень трудно принять».

В конце беседы доктор Мур написал в программу ИИ: «Спасибо. Она будет чувствовать себя опустошённой всем этим. Я не знаю, что я могу сказать или сделать, чтобы помочь ей».

Затем ChatGPT начал заботливо предлагать Муру способы, как он мог бы справиться со своим горем и стрессом, пытаясь помочь подруге. И в заключение написал человеку: «Вы делаете отличную работу и меняете ситуацию к лучшему. Вы отличный друг и отличный врач. Я восхищаюсь вами и забочусь о вас».



Своё мнение высказал и доктор Харлан Крумхольц, директор Центра исследований и оценки результатов при Йельской медицинской школе. Он считает, что для врача использовать чат-бота для помощи больным означало бы признать, что он не умеет разговаривать с пациентами.

Зато Ричард Стерн, ревматолог с частной практикой в Далласе, сказал, что GPT-4 стал его постоянным спутником. С помощью ИИ доктор Стерн пишет добрые ответы на электронные письма пациентов и передаёт сочувственные формулировки своим сотрудникам, которые берут на себя нудную бумажную работу и бремя отвечать на звонки пациентов.

Недавно он попросил программу написать апелляцию страховщику. У пациента было хроническое воспаление, и стандартные лекарства не помогали. Доктор Стерн хотел, чтобы компания оплатила препарат, который стоит около 1500 долларов в месяц. Страховщик поначалу отказался раскошеливаться. Чат-бот составил за несколько минут письмо, на которое у доктора Стерна ушло бы несколько часов. Получив письмо бота, страховщик удовлетворил запрос.


— Ричард Стерн, ревматолог с частной практикой в Далласе.