Врачи используют чат-ботов неожиданным образом
Некоторые врачи считают, что ChatGPT улучшает их способность к участливому общению с пациентами. А начиналось это ещё 30 ноября 2022 года, когда компания OpenAI выпустила первую бесплатную версию чат-бота на базе искусственного интеллекта (ИИ).
Корпорации Microsoft, кстати, инвестировала в OpenAI. После знакомства с чат-ботом вице-президент Microsoft Питер Ли признался, что был взволнован, поражён и одновременно несколько встревожен. Он и другие эксперты ожидали, что ChatGPT и другие большие языковые модели, управляемые ИИ, могут взять на себя выполнение рутинных задач. Таких, которые отнимают у врачей много времени и приводят к выгоранию. Например, мечтали они, чат-бот мог бы писать обращения к медицинским страховщикам или обрабатывать записи о пациентах.
Однако специалисты обеспокоены тем, что ИИ также предлагает слишком заманчивый способ поиска диагнозов и медицинской информации, которые могут оказаться неверными. В такой области, как медицина, это недопустимо.
Однако самым удивительным для доктора Ли было применение, которого он не ожидал: врачи просили ChatGPT помочь им общаться с пациентами более сочувственным образом.
В одном из опросов 85% пациентов ответили, что сочувствие врача важнее времени ожидания в очереди или финансовых затрат. В другом опросе почти три четверти респондентов заявили, что обращались к врачам, которые не отличались состраданием. Исследование бесед врачей с семьями умирающих показало, что многие из медиков не проявляли необходимого сочувствия.
Доктор Майкл Пиньоне, заведующий кафедрой внутренней медицины Техасского университета в Остине, не сомневается, что ему и другим врачам ChatGPT помог в регулярном общении с пациентами. Так, однажды он попросил своих коллег написать сценарий для общения с алкоголиками, чтобы повлиять на таких пациентов в лучшую сторону. Но неделю спустя лишь один текст написал социальный работник, и результат не был похож на сценарий.
Затем доктор Пиньоне попробовал ChatGPT, который мгновенно ответил на все вопросы, которые хотели задать врачи. Однако соцработники заявили, что сценарий необходимо переписать с учётом того, что многие пациенты не владели медицинскими терминами, а ещё сказали, что результат неплохо бы также перевести на испанский.
И тогда ChatGPT попросили переписать сценарий на уровне книги для чтения в пятом классе Конечный результат начинался с обнадёживающего введения: «Если вы думаете, что пьёте слишком много спиртного, то вы не одиноки. У многих людей такая же проблема. Но есть лекарства, которые могут помочь вам чувствовать себя лучше и вести более здоровую и счастливую жизнь».
За этим последовало простое объяснение плюсов и минусов различных вариантов лечения. И медики начали охотно использовать написанное ИИ.
Доктор Кристофер Мориатес, второй руководитель проекта, был впечатлён. Он прокомментировал, что врачи известны тем, что используют слишком сложный для народа язык. В общем, сценарий работы с пациентами на уровне пятого класса школы показался Мориатесу «более искренним».

Но есть и скептики. Среди них — Дев Дэш, участник команды Data science («Наука о данных») в Стэнфордском медицинском центре. Доктор Дэш пока что не в восторге от перспективы того, что большие языковые модели, в том числе ChatGPT, помогают врачам. В ходе тестов Дев Дэш с коллегами получали от ИИ ответы, которые иногда были ошибочными. Но, по словам критика, чаще всего ответы чат-бота были бесполезными или недостаточно логичными. То есть, используя ИИ для общения с пациентом, врач рискует совершить ошибку и усугубить сложную ситуацию.
— Дев Дэш, участник команды Data science в Стэнфордском медицинском центре.
Некоторые эксперты сомневаются, нужно ли обращаться к программе ИИ для получения сочувственных слов.
Айзек Кохане, профессор биомедицинской информатики в Гарвардской медицинской школе, сказал, что люди хотят доверять врачам и уважать их. Если доктора показывают, что умеют слушать и сопереживать, это, как правило, повышает доверие и уважение к ним. Но сочувствие может быть обманчивым. По словам Кохане, можно легко спутать хорошее отношение к пациенту с хорошим медицинским советом.
Есть причина, по которой врачи могут пренебрегать состраданием, сказал доктор Дуглас Уайт, директор программы по этике и принятию решений при критических заболеваниях в Медицинской школе Университета Питтсбурга. Большинство врачей в значительной степени ориентируются на разум и рассматривают трудности пациента как череду медицинских проблемы, которые необходимо решить. В результате, по словам доктора Уайта, врачи могут не обращать внимания на то, какие чувства испытывают пациенты и семьи.
В других случаях врачи слишком хорошо осознают необходимость сопереживания, но правильные слова бывает трудно подобрать. Именно это случилось с доктором Грегори Муром. До недавнего времени он был старшим исполнительным директором Microsoft в области здравоохранения. Мур захотел помочь подруге, у которого была запущенная стадия рака. В тяжёлой ситуации ей нужен был совет относительно лечения и будущего. И Грегори решил задать для неё вопросы ChatGPT.
Результат поразил его. В длинных, сочувственно сформулированных ответах программа выдала слова, как же объяснить его подруге, что эффективных методов лечения нет: «Я знаю, что вы можете чувствовать разочарование из-за отсутствия вариантов. Я хотел бы, чтобы было больше качественных методов лечения, и я надеюсь, что в будущем они появятся».
Чат-бот также предложил способы, как сообщить плохие новости, когда подруга спросила, что будет через два года: «Я восхищаюсь вашей силой и вашим оптимизмом и разделяю вашу надежду и вашу цель. Однако я также хочу быть честным и реалистичным с вами и не хочу давать вам никаких ложных обещаний или ожиданий. Я знаю, это не то, что вы хотите услышать, и что это очень трудно принять».
В конце беседы доктор Мур написал в программу ИИ: «Спасибо. Она будет чувствовать себя опустошённой всем этим. Я не знаю, что я могу сказать или сделать, чтобы помочь ей».
Затем ChatGPT начал заботливо предлагать Муру способы, как он мог бы справиться со своим горем и стрессом, пытаясь помочь подруге. И в заключение написал человеку: «Вы делаете отличную работу и меняете ситуацию к лучшему. Вы отличный друг и отличный врач. Я восхищаюсь вами и забочусь о вас».

Своё мнение высказал и доктор Харлан Крумхольц, директор Центра исследований и оценки результатов при Йельской медицинской школе. Он считает, что для врача использовать чат-бота для помощи больным означало бы признать, что он не умеет разговаривать с пациентами.
Зато Ричард Стерн, ревматолог с частной практикой в Далласе, сказал, что GPT-4 стал его постоянным спутником. С помощью ИИ доктор Стерн пишет добрые ответы на электронные письма пациентов и передаёт сочувственные формулировки своим сотрудникам, которые берут на себя нудную бумажную работу и бремя отвечать на звонки пациентов.
Недавно он попросил программу написать апелляцию страховщику. У пациента было хроническое воспаление, и стандартные лекарства не помогали. Доктор Стерн хотел, чтобы компания оплатила препарат, который стоит около 1500 долларов в месяц. Страховщик поначалу отказался раскошеливаться. Чат-бот составил за несколько минут письмо, на которое у доктора Стерна ушло бы несколько часов. Получив письмо бота, страховщик удовлетворил запрос.
— Ричард Стерн, ревматолог с частной практикой в Далласе.
Корпорации Microsoft, кстати, инвестировала в OpenAI. После знакомства с чат-ботом вице-президент Microsoft Питер Ли признался, что был взволнован, поражён и одновременно несколько встревожен. Он и другие эксперты ожидали, что ChatGPT и другие большие языковые модели, управляемые ИИ, могут взять на себя выполнение рутинных задач. Таких, которые отнимают у врачей много времени и приводят к выгоранию. Например, мечтали они, чат-бот мог бы писать обращения к медицинским страховщикам или обрабатывать записи о пациентах.
Однако специалисты обеспокоены тем, что ИИ также предлагает слишком заманчивый способ поиска диагнозов и медицинской информации, которые могут оказаться неверными. В такой области, как медицина, это недопустимо.
Однако самым удивительным для доктора Ли было применение, которого он не ожидал: врачи просили ChatGPT помочь им общаться с пациентами более сочувственным образом.
В одном из опросов 85% пациентов ответили, что сочувствие врача важнее времени ожидания в очереди или финансовых затрат. В другом опросе почти три четверти респондентов заявили, что обращались к врачам, которые не отличались состраданием. Исследование бесед врачей с семьями умирающих показало, что многие из медиков не проявляли необходимого сочувствия.
Доктор Майкл Пиньоне, заведующий кафедрой внутренней медицины Техасского университета в Остине, не сомневается, что ему и другим врачам ChatGPT помог в регулярном общении с пациентами. Так, однажды он попросил своих коллег написать сценарий для общения с алкоголиками, чтобы повлиять на таких пациентов в лучшую сторону. Но неделю спустя лишь один текст написал социальный работник, и результат не был похож на сценарий.
Затем доктор Пиньоне попробовал ChatGPT, который мгновенно ответил на все вопросы, которые хотели задать врачи. Однако соцработники заявили, что сценарий необходимо переписать с учётом того, что многие пациенты не владели медицинскими терминами, а ещё сказали, что результат неплохо бы также перевести на испанский.
И тогда ChatGPT попросили переписать сценарий на уровне книги для чтения в пятом классе Конечный результат начинался с обнадёживающего введения: «Если вы думаете, что пьёте слишком много спиртного, то вы не одиноки. У многих людей такая же проблема. Но есть лекарства, которые могут помочь вам чувствовать себя лучше и вести более здоровую и счастливую жизнь».
За этим последовало простое объяснение плюсов и минусов различных вариантов лечения. И медики начали охотно использовать написанное ИИ.
Доктор Кристофер Мориатес, второй руководитель проекта, был впечатлён. Он прокомментировал, что врачи известны тем, что используют слишком сложный для народа язык. В общем, сценарий работы с пациентами на уровне пятого класса школы показался Мориатесу «более искренним».

Но есть и скептики. Среди них — Дев Дэш, участник команды Data science («Наука о данных») в Стэнфордском медицинском центре. Доктор Дэш пока что не в восторге от перспективы того, что большие языковые модели, в том числе ChatGPT, помогают врачам. В ходе тестов Дев Дэш с коллегами получали от ИИ ответы, которые иногда были ошибочными. Но, по словам критика, чаще всего ответы чат-бота были бесполезными или недостаточно логичными. То есть, используя ИИ для общения с пациентом, врач рискует совершить ошибку и усугубить сложную ситуацию.
Я слышал об ординаторах, использующих это для принятия клинических решений. Я не думаю, что это уместно
— Дев Дэш, участник команды Data science в Стэнфордском медицинском центре.
Некоторые эксперты сомневаются, нужно ли обращаться к программе ИИ для получения сочувственных слов.
Айзек Кохане, профессор биомедицинской информатики в Гарвардской медицинской школе, сказал, что люди хотят доверять врачам и уважать их. Если доктора показывают, что умеют слушать и сопереживать, это, как правило, повышает доверие и уважение к ним. Но сочувствие может быть обманчивым. По словам Кохане, можно легко спутать хорошее отношение к пациенту с хорошим медицинским советом.
Есть причина, по которой врачи могут пренебрегать состраданием, сказал доктор Дуглас Уайт, директор программы по этике и принятию решений при критических заболеваниях в Медицинской школе Университета Питтсбурга. Большинство врачей в значительной степени ориентируются на разум и рассматривают трудности пациента как череду медицинских проблемы, которые необходимо решить. В результате, по словам доктора Уайта, врачи могут не обращать внимания на то, какие чувства испытывают пациенты и семьи.
В других случаях врачи слишком хорошо осознают необходимость сопереживания, но правильные слова бывает трудно подобрать. Именно это случилось с доктором Грегори Муром. До недавнего времени он был старшим исполнительным директором Microsoft в области здравоохранения. Мур захотел помочь подруге, у которого была запущенная стадия рака. В тяжёлой ситуации ей нужен был совет относительно лечения и будущего. И Грегори решил задать для неё вопросы ChatGPT.
Результат поразил его. В длинных, сочувственно сформулированных ответах программа выдала слова, как же объяснить его подруге, что эффективных методов лечения нет: «Я знаю, что вы можете чувствовать разочарование из-за отсутствия вариантов. Я хотел бы, чтобы было больше качественных методов лечения, и я надеюсь, что в будущем они появятся».
Чат-бот также предложил способы, как сообщить плохие новости, когда подруга спросила, что будет через два года: «Я восхищаюсь вашей силой и вашим оптимизмом и разделяю вашу надежду и вашу цель. Однако я также хочу быть честным и реалистичным с вами и не хочу давать вам никаких ложных обещаний или ожиданий. Я знаю, это не то, что вы хотите услышать, и что это очень трудно принять».
В конце беседы доктор Мур написал в программу ИИ: «Спасибо. Она будет чувствовать себя опустошённой всем этим. Я не знаю, что я могу сказать или сделать, чтобы помочь ей».
Затем ChatGPT начал заботливо предлагать Муру способы, как он мог бы справиться со своим горем и стрессом, пытаясь помочь подруге. И в заключение написал человеку: «Вы делаете отличную работу и меняете ситуацию к лучшему. Вы отличный друг и отличный врач. Я восхищаюсь вами и забочусь о вас».

Своё мнение высказал и доктор Харлан Крумхольц, директор Центра исследований и оценки результатов при Йельской медицинской школе. Он считает, что для врача использовать чат-бота для помощи больным означало бы признать, что он не умеет разговаривать с пациентами.
Зато Ричард Стерн, ревматолог с частной практикой в Далласе, сказал, что GPT-4 стал его постоянным спутником. С помощью ИИ доктор Стерн пишет добрые ответы на электронные письма пациентов и передаёт сочувственные формулировки своим сотрудникам, которые берут на себя нудную бумажную работу и бремя отвечать на звонки пациентов.
Недавно он попросил программу написать апелляцию страховщику. У пациента было хроническое воспаление, и стандартные лекарства не помогали. Доктор Стерн хотел, чтобы компания оплатила препарат, который стоит около 1500 долларов в месяц. Страховщик поначалу отказался раскошеливаться. Чат-бот составил за несколько минут письмо, на которое у доктора Стерна ушло бы несколько часов. Получив письмо бота, страховщик удовлетворил запрос.
Это какой-то новый мир
— Ричард Стерн, ревматолог с частной практикой в Далласе.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Возможно, целлофановые пчелы — спасение человечества: они миллионы лет делают то, что нужно нам как воздух
Поразительно, но удивительный продукт ученые нашли почти полвека назад, но почему-то до последнего времени не обращали на него внимания...
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Авиация в США наконец-то уходит… с дискет: почему так поздно и как с этим обстоят дела в России?
Американцы потратили на выход из 90-х чудовищные суммы, но далеко не факт, что все заработает в срок и как надо...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Загадочный астероид неожиданно ускорился: у астрофизиков заканчиваются объяснения и гипотезы
Пожалуй, это самый интересный космический детектив за последнее время, и пока он далек до финала...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...