Роман Душкин: «Медицина — это область доверия»

Наш эксперт Роман Душкин рассказал об опыте разработки системы поддержки принятия врачебных решений (СППВР) «Джейн». Программа была призвана закрыть все потребности, связанные с медициной, которые возникают у врачей и пациентов, столкнувшихся с эпилепсией. К сожалению, проект был свёрнут после трёх лёт развития.

На примере «Джейн» специалист объяснил, почему будущее медицины за персонализацией и как ИИ поможет в её достижении. Рассказал о том, почему нейронные сети не очень хорошо подходят для врачебной практики, а также о том, как новые ГОСТы повлияют на распространение ИИ в российских больницах.

Роман Душкин

Директор по науке и технологиям Агентства искусственного интеллекта (АИИ), ведущий YouTube-канала «Душкин объяснит».

Как ИИ помогает врачам ставить верные диагнозы

— Расскажите, как возникла идея «Джейн»?

— Изначально мы создавали систему для сопровождения одного пациента. Но потом оказалось, что она может быть полезна и другим людям, страдающим от различных эпилептических синдромов.

Нам поступил запрос от знакомого врача на разработку компьютерной системы, предназначенной для выработки так называемого второго мнения по сложным случаям этого недуга.

— Что значит «второе мнение»?

— Существует проблема, когда даже опытные и титулованные врачи ставят ошибочные диагнозы и, как следствие, назначают неподходящее лечение. В результате пациенты погибают или становятся инвалидами.

В таком случае компьютерная система может высказать своё непредвзятое мнение и либо подтвердить выводы врача, либо зародить в нём обоснованные сомнения в правильности предложенного им диагноза и схемы лечения.

В нашей практике были случаи, когда выводы системы кардинально отличались от выводов лечащего врача. И это спасло несколько пациентов.

— На пациентов какого возраста была рассчитана система?

— Вообще, эпилепсия — это во многом детская болезнь, в зрелом возрасте она встречается реже, потому что человек либо вылечивается к тому моменту, когда становится взрослым, либо, к сожалению, умирает. Поэтому нашими пациентами в основном были дети, в том числе и самые маленькие. Хотя и не только они.

— Из какого количества «Джейн» приходилось выбирать диагнозы?

— В эпилептологии выделено около 100 различных синдромов, каждый из них лечится по-разному. Поэтому очень важно тщательно дифференцировать эпилептический синдром.

«Джейн», проанализировав состояние пациента, была способна выдать вероятность каждого из сотни возможных диагнозов в процентах. Врач мог эту информацию изучить и принять верное решение.

— Можете привести пример работы «Джейн»?

— Одному малышу врачи поставили ТМЭМ. Это очень тяжёлый диагноз, при его наличии надо принимать несколько сильнодействующих препаратов с кучей побочных эффектов.

Но «Джейн», проанализировав все симптомы, сообщила, что вероятность ТМЭМ — всего 30%. Зато алгоритм обнаружил совпадение почти в 60% с другим синдромом, который надо лечить совершенно иначе.

Когда доктор ознакомился с заключением системы, он переосмыслил все вводные заново, собрал консилиум и представил новые результаты коллегам. В результате консилиум срочно скорректировал программу лечения.

Благодаря этому состояние пациента нормализовалось. Сейчас он уже ходит в третий класс.

Что такое «персонализированная медицина»

— Откуда система брала информацию о пациенте? Из электронной истории болезни?

— Да, но речь идёт не только о каких-то формальных документах. Сама суть «Джейн» состоит в том, что она должна собирать полную и актуальную историю болезни пациента. Буквально всю информацию, до мельчайших подробностей.

Чем больше система будет знать обо всех обстоятельствах происходящих с пациентом процессов, тем более качественные рекомендации она будет выдавать.

— Кто и как эту информацию вносил? Врач или пациент?

— И тот и другой. Для быстрого добавления новых записей в «Джейн» был создан чат-бот, доступный со смартфона. Можно, конечно, воспользоваться обычной веб-версией, но с чат-ботом процесс сильно ускоряется.

Чат-бот — очень оперативный интерфейс: запустил, быстро ввёл туда всё, что нужно. А веб-приложение — уже более мощный инструмент. Он может использоваться на стационарной основе и предоставлять больше функций.

— То есть пациенту нужно каждый день вводить информацию? Это трудоёмкий процесс?

— В принципе, да. Но от него зависят жизнь и здоровье человека, ребёнка. Если родители хотят ребёнку добра, то им придётся этим заниматься. Всё зависит от мотивации.

Именно для облегчения этого процесса мы создали чат-бота. Работать с ним было проще, чем пользоваться обычным мессенджером. Во многих случаях даже писать ничего было не нужно — только нажимать кнопки на экране.

Туда же можно было отправить и результаты анализов (например, общего анализа крови), полученные из лаборатории в виде стандартных PDF-файлов. Прикрепляете файл, система его парсит, извлекает текст и вносит в базу. Очень удобно!

— По сути, мы формируем в системе виртуальную копию человека?

— С некоторой натяжкой можно сказать, что это цифровой двойник пациента… Хотя это будет не совсем точное определение.

— «Джейн» подстраивается под каждого пациента и изучает особенности течения его болезни?

— Верно. В этом как раз и состояла одна из фишек системы.

Есть мощный тренд: мы от статистической доказательной медицины переходим к персональной медицине, но тоже доказательной. Однако пока ни в одной стране полного перехода к ней так и не произошло.

И вот «Джейн» попыталась сделать шаг к светлому будущему, когда мы сможем собирать все показатели здоровья человека, а компьютерная система будет находить в них закономерности, которые важны для успешного лечения.

— И как это может выглядеть?

— Всем знакома ситуация, когда вы приходите к стоматологу и он, перед тем как сделать укол новокаина, спрашивает, есть ли у вас противопоказания. Вы ему что-то отвечаете. Хотя откуда вы можете достоверно знать о противопоказаниях?

Но если у нас будет возможность пользоваться «Джейн» или подобной программой, то все данные о пациенте рано или поздно станут известны системе и она сможет указать врачу на эти аспекты, индивидуальные особенности.

Причём, в отличие от доктора-человека, компьютерная система не может что-то забыть или потерять, она способна запомнить информацию о тысячах пациентов с абсолютной точностью.

— Что из этого было реализовано в «Джейн»?

— От одного из лечащих врачей, тестировавших систему, поступил заказ на функцию подбора лекарственных средств. Мы взяли базу РЛС, распарсили и ввели в систему. Так у «Джейн» появились знания о показаниях, противопоказаниях и побочных явлениях приёма лекарственных средств.

Далее врач, когда решал, какой препарат назначить, давал алгоритму задание: «Подбери лекарство для этого ребёнка». И система рассчитывала интегральный показатель для каждого вещества, который показывал степень риска приёма средства для конкретного пациента.

— Приведите, пожалуйста, пример.

— Если у пациента отмечаются головные боли (и этот факт записан в систему), то «Джейн» подберёт препарат, у которого головная боль среди побочек значиться не будет.

Вещества, которые могут ухудшить состояние больного, компьютер подсветит красным. Более того, лекарственные средства взаимодействуют друг с другом. Если врач попытается назначить несовместимые препараты, то «Джейн» и об этом просигнализирует.

Так алгоритм подбирает лекарство, наилучшим образом подходящее конкретному пациенту. Это наглядный пример персонализированной медицины.

— Такая система была бы полезна всем врачам. Её можно модифицировать под другие болезни, не только для эпилепсии?

— Да. Это отдельный модуль, который был встроен в «Джейн» и работал очень успешно. Кстати, им пользовались не только неврологи, но и врачи других специализаций.

Как «Джейн» помогала предсказать приступы эпилепсии

— Из каких частей состояла «Джейн»?

— В ней было несколько блоков, которые постепенно дополнялись новыми функциями. Перечислю основные модули:

• диагностика;
• разработка плана лечения и подбор лекарств;
• контроль принятия лекарств;
• прогнозирование развития заболевания.

Также был дневник пациента. Поскольку эпилепсия требует пристального внимания к состоянию пациента, были необходимы инструменты контроля.

— Система находилась не на компьютере врача, а где-то на сервере и была доступна через интернет?

— Да, конечно. Сегодня все системы делаются с веб-доступом. Я не могу себе представить стационарную программу такого рода, которую нужно было бы устанавливать как отдельное приложение.

Естественно, «Джейн» тоже имела веб-доступ, а чат-бот — это просто дополнительный интерфейс к базе данных, в которой аккумулировались данные о пациенте — история болезни, жизненные показатели, дневник наблюдений и так далее.

— Какие задачи выполнял модуль контроля принятия лекарств?

— Для эпилептика важно контролировать приём препаратов. Если назначены какие-то антиэпилептические вещества, то их надо принимать ровно так, как назначено, буквально минута в минуту. Любой пропуск — риск для жизни.

И соответствующий модуль «Джейн» как раз напоминал ребёнку или его родителям о том, что прямо сейчас надо выпить ту или иную таблетку. И в качестве подтверждения требовал нажатия соответствующей кнопки на экране смартфона.

— А в чём заключалась прогнозирующая функция системы?

— «Джейн» могла находить корреляции между отслеживаемыми показателями, которые на первый взгляд казались совершенно друг с другом не связанными. То есть осуществляла поиск скрытых закономерностей.

Например, у одного ребёнка «Джейн» выявила жёсткую причинно-следственную зависимость между фазами Луны и обострениями болезни. Ни родители, ни врачи этой связи не чувствовали и не знали о ней. Они просто отмечали в электронном дневнике дни, в которые происходили приступы.

И когда мы «скормили» нашим алгоритмам эту информацию, то они показали, что с вероятностью 90% в новолуние или в полнолуние у ребёнка будут случаться обострения. При этом в любой другой день вероятность приступа не превышала 25%.

Я, конечно, всё перепроверил, долго копался в научных трудах. И нашёл публикации, в которых учёные отмечали селенозависимость течения эпилепсии у отдельных людей. Но объяснить её, кстати, медики пока не могут.

— Откуда система узнала о фазах Луны?

— «Джейн» была интегрирована с сервисом Gismeteo, взяла оттуда информацию про Луну и нашла эту зависимость.

— То есть «Джейн» получала данные о погоде? Зачем?

— Да, получала… Очень многие пациенты с приступами метеозависимы. Зачастую эпилептики — очень метеозависимые люди.

— Благодаря системе родители могли узнать, что у ребёнка через некоторое время случится приступ?

— Да, и могли к нему подготовиться, хотя бы морально. Циклолептическое течение эпилепсии встречается довольно часто, и система очень быстро научается прогнозировать интервалы этих циклов.

Если у ребёнка приступы происходят, например, каждые пять дней, система это спрогнозирует. Напомнит родителям, что сегодня с большой вероятностью будет обострение, и попросит быть внимательнее к своему чаду.

— А предотвратить приступ нельзя?

— Даже если мы точно знаем, когда у человека случится эпилептический припадок, то мы, скорее всего, не сможем его предотвратить. Современная медицина не обладает такими средствами.

Но, как я уже сказал, к приступу можно будет подготовиться, чтобы он нанёс минимальный вред. В этот день ребёнок должен быть дома и избегать активностей, которые могут быть опасны в случае потери сознания. То есть родители не должны пускать его на горку, на качели, в бассейн и так далее.

Почему «Джейн» оказалась не у дел

— Почему мы говорим о «Джейн» в прошедшем времени?

— Потому что, к сожалению, сейчас система выведена из эксплуатации.

Всё, что я вам рассказываю, связано с опытной эксплуатацией «Джейн» врачами одной московской больницы, специализирующимися на эпилепсии. Врачи ей пользовались под моим контролем. Наши алгоритмы помогли уточнить диагнозы и скорректировать лечение десятка пациентов.

Однако в определённый момент мы столкнулись с проблемой — чтобы продолжать использовать систему, требовалось сертифицировать её в качестве медицинского изделия. Процесс этот довольно сложный, он потребовал бы от нашего коллектива больших затрат времени и сил.

Никто не мог дать гарантии того, что после сертификации «Джейн» купят. А делать такую сложную систему просто так, для себя, смысла не было. Поэтому я решил сосредоточиться на развитии других проектов.

— Система была в высокой степени готовности?

— Да, всё, о чём я вам рассказал, функционировало, это полностью рабочие модули. У нас был чат-бот, у нас была веб-версия, система «крутилась» на сервере. Если бы я не остановил разработку, то следующий модуль, который мы делали, обеспечивал бы вывод по аналогии.

Предполагалось, что в систему загрузят большое количество историй болезни. И тогда «Джейн» могла бы находить совпадения, смотреть, как лечится один пациент, как другой, какие у них прогнозы, признаки выздоровления и так далее.

Однако созданный задел, те методы разработки СППВР, которые мы применили в «Джейн», сейчас можно широко использовать. И система такая будет очень полезна, если кто-то заинтересуется её покупкой и внедрением.

— Когда вы начали разработку и сколько времени это заняло?

— В 2016 году. Проект «Джейн» развивался в течение трёх лет.

— Есть ли аналогичные системы для лечения эпилепсии?

— Я, конечно, проводил конкурентный анализ. Обнаруженные аналоги могли предложить только электронный дневник. Это были простые информационные системы для записи симптомов и жалоб пациентов. Таких крутых фишек, интеллектуальных функций, настроенных именно на проблему эпилепсии, как в «Джейн», больше ни у кого в мире не было.

— Вы пытались найти инвесторов?

— Да, искали. Встречались с представителями популярных компаний, предоставляющих услуги по лабораторной диагностике. Мы предлагали им войти в проект и развивать его под своим брендом.

Было бы классно, если бы «Джейн» получала данные по каждому пациенту прямо из их ЛИС’ов. Мы могли бы сделать полную интеграцию. Но этого не случилось, никто из потенциальных инвесторов так и не решился на сотрудничество.

— Поговорим о юридической стороне. Что в России нужно сделать, чтобы на законных основаниях продавать медицинские системы?

— Чтобы сертифицировать медицинское изделие, нужно провести клинические испытания. То есть мы должны фактически провести независимую оценку эффективности изделия, применяя методы доказательной медицины. Это довольно сложный процесс, который может тянуться годами.

— Интересно, а как можно проверить компьютерную программу? Какая должна быть методика?

— Процесс сертификации информационной системы как медицинского изделия мало чем отличается от процесса сертификации какого-нибудь скальпеля новой необычной формы.

И разработка методики испытаний входит в состав клинических испытаний. То есть мы должны сначала разработать методику, представить её комиссии, которая подтвердит, что методика соответствует стандартам качества проведения клинических испытаний.

Затем в ходе испытаний мы проходим по всем пунктам этой методики. Пишем научно-технические отчёты. Консилиумы их проверяют, подтверждают, что отчёты соответствуют критериям, описанным в документах.

Область доверия: какие есть трудности с внедрением ИИ в больницах

— Первая медицинская экспертная система MYCIN появилась ещё в 1970-х годах. Почему же в больницах до сих пор очень мало таких программ?

— Действительно, интересные разработки были, но в реальной медицинской практике они применялись очень ограниченно, с осторожностью. Та же MYCIN практически не получила распространения за пределами научных лабораторий.

Всё дело в доверии. Медицина — это область доверия. Мы же доверяем врачу самое дорогое — своё здоровье и здоровье наших детей. Поэтому компьютерные системы должны не только выдавать рекомендации, но ещё и обладать функцией объяснения, обоснования предложенных решений. Это важный компонент доверия.

Вот почему в сфере медицины очень сложно применять популярные сегодня нейронные сети и другие модели, основанные на методах восходящей парадигмы искусственного интеллекта.

— Нейросети нельзя применять в медицине?

— Можно, но с осторожностью. Если система, основанная на нейронных сетях, сможет объяснять свои решения, то, пожалуйста, применяйте. Но обычно нейросети на это неспособны. Вопрос, как я уже сказал, в доверии.

Врач или консилиум врачей должен иметь возможность проверить выводы программы. Если ИИ даёт второе мнение по какому-то пациенту, то доктору нужно понимать, почему алгоритм пришёл к таким выводам.

— То есть программа выступает в роли коллеги, который так же, как и реальный врач, должен обосновать своё решение?

— Верно, именно так всё и было устроено в нашей системе. В случаях, когда «Джейн» помогла уточнить диагнозы, фактически решение приняли врачи (консилиум). Система лишь обратила внимание на нестыковки и смогла обосновать альтернативное решение. Окончательное решение всегда остаётся за человеком.

— «Джейн» могла выдать обоснование для каждого случая?

— Могла. И поэтому она была основана не на нейросетях, а на наборах хранимых правил. То есть в ней была база знаний, правила вывода, семантические сети. При поиске решения применялось нечёткое сопоставление (то есть правила нечёткой логики).

Я всегда мог объяснить врачам, почему система, основываясь на наблюдениях за состоянием пациента, сообщала о вероятности того или иного диагноза. Говоря научным языком, «Джейн» относилась к объяснимому искусственному интеллекту. Этот класс ИИ часто называют по-английски XAI — eXplainable Artificial Intelligence.

— Что ещё сдерживает развитие медицинского ИИ в России?

— Отсутствие соответствующей нормативной базы. Росстандарт принял первый в нашей стране ГОСТ по этой теме только несколько месяцев назад. Это ГОСТ Р 59921-2021 «Системы искусственного интеллекта в клинической медицине». К его созданию имел отношение Технический комитет по стандартизации ТК 164 «Искусственный интеллект», в работе которого я участвую.

Раньше ИИ в российской медицине находился, по сути, в серой зоне. И государство не шло на массовое распространение таких систем, потому что не было ни правовой, ни нормативно-технической базы, на основании которой можно было эти системы внедрять и использовать. Сейчас такая база появляется. И это очень хорошо.