手术中的人工智能系统：能力、局限和前景。 文献综述

全文:

ВВЕДЕНИЕ

Математические методы в поддержке принятия врачебных решений начали внедряться в России почти 70 лет назад. Это были вычислительные диагностические системы. Первая лаборатория в области медицинской кибернетики (термин «информатика» в то время не существовал) в бывшем СССР была открыта в середине 50-х годов ХХ в. в Институте хирургии им. А.В. Вишневского [1]. Новый этап в создании систем, ассистирующих врачам в принятии решений, стал следствием появления методов искусственного интеллекта (ИИ). В 80-х годах в России начали создаваться экспертные системы, опирающиеся на знания специалистов. Их особенностью является наличие базы знаний и решателя (машины вывода) [2].

В настоящее время системы ИИ находят все более широкое применение в различных областях медицины. В результате анализа 278 публикаций за 1985–2023 гг. в базах данных e-Library, PubMed, Medline, WoS, Nature, Springer, Wiley J Database отобрано 99 статей, которые позволили представить основные подходы и современную картину применения методов и технологий ИИ в детской хирургии и интенсивной терапии.

Искусственный интеллект в классическом понимании — это область компьютерной науки, занимающаяся моделированием определенных аспектов человеческого способа приобретения и использования знаний или, другими словами, имитацией некоторых аспектов мыслительной деятельности человека. Сложные случаи, редкие заболевания, трудные диагнозы и неясный прогноз — вот что отличало системы ИИ для диагностики и прогнозирования. Интеллектуальные системы с первых шагов предусматривали человеко-машинный контакт, вплоть до диалога, с врачом-пользователем в процессе принятия решения. Это касается возможности для врача выразить свою уверенность в отношении значимости определенных симптомов заболевания в конкретном случае и доступности выбора альтернативного режима диагностики (по признакам при отсутствии диагностической гипотезы или на основе предполагаемого врачом диагноза). Эффективность решений интеллектуальных систем в определенной степени зависит от их способности учитывать степень выраженности (нечеткость) клинических проявлений болезни в конкретном случае.

Порядок функционирования интеллектуальной системы поддержки принятия врачебных решений в полном объеме включает:

а) применение аргументации аналогично рассуждениям врача в процессе принятии решения;

б) выдвижение гипотезы на основании по возможности ограниченного набора параметров с возможностью направленного доспроса врача о наблюдаемых у пациента симптомах для подтверждения или отклонения выдвинутой гипотезы;

в) автопроверку выдвигаемых гипотез путем уточнения и расширения перечня используемых данных пациента;

г) предложение и обоснование необходимых для дифференциальной диагностики дополнительных исследований с указанием критериев их диагностической эффективности и возможности выполнения при учете степени угрозы для жизни больного;

д) выдачу объяснений о предложенной гипотезе с ответами на вопросы: (а) ПОЧЕМУ система сформулировала предложенную гипотезу (выдала определенное решение)? и (б) КАК система пришла к определенному заключению?

Интеллектуальные системы в медицине — это в основном системы поддержки принятия решений (СППР). Они находят применение в клинической медицине для:

• дифференциальной диагностики в широком круге нозологических форм, в том числе при нечетко выраженных проявлениях болезни у пациента;
• подбора методов исследований (в зависимости от предполагаемой патологии);
• прогноза течения заболеваний и возможных осложнениях;
• выбора лечебной (в частности, оперативной) тактики.

Прогностическое моделирование можно использовать для прогнозирования реакции на лечение, риска неблагоприятного течения патологического процесса, что было продемонстрировано в области интенсивной терапии в педиатрии [3–6]. В качестве инструмента поддержки принятия решений такие системы могут предупреждать клиницистов о малозаметных признаках в ухудшении состояния пациентов.

Г.С. Поспелов [7] определял ИИ как технологию решения задач, опирающуюся на знания о предметной области. В настоящее время, учитывая получение знаний из различных источников, включая извлечение их из массивов данных, можно говорить, что ИИ — это наука о приобретении и применении знаний для решения задач. В качестве данных могут служить, с одной стороны, базы электронных медицинских карт, с другой, случаи-аналоги или прецеденты, с которыми сравнивается новый классифицируемый (диагностируемый) пациент путем оценки степени сходства на основе различных метрик.

Распознавание ситуаций на основе анализа данных, то есть извлечение знаний при анализе больших объемов данных, в настоящее время все шире осуществляется с использованием технологий машинного обучения, включая искусственные нейронные сети. Машинное обучение опирается на две основные модели: алгоритм с учителем или контролируемое обучение (supervised learning) осуществляет прогноз на основе известного характера предоставленных входных данных и алгоритм без учителя или неконтролируемое обучение (unsupervised learning), при котором модель обучается самостоятельно выявлять закономерности и скрытые взаимосвязи на наборах неразмеченных (немаркированных) данных. Машинное обучение без учителя может служить аналитическим инструментом исследования данных и выявлять скрытые структуры в многомерных данных, ранее не обнаруженные связи, которые могут облегчить анализ и интерпретацию данных [8, 9], но они не обязательно имеют клиническое значение и не могут быть оценены без участия клинициста [10]. Таким образом, обучение с учителем основано на использовании определенного набора расклассифицированных обучающих примеров или частичную предварительную маркировку данных с конкретными результатами, что позволяет обучить систему, например, распознаванию желчного пузыря на изображении. В то время как обучение без учителя предполагает обнаружение в данных скрытой структуры, например кровотечения как ярко-красного в отличие от некровоточащей ткани. Таким образом, обучение с учителем полезно в прогнозировании результата или исхода, в то время как обучение без учителя полезно для поиска закономерностей в данных. Кроме того, существует обучение с подкреплением, когда программа пытается выполнить задачу (принять решение) на основе информации о своих собственных успехах и ошибках. Однако результативность машинного обучения ограничена типами и точностью доступных данных. В частности, систематические предубеждения при сборе клинических данных могут повлиять на тип распознаваемых закономерностей или прогноз, выдаваемый системой ИИ [11, 12].

СИСТЕМЫ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ В ХИРУРГИИ

Искусственный интеллект внедряется в клиническую практику для поддержки хирургов в процессе диагностики и хирургического вмешательства, в прогнозировании и предотвращении ошибок в критических ситуациях для предоперационной стратификации риска, интраоперационного мониторинга и постоперационного ведения пациентов [13]. Модели ИИ, в которые поступают интраоперационные потоки в реальном времени и данные электронной медицинской карты (ЭМК), интегрированные с предшествующей оценкой у постели больного и логикой принятия решений врачом, могут повысить качество принимаемых решений.

Важный аспект предоперационного анализа клинических данных — выявление персонализированных предикторов и индивидуальная оценка риска оперативного вмешательства для конкретного пациента [14, 15]. В автоматизированной системе количественной оценки операционного риска «АСКОР» использованы вероятностно-статистические и нейросетевые модели, направленные на оценку предоперационной тяжести пациентов с желчнокаменной болезнью на основе «компьютерного образа» состояния, отражающего взаимосвязь клинической картины с экспериментальными данными. В результате достигается возможность количественной оценки тяжести клинической ситуации и риска оперативного вмешательства [16].

Прогнозирование отражается в предоперационной оценке различных вариантов проведения операции и ожидаемых результатов. Профилактика связана с предотвращением возможных осложнений во время и после операции. Интраоперационный мониторинг различных типов данных для прогнозирования в реальном времени может способствовать предотвращению неблагоприятных событий. Интеграция до-, интра- и послеоперационных данных может помочь контролировать процесс выздоровления и прогнозировать осложнения.

В соответствии с методами машинного обучения было разработано приложение для смартфонов Predictive Optimal Trees in Emergency Surgery Risk (POTTER) [17], представляющее собой интерактивный нелинейный калькулятор риска для прогнозирования послеоперационной смертности, заболеваемости и хирургических осложнений, чтобы помочь хирургам неотложной помощи в режиме реального времени в предоперационной оценке состояния пациента. Этот калькулятор показал более высокую точность по сравнению с классификацией Американского общества анестезиологов (ASA), шкалой неотложной хирургии (ESS) и калькулятором хирургического риска ACS. На основе той же технологии ИИ было разработано приложение для смартфонов Trauma Outcome Predictor (TOP) для поддержки хирурга неотложной помощи в балансировании рисков и преимуществ при прогнозировании патологического процесса и риска смерти у пациентов с травмами [18]. Основная этическая проблема внедрения технологий машинного обучения в клиническую практику связана с достоверностью и обобщаемостью, то есть степенью применимости результатов конкретного исследования в широкой клинической практике, что зависит от точности, полноты и репрезентативности интегрированных данных.

Интраоперационный мониторинг пациентов — один из важнейших этапов малоинвазивной хирургии. Подходы из теории игр были использованы для дифференциального взвешивания прогностических физиологических показателей во время операции в попытке интерпретировать клинические факторы гипоксической тревоги, поступающие из системы ИИ [19]. Примером использования алгоритмов машинного и глубокого обучения (технологии, использующей многослойные самообучающиеся нейронные сети) в интраоперационном мониторинге пациентов можно считать отслеживание деформации мягких тканей в реальном времени. Точное отслеживание деформации тканей крайне важно для безопасности пациента при проведении малоинвазивной хирургии. Разработанная система может обучаться в реальном времени и подбирать наиболее эффективный метод мониторинга деформаций [20].

Технологии автоматического распознавания результатов ультразвуковых исследований, компьютерной томографии (КТ) и магнитно-резонансной томографии (МРТ) способствуют повышению качества планирования операций и послеоперационного ведения пациентов [21]. На этапе планирования операций активно внедряются алгоритмы традиционного машинного обучения и глубокого обучения для анализа радиологических изображений: анатомической классификации, сегментации и обнаружения аномалий. Благодаря алгоритмам глубокого обучения можно своевременно выявлять на КТ-снимках такие аномалии, как перелом свода черепа, внутричерепное кровоизлияние и смещение срединной линии [22], что повышает эффективность оказания неотложной помощи на ранних этапах при черепно-мозговых травмах. Машинное обучение было применено также для прогнозирования долгосрочных неврологических исходов у детей с такими травмами [23–25].

Рекуррентные нейронные сети, использовавшиеся для прогнозирования в реальном времени риска возникновения у пациента почечной недостаточности, послеоперационных кровотечений и риска смерти [26], продемонстрировали более высокую эффективность по сравнению со стандартными клиническими инструментами. Это важно в плане фокусировки внимания врачей на пациентах с высоким риском развития таких осложнений. Способ систематического сравнения большого количества данных, используя искусственные нейросети, показал возможность оценки персонального хирургического риска у кандидатов на резекцию легкого [27].

Анализ больших данных может обеспечить подтверждение выдвинутой гипотезы или выявить закономерности, неизвестные ранее [28]. Но следует иметь в виду, что технология машинного обучения нуждается в больших данных и только при этом условии возможно получение надежных решений. Результаты, полученные при машинном обучении на больших наборах данных из ЭМК отдельных больниц с ограниченной информацией об их проверке, вызвали сомнения в достоверности использованных моделей при последующей попытке внешней проверки [29, 30]. Поэтому следует прислушаться к мнению Де Симоне [13], что несмотря на многообещающие результаты доклинического исследования, ИИ пока не способен выявлять причинно-следственные связи в данных на необходимом для клинической практики уровне.

CAS-ТЕХНОЛОГИИ И КОМПЬЮТЕРНОЕ ЗРЕНИЕ В ОПЕРАТИВНОЙ ПРАКТИКЕ

Системы компьютерной поддержки в хирургии (Computer Aided или Assisted Surgery — CAS-технологии) находят разнообразное применение. Оперативные вмешательства планируются с использованием изображений КТ и МРТ, полученных до операции. Технологии CAS включают 3D-визуализацию, 3D-анатомическое моделирование и расширенный анализ. Виртуальное моделирование позволяет до операции проанализировать структуру и кровоснабжение органа. Возможности достаточно точных 3D-моделей и методов визуализации прижизненной анатомии пациента и патологических процессов позволили разработать ряд методик и программных средств по предоперационному и интраоперационному планированию хирургического вмешательства. Хирургические навигационные системы предоставляют хирургам новые возможности для проведения операций, связанные с совмещением разных модальностей нейровизуализации, что можно видеть на примере нейрохирургии [31, 32]. В минимально инвазивной стереотаксической нейрохирургии планирование помогает хирургам определить наилучшее место доступа на черепе. Новые технологии включают расширенное анатомическое и физиологическое моделирование, симуляции, обучение хирургов и интеллектуальные инструменты. Уже среди первых CAS-систем была навигационная система для бескаркасной (безрамочной) стереотаксической нейрохирургии [33].

В ортопедической хирургии CAS-системы поддерживают выбор имплантатов для замены суставов и аппаратных средств для фиксации переломов, а также их оптимальное расположение на основе геометрии и состояния кости пациента, например, с учетом остеопороза. Расширенный биомеханический анализ включает кинематическое и динамическое моделирование коленных и тазобедренных суставов для конкретного пациента, анализ нагрузки на кость и анализ риска переломов на основе данных КТ пациента. CAS-системы обычно используются последовательно для: (1) построения 3D-геометрической модели по данным лучевой диагностики, (2) представления анатомических объектов с заданной точностью, (3) предоперационного планирования и интраоперационного сопровождения.

Сегментация изображений и количественная оценка поражений с помощью сверточных нейронных сетей особенно подходит для интерпретации изображений, благодаря чему наличие черепно-мозговой травмы на КТ может быть оценено с более высокой точностью, чем при традиционном анализе КТ [34]. Точно так же травматический эмоперитонеум был визуализирован и измерен с использованием многомасштабной остаточной нейронной сети [35].

Для создания ИИ, способного ставить диагнозы по данным рентгенографии грудной клетки, был использован общедоступный набор данных рентгенографии грудной клетки и отчетов Национального института здравоохранения США (National Institutes of Health of USA). Метод обработки текстов на естественном языке (Natural Language Processing) использовался в создании меток для анализа рентгенограмм грудной клетки, которые затем применялись для обучения сети глубокого обучения распознаванию пневмоторакса на рентгенограммах [36]. Однако углубленный анализ наборов данных показал, что некоторые результаты могли быть получены из неправильно помеченных данных [37]. Автор отмечает, что так как на большинстве рентгеновских снимков, помеченных как пневмоторакс, также присутствовала плевральная дренажная трубка, то это вызывало обеспокоенность тем, что сеть идентифицировала плевральную дренажную трубку, а не пневмоторакс.

Экспертная система может быть объединена с мультимодальным вводом данных в виртуальной среде для предоставления интеллектуального инструмента моделирования как помощника хирурга. Это достигается в три шага. Во-первых, голосовой и жестовый ввод интерпретируется и представляется в семантической форме. Во-вторых, экспертная система на основе правил используется для вывода контекста и действий пользователя на основе семантического представления. Наконец, предполагаемые действия пользователя сопоставляются с этапами хирургической процедуры, чтобы отслеживать действия пользователя и обеспечивать автоматическую обратную связь. Кроме того, система может немедленно реагировать на мультимодальные команды для помощи в навигации и/или идентификации критических анатомических структур [38]. Преобразование голосовой команды в однозначное представление помогает механизму логического вывода, построенному на основе экспертной системы, выполнять действия и планирование движения. В процессе интерпретации на естественном языке система генерирует два вывода: (а) концептуальную зависимость, выражающую лингвистическое значение утверждения, и (б) вербальное подтверждение, парафраз на естественном языке, который повторяется пользователю для подтверждения, что команда была правильно понята [39].

P. Mascagni и N. Padoy [40] поставили целью создание «хирургического диспетчерского пункта», который с помощью ИИ может отслеживать, анализировать и поддерживать рабочие процессы в режиме реального времени, обеспечивать улучшение качества и безопасности операций, управления операционной. Однако для этого требуется технология компьютерного или машинного зрения, что предполагает автоматическую фиксацию и обработку изображений неподвижных и движущихся объектов. Компьютерное зрение включает получение и интерпретацию осевых изображений для компьютерной диагностики, операций под визуальным контролем и обследований [41]. Программное обеспечение компьютерного зрения может улучшить работу хирургов при холецистэктомии [42, 43] путем фокусировки на обнаружение объектов, их идентификацию и извлечение в процессе движения и пространственной ориентации (компьютерная навигация). Это используется в частности при дистанционном проведении операций. Сегментация и локализация методами ИИ способствуют безопасному взаимодействию инструмента и тканей и необходима для манипуляций под визуальным контролем, что значительно улучшает гибкость, точность и надежность хирургических жестов [44, 45].

Сочетание методов машинного обучения и компьютерного зрения позволяет выдавать рекомендации на основе существенной информации, включающей статические изображения, видео и другие визуальные данные, в том числе дополненной реальности (перенесение трехмерных виртуальных объектов в реальном времени в трехмерную реальную среду). В исследовании, проведенном Медицинской школой Университета Тейкё в Японии, в отделении неотложной помощи, было протестировано оборудование с возможностью захвата данных КТ всего тела пациента с множественными травмами и немедленного их предоставления бригаде врачей, которые были экипированы устройствами дополненной реальности, что позволило точно определить характер травмы [46].

Таким образом, объединение нескольких предоперационных и интраоперационных методов визуализации в режиме дополненной реальности области хирургического вмешательства улучшает хирургическую навигацию с помощью систем дополненной реальности на основе зрения, результатом чего является отображение интегрированной информации хирургу [47].

РОБОТИЗИРОВАННАЯ ХИРУРГИЯ

Роботизированная система Da Vinci [48], дистанционно управляемая система с несколькими «руками», произвела революцию в малоинвазивной лапароскопической хирургии. Это был громадный шаг в компьютерной поддержке хирургов. Но фактически это манипулятор, а не робот, не интеллектуальная система, хотя его и подобные устройства принято называть роботами. Сегодня люди-хирурги могут управлять роботами-хирургами посредством разнообразных бесконтактных манипуляций. Это манипулирование возможно с помощью движений головы или рук, распознавания речи и голоса или взгляда хирурга. «Face MOUSe» — интерфейс «человек-робот» [49] — отслеживает в режиме реального времени движения лица хирурга без каких-либо устройств, контактирующих с телом. Движение лапароскопа точно контролируется жестами лица хирурга, что обеспечивает неинвазивное и невербальное взаимодействие между человеком и роботом для различных хирургических процедур.

Главное, необходимо отметить, что современный автономный робот, использующий технологии ИИ, может обеспечить эффективность, безопасность и согласованность независимо от навыков и опыта хирурга. Так, автономный анастомоз требует сложных методов визуализации, отслеживания тканей, точного выполнения с помощью высокоадаптируемых стратегий управления, часто в неструктурированных и деформируемых средах. В лапароскопических условиях такие операции еще более сложны из-за необходимости высокой маневренности и повторяемости при ограничениях движения и зрения [50]. Роботы-хирурги, сочетающие компьютерное зрение с анализом движения и манипулированием и позиционированием специальными хирургическими инструментами во время операций, представляют собой управляемые компьютером устройства, которые позволяют хирургам сосредоточиться на сложных аспектах операции, не отвлекаясь на рутинные задачи. Алгоритмы машинного обучения, лежащие в основе хирургических роботов, обучаются на датасетах, содержащих массивы клинических данных. Достаточно распространенный подход обучения путем демонстрации (learning from demonstration) используется для «обучения» роботов самостоятельному выполнению новых задач на основе накопленной информации о проведении операций хирургами. На первом этапе сложная хирургическая задача разбивается на несколько подзадач и основных жестов. На втором этапе хирургические роботы распознают, моделируют и последовательно выполняют все подзадачи.

Полуавтономно действующие устройства способны выполнять определенные действия в различных хирургических процедурах путем взаимодействия с хирургом, но всегда под его наблюдением. Технические преимущества инвазивной робот-ассистированной хирургии у детей, по сравнению со стандартной лапароскопией, в полной мере представлены в обзоре Ю.А. Козлова и соавт. [51]. В то же время авторы обращают внимание на ограничения для выполнения таких операций у новорожденных и младенцев ввиду размеров применяемых инструментов. В то время как у более старших детей такие операции проводятся, примером чего может служить оперативное робот-ассистированное вмешательство по поводу дивертикулэктомии мочевого пузыря с использованем системы Da Vinci с ассистентским 5 мм портом [52]. В этой системе имеются также и инструменты размером 3 мм [53]. Роботизированная лапароскопическая пиелопластика является одним из лучших примеров возможностей технологии в педиатрической урологической практике. При использовании традиционной лапароскопической техники наложение анастомоза во время пиелопластики требует значительных технических навыков. Имеющиеся данные свидетельствуют, что благодаря роботизированной помощи значительно сокращается время операции, продолжительность послеоперационного пребывания и использование лекарств, а также улучшается косметика рубцов по сравнению с традиционным подходом [54].

В проспективном рандомизированном пилотном исследовании проведено сравнение специализированного робота MUSA для супермикрохирургии и наложение традиционного ручного лимфовенозного анастомоза при лечении лимфедемы (сосуды диаметром от 0,3 до 0,8 мм) [55]. MUSA обеспечивает масштабирование движения и фильтрацию тремора. В группе, оперировавшей с роботом, отмечается резкое снижение продолжительности времени, необходимого для завершения анастомоза (33–16 мин).

Концепция автономии или независимого принятия решений занимает, как отмечает A.A. Gumbs и соавт. [56], центральное место в будущем хирургической робототехники. Предложены шесть уровней автономии: уровень 0 соответствует отсутствию автономии (это могут быть сшивающие аппараты, использующие алгоритмы для расчета сотен тысяч данных в секунду, чтобы определить оптимальную скорость коагуляции без движения или жеста хирурга, либо снабженные датчиками, блокирующими без взаимодействия с хирургом сшивание, если ткань слишком плотная или недостаточно плотная); уровень 1 — телеманипулирование роботом; уровень 2 — автономия, ограниченная одним действием или совместной манипуляцией; уровень 3 — это условная автономия, когда у робота есть более одного автономного действия, среди которых для хирурга возможен выбор; уровень 4 — устройство принимает какие-то автономные решения, но все еще находится под контролем врача; уровень 5 считается полной автономией [57, 58]. Существующее мнение об автономии как концепции «все или ничего», то есть либо присутствует полная автономия, либо действие не следует считать автономным, нужно признать несостоятельным. Это видно из рассмотрения шести выше представленных уровней автономии. По-настоящему независимое принятие решений должно осуществляться под управлением ИИ и быть способным учиться на своих ошибках.

В дискуссии специалистов из 9 стран (Австралия, Германия, Италия, Канада, Португалия, США, Турция, Франция, Япония) было принято согласованное мнение в отношении систем ИИ для хирургии [56]:

1. Системы, управляемые ИИ, в области радиомики (анализ радиологических данных с помощью математического моделирования и глубокого машинного обучения) или выявления предикторов хирургических исходов (факторы риска хирургических осложнений), которые могут работать автономно, могут быть разрешены, но всегда их должен проверять медицинский сотрудник.
2. Полная автономия в конечном итоге может стать возможной, однако, согласно существующей парадигме, хирургию нельзя проводить без контроля хирурга-человека, который полностью способен выполнить и завершить процедуру с помощью роботизированной поддержки, стандартной лапароскопической операции и/или открытых хирургических вмешательств.
3. На начальном этапе может быть предпочтительнее, чтобы только часть хирургических процедур была полностью автоматизирована с упором на создание отдельных автономных хирургических жестов, а затем фрагментов целых операций, безопасных для пациентов и доказавших свою эффективность.
4. Автономное рассечение (dissection) — самая рискованная часть операции, его следует рассматривать в последнюю очередь, а пока следует выполнять хирургу самостоятельно; первоначальные исследования автономных действий должны быть сосредоточены на разработке датчиков, чтобы можно было разработать более интеллектуальные устройства, повышающие безопасность и точность во время операций.
5. Усовершенствованное компьютерное зрение с дополненной реальностью, виртуальной реальностью и смешанной реальностью — это области ИИ, которые изначально необходимо развивать и продолжать развивать, поскольку эти технологии обладают наибольшим потенциалом для положительного улучшения хирургических результатов и снижения краткосрочных осложнений.
6. Ручные роботизированные помощники и неуправляющие системы могут обеспечивать тактильные ощущения лучше, чем роботизированные управляющие решения.
7. Решение об использовании системы необходимо принимать оперирующему хирургу, использующему роботизированную помощь.
8. Прогресс в автоматических и автономных действиях в сочетании с расширенным мониторингом и применением систем ИИ в операционной при использовании моделирования перед операцией позволит хирургам работать с меньшим стрессом и в условиях получения более ценной информации.

Таким образом, роботизация хирургии в настоящее время включает как поддержку действий хирурга, осуществляющего операцию, так и берет на себя выполнение определенного объема действий в процессе оперативного вмешательства.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В ИНТЕНСИВНОЙ ТЕРАПИИ

Несомненный интерес представляет интеграция в интеллектуальные системы информации, поступающей в реальном времени с различной медицинской аппаратуры. На необходимость и значение содержательной обработки данных прикроватных мониторов было обращено внимание в статье, посвященной приложениям ИИ в неотложной помощи [59]. В таких системах функциональные данные, получаемые в процессе мониторирования, поступают на вход системы и актуализируют ее, то есть реализуется динамический анализ ситуаций в режиме реального времени. Сложность решения динамических задач связана с выполнением одновременно ряда временны´х процессов, изменением значений во время выполнения задачи, ограниченностью времени для реализации решений, что особенно характерно для СППР в области реаниматологии, получающих информацию не только от врача, но и с мониторирующей аппаратуры. Они должны обеспечивать: (а) экстренное обнаружение критических значений контролируемых физиологических показателей и формировать сигнал тревоги для врача и медицинской сестры; (б) синдромную диагностику неотложных состояний; (в) прогнозирование осложнений; (г) рекомендации по коррекции терапии с учетом критериев безопасности предлагаемых медикаментозных воздействий. В проекте медицинской интеллектуальной системы реального времени для детской реанимации [60] предусматривалась актуализация интеллектуальных подсистем диагностики и лечебной тактики на основе данных мониторируемых параметров пациента и текущих записей ЭМК, включая лабораторные показатели, с выдачей сигнала тревоги, гипотезы критического состояния и рекомендаций по коррекции состояния. Этот проект являлся развитием системы для диагностики неотложных состояний у детей «ДИН» [61], которая учитывала необходимость принятия решений по неполному списку диагностических критериев, то есть при стертой клинической картине, не полностью развившемся синдроме и при ограничениях на проведение специальных исследований, обусловленных тяжестью состояния или недостатком аппаратуры. Кроме того, в системе была реализована возможность изменения порядка опроса врача о симптомах заболевания (как от признаков к диагнозу, так и от предполагаемого врачом диагноза, что в последнем случае значительно ускоряет выдачу решения системой).

Комплексное решение для применения в процессе операций и в мониторинге состояния пациентов в отделении интенсивной терапии было реализовано в области сердечно-сосудистой патологии в системе «Айболит» (в более поздней версии «Миррор») [62]. В этой системе предлагаемые врачу решения формируются по результатам математического моделирования и экспертных знаний, включая прецеденты, в реальном времени на основе информации, поступающей с мониторирующих систем.

Другим примером может служить автоматизированная система постоянного интенсивного наблюдения для анализа состояния физиологических систем организма, интерпретации динамики количественных параметров и прогнозирования состояния у пациентов, находящихся в отделении интенсивной терапии [63]. Алгоритм синдромальной диагностики нарушений центральной гемодинамики позволяет определить один из 12 возможных типов кровообращения, обеспечивая поддержку врачебных решений в процессе периоперационного лечения.

В то же время патологический процесс представляет собой континуум и нестабильность клинического состояния может принимать различные формы, в связи с чем критическое состояние следует рассматривать как часть траектории болезни пациента, включая лечение до и после поступления в отделение интенсивной терапии, что играет важную роль в оптимизации исходов [64]. Наблюдение за пациентами из группы риска и выявление критического состояния на ранней стадии — сложная задача, требующая сочетания повышенного контроля и своевременного обращения за помощью к врачам отделения интенсивной терапии. Развитие критического состояния редко происходит без предупреждения, ему предшествует ряд, часто незамеченных, изменений жизненно важных клинических признаков, что снижает шансы на выживание. H. Chang и соавт. [65] обращают внимание на необходимость предложения актуальных вмешательств (введение артериального катетера, оксигенотерапия, высокопоточная назальная канюля, интубация, массивные трансфузии, инотропы и вазопрессоры) у пациентов в критическом состоянии на основе методов машинного обучения. Эта модель была интегрирована в электронную медицинскую карту в качестве поддержки ранних вмешательств для врачей неотложной помощи.

В группе пациентов с сердечно-дыхательной нестабильностью (определяемой как гипотензия, тахикардия, респираторный дистресс или десатурация) динамическая модель с использованием классификации методом случайного леса (один из методов машинного обучения) показала, что персонализированная траектория риска позволяет предсказать ухудшение состояния за 90 мин в преддверии кризиса [66]. Тахикардия, одно из наиболее часто наблюдаемых отклонений от нормы перед шоком, была предсказана за 75 мин до развития моделью случайного леса с использованием нормализованной траектории динамической оценки риска [67]. Гипотензию как проявление шока прогнозировали также во время операции [68]. Клинически значимые эпизоды гипотензии можно прогнозировать до фактического события на основе поминутного набора данных о показателях жизнедеятельности с использованием машинного обучения. Используя данные временны´х рядов из 30-минутных перекрывающихся временны´х окон, классификатор случайного леса использовался для прогнозирования риска гипотензии каждую минуту [69]. Для 1307 пациентов с гипотонией и 1619 без гипотонии в отделении интенсивной терапии модель случайного леса показала AUROC (площадь под кривой, эквивалентна вероятности) 0,93 и 0,88 за 15 и 60 мин соответственно до гипотензии. Траектории оценки риска выявили 80 и >60 % гипотензии, предсказанной за 15 и 60 мин соответственно. Многоуровневая модель с 15-минутной блокировкой давала в среднем 0,79 предупреждений на пациента в час (чувствительность 92,4 %). С помощью высокочувствительной и надежной системы оповещения можно было бы в будущем фиксировать подавляющее большинство пациентов с развивающейся гипотензией. Разработан метод прогнозирования тахикардии как аналога гемодинамической нестабильности у больных, находящихся в отделении интенсивной терапии [67]. Классификаторы регуляризованной логистической регрессии и случайного леса были обучены для оценки риска предстоящей тахикардии. Сравнивали три разные модели оценки риска для тахикардии и контрольной группы (без тахикардии). Траектория риска была сгенерирована из временны´х окон, удаляющихся с шагом в 1 мин от эпизода тахикардии. Траектории были рассчитаны за 3 ч до эпизода для трех разных моделей. Из 2809 участников эксперимента было выявлено 787 эпизодов тахикардии и 707 контрольных периодов. Пациенты с тахикардией имели повышенную вазопрессорную поддержку, более длительное пребывание и повышенную смертность в отделении интенсивной терапии по сравнению с контрольной группой. Модель случайного леса немного превосходила логистическую регрессию, точность которой варьировалась от 0,847 до 0,782, с площадью под кривой от 0,921 до 0,842. Анализ траектории риска показал, что средний риск для группы с тахикардией увеличился до 0,78 до эпизодов тахикардии, в то время как риск для контрольной группы оставался <0,3. Модель демонстрировала развивающуюся траекторию примерно за 75 мин до эпизода тахикардии. Сложной задачей, но с гораздо большим потенциалом считается разработка интеллектуальных мониторов, способных непрерывно оценивать признаки критического состояния пациентов с высокой степенью достоверности [70].

Показано использование моделей машинного обучения при формировании оценок риска для эмболии легочной артерии [71], стратификации риска острого респираторного дистресс-синдрома [72], прогноза острой почечной недостаточности [73]. Машинное обучение с использованием алгоритма k-ближайших соседей может улучшить распознавание острого повреждения почек (ОПП) у пациентов с ожогами [74]. Модели были обучены и протестированы на группе 50 взрослых пациентов с ожогами с использованием лабораторных данных, полученных в течение первых 24 ч после поступления (ОПП проявилось у 50 % пациентов в течение первой недели после поступления). Модели машинного обучения, содержащие данные о липокалине, связанном с нейтрофильной желатиназой, креатинине, диурезе и N-концевом натрийуретическом пептиде B-типа, достигли 90–100 % точности выявления ОПП. Модели, включающие только N-концевой натрийуретический пептид B-типа и креатинин, достигли точности 80–90 %. Среднее время до выявления ОПП с применением только показателей диуреза и/или креатинина в традиционном варианте оценки ситуации врачами составляло 42,7 ± 23,2 ч после госпитализации по сравнению с 18,8 ± 8,1 ч при использовании алгоритма машинного обучения. Следовательно эффективность показателей диуреза и креатинина для прогнозирования ОПП может быть улучшена с помощью алгоритма машинного обучения в случаях отсутствия данных о липокалине, связанном с нейтрофильной желатиназой.

Глубокое обучение можно использовать для анализа реперных точек на лице, позах и действиях пациентов, а также на стимулах окружающей среды для различения пациентов в бреду и без бреда в отделении интенсивной терапии [75].

Принятие решений в модели динамического режима лечения, использующей машинное обучение с подкреплением на основе изменений в состояния пациента и применяемой терапии, направлено на подбор индивидуального лечения. Эту модель применяли в условиях интенсивной терапии для адаптации инфузионной терапии при сепсисе и стратегии вентиляции при острой дыхательной недостаточности [76, 77].

Системы, используемые в отделении интенсивной терапии, должны быть достаточно точными и разумными, чтобы предотвратить усталость от тревоги, что приводит к задержкам в обнаружении и вмешательстве в развивающиеся кризисные ситуации [78]. В работе по прогнозированию гипотонии в отделении интенсивной терапии исследователи обнаружили, что количество предупреждений, генерируемых ИИ, может быть уменьшено в десять раз при сохранении чувствительности в случае использования модели случайного леса или модели, проверяющей другую модель перед формированием предупреждений [69].

Существует мнение, согласно которому реаниматологи должны учитывать в общей сложности более 200 переменных у пациентов, находящихся на искусственной вентиляции легких (ИВЛ). Разумное применение технологии ИИ может помочь справиться с информационной перегрузкой [79]. Проведены исследования с использованием клинических данных и сигналов систем ИВЛ для выявления асинхронности между аппаратом ИВЛ и пациентом [80, 81], для выявления лиц с более высоким риском длительной ИВЛ (более 7 дней) и необходимости трахеостомии. Используя модель деревьев решений, в первый день поступления пациентов в отделение интенсивной терапии рассчитывали шесть различных показателей тяжести заболевания. Из 20 262 пациентов в отделении интенсивной терапии с ИВЛ 13,6 % потребовалась ИВЛ, а 6,6 % — трахеостомия. Прогноз длительной ИВЛ и трахеостомии был получен со среднеквадратичным отклонением AUROC 0,820 ± 0,016 и 0,830 ± 0,011 соответственно. Для пациентов хирургического отделения интенсивной терапии, которым требовалась ИВЛ, классификаторы машинного обучения прогнозировали длительную вентиляцию и трахеостомию со значением AUROC 0,852 ± 0,017 и 0,869 ± 0,015 соответственно. Это исследование продемонстрировало высокую специфичность и точность машинного обучения для прогнозирования как длительной вентиляции, так и назначения трахеостомии.

Выявление пациентов с признаком асинхронности в системе пациент – вентилятор, указывающим на степень связи или реакции пациента на дыхательную поддержку, получено методами машинного обучения, основанными на морфологических изменениях сигналов давления и потока [82]. Для определения неэффективных триггеров в фазе выдоха у пациентов, находящихся на ИВЛ, на основе потока в дыхательных путях и изменения давления разработан алгоритм выявления неэффективных усилий по максимальному отклонению выдыхаемой части давления [83]. Неэффективные усилия присутствовали у 58 % из 24 пациентов, включенных в исследование. Анализ 5899 вдохов дал чувствительность и специфичность для выявления неэффективных усилий >90 %. Разработанный алгоритм [84] позволил сравнить теоретическую экспоненциальную кривую потока выдоха с фактическим отслеживанием потока. Отклонение, превышающее 42 %, считалось показателем неэффективных усилий. Сравнение полученного прогноза на случайной выборке из 1024 вдохов, полученных от 16 пациентов, с прогнозами, сделанными пятью экспертами, продемонстрировало чувствительность 91,5 % и специфичность 91,7 % с прогностическим значением 80,3 %. Предложенный компьютеризированный алгоритм может быть полезен для корректировки параметров ИВЛ. В связи с тем что при механической вентиляции крайне важно обеспечить удовлетворение вентиляционной потребности пациента при минимизации асинхронии, была разработана модель для прогнозирования вероятности возникновения асинхронности [85]. Скрытую марковскую модель с пуассоновским процессом, то есть при неизвестном состоянии системы, использовали для прогнозирования вероятности возникновения каждого уровня риска в следующем периоде. Длительные периоды с очень небольшим количеством асинхронных событий и, следовательно, с очень низким риском были более вероятными, чем периоды с большим количеством событий. Состояния были стойкими, большие сдвиги состояний — редкостью, и большинство переключений происходило в соседние состояния. Это позволило авторам утверждать, что пациенты из группы с большим количеством асинхроний скорее всего останутся в этом состоянии, что может иметь серьезные последствия. Данный подход к решению проблемы асинхронности между пациентом и аппаратом ИВЛ указывает на целесообразность разработки подобных тревожных систем для оповещения специалистов о пациентах, попадающих в состояние высокого риска, чтобы они могли принять меры для улучшения взаимодействия между пациентом и аппаратом ИВЛ.

ОГРАНИЧЕНИЯ И ПЕРСПЕКТИВЫ

Медицина быстро осознала, что подотчетность алгоритмов, безопасность и проверяемость компьютерного анализа данных может повлиять на применимость ИИ в клинической практике. Методы машинного обучения часто вызывают изумление высоким качеством одних получаемых результатов, но наряду с этим другие результаты нередко порождают вопросы доверия к возможности их практического применения. Глубокие нейронные сети имеют сложные уровни узлов, сложные взаимодействия между переменными, которые позволяют характеристикам входных данных быть более значимыми для выявления скрытых закономерностей. Однако, несмотря на то что нейросеть может давать кажущиеся точными результаты, часто конечные пользователи не могут получить обоснование предлагаемого решения, полученного с использованием примененной вычислительной процедуры. В клинической среде это может вызывать сильное сопротивление внедрению подобных моделей в повседневную практику [86].

Широко известно, что большие данные должны обеспечивать надежность получаемых решений. Однако, метафорически характеризуя проблему больших данных, используемых в машинном обучении, P. Natarajan [87] обращает внимание, что для того, чтобы данные в озере можно было применять для аналитики, они должны быть организованы, доступны для запросов, а также быть хорошо понятны и им должны доверять как пользователи, так и эксперты. Но базы данных, накопленные за много лет, могут иметь скрытые дефекты, обусловленные модификацией методов лечения, сменой медицинского оборудования и даже коррекцией диагностических оценок и классификаций.

На текущем этапе разработка и внедрение систем ИИ сталкивается со многими проблемами [86]. Авторы указывают на три группы факторов. Во-первых, объединение данных затруднено без надлежащей стандартизации. Во-вторых, модели ИИ не являются надежными ввиду неоптимального соблюдения стандартов, высокого риска смещения выборки, проблем с воспроизводимостью без надлежащей внешней проверки при прозрачной архитектуре модели. В-третьих, модели ИИ могут привести к непредвиденным этическим дилеммам (конфиденциальности и обмену данными, безопасности и подотчетности модели).

В связи с тем что модели машинного обучения нередко лучше предсказывают результаты или диагностируют заболевания в одних группах пациентов по сравнению с другими, возникает вопрос, что нужно для создания моделей, которые будут одинаково хорошо работать для всех групп пациентов [88]. Авторы отмечают, что к неудовлетворительной работе системы могут привести различные факторы: недостаточная представленность каждой группы в обучающем наборе данных, выбор несоответствующей модели и различия в сложности прогнозирования между группами. Кроме того, необъективный сбор данных может исказить как обучение, так и оценку результатов. Узкие алгоритмические решения не могут решить все эти проблемы. Кроме того, может потребоваться не только больше данных, но и более качественные данные.

A. Litvin и соавт. [89] оценили эффективность систем поддержки принятия решений на основе искусственных нейронных сетей в неотложной хирургии и пришли к мнению, что на эти инструменты влияют искажающие факторы, присущие сложности и гетерогенности неотложных хирургических заболеваний, наличие уникальных (нетипичных) случаев. Авторы отмечают, что эффективность нейросетей зависит от качества и достоверности медицинской информации, а доверие к ним — от отсутствия прозрачности процесса принятия решений.

Нельзя не отметить, что перечисленные проблемы находятся в центре внимания как разработчиков медицинских СППР, так и пользователей. Некоторые из них нашли решение в ГОСТ Р 59921.8–2022 и ГОСТ Р 59921.9–2022^* устанавливающих общие требования к системам ИИ в медицине и системам менеджмента качества, а также в необходимости регистрировать такие системы, как медицинские изделия. Хотя нерешенные вопросы остаются.

Особое значение приобретает валидация систем ИИ. Это относится к процессу подтверждения того, обобщает ли модель данные, которые не использовались при ее разработке. Внутренняя валидация контролирует воспроизводимость характеристик системы, полученных на конкретной выборке, использовавшейся при создании модели, на той же базовой выборке. Внешняя валидация определяет, является ли модель переносимой, оценивая ее эффективность в выборке, которая отличается от использовавшейся на этапе разработки системы [90]. Таким образом, в первом случае, валидация на базе медицинской организации, на данных которой построена система, а во втором (внешняя валидация или верификация) — на базе другой или других медицинских организаций. К сожалению, далеко не все представленные в литературе системы подверглись необходимой проверке.

Для прогностических моделей необходимо обращать особое внимание на достоверность модели, конкурирующие риски, подводные камни «модифицируемых факторов риска», ошибку измерения и риск смещения, возникающий в результате ошибочного предположения в алгоритме обучения [91]. Это жизненно важно для применения модели в клинических условиях. Кроме того, опасно так называемое переообучение, в результате которого модель хорошо объясняет примеры из обучающей выборки, но относительно плохо работает на примерах из тестовой выборки. Причиной этого является то, что модель снижает обобщаемость за пределами исходного набора данных, то есть при анализе новых наблюдений. Кроме того, что модель должна сохранять точность при обращении к новым данным, следует также обращать внимание на то, как обрабатываются отсутствующие у конкретных пациентов данные [10]. Предоставление подробной методики проверки модели, надежности анализа, истории успешных/неудачных реализаций и привлечение экспертных знаний могут обеспечить надежность и доверие к предлагаемым системам [92].

Ситуация с интерпретируемостью алгоритмов машинного обучения и объяснимостью прогнозируемого ими результата связана с тем общеизвестным недостатком, что нейронные сети представляют собой «черный ящик» [93]. Происходящая вследствие этого невозможность интерпретации полученного результата становится препятствием для принятия рекомендаций систем на основе машинного обучения. Таким образом, несмотря на то что применение нейронных сетей позволяет обнаруживать закономерности, пропущенные людьми, у человека остается мало возможностей для того, чтобы оценить, как и почему такие закономерности были обнаружены, какова клиническая интерпретация выявленных причинно-следственных связей [15]. В отличие от технологий машинного обучения ДСМ-метод автоматизированной поддержки исследований позволяет интерпретировать извлекаемые эмпирические закономерности, поскольку в его основе лежит рассуждение, которое представляет собой синтез процедур индукции (порождаются гипотезы о причинах), аналогии (порождаются гипотезы о предсказаниях) и абдукции (принятие гипотез посредством объясняемости исходных данных) [94].

Решением вопроса объяснимости гипотез, предлагаемых при использовании нейросетевых технологий, является сочетание моделей машинного обучения и основанных на знаниях специалистов в виде гибридных систем, для создания которых предлагаются различные конструкции [95–97]. Это позволит интегрально обрабатывать, анализировать и классифицировать различные данные, включая визуальную информацию. Однако принципы реализации таких систем остаются дискуссионными.

Технологии ИИ в хирургии, особенно лапароскопической, предоставляют дополнительную информацию об использовании инструментов и траектории движения во время операции. Особенно велик объем информации, извлекаемой из хирургического видео, получаемого с помощью эндоскопа. Автоматизация анализа поддерживается системами компьютерного зрения на основе ИИ. Распознавание изображений на основе ИИ для простых задач, таких как идентификация снимков, в последние годы продвинулось вперед и сравнимо с человеческим. Хотя распознавание видео в хирургии является более трудной задачей, его применение для лапароскопических операций повысит поддержку принятия интраоперационных решений и хирургическую навигацию по изображениям [98]. Дальнейшие успехи ИИ и технологий машинного обучения могут сделать частично автономных хирургических роботов реальностью в будущем в детской хирургии [54].

В статье [99], посвященной состоянию и перспективам применения интеллектуальных роботов в хирургии, речь идет об интеллектуальной системе высокого уровня, которая одновременно отслеживает жизненно важные показатели во время операции и при необходимости выдает устные предупреждения, анализирует всю текущую информацию, необходимую для операции, «выполняет» гистологическое исследование ткани во время операции и определяет границы хирургического вмешательства при опухолях солидных органов, применяет соответствующую хирургическую технику с нулевой погрешностью и рассчитывает возможные послеоперационные осложнения.

ЗАКЛЮЧЕНИЕ

Системы на основе ИИ предоставляют полезные решения для обнаружения и прогнозирования заболеваний, что может изменить в будущем ситуацию с критическими состояниями благодаря своевременному информированию врачей на этапе предкритических изменений. Такие системы позволят перейти к оптимальным, индивидуализированным стратегиям лечения, к таргетной терапии на основе поиска аналогичных случаев с различными эффектами применявшихся методов лечения.

В хирургическую практику пришли роботизированные комплексы, системы компьютерного зрения, обеспечивающие многостороннюю поддержку хирургической практики, в том числе в детской хирургии. Дальнейшее развитие технологий искусственного интеллекта и интеграция различных подходов позволяют предполагать в ближайшей перспективе внедрение разнообразных решений в поддержку хирургов на предоперационном этапе и во время операции, обеспечивая принципиально новые возможности проведения оперативных вмешательств с использованием дополненной реальности и высоко интеллектуальных полуавтономных и автономных роботов, ассистирующих при проведении обследований и оперативных вмешательств. Интеллектуальные системы в реанимации, интегрированные с киберфизическими мониторирующими системами, позволят своевременно выявлять первые угрожающие изменения в состоянии пациентов и оперативно информировать о них, предлагая возможные решения.

ДОПОЛНИТЕЛЬНАЯ ИНФОРМАЦИЯ

Вклад авторов. Автор внес существенный вклад в разработку концепции, проведение исследования и подготовку статьи, прочел и одобрил финальную версию перед публикацией.

Источник финансирования. Автор заявляет об отсутствии внешнего финансирования при проведении исследования и подготовки публикации.

Конфликт интересов. Автор декларирует отсутствие явных и потенциальных конфликтов интересов, связанных с проведенным исследованием и публикацией настоящей статьи.

ADDITIONAL INFORMATION

Author’s contribution. Thereby, author made a substantial contribution to the conception of the study, acquisition, analysis, interpretation of data for the work, drafting and revising the article, final approval of the version to be published and agree to be accountable for all aspects of the study.

Funding source. This study was not supported by any external sources of funding.

Competing interests. The author declare that he have no competing interests.

^* Национальный стандарт Российской Федерации. Системы искусственного интеллекта в клинической медицине. Ч. 8. https://docs.cntd.ru/document/1200193729.

作者简介

Boris A. Kobrinskii

编辑信件的主要联系方式.
Email: kba_05@mail.ru
ORCID iD: 0000-0002-3459-8851
SPIN 代码: 7075-7784

PhD, Dr. Sci. (Med.), Professor, Honored Scientist of the Russian Federation; Head of the Department of Intelligent Decision Support System; Chairman of the Scientific Council of the Russian Association of Artificial Intelligence

参考

补充文件