Правовые особенности использования технологий искусственного интеллекта в формировании данных реальной клинической практики

ВВЕДЕНИЕ / INTRODUCTION

На сегодняшний день технологии являются основным инструментом обеспечения благосостояния человека и государства, оказывая ключевое влияние на достижение целей устойчивого развития (ЦУР), определенных Организацией Объединенных Наций (ООН) [1]. Технологический прогресс, выражающийся в стремительном увеличении вычислительной мощности компьютеров и формировании информационных баз данных, доступных для анализа, способствует последовательному развитию и внедрению различных решений, основанных на применении искусственного интеллекта (ИИ).

На сегодняшний день сформировалось множество определений понятия «искусственный интеллект», затрагивающих его философские, технические или правовые аспекты. Термин относится к процессам, посредством которых система может имитировать такие интеллектуальные возможности человека, как способность рассуждать, принимать решения, обобщать или обучать на основе предыдущего опыта, для достижения целей без явного программирования на конкретные действия [2].

Британская Академия королевских медицинских колледжей (англ. Academy of Medical Royal Colleges, AoMRC) определила ИИ как «моделирование процессов человеческого интеллекта с помощью машин, включая обучение (получение информации и правил ее использования), рассуждение (использование правил для достижения приблизительных или определенных выводов) и самокоррекцию» [3]. Европейская комиссия сформулировала следующее определение ИИ: «системы, демонстрирующие разумное поведение, анализируя окружающую среду и предпринимая действия с определенной степенью автономности для достижения конкретных целей» [4]. Согласно позиции Организации экономического сотрудничества и развития (ОЭСР) под ИИ понимается «машинная система, которая формирует прогнозы, рекомендации или решения, оказывающие влияние на реальную или виртуальную среду, и предназначена для работы с различной степенью автономности» [5]. Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (англ. US Food and Drug Administration, FDA) определяет ИИ как отрасль компьютерной науки, статистики и инженерного дела, использующую алгоритмы или модели для выполнения задач и демонстрации поведения в виде обучения, принятия решений и прогнозирования.

ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА / ARTIFICIAL INTELLIGENCE TECHNOLOGIES

Роль в системе оказания медицинской помощи / Role in the medical care system

Технологические достижения являются фундаментальным условием обеспечения охраны здоровья, социальной помощи, а также противодействия чрезвычайным ситуациям естественного и преднамеренного характера. Значительный прогресс, достигнутый в отношении разработки новых подходов в диагностике, профилактике и лечении, позволил обеспечить качественно новый уровень оказания медицинской помощи и гарантировать излечение от заболеваний, ранее считавшихся смертельно опасными. Технологии с использованием ИИ, алгоритмы обработки данных и распознавания образов способствуют развитию персонализированной медицины и существенному повышению эффективности оказания медицинской помощи. ИИ представляет собой обобщающее понятие, объединяющее различные методы имитации интеллектуальных процессов человека. В частности, наиболее часто в научной литературе встречаются термины «машинное обучение», «глубинное обучение», «искусственные нейронные сети».

По мнению экспертов, применение ИИ обладает потенциалом для повышения эффективности и производительности систем здравоохранения [6]. Технологии ИИ основываются на обработке медицинской информации, сформированной тысячами специалистов, что позволяет превосходить их в скорости принятия решения и вероятности установки правильного диагноза. Так, компьютер, оснащенный системой ИИ, способен за 10 мин диагностировать редкую форму лейкемии, сравнив образцы пациента с базой данных из 20 млн онкологических исследований [7].

Технологии ИИ применяются на различных этапах организации оказания медицинской помощи, включая анализ изображений компьютерной томографии [8][9], выявление гиперкалиемии по электрокардиограмме [10], прогнозирование развития болезни Альцгеймера по данным позитронно-эмиссионной томографии [11], выявление онкологических заболеваний при проведении маммографии [12][13], прогнозирование развития внутрибольничных осложнений и повторных госпитализаций [14]. Технологический прогресс в разработке смартфонов и иных портативных устройств позволил существенно расширить возможность сбора и анализа данных с использованием ИИ. В частности, исследование выявления фибрилляции предсердий с помощью умных часов Apple Watch охватывает популяцию более 400 тыс. человек [15]. В другом исследовании с использованием программного обеспечения (ПО) смартфона проведена оценка физической активности и состояния сердечно-сосудистой системы у 50 тыс. человек [16].

Руководствуясь исследованием Счетной палаты США, технологии ИИ можно разделить на две группы [17]. К первой относятся технологии ИИ, применяемые в клинической практике для повышения эффективности принятия врачебных решений, а вторая группа охватывает технологии, направленные на оптимизацию процессов организации оказания медицинской помощи для снижения ресурсной нагрузки на учреждения. Однако данная классификация не учитывает практику применения ИИ в процессе разработки технологий здравоохранения.

Рост доступных геномных, транскриптомных, протеомных и других источников данных о здоровой популяции и пациентах с определенными заболеваниями формирует основу для использования ИИ с целью определения потенциальных биологических мишеней будущих лекарственных препаратов [18]. ИИ может применяться для прогнозирования химических свойств и биологической активности соединений, а также их эффективности и потенциальных побочных эффектов на основе специфичности и сродства соединения к биологической мишени [19]. Формирование обширной базы данных реальной клинической практики с помощью технологий ИИ позволяет определять дополнительные показания для уже зарегистрированных и применяемых лекарственных препаратов [20]. Применение ИИ в разработке лекарственных средств привлекло особое внимание в период пандемии новой коронавирусной инфекции (COVID-19). В частности, компания Google разработала систему AlphaFold, которая позволяет определять трехмерную структуру белка, связанного с вирусом SARS-CoV-2, на основе его генетической последовательности, что ускоряет процесс разработки вакцины и иных лекарственных средств [21].

Обобщая представленные направления использования ИИ объективно следует отметить его существенный потенциал в повышении эффективности оказания медицинской помощи. Вместе с тем неограниченные возможности технологического развития формируют спектр угроз и вызовов, которые могут значительно превосходить ожидаемые выгоды от применения ИИ.

Угрозы и вызовы безопасности / Safety threats and challenges

Неконтролируемое применение технологий оказывает негативное влияние на различные сферы жизнедеятельности человека, формируя угрозы безопасности, а также существенно ограничивая основополагающие права человека. Генеральный секретарь ООН в рамках представления Стратегии в отношении новых технологий подчеркнул, что расширение использования технологий на основе ИИ, биотехнологий, робототехники будет способствовать улучшению благосостояния населения, но вместе с тем при отсутствии должного уровня регулирования может привести к развитию неравенства и ограничению обеспечения прав человека [22].

Применение технологий ИИ сопряжено с потенциальным риском нарушения прав некоторых групп населения. При создании алгоритмов ИИ на основании данных определенной популяции пациентов возникает риск формирования предвзятых результатов [23], что потенциально будет усиливать существующие социальные предубеждения и дискриминацию отдельных групп [24]. Подобный пример подчеркивает важность проблем, связанных с надежностью и достоверностью используемых данных при разработке и внедрении ИИ, а также с прозрачностью решений разработчиков. Таким образом, возникает вопрос об ответственности при применении подобных технологий в рамках оказания медицинской помощи. Будет ли ответственным лицом в данной ситуации определен врач, клиника или разработчик технологии?

Одной из наиболее часто обсуждаемых угроз применения ИИ является нарушение принципов защиты персональных данных. Стремительное распространение государственно-частных партнерств, подразумевающих передачу объемов персональных данных частным компаниям, специализирующимся в разработке ИИ, многократно усиливает риск доступа третьих лиц к такой информации. Одним из показательных примеров является сотрудничество английской компании DeepMind, принадлежащей американской корпорации Google, c фондом Royal Free London NHS Foundation Trust Национальной службы здравоохранения Англии. Основной целью партнерства являлось внедрение метода машинного обучения для совершенствования оказания медицинской помощи пациентам с повреждениями почек [25]. Представители Министерства здравоохранения Англии отметили, что доступ к персональным медицинским данным был получен неправомерно, а пациенты не были проинформированы должным образом о процедуре получения согласия [26]. Управление комиссара по информации Великобритании постановило, что фонд Royal Free NHS Foundation Trust нарушил Закон Великобритании о защите данных 1998 г., предоставив персональные данные пациентов третьей стороне.

Проблема обеспечения безопасности использования ИИ при оказании медицинской помощи и непосредственно принятии врачебных решений заслуживает отдельного внимания. Так, система IBM Watson, применяющая ИИ для анализа медицинской документации пациентов и оказания помощи врачам в определении тактики лечения онкологических заболеваний, первоначально получила широкую поддержку. Однако впоследствии алгоритм использования ИИ был подвергнут критике ввиду системного формирования некорректных рекомендаций для лечения [27][28].

Одним из важнейших элементов, определяющих безопасность применяемой технологии, является доступ к набору данных, используемому при формировании алгоритма ИИ, который зачастую скрыт даже от разработчика, ограничивая возможность полноценной оценки его работы. Тот факт, что некоторые программы ИИ склонны генерировать ложный контент («галлюцинировать») ввиду использования недостоверного информационного материала, порождает существенные риски для безопасности пациентов. Кроме того, при разработке технологий ИИ компании часто предпочитают сохранять конфиденциальность алгоритмов, а также применяемых наборов данных, что ограничивает возможности регуляторных органов и медицинских организаций по оценке эффективности и безопасности использования ИИ в рамках оказания медицинской помощи. Внедрение технологий ИИ постепенно формирует рост зависимости врачей от автоматизированных систем, что приведет к утрате важных компетенций и может оказать негативное влияние на качество лечения [6].

Необходимость противодействия представленным угрозам безопасности человека при использовании ИИ определяет внимание международных и региональных организаций, а также государств к разработке унифицированных подходов к регулированию данной сферы.

Правовое регулирование: международные и национальные аспекты / Legal regulation: international and national aspects

Вопросы регулирования использования технологий ИИ в сфере охраны здоровья фигурировали в различных докладах, резолюциях и иных документах международных межправительственных и неправительственных организаций.

Первостепенное значение при рассмотрении перспектив развития регулирования применения ИИ в рамках оказания медицинской помощи уделялось вопросу защиты основополагающих прав и свобод человека. Всемирная организация здравоохранения (ВОЗ) подготовила ряд документов, посвященных унификации принципов защиты прав человека в данной сфере. В 2021 г. первый системный доклад ВОЗ, посвященный вопросам управления ИИ, связал перспективы дальнейшего развития таких технологий с соблюдением этических принципов международного права и конституционных прав человека [29]:

• обеспечение безопасности человека;
• защита персональных данных, наступление ответственности за нарушение прав человека в сфере информационного здравоохранения;
• доступность разработок для пациентов;
• оценка и мониторинг практического применения ИИ.

В октябре 2023 г. ВОЗ опубликовала принципы регулирования технологий ИИ [30]. В частности, в качестве основных направлений развития национального законодательства были определены:

• обеспечение транспарентности процесса регистрации и разработки;
• валидация данных, используемых при разработке и определении целевого назначения;
• контроль качества результатов;
• обеспечение конфиденциальности и защита персональных данных.

В 2021 г. ЮНЕСКО были подготовлены Рекомендации об этических аспектах ИИ, определившие 11 приоритетных областей развития применения ИИ. В частности, особое внимание уделялось вопросу охраны здоровья и социального благополучия. В документе сформулированы следующие рекомендации для государств:

• внедрить контрольные механизмы для минимизации предвзятости алгоритмов ИИ;
• обеспечить участие врачебного и пациентского сообществ при разработке технологий ИИ;
• гарантировать неприкосновенность персональных данных и информирование пациентов об их использовании;
• внедрить процедуру получения согласия от пациента на использование ИИ.

Отдельные вопросы, связанные с обращением технологий ИИ, нашли отражение в региональных договорах универсального характера. В частности, Совет Европы утвердил Конвенцию о защите физических лиц при автоматизированной обработке персональных данных (Конвенция ETS от 28 января 1981 г. № 108) и Протокола к ней (Протокол CETS от 10 октября 2018 г. № 223)¹, в которых сформулировано, что сведения о состоянии здоровья признаются особой категорией персональных данных.

Вопросы гармонизации регулирования ИИ занимают отдельное место в повестке многих международных неправительственных организаций. В частности, Международный форум регуляторов медицинских изделий (англ. International Medical Device Regulators Forum, IMDRF) занимается гармонизацией стандартов, касающихся обращения медицинских изделий, в т.ч. с применением ИИ. В 2022 г. утвержден технический регламент «Медицинские устройства с поддержкой машинного обучения: ключевые термины и определения» (IMDRF/AIMD WG/N67), а в 2019 г. Всемирной медицинской ассоциацией (ВМА) принято Заявление ВМА по дополненному интеллекту в медицинской помощи.

Технологии с использованием ИИ обладают потенциалом для обеспечения устойчивого экономического роста и достижения ЦУР, что определяет внимание государств к развитию данной сферы. За последние годы в странах с высоким уровнем технологического развития были утверждены национальные стратегии развития ИИ, где приоритетное внимание уделялось их применению в рамках системы здравоохранения. В частности, подобные стратегии существуют в Японии [31], Южной Корее [32], Германии [33], Великобритании [34].

В рамках деятельности Европейского союза (ЕС) на наднациональном уровне предприняты последовательные инициативы для унификации подходов к регулированию разработки и применения ИИ на территории европейских стран. Одним из первых документов, сформулировавших приоритеты ЕС в отношении развития ИИ, стало Коммюнике «Искусственный интеллект для Европы» 2018 г., которое содержало описание европейской стратегии развития ИИ и подчеркивало необходимость создания единого цифрового рынка с общими требованиями к кибербезопасности.

В 2019 г. Европейская комиссия учредила Экспертную группу высокого уровня по ИИ с целью поддержки внедрения Европейской стратегии по ИИ. В состав группы вошли 52 представителя науки, гражданского общества и индустрии, результатами деятельности которых в первые годы стала разработка Руководящих принципов по этике для надежного ИИ [35]. В документе определены семь основных критериев, соблюдение которых необходимо при использовании ИИ:

• наличие контрольно-надзорного органа;
• обеспечение технической надежности и безопасности;
• конфиденциальность и управление данными;
• прозрачность процессов;
• разнообразие, недискриминация и справедливость;
• социальное и экологическое благополучие;
• подотчетность.

Руководящие принципы не содержат отдельных положений, учитывающих особенности применения ИИ в сфере охраны здоровья, но подчеркивают их значимость в повышении эффективности оказания медицинской помощи и благосостояния населения.

Технологии ИИ, применяемые в системе здравоохранения, в большинстве случаев относят к медицинским изделиям, обращение которых определяется Регламентом ЕС о медицинских изделиях № 2017/745, утвержденным в 2017 г. Документ вводит классификацию групп риска медицинских изделий, в случае ПО определяемых в соответствии с установленными критериями: влияние получаемого результата на врачебное решение, а также степень тяжести заболевания, для диагностики и лечения которого оно применяется. Так, программы ИИ, использование которых не формирует риска летального исхода или необратимого вреда здоровью, относятся к классу риска IIa. В случае наличия риска нанесения тяжкого вреда здоровью изделие относят к классу риска IIb, а в ситуации угрозы жизни – к классу III. Соответствие требованиям Регламента предполагает сертификацию регистрируемых медицинских изделий, обращаемых на территории ЕС.

По итогам нескольких лет последовательной работы над определением основных направлений регулирования ИИ в июне 2023 г. депутаты Европарламента одобрили проект Регламента по регулированию искусственного интеллекта. Цель – внедрение единого подхода в обеспечении высокого уровня защиты здоровья, безопасности, основных прав, демократии, верховенства закона и окружающей среды от вредного воздействия систем ИИ в ЕС с одновременной поддержкой инноваций и совершенствованием функционирования внутреннего рынка. Руководствуясь потенциальными рисками ограничения прав человека и угрозами его безопасности, авторы документа сформировали классификацию ИИ в зависимости от степени потенциального риска: неприемлемый, высокий, ограниченный, минимальный. Представленный проект фактически дополняет положения Регламента о медицинских изделиях, конкретизируя определения понятия ИИ, а также в большей степени фокусируясь на вопросах защиты прав и свобод человека, однако классификация несколько отличается: так, медицинские изделия, использующие технологии ИИ и применяемые в рамках процедур диагностики или определения тактики лечения, относятся к высокой группе риска.

Как уже было неоднократно отмечено, использование ИИ сопряжено с вопросом защиты персональных данных. Этот аспект регулируется Регламентом № 2016/679 от 27 апреля 2016 г. «О защите физических лиц при обработке персональных данных», который устанавливает возможность обработки конфиденциальных данных о здоровье при определенных условиях. Таким образом, формируется триада регламентов, определяющих особенности обращения ИИ на пространстве ЕС.

В США программные решения, используемые для лечения или диагностики заболеваний, относятся согласно классификации FDA к «программным медицинским устройствам» (англ. software as a medical device, SaMD). В качестве примера можно привести ПО для анализа изображений магнитно-резонансной томографии с целью определения инсульта. Как и любое медицинское устройство, ПО с поддержкой ИИ подлежит проверке FDA на основании классификации риска. ПО с использованием ИИ (анализ рентгенологических изображений) обычно относится к классу II и подразумевает прохождение процедуры предпродажного уведомления (англ. Premarket Notification 510(k)), в рамках которой производитель демонстрирует эквивалентность по показателям эффективности и безопасности другому изделию, прошедшему процедуру одобрения в США.

Следует отметить, что одним из направлений развития регулирования использования технологий ИИ в здравоохранении стало упрощение регуляторных процедур в отдельных случаях. Так, с принятием Закона о методах лечения XXI века (англ. The 21^st Century Cures Act) 13 декабря 2016 г. определенные виды ПО были исключены из категории медицинских изделий, а именно предназначенные для административной поддержки учреждений здравоохранения, мотивации ведения здорового образа жизни, демонстрации определенных показателей жизнедеятельности. В 2019 г. FDA разработало пилотную Программу предварительной сертификации программного обеспечения, основной идеей которой является оценка не ПО, а разработчика на соответствие стандартам процесса разработки для последующей экспертизы продукции по упрощенной процедуре [36]. Пилотный проект позволил определить ряд существенных аспектов, связанных с формированием критериев оценки разработчиков программных решений с применением ИИ. Однако FDA не обладает необходимым объемом полномочий для трансформации подобного подхода в стандартную практику.

Вопрос развития ИИ в целом получил наивысший уровень поддержки за последние годы. В 2019 г. президент США Д. Трамп подписал указ «Поддержание американского лидерства в области ИИ», в котором сформулированы общие направления развития данной сферы [37]. В 2022 г. Управление научно-технической политики Белого дома опубликовало проект Руководства по обеспечению Билля о защите прав при использовании ИИ [38], содержащего основные принципы, которыми следует руководствоваться при разработке и применении автоматизированных систем:

• безопасность и эффективность;
• защита от дискриминации;
• конфиденциальность данных;
• надлежащее информирование, возможность отказа от использования алгоритмов ИИ.

Президент Д. Байден 30 октября 2023 г. издал указ «О безопасной, надежной и заслуживающей доверия системе разработки и использования ИИ». В соответствии с Законом об оборонном производстве указ устанавливает требование к разработчикам технологий ИИ при разработке моделей, представляющих серьезный риск, в т.ч. для системы общественного здравоохранения, предоставлять Правительству США доступ к результатам исследований безопасности и иной важной информации. Отдельное внимание уделяется вопросу содействия ответственному использованию ИИ в здравоохранении и разработке доступных и жизненно важных лекарственных средств. Министерству здравоохранения и социальных служб было поручено создать программу для получения отчетов о применении небезопасных технологий ИИ. Агентствам, финансирующим проекты в области медико-биологических наук, необходимо разработать стандарты проверки биологического синтеза с целью управления потенциальными рисками использования ИИ для создания биологических опасных агентов.

На основе представленного анализа можно констатировать, что в США и ЕС на политико-правовом уровне формируются условия, необходимые для устойчивого развития и внедрения в практику технологий с использованием ИИ. Вместе с тем следует отметить, что остается целый спектр угроз и вызовов в данной сфере, которые обозначены государствами на декларативном уровне, но их решение требует междисциплинарного осмысления при разработке необходимой системы нормативно-правового регулирования.

Формирование данных реальной клинической практики / Real-world data formation

Внедрение в ежедневную практику возможности ведения электронных медицинских карт позволило последовательно сформировать значительные базы данных медицинской информации, анализ которых обладает потенциалом существенного повышения эффективности оказания медицинской помощи. К данным реальной клинической практики (англ. real-world data, RWD) относится информация, связанная с состоянием здоровья пациента или особенностями оказания медицинской помощи, регулярно собираемая из различных источников: медицинских карт, данных страховых компаний, систем фармаконадзора, регистров пациентов [39]. RWD содержат информацию об особенностях развития заболевания, приверженности к проводимой терапии и ее эффективности, что позволяет формировать необходимую доказательную базу в отношении эффективности и безопасности любого медицинского вмешательства, а также более рационально осуществлять финансирование медицинских услуг в будущем. Анализ RWD позволяет выработать доказательства, полученные на их основе (англ. real-world evidence, RWE), для принятия решения о возможности применения определенных технологий здравоохранения или изменения подходов к организации оказания медицинской помощи.

Технологии ИИ обеспечивают системный подход к анализу RWD/RWE с целью последующего использования полученных результатов на различных этапах процесса обращения лекарственных средств и медицинских изделий, а также совершенствования оказания медицинской помощи по отдельным заболеваниям, что неоднократно было подтверждено в научных публикациях. В системном обзоре исследований, проводимых с применением технологий ИИ, продемонстрирована эффективность методов машинного обучения в обнаружении нежелательных явлений [40][41]. В другом исследовании использовались данные Национальной службы здравоохранения Англии для разработки алгоритма машинного обучения с целью выявления пациентов с риском идиопатической легочной артериальной гипертензии [42]. Авторы отдельных работ отмечают, что автоматизация скрининга и идентификации пациентов может способствовать повышению результативности набора пациентов в клинические исследования [40].

Стремительные темпы развития технологий ИИ в США предопределили их активное применение в процессе оценки эффективности и безопасности новых способов лечения. Правовые основы использования RWD/RWE сформированы в рамках Закона о методах лечения XXI века, дополнившего Федеральный закон о пищевых продуктах, лекарственных и косметических средствах (англ. Federal Food, Drug, and Cosmetic Act) разделом 355G «Использование данных реальной клинической практики». Раздел устанавливал обязательство FDA по разработке Программы применения доказательств, основанных на данных реальной клинической практики (англ. RWE program), для поддержки регистрации дополнительных показаний к медицинскому применению зарегистрированных лекарственных препаратов, а также для исполнения требований о проведении их пострегистрационных исследований. С целью формирования единых подходов среди разработчиков и производителей технологий здравоохранения FDA были сформированы Рекомендации по использованию данных реальной клинической практики для поддержки принятия регуляторных решений в отношении лекарственных средств и биологических продуктов.

Одной из наиболее масштабных инициатив FDA по формированию базы RWD/RWE стало учреждение проекта Sentinel с целью сбора информации о безопасности лекарственных средств, биологических препаратов, медицинского оборудования и последующего анализа для выявления взаимосвязей и закономерностей [43]. Анализ базы Sentinel позволил FDA разработать исследования по оценке безопасности лекарственных средств после их регистрации. В качестве примера можно назвать исследование по оценке риска возникновения инсульта после применения антипсихотиков, судорог после использования ранолазина и венозной тромбоэмболии после длительного или непрерывного цикла приема пероральных контрацептивов [44].

Аналогичные тенденции наблюдаются на пространстве ЕС, где вопросы сбора RWD/RWE и их применения в экспертной деятельности нашли системное осмысление. Так, анализ 158 досье на регистрацию новых лекарственных препаратов, рассмотренных Европейским агентством по лекарственным средствам (англ. European Medicines Agency, EMA) в период с 1 января 2018 г. по 31 декабря 2019 г., продемонстрировал, что порядка 40% содержали RWD/RWE [45]. В 2021 г. EMA создало Сеть анализа данных и опроса в реальной клинической практике (англ. Data Analysis and Real World Interrogation Network, DARWIN) для формирования доказательной базы об особенностях применения, безопасности и эффективности лекарственных средств в системе здравоохранения стран ЕС с целью принятия решений о регистрации лекарственных препаратов или новых показаний к применению, а также проведения оценки технологий здравоохранения. В подтверждение значения данного направления в ноябре 2023 г. проведено совещание по вопросам использования технологий ИИ для сбора данных на различных этапах жизненного цикла лекарственного препарата.

Перспективы внедрения в России / Prospects for implementation in Russia

Государственные приоритеты в области развития и внедрения в практику технологий на базе ИИ в Российской Федерации (РФ) были последовательно сформулированы в соответствующих стратегических документах. Указом Президента РФ от 10 октября 2019 г. № 490 [46] утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года, направленная на внедрение отечественных решений с применением ИИ в различные сферы экономики государства. Также следует упомянуть федеральный проект «Искусственный интеллект», целью которого является создание условий по развитию ИИ в России [47], и Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года [48], которая установила экспериментальные правовые режимы и впоследствии была реализована в рамках отдельных федеральных законов.

Экспериментальный правовой режим был установлен в г. Москве Федеральным законом от 24 апреля 2020 г. № 123-ФЗ [49], который позволяет в упрощенном порядке использовать обезличенные данные, содержащие медицинскую информацию, для последующей разработки ПО с применением ИИ. Общие принципы функционирования экспериментальных правовых режимов в сфере цифровых технологий сформулированы в Федеральном законе от 31 июля 2020 г. № 258-ФЗ [50]. Закон конкретизирует возможность реализации экспериментальных правовых режимов в медицинской деятельности, в т.ч. с применением телемедицинских технологий и технологий сбора и обработки сведений о состоянии здоровья и диагнозах граждан [49]. Кроме того, определено, что установление экспериментального правового режима на региональном уровне возможно по решению органов власти субъекта РФ [51].

Согласно ст. 38 Федерального закона от 21 ноября 2011 г. № 323-ФЗ «Об основах охраны здоровья граждан» [52] специальное ПО, созданное для применения в медицинских целях, относится к медицинским изделиям. Обращение как медицинских изделий, так и программных медицинских изделий возможно только после государственной регистрации в порядке, установленном Правительством РФ, за исключением медицинских изделий, которые предназначены для использования на территории международного медицинского кластера или на территориях инновационных научно-технологических центров.

Однако национальные и межгосударственные стандарты, используемые для регистрации медицинских изделий, не позволяли в должной мере оценить безопасность, точность и надежность функционирования систем ИИ. В этой связи было принято решение о создании подкомитета 01 «Искусственный интеллект в здравоохранении» технического комитета по стандартизации «Искусственный интеллект» (ТК 164) на базе Центра диагностики и телемедицины Департамента здравоохранения г. Москвы, перед которым поставлена задача по разработке государственных национальных стандартов в области ИИ в здравоохранении. Разработка стандартов позволяет создать единый понятийный аппарат, методологию оценки качества и безопасности ИИ-технологий, единые требования для осуществления контроля качества, пострегистрационного мониторинга и т.д. На сегодняшний день введено в действие 10 национальных стандартов РФ, а 21 находится в стадии разработки [53].

Согласно ст. 26 Федерального закона от 26 сентября 2012 г. № 162-ФЗ «О стандартизации в Российской Федерации» [54] документы национальной системы стандартизации применяются на добровольной основе. Для регистрации ПО, являющегося медицинским изделием, также не предусматривается обязательного подтверждения соответствия национальным и/или международным стандартам. Таким образом, можно считать, что стандарты носят рекомендательный характер. Однако следует отметить, что согласно Приказу Минздрава России от 19 января 2017 г. № 11н [55] в технической и эксплуатационной документации производителя на ПО, являющееся медицинским изделием, должен в обязательном порядке содержаться перечень применяемых национальных и межгосударственных стандартов. Исходя из этого, указанные в соответствующей документации стандарты приобретают обязательный характер для производителя.

Следует отметить, что весомое значение в правовом регулировании порядка обращения медицинских изделий играет законодательство Евразийского экономического союза (ЕАЭС), в т.ч. и вопрос осуществления контроля качества медицинских изделий. Так, Соглашением о единых принципах и правилах обращения медицинских изделий (изделий медицинского назначения и медицинской техники) в рамках Евразийского экономического союза, вступившего в силу на территории России в 2016 г. [56], предусматривается установление общих требований безопасности и эффективности медицинских изделий. С этого момента наблюдается процесс гармонизации законодательства ЕАЭС и стран-членов.

Учитывая особую значимость объекта регулирования (жизнь и здоровье человека), необходимо отдельно упомянуть об осуществлении контроля качества и безопасности медицинских изделий. Согласно Приказу Минздрава России от 19 октября 2020 г. № 1113н [57] медицинские изделия высокого класса риска (для технологий ИИ в здравоохранении характерны 2–3-й классы риска) подлежат пострегистрационному мониторингу безопасности в течение 3 лет после регистрации. Уполномоченный орган государственной власти в области контроля качества и безопасности медицинских изделий – Росздравнадзор. В случае выявления потенциальной угрозы жизни или здоровью при использовании медицинского изделия надзорный орган вправе принять решение о приостановлении его применения или об изъятии его из обращения. Так, в ноябре 2023 г. Росздравнадзор приостановил обращение IT-решения на основе технологий ИИ Botkin.AI [58]. Если разработчик в течение установленного срока устранит обстоятельства, ставшие основанием для принятия решения о приостановлении регистрационного удостоверения медицинского изделия, то может быть принято решение о возобновлении действия последнего [59].

На уровне субъектов РФ в рамках реализации мероприятий по развитию ИИ принимаются программы цифровой трансформации, но не каждая из них содержит раздел по цифровизации здравоохранения. Так, например, в Стратегии в области цифровой трансформации отраслей экономики, социальной сферы и государственного управления Ростовской области [60], принятой в 2022 г., предусматриваются следующие направления развития использования ИИ в сфере здравоохранения:

• применение механизмов ИИ с целью автоматизации типовых операций и элементарных процессов;
• внедрение электронных помощников на основе ИИ;
• создание единого регионального банка медицинских данных для принятия решений на основе ИИ с целью развития самообучающейся медицинской системы принятия решений.

Аналогичная стратегия Приморского края устанавливает необходимость увеличения количества применяемых медицинскими организациями информационно-технологических решений и медицинских изделий с использованием технологий ИИ для здравоохранения, а также обеспечения требуемого качества их работы [61].

Несмотря на систематический подход со стороны государства к созданию условий применения ИИ, по-прежнему сохраняется ряд проблем, связанных с высокой стоимостью оборудования, этической стороной использования ИИ, а также отсутствием критериев оценки качества и эффективности технологий ИИ.

Очевидно, что для повышения качества результатов применения ИИ в медицине важно обеспечить взаимодействие медицинского профессионального сообщества и разработчиков. В этой связи интересно отметить такое управленческое решение, как платформа для врачей и разработчиков систем на основе ИИ, созданная Минздравом России в 2022 г., где министерство выступает не как участник процесса, а как модератор. Платформа позволяет «объединить обезличенные и размеченные медицинские данные в верифицированные датасеты» [62]. Размещение на ней «задач» от медицинских организаций и национальных медицинских исследовательских центров России с детальным описанием требований к программе не только позволяет специалистам в сфере ИИ-технологий разработать подходящие решения, но и стимулирует развитие конкуренции в данной области.

Анализ развития технологий ИИ в российском здравоохранении дает возможность выделить особенности, определяющие дальнейшее совершенствование государственного управления в данной области. Прежде всего, развитие этой сферы характеризуется асимметрией. Одним из самых активных регионов РФ по внедрению систем ИИ в здравоохранении является г. Москва, где уже сегодня в медицинских организациях применяют 12 медицинских сервисов с технологиями ИИ [63]. Последним из примеров стало подключение сервиса на базе ИИ во всех поликлиниках г. Москвы для взрослого населения. Сервис создан для помощи врачам при постановке диагноза на основе всей собранной информации о пациенте из его электронной медицинской карты за последние два года [64]. Новейшие технологии анализируют текущие жалобы и результаты анализов, а также оценивают всю существующую в медицинской карте информацию, лабораторные исследования, осмотры у врачей за прошедший период.

В рамках Федерального проекта «Создание единого цифрового контура в здравоохранении на основе ЕГИЗС²» каждый субъект РФ должен внедрить не менее одного решения с ИИ в 2023 г., а в следующем году – не менее трех. По состоянию на октябрь 2023 г. только 70 регионов выполнили это требование: приобрели и внедряют соответствующие технологии [65]. Кроме того, «по оценкам Национального центра развития искусственного интеллекта при Правительстве Российской Федерации, только 16% организаций сферы здравоохранения внедряют технологии искусственного интеллекта» [66]. Большинство технологий используются в качестве пилотных, экспериментальных проектов. При положительной оценке эффективности работы ИИ такие программы будут введены в обычную практику деятельности врача и медицинской организации.

Интересно рассмотреть некоторые направления практического применения различных технологий ИИ в здравоохранении. Значительное число программных решений можно найти для оптимизации процессов управления медицинской организации. Такие технологии позволяют снизить отчетно-аналитическую нагрузку на врача. Например, действуют чат-бот для записи пациента на прием, а также программа голосового ввода данных врачом в медицинскую карту, что в среднем по сравнению с ручным вводом ускоряет процесс заполнения карты на 20%. Благодаря этому увеличивается время на общение с пациентом. Иным примером может служить видеоаналитика в стационарах, которая следит за уровнем сервиса. Так, в сети московских клиник «Европейский медицинский центр» внедрен сервис «Платформа Третье Мнение». ИИ здесь применяют для мониторинга состояния пациентов в стационаре, включая риски образования пролежней и травм, например от падений. Более того, ИИ-мониторинг способствует оптимизации рабочего времени сотрудников медицинской организации и позволяет эффективнее использовать коечный фонд.

В области обработки медицинских снимков, а также помощи в принятии врачебных решений сегодня (согласно сведениям, размещенным Росздравнадзором в Государственном реестре медицинских изделий и организаций (индивидуальных предпринимателей), осуществляющих производство и изготовление медицинских изделий) в России зарегистрировано 19 медицинских изделий, использующих технологии ИИ. Большинство из них – технологии «цифрового зрения». С определенной долей условности можно выделить два направления применения таких систем: первое – анализ графических данных исследований в части морфологии с целью определения состояния органов и тканей при различных заболеваниях, второе – выявление патологий на снимках [67].

Гораздо меньше зарегистрировано программных медицинских изделий, направленных на поддержку принятия врачебных решений. Интересной разработкой представляется платформа MDDC (англ. Medical Digital Diagnostic Center – медицинский цифровой диагностический центр), которая интегрирована с информационными системами и источниками медицинских данных. Алгоритмы ИИ помогают обрабатывать и анализировать информацию и решать ряд клинических задач [68]. Например, на основе сбора данных, заполнения определенной формы технология позволяет создать топ-3 наиболее вероятных диагноза из 265 групп по Международной классификации болезней 10-го пересмотра. Топ-3 на практике использует ряд медицинских организаций в семи субъектах РФ, в т.ч. в Республике Татарстан, г. Москве, Ставропольском крае, Амурской и Костромской областях и др.

Представляет интерес система скрининга электронных медицинских карт, разработанная специалистами проекта ФГАОУ ВО «Московский физико-технический институт (национальный исследовательский университет)» iPavlov и позволяющая диагностировать редкие генетические заболевания. Выявление редких орфанных болезней на ранней стадии помогает купировать их развитие и симптомы. На сегодняшний день программа позволяет выявлять группы риска по четырем патологиям, но планируется обучение системы на поиск любого из известных орфанных заболеваний [69]. Действующих аналогичных систем в мире нет.

Существуют разработки, которые позволяют не только поставить диагноз, но и оценить состояние пациента и создать индивидуальную программу по восстановлению здоровья. Примером может служить технология «умный костюм», созданная командой Muscles.AI [70]. Испытания костюма уже начались в Московском центре инноваций в здравоохранении.

Также интересным примером сотрудничества науки и технологий ИИ можно считать взаимодействие ФГБУН «Центр информационных технологий в проектировании» Российской академии наук и ФГАОУ ВО «Первый Московский государственный медицинский университет им. И.М. Сеченова» (Сеченовский Университет). ПО, которое позволило определить болезнь Альцгеймера на ранней стадии, подтвердило, что нейросеть выявляет атрофию у пациентов с альцгеймеровской деменцией в более чем 90% случаев [71].

ЗАКЛЮЧЕНИЕ / CONCLUSION

ИИ имеет все шансы стать эффективным инструментом, который сможет видоизменить формат оказания медицинских услуг, решив целый ряд фундаментально значимых проблем, несмотря на возникающие новые вызовы в развитии систем мирового здравоохранения. К проблемам-направлениям, заслуживающим отдельного внимания, можно отнести:

• рост объема медицинских данных, которые нуждаются в своевременной обработке;
• создание электронных платформ, обеспечивающих диалог врача и пациента в режиме онлайн;
• поддержку врачей при постановке диагноза, наличие «второго мнения», основанного на медицинской истории конкретного больного;
• нехватку структурированного нормативно-правового регулирования, включающего клинические испытания и поэтапную сертификацию, и др.

Внедрение ИИ-технологий необходимо, и жизненные процессы подталкивают к этому, несмотря на существующие барьеры. Но такая интеграция должна происходить крайне аккуратно, с учетом мнения врачебного сообщества. Важно, чтобы системы ИИ подтверждали свое место в клинической практике и чтобы их применение не имело негативных последствий для врача и пациента, а также оправдывало вложенные инвестиции эффективной и долгосрочной службой.