Preview

ФАРМАКОЭКОНОМИКА. Современная фармакоэкономика и фармакоэпидемиология

Расширенный поиск

Способ оценки эффективности диагностики с использованием алгоритмов на основании заключений моделей искусственного интеллекта

https://doi.org/10.17749/2070-4909/farmakoekonomika.2026.355

Содержание

Перейти к:

Аннотация

Цель: разработать способ оценки эффективности диагностики при применении дифференцированных алгоритмов, созданных с использованием заключений моделей ИИ, по сравнению с эффективностью стандартной диагностики.
Материал и методы. Проведено моделирование двух сценариев маршрутизации при диагностике злокачественных и доброкачественных новообразований (ЗНО и ДНО) кожи. Первый сценарий включает диагностику с применением алгоритмов на основе заключений модели ИИ Derma Onko Check. Второй сценарий включает стандартную маршрутизацию при диагностике врачами общей практики, терапевтами и дерматовенерологами. Использованные в моделировании показатели эффективности диагностики с применением алгоритмов на основе заключений модели ИИ Derma Onko Check, а также врачей общей практики и терапевтов, дерматовенерологов были получены в ранее выполненных клинических исследованиях. Моделирование проведено с применением клинических данных и фотоизображений образований 90 пациентов с ЗНО кожи (39 меланом и 51 базалиома) и 291 пациента с ДНО кожи (100 немеланоцитарных опухолей кожи и 191 меланоцитарная опухоль кожи).
Результаты. Для оценки относительной эффективности диагностики с помощью алгоритмов на основе заключений программ для ЭВМ с применением моделей ИИ предложены формулы для расчета с визуализацией результата в виде квадрантной матрицы. В целях практического использования разработано приложение AI-diagnostic efficiency calculator (CalcRDAI&RNDAI) для автоматизированного расчета показателей эффективности диагностики с применением алгоритмов на основе заключений моделей ИИ. При апробации способа оценки использования в диагностике алгоритмов на основе Derma Onko Check отмечаются увеличение выявления случаев ЗНО кожи в 1,9 раза, снижение пропущенных случаев ЗНО кожи в 10,5 раза. Результаты оценки располагаются в квадранте I (выявляется больше, пропускается меньше), что подтверждает ценность алгоритма диагностики на основе Derma Onko Check при оказании медицинской помощи.
Заключение. Предложенный способ определения эффективности диагностики с применением разработанных формул расчета эффективности и визуализацией результата в виде квадрантной матрицы позволяет объективно оценивать эффективность использования моделей ИИ в условиях многоэтапной маршрутизации при диагностике заболеваний.

Для цитирования:


Корабельников Д.И., Ламоткин А.И. Способ оценки эффективности диагностики с использованием алгоритмов на основании заключений моделей искусственного интеллекта. ФАРМАКОЭКОНОМИКА. Современная фармакоэкономика и фармакоэпидемиология. 2026;1(19):79-91. https://doi.org/10.17749/2070-4909/farmakoekonomika.2026.355

For citation:


Korabelnikov D.I., Lamotkin A.I. A method for evaluating diagnostic effectiveness using algorithms based on opinion obtained from artificial intelligence models. FARMAKOEKONOMIKA. Modern Pharmacoeconomics and Pharmacoepidemiology. 2026;1(19):79-91. (In Russ.) https://doi.org/10.17749/2070-4909/farmakoekonomika.2026.355

ВВЕДЕНИЕ / INTRODUCTION

Одним из перспективных инструментов, внедряемых в клиническую практику, являются модели искусственного интеллекта (ИИ) для анализа фотоизображений, способные повышать чувствительность выявления злокачественных новообразований и снижать долю пропущенных случаев [1]. Клиническая эффективность моделей ИИ зависит не только от качества классификации, но и от интеграции моделей в реальную маршрутизацию пациентов для установления заключительного клинического диагноза, включая взаимодействие между врачами общей практики и врачами-специалистами [2].

Клинические исследования, посвященные практической реализации моделей ИИ в области дерматоонкологии, показали, что такие системы ИИ могут выступать не только как диагностические инструменты, но и как инструменты оптимизации маршрутизации пациентов при диагностическом поиске и подтверждении предварительного клинического диагноза, сокращая временные и материальные затраты на диагностику и снижая нагрузку на врачей-специалистов и систему оказания медицинской помощи [3–5].

Однако само внедрение технологий ИИ в схемы маршрутизации пациентов еще не гарантируют клинической эффективности. Ключевой вопрос заключается в том, приводит ли такая интеграция технологий к увеличению числа выявленных и уменьшению числа пропущенных целевых заболеваний (ЦЗ) по сравнению со стандартной маршрутизацией диагностического поиска без применения заключений моделей ИИ. Для ответа на этот вопрос необходима оценка эффективности алгоритмов диагностики с применением заключений моделей ИИ, позволяющая понять, являются ли такие алгоритмы эффективными в реальной клинической практике, а также оценить их клинико-диагностическую и организационно-распорядительную целесообразность с позиции системы здравоохранения.

Цель – разработать способ оценки эффективности диагностики при применении дифференцированных алгоритмов, созданных с использованием заключений моделей ИИ, по сравнению с эффективностью стандартной диагностики.

МАТЕРИАЛ И МЕТОДЫ / MATERIAL AND METHODS

Источники данных / Data sources

В анализ включены клинические данные и фотоизображения образований 381 пациента, из них 291 пациент с доброкачественными новообразованиями (ДНО) кожи (100 немеланоцитарных и 191 меланоцитарная опухоль) и 90 пациентов со злокачественными новообразованиями (ЗНО) кожи (39 меланом и 51 базалиома), полученные в ходе двух ранее проведенных исследований, направленных на оценку точности предварительной дифференциальной диагностики с применением программ ИИ Derma Onko Check (51 случай ЗНО кожи) и Melanoma Check (39 случаев ЗНО кожи) [6][7]. Объединение данных из обоих исследований в единую выборку позволило сформировать репрезентативный датасет, отражающий реальную структуру обращений пациентов с новообразованиями кожи к врачам-специалистам первичного звена здравоохранения.

Для апробации разработанных формул RDai и RNDai в настоящем исследовании использовались диагностические характеристики программы ИИ Derma Onko Check, которая способна классифицировать широкий спектр новообразований кожи, включая как меланоцитарные, так и немеланоцитарные опухоли. Все 90 случаев ЗНО кожи (39 меланом из исследования Melanoma Check + 51 случай немеланоцитарных ЗНО из исследования Derma Onko Check) были проанализированы с использованием диагностических характеристик программы Derma Onko Check для демонстрации практического применения предложенного способа оценки эффективности.

Точность, чувствительность, специфичность, доли ложноположительных (ЛП), ложноотрицательных (ЛО), истинно положительных (ИП), истинно отрицательных (ИО) результатов диагностики врачами-дерматовенерологами, онкологами и врачами общей практики (ВОП)/терапевтами определяли на основе результатов ранее опубликованных исследований [8–10].

Моделирование маршрутизации / Routing modeling

Проведено моделирование двух сценариев маршрутизации при диагностике ЗНО кожи (с применением алгоритмов на основе заключений моделей ИИ и стандартной диагностики без использования заключений моделей ИИ) на основании диагностической точности программы для ЭВМ Derma Onko Check по результатам ранее выполненных клинических исследований (рис. 1).

Рисунок 1. Маршрутизация пациентов при дифференциальной диагностике новообразований кожи:

а – алгоритм диагностики целевого заболевания без применения искусственного интеллекта (ИИ); b – алгоритм диагностики целевого заболевания с маршрутизацией на основании заключения модели ИИ.

ВОП – врач общей практики; ЗНО – злокачественное новообразование; ДНО – доброкачественное новообразование; ПАИ – патологоанатомическое исследование

Figure 1. Patient routing in the differential diagnosis of skin neoplasms:

a – algorithm for detecting target diseases without the use of artificial intelligence (AI); b – algorithm for detecting target diseases with routing based on the AI model output.

GP – general practitioner; MN – malignant neoplasm; BN – benign neoplasm; PE – pathological examination

Для каждого клинического случая моделировали два сценария: традиционный – без применения заключений моделей ИИ (стандартная маршрутизация пациентов моделирована на основании нормативных правовых актов Российской Федерации, регулирующих оказание медицинской помощи1) и с применением заключений моделей ИИ (маршрутизация пациентов в рамках алгоритмов диагностики с учетом заключения программы ИИ моделирована как многоэтапная диагностическая цепочка осмотров врачами-специалистами с проведением необходимых медицинских вмешательств и применением порога алгоритма маршрутизации на основе ранее разработанных алгоритмов [3–5]).

Порог алгоритма маршрутизации – пороговое числовое значение вероятности (в %) ЦЗ по заключению модели ИИ, которое определяет маршрутизацию пациентов и минимизирует ненужные направления к врачам-специалистам. Для определения оптимального порога алгоритма маршрутизации применяли анализ ROC-кривых (англ. receiver operating characteristic), где порог подбирали путем достижения максимального индекса Юдена (англ. Youden’s Index) (рассчитываемого как чувствительность плюс специфичность минус 1) для баланса между минимизацией ЛП случаев, направляемых к врачам-онкологам, и ЛО случаев, направляемых к врачам-дерматовенерологам.

В данном исследовании в приведенном примере программы ИИ Derma Onko Check порог алгоритма маршрутизации составляет 62%.

Разработка формул / Formula development

Оценка цифровых медицинских продуктов и сервисов (ЦМПС) требует адаптации существующих подходов оценки технологий здравоохранения с учетом специфики цифровых решений. Подчеркивается необходимость разработки единых стандартизированных методических подходов для ЦМПС, что делает принципы принятия решений о внедрении ИИ-технологий более прозрачными для участников рынка [11].

Предложенный нами способ расчета показателей RDai и RNDai согласуется с этими рекомендациями, предоставляя конкретный инструментарий для количественной оценки клинической эффективности систем ИИ в диагностической маршрутизации. Методология создания формул основывалась на изложенных ниже принципах.

Анализ эффективности маршрутизации

На первом этапе проанализирована эффективность диагностики в каждом из сценариев маршрутизации. Выявлено, что она формируется из двух основных компонентов: количества выявленных случаев ЦЗ и количества пропущенных случаев ЦЗ при различных сценариях маршрутизации (с применением заключений моделей ИИ и без их применения).

Учет многоэтапности диагностики

Поскольку диагностическая маршрутизация представляет собой многоэтапный процесс (ВОП/терапевт → врач-дерматовенеролог → врач-онколог → биопсия с патолого-анатомическим исследованием), каждый компонент эффективности был декомпозирован на составляющие по этапам маршрутизации. Это позволило учесть различную чувствительность диагностики специалистов на разных этапах и отразить каскадный характер направлений пациентов.

Моделирование потоков пациентов

Для каждой категории пациентов (ЛП, ЛО, ИП, ИО) с учетом порога маршрутизации (≥62% и <62%) были смоделированы потоки через диагностическую систему. Количество выявленных и пропущенных случаев ЦЗ на каждом последующем этапе рассчитывалось как произведение количества на предыдущем этапе на показатели чувствительности диагностики соответствующим врачом-специалистом.

Решение проблемы сопоставимости

Для обеспечения корректного сравнения сценариев с различным балансом между выявленными и пропущенными случаями ЦЗ в формулы расчета коэффициентов были введены компоненты, учитывающие как выявленные, так и пропущенные случаи при каждом сценарии маршрутизации. Это создало единую систему координат для оценки, где учитываются все диагностические последствия применения алгоритмов на основе заключений моделей ИИ.

Валидация формул

Разработанные формулы были апробированы на данных клинических исследований программы ИИ Derma Onko Check, что позволило верифицировать их применимость для реальных условий клинической практики.

Принципы формирования методики расчета / Principles of forming calculation methods

При разработке методики оценки эффективности применения программ ИИ в диагностической маршрутизации осуществлен тщательный отбор параметров, включаемых в расчетные формулы. Данный подход основан на понимании того, что эффективность диагностики при применении и без применения моделей ИИ может иметь принципиально различную структуру.

Учет ИП случаев выше порога маршрутизации

При маршрутизации пациентов с признаками ЦЗ, правильно классифицированными программой ИИ, обеспечивается своевременная диагностика. Эти случаи включены в формулы, поскольку они существенно влияют на эффективность диагностического алгоритма. Например, направление пациента к врачу-онкологу на основании заключения программы ИИ обеспечивает раннюю диагностику ЗНО, которое при отсутствии применения программы ИИ может быть упущено.

Учет ИП случаев ниже порога маршрутизации

Пациенты с признаками ЦЗ, вероятность наличия которых по заключению модели ИИ была ниже порога маршрутизации, но которые были правильно диагностированы врачами-специалистами на последующих этапах, также учитываются в формулах. Это позволяет оценить вклад врачей-специалистов в выявление случаев ЦЗ, пропущенных при маршрутизации с применением алгоритма диагностики по результатам заключения модели ИИ.

Учет пропущенных (ЛО) случаев

Пропущенные случаи ЦЗ представляют собой особую категорию неэффективности диагностики. Несвоевременная диагностика заболеваний приводит к их выявлению на более поздних стадиях, что может существенно ухудшать прогноз для пациента. Данная категория критически важна для объективной оценки эффективности алгоритма диагностики.

РЕЗУЛЬТАТЫ / RESULTS

В соответствии с вышеуказанными методиками были разработаны формулы, по которым возможно рассчитать:

– во сколько раз способы диагностики с применением технологии ИИ позволяют выявить больше ЦЗ (например, ЗНО) по сравнению со стандартной диагностикой без применения моделей ИИ;

– во сколько раз внедрение технологий ИИ в диагностические алгоритмы снижает число пропущенных случаев ЦЗ (например, ЗНО) по сравнению со стандартной диагностикой без применения моделей ИИ.

Предложенные формулы разработаны авторами ввиду отсутствия в литературе методологических инструментов для оценки эффективности диагностики в условиях многоэтапной маршрутизации в реальной клинической практике.

Формула 1 / Formula 1

Формула для расчета коэффициента отношения количества случаев ЦЗ, выявленных с применением моделей ИИ, на один выявленный случай ЦЗ, выявленный без применения моделей ИИ:

где RDai – отношение количества выявленных случаев ЦЗ при диагностике с применением моделей ИИ на один выявленный случай ЦЗ при диагностике без применения моделей ИИ; NDai – количество всех выявленных случаев ЦЗ при диагностике с применением моделей ИИ; NDnai – количество всех выявленных случаев ЦЗ при диагностике без применения моделей ИИ; NTP≥t – количество ИП случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была равна или выше порога алгоритма маршрутизации; NFN<t – количество ЛО случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации; NTP<t – количество случаев ИП, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации; n – количество этапов маршрутизации (каждый этап – это осмотр врачом-специалистом с проведением диагностических исследований по его назначению или без него); П – произведение (набора чисел), произведение ряда; SDTP≥tk  – чувствительность (в %) диагностики ЦЗ врачом-специалистом на каждом этапе маршрутизации ИП случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была выше порога алгоритма маршрутизации; SDFN<t+TP<tj – чувствительность (в %) диагностики ЦЗ врачом-специалистом на каждом этапе маршрутизации ЛО и ИП случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации; SDnaim – чувствительность (в %) ЦЗ врачом-специалистом на каждом этапе маршрутизации при диагностике без применения моделей ИИ; N – количество случаев ЦЗ из выборки.

Пример оценки эффективности алгоритма диагностики с применением моделей ИИ для выявления случаев ЦЗ

Пример расчета по формуле 1 при использовании алгоритмов с применением заключения программы ИИ Derma Onko Check для диагностики меланоцитарных и эпидермальных ЗНО кожи:

– NTP≥t = 72 (количество ИП случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была выше порога алгоритма маршрутизации);

– NFN<t = 6 (количество ЛО случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации);

– NTP<t = 6 (количество случаев ИП, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации);

– SDTP≥tk (чувствительность диагностики ЦЗ врачом-специалистом на каждом этапе маршрутизации по направлению ИП случаев) в данном случае не учитывается, т.к. все случаи ИП направляются к врачу-онкологу, осмотр врачом-онкологом является заключительным этапом маршрутизации и для простоты расчета условно принято, что чувствительность диагностики ЦЗ врачом-онкологом равна 100%;

– SDFN<t+TP<tj = 79,1% (чувствительность диагностики ЦЗ врачами- дерматовенерологами по направлению ЛО и ИП случаев меланоцитарных и эпидермальных ЗНО кожи, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации [10]);

– N = 90 (39 меланом и 51 базалиома – количество случаев ЦЗ из выборки);

– SDnaim = 60,1% для врачей ВОП/терапевтов и взвешенная чувствительность 79,1% для врачей-дерматовенерологов [8–10].

Расчет:

.

Полученное значение RDAI означает, что на 1 случай ЦЗ, выявленный без применения моделей ИИ, приходится 1,9 случая ЦЗ, выявленного с применением моделей ИИ (в примере расчета на 42,8 случая приходится 81,5 случая). Это означает, что порог алгоритма выбран правильно, маршрутизация на основе алгоритмов диагностики с применением заключений программы ИИ увеличивает число выявленных случаев ЦЗ и данная программа ИИ повышает эффективность диагностики ЦЗ. Получение значения RDAI меньше 1 означало бы, что диагностика ЦЗ с применением моделей ИИ менее эффективна, чем диагностика ЦЗ без применения моделей ИИ. Результаты оценки эффективности представлены в таблице 1.

Таблица 1. Параметры и результаты выявления целевого заболевания при диагностике с использованием моделей искусственного интеллекта (программа Derma Оnko Сheck, все типы злокачественных новообразований кожи)

Table 1. Parameters and results of detecting a target disease during diagnosis with artificial intelligence models (Derma Onko Check program, all types of malignant skin neoplasms)

Параметр / Parameter

Значение / Value

Описание / Description

N

90

Общее количество случаев ЦЗ (ЗНО кожи) в выборке (39 меланом + 51 базалиома) / Total number of TDs (skin MNs) in the sample (39 melanomas + 51 basal cell carcinomas)

NTP ≥ t

72

ИП случаи ЦЗ, при которых вероятность наличия ЦЗ по заключению модели ИИ была равна или выше порога алгоритма маршрутизации (ИИ правильно направляет) / TP TDs where the probability of a TD according to the AI model output was equal to or higher than the routing algorithm threshold (AI guides correctly)

NTP<t

6

ИП случаи ЦЗ, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации / TP TDs where the probability of a TD according to the AI model output was below the routing algorithm threshold

NFN<t

6

ЛО случаи ЦЗ, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации / FN TDs where the probability of a TD according to the AI model output was below the routing algorithm threshold

SDFN<t+TP<tj , SDnaim

(врачи-дерматовенерологи // dermatologists/venereologists)

79,1%

Чувствительность диагностики ЦЗ врачами-дерматовенерологами // Sensitivity in detecting TDs by dermatologists/venereologists

SDnaim

(ВОП/терапевты // GPs/therapists)

60,1%

Чувствительность диагностики ЦЗ ВОП/терапевтами // Sensitivity in detecting TDs by GPs/therapists

RDai

1,9

Количество выявленных случаев ЗНО кожи при применении модели ИИ на один случай ЗНО, выявленный без применения модели ИИ / Number of MN cases detected using the AI model per one MN case detected without its use

Примечание. ЦЗ – целевое заболевание; ЗНО – злокачественное новообразование; ИП – истинно положительный случай; ЛО – ложноотрицательный случай; ИИ – искусственный интеллект; ВОП – врачи общей практики.

Note. TDs – target diseases; MN – malignant neoplasm; TP – true positive; FN – false negative; AI – artificial intelligence; GPs – general practitioners.

Формула 2 / Formula 2

Формула для расчета количества случаев ЦЗ, пропущенных при диагностике без применения моделей ИИ, на один пропущенный случай целевого заболевания при диагностике с применением моделей ИИ:

,

где RNDai – отношение количества всех недиагностированных, пропущенных случаев ЦЗ при диагностике без применения моделей ИИ на один пропущенный случай ЦЗ при диагностике с применением моделей ИИ; NNDai – количество всех недиагностированных, пропущенных случаев ЦЗ при диагностике с применением моделей ИИ; NNDnai – количество всех недиагностированных, пропущенных случаев ЦЗ при диагностике без применения моделей ИИ; N – количество случаев ЦЗ из выборки; П – произведение (набора чисел), произведение ряда; ∑ – сумма (набора чисел), сумма ряда; NNDnaii – количество недиагностированных, пропущенных случаев ЦЗ, рассчитанное как число ЦЗ, диагностированных на предыдущем этапе, умноженное на долю ЛО заключений врача-специалиста при диагностике без применения моделей ИИ на данном этапе маршрутизации; SDnaii – чувствительность (в %) диагностики ЦЗ врачом-специалистом без применения моделей ИИ на каждом этапе маршрутизации; n – количество этапов маршрутизации (каждый этап – это осмотр врачом-специалистом с проведением диагностических исследований по его назначению или без него); PRNDai – доля (в %) ЛО случаев ЦЗ (недиагностированных, пропущенных) при диагностике врачом-специалистом на конечном этапе маршрутизации; NFN≥t – количество ЛО случаев ЦЗ, при которых вероятность наличия ЦЗ по заключению модели ИИ была равна или выше порога алгоритма маршрутизации; NTP≥t – количество ИП случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была равна или выше порога алгоритма маршрутизации; NFN<t – количество ЛО случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации; NTP<t – количество ИП случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации; PRFN<t+TP<tj – доля (в %) ЛО случаев при диагностике врачом-специалистом на каждом этапе маршрутизации ЛО и ИП случаев ЦЗ, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации; PRTP≥tk – доля (в %) ЛО случаев при диагностике врачом-специалистом на каждом этапе при маршрутизации ИП случаев ЦЗ при установленном пороге алгоритма маршрутизации.

Пример оценки эффективности алгоритма диагностики для выявления количества пропущенных случаев ЦЗ

Пример расчета по формуле 2 при использовании алгоритмов с применением заключения программы ИИ Derma Оnko Сheck для диагностики меланоцитарных и эпидермальных ЗНО кожи:

– NFN≥t = 2 (количество ЛО случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была равна или выше порога алгоритма маршрутизации);

– N = 90 (количество всех случаев ЦЗ из выборки – 39 меланом и 51 базалиома);

– SDnaii = 60,1% (чувствительность диагностики ЦЗ ВОП/терапевтом на каждом этапе маршрутизации [9]);

– PRNDai = 20,9% (взвешенная доля ЛО случаев ЦЗ при диагностике врачами-дерматовенерологами);

– Nnaii = 35,9 (количество недиагностированных, пропущенных случаев (90 случаев ЦЗ (ЗНО кожи), умноженное на долю ЛО случаев заключений врача-специалиста, в данном случае ВОП/терапевта);

– NTP≥t (количество ИП случаев ЦЗ, при которых вероятность наличия ЦЗ по заключению модели ИИ была равна или выше порога алгоритма маршрутизации) в данном случае не учитывается, т.к. все ИП случаи ЦЗ направляются к врачу-онкологу, осмотр врачом-онкологом является заключительным этапом маршрутизации и для простоты расчета условно принято, что чувствительность диагностики ЦЗ врачом-онкологом равна 100%;

– PRTP≥tk (доля ЛО случаев ЦЗ при диагностике врачом-специалистом на каждом этапе при маршрутизации ИП случаев при установленном пороге алгоритма маршрутизации) в данном случае не определена, т.к. TP не учитывается;

– NFN<t = 6 (количество ЛО случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации);

– NTP<t = 6 (количество ИП случаев, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации);

– PRFN<t+TP<tj = 20,9% (доля ЛО случаев ЦЗ при диагностике врачом-специалистом на каждом этапе маршрутизации).

Расчет:

.

Полученное значение RNDAI означает, что на 1 случай пропущенного ЦЗ при диагностике с применением моделей ИИ приходится 10,5 случая пропущенного ЦЗ при диагностике без применения моделей ИИ (в примере расчета на 4,5 случая приходится 47,2 случая). Это означает, что порог алгоритма выбран правильно и маршрутизация на основе алгоритмов диагностики с применением заключений программы ИИ лучше выявляет ЦЗ, чем диагностика ЦЗ без применения моделей ИИ. Полученное значение RNDAI меньше 1 означало бы, что диагностика ЦЗ с применением моделей ИИ менее эффективна, чем диагностика ЦЗ без применения моделей ИИ. Результаты оценки эффективности представлены в таблице 2.

Таблица 2. Параметры и результаты пропусков целевого заболевания при диагностике с использованием моделей искусственного интеллекта (программа Derma Оnko Сheck, все типы злокачественных новообразований кожи)

Table 2. Parameters and results of missing a target disease during diagnosis with artificial intelligence models to establish a diagnosis (Derma Onko Check program, all types of malignant skin neoplasms)

Параметр / Parameter

Значение / Value

Описание / Description

N

90

Общее количество случаев ЦЗ (ЗНО кожи) в выборке (39 меланом + 51 базалиома) / Total number of TDs (skin MNs) in the sample (39 melanomas + 51 basal cell carcinomas)

NFN≥t

2

ЛО случаи ЦЗ, при которых вероятность наличия ЦЗ по заключению модели ИИ была равна или выше порога алгоритма маршрутизации / FN TDs where the probability of a TD according to the AI model output was equal to or higher than the routing algorithm threshold

NFN<t

6

ЛО случаи ЦЗ, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации / FN TDs where the probability of a TD according to the AI model output was below the routing algorithm threshold

NTP<t

6

ИП случаи ЦЗ, при которых вероятность наличия ЦЗ по заключению модели ИИ была ниже порога алгоритма маршрутизации / TP TDs where the probability of a TD according to the AI model output was below the routing algorithm threshold

SDnaii

(ВОП/терапевты // GPs/therapists)

60,1%

Чувствительность диагностики ЦЗ ВОП/терапевтами // Sensitivity in detecting TDs by GPs/therapists

PRNDai

(врачи-дерматовенерологи // dermatologists/venereologists)

20,9%

Взвешенная доля ЛО случаев ЦЗ (недиагностированных, пропущенных) при диагностике врачами-дерматовенерологами на конечном этапе маршрутизации // Weighted proportion of FN TDs (undiagnosed; missed) as diagnosed by dermatologists/venereologists at the final stage of routing

NNDnaii

35,9

Рассчитанное число пропущенных случаев ЦЗ без применения модели ИИ (90 × доля ЛО случаев у ВОП/терапевтов) // Estimated number of missed TDs without the use of the AI model (90 × proportion of FN cases as diagnosed by GPs/therapists)

PRFN<t+TP<tj

20,9 %

Доля ЛО случаев ЦЗ при диагностике врачами-дерматовенерологами // Proportion of FN TDs as diagnosed by dermatologists/venereologists

RNDai

10,5

Число пропущенных случаев ЦЗ при диагностике без применения модели ИИ на один пропущенный случай ЦЗ при применении модели ИИ / Number of missed TDs without the use of an AI model per one missed TD with its use

Примечание. ЦЗ – целевое заболевание; ЗНО – злокачественное новообразование; ИИ – искусственный интеллект; ЛО – ложноотрицательный случай; ИП – истинно положительный случай; ВОП – врачи общей практики.

Note. TDs – target diseases; MN – malignant neoplasm; AI – artificial intelligence; FN – false negative; TP – true positive; GPs – general practitioners.

Анализ относительной эффективности алгоритма / Analysis of algorithm relative effectiveness

Количественная оценка

Для количественной оценки относительной эффективности алгоритма диагностики с применением программы ИИ Derma Onko Check по сравнению со стандартной диагностикой без применения моделей ИИ были рассчитаны показатели RDai (кратность увеличения выявления случаев ЦЗ) и RNDai (кратность снижения пропусков случаев ЦЗ). Полученные значения составили: RDai = 1,9 и RNDai = 10,5.

На рисунке 2 представлены диаграммы, иллюстрирующие результаты количественной оценки. Точка, соответствующая сценарию маршрутизации при алгоритме диагностики с применением модели ИИ, располагается значительно выше линии равной эффективности (y = x), что подтверждает преимущество технологии ИИ: выявление ЦЗ увеличивается в 1,9 раза, а число пропущенных случаев ЦЗ снижается в 10,5 раза по сравнению с традиционной маршрутизацией при диагностике.

Рисунок 2. Визуализация результатов количественной оценки относительной эффективности алгоритма маршрутизации на основе заключений программы искусственного интеллекта (ИИ) Derma Onko Check:

a – эффективность выявления злокачественных случаев (RDai); b – эффективность снижения количества пропусков злокачественных случаев (RNDai)

Figure 2. Visualized results of quantitatively assessing the relative efficacy of the routing algorithm based on the output of an AI-based program (Derma Onko Check):

a – efficacy in detecting malignant cases (RDai); b – efficacy in reducing the number of missed malignant cases (RNDai)

Комплексная оценка (квадрантная матрица)

Для комплексной оценки клинико-диагностической и организационно-распорядительной эффективности диагностики с применением технологий ИИ разработана квадрантная матрица (рис. 3), в которой ось абсцисс отражает кратность увеличения выявления случаев ЦЗ (RDai), а ось ординат – кратность снижения пропусков случаев ЦЗ (RNDai). Матрица разделена на четыре квадранта.

Рисунок 3. Плоскостная визуализация показателей относительной эффективности алгоритма маршрутизации на основе заключений программы искусственного интеллекта (ИИ) Derma Onko Check

Figure 3. Two-dimensional visualization of relative efficacy indicators for the routing algorithm based on the output of an AI-based program (Derma Onko Check)

Квадрант I (более эффективна: выявляет больше, пропускает меньше) – желательная зона для оценки эффективности. Результаты применения технологии, располагающиеся в этом квадранте, характеризуются одновременным увеличением числа выявленных случаев ЦЗ и снижением пропусков случаев ЦЗ. Такие технологии обладают высокой клинико-диагностической и организационно-распорядительной эффективностью, что и обосновывает их приоритетное внедрение в процессы оказания медицинской помощи.

Квадрант II (выявляет больше, пропускает больше) – неоднозначная зона при оценке эффективности. Выявляемость случаев ЦЗ выше, чем без применения технологии, но и число пропущенных случаев ЦЗ больше, чем при традиционной диагностике, что требует дополнительных исследований безопасности и оптимизации пороговых значений.

Квадрант III (менее эффективна: выявляет меньше, пропускает больше) – нежелательная зона при оценке эффективности. Результаты применения технологии, располагающиеся в этом квадранте, указывают на снижение как выявляемости ЦЗ, так и полноты диагностики. Технология не рекомендуется к внедрению.

Квадрант IV (выявляет меньше, пропускает меньше) – неоднозначная зона при оценке эффективности. Снижение пропусков случаев ЦЗ сопровождается уменьшением общего числа выявленных случаев ЦЗ, что требует тщательной оценки и изменения порога, а возможно, и самой технологии.

Точка сценария с применением программы ИИ Derma Onko Check (RDai = 1,9; RNDai = 10,5) располагается в квадранте I, что свидетельствует о значительном превосходстве над стандартной диагностикой и подтверждает целесообразность интеграции алгоритма диагностики с применением заключений модели ИИ в клиническую практику.

Полученные результаты подтверждают правильность выбранного порога алгоритма маршрутизации (62%) и высокую ценность разработанного алгоритма для оптимизации диагностики ЦЗ (в данном примере ЗНО кожи).

Программная реализация / Software implementation

Для облегчения практического использования предложенных формул и обеспечения воспроизводимости результатов авторами разработано мобильное приложение для Android – программа для ЭВМ для автоматизированного расчета эффективности диагностики ЦЗ с использованием ИИ AI-diagnostic efficiency calculator (CalcRDAI&RNDAI), предназначенная для автоматизированного расчета показателей и оценки относительной эффективности диагностики RDai и RNDai2.

Приложение может быть использовано в научно-исследовательской работе, при оценке новых моделей ИИ, а также в процессе обоснования внедрения технологий ИИ в клиническую практику.

Примеры экранов ввода параметров и расчетов RDai, RNDai, результата расчетов и визуализации их в квадрантной матрице представлены в Приложении 13.

Моделирование двух сценариев маршрутизации пациентов при диагностике ЗНО кожи показало, что применение алгоритма на основе заключений модели ИИ Derma Onko Check (порог 62%) увеличивает выявление случаев ЗНО в 1,9 раза (RDai = 1,9) и снижает число пропущенных случаев в 10,5 раза (RNDai = 10,5) по сравнению со стандартной маршрутизацией (ВОП/терапевт → дерматовенеролог → онколог). Точка алгоритма с ИИ расположена в квадранте I квадрантной матрицы эффективности (выявляется больше, пропускается меньше), что подтверждает его высокую клинико-диагностическую и организационную ценность.

Результаты полностью подтверждают гипотезу: интеграция ИИ в многоэтапные алгоритмы диагностики существенно повышает эффективность выявления ЦЗ за счет компенсации ограниченной чувствительности первичного звена и оптимизации потоков пациентов.

Предложенный метод согласуется с современными подходами к оценке эффективности здравоохранения. Как и в концепции регулирующего эффекта системы здравоохранения [12], коэффициенты RDai и RNDai соизмеряют прирост результатов (выявленные случаи, сохраненные человеко-годы жизни) с диагностическими затратами. В отличие от традиционных методов клинико-экономического анализа медицинских технологий [13], ориентированных на отдельные изделия или организации, наш подход учитывает каскадный характер ошибок в реальной маршрутизации, что делает его подходящим для оценки цифровых решений.

Результаты углубляют понимание роли ИИ в клинической практике, эффективность зависит не только от точности модели, но и от ее интеграции в существующие маршруты. Предложенные формулы и матрица могут служить инструментом для обоснования внедрения ИИ в клинические рекомендации.

Преимущества метода: универсальность (он применим к любым нозологиям и этапам), простота расчета и визуализации, автоматизация через приложение CalcRDAI&RNDAI, учет реальной чувствительности специалистов.

Ограничения: ретроспективные данные ограниченного объема (381 случай, 1 нозология), данные о чувствительности специалистов взяты из литературы, не учтены прямые затраты на ИИ.

Перспективы: проспективная валидация на других заболеваниях, расчет медико-экономической эффективности (анализ «затраты – эффективность»), сравнение моделей ИИ в единой матрице, интеграция в региональные методические рекомендации.

Разработанный способ предоставляет объективный инструментарий для оценки и обоснования внедрения технологий ИИ в систему здравоохранения.

ЗАКЛЮЧЕНИЕ / CONCLUSION

Предложенный нами способ оценки эффективности диагностики ЦЗ при помощи алгоритмов на основании заключений моделей ИИ с использованием разработанных нами оригинальных расчетных формул RDai и RNDai с визуализацией результата оценки в виде квадрантной матрицы представляет собой простой объективный инструментарий для анализа клинико-диагностической и организационно-распорядительной эффективности технологий ИИ в многоэтапной диагностической маршрутизации.

В приведенном примере оценки применение программы ИИ Derma Onko Check с выбранным порогом 62% демонстрирует значительное преимущество перед традиционной диагностикой: выявление ЗНО кожи увеличивается в 1,9 раза, а число пропущенных случаев ЗНО кожи снижается в 10,5 раза. Полученные результаты подтверждают целесообразность и приоритетность внедрения данной технологии ИИ в клиническую практику, а простота и универсальность предложенного способа позволяют использовать его при оценке технологий диагностики с многоэтапными алгоритмами в других областях клинической медицины.

1. Программа государственных гарантий бесплатного оказания гражданам медицинской помощи на 2025 год, утвержденная постановлением Правительства Российской Федерации от 27 декабря 2024 г. № 1940; приказ Министерства здравоохранения Российской Федерации от 19 февраля 2021 г. № 116н «Об утверждении Порядка оказания медицинской помощи взрослому населению при онкологических заболеваниях»; приказ Министерства здравоохранения Российской Федерации от 24 марта 2016 г. № 179н «О Правилах проведения патолого-анатомических исследований».

2. Свидетельство о государственной регистрации программы для ЭВМ № 2026… Российская Федерация. Программа для ЭВМ для автоматизированного расчeта эффективности диагностики целевого заболевания с использованием искусственного интеллекта “AI-diagnostic efficiency calculator” (CalcRDAI&RNDAI): заявл. 10.02.2026 : опубл. ….02.2026 / Д.И. Корабельников, А.И. Ламоткин; заявитель Автономная некоммерческая организация дополнительного профессионального образования «Московский медико-социальный институт имени Ф.П. Гааза».

3. См. электронную версию журнала: https://pharmacoeconomics.ru.

Список литературы

1. Behara K., Bhero E., Agee J.T. AI in dermatology: a comprehensive review into skin cancer detection. Peer J Comput Sci. 2024; 10: e2530. https://doi.org/10.7717/peerj-cs.2530.

2. Sangers T.E., Wakkee M., Moolenburgh F.J., et al. Towards successful implementation of artificial intelligence in skin cancer care: a qualitative study exploring the views of dermatologists and general practitioners. Arch Dermatol Res. 2023; 315 (5): 1187–95. https://doi.org/10.1007/s00403-022-02492-3.

3. Ламоткин А.И., Корабельников Д.И., Олисова О.Ю., Ламоткин И.А. Алгоритм маршрутизации пациентов при применении программы искусственного интеллекта «Derma Onko Check» при дифференциальной диагностике новообразований кожи. Современные проблемы здравоохранения и медицинской статистики. 2025; 5: 139–59. https://doi.org/10.24412/2312-2935-2025-5-139-159.

4. Корабельников Д.И., Ламоткин А.И. Алгоритм маршрутизации пациентов при дифференциальной диагностике новообразований кожи при сочетанном применении программ искусственного интеллекта Derma Onko Check и Melanoma Check. Клинический разбор в общей медицине. 2025; 6 (12): 71–9. https://doi.org/10.47407/kr2025.6.11.00715.

5. Ламоткин А.И., Корабельников Д.И., Ламоткин И.А. Алгоритм маршрутизации пациентов при дифференциальной диагностике новообразований кожи с использованием программы искусственного интеллекта Melanoma Check. Медицинский вестник ГВКГ им. Н.Н. Бурденко. 2025; 4: 6–13. https://doi.org/10.53652/2782-1730-2025-6-4-06-13.

6. Ламоткин А.И., Корабельников Д.И., Ламоткин И.А. Предварительная дифференциальная диагностика доброкачественных и злокачественных опухолей из эпидермальной ткани кожи с применением программы искусственного интеллекта «Derma Onko Check». Современные проблемы здравоохранения и медицинской статистики. 2025; 2: 223–42. https://doi.org/10.24412/2312-2935-2025-2-223-242.

7. Ламоткин А.И., Корабельников Д.И., Ламоткин И.А. и др. Точность предварительной диагностики злокачественных меланоцитарных опухолей кожи с помощью программы искусственного интеллекта. Медицинский вестник ГВКГ им. Н.Н. Бурденко. 2025; 1: 42–51. https://doi.org/10.53652/2782-1730-2025-6-1-42-51.

8. De Bedout V., Williams N.M., Muñoz A.M., et al. Skin cancer and dermoscopy training for primary care physicians: a pilot study. Dermatol Pract Concept. 2021; 11 (1): e2021145. https://doi.org/10.5826/dpc.1101a145.

9. Неретин Е.Ю., Титов К.С., Запиров Г.М. Первичная ранняя диагностика меланомы кожи после индивидуального обучения врачей. Клиническая дерматология и венерология. 2023; 22 (1): 99–105. https://doi.org/10.17116/klinderma20232201199.

10. Chen J.Y., Fernandez K., Fadadu R.P., et al. Skin cancer diagnosis by lesion, physician, and examination type: a systematic review and meta-analysis. JAMA Dermatol. 2025; 161 (2): 135–46. https://doi.org/10.1001/jamadermatol.2024.4382.

11. Омельяновский В.В., Горкавенко Ф.В., Рягина В.А. и др. Основные подходы к оценке цифровых медицинских продуктов и сервисов в Российской Федерации. ФАРМАКОЭКОНОМИКА. Современная фармакоэкономика и фармакоэпидемиология. 2025; 18 (4): 473–82. https://doi.org/10.17749/2070-4909/farmakoekonomika.2025.349.

12. Бабенко А.И., Пушкарев О.В. Методологические основы комплексной оценки медико-экономической эффективности здравоохранения. Бюллетень Сибирского отделения Российской академии медицинских наук. 2014; 34 (2): 89–94.

13. Краснова Л.С., Арькова Е.С., Лучинин Е.А., Холовня-Волоскова М.А. Методические рекомендации по организации и проведению клинико-экономического анализа медицинских изделий. М.: ГБУЗ «Научно-исследовательский институт организации здравоохранения и медицинского менеджмента Департамента здравоохранения города Москвы»; 2022: 60 с.


Об авторах

Д. И. Корабельников
Автономная некоммерческая организация дополнительного профессионального образования «Московский медико-социальный институт им. Ф.П. Гааза»
Россия

Корабельников Даниил Иванович, к.м.н., доцент

2-я Брестская ул., д. 5, Москва 123056



А. И. Ламоткин
Автономная некоммерческая организация дополнительного профессионального образования «Московский медико-социальный институт им. Ф.П. Гааза»
Россия

Ламоткин Андрей Игоревич

2-я Брестская ул., д. 5, Москва 123056



Дополнительные файлы

1. Приложение 1
Тема
Тип Исследовательские инструменты
Скачать (1MB)    
Метаданные ▾

Что уже известно об этой теме?

 Системы искусственного интеллекта (ИИ) повышают чувствительность диагностики социально значимых заболеваний, например выявления злокачественных новообразований кожи

 Многоэтапная маршрутизация пациентов при диагностическом поиске сопряжена с высоким риском пропуска случаев целевых заболеваний, особенно при оказании первичной медико-санитарной помощи

 Применение алгоритмов диагностики на основе заключений моделей ИИ может улучшить качество диагностики, оптимизировать маршрутизацию пациентов, сокращая время диагностики и нагрузку на врачей-специалистов и систему здравоохранения

Что нового дает статья?

 Разработаны оригинальные универсальные формулы RDai и RNDai для оценки эффективности моделей ИИ в многоэтапной маршрутизации при диагностике заболеваний

 Предложена квадрантная матрица эффективности, позволяющая визуально классифицировать относительную эффективность диагностических технологий по соотношению выявленных и пропущенных случаев целевых заболеваний

Как это может повлиять на клиническую практику в обозримом будущем?

 Предложенные формулы и квадрантная матрица могут стать методологическим инструментом для анализа эффективности и обоснования внедрения технологий ИИ в систему оказания медицинской помощи

 Технологии диагностики, подтвердившие клиническую эффективность, могут получать приоритет для интеграции в алгоритмы клинической диагностики

 Снижение числа пропущенных случаев и оптимизация нагрузки на врачей-специалистов и систему оказания медицинской помощи улучшат результаты ранней диагностики заболеваний

Рецензия

Для цитирования:


Корабельников Д.И., Ламоткин А.И. Способ оценки эффективности диагностики с использованием алгоритмов на основании заключений моделей искусственного интеллекта. ФАРМАКОЭКОНОМИКА. Современная фармакоэкономика и фармакоэпидемиология. 2026;1(19):79-91. https://doi.org/10.17749/2070-4909/farmakoekonomika.2026.355

For citation:


Korabelnikov D.I., Lamotkin A.I. A method for evaluating diagnostic effectiveness using algorithms based on opinion obtained from artificial intelligence models. FARMAKOEKONOMIKA. Modern Pharmacoeconomics and Pharmacoepidemiology. 2026;1(19):79-91. (In Russ.) https://doi.org/10.17749/2070-4909/farmakoekonomika.2026.355

Просмотров: 480

JATS XML


Creative Commons License
Контент доступен под лицензией Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.


ISSN 2070-4909 (Print)
ISSN 2070-4933 (Online)