Методология анализа причин ошибочной классификации фотоизображений программами компьютерного зрения на основе искусственного интеллекта в медицинской визуализации

Актуальность. Внедрение программ компьютерного зрения (ПКЗ) на основе технологий искусственного интеллекта (ИИ) в практику медицинской диагностики предъявляет принципиально новые требования к качеству входных фотоизображений. Условия фотосъемки в различных областях медицины существенно различаются, в связи с чем референсные диапазоны фотометрических и текстурных параметров, при которых модели ИИ обеспечивают воспроизводимую диагностическую точность, должны устанавливаться отдельно для каждой предметной области. Систематический анализ причин ошибочных заключений ПКЗ выступает необходимым условием их клинического применения и совершенствования.

Цель: разработка обобщенной методологии анализа причин ошибочной классификации фотоизображений ПКЗ на основе моделей ИИ, обеспечивающей установление референсных диапазонов фотометрических и текстурных параметров для конкретной области медицинской визуализации, а также формирование критериев исключения изображений с аномальными значениями параметров при работе модулей предобработки в составе медицинских приложений.

Материал и методы. Методология включает восемь последовательных этапов. Сформирован набор фотоизображений с верифицированными заключениями на основани гистологических исследований и дерматоскопии, осуществлена их классификация ПКЗ и категоризация заключений по четырем стандартным категориям (истинно положительные, истинно отрицательные, ложноположительные, ложноотрицательные). Для каждого фотоизображения вычисляли набор из 13 фотометрических и текстурных метрик качества: яркость, контраст, резкость, энтропия, высокочастотная насыщенность, доли пересвеченных и затемненных пикселей, средние значения и стандартные отклонения цветовых каналов. Систематические межгрупповые различия выявляли посредством однофакторного дисперсионного анализа (англ. ANalysis Of VAriance, ANOVA), критерия Уэлча и корреляционного анализа по Спирмену. Локализацию областей фотоизображений, определяющих решение нейронной сети, осуществляли методами объяснимого ИИ. Референсные диапазоны устанавливали по характеристикам правильно классифицированных фотоизображений (категории истинно положительных и истинно отрицательных результатов) как интервалы [mean − 2·std; mean + 2·std]. Эффективность нормализации параметров оценивали по приросту точности, чувствительности и специфичности.

Результаты. На примере дерматологических ПКЗ Derma Onko Check и Melanoma Check показано, что предложенная методология позволяет выявить статистически значимые межгрупповые различия фотометрических и текстурных параметров (F=13,50–39,31 и p<0,001 для основных метрик ANOVA; F=5,41–72,29 и p<0,001 для категории заключения по ANOVA), подтвердить независимость закономерностей от программы ПКЗ (p=0,39–0,96 для фактора программы; p=0,15–0,92 для эффекта взаимодействия), верифицировать различие групп заключений ПКЗ по совокупности метрик (лямбда Уилкса 0,639; F=10,37; p<0,001) при многомерном анализе и установить ключевые независимые предикторы ошибочного заключения по логистической регрессии (размытие по быстрому преобразованию Фурье: отношение шансов (англ. odds ratio, OR) 3,08; резкость: OR 0,31; доля пересвеченных пикселей: OR 1,64). Установлены референсные диапазоны яркости (0,467–0,942), контраста (0,066–0,333), энтропии (3,626–5,590) и высокочастотной насыщенности (23,82–56,48), а также критические пороги (доля пересвеченных или затемненных пикселей более 55%), при превышении которых фотоизображение исключается из инференса. Применение модуля адресной предобработки, нормализующего отклоняющиеся параметры до референсных диапазонов, обеспечило прирост диагностической точности на +0,014–0,017 в абсолютных значениях во всех исследованных конфигурациях ПКЗ при преимущественном повышении специфичности (+0,015–0,019).

Заключение. Предложенная методология анализа причин ошибочной классификации фотоизображений с помощью ПКЗ апробирована в ПКЗ Derma Onko Check и Melanoma Check на ограниченной выборке (460 фотоизображений, две морфологические подгруппы меланоцитарных опухолей кожи). Распространение методологии и установленных референсных диапазонов на другие области медицинской визуализации (офтальмологию, гистологию, ультразвуковую диагностику), где условия получения фотоизображений принципиально различаются, требует валидации на представительных мультицентровых выборках с пересчетом референсных диапазонов параметров в соответствии с условиями получения фотоизображений каждой предметной области. Реализация в составе программ модулей исключения изображений с аномальными значениями метрик является закономерным практическим следствием применения методологии и обеспечивает воспроизводимое повышение клинической точности систем ПКЗ на основе ИИ.

1. Ламоткин А.И., Корабельников Д.И., Олисова О.Ю., Ламоткин И.А. Эффективность предварительной дифференциальной диагностики доброкачественных и злокачественных новообразований кожи с помощью программы искусственного интеллекта Derma Onko Check. ФАРМАКОЭКОНОМИКА. Современная фармакоэкономика и фармакоэпидемиология. 2025; 18 (2): 261–70. https://doi.org/10.17749/2070-4909/farmakoekonomika.2025.294.

2. Nadour N., Duguet T., Zahedi S., et al. Diagnostic accuracy of artificial intelligence compared to family physicians and dermatologists for skin conditions: a systematic review and meta-analysis. BMC Prim Care. 2025; 26 (1): 384. https://doi.org/10.1186/s12875-025-03073-9.

3. Zapata M.A., Royo-Fibla D., Font O., et al. Artificial intelligence to identify retinal fundus images, quality validation, laterality evaluation, macular degeneration, and suspected glaucoma. Clin Ophthalmol. 2020; 14: 419–29. https://doi.org/10.2147/OPTH.S235751.

4. Prasad P., Khair A.M.B., Saeed M., Shetty N. Artificial intelligence in histopathology. J Pharm Bioallied Sci. 2024; 16 (Suppl. 5): S4226–9. https://doi.org/10.4103/jpbs.jpbs_727_24.

5. Khalaf K., Terrin M., Jovani M., et al. A comprehensive guide to artificial intelligence in endoscopic ultrasound. J Clin Med. 2023; 12 (11): 3757. https://doi.org/10.3390/jcm12113757.

6. Qamar T., Bawany N.Z. Understanding the black-box: towards interpretable and reliable deep learning models. Peer J Comput Sci. 2023; 9: e1629. https://doi.org/10.7717/peerj-cs.1629.

7. Evans H., Snead D. Understanding the errors made by artificial intelligence algorithms in histopathology in terms of patient impact. NPJ Digit Med. 2024; 7 (1): 89. https://doi.org/10.1038/s41746-024-01093-w.

8. Корабельников Д.И., Ламоткин А.И. Анализ причин ошибочной классификации изображений немеланоцитарных опухолей кожи программами на основе технологий искусственного интеллекта. Сибирский журнал клинической и экспериментальной медицины. 2026; 41 (1): 221–31. https://doi.org/10.29001/2073-8552-2026-2881.

9. Daneshjou R., Vodrahalli K., Novoa R.A., et al. Disparities in dermatology AI performance on a diverse, curated clinical image set. Sci Adv. 2022; 8 (32): eabq6147. https://doi.org/10.1126/sciadv.abq6147.

10. Daneshjou R., Smith M.P., Sun M.D., et al. Lack of transparency and potential bias in artificial intelligence data sets and algorithms: a scoping review. JAMA Dermatol. 2021; 157 (11): 1362–9. https://doi.org/10.1001/jamadermatol.2021.3129.

11. Liopyris K., Gregoriou S., Dias J., Stratigos A.J. Artificial Intelligence in dermatology: challenges and perspectives. Dermatol Ther. 2022; 12 (12): 2637–51. https://doi.org/10.1007/s13555-022-00833-8.

12. Haggenmüller S., Maron R.C., Hekler A., et al. Skin cancer classification via convolutional neural networks: systematic review of studies involving human experts. Eur J Cancer. 2021; 156: 202–16. https://doi.org/10.1016/j.ejca.2021.06.049.