farmaecFARMAKOEKONOMIKA. Modern Pharmacoeconomics and PharmacoepidemiologyФАРМАКОЭКОНОМИКА. Современная фармакоэкономика и фармакоэпидемиология2070-49092070-4933IRBIS LLC10.17749/2070-4909/farmakoekonomika.2023.222farmaec-951Research ArticleREVIEW ARTICLESОБЗОРНЫЕ ПУБЛИКАЦИИLegal particularities of AI technology usage in real-world data formationПравовые особенности использования технологий искусственного интеллекта в формировании данных реальной клинической практикиhttps://orcid.org/0000-0003-3136-8054МаличенкоВ. С.MalichenkoV. S.

Маличенко Владислав Сергеевич – старший научный сотрудник отдела социального законодательства; научный сотрудник Института исследований национального и сравнительного права факультета права

Scopus Author ID: 56364951200 

Большой Харитоньевский пер., д. 24, Москва 107078, Россия 

 Покровский б-р, д. 11, Москва 109028, Россия 

Vladislav S. Malichenko – Senior Researcher, Department of Social Legislation;  Researcher, Institute of National and Comparative Legal Studies, Faculty of Law

Scopus Author ID: 56364951200 

24 Bolshoy Kharitonyevsky Passage, Moscow 107078, Russia 

11 Pokrovskiy Blvd, Moscow 109028, Russia 

https://orcid.org/0000-0002-3971-4903ГаджиеваА. О.GadzhievaA. O.

Гаджиева Альбина Омаровна – заместитель декана, директор Института исследований национального и сравнительного права, доцент Департамента публичного права факультета права 

Покровский б-р, д. 11, Москва 109028, Россия 

Albina O. Gadzhieva – Deputy Dean, Director of Institute of National and Comparative Legal Studies, Associate Professor, Department of Public Law, Faculty of Law

11 Pokrovskiy Blvd, Moscow 109028, Russia 

https://orcid.org/0000-0002-2603-3025ПлатоноваН. И.PlatonovaN. I.

Платонова Наталья Игоревна – к.ю.н., доцент кафедры конституционного права факультета права 

пр-т Вернадского, д. 76, Москва 119454, Россия 

Natalya I. Platonova – PhD (Law), Associate Professor, Chair of Constitutional Law, Faculty of Law

Scopus Author ID: 57211292674 

76 Vernadsky Ave., Moscow 119454, Russia 

https://orcid.org/0000-0001-6659-361XСоловьёва-ОпошнянскаяА. Ю.Solovieva-OposhnyanskayaA. Yu.

Соловьёва-Опошнянская Анна Юрьевна – эксперт Института исследований национального и сравнительного права факультета права ФГАОУ ВО «Национальный исследовательский университет «Высшая школа экономики»; преподаватель кафедры государственного регулирования факультета управления и политики

WoS ResearcherID: F-2988-2015

Покровский б-р, д. 11, Москва 109028, Россия 

пр-т Вернадского, д. 76, Москва 119454, Россия 

Anna Yu. Solovieva-Oposhnyanskaya – Expert, Institute of National and Comparative Legal Studies, Faculty of Law; Lecturer, Chair of State Regulation, Faculty of Management and Politics

WoS ResearcherID: F-2988-2015 

11 Pokrovskiy Blvd, Moscow 109028, Russia 

76 Vernadsky Ave., Moscow 119454, Russia 

 

aysoloveva@hse.ruФедеральное государственное научно-исследовательское учреждение «Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации»; Федеральное государственное автономное образовательное учреждение высшего образования «Национальный исследовательский университет «Высшая школа экономики»РоссияInstitute of Legislation and Comparative Law under the Government of the Russian Federation; National Research University “Higher School of Economics”Russian FederationФедеральное государственное автономное образовательное учреждение высшего образования «Национальный исследовательский университет «Высшая школа экономики»РоссияNational Research University “Higher School of Economics” Russian FederationФедеральное государственное автономное образовательное учреждение высшего образования «Московский государственный институт международных отношений (университет)» Министерства иностранных дел Российской ФедерацииРоссияMoscow State Institute of International Relations (University)Russian FederationФедеральное государственное автономное образовательное учреждение высшего образования «Национальный исследовательский университет «Высшая школа экономики»; Федеральное государственное автономное образовательное учреждение высшего образования «Московский государственный институт международных отношений (университет)» Министерства иностранных дел Российской ФедерацииРоссияNational Research University “Higher School of Economics”; Moscow State Institute of International Relations (University)Russian Federation202330122023164657670Copyright © Malichenko V.S., Gadzhieva A.O., Platonova N.I., Solovieva-Oposhnyanskaya A.Y., 20242024Маличенко В.С., Гаджиева А.О., Платонова Н.И., Соловьёва-Опошнянская А.Ю.Malichenko V.S., Gadzhieva A.O., Platonova N.I., Solovieva-Oposhnyanskaya A.Y.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.pharmacoeconomics.ru/jour/article/view/951

In recent decades, technological progress has contributed to a consistent change in approaches to organizing the provision of medical care in various regions of the world. Electronic data-gathering systems make it possible to create extensive information databases about the health status of the population of certain territories or entire states. The introduction of technological solutions based on the use of artificial intelligence (AI) technologies makes it possible to provide a systematic analysis of large volumes of information, as well as to develop new treatment methods of life-threatening diseases. The use of AI technologies not only has significant potential for improving the organization of medical care, but also brings essential risks of human rights restriction, it may also form discriminatory practices or even cause harm to health. The authors demonstrate the importance of AI technologies in improving separate stages of medical care and the circulation of healthcare technologies, and also present various approaches to defining the notion of “artificial intelligence”, that is a crucial element in specifying the object of legal regulation. The article systematizes the list of threats and challenges to human security associated with the use of AI technologies. The development of legal regulation of this sphere at the national (United States of America) and supranational (European Union) levels is analyzed, and also the main directions of development of this field in the Russian Federation are presented.

Технологический прогресс последних десятилетий способствовал последовательному изменению подходов к организации оказания медицинской помощи в различных регионах мира. Электронные системы сбора данных позволяют формировать обширные информационные базы о состоянии здоровья населения определенных территорий или целых государств. Внедрение технологических решений, основанных на использовании технологий искусственного интеллекта (ИИ), обеспечивает возможность проведения системного анализа больших объемов информации, а также содействует разработке новых методов лечения жизнеугрожающих заболеваний. Применение технологий ИИ не только обладает значительным потенциалом в отношении улучшения организации оказания медицинской помощи, но также создает существенные риски в области ограничения прав человека, формирования дискриминационных практик или нанесения вреда здоровью. В статье продемонстрировано значение технологий ИИ в совершенствовании отдельных этапов оказания медицинской помощи и обращения технологий здравоохранения, а также приведены различные подходы к определению понятия «искусственный интеллект», что является важным элементом конкретизации объекта нормативно-правового регулирования. Cистематизирован перечень угроз и вызовов безопасности человека, сопряженный с использованием технологий ИИ. Проведен анализ развития нормативно-правового регулирования применения технологий ИИ на национальном (Соединенные Штаты Америки) и наднациональном (Европейский союз) уровнях, а также представлены основные направления становления данной сферы в Российской Федерации.

Искусственный интеллектИИправо на здоровьеданные реальной клинической практикитехнологии здравоохраненияперспективы внедрения ИИArtificial intelligenceAIright to healthreal-world dataRWDreal-world evidenceRWEhealthcare technologiesprospects of AI implementationReferencesМаличенко В.С. Роль международно-правового регулирования передачи технологий в обеспечении безопасности человека. Журнал зарубежного законодательства и сравнительного правоведения. 2020; 3: 130–46. https://doi.org/10.12737/jflcl.2020.023.Malichenko V.S. The role of international legal regulation of technology transfer in ensuring human security. Journal of Foreign Legislation and Comparative Law. 2020; 3: 130–46 (in Russ.). https://doi.org/10.12737/jflcl.2020.023.Copeland B.J. Artificial intelligence. URL: https://www.britannica.com/technology/artificial-intelligence (дата обращения 10.11.2023).Copeland B.J. Artificial intelligence. Available at: https://www.britannica.com/technology/artificial-intelligence (accessed 10.11.2023).Academy of Medical Royal Colleges. Artificial intelligence in healthcare. URL: https://www.aomrc.org.uk/wp-content/uploads/2019/01/Artificial_intelligence_in_healthcare_0119.pdf (дата обращения 12.11.2023).Academy of Medical Royal Colleges. Artificial intelligence in healthcare. Available at: https://www.aomrc.org.uk/wp-content/uploads/2019/01/Artificial_intelligence_in_healthcare_0119.pdf (accessed 12.11.2023).European Comission. Communication artificial intelligence for Europe. URL: https://digital-strategy.ec.europa.eu/en/library/communicationartificial-intelligence-europe (дата обращения 12.11.2023).European Comission. Communication artificial intelligence for Europe. Available at: https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe (accessed 12.11.2023).OECD Legal Instruments. Recommendation of the Council on Artificial Intelligence. URL: https://legalinstruments.oecd.org/api/print?ids=648&lang=en (дата обращения 09.11.2023).OECD Legal Instruments. Recommendation of the Council on Artificial Intelligence. Available at: https://legalinstruments.oecd.org/api/print?ids=648&lang=en (accessed 09.11.2023).AlAhmad Y.M., Haggeer D.M., Alsayed A., et al. The effect of telemedicine on patients’ compliance in family medicine follow-ups in Qatar. Avicenna. 2022; 1: 3. https://doi.org/10.5339/avi.2022.3.AlAhmad Y.M., Haggeer D.M., Alsayed A., et al. The effect of telemedicine on patients’ compliance in family medicine follow-ups in Qatar. Avicenna. 2022; 1: 3. https://doi.org/10.5339/avi.2022.3.Fingas J. IBM’s Watson AI saved a woman from leukemia. URL: https://www.engadget.com/2016-08-07-ibms-watson-ai-saved-awoman-from-leukemia.html (дата обращения 12.11.2023).Fingas J. IBM’s Watson AI saved a woman from leukemia. Available at: https://www.engadget.com/2016-08-07-ibms-watson-ai-saved-awoman-from-leukemia.html (accessed 12.11.2023).Yasaka K., Akai H., Abe O., Kiryu S. Deep learning with convolutional neural network for differentiation of liver masses at dynamic contrastenhanced CT: a preliminary study. Radiology. 2018; 286 (3): 887–96. https://doi.org/10.1148/radiol.2017170706.Yasaka K., Akai H., Abe O., Kiryu S. Deep learning with convolutional neural network for differentiation of liver masses at dynamic contrastenhanced CT: a preliminary study. Radiology. 2018; 286 (3): 887–96. https://doi.org/10.1148/radiol.2017170706.Chilamkurthy S., Ghosh R., Tanamala S., Biviji M., et al. Deep learning algorithms for detection of critical findings in head CT scans: a retrospective study. Lancet. 2018; 392 (10162): 2388–96. https://doi.org/10.1016/S0140-6736(18)31645-3.Chilamkurthy S., Ghosh R., Tanamala S., Biviji M., et al. Deep learning algorithms for detection of critical findings in head CT scans: a retrospective study. Lancet. 2018; 392 (10162): 2388–96. https://doi.org/10.1016/S0140-6736(18)31645-3.Galloway C., Valys A., Shreibati J., et al. Development and validation of a deep-learning model to screen for hyperkalemia from the electrocardiogram. JAMA Cardiol. 2019; 4 (5): 428–36. https://doi.org/10.1001/jamacardio.2019.0640.Galloway C., Valys A., Shreibati J., et al. Development and validation of a deep-learning model to screen for hyperkalemia from the electrocardiogram. JAMA Cardiol. 2019; 4 (5): 428–36. https://doi.org/10.1001/jamacardio.2019.0640.Ding Y., Sohn J., Kawczynski M., et al. A deep learning model to predict a diagnosis of Alzheimer disease by using F-FDG PET of the brain. Radiology. 2019; 290 (2): 456–64. https://doi.org/10.1148/radiol.2018180958.Ding Y., Sohn J., Kawczynski M., et al. A deep learning model to predict a diagnosis of Alzheimer disease by using F-FDG PET of the brain. Radiology. 2019; 290 (2): 456–64. https://doi.org/10.1148/radiol.2018180958.Geras K.J., Wolfson S., Shen Y., et al. High-resolution breast cancer screening with multi-view deep convolutional neural networks. arXiv. 2017; 1703.07047. https://doi.org/10.48550/arXiv.1703.07047.Geras K.J., Wolfson S., Shen Y., et al. High-resolution breast cancer screening with multi-view deep convolutional neural networks. arXiv. 2017; 1703.07047. https://doi.org/10.48550/arXiv.1703.07047.Wu N., Phang J., Park J., et al. Deep neural networks improve radiologists’ performance in breast cancer screening. arXiv. 2019; 1903.08297. https://doi.org/10.48550/arXiv.1903.08297.Wu N., Phang J., Park J., et al. Deep neural networks improve radiologists’ performance in breast cancer screening. arXiv. 2019; 1903.08297. https://doi.org/10.48550/arXiv.1903.08297.Rajkomar A., Oren E., Chen K., et al. Scalable and accurate deep learning with electronic health records. NPJ Digit Med. 2018; 1: 18. https://doi.org/10.1038/s41746-018-0029-1.Rajkomar A., Oren E., Chen K., et al. Scalable and accurate deep learning with electronic health records. NPJ Digit Med. 2018; 1: 18. https://doi.org/10.1038/s41746-018-0029-1.Turakhia M.P., Desai M., Hedlin H., et al. Rationale and design of a large-scale, app-based study to identify cardiac arrhythmias using a smartwatch: The Apple Heart Study. Am Heart J. 2019; 207: 66–75. https://doi.org/10.1016/j.ahj.2018.09.002.Turakhia M.P., Desai M., Hedlin H., et al. Rationale and design of a large-scale, app-based study to identify cardiac arrhythmias using a smartwatch: The Apple Heart Study. Am Heart J. 2019; 207: 66–75. https://doi.org/10.1016/j.ahj.2018.09.002.McConnell M.V., Shcherbina A., Pavlovic A., et al. Feasibility of obtaining measures of lifestyle from a smartphone app: the Myheart Counts Cardiovascular Health study. JAMA Cardiol. 2017; 2 (1): 67–76. https://doi.org/10.1001/jamacardio.2016.4395.McConnell M.V., Shcherbina A., Pavlovic A., et al. Feasibility of obtaining measures of lifestyle from a smartphone app: the Myheart Counts Cardiovascular Health study. JAMA Cardiol. 2017; 2 (1): 67–76. https://doi.org/10.1001/jamacardio.2016.4395.United States Government Accountability Office. Technology assessment. Artificial intelligence in health care: benefits and challenges of technologies to augment patient care. URL: https://www.gao.gov/assets/gao-21-7sp.pdf (дата обращения 10.11.2023).United States Government Accountability Office. Technology assessment. Artificial intelligence in health care: benefits and challenges of technologies to augment patient care. Available at: https://www.gao.gov/assets/gao-21-7sp.pdf (accessed 10.11.2023).Fumagalli S.F., Padhiar N.H., Meyer D., et al. Analysis of 3.5 million SARS-CoV-2 sequences reveals unique mutational trends with consistent nucleotide and codon frequencies. Virol J. 2023; 20 (1): 31. https://doi.org/10.1186/s12985-023-01982-8.Fumagalli S.F., Padhiar N.H., Meyer D., et al. Analysis of 3.5 million SARS-CoV-2 sequences reveals unique mutational trends with consistent nucleotide and codon frequencies. Virol J. 2023; 20 (1): 31. https://doi.org/10.1186/s12985-023-01982-8.Chan H.С., Shan H., Dahoun T., et al. Advancing drug discovery via artificial intelligence. Trends Pharmacol Sci. 2019; 40 (8): 592–604. https://doi.org/10.1016/j.tips.2019.06.004.Chan H.С., Shan H., Dahoun T., et al. Advancing drug discovery via artificial intelligence. Trends Pharmacol Sci. 2019; 40 (8): 592–604. https://doi.org/10.1016/j.tips.2019.06.004.Liu Z., Chen X., Carter W., et al. AI-powered drug repurposing for developing COVID-19 treatments. Reference Module in Biomedical Sciences. 2022: B978-0-12-824010-6.00005-8. https://doi.org/10.1016/B978-0-12-824010-6.00005-8.Liu Z., Chen X., Carter W., et al. AI-powered drug repurposing for developing COVID-19 treatments. Reference Module in Biomedical Sciences. 2022: B978-0-12-824010-6.00005-8. https://doi.org/10.1016/B978-0-12-824010-6.00005-8.Callaway E. How AlphaFold and other AI tools could help us prepare for the next pandemic. Nature. 2023; 622 (7983): 440–1. https://doi.org/10.1038/d41586-023-03201-4.Callaway E. How AlphaFold and other AI tools could help us prepare for the next pandemic. Nature. 2023; 622 (7983): 440–1. https://doi.org/10.1038/d41586-023-03201-4.UN-iLibrary. The Secretary-General's Strategy on New Technologies. URL: https://www.un-ilibrary.org/content/journals/15643913/55/4/1/read (дата обращения 12.11.2023).UN-iLibrary. The Secretary-General's Strategy on New Technologies. Available at: https://www.un-ilibrary.org/content/journals/15643913/55/4/1/read (accessed 12.11.2023).Chen I., Pierson E., Rose S., et al. Ethical machine learning in healthcare. Ann Rev Biomed Data Sci. 2021; 4: 123–44. https://doi.org/10.1146/annurev-biodatasci-092820-114757.Chen I., Pierson E., Rose S., et al. Ethical machine learning in healthcare. Ann Rev Biomed Data Sci. 2021; 4: 123–44. https://doi.org/10.1146/annurev-biodatasci-092820-114757.Madaio M., Stark L., Wortman V., Wallach H. Co-designing checklists to understand organizational challenges and opportunities around fairness in AI. URL: https://www.jennwv.com/papers/checklists.pdf (дата обращения 12.11.2023).Madaio M., Stark L., Wortman V., Wallach H. Co-designing checklists to understand organizational challenges and opportunities around fairness in AI. Available at: https://www.jennwv.com/papers/checklists.pdf (accessed 12.11.2023).Cuttler M. Transforming health care: how artificial intelligence is reshaping the medical landscape. URL: https://www.cbc.ca/news/health/artificial-intelligence-health-care-1.5110892 (дата обращения 12.11.2023).Cuttler M. Transforming health care: how artificial intelligence is reshaping the medical landscape. Available at: https://www.cbc.ca/news/health/artificial-intelligence-health-care-1.5110892 (accessed 12.11.2023).The Guardian. Royal Free breached UK data law in 1.6m patient deal with Google's DeepMind. URL: https://www.theguardian.com/technology/2017/jul/03/google-deepmind-16m-patient-royal-free-dealdata-protection-act (дата обращения 12.11.2023).The Guardian. Royal Free breached UK data law in 1.6m patient deal with Google's DeepMind. Available at: https://www.theguardian.com/technology/2017/jul/03/google-deepmind-16m-patient-royal-free-dealdata-protection-act (accessed 12.11.2023).Siddique S., Chow J. Artificial intelligence in radiotherapy. Rep Pract Oncol Radiother. 2020; 25 (4): 656–66. https://doi.org/10.1016/j.rpor.2020.03.015.Siddique S., Chow J. Artificial intelligence in radiotherapy. Rep Pract Oncol Radiother. 2020; 25 (4): 656–66. https://doi.org/10.1016/j.rpor.2020.03.015.Brown J. IBM Watson reportedly recommended cancer treatments that were ‘unsafe and incorrect’. URL: https://gizmodo.com/ibmwatson-reportedly-recommended- cancer-treatments-tha-1827868882 (дата обращения 10.11.2023).Brown J. IBM Watson reportedly recommended cancer treatments that were ‘unsafe and incorrect’. Available at: https://gizmodo.com/ibmwatson-reportedly-recommended- cancer-treatments-tha-1827868882 (accessed 10.11.2023).World Health Organization. Ethics and governance of artificial intelligence for health. 2021. URL: https://www.who.int/publications/i/item/9789240029200 (дата обращения 10.11.2023).World Health Organization. Ethics and governance of artificial intelligence for health. 2021. Available at: https://www.who.int/publications/i/item/9789240029200 (accessed 10.11.2023).Всемирная организация здравоохранения. ВОЗ представила принципы регулирования технологий искусственного интеллекта в здравоохранении. URL: https://www.who.int/ru/news/item/19-10-2023-who-outlines-considerations-for-regulation-of-artificialintelligence-for-health (дата обращения 10.11.2023).World Health Organization. WHO outlines considerations for regulation of artificial intelligence for health. 2023. Available at: https://www.who.int/news/item/19-10-2023-who-outlines-considerations-forregulation-of-artificial-intelligence-for-health (accessed 10.11.2023).Artificial Intelligence Technology Strategy (Report of Strategic Council for AI Technology). URL: https://pdf4pro.com/view/artificialintelligence-technology-strategy-nedo-6dc4e.html (дата обращения 13.11.2023).Artificial Intelligence Technology Strategy (Report of Strategic Council for AI Technology). Available at: https://pdf4pro.com/view/artificial-intelligence-technology-strategy-nedo-6dc4e.html (accessed 13.11.2023).Korea Country Commercial Guide. Korea – Artificial Intelligence. URL: https://www.privacyshield.gov/article?id=Korea-ArtificialIntelligence (дата обращения 10.11.2023).Korea Country Commercial Guide. Korea – Artificial Intelligence. Available at: https://www.privacyshield.gov/article?id=Korea-ArtificialIntelligence (accessed 10.11.2023).German Federal Government Strategy. URL: https://www.bmwi.de/Redaktion/DE/Publikationen/Technologie/strategie-kuenstlicheintelligenz-der-bundesregierung.pdf?__blob5publicationFile&v58 (на нем. яз.) (дата обращения 12.11.2023).German Federal Government Strategy. Available at: https://www.bmwi.de/Redaktion/DE/Publikationen/Technologie/strategie-kuenstliche-intelligenz-der-bundesregierung.pdf?__blob5publicationFile&v58 (in German) (accessed 12.11.2023).New code of conduct for artificial intelligence (AI) systems used by the NHS. URL: https://www.gov.uk/government/news/new-code-ofconduct-for-artificial-intelligence-ai-systems-used-by-the-nhs (дата обращения 10.11.2023).New code of conduct for artificial intelligence (AI) systems used by the NHS. Available at: https://www.gov.uk/government/news/new-codeof-conduct-for-artificial-intelligence-ai-systems-used-by-the-nhs (accessed 10.11.2023).European Comission. Ethics Guidelines for trustworthy AI. URL: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelinestrustworthy-ai (дата обращения 07.11.2023).European Comission. Ethics Guidelines for trustworthy AI. Available at: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelinestrustworthy-ai (accessed 07.11.2023).U.S. Food and Drug Administration. Proposed regulatory framework for modifications to artificial intelligence/machine learning (AI/ML)-based software as a medical device (SaMD). URL: https://www.fda.gov/files/medical%20devices/published/US-FDA-Artificial-Intelligenceand-Machine-Learning-Discussion-Paper.pdf (дата обращения 07.11.2023).U.S. Food and Drug Administration. Proposed regulatory framework for modifications to artificial intelligence/machine learning (AI/ML)-based software as a medical device (SaMD). Available at: https://www.fda.gov/files/medical%20devices/published/US-FDA-ArtificialIntelligence-and-Machine-Learning-Discussion-Paper.pdf (accessed 07.11.2023).Maintaining American leadership in artificial intelligence: Executive Order 13859 of February, 2019. URL: https://www.federalregister.gov/documents/2019/02/14/2019-02544/maintaining-american-leadershipin-artificial-intelligence (дата обращения 12.11.2023).Maintaining American leadership in artificial intelligence: Executive Order 13859 of February, 2019. Available at: https://www.federalregister.gov/documents/2019/02/14/2019-02544/maintainingamerican-leadership-in-artificial-intelligence (accessed 12.11.2023).The White House. Blueprint for an AI Bill of Rights. URL: https://www.whitehouse.gov/ostp/ai-bill-of-rights/ (дата обращения 13.11.2023).The White House. Blueprint for an AI Bill of Rights. Available at: https://www.whitehouse.gov/ostp/ai-bill-of-rights/ (accessed 13.11.2023).Жукова О.В., Хохлов А.Л. Информационные технологии в оценке данных реальной клинической практики. Медицинская этика. 2021; 9 (3): 31–6. https://doi.org/10.24075/medet.2021.020.Zhukova O.V., Khokholov A.L. Information technology in the evaluation of RWD/RWE (Real-World Data/Real-World Evidence). Medical Ethics. 2021; 9 (3): 31–6 (in Russ.). https://doi.org/10.24075/medet.2021.020.Lai Y.S., Afseth J.D. A review of the impact of utilising electronic medical records for clinical research recruitment. Clin Trials. 2019; 16 (2): 194–203. https://doi.org/10.1177/1740774519829709.Lai Y.S., Afseth J.D. A review of the impact of utilising electronic medical records for clinical research recruitment. Clin Trials. 2019; 16 (2): 194–203. https://doi.org/10.1177/1740774519829709.Collins R., Bowman L., Landray M., Peto R. The magic of randomization versus the myth of real-world evidence. N Engl J Med. 2020; 382 (7): 674–8. https://doi.org/10.1056/NEJMsb1901642.Collins R., Bowman L., Landray M., Peto R. The magic of randomization versus the myth of real-world evidence. N Engl J Med. 2020; 382 (7): 674–8. https://doi.org/10.1056/NEJMsb1901642.Kiely D.G., Doyle O., Drage E., et al. Utilising artificial intelligence to determine patients at risk of a rare disease: idiopathic pulmonary arterial hypertension. Pulm Circ. 2019; 9 (4): 2045894019890549. https://doi.org/10.1177/2045894019890549.Kiely D.G., Doyle O., Drage E., et al. Utilising artificial intelligence to determine patients at risk of a rare disease: idiopathic pulmonary arterial hypertension. Pulm Circ. 2019; 9 (4): 2045894019890549. https://doi.org/10.1177/2045894019890549.Еременко Е.О., Баранова М.И. Sentinel System – национальная электронная система для сбора данных реальной клинической практики FDA. Реальная клиническая практика: данные и доказательства. 2022; 2 (2): 32–40. https://doi.org/10.37489/2782-3784-myrwd-15.Eremenko E.O., Baranova M.I. Sentinel System – electronic system for collecting real-world data. Real-World Data & Evidence. 2022; 2 (2): 32–40 (in Russ.). https://doi.org/10.37489/2782-3784-myrwd-15.U.S. Food and Drug Administration. Framework for FDA’s RealWorld Evidence Program. URL: https://www.fda.gov/media/120060/download (дата обращения 13.11.2023).U.S. Food and Drug Administration. Framework for FDA’s RealWorld Evidence Program. Available at: https://www.fda.gov/media/120060/download (accessed 13.11.2023).Flynn R., Plueschke K., Quinten C., et al. Marketing authorization applications made to the European Mmedicines Agency in 2018–2019: what was the contribution of real-world evidence? Clin Pharmacol Ther. 2022; 111 (1): 90–7. https://doi.org/10.1002/cpt.2461.Flynn R., Plueschke K., Quinten C., et al. Marketing authorization applications made to the European Mmedicines Agency in 2018–2019: what was the contribution of real-world evidence? Clin Pharmacol Ther. 2022; 111 (1): 90–7. https://doi.org/10.1002/cpt.2461.Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». URL: https://base.garant.ru/72838946/ (дата обращения 13.11.2023).Decree of the President of the RF of 10.10.2019 No. 490 “On the development of artificial intelligence in the Russian Federation". Available at: https://base.garant.ru/72838946/ (in Russ.) (accessed 13.11.2023).Паспорт федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика Российской Федерации». URL: https://www.consultant.ru/document/cons_doc_LAW_398627/ (дата обращения 05.11.2023).Passport of the Federal Project “Artificial Intelligence” of the national program “Digital Economy of the Russian Federation”. Available at: https://www.consultant.ru/document/cons_doc_LAW_398627/(in Russ.) (accessed 05.11.2023).Распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года». URL: https://www.garant.ru/products/ipo/prime/doc/74460628/ (дата обращения 05.11.2023).Order of the Government of the RF of 19.08.2020 No. 2129-r “On approval of the Concept for the Development of Regulation of Relations in the Field of Artificial Intelligence and Robotics Technologies for the period up to 2024”. Available at: https://www.garant.ru/products/ipo/prime/doc/74460628/ (in Russ.) (accessed 05.11.2023).Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных». URL: https://base.garant.ru/73945195/ (дата обращения 05.11.2023).Federal Law of 24.04.2020 No. 123-FZ “On conducting an experiment to establish special regulation in order to create the necessary conditions for the development and implementation of artificial intelligence technologies in the constituent entity of the Russian Federation – the Federal City of Moscow and amendments to articles 6 and 10 of the Federal Law ‘On personal data’ ”. Available at: https://base.garant.ru/73945195/ (in Russ.) (accessed 05.11.2023).Федеральный закон от 31.07.2020 № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации». URL: https://base.garant.ru/74451176/ (дата обращения 14.11.2023)Federal Law of 31.07.2020 No. 258-FZ “On experimental legal regimes in the field of digital innovations in the Russian Federation”. Available at: https://base.garant.ru/74451176/ (in Russ.) (accessed 14.11.2023).Баракина Е.Ю. К вопросу об установлении экспериментального правового режима в области применения искусственного интеллекта. Российская юстиция. 2021; 2: 64–7.Barakina E.Y. On the issue of establishing an experimental legal regime in the field of artificial intelligence application. Russian Justice. 2021; 2: 64–7 (in Russ.).Федеральный закон от 21.11.2011 № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации». URL: https://base.garant.ru/12191967/ (дата обращения 14.11.2023).Federal Law of 21.11.2011 No. 323-FZ “On the basics of public healthcare in the Russian Federation”. Available at: https://base.garant.ru/12191967/ (in Russ.) (accessed 14.11.2023).Подкомитет «Искусственный интеллект в здравоохранении» (ПК 01/ТК 164). URL: https://mosmed.ai/pk-01/ (дата обращения 10.11.2023).Subcommittee “Artificial intelligence in health care” (SC 01/TC 164). Available at: https://mosmed.ai/pk-01/ (in Russ.) (accessed 10.11.2023).Федеральный закон от 29.06.2015 № 162-ФЗ «О стандартизации в Российской Федерации». URL: https://base.garant.ru/71108018/(дата обращения 10.11.2023).Federal Law of 29.06.2015 No. 162-FZ “On standardization in the Russian Federation”. Available at: https://base.garant.ru/71108018/(in Russ.) (accessed 10.11.2023).Приказ Минздрава России от 19.01.2017 № 11н «Об утверждении требований к содержанию технической и эксплуатационной документации производителя (изготовителя) медицинского изделия». URL: https://base.garant.ru/71626748/ (дата обращения 10.11.2023).Order of the Ministry of Health of the RF of 19.01.2017 No. 11n “On approval of requirements for the content of technical and operational documentation of a medical device manufacturer”. Available at: https://base.garant.ru/71626748/ (in Russ.) (accessed 10.11.2023).Соглашение о единых принципах и правилах обращения лекарственных средств в рамках Евразийского экономического союза от 23 декабря 2014 г. (ратифицировано Федеральным законом от 31.01.2016 № 5-ФЗ, вступило в силу для Российской Федерации 12 февраля 2016 г.). URL: http://publication.pravo.gov.ru/document/0001201603020060 (дата обращения 10.11.2023).Agreement on common principles and rules for the circulation of medicines within the Eurasian Economic Union of 23.12.2014 (ratified by Federal Law No. 5-FZ of 31.01.2016, came into force for the Russian Federation on 12.02.2016). Available at: http://publication.pravo.gov.ru/document/0001201603020060 (in Russ.) (accessed 10.11.2023).Приказ Минздрава России от 19.10.2020 № 1113н «Об утверждении Порядка сообщения субъектами обращения медицинских изделий обо всех случаях выявления побочных действий, не указанных в инструкции по применению или руководстве по эксплуатации медицинского изделия, о нежелательных реакциях при его применении, об особенностях взаимодействия медицинских изделий между собой, о фактах и об обстоятельствах, создающих угрозу жизни и здоровью граждан и медицинских работников при применении и эксплуатации медицинских изделий». URL: https://base.garant.ru/75011335/ (дата обращения 10.11.2023).Order of the Ministry of Health of the RF of 19.10.2020 No. 1113n “On approval of the Procedure for reporting by subjects of circulation of medical devices about all cases of detection of side effects not specified in the instructions for use or operating instructions for a medical device, about adverse reactions during its use, about the peculiarities of the interaction of medical devices with each other, about the facts and circumstances that create a threat to the life and health of citizens and medical workers during the use and operation of medical products”. Available at: https://base.garant.ru/75011335/ (in Russ.) (accessed 10.11.2023).Письмо Росздравнадзора от 08.11.2023 № 01И-944/23 «О приостановлении применения медицинского изделия». URL: https://www.consultant.ru/cons/cgi/online.cgi?req=doc&base=EXP&n=835887#vevkwxTcvlp16U2p (дата обращения 10.11.2023).Letter of Roszdravnadzor of 08.11.2023 No. 01I-944/23 “On suspension of the use of a medical device”. Available at: https://www.consultant.ru/cons/cgi/online.cgi?req=doc&base=EXP&n=835887#vevkwxTcvlp16U2p (in Russ.) (accessed 10.11.2023).Решение Совета Евразийской экономической комиссии от 12.02.2016 № 46 «О Правилах регистрации и экспертизы безопасности, качества и эффективности медицинских изделий». URL: https://base.garant.ru/71441610/ (дата обращения 10.11.2023).Decision of the Council of the Eurasian Economic Commission of 12.02.2016 No. 46 “On the Rules for registration and examination of the safety, quality and effectiveness of medical devices". Available at: https://base.garant.ru/71441610/ (in Russ.) (accessed 10.11.2023).Официальный портал Правительства Ростовской области. Стратегия в области цифровой трансформации отраслей экономики, социальной сферы и государственного управления Ростовской области. URL: https://www.donland.ru/activity/2760/ (дата обращения 12.11.2023).The official portal of the Government of the Rostov Region. Strategy in the field of digital transformation of economic sectors, social sphere and public administration of the Rostov Region. Available at: https://www.donland.ru/activity/2760/ (in Russ.) (accessed 12.11.2023).Стратегия в области цифровой трансформации отраслей экономики, социальной сферы и государственного управления Приморского края. URL: https://www.tadviser.ru/images/7/7c/Стратегия_Приморский_край.pdf (дата обращения 12.11.2023).Strategy in the field of digital transformation of economic sectors, social sphere and public administration of Primorsky Territory. Available at: https://clck.ru/38UnYh (in Russ.) (accessed 12.11.2023).Платформа ИИ Минздрав. Приоритетные задачи здравоохранения. URL: https://ai.minzdrav.gov.ru/tasks (дата обращения 12.11.2023).The AI platform of the Ministry of Health. Priority tasks of healthcare. Available at: https://ai.minzdrav.gov.ru/tasks (in Russ.) (accessed 12.11.2023).Поставить диагноз и выявить признаки заболевания: как нейросети помогают врачам в Москве. URL: https://www.mos.ru/news/item/125405073/?utm_source=yxnews&utm_medium=desktop (дата обращения 12.11.2023).Diagnose and identify signs of the disease: how neural networks help doctors in Moscow. Available at: https://www.mos.ru/news/item/125405073/?utm_source=yxnews&utm_medium=desktop (in Russ.) (accessed 12.11.2023).Проценко Л. Анастасия Ракова: Во всех взрослых поликлиниках Москвы заработал ИИ-сервис для постановки пациентам заключительного диагноза. URL: https://rg.ru/2023/11/07/anastasiia-rakovavo-vseh-vzroslyh-poliklinikah-moskvy-zarabotal-ii-servis-dliapostanovki-pacientam-zakliuchitelnogo-diagnoza.html (дата обращения 10.11.2023).Protsenko L. Anastasia Rakova: in all adult polyclinics in Moscow, an AI service has been launched to give patients a final diagnosis. Available at: https://rg.ru/2023/11/07/anastasiia-rakova-vo-vsehvzroslyh-poliklinikah-moskvy-zarabotal-ii-servis-dlia-postanovkipacientam-zakliuchitelnogo-diagnoza.html (in Russ.) (accessed 10.11.2023).Министерство цифрового развития, связи и массовых коммуникаций РФ. Искусственный интеллект в здравоохранении внедряют 70 регионов России. URL: https://digital.gov.ru/ru/events/47684/?utm_referrer=https%3a%2f%2fwww.google.ru%2f (дата обращения 12.11.2023).Ministry of Digital Development, Communications and Mass Communications of the RF. Artificial intelligence in healthcare is being implemented by 70 regions of Russia. Available at: https://digital.gov.ru/ru/events/47684/?utm_referrer=https%3a%2f%2fwww.google.ru%2f (in Russ.) (accessed 12.11.2023).Вестник ГЛОНАСС. В России 16% учреждений здравоохранения внедряют технологии искусственного интеллекта. URL: http://vestnik-glonass.ru/news/intro/v-rossii-16-uchrezhdeniyzdravookhraneniya-vnedryayut-tekhnologii-iskusstvennogo-intellekta/ (дата обращения 10.11.2023).Bulletin of GLONASS. In Russia, 16% of healthcare institutions are implementing artificial intelligence technologies. Available at: http://vestnik-glonass.ru/news/intro/v-rossii-16-uchrezhdeniyzdravookhraneniya-vnedryayut-tekhnologii-iskusstvennogo-intellekta/ (in Russ.) (accessed 10.11.2023).Минцифры России. Эффективные отечественные практики на базе технологий искусственного интеллекта в здравоохранении. Аналитический отчет. Февраль 2023. URL: https://xn--d1abjl7at.xn--p1ai/analytics/6/ (дата обращения 13.11.2023).Ministry of Digital Development, Communications and Mass Communications of the RF. Effective domestic practices based on artificial intelligence technologies in healthcare. Analytical report. February 2023. Available at: https://xn--d1abjl7at.xn--p1ai/analytics/6/ (in Russ.) (accessed 13.11.2023).Sber Med AI. MDDC. Определение диагноза с помощью ИИ. URL: https://sbermed.ai/diagnostic-center/about-the-mddc/ (дата обращения 10.11.2023).Sber Med AI. MDDC. Diagnosis determination using AI. Available at: https://sbermed.ai/diagnostic-center/about-the-mddc/ (in Russ.) (accessed 10.11.2023).Цифровое здравоохранение. URL: http://ipavlov.ai/healthcare/ru (дата обращения 10.11.2023).Digital hHealthcare. Available at: http://ipavlov.ai/healthcare/ru (in Russ.) (accessed 10.11.2023).Muscles.AI. Программно-аппаратные системы измерения и анализа движений тела человека. URL: https://musclesai.ru/ (дата обращения 10.11.2023).Muscles AI. Software and hardware systems for measuring and analyzing human body movements. Available at: https://musclesai.ru/(in Russ.) (accessed 10.11.2023).WebioMed. Карта «Искусственный интеллект в здравоохранении России». URL: https://webiomed.ai/blog/karta-iskusstvennyi-intellektv-zdravookhranenii-rossii/ (дата обращения 12.11.2023).WebioMed. Map “Artificial intelligence in Russian healthcare”. Available at: https://webiomed.ai/blog/karta-iskusstvennyi-intellekt-vzdravookhranenii-rossii/ (in Russ.) (accessed 12.11.2023).

The authors declare that there are no conflicts of interest present.