Данное исследование направлено на изучение применения объяснительного искусственного интеллекта (XAI) в задачах геоэкологического районирования для поддержки устойчивого развития и медицинской профилактики. В условиях возрастающей антропогенной нагрузки на экосистемы и увеличения уровня заболеваемости, вызванного ухудшением экологической обстановки, особое внимание уделено методам раннего выявления рисков. В статье подчеркивается важность XAI для анализа экологических данных с целью снижения воздействия негативных факторов на здоровье населения. Интеграция XAI с географическими информационными системами (ГИС) не только обеспечивает высокую точность геоэкологических прогнозов, но и повышает прозрачность этих прогнозов для экспертов, что способствует принятию более обоснованных решений в области геоэкологии и здравоохранения.
Особое внимание уделено ранней диагностике рисков для здоровья, таких как респираторные и онкологические заболевания, с использованием XAI для анализа экологических данных и медицинских изображений. Объяснительный искусственный интеллект позволяет сделать процесс постановки диагноза более прозрачным и понятным для медицинских специалистов, что повышает доверие к результатам анализа. Внедрение XAI в здравоохранение может не только улучшить точность диагностики, но и оптимизировать ресурсы медицинской системы, перераспределяя их на предупреждение заболеваний.
Обзор существующих систем поддержки принятия решений (СППР) демонстрирует эффективность гибридных моделей, сочетающих нейронные сети и нечеткую логику, для повышения точности и интерпретируемости прогнозов в медицинской сфере. Применение таких моделей открывает новые перспективы для персонализированной медицины, улучшая профилактические стратегии и предоставляя индивидуальные рекомендации на основе комплексного анализа экологических и медицинских данных.
Важной составляющей исследования является территориальное районирование, направленное на управление экологическими рисками и профилактику заболеваний. Такой подход не только снижает нагрузку на системы здравоохранения, но и способствует устойчивому развитию территорий, учитывая влияние экологических и социальных факторов на здоровье населения.

Трофимов Юрий Владиславович
Аспирант,
Кафедра экологии и наук о Земле
ФГБОУ ВО «Университет «Дубна»
141980 Дубна, ул. Университетская, д. 19
Программист
Научно-исследовательский центр искусственного интеллекта Государственного университета «Дубна»
e-mail: ura_trofim@bk.ru
ORCID: 0009-0005-6943-7432
Scopus Author ID: 57221465588
ResearcherID: LRT-9153-2024
SPIN-код: 3718-8990
AuthorID: 1083410

Аверкин Алексей Николаевич
Кандидат физико-математических наук
Ведущий научный сотрудник
Федеральный исследовательский центр «Информатика
и управление» Российской академии наук (ФИЦ ИУ РАН)
119333 Москва, ул. Вавилова, д. 44, кор. 2
Доцент кафедры системного анализа и управления
ФГБОУ ВО «Университет «Дубна»
141980 Дубна, Московской обл., ул. Университетская, д. 19
e-mail: averkin2003@inbox.ru
ORCID: 0000-0003-1571-3583
Scopus Author ID: 57192557075
ResearcherID: L-6541-2013
SPIN-код: 5753-1636
AuthorId: 61393

Черемисина Евгения Наумовна
Доктор технических наук, профессор
Заведующий отделением Геоинформатики
ФГБУ «Всероссийский научно-исследовательский геологический нефтяной институт» (ФГБУ «ВНИГНИ»)
117105 Москва, Варшавское ш., д. 8
Заведующий кафедрой системного анализа и управления
Государственный университет «Дубна»
141980 Дубна, Московская обл., ул. Университетская, д. 19
e-mail: e.cheremisina@geosys.ru
ORCID: 0000-0002-6041-8359
SPIN-код: 1472-2283
AuthorID: 119359

1. Gillespie N., Lockey S., Curtis C., Poo, J., Akbari A. Trust in Artificial Intelligence: A Global Study [Электронный ресурс] / The University of Queensland, KPMG Australia. – 2023. – 82 p. – Режим доступа: https://www.aiunplugged.io/wp-content/uploads/2023/10/Trust-in-Artificial-Intelligence.pdf (дата обращения: 15.11.2024). DOI:10.14264/00d3c94.
2. Аверкин А.Н. Объяснимый искусственный интеллект как часть искусственного интеллекта третьего поколения // Речевые технологии. – 2023. – №1. – С. 4–10.
3. Yonar A., Yonar H. Modeling air pollution by integrating ANFIS and metaheuristic algorithms // Modelling Earth Systems and Environment. – 2023. – Vol. 9. – pp. 1621–1631. DOI: 10.1007/s40808-022-01573-6.
4. Azad A., Karami H., Farzin S., Saeedian A., Kashi H., Sayyahi F. Prediction of Water Quality Parameters Using ANFIS Optimized by Intelligence Algorithms (Case Study: Gorganrood River) // KSCE Journal of Civil Engineering. – 2018. – Vol. 22. – pp. 2206–2213. DOI: 10.1007/s12205-017-1703-6.
5. Balasubramanian C., Lal Raja Singh R. ANFIS-BCMO technique for energy management and consumption of energy forecasting in smart grid with internet of things // Journal of Intelligent and Fuzzy Systems. – 2022. – Vol. 43. –Iss. 6. – P. 7577–7593. DOI: 10.3233/JIFS-221040.
6. Zacharia P.T. An Adaptive Neuro-fuzzy Inference System for Robot Handling Fabrics with Curved Edges towards Sewing // Journal of Intelligent and Robotic Systems. – 2010. – Vol. 58. – pp. 193–209. DOI: 10.1007/s10846-009-9362-6.
7. Hosseini M.S., Zekri M. Review of Medical Image Classification using the Adaptive Neuro-Fuzzy Inference System // Journal of Medical Signals and Sensors. – 2012. – Т. 2. – Iss. 1. – pp. 49–60.
8. Andrews R., Diederich J., Tickle A.B. Survey and critique of techniques for extracting rules from trained artificial neural networks // Knowledge-Based Systems. – 1995. – Vol. 8. – Iss. 6. – pp. 373–389. DOI: 10.1016/0950-7051(96)81920-4.
9. Xue G., Chang Q., Wang J., Zhang K., Pal N.R. An Adaptive Neuro-Fuzzy System with Integrated Feature Selection and Rule Extraction for High-Dimensional Classification Problems // IEEE Transactions on Fuzzy Systems. – 2023. – Vol. 31. – No. 7. – pp. 2167–2181. DOI: 10.1109/TFUZZ.2022.3220950.
10. Craven M.W., Shavlik J.W. Extracting Tree-Structured Representations of Trained Networks // NIPS’95: Proceedings of the 8th International Conference on Neural Information Processing Systems. – Cambridge, MA : MIT Press, 1995. – pp. 24–30.
11. D’Avila Garcez A., Lamb L.C. Neurosymbolic AI: The 3rd Wave // Artificial Intelligence Review. – 2023. – Vol. 56. – pp. 12387–12406.
DOI: 10.1007/s10462-023-10448-w.
12. Lundberg S.M., Lee S.I. A Unified Approach to Interpreting Model Predictions // NIPS’17: Proceedings of the 31st International Conference on Neural Information Processing Systems. – Red Hook : Curran Associates, 2017. – pp. 4765–4774.
13. Molnar C. Interpretable Machine Learning: A Guide for Making Black Box Models Explainable [Электронный ресурс]. – 2020 – Режим доступа: https://christophm.github.io/interpretable-ml-book/index.html (дата обращения: 03.12.2024).
14. Mazumder A., Lyons N., Dubey A., Pandey A., Santra A. XAI-Increment: A Novel Approach Leveraging LIME Explanations for Improved Incremental Learning [Электронный ресурс] // arXiv:2211.01413v1 [cs.LG]. – 2022. – Режим доступа: https://https://arxiv.org/abs/ 2211.01413v1 (дата обращения: 06.12.2024 г.). DOI: 10.48550/arXiv.2211.01413v1.
15. Arrieta A.B., Díaz-Rodríguez N., Del Ser J., Bennetot A., Tabik S., Barbado A., Garcia S., Gil-Lopez S., Molina D., Benjamins R., Chatila R., Herrera F. Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI // Information Fusion. – 2020. – Vol. 58. – pp. 82–115. DOI: 10.1016/j.inffus.2019.12.012.
16. Ribeiro M.T., Singh S., Guestrin C. ‘Why Should I Trust You?’: Explaining the Predictions of Any Classifier // KDD’16: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. – New York : Association for Computing Machinery, 2016. DOI: 10.1145/2939672.2939778.
17. Simonyan K., Vedaldi A., Zisserman A. Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps [Электронный ресурс] // arXiv:1312.6034 [cs.CV]. – 2014. – Режим доступа: https://arxiv.org/abs/1312.6034 (дата обращения: 04.12.2024 г.). DOI: 10.48550/arXiv.1312.6034.
18. Breiman L. Random Forests // Machine Learning. – 2001. – Vol. 45. – pp. 5–32. DOI: 10.1023/A:1010933404324.
19. Friedman J.H. Greedy Function Approximation: A Gradient Boosting Machine // Annals of Statistics. – 2001. – Vol. 29. – No. 5. – pp. 1189–1232. DOI: 10.1214/aos/1013203451.
20. Rudin C. Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead // Nature Machine Intelligence. – 2019. – Vol. 1. – pp. 206–215. DOI: 10.1038/s42256-019-0048-x.
21. Wani A.K., Rahayu F., Ben Amor I., Quadir M., Murianingrum M., Parnidi P., Ayub A., Supriyadi S., Sakiroh S., Saefudin S., Kumar A., Latifah E. Environmental Resilience through Artificial Intelligence: Innovations in Monitoring and Management // Environmental Science and Pollution Research. – 2024. – Vol. 31. – pp. 18379–18395. DOI: 10.1007/s11356-024-32404-z.
22. Athanasiou M., Sfrintzeri K., Zarkogianni K., Thanopoulou A.C., Nikita K.S. An explainable XGBoost-based approach towards assessing the risk of cardiovascular disease in patients with Type 2 Diabetes Mellitus [Электронный ресурс] // arXiv:2009.06629. – 2020. – Режим доступа: https://arxiv.org/abs/2009.06629 (дата обращения 04.12.2024). DOI: 10.48550/arXiv.2009.06629.
23. Ji Y., Zhi X., Wu Y., Zhang Y., Yang Y., Peng T., Ji L. Regression analysis of air pollution and pediatric respiratory diseases based on interpretable machine learning // Frontiers in Earth Science. – 2023. – Vol. 11. – 1105140. DOI: 10.3389/feart.2023.1105140.
24. Janzing D., Minorics L., Blöbaum P. Feature relevance quantification in explainable AI: A causality problem [Электронный ресурс] // arXiv:1910.13413. – 2019. – Режим доступа: https://arxiv.org/abs/1910.13413 (дата обращения 04.12.2024). DOI: 10.48550/arXiv.1910.13413.
25. Boulesteix A.L., Bender A., Bermejo J.L., Strobl C. Random forest Gini importance favours SNPs with large minor allele frequency: impact, sources and recommendations // Briefings in Bioinformatics. – 2012. – Vol. 13. – Iss. 3. – pp. 292–304. DOI: 10.1093/bib/bbr053.
26. Jiang T., Chen B., Nie Z., Zhehao R., Xu B., Tang S. Estimation of hourly full-coverage PM2.5 concentrations at 1-km resolution in China using a two-stage random forest model // Atmospheric Research. – 2021.– Vol. 248 – 105146. DOI: 10.1016/j.atmosres.2020.105146.
27. Hastie T., Tibshirani R., Friedman J. The Elements of Statistical Learning: Data Mining, Inference, and Prediction / 2nd ed. – New York : Springer, 2009. – 745 p. DOI: 10.1007/978-0-387-84858-7.
28. Greenwell B.M. pdp: An R Package for Constructing Partial Dependence Plots // The R Journal. – 2017. – Vol. 9. – Iss. 1. – pp. 421–436. DOI: 10.32614/RJ-2017-016.
29. Goldstein A., Kapelner A., Bleich J., Pitkinet E. Peeking Inside the Black Box: Visualizing Statistical Learning with Plots of Individual Conditional Expectation // Journal of Computational and Graphical Statistics. – 2015. – Vol. 24. – Iss. 1. – pp. 44–65. DOI: 10.1080/10618600.2014.907095.
30. Ciaramella A., Tagliaferri R., Pedrycz W. The genetic development of ordinal sums // Fuzzy Sets and Systems. – 2005. – Vol. 151. – Iss. 2. – pp. 303–325. DOI: 10.1016/j.fss.2004.07.003.
31. Cover T.M., Thomas J.A. Elements of Information Theory. – Hoboken : John Wiley & Sons, 2006. – 748 p. DOI:10.1002/047174882X.
32. Ghorbanzadeh O., Rostamzadeh H., Blaschke T., Gholaminia K., Aryal J. A new GIS-based data mining technique using an adaptive neuro-fuzzy inference system (ANFIS) and k-fold cross-validation approach for land subsidence susceptibility mapping // Natural Hazards. – 2018. – Vol. 94. – pp. 497–517. DOI: 10.1007/s11069-018-3449-y.
33. Veronesi F., Korfiati A., Buffat R., Raubal M. Assessing accuracy and geographical transferability of machine learning algorithms for wind speed modelling // Societal Geo-innovation. AGILE 2017. Lecture Notes in Geoinformation and Cartography / Ed. A. Bregt, T. Sarjakoski, R. van Lammeren, F. Rip. – Cham: Springer, 2017. – pp. 297–310. DOI: 10.1007/978-3-319-56759-4_17.
34. Lee Y., Kim D.-Y. The decision tree for longer-stay hotel guest: the relationship between hotel booking determinants and geographical distance // International Journal of Contemporary Hospitality Management. – 2021. – Vol. 33. – Iss. 6. – pp. 2264–2282. DOI: 10.1108/IJCHM-06-2020-0594.
35. Li Z. Extracting spatial effects from machine learning model using local interpretation method: An example of SHAP and XGBoost // Computers, Environment and Urban Systems. – 2022. – Vol. 96. – 101845. DOI: 10.1016/j.compenvurbsys.2022.101845.
36. Yang C., Chen M., Yuan Q. The application of XGBoost and SHAP to examining the factors in freight truck-related crashes: An exploratory analysis // Accident Analysis & Prevention. – 2021. – Vol. 158. – 106153. DOI: 10.1016/j.aap.2021.106153.
37. Simini F., Barlacchi G., Luca M., Pappalardo L. A Deep Gravity model for mobility flows generation // Nature Communications. – 2021. – Vol. 12. – 6576. DOI: 10.1038/s41467-021-26752-4.
38. Wang F., Wang Y., Zhang K., Hu M., Weng Q., Zhang H. Spatial heterogeneity modeling of water quality based on random forest regression and model interpretation // Environmental Research. – 2021. – Vol. 202. – 111660. DOI: 10.1016/j.envres.2021.111660.
39. Luo R., Xing J., Chen L., Pan Z., Cai X., Li Z., Wang J., Ford A. Glassboxing deep learning to enhance aircraft detection from SAR imagery // Remote Sensing. – 2021. – Vol. 13. – No. 18. – 3650. DOI: 10.3390/rs13183650.
40. Sonnewald M., Lguensat R. Revealing the impact of global heating on North Atlantic circulation using transparent machine learning // Journal of Advances in Modeling Earth Systems. – 2021. – Vol. 13. – Iss. 8. – e2021MS002496. DOI: 10.1029/2021MS002496.
41. Temenos A., Tzortzis I. N., Kaselimi M., Rallis I., Doulamis A., Doulamis N. Novel insights in spatial epidemiology utilizing explainable AI (XAI) and remote sensing // Remote Sensing. – 2022. – Vol. 14. – No. 13. – 3074. DOI: 10.3390/rs14133074.
42. Amiri S.S., Mottahedi S., Lee E.R., Hoque S. Peeking inside the black-box: Explainable machine learning applied to household transportation energy consumption // Computers, Environment and Urban Systems. – 2021. – Vol. 88. – 101647. DOI: 10.1016/j.compenvurbsys.2021.101647.
43. Parmar J., Das P., Dave S.M. A machine learning approach for modelling parking duration in urban land-use // Physica A: Statistical Mechanics and its Applications. – 2021. – Vol. 572. – 125873. DOI: 10.1016/j.physa.2021.125873.
44. Peng Y., Cui B., Yin H., Zhang Y., Du P. Automatic SAR change detection based on visual saliency and multihierarchical fuzzy clustering // IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing. – 2022. – Vol. 15. – pp. 7755–7769. DOI: 10.1109/JSTARS.2022.3199017.
45. Chang B., Jang G., Kim S., Kang J. Learning graph-based geographical latent representation for point-of-interest recommendation // CIKM’20: Proceedings of the 29th ACM International Conference on Information and Knowledge Management. – New York: Association for Computing Machinery, 2020. – pp. 135–144. DOI: 10.1145/3340531.3411905.
46. Wang X., Gu Y., Liu H. A transfer learning method for the protection of geographical indication in China using an electronic nose for the identification of Xihu Longjing tea // IEEE Sensors Journal. – 2021. – Vol. 21. – Iss. 6. – pp. 8065–8077. DOI: 10.1109/JSEN.2020.3048534.
47. Chen L., Xu Z., Li Q., Peng J., Wang S., Li H. An empirical study of adversarial examples on remote sensing image scene classification // IEEE Transactions on Geoscience and Remote Sensing. – 2021. – Vol. 59. – Iss. 9. – pp. 7419–7433. DOI: 10.1109/TGRS.2021.3051641.
48. Xing J., Sieber R. The challenges of integrating explainable artificial intelligence into GeoAI // Transactions in GIS. – 2023. – Vol. 27. – Iss. 3. – pp. 626–645. DOI: 10.1111/tgis.13045.
49. Kim M., Kim D., Jin D., Kim G. Application of Explainable Artificial Intelligence (XAI) in Urban Growth Modeling: A Case Study of Seoul Metropolitan Area, Korea // Land. – 2023. – Vol. 12. – Iss. 2 – 420. DOI: 10.3390/land12020420.
50. Choi C., Choi J., Kim C., Lee D. The Smart City Evolution in South Korea: Findings from Big Data Analytics // The Journal of Asian Finance, Economics and Business. – 2020. – Vol. 7. – No. 1. – pp. 301–311. DOI: 10.13106/jafeb.2020.vol7.no1.301.
51. Черемисина Е.Н., Финкельштейн М.Я., Любимова А.В. ГИС INTEGRO – импортозамещающий программно-технологический комплекс для решения геолого-геофизических задач // Геоинформатика. – 2018. – № 3. – С. 8–17.
52. Черемисина Е.Н., Финкельштейн М.Я., Деев К.В., Большаков Е.М. ГИС INTEGRO. Состояние и перспективы развития в условиях импортозамещения // Геология нефти и газа. – 2021. – № 3. – С. 31–40. DOI: 10.31087/0016-7894-2021-3-31-40.
53. Волков Е.Н. Применение модуля внимания в сверточной нейронной сети в задаче анализа ОКТ-снимков // V Международная конференция по нейронным сетям и нейротехнологиям (NeuroNT’2024) : сборник докладов конференции (Санкт-Петербург, 20 июня 2024 года). – СПб : СПбГЭТУ «ЛЭТИ», 2024. – С. 99–102.
54. Волков Е.Н., Аверкин А.Н., Ярушев С.А. К вопросу о разработке интерпретируемого программного решения для диагностики ретинобластомы // Информационно-телекоммуникационные технологии и математическое моделирование высокотехнологичных систем : материалы Всероссийской конференции с международным участием (Москва, 8–12 апреля 2024 г.). – Москва: РУДН, 2024. – С. 468–471.
55. Averkin A.N., Volkov E.N., Yarushev S.A. Explainable Artificial Intelligence in Deep Learning Neural Nets-Based Digital Images Analysis // Journal of Computer and Systems Sciences International. – 2024. – Vol. 63. – pp. 175–203. DOI: 10.1134/S1064230724700138.
56. Аверкин А.Н., Волков Е.Н., Ярушев С.А. Возможности применения нейро-нечетких сетей для задачи классификации офтальмологических изображений // Двадцать первая Национальная конференция по искусственному интеллекту с международным участием (КИИ-2023) : труды конференции (Смоленск, 16–20 октября 2023 г.). – Т. 2. – Смоленск: Принт-Экспресс, 2023. – С. 6–18.
57. Ярушев С.А., Аверкин А.Н., Ануров А.О. Разработка модульного решения для приложений-сервисов в персонализированной медицине и здравоохранении 5.0 // Мягкие измерения и вычисления. – 2024. – Т. 79. – № 6. – С. 68–78. DOI: 10.36871/2618-9976.2024.06.007.