Математическая физика и компьютерное моделирование2587-63252587-690210.15688/mpcm.jvolsu.2025.2.3OtherМАТЕМАТИЧЕСКАЯ МОДЕЛЬ НИЗКОТЕМПЕРАТУРНОГО ВОЗДЕЙСТВИЯ НА БИОТКАНИA MATHEMATICAL MODEL OF LOW-TEMPERATURE EFFECTS ON BIOLOGICAL TISSUESКудаеваФатимат ХусейновнаKudayevaFatimatkfatimat@yandex.ru0000-0002-1026-3280Kabardino-Balkarian State University named after Kh.M. BerbekovКабардино-Балкарский государственный университет им. Х.М. Бербекова0708202528227382211202404062025https://creativecommons.org/licenses/by/4.0/CC BY 4.0https://mp.jvolsu.com/index.php/ru/archive-ru/512-mathematical-physics-and-computer-simulation-2025-vol-28-no-2/modelirovanie-informatika-i-upravlenie/1148-kudaeva-f-kh-matematicheskaya-model-nizkotemperaturnogo-vozdejstviya-na-biotkani

Работа посвящена моделированию процесса низкотемпературного воздействия на биоткани при деструкции тканей сферическими и полусферическими аппликаторами в одномерном приближении. Решена стационарная задача с фазовыми переходами для модели на основе уравнения типа Эмдена — Фаулера. Решение нестационарной задачи найдено в виде суммы тепловых потенциалов. Обсуждаются алгоритмы, которые легли в основу программных комплексов. Проведены некоторые численные решения при различных условиях. Построена математическая модель гипотермии, основанная на интегральном уравнении.

The work is devoted to modeling the process of low-temperature impact on biotissues during tissue destruction by spherical and hemispherical applicators in a one-dimensional approximation. A stationary problem with phase transitions is solved for a model based on an Emden-Fowler equation. The solution to the non-stationary problem is found as a sum of thermal potentials. The algorithms that formed the basis of the software packages are discussed. Some numerical solutions under various conditions are given. A mathematical model of hypothermia based on an integral equation is constructed.

математическая модельзадача с фазовыми переходамиинтегральные уравненияконечно-разностный аналогаппроксимацияmathematical modelproblem with phase transitionsintegral equationsfinite difference analogueapproximationАрнольд, В. И. Обыкновенные дифференциальные уравнения / В. И. Арнольд. — М. : Наука, 1971. — 240 c.Аоуаоуда, М. Сходимость приближенных решений ядром теплопроводности для уравнения переноса-диффузии в полуплоскости / М. Аоуаоуда, А. Аяди, Х. Ф. Яшима // Вестник Самарского государственного технического университета. Сер. Физ.-мат. Науки. — 2022. — Т. 26, № 2. — C. 222–258.Бахвалов, Н. С. Численные методы / Н. С. Бахвалов, Н. П. Жидков, Г. М. Кобельков. — М. : Наука, 1987. — 600 c.Березовский, А. А. Изменение солености и коэффициента вертикальной диффузии в Черном море в связи с сокращением стока рек / А. А. Березовский, С. Г. Богуславский // Динамика и устойчивость механических систем. — Киев : Ин-т математики АН УССР, 1980. — C. 167–175.Березовский, А. А. Проекционно-сеточный метод решения одномерных задач Стефана / А. А. Березовский // Математическая физика и нелинейная механика. — 1985. — № 4. — C. 71–76.Березовский, А. А. Нестационарные задачи сферически-симметричной гипотермии биоткани / А. А. Березовский, К. О. Жураев, И. И. Юртин // Препринт АН УССР. — Киев : Ин-т математики, 1990. — № 90.27. — C. 9–20.Вабищевич, П. Н. Численные методы решения задач со свободной границей / П. Н. Вабищевич. — М. : Изд-во МГУ, 1987. — 164 c.Вольтерра, В. Теория функционалов и интегро-дифференциальных уравнений / В. Вольтерра. — М. : Наука, 1982. — 304 c.Галактионов, В. А. О методе стационарных состояний для квазилинейных параболических уравнений / В. А. Галактионов, С. П. Курдюмов, А. А. Самарский // Математический сборник. — 1989. — Т. 180, № 8. — C. 995–1016.Галактионов, В. А. Об асимптотической устойчивости автомодельных решений уравнения теплопроводности с нелинейным стоком / В. А. Галактионов, С. П. Курдюмов, А. А. Самарский // Доклады АН СССР. — 1985. — Т. 281, № 1. — C. 23–28.Жураев, К. Интегральные уравнения одномерных задач криодеструкции / К. Жураев // Математическое моделирование физических процессов : сб. науч. тр. — Киев : Ин-т математики АН УССР, 1989. — C. 61–67.Кайгермазов, А. А. Математическая модель сферически-симметричной гипотермии биоткани / А. А. Кайгермазов, Ф. Х. Кудаева // Современные проблемы науки и образования. — 2015. — № 2-2. — C. 834–840.Криохирургия / Э. И. Кандель, Н. С. Пушкарь, А. М. Белоус, Ю. А. Иткин. — М. : Медицина, 1974. — 303 c.Карташев, А. П. Обыкновенные дифференциальные уравнения и основы вариационного исчисления / А. П. Карташев, Б. Л. Рождественский. — М. : Наука, 1980. — 288 c.Краснов, М. Л. Интегральные уравнения / М. Л. Краснов. — М. : Наука, 1975. — 304 c.Кудаева, Ф. Х. Компьютерное моделирование низкотемпературного воздействия на биологические ткани сферическим аппликатором / Ф. Х. Кудаева // Свидетельство о регистрации программы для ЭВМ. — 2023. — № 2023663249, 21.06.2023Кудаева, Ф. Х. Канонический вид задач со свободными границами в проблемах медицины / Ф. Х. Кудаева // Южно-Сибирский научный вестник. — 2023. — № 5 (51). — C. 142–147.Литвинчук, Г. С. Краевые задачи и сингулярные интегральные уравнения со сдвигом / Г. С. Литвинчук. — М. : Наука, 1977. — 448 c.Маслов, В. П. Интегральные уравнения и фазовые переходы в вероятностных играх. Аналогия со статистической физикой / В. П. Маслов // Теория вероятностей и ее применения. — 2003. — Т. 48, № 2. — C. 403–411.Обзор современных методов криоконсервации различных видов биологического материала / Е. В. Заикина, А. С. Гончарова, В. В. Позднякова, О. В. Пандова, Ю. В. Пржедецкий, В. Г. Воловик, Т. С. Карасев // Современные проблемы науки и образования. — 2022. — № 4. — C. 135–136.Попов, И. Е. Анализ термометрических данных головного мозга, полученных методом микроволновой радиотермометрии / И. Е. Попов, А. Е. Крылова // Математическая физика и компьютерное моделирование. — 2023. — Т. 26, № 2. — C. 32–42. — DOI: 10/15688/mpcm.jvolsu.2023.2.3Рождественский, Б. Л. Системы квазилинейных уравнений и их приложения к газовой динамике / Б. Л. Рождественский, Н. Н. Яненко. — М. : Медицина, 1968. — 592 c.Самарский, А. А. Математическое моделирование. Методы описания и исследования сложных систем / А. А. Самарский, Н. Н. Моисеев, А. А. Петров. — М. : Наука, 1989. — 271 c.Нестационарные структуры и диффузионный хаос / А. А. Самарский, С. П. Курдюмов, Т. С. Ахромеева, Г. Г. Малинецкий. — М. : Наука, 1991. — 560 c.Самарский, А. А. Введение в численные методы / А. А. Самарский. — М. : Наука, 1987. — 288 c.Ортега, Дж. Введение в численные методы решения дифференциальных уравнений / Дж. Ортега, У. Пул. — М. : Наука, 1986. — 288 c.Федорюк, М. В. Обыкновенные дифференциальные уравнения / М. В. Федорюк. — М. : Наука, 1980. — 352 c.Филатов, О. П. Стабилизация обобщенного решения третьей краевой задачи для уравнения параболического типа / О. П. Филатов // Вестник СамГУ. Естественнонаучная серия. — 2014. — № 3 (114). — C. 93–96.Фридман, А. Вариационные принципы и задачи со свободными границами / А. Фридман. — Москва : Наука, 1990. — 535 c.Фридман, А. Уравнения с частными производными параболического типа / А. Фридман. — М. : Мир, 1968. — 427 c.Хартман, Ф. Обыкновенные дифференциальные уравнения / Ф. Хартман. — М. : Мир, 1970. — 720 c.Хемминг, Р. В. Численные методы для научных работников и инженеров / Р. В. Хемминг. — М. : Наука, 1968. — 400 c.Adjutov, M. M. On a Generalization of the Emden Equation / M. M. Adjutov, N. V. Zmitrenko, Yu. A. Klokov // Differential Equations. — 1991. — Vol. 27, № 7. — P. 1107–1113.Chua, K. J. On the Study of the Freeze-thaw Process of a Biological System / K. J. Chua, S. K. Chou // Applied Thermal Engineering. — 2022. — Vol. 29. — P. 3696–3709.Chua, K. J. An Analytical Study on the Thermal Effects of Cryosurgery on Selective Cell Destruction / K. J. Chua, S. K. Chou, J. C. Ho // Journal of Biomechanics. — 2007. — Vol. 40. — P. 100–116.Сryodestruction of Brain Tumors 39th Annual Meeting of the Japan Society for Low Temperature Medicine / S. Vasiliev, V. Krylov, S. Pesnya-Prasolov, A. Zuev, A. Vyatkin, T. Galyan, S. Kungurcev, V. Pavlov // Cryomedicine. — Tokyo, 2012. — P. 43–44.Khoperskov, A. V. Improving the Efficiency of Oncological Diagnosis of the Breast Based on the Combined Use of Simulation Modeling and Artificial Intelligence Algorithms / A. V. Khoperskov, M. V. Polyakov // Algorithms. — 2022. — Vol. 15, № 8Wentzel, Т. D. An analytical Study on the Thermal Effects of Cryosurgery on Selective Cell Destruction / Т. D. Wentzel // Journal of Biomechanics. — 2007. — Vol. 40. — P. 100–116.Stefan, J. Uber Einige Probleme der Theorie der Warmeleitung / J. Stefan // Sitzungsberichte der Kaiserlichen Akademie der Wissenschaften in Wien. — 1889. — Vol. 98. — P. 173–184.Arnold V.I. Obyknovennye differentsialnye uravneniya [Ordinary Differential Equations]. Moscow, Nauka Publ., 1971. 240 p.Aouaouda M., Ayadi A., Yashima Kh.F. Skhodimost priblizhennykh resheniy yadrom teploprovodnosti dlya uravneniya perenosa-diffuzii v poluploskosti [Convergence of Approximate Solutions by the Core of Thermal Conductivity for the Transfer-Diffusion Equation in a Half- Plane]. Vestnik Samarskogo gosudarstvennogo tekhnicheskogo universiteta. Ser. Fiz.-mat. Nauki [Bulletin of the Samara State Technical University. Univ. Ser. Physical and Mathematical Sciences], 2022, vol. 26, no. 2, pp. 222-258.Bakhvalov N.S., Zhidkov N.P., Kobelkov G.M. Chislennye metody [Numerical Methods]. Moscow, Nauka Publ., 1987. 600 p.Berezovskiy A.A., Boguslavskiy S.G. Izmenenie solenosti i koeffitsienta vertikalnoy diffuzii v Chernom more v svyazi s sokrashcheniem stoka rek [Changes in Salinity and Vertical Diffusion Coefficient in the Black Sea Due to a Decrease in River Flow]. Dinamika i ustoychivost mekhanicheskikh sistem [Dynamics and Stability of Mechanical Systems] Kiev, In-t matematiki AN USSR Publ., 1980, pp. 167-175.5. Berezovskiy A.A. Proektsionno-setochnyy metod resheniya odnomernykh zadach Stefana [Projection-Grid Method for Solving One-Dimensional Stefan Problems]. Matematicheskaya fizika i nelineynaya mekhanika [Mathematical Physics and Nonlinear Mechanics], 1985, no. 4, pp. 71-76.Berezovskiy A.A., Zhuraev K.O., Yurtin I.I. Nestatsionarnye zadachi sfericheski- simmetrichnoy gipotermii biotkani [Nonstationary Problems of Spherical Symmetric Hypothermia of Biological Tissue]. Preprint AN USSR [Prepr. Academy of Sciences OF the Ukrainian SSR] Kiev, In-t matematiki Publ., 1990, no. 90.27, pp. 9-20.Vabishchevich P.N. Chislennye metody resheniya zadach so svobodnoy granitsey [Numerical Methods for Solving Problems with a Free Boundary]. Moscow, Izd-vo MGU Publ., 1987. 164 p.Volterra V. Teoriya funktsionalov i integro-differentsialnykh uravneniy [Theory of Functionals and Integro-Differential Equations]. Moscow, Nauka Publ., 1982. 304 p.Galaktionov V.A., Kurdyumov S.P., Samarskiy A.A. O metode statsionarnykh sostoyaniy dlya kvazilineynykh parabolicheskikh uravneniy [On the Method of Stationary States for Quasi-Linear Parabolic Equations]. Matematicheskiy sbornik [Mathematical Collection], 1989, vol. 180, no. 8, pp. 995-1016.Galaktionov V.A., Kurdyumov S.P., Samarskiy A.A. Ob asimptoticheskoy ustoychivosti avtomodelnykh resheniy uravneniya teploprovodnosti s nelineynym stokom [On the Asymptotic Stability of Self-Similar Solutions of the Thermal Conductivity Equation with Nonlinear Flow].Doklady AN SSSR [Reports of the USSR Academy of Sciences], 1985, vol. 281, no. 1, pp. 23-28.11. Zhuraev K. Integralnye uravneniya odnomernykh zadach kriodestruktsii [Integral Equations of One-Dimensional Cryodestruction Problems]. Matematicheskoe modelirovanie fizicheskikh protsessov: sb. nauch. tr. [Mat. Modeling of Physical Processes. Collection of Scientific Papers] Kiev, In-t matematiki AN USSR Publ., 1989, pp. 61-67.12. Kaygermazov A.A., Kudaeva F.Kh. Matematicheskaya model sfericheski-simmetrichnoy gipotermii biotkani [Mathematical Model of Spherical Symmetric Hypothermia of Biological Tissue]. Sovremennye problemy nauki i obrazovaniya [Modern Problems of Science and Education], 2015, no. 2-2, pp. 834-840.13. Kandel E.I., Pushkar N.S., Belous A.M., Itkin Yu.A. Kriokhirurgiya [Cryosurgery]. Moscow, Meditsina Publ., 1974. 303 p.14. Kartashev A.P., Rozhdestvenskiy B.L. Obyknovennye differentsialnye uravneniya i osnovy variatsionnogo ischisleniya [Ordinary Differential Equations and the Basics of Calculus of Variations]. Moscow, Nauka Publ., 1980. 288 p.15. Krasnov M.L. Integralnye uravneniya [Integral Equations]. Moscow, Nauka Publ., 1975. 304 p.16. Kudaeva F.Kh. Kompyuternoe modelirovanie nizkotemperaturnogo vozdeystviya na biologicheskie tkani sfericheskim applikatorom [Computer Modeling of Low-Temperature Effects on Biological Tissues with a Spherical Applicator]. Svidetelstvo o registratsii programmy dlya EVM [Certificate of Registration of the Computer Program], 2023, no. 2023661899 dated 06/08/2023Kudaeva F.Kh. Kanonicheskiy vid zadach so svobodnymi granitsami v problemakh meditsiny [The Canonical Type of Tasks with Free Boundaries in the Problems of Medicine]. Yuzhno-Sibirskiy nauchnyy vestnik [South Siberian Scientific Bulletin], 2023, no. 5 (51), pp. 142-147.Litvinchuk G.S. Kraevye zadachi i singulyarnye integralnye uravneniya so sdvigom [Boundary Value Problems and Singularly Integral Equations with a Shift]. Moscow, Nauka Publ., 1977. 448 p.Maslov V.P. Integralnye uravneniya i fazovye perekhody v veroyatnostnykh igrakh. Analogiya so statisticheskoy fizikoy [Integral Equations and Phase Transitions in Probabilistic Games. Analogy with Statistical Physics]. Teoriya veroyatnostey i ee primeneniya [Probability Theory and its Applications], 2003, vol. 48, no. 2, pp. 403-411.Zaikina E.V., Goncharova A.S., Pozdnyakova V.V., Pandova O.V., Przhedetskiy Yu.V., Volovik V.G., Karasev T.S. Obzor sovremennykh metodov kriokonservatsii razlichnykh vidov biologicheskogo materiala [Review of Modern Methods of Cryopreservation of Various Types of Biological Material]. Sovremennye problemy nauki i obrazovaniya [Modern Problems of Science and Education], 2022, no. 4, pp. 135-136.Popov I.E., Krylova A.E. Analiz termometricheskikh dannykh golovnogo mozga, poluchennykh metodom mikrovolnovoy radiotermometrii [Analysis of Brain Thermometric Data Obtained by Microwave Radiothermometry]. Matematicheskaya fizika i kompyuternoe modelirovanie [Mahematical Physics and Computer Simulation], 2023, vol. 26, no. 2, pp. 32-42. DOI: 10/15688/mpcm.jvolsu.2023.2.3Rozhdestvenskiy B.L., Yanenko N.N. Sistemy kvazilineynykh uravneniy i ikh prilozheniya k gazovoy dinamike [Systems of Quasi-Linear Equations and Their Applications to Gas Dynamics]. Moscow, Meditsina Publ., 1968. 592 p.Samarskiy A.A., Moiseev N.N., Petrov A.A. Matematicheskoe modelirovanie. Metody opisaniya i issledovaniya slozhnykh sistem [Mathematical Modeling. Methods of Description and Research of Complex Systems]. Moscow, Nauka Publ., 1989. 271 p.Samarskiy A.A., Kurdyumov S.P., Akhromeeva T.S., Malinetskiy G.G. Nestatsionarnye struktury i diffuzionnyy khaos [Unsteady Structures and Diffusion Chaos]. Moscow, Nauka Publ., 1991. 560 p.Samarskiy A.A. Vvedenie v chislennye metody [Introduction to Numerical Methods]. Moscow, Nauka Publ., 1987. 288 p.Ortega Dzh., Pul U. Vvedenie v chislennye metody resheniya differentsialnykh uravneniy [Introduction to Numerical Methods for Solving Differential Equations]. Moscow, Nauka Publ., 1986. 288 p.Fedoryuk M.V. Obyknovennye differentsialnye uravneniya [Ordinary Differential Equations]. Moscow, Nauka Publ., 1980. 352 p.Filatov O.P. Stabilizatsiya obobshchennogo resheniya tretyey kraevoy zadachi dlya uravneniya parabolicheskogo tipa [Stabilization of the Generalized Solution of the Third Boundary Value Problem for a Parabolic Equation]. Vestnik SamGU. Estestvennonauchnaya seriya [Bulletin of the Samara State University. Natural Science Series], 2014, no. 3 (114), pp. 93-96.Fridman A. Variatsionnye printsipy i zadachi so svobodnymi granitsami [Variational Principes and Free Boundary Problems]. Moscow, Nauka Publ., 1990. 535 p.Fridman A. Uravneniya s chastnymi proizvodnymi parabolicheskogo tipa [Partial Differential Equations of Parabolic Type]. Moscow, Mir Publ., 1968. 427 p.Khartman F. Obyknovennye differentsialnye uravneniya [Ordinary Differential Equations]. Moscow, Mir Publ., 1970. 720 p.Khemming R.V. Chislennye metody dlya nauchnykh rabotnikov i inzhenerov [Numerical Methods for Scientists and Engineers]. Moscow, Nauka Publ., 1968. 400 p.Adjutov M.M., Zmitrenko N.V., Klokov Yu.A. On a Generalization of the Emden Equation. Differential Equations, 1991, vol. 27, no. 7, pp. 1107-1113.Chua K.J., Chou S.K. On the Study of the Freeze-Thaw Process of a Biological System. Applied Thermal Engineering, 2022, vol. 29, pp. 3696-3709.Chua K.J., Chou S.K., Ho J.C. An Analytical Study on the Thermal Effects of Cryosurgery on Selective Cell Destruction. Journal of Biomechanics, 2007, vol. 40, pp. 100-116.Vasiliev S., Krylov V., Pesnya-Prasolov S., Zuev A., Vyatkin A., Galyan T., Kungurcev S., Pavlov V. Сryodestruction of Brain Tumors 39th Annual Meeting of the Japan Society for Low Temperature Medicine. Cryomedicine. Tokyo, 2012, pp. 43-44.Khoperskov A.V., Polyakov M.V. Improving the Efficiency of Oncological Diagnosis of the Breast Based on the Combined Use of Simulation Modeling and Artificial Intelligence Algorithms. Algorithms, 2022, vol. 15, no. 8.Wentzel T.D. An Analytical Study on the Thermal Effects of Cryosurgery on Selective Cell Destruction. Journal of Biomechanics, 2007, vol. 40, pp. 100-116.Stefan J. Uber Einige Probleme der Theorie der Warmeleitung. Sitzungsberichte der Kaiserlichen Akademie der Wissenschaften in Wien, 1889, vol. 98, pp. 173-184.