125-136 ЧИСЛЕННОЕ МОДЕЛИРОВАНИЕ ЭФФЕКТА ЛОКАЛИЗАЦИИ ФРОНТА КЛЕТОЧНОГО НЕКРОЗА ПРИ КОЖНОЙ КРИОХИРУРГИИ 2016 г. Н.А. Кудряшов, К.Е. Шильников Национальный исследовательский ядерный университет «МИФИ», кафедра прикладной математики nakudr@gmail.com Исследование выполнено за счет гранта Российского научного фонда (проект №14-1100258). <...> Рассматривается задача прогнозирования и оптимизации криодеструкции злокачественного образования в ходе операций кожной криохирургии. <...> Для контроля распространения зоны клеточного некроза предлагается методика размещения дополнительных нагревательных элементов в здоровой ткани. <...> Численное моделирование осуществляется с помощью явной схемы, основанной на конечно-объемной аппроксимации модели теплопереноса в биотканях Пенне, и энтальпийного метода для расчета размазанных в температурном диапазоне фазовых переходов. <...> Для повышения устойчивости схемы используется метод релаксации потоков с выбором параметра по невязке на задачах с известными решениями. <...> Ключевые слова: криохирургия, модель Пенне, решение Парето, метод конечных объемов, метод релаксации потоков. <...> NUMERICAL MODELING OF THE CELLULAR NECROSIS FRONT LOCALIZATION EFFECT DURING CUTANEOUS CRYOSURGERY N.A. <...> Shilnikov National Research Nuclear University “MEPhI”, Department of Applied Mathematics In this paper we consider the problem of planning and optimization of the tumor tissue destruction during cutaneous cryosurgery operations. <...> An explicit scheme based on the finite volume approximation of Pennes bioheat transfer model is applied together with the enthalpy method for blurred phase change computations. <...> Key words: cryosurgery, Pennes model, Pareto solution, finite volume method, flux relaxation method 1. <...> Введение В последние десятилетия возрос интерес к криохирургии в связи с развитием методов разрушения злокачественных образований в биотканях при помощи экстремально 126 Н.А. Кудряшов, К.Е. Шильников низких температур [1-3]. <...> Можно считать, что биоткань претерпевает клеточный некроз в результате ее охлаждения ниже 50 C [2,4], не считая небольшого ее объема, отмирающего раньше вследствие высокой скорости охлаждения <...>