Бабаков А.В. «Численное изучение течения около спускаемого аппарата с куполами парашютной системы в его ближнем следе при сверхзвуковом движении» Математическое моделирование, 36, № 5, с. 3-18 (2024)

На основе консервативных численных методов проведено изучение пространственной нестационарной вихревой структуры потока, возникающей при сверхзвуковом движении в атмосфере спускаемого аппарата и расположенными в его вихревом следе куполами парашютной системой. Рассмотрены варианты парашютной системы, состоящей от одного до семи куполов. Приведены картины течения, возникающего в области между аппаратом и куполами, а также в следе за парашютной системой. Расчеты проведены для различных расстояний между спускаемым аппаратом и куполами. Показано влияние расстояния между аппаратом и куполами на характеристики силового воздействия потока на аппарат и парашютную систему. Моделирование проведено на основе параллельных алгоритмов, реализованных на современных суперкомпьютерных системах.

Земсков А.В., Тарлаковский Д.В. «К вопросу о вариационной формулировке задач обобщенной GN-термоупругости» Математическое моделирование, 36, № 5, с. 19-31 (2024)

Исследуются вопросы, связанные с формулировкой вариационных принципов обобщенной термоупругости на основе теории Грина–Нагди. Рассмотрены варианты теории Грина–Нагди: классическая связанная термоупругость и гиперболическая термоупругость. Для построения функционалов линейной теории термоупругости используется вариационный принцип, являющийся обобщением принципа Гамильтона в линейной теории упругости. Сформулированы условия стационарности построенных функционалов, приводящие к дифференциальным постановкам задач термоупругости.

Розов А.Л., Русина Н.Ю., Колпаков Д.А. «Моделирование условий режимов размыва плотины при переливе воды через её гребень» Математическое моделирование, 36, № 5, с. 32-40 (2024)

Работа направлена на определение критериев режимов размыва плотин при переливе потока воды через её гребень. Известно, что при натурных катастрофах при переливе потока воды через гребень плотины наблюдается пространственный размыв плотин, когда на какой-то небольшой части гребня образуется начальный проран. Продолжающийся перелив воды приводит к размыву дна начального прорана. По достижению дном прорана основания плотины изливающийся из водохранилища поток воды начинает размывать боковые стенки прорана. Процесс размыва завершается после опорожнения водохранилища с образованием конечного прорана, составляющего только часть (часто небольшую) тела плотины. В то же время в экспериментальных исследованиях перелив потока воды через гребень плотины приводит к плоскопараллельному размыву модели плотины – равномерному размыву по всей длине напорного фронта с практически полным разрушением тела плотины. В работе исследуются причины этого различия. На основе математической модели выводятся предварительные условия реализации различных режимов размыва плотин, подтверждённые специально проведёнными экспериментами, а также известными экспериментальными и натурными данными по разрушению плотин.

Сейдгазов Р.Д., Мирзаде Ф.Х. «Физическое обоснование схемы дискретизации при моделировании глубокого проплавления металлов в лазерных и родственных технологиях» Математическое моделирование, 36, № 5, с. 41-54 (2024)

Анализируется способность численных моделей адекватно воспроизводить гидродинамические процессы в режиме глубокого проплавления металлов в лазерных и электроннолучевых сварочных и родственных технологиях. Отмечается противоречивый характер выводов разных моделей об относительных вкладах термокапиллярного и абляционного механизмов в образовании глубокой каверны. Решение данной проблемы предполагает приведение расчетных результатов модели в соответствие с экспериментальными данными, согласно которым в технологических условиях основной вклад в формирование каверны вносит термокапиллярный механизм при незначительном испарении. Искажение соотношения этих вкладов является следствием неадекватного воспроизведения специфических особенностей термокапиллярного механизма в режиме глубокого проплавления. Причиной является выбор шага расчетной сетки без учета реального масштаба термокапиллярного потока в режиме глубокого проплавления. Предложена методика выбора физически обоснованного пространственного и временного шага расчетной сетки. Выполнены оценки для рекомендуемой дискретизации задачи при характерных размерах пятна фокусировки, используемых в технологиях лазерной сварки и аддитивного производства селективным лазерным плавлением. Проведено сравнение рекомендуемого шага расчетной сетки с обычно применяемой дискретизацией.

Лаврухин Е.В., Мурыгин Д.А., Торопов К.В., Хлюпин А.Н., Герке К.М. «Разработка методики создания синтетических томограмм пористых сред» Математическое моделирование, 36, № 5, с. 55-72 (2024)

Рентгеновская компьютерная томография (КТ) является одним из ключевых методов исследования внутреннего строения пористых образцов, например, пород-коллекторов нефти и газа. Для дальнейшего моделирования физических свойств пористых сред КТ-изображения необходимо предварительно сегментировать – разделить на твердую и пустотную фазы. Однако правильность сегментации невозможно проверить ввиду отсутствия данных о точном внутреннем строении материала. В настоящей работе описана разработанная методика и ПО на её основе для создания синтетических томограмм пористых сред с целью решить проблему отсутствия валидационных или тренировочных изображений сегментации. Созданный фреймворк основан на прямом и обратном преобразовании Радона. Для проверки предложенного подхода мы сравнили скорость и качество работы ключевых алгоритмов с существующими аналогами. На основе прокси-образцов, полученных сегментацией КТ-изображений, созданы синтетические изображения пористых сред из пяти фаз: пор (воздух с незначительным поглощением излучения), каолинита (Al₂Si₂O₅OH₄), диоксида кремния (SiO₂), карбоната кальция (CaCO₃) и дисульфида железа (FeS₂). Наблюдается хорошее соответствие получаемых синтетических данных в сравнении с оригинальными КТ-изображениями. Разработанная методика позволяет решить проблему создания размеченных данных для использования машинного обучения в задачах сегментации КТ-изображений, а также для тестирования любых других методик для сегментации КТ-изображений.

Щетинин Е.Ю. «Об эффективности применения визуальных трансформеров в обнаружении аномалий гистопатологических изображений» Математическое моделирование, 36, № 5, с. 73-87 (2024)

Рак молочной железы является одним из наиболее распространенных и опасных видов онкологии у женщин. Современные подходы к его раннему обнаружению и лечению все чаще используют методы искусственного интеллекта и глубокого обучения. В работе исследованы гистопатологические изображения молочной железы с использованием нейронных сетей-трансформеров и глубоких нейронных сетей. В качестве моделей трансформеров использованы модели Vision Transformer (ViT), Data Efficient Image Transformer (DeiT). В качестве моделей глубоких сверточных нейронных сетей выбраны модели ResNet50, VGG16, DenseNet201, EfficientNet-B7, Xception. Все модели были предварительно обучены на наборе изображений ImageNet1к, а затем дообучены на наборе из 4356 гистопатологических изображений. В результате компьютерных экспериментов установлено, что модель EfficientNet-B7 превзошла другие модели, достигнув показателя точности 95.84%. Для повышения производительности моделей классификации гистопатологических изображений в работе применен метод дистилляции знаний, что позволило получить новую модель глубокой нейронной сети-трансформера DeiTBdist для высокоточной классификации гистопатологических изображений и обнаружения рака молочной железы. Показатели ее точности составили 98.14% и превзошли остальные модели, а также сопоставимы с результатами работ других исследователей.

Новосадов Б.К. «Операторный метод расчета матричных элементов квантовой химии в базисе слейтеровских орбиталей. Формулы для двухцентровых интегралов» Математическое моделирование, 36, № 5, с. 88-100 (2024)

Предложен операторный метод вычисления элементов гамильтоновой матрицы квантовой химии в базисе слейтеровских атомных орбиталей и получены формулы двухцентровых интегралов от обобщенного потенциала взаимодействия частиц в виде потенциала Юкавы (одночастичного и двухчастичного). Явные зависимости полученных выражений от межатомных расстояний позволяют провести анализ матричных элементов и создать простые алгоритмы программы расчета матричных элементов квантовой химии в базисе АО слейтеровского типа.

Чурбанов А.Г. «Валидационный расчет несжимаемого течения в системе пористое тело–свободный поток» Математическое моделирование, 36, № 5, с. 101-119 (2024)

Работа посвящена обоснованию применимости модели для сопряженного расчета течений в системе пористое тело–свободный поток. Рассмотренная модель основана на обобщенных уравнениях Навье–Стокса для несжимаемой жидкости, полученных осреднением по представительному элементарному объему пористой среды и записанных для всей расчетной области, включающей в себя как пористое тело, так и чистую жидкость. Численная реализация модели выполнена с использованием открытой вычислительной платформы FEniCS. Для тестирования модели использовались данные экспериментов, в которых измерялись профили скорости потока жидкости в канале прямоугольного сечения, частично заполненном пористым телом. Модельное пористое тело представляло собой квадратный массив параллельных круглых стержней, расположенных вертикально на участке дна канала. Валидационные расчеты течения, соответствующего режиму фильтрации Дарси, показали хорошее совпадение численных результатов со значениями локальных измерений в широком диапазоне величины пористости.

Янышев Д.С., Широков И.А., Кирюшина М.А., Молчанов А.М., Быков Л.В. «О роли второй вязкости в моделировании течений разреженного газа» Математическое моделирование, 36, № 5, с. 120-136 (2024)

На примере задачи обтекания наклонной пластины потоком разреженного газа с M=20 рассматриваются вопросы корректного учета эффектов, возникающих при течении разреженного газа, в частности – второй (объемной) вязкости. Дается краткий обзор современного состояния вопроса по исследованию второй вязкости газов. Приводятся и анализируются результаты расчетов с использованием уравнений Навье–Стокса и квазигазодинамических уравнений. Делается вывод о существенном влиянии второй вязкости на результаты расчетов течений разреженных газов независимо от используемой для расчетов системы уравнений динамики.

Косарев Н.И. «Перенос резонансного излучения в газовых средах с нестационарной кинетикой» Математическое моделирование, 36, № 5, с. 137-176 (2024)

Обзор посвящен численному моделированию переноса линейчатого излучения в газовых средах, обладающих 3D геометрией, и в условии нестационарной кинетики возбуждения и ионизации. Скоростные уравнения баланса населенностей многоуровневого атома определяются прямыми и обратными ударно-радиационными процессами. При этом вероятности вынужденных процессов фотовозбуждения в любой точке газовой среды зависят от средней по телесным углам и частоте интенсивности излучения. Эта средняя интенсивность складывается из интенсивности внешнего излучения, которое, распространяясь в среде, поглощается атомами, и собственного излучения, формируемого внутренними источниками фотонов. Математическая постановка задачи ударно-радиационной кинетики принимает вид системы интегро-дифференциальных уравнений. Вычисление трехкратного интеграла по частотной и угловым переменным проводится дискретно-разностными методами с помощью приема дискретизации объема на прицельные плоскости. В результате разработанных уникальных приемов, методов и вычислительных алгоритмов задача Коши для системы интегро-дифференциальных уравнений сводится к системе обыкновенных дифференциальных уравнений, которая затем решается численно методами Адамса и Гира. Приводятся результаты моделирования определенного класса задач кинетики фотовозбуждения и свечения газов под действием внешнего излучения. Выполненные исследования дополняют астрофизическую теорию переноса излучения, а также вносят значительный вклад в развитие спектроскопических методов диагностики излучающих газов и плазмы.