Научная лаборатория ИИ,
анализа данных и моделирования под руководством профессора А. Н. Горбаня

Проблема ошибок искусственного интеллекта становится все более актуальной. Ошибки неизбежно сопровождают ИИ, однако полное переобучение крупных систем для исправления каждой из них практически невозможно. В связи с этим была разработана вероятностная основа для быстрой и неразрушающей коррекции ошибок в системах ИИ.

Предложенные новые теоремы обеспечивают инструменты для оперативной, неитеративной коррекции ошибок в уже работающих системах. Совместно с И. Ю. Тюкиным разработаны подходы, эффективные для высокоразмерных задач, которые позволяют корректировать многомерные системы в многомерной среде.

Исследования показали, что ремонтопригодность ИИ часто связана с его уязвимостью к злонамеренным атакам. Были разработаны и проанализированы новые типы атак, дающие злоумышленникам возможность контролировать решения универсальных систем ИИ, включая нейронные сети глубокого обучения. Одновременно ведется работа над стратегиями, минимизирующими риск эксплуатации таких уязвимостей.

Часть этих результатов была представлена А. Н. Горбанем в приглашенном пленарном докладе на Всемирном конгрессе IEEE по вычислительному интеллекту (Глазго, 2020). Получены были патенты, поэтому работы активно развиваются, включая расширение областей применения и создание надежного и устойчивого ИИ. Особое внимание уделяется разработке многоагентных систем с гетерогенными популяциями агентов.

В период 1987—1999 годов была разработана система методов, предназначенная для ускоренного обучения нейронных сетей и извлечения явных знаний из данных с их помощью. Программное обеспечение, реализующее эти методы, нашло широкое применение в России, особенно в области медицинской нейроинформатики.

Совместно с Д. А. Россиевым (впоследствии доктором медицинских наук и проректором Красноярского медицинского университета) и командой медиков были созданы системы для решения ключевых задач:

• оценка риска осложнений после инфаркта миокарда;
• дифференциальная диагностика синдрома «острого живота»;
• выбор стратегии лечения пациентов с облитерирующим тромбангиитом;
• прогнозирование осложнений беременности и родов.

Эти разработки также применялись в создании систем безопасности, демонстрируя универсальность подходов. Результаты работы были опубликованы в ряде книг и статей, поддержаны грантами федеральных целевых программ и Министерства науки и технологий. За этот цикл исследований Российская ассоциация нейроинформатики совместно с оргкомитетом 19 ежегодных международных конференций «Нейроинформатика-1999−2017» удостоила А. Н. Горбаня почетного звания «Пионер российской нейроинформатики».

В узком смысле решена знаменитая шестая проблема Гильберта, связанная с предельным переходом от кинетики к механике континуума. Эта задача была исследована в цикле работ 1989−2014 годов, выполненных совместно с учеником И. В. Карлиным (ныне профессор ETH Zurich). В рамках этих исследований было доказано, что такой предельный переход не всегда возможен.

Обзор результатов был опубликован по специальному запросу в журнале, где изначально были представлены проблемы Гильберта:
A. N. Gorban, I. Karlin, Hilbert’s 6th Problem: exact and approximate hydrodynamic manifolds for kinetic equations, Bulletin of the American Mathematical Society, 51(2), 2014, 186−246.

Эти работы получили признание в научном сообществе. Их описание для широкой аудитории появилось в различных публикациях, включая популярный журнал QuantaMagazine:
Wolchover N. (2015). Famous fluid equations are incomplete: a115-year effort to bridge the particle and fluid descriptions of nature has led mathematicians to an unexpected answer. Quanta Magazine.

В процессе решения шестой проблемы Гильберта была разработана система методов для решения многомерных задач неравновесной кинетики и термодинамики. Исследования в этом направлении продолжаются. Одна из целей — переход к более широкому пониманию шестой проблемы Гильберта. Это включает изучение возможностей создания доказуемых моделей в физике и применения методов искусственного интеллекта для поиска таких моделей.

С 1978 по 2005 год был проведен систематический анализ сингулярностей переходных процессов в динамических системах с учетом их зависимости от параметров. В рамках исследования изучались общие динамические системы, включая особенности времени релаксации как функций начальных условий и параметров.

Была разработана классификация бифуркаций (взрывов) предельных множеств, а также изучена взаимосвязь между этими бифуркациями и особенностями времени релаксации. Созданная теория стала ответом на вызовы, связанные с наблюдаемыми медленными переходными процессами в гетерогенно-каталитических реакциях, и впоследствии была применена к различным предметным областям, таким как физика, экология и физиология.

Одним из последних направлений использования этих разработок стала теория клеточного интеллекта, демонстрирующая универсальность и широкие возможности подхода.

На основе многолетних наблюдений и сравнительного анализа популяций и групп, живущих на Крайнем Севере и в средних широтах Сибири, совместно с группой учеников из Красноярска был сделан важный вывод. Наибольшую информацию о степени адаптированности популяции к экстремальным или изменившимся условиям дают корреляции между физиологическими параметрами.

В ходе исследований была разработана иерархия показателей стресса и динамических моделей адаптации. Эти модели позволяют прогнозировать такие явления, как колеблющаяся смерть и колеблющаяся ремиссия.

Обзор по результатам работ 1987−2020 годов был опубликован в журнале Physics of Life Review (Volume 37, July 2021, Pages 17−64), одном из наиболее цитируемых журналов мира в области биофизики. Обзор подготовлен в соавторстве с группой учеников. В томах 37 и 38 этого же журнала были опубликованы материалы широкого обсуждения этих результатов ведущими мировыми экспертами.

В период 2003—2023 годов разработаны конструктивные методы упругих главных многообразий и графов для разведывательного анализа многомерных данных. Работа выполнена совместно с учеником А. Ю. Зиновьевым, который сейчас заведует междисциплинарной кафедрой в Парижском Институте ИИ и руководит группой системной биологии рака в Институте Кюри (Париж).

Методы аппроксимации данных с использованием главных графов, основанные на инновационной технологии топологических грамматик, оказались особенно эффективными при обработке современных «одноклеточных» данных (single-cell omics). Совместно с Институтом Кюри, Гарвардским университетом, Медицинской школой Гарварда, Массачусетским технологическим институтом и другими партнерами было разработано программное обеспечение, которое активно используется исследовательскими группами для анализа таких данных.

Одним из ключевых приложений этой работы стала полуконтролируемая методология динамического фенотипирования для больших наборов клинических данных. Этот подход позволяет строить траектории развития пациентов (патологические сценарии) с качественной оценкой неопределенности прогнозов.

С 2018 по 2023 год были решены следующие задачи:

1. Нейронные механизмы рабочей памяти:

• разработаны подходы к удержанию сравнительно небольшого числа сущностей («паттернов») в рабочей памяти;
• изучены методы управления наполнением рабочей памяти;
• предложена организация таких процессов в нейро-астроцитарных сетях.

2. Сетевые функции крупных клеток — астроцитов:

• расшифрованы механизмы «кальциевых событий», при которых большие клетки-астроциты выбрасывают кальций, стимулируя межнейронные связи;
• установлены функциональные роли этих событий в сетевых взаимодействиях.

Соавтор этих работ, Сусанна Гордлеева, была удостоена премии Президента России в области науки и инноваций для молодых ученых в 2023 году.