Разработка новых оптимизационных формулировок и алгоритмов их решения для современных задач обучения искусственного интеллекта

Название НИОКТР	Разработка новых оптимизационных формулировок и алгоритмов их решения для современных задач обучения искусственного интеллекта
Аннотация	Известно, что решение задачи оптимизации является основополагающим элементом в машинном обучении. В последние годы интерес к использованию искусственного интеллекта в различных прикладных задачах из разных сфер жизни человека только растет. Это подталкивает к созданию более сложных инженерных решений, что в свою очередь, влияет и на оптимизационный процесс обучения современных моделей. К методам оптимизации предъявляются все более жесткие дополнительные требования, касающиеся как качества решения, так скорости и стоимость его получения. Таким образом возникает потребность в создании новых алгоритмов и трюков, обеспечивающих лучшую сходимость. Однако оптимизация начинается не с метода, до него идет формулировка задачи, и это не менее важный аспект, который может дать абсолютно новый взгляд на обучение той или иной модели и обеспечить прирост не хуже, чем новый продвинутый специализированный численный метод. Поэтому в этом проекте основное внимание уделяется именно новым формулировкам оптимизационных задач и их роли в решении современных задач обучения искусственного интеллекта. Еще вчера некоторые идеи в области машинного обучения казались невозможными и бесперспективными, а уже сегодня они являются бурно развивающимися тематиками исследований. Здесь можно вспомнить про использование нейросетей для табличных данных, где все еще на практике главенствуют классические подходы: решающие деревья и бустинг. Если говорить о других популярных веяниях в области ИИ, то сложно не упомянуть генеративные модели: большие языковые и диффузионные. Популярность генеративных моделей дала старт трендам поменьше, например, обучению с подкреплением в условиях человеческой обратной связи (RLHF), которое нацелено на "очеловечивание" результатов работы генеративного искусственного интеллекта. Все эти новые направления открывают огромные перспективы в развитии машинного обучения, но и порождают проблемы (в том числе оптимизационные), которые раньше не встречались. Так небольшое изменение признака в табличных данных может значительно влиять на метки, что пагубно сказывается на обучении нейросетей. Кроме этого, из-за небольших размеров табличных датасетов даже простые нейросети могут быстро переобучаться. В свою очередь, большие генеративные модели также не всегда могут похвастаться стабильностью процесса обучения и склонны к коллапсу на поздних этапах оптимизационного процесса. RLHF вообще предполагает работу с датасетом преференций реальных людей, где есть только субъективное и разнородное знание, какой из двух результатов работы генеративной модели лучше. Решение такого рода проблем и будет формировать задачи проекта, которые предлагается решать с помощью разработки новых оптимизационных формулировок и концепций. Помимо формулировок необходимо разработать и методы их решения: построить теорию сходимость и провалидировать работоспособность на перечисленных задачах обучения. В частности, выделяются следующие два направления исследований: 1) адаптивное изменение оптимизационной задачи в процессе обучения, 2) модификаций оптимизационных постановок и концепций, возникающих в обучении с подкреплением в условиях человеческой обратной связи.
Доступ к ОКОГУ исполнителя	False
Количество связанных РИД	0
Количество завершенных ИКРБС	0
Сумма бюджета	3000.0
Дата начала	2025-09-15
Дата окончания	2027-06-30
Номер контракта	25-71-00058
Дата контракта	2025-09-15
Количество отчетов	2
УДК	519.7:004.8
Количество просмотров	11
Руководитель работы	Безносиков Александр Николаевич
Руководитель организации	Баган Виталий Анатольевич
Исполнитель	ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ "МОСКОВСКИЙ ФИЗИКО-ТЕХНИЧЕСКИЙ ИНСТИТУТ (НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ УНИВЕРСИТЕТ)"
Заказчик	Российский научный фонд
Федеральная программа	Отсутствует
Госпрограмма	—
Основание НИОКТР	Грант
Последний статус	2025-10-06 08:29:47 UTC, 2025-10-06 08:29:47 UTC
ОКПД	Нет
Отраслевой сегмент	—
Минздрав	—
Межгосударственная целевая программа	—
Ключевые слова	численная оптимизация, выпуклая оптимизация, стохастическая оптимизация, адаптивные методы, обучение с подкреплением в условиях человеческой обратной связи, генеративные модели, овероптимизация
Соисполнители	—
Типы НИОКТР	Фундаментальное исследование
Приоритетные направления	—
Критические технологии	—
Рубрикатор	27.47.23 - Математические проблемы искусственного интеллекта
OECD	—
OESR	Прикладная математика
Приоритеты научно-технического развития	а) переход к передовым технологиям проектирования и создания высокотехнологичной продукции, основанным на применении интеллектуальных производственных решений, роботизированных и высокопроизводительных вычислительных систем, новых материалов и химических соединений, результатов обработки больших объемов данных, технологий машинного обучения и искусственного интеллекта;
Регистрационные номера	—