| Название НИОКТР |
Повышение надежности и состязательной устойчивости сжатых глубоких нейронных сетей
|
| Аннотация |
Целью данного проекта является решение проблем высоких вычислительных требований и восприимчивости к состязательным атакам глубоких нейронных сетей (англ. deep neural networks (DNN)) путем применения сжатия моделей с сертифицированными методами повышения надежности (устойчивости к состязательным атакам). Несмотря на своё успешное развитие, DNN часто требуют значительных вычислительных мощностей, что ограничивает их внедрение в средах с ограниченными ресурсами, таких как устройства интернета вещей. Кроме того, устойчивость глубоких нейронных сетей, особенно сжатых, к состязательным атакам не была широко исследована в литературе. Это создает значительные риски надежности, эффективности и безопасности в таких сферах применения DNN.
В ходе нашего исследования будет проведена тщательная проверка надежности сжатых DNN с выявлением их уязвимостей. Мы планируем исследовать различные методы сжатия, включая факторизацию, квантование, обрезку, дистилляцию знаний и применение компактных архитектурных структур, и оценить их влияние на способность сетей противостоять состязательным атакам. Наш анализ будет охватывать целый ряд сценариев атак, включая атаки как с использованием "белого ящика", так и с использованием "черного ящика", в различных приложениях.
Вместе с этим будут изучены и оценены самые современные методы защиты для повышения надежности сжатых моделей. Эти методы могут включать состязательное обучение, защитную дистилляцию и доказуемую защиту с акцентом на включение таких нейронных слоев, как вероятностный и тензорный нейронные слои, которые обеспечивают гарантии правильного поведения DNN.
Кроме того, будут проведены всесторонний анализ и сравнение надежности и состязательной устойчивости сжатия изображений на основе искусственного интеллекта со стандартными методами сжатия изображений, такими как JPEG, PNG или WebP. В ходе анализа будут исследованы различные сценарии состязательных атак и оценены результаты с применением таких показателей, как индекс структурного сходства (англ. structural similarity index (SSIM)), пиковое отношение сигнал/шум (англ. peak signal-to-noise ratio (PSNR)) и другие показатели оценки качества изображения (англ. image quality assessment (IQA)). Целью этого анализа является разработка эффективных и устойчивых моделей сжатия изображений, которые можно эффективно использовать в условиях ограниченных ресурсов, что позволит повысить устойчивость сжатых DNN к состязательным атакам и будет способствовать развитию технологий искусственного интеллекта.
|
| Доступ к ОКОГУ исполнителя |
False
|
| Количество связанных РИД |
0
|
| Количество завершенных ИКРБС |
0
|
| Сумма бюджета |
19500.0
|
| Дата начала |
2025-01-01
|
| Дата окончания |
2027-12-31
|
| Номер контракта |
25-41-00091
|
| Дата контракта |
2024-12-26
|
| Количество отчетов |
1
|
| УДК |
004.8.032.26
|
| Количество просмотров |
8
|
| Руководитель работы |
Оселедец Иван Валерьевич
|
| Руководитель организации |
Романова Дарья Александровна
|
| Исполнитель |
АВТОНОМНАЯ НЕКОММЕРЧЕСКАЯ ОБРАЗОВАТЕЛЬНАЯ ОРГАНИЗАЦИЯ ВЫСШЕГО ОБРАЗОВАНИЯ "СКОЛКОВСКИЙ ИНСТИТУТ НАУКИ И ТЕХНОЛОГИЙ"
|
| Заказчик |
Российский научный фонд
|
| Федеральная программа |
Отсутствует
|
| Госпрограмма |
—
|
| Основание НИОКТР |
Грант
|
| Последний статус |
2025-11-21 08:23:03 UTC, 2025-11-21 08:23:03 UTC
|
| ОКПД |
Нет
|
| Отраслевой сегмент |
—
|
| Минздрав |
—
|
| Межгосударственная целевая программа |
—
|
| Ключевые слова |
надежность; состязательные атаки; AI-сжатие; сверхуверенность глубокой нейронной сети; сжатие нейронных сетей; вероятностный слой
|
| Соисполнители |
Университет электронных наук и технологий Китая
|
| Типы НИОКТР |
Фундаментальное исследование
|
| Приоритетные направления |
Информационно-телекоммуникационные системы
|
| Критические технологии |
Технологии и программное обеспечение распределенных и высокопроизводительных вычислительных систем
|
| Рубрикатор |
28.23.37 - Нейронные сети
|
| OECD |
—
|
| OESR |
Компьютерные, информационные науки и биоинформатика (разработка аппаратного обеспечения относится к разделу 2.2, социальный аспект относится к разделу 5.8)
|
| Приоритеты научно-технического развития |
а) переход к передовым технологиям проектирования и создания высокотехнологичной продукции, основанным на применении интеллектуальных производственных решений, роботизированных и высокопроизводительных вычислительных систем, новых материалов и химических соединений, результатов обработки больших объемов данных, технологий машинного обучения и искусственного интеллекта;
|
| Регистрационные номера |
—
|
