Разработка прототипа веб-сервиса для автоматического анализа защищённости больших языковых моделей
| Название НИОКТР | Разработка прототипа веб-сервиса для автоматического анализа защищённости больших языковых моделей |
|---|---|
| Аннотация | Цель проекта — создание автоматизированного веб-сервиса для тестирования защищённости больших языковых моделей (LLM) и чат-ботов по стандарту OWASP Top-10 for Large Language Model Applications 2025. Актуальность обусловлена ростом кибератак на ИИ-системы: по данным MITRE, 68% внедрённых LLM содержат критические уязвимости, что требует инструментов для их превентивного выявления. Задачи: - Разработка модулей генерации adversarial-промптов с использованием GAN-сетей; - Внедрение NLP-анализа ответов LLM на утечки данных и инъекции; - Создание системы формирования отчётов с оценкой рисков по CVSS v4.0. Ожидаемые результаты: - Сервис с точностью обнаружения уязвимостей ≥80%; - Поддержка российских LLM (YandexGPT, GigaChat); - Интеграция с отечественными системами защиты (Kaspersky, InfoWatch). Области применения: - Финансовый сектор (аудит банковских чат-ботов); - Государственные ИИ-сервисы; - SaaS-платформы (встраивание в CI/CD). Потребители: - Fintech-стартапы (средний чек 29900 руб./мес); - Госучреждения (тендеры на ИБ-аудит); - Разработчики LLM (интеграция через REST API). Проект решает проблему отсутствия отечественных специализированных инструментов для тестирования LLM, соответствуя приоритетам Стратегии НТРФ по противодействию киберугроз. |
| Доступ к ОКОГУ исполнителя | False |
| Количество связанных РИД | 0 |
| Количество завершенных ИКРБС | 0 |
| Сумма бюджета | 5000.0 |
| Дата начала | 2025-12-17 |
| Дата окончания | 2027-02-16 |
| Номер контракта | 5483ГС1/112082 |
| Дата контракта | 2025-12-17 |
| Количество отчетов | 2 |
| УДК | 002.6:004.3; 002.6:022.9 |
| Количество просмотров | 3 |
| Руководитель работы | Паюсова Татьяна Игоревна |
| Руководитель организации | Паюсова Татьяна Игоревна |
| Исполнитель | ОБЩЕСТВО С ОГРАНИЧЕННОЙ ОТВЕТСТВЕННОСТЬЮ "АЙ РЕД ТИМ" |
| Заказчик | ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ БЮДЖЕТНОЕ УЧРЕЖДЕНИЕ "ФОНД СОДЕЙСТВИЯ РАЗВИТИЮ МАЛЫХ ФОРМ ПРЕДПРИЯТИЙ В НАУЧНО-ТЕХНИЧЕСКОЙ СФЕРЕ" |
| Федеральная программа | Отсутствует |
| Госпрограмма | — |
| Основание НИОКТР | Грант |
| Последний статус | 2026-01-13 08:49:42 UTC, 2026-01-14 14:35:37 UTC |
| ОКПД | Оригиналы программного обеспечения прочие |
| Отраслевой сегмент | — |
| Минздрав | — |
| Межгосударственная целевая программа | — |
| Ключевые слова | безопасность; кибербезопасность; большие языковые модели; тестирование защищенности |
| Соисполнители | — |
| Типы НИОКТР | Разработка новых материалов, научно-методических материалов, продуктов, процессов, программ, устройств, типов, элементов, услуг, систем, методов, методик, рекомендаций, предложений, прогнозов |
| Приоритетные направления | — |
| Критические технологии | — |
| Рубрикатор | 20.53.19 - Средства обработки и поиска информации |
| OECD | — |
| OESR | Компьютерные, информационные науки и биоинформатика (разработка аппаратного обеспечения относится к разделу 2.2, социальный аспект относится к разделу 5.8) |
| Приоритеты научно-технического развития | а) переход к передовым технологиям проектирования и создания высокотехнологичной продукции, основанным на применении интеллектуальных производственных решений, роботизированных и высокопроизводительных вычислительных систем, новых материалов и химических соединений, результатов обработки больших объемов данных, технологий машинного обучения и искусственного интеллекта; |
| Регистрационные номера | — |