Разработка комплексной метрики оценки предвзятости больших языковых моделей и ее апробация
| Название НИОКТР | Разработка комплексной метрики оценки предвзятости больших языковых моделей и ее апробация |
|---|---|
| Аннотация | В эпоху цифровой трансформации большие языковые модели (БЯМ) находят все более широкое применение в различных сферах жизни от автоматизации процессов в образовании и науке до управления производственными и социальными системами. Их использование демонстрирует значительные преимущества, однако ведет общество к ряду серьезных рисков. Среди них – риски скрытой предвзятости, ограниченной восприимчивости и недостаточной поведенческой гибкости моделей, что может привести к принятию несбалансированных решений, поляризации в обществе, непредсказуемым социальным трансформациям, препятствующим целям устойчивого развития. Проект направлен на создание набора данных вопросов и ответов с ограниченной вариативностью, позволяющего оценивать предвзятость и гибкость поведения БЯМ. Набор данных позволит проводить комплексную оценку существующих и разрабатываемых БЯМ. Особую ценность применения разрабатываемого метода оценки и датасета может представлять для анализа моделей после их дообучения, которое в большинстве случаев ведет к непредсказуемому изменению ее предвзятости и потенциальным рискам в случае дальнейшего промышленного использования. |
| Доступ к ОКОГУ исполнителя | False |
| Количество связанных РИД | 0 |
| Количество завершенных ИКРБС | 0 |
| Сумма бюджета | 5000.0 |
| Дата начала | 2025-03-24 |
| Дата окончания | 2025-12-10 |
| Номер контракта | НИР/03-25/5 |
| Дата контракта | 2025-03-24 |
| Количество отчетов | 1 |
| УДК | 004.8 |
| Количество просмотров | 3 |
| Руководитель работы | Коротков Дмитрий Павлович |
| Руководитель организации | Кравченко Павел Николаевич |
| Исполнитель | ЧАСТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ "МОСКОВСКИЙ УНИВЕРСИТЕТ ИМЕНИ С.Ю. ВИТТЕ" |
| Заказчик | Воронежский институт высоких технологий - автономная некоммерческая образовательная организация высшего профессионального образования |
| Федеральная программа | Отсутствует |
| Госпрограмма | — |
| Основание НИОКТР | Договор со сторонней организацией |
| Последний статус | 2025-12-23 09:09:44 UTC, 2025-12-23 09:09:44 UTC |
| ОКПД | Нет |
| Отраслевой сегмент | — |
| Минздрав | — |
| Межгосударственная целевая программа | — |
| Ключевые слова | искусственный интеллект; большие языковые модели; предвзятость алгоритмов; контекстуальная восприимчивость; поведенческая гибкость моделей; метрики оценки качества ИИ; тестовые датасеты; дообучение моделей; верификация и валидация ИИ; риски применения искусственного интеллекта |
| Соисполнители | — |
| Типы НИОКТР | Поисковое (ориентированные фундаментальные) исследование |
| Приоритетные направления | — |
| Критические технологии | — |
| Рубрикатор | 28.23.01 - Общие вопросы искусственного интеллекта; 28.23.37 - Нейронные сети; 28.23.25 - Модели и системы обучения; 28.23.11 - Языки представления и языки манипулирования знаниями |
| OECD | — |
| OESR | Информатика – архитектура и аппаратное обеспечение |
| Приоритеты научно-технического развития | Отсутствует |
| Регистрационные номера | — |