| Аннотация |
Цель: Разработка комплекса рекомендаций по этике применения ИИ в деятельности исполнительных органов власти Санкт-Петербурга (далее - ИОГВ СПб).
Актуальность исследования: Очевидно, что искусственный интеллект (ИИ) становиться элементом повседневности человека и реальностью в функционировании мировых и национальных политических и экономических систем. Скорость развития ИИ и его внедрение во все сферы жизнедеятельности человека детерминируют масштабные изменения не только технологического характера, но геополитической/политической и социально-экономической направленности. В современной действительности речь идет уже не о внедрении некоторых инструментов, позволяющих упростить жизнь человека и технологические/организационные процессы в государственном секторе и различных сферах экономики, а о формировании цифрового сознания организаций/предприятий, организационных структур, социально-экономических систем и цифровых агентов человека, способных полностью обеспечивать решение организационных и содержательных вопросов повседневной жизни. Мировые державы уже вступили в гонку за лидерство по созданию сильного ИИ (General AI), способного мыслить по образу и подобию человека. Российская Федерация определила своей целью стать одним из международных лидеров в развитии и использовании технологий искусственного интеллекта, что отражено в Национальной стратегии развития искусственного интеллекта на период до 2030 года.Нет сомнения, что расширение области применения ИИ обеспечивает решение многочисленных задач, в том числе и задач государственного управления. Однако, ИИ – это еще и вызовы для современного человека, общества и государства, и те страны, которые способны не только отвечать на эти вызовы, но и работать в этом направлении превентивно, смогут гармонично развиваться и обеспечивать себе как технологическое лидерство, так и лидерство в контексте геополитики и цивилизации. Таковыми вызовами видятся прежде всего проблемы гуманитарного плана. Человек впервые сталкивается/столкнётся с субъектом взаимодействия, обладающим интеллектом, сформированным на подобии человеческого. В данном контексте развития ИИ, человек, его права и свободы должны рассматриваться как высшая ценность, должно обеспечиваться уважение автономии и свободы воли человека, а также исключение дискриминации и этических дилемм. Это актуализирует развитие технологий доверенного искусственного интеллекта, обеспечивающих не только информационную/технологическую безопасность, но и гуманистический подход в использовании ИИ и этику его применения. Исходя из целей и задач Национальной стратегии, Российская Федерация ориентирована на создание условий развития и безопасности применения ИИ, в том числе механизмов нормативно-правового регулирования, которые не должны замедлить темпы разработки и внедрения решений в области искусственного интеллекта. При этом, РФ особо акцентирует внимание на разработке и внедрении доверенных технологий ИИ (доверенного ИИ) как в работу организаций, так и в работу органов публичной власти; актуализирует необходимость совершенствования этических правил и механизмов оценки рисков нарушения этических норм в применении ИИ, а также участие широкого круга заинтересованных сторон для решения наиболее сложных вопросов развития ИИ (условий делегирования информационным системам, функционирующим на основе искусственного интеллекта, возможности принятия отдельных решений, в том числе при исполнении государственными органами государственных функций).Все это требует тщательной разработки инструментов реализации принятых решений в государственном секторе, являющимся не только регулятором происходящих технологических изменений и формирования условий эффективности прохождения процесса развития/внедрения ИИ, но и основным пользователем данных технологии в управлении страной, регионами, социально-экономическими системами и т.д., что еще больше актуализирует проведение исследования гуманитарного контекста применения ИИ в государственном управлении и разработку комплекса рекомендаций по этике применения ИИ в органах публичной власти, в частности исполнительной власти. Дополнительно отметим, что в государственном секторе до сих отсутствует этическая регламентация применения ИИ (этический кодек), нет единых интегрированных в практику работы органов государственной власти этических правил применения ИИ. Необходимость этического регулирования развития ИИ подтверждается и данными ВЦИОМ: в РФ фиксируется высокий уровень общественной поддержки идеи разработки и внедрения единых обязательных этических стандартов в сфере искусственного интеллекта. Это свидетельствует о настороженности граждан в отношении возможных рисков и последствий развития данных технологий. Каждый четвертый россиянин считает, что наиболее остро этические вопросы применения ИИ встают в государственном управлении. 10.2. Степень научной разработанности исследуемого вопроса (обзор литературы, основные авторы):Среди зарубежных авторов, занимающихся исследованиями гуманитарного подхода в развитии ИИ и гуманитарных вызовов при активном его внедрении, можно отметить: Флориди и его классический труд по философии ИИ, проблемам автономности и морального выбора; Цамадос (о рисках внедрения ИИ); Зубофф, Кроуфорд, Шталь, представивших критический анализ экологических, социальных и этических издержек ИИ, а также акцентирующих внимание на том, что внедрение ИИ в экономических системах и решение проблем эффективности/ рентабельности объективно ведут к возникновению вопросов неравенства, потери автономии людей, к потере доверия к системам искусственного интеллекта; Бостром, Юдковский (риски сверхинтеллекта и стратегии обеспечения безопасности); Миттельштад, критиковавший декларативный анализ принципов и призвавший к практическим инструментам оценки этичности ИИ; Джобин представившая сравнительный анализ 84 этических руководств по ИИ из разных стран; Буоламвини, Гебру (о предвзятости алгоритмов распознавания лиц); Шталь, Шредер, Родригес (этика искусственного интеллекта: кейсы и варианты решения этических проблем)Особый интерес представляют работы авторов, исследующих проблематику применения ИИ в правительстве и в государственном секторе, среди таковых Зейдервейк, Ирени-Сабан, Шерман и др. Важность внедрения этических принципов в государственную политику, государственное управление прослеживается в работах авторов Уинфилд, Джиротка, Кульман, Леукс, Ирени-Сабан, Шерман, Тэихаг, Ульникан и др. Формализация рисков, возникающих при применении ИИ в публичном управлении для общества в контексте общечеловеческих ценностей: Ахмед, Чжан, Чон, Линь, Хосрави, Ци.Тема гуманистических принципов развития ИИ и этики его применения в России находится в стадии активного становления и имеет междисциплинарный характер. Наблюдается явный рост числа публикаций: Савельев А.И. анализирует правовые и этические проблемы ИИ в контексте российского законодательства; Шахова А.В представляет философское осмысление ответственности, прозрачности и справедливости алгоритмов; Аршинов В.И., Чеклецов В.В. рассматривают междисциплинарный подход к взаимодействию человека и ИИ; Петров О.А. делает обзор конфликтов между технологическим прогрессом и моральными нормами; Иванов Д.С. рассматривает вопросы ответственности за решения ИИ, Игнатьев А. Г. исследует этику ИИ в междисциплинарном контексте; Резаев А.В. (искусственный интеллект и искусственная социальность) и т.д. Социологические исследования по этике применения ИИ проводит ВЦИОМ.Вопросы внедрения ИИ в практику государственного управления довольно активно обсуждаются научным сообществом и отражены в публикациях (Кушнерова О.Н., Миннуллина Э.М. Ступин Р.С. и др.).Актуализация формализации рисков нанесения вреда обществу в результате использования ИИ в публичном управлении, а также с оценкой общего воздействия ИИ с точки зрения общечеловеческих ценностей представлена в работах Л.С. Макаренко, Н.В. Мамитова, С.Н. Федорченко, Э.В. Горян, Е.А. Пуртова. Этика применения ИИ в публичном управлении: Селиверстова А.Д.Однако при всем разнообразии отечественных работ по гуманитарной проблематике применения ИИ, этике его применения, в том числе и в публичном управлении необходимо системное представление специфики гуманитарного контекста применения ИИ в государственном управлении и практики применения этических стандартов/регуляторов в повсеядней деятельности органов государственной власти, а также готовности государственных служащих/сотрудников ИОГВ к применению ИИ в их профессиональной работе и отношения населения к применению ИИ в деятельности ИОГВ. Необходима не только разработка этических принципов, но и разработка этических норма/правил и инструментов их применения в ИОГВ при использовании ИИ.В рамках инициатив о необходимости этического регулирования применения ИИ на государственном уровне можно выделить: национальная стратегия развития ИИ до 2030 года (включает раздел о необходимости этических стандартов, но без детализации механизмов их внедрения); концепция развития регулирования ИИ, 2021 (упоминает принципы безопасности, прозрачности и недискриминации, но носит декларативный характер); обсуждаются поправки в Гражданский кодекс о статусе ИИ и ответственности за его решения (на уровне инициатив). При поддержке Минэкономразвития РФ и Аналитического центра при Правительстве РФ разработан Национальный Кодекс этики в сфере искусственного интеллекта. В тоже время, необходимо отметить неразработанность темы этики использования ИИ в деятельности органов государственной власти, в частности власти исполнительной. Национальный Кодекс этики в сфере искусственного интеллекта не ориентирован на специфику работы органов государственной власти, а общие этические принципы требуют проработки их внедрения в повседневные практики работы ИОГВ. Также ВШГУ РАНХиГС разработал Индекс зрелости искусственного интеллекта федеральных органов исполнительной власти Российской Федерации, используемый для мониторинга внедрения ИИ в государственное управлением не включает мониторинг гуманитарных рисков и угроз, а также применения этических стандартов.
В исследовании будут использованы общенаучные методы познания социальных процессов (системный, сравнительный, дедуктивно-номологический и индуктивно-вероятностный).Методологически для проведения исследования интерес представляют: теория коммуникации Н.Лумана, концепция искусственной коммуникации Е. Эспозито, концепция искусственной социальности Т. Мальш, работы Ш. Зубофф (этические издержки внедрения ИИ) и др.Эмпирические научные методы исследования:- опрос населения Санкт-Петербурга в возрасте 18 лет и старше по репрезентативной выборке по полу и возрасту как связанным признакам методом личного интервью;- фокус-группы с горожанами разных возрастных групп, опрос сотрудников ИОГВ Санкт-Петербурга в форме онлайн анкетирования, глубинные интервью с представителями ИОГВ СПб.
|
