Кодекс этики в сфере ИИ

Альянс в сфере искусственного интеллекта (далее – Альянс) опубликовал Кодекс этики в сфере ИИ. На сайте Альянса также доступна Национальная стратегия развития ИИ до 2030 года. 

Альянс объединяет ведущие технологические компании для совместного развития их компетенций и ускоренного внедрения искусственного интеллекта в образовании, научных исследованиях и в практической деятельности бизнеса. Миссия Альянса: «Быть центром развития искусственного интеллекта в России и обес­печивать технологическое лидерство нашей страны и компаний­участников Альянса на глобальном технологическом рынке».

Основные положения (разделы) Кодекса:

1. Главный приоритет развития технологий ии в защите интересов и прав людей и отдельного человека.
2. Необходимо осознавать ответственность при создании и использовании ИИ.
3. Ответственность за последствия применения систем ИИ всегда несет человек.
4. Технологии ИИ нужно применять по назначению и внедрять там, где это принесёт пользу людям.
5. Интересы развития технологий ИИ выше интересов конкуренции.
6. Важна максимальная прозрачность и правдивость в информировании об уровне развития технологий ИИ, их возможностях и рисках.

В Кодексе также содержатся положения, регламентирующие его применение. 

Полагаю, специалистам по оценке проектов и программ следует принимать во внимание этот важный документ в свете активного внедрения ИИ в практику оценки.

Этика оценки: как правильно поступить?

В прошлый четверг состоялось очередное заседание клуба PROОЦЕНКУ. Говорили об этике оценки. Видеозапись заседания и презентация – на сайте клуба. 

Этика — это учение о нравственности. Нравственность или мораль – это принятые в обществе представления о хорошем и плохом, правильном и неправильном, добре и зле, а также совокупность норм поведения, вытекающих из этих представлений. Профессиональная этика предлагает нормы поведения, характерные для определенных видов профессиональной деятельности, например, для оценки программ и проектов социальной направленности.

Группа оценки ООН предложила такое определение этики оценки: «Согласованные ценности и принципы, которые определяют правильное поведение специалиста по оценке в конкретном культурном контексте, в котором заказывается или проводится оценка (проекта или программы - АК)». На всякий случай отмечу, что при переводе с английского я это определение слегка подредактировал 😊 

Обсуждение этических вопросов, на мой взгляд, всегда получается эмоциональным, поскольку оно имеет прямое отношение к ценностям. А ценности – это не то, что мы склонны подвергать сомнению или легко менять. Заседание клуба в этом плане не стало исключением. В результате мы не успели обсудить всё, что запланировали. Предлагаю вашему вниманию следующую ситуацию из необсужденных (основана на реальных событиях).

Само-оценивание в НКО. Сотрудники собрали данные, которые, по их мнению, свидетельствуют об ошибочном решении руководителя. По мнению сотрудников, это решение надо отменить. Руководитель непосредственного участия в проведении само-оценивания не принимал.

Проблема в том, что такого рода рекомендация может вызвать негативную эмоциональную реакцию со стороны руководителя. Это может привести к внутриорганизационному конфликту и существенно ухудшить психологический климат в НКО. 

Вопрос: как поступить команде, проводившей само-оценивание?  

PS Проблема здесь в том, чтобы минимизировать негативные последствия оценки либо вовсе их избежать. При этом необходимо показать ситуацию как она есть, то есть и хорошее, и плохое.

Участники заседания клуба PROОЦЕНКУ голосуют за кодекс эксперта

Обсуждение на вчерашнем заседании клуба было оживленным и интересным (видеозапись, презентация). Судя по всему, тема оказалась актуальной. После обсуждения аргументов «за» и «против» разработки кодекса для эксперта грантовых конкурсов мы предложили участникам ответить на два вопроса. Результаты голосования – на диаграммах. Ответили 23 человека из 32 присутствовавших на заседании.

Таким образом, три четверти опрошенных (17 человек) сочли, что кодекс нужен. Не согласны с этим только 13% (3 человека).

Если принять во внимание первый из ответов на открытый вопрос («кому-то ещё») насчет потенциальных разработчиков кодекса, то можно констатировать, что на первом месте (12 голосов) оказалось сообщество экспертов грантовых конкурсов, а на втором (10 голосов) – сами грантодающие организации. Довольно много голосов (по 8, 3 место) набрали Форум Доноров и АСОПП. Идею разработки кодекса госструктурой федерального уровня поддержали только 2 участника.

В предыдущей публикации я написал, что у нас нет сообщества экспертов грантовых конкурсов. Имел в виду формальное (как АСОПП) или неформальное объединение таких экспертов на национальном уровне. В ходе обсуждения на клубе это подтвердилось, но выяснилось также, что на региональном уровне у нас в стране есть устойчивые неформальные сообщества экспертов грантовых конкурсов. Сложились сообщества экспертов и вокруг некоторых грантодающих организаций. Такие сообщества могли бы предложить проект Кодекса эксперта для региональных грантовых конкурсов либо для конкретной грантодающей организации. 

Не знаю, в какой мере разработка такого кодекса находится в сфере интересов АСОПП и Форума доноров. На заседании клуба были представители обеих организаций. Посмотрим...

На мой взгляд, самым реалистичным является на данный момент разработка кодексов самими грантодающими организациями с участием экспертов. Требование соблюдать такой кодекс может быть в таком случае включено в контракт грантодателя с экспертом, а ознакомление с кодексом может войти в программу обучения экспертов.