Нужно ли нам деколонизировать ИИ?

Недавно обсуждал с нейросетью предложенную ООН концепцию Национальной системы мониторинга и оценки, формирование и функционирование которой определяется самой страной, где эта система внедряется. По-английски называется country-owned (или country-led) monitoring and evaluation system. 

Развернутое определение выглядит так: 

Система мониторинга и оценки (МиО), находящаяся в ведении страны (или реализуемая под ее руководством), — это механизм национального управления, в рамках которого правительство самостоятельно организует разработку системы, сбор данных и использование полученной информации для формирования государственной политики и бюджетного планирования.

Мой вопрос состоял в следующем: как может быть НАЦИОНАЛЬНАЯ система МиО не под контролем той страны, где она внедряется? Другими словами, в чем «величие» идеи ООН? Вроде бы, по-другому и быть не может… 

И вот здесь ИИ мне говорит примерно следующее: «Но ведь во многих странах, например, в Центральной Азии, очень высок уровень коррупции, и они не могут нормальную систему МиО разработать и внедрить самостоятельно без внешней помощи и контроля со стороны». 

Как вам такое??? 

Ну, я развернуто ему показал, что подобный ответ совершенно очевидно дан в неоколониальной традиции, когда формально независимые государства, на самом деле, находятся под контролем стран Глобального Севера. 

Реакция ИИ была ожидаемой: согласился и признал свои ошибки. Но недаром говорят и пишут о том, что практически все системы ИИ отражают доминирующие западные нарративы; усиливают стереотипы. И даже появилось движение за деколонизацию ИИ. Деколонизация искусственного интеллекта — это концепция, направленная на устранение неравенства, при котором разработка и доминирование ИИ закрепляют технологическую, экономическую и культурную зависимость стран Глобального Юга от центров силы Глобального Севера.

В мае этого года в Стамбуле прошёл первый Всемирный форум деколонизации — новая интеллектуальная платформа Глобального Юга. Участники заявили: колониализм не исчез, он перешёл в науку, финансы и ИИ. Главная цель — освободить знания и сознание от западной гегемонии.

Как подготовиться к проведению внешней оценки вашего проекта

Многие НКО время от времени оказываются в ситуации, когда финансирующая организация (донор) принимает решение о проведении внешней оценки их проекта. В этом случае, естественно, консультанта выбирает и нанимает донор. Он же ставит задачу перед консультантом. НКО оказывается перед фактом: к вам едет оценщик. 

Сегодня на заседании клуба PROОЦЕНКУ обсуждали, как НКО подготовиться к проведению такой оценки. 

Вот рекомендации, которые могут пригодиться на практике:

1. Организационная и административная подготовка

• Выделить ресурсы. Запланировать время для встреч с оценщиком, подготовить помещение и собрать необходимые документы.
• Назначить ответственных. Руководитель организации должен контролировать весь процесс подготовки.
• Подготовить базу данных. Заранее подготовить материалы, документы и данные, необходимые для проведения оценки.
• Организовать сбор данных. Подготовить волонтеров или сотрудников, которые будут заниматься сбором необходимых данных.
• Сформировать пул респондентов. Запросить списки групп респондентов, договориться с ними об участии и проинформировать их о предстоящей оценке.

2. Взаимодействие с донором и оценщиком

• Запросить критерии. Уточнить у донора критерии оценки проекта.
• Понять цели и инструменты. Выяснить у донора и оценщика цель проведения оценки, перечень вопросов и используемые инструменты.
• Получить контакты. Узнать контакты оценщика, связаться с ним и обсудить специфику вашей организации/проекта.
• Личный контакт. Познакомиться с оценщиком как с человеком, чтобы наладить взаимодействие.
• Уточнить вопросы. Напрямую выяснить у внешнего оценщика, какие именно вопросы будут заданы.
• Оценить последствия. Прояснить возможные последствия проведения оценки и, в зависимости от них, выстроить алгоритм подготовки.

3. Подготовка команды

• Информирование и обучение. Поговорить с командой, объяснить цели и процесс оценки, чтобы снять напряжение.
• Моральная готовность. Подготовиться к тому, что оценка — это стресс для организации.
• Разграничение понятий. Не путать оценку проекта и административную оценку.
• Естественность. Не нужно излишне накручивать команду. Ситуация, когда все стоят «по стойке смирно», неудобна для внешнего оценщика.
• Оценка целесообразности. Задать вопрос: «Стоит ли подготовка к оценке затраченных усилий?»

4. Чего делать НЕ НАДО

• Не пугать. Не нужно нагнетать обстановку и создавать излишнее напряжение.
• Избегать «претензий». Не должно быть незначительных придирок или мелких претензий к процессу.
• Не давать установок. Категорически нельзя давать команде установки о том, что отвечать и о чем говорить. Это искажает данные и вредит оценке.

Оценка ситуации в социальном проектировании

В контексте социального проектирования оценка ситуации или ситуационный анализ — это этап исследования и всестороннего изучения конкретной социальной проблемы и среды, в которой она существует, проводимый до начала разработки самого проекта. Такой анализ иногда еще называют предпроектным, имея в виду, что он является источником информации для формирования и обоснования проектной идеи и проводится на стадии инициирования проекта.

Главная цель такого анализа —разобраться в причинах проблемы, масштабах, взаимосвязях и понять, как она влияет на жизнь конкретной целевой группы. Оценка ситуации в числе прочего, как правило, включает:

• Анализ проблемы. Что именно не так, в чём суть социальной проблемы, как она проявляется и почему её важно решать.
• Анализ причин и следствий. Почему проблема возникла и к каким последствиям она приводит.
• Анализ целевой аудитории. Кто страдает от проблемы, каковы их потребности, интересы, возможности и особенности.
• Анализ заинтересованных сторон (стейкхолдеров). Кто влияет на ситуацию, и кто заинтересован в её изменении.
• Анализ ресурсов и возможностей. Какие кадровые, финансовые, материальные, информационные и другие ресурсы доступны для решения проблемы.

В 80-е годы прошлого века рабочая группа Американской ассоциации оценки, в задачи которой входило определение рамок профессии, включила предпроектный анализ (front-end analysis) в число видов деятельности, относящихся к программной оценке (program evaluation). С одной стороны, это абсолютно логично. Однако, если руководствоваться широко известными определениями оценки программ, такой анализ оказывается «за бортом», поскольку на стадии инициирования проекта самого проекта не существует, то есть объект оценки отсутствует. Может быть, тогда это особый вид деятельности и к оценке программ его относить неправильно? Тут точно есть, над чем подумать.

"Кто бы мог подумать, что это окажется так сложно?"

В 2014 году в Канадском журнале программной оценки была опубликована статья с интригующим названием: «К определению понятия оценки в канадском контексте: кто бы мог подумать, что это окажется так сложно?». Дело в том, что Канадское общество оценки (Canadian Evaluation Society) предприняло тогда попытку сформулировать определение понятия «оценка», с которым бы согласились все члены общества. Итог оказался неутешительным: «Как показали обзор литературы, анализ социальных медиа и дискуссии в профессиональном сообществе, единого определения оценки на сегодняшний день не существует… Более того, есть основания полагать, что выработать такое определение в канадском оценочном сообществе было бы крайне сложно. Среди возможных последствий обсуждался риск того, что единое определение может сузить или упростить существующую практику оценки, учитывая многообразие контекстов и целей, в которых она применяется в Канаде». Короче, не договорились. И это в одной из старейших профессиональных ассоциаций! 

А мы бы могли договориться с учетом российского контекста? Как думаете? Обсудим на Институте оценки в ноябре.

Институт оценки в США развивает тему ИИ

Институт оценки (TEI) при Университете Клермонт-Грейдуэйт предлагает впечатляющий каталог курсов, который охватывает практически все аспекты современной оценочной деятельности. 

Сегодня пришло объявление о том, что открыта регистрация на осеннюю онлайновую программу 2026 года (26.10 - 06.11). 

Примечательно, что Институт активно реагирует на вызовы времени и включает множество курсов по использованию искусственного интеллекта в оценке, что делает его программу одной из самых прогрессивных в этой области:

TEI 340: Оценка программ с помощью ИИ — практический курс по использованию машинного обучения и больших языковых моделей (LLM) для автоматизации оценки с помощью платформы KNIME (без необходимости программирования).

TEI 336: Искусственный интеллект в оценке — курс, посвященный интеграции ИИ на всех этапах оценки: от разработки теории программы до анализа данных и визуализации.

TEI 343: Анализ данных и подготовка отчетов с помощью ИИ — практическое введение в использование ИИ для очистки данных, автоматизации статистического анализа и подготовки отчетов.

TEI 301: Основы теории и практики оценки в эпоху ИИ — базовый курс, обновленный с учетом влияния ИИ на оценочную практику.

TEI 334: Введение в генеративный ИИ для оценки — знакомство с такими инструментами, как ChatGPT, Gemini и NotebookLM для решения практических задач оценки.

На нашем Институте оценки, который пройдет офлайн в Москве в ноябре 2026 года тоже обязательно поговорим об использовании ИИ в оценке - в числе прочего (спойлер).  

Оценка заявок на исследовательские гранты: чем может быть полезен ИИ

Диссертация на эту темы была опубликована в 2024 году (ссылка в конце). Вот четыре сферы, в которых, по мнению автора, от искусственного интеллекта есть или может быть польза: 

• Скрининг и проверка заявок. Автоматическая проверка на соответствие требованиям. 
• Подбор рецензентов. Семантический анализ заявок и профилей экспертов
• Оценка и рейтингование. Переход от «одобрено/отклонено» к развернутой оценке. Объяснимость решений для стейкхолдеров.
• Стратегическое «выравнивание». Учёт стратегических приоритетов агентства. Прогнозирование успеха. Категоризация заявок по приоритету.

Al-Ibrahim, H. (2024). The potential for artificial intelligence assistance in funding research (Doctoral dissertation, Frederick S. Pardee RAND Graduate School). RAND Corporation. 

Контекст и ракурс: 3 принципиальных отличия

1. Природа.

Контекст — это объективно существующая среда влияния, которую мы субъективно ограничиваем рамками нашего анализа. Это совокупность внешних сущностей, процессов и законов, которые система не контролирует, но обязана учитывать. Контекст отвечает на вопрос: «С чем система взаимодействует и в чем протекает ее жизнь?» (законодательство, экология, смежные системы, временные тренды). Контекст един для всех участников в рамках нашей аналитической модели, пока мы не переопределили границы системы.

Ракурс — это субъективная позиция. Это ментальная модель, призма, через которую конкретный наблюдатель видит этот самый контекст и саму систему. Ракурс отвечает на вопрос: «С какой позиции мы смотрим?» (донор, грантополучатель, благополучатель, конкурент). Ракурсов может быть бесконечное множество, и они могут радикально отличаться друг от друга.

2. Функция в анализе 

Контекст связан с определением границ. Системное мышление требует определить, что внутри системы, а что снаружи. Контекст — это потенциальное поле влияния. Граница — это наш выбор, какую часть этого поля мы включаем внутрь системы, а какую оставляем снаружи.

Ракурс выполняет функцию проекции. Это способ «увидеть» систему в контексте. Ракурс можно и нужно сознательно переключать, чтобы получить объемное представление о системе. Например, один и тот же социальный проект может быть для кого-то возможностью расширить круг общения, а для кого-то – способом сохранить семью.

3. Возможность влияния 

Контекст по определению находится вне зоны нашего влияния, поэтому мы не можем менять его напрямую — мы можем лишь адаптироваться к его изменениям. В отличие от ракурса, который мы переключаем мгновенно и произвольно.

PS Навеяно обсуждениями на заседании клуба PROОЦЕНКУ «Учет контекста в оценке»

Эвалюатология: наука оценивания?

За 30 лет работы в области оценки не раз приходилось наблюдать, как люди, впервые пришедшие в эту сферу, берутся навести в ней порядок. Бывает, что такие инициативы проходят почти незаметно. Предполагаю, что статья, о которой пойдет речь ниже, незамеченной в международном профессиональном сообществе не останется, поскольку авторы претендуют на создание «науки и инженерии оценки».

Начну с цитаты.   

«Оценка является важнейшим аспектом человеческого существования и играет ключевую роль в каждой области. Однако зачастую к ней подходят эмпирически и ситуативно (ad-hoc), из-за чего отсутствует консенсус относительно универсальных понятий, терминологии, теорий и методологий. Это отсутствие согласия приводит к серьезным последствиям.

Данная статья призвана официально представить эвалюатологию (evaluatology) — дисциплину, которая охватывает науку и инженерию оценки. Мы предлагаем универсальную концептуальную базу для оценки, включающую понятия, терминологию, теории и методологии, которые могут применяться в различных, если не во всех дисциплинах».

Отметим, что журнал TBench и стоящий за ним BenchCouncil (International Open Benchmark Council) создавались и развивались в среде компьютерных наук и инженерии (бенчмарки производительности процессоров, систем ИИ и т.д.). Это как раз объясняет, почему язык и методология статей в этом журнале (включая статью про «эвалюатологию») радикально отличаются от языка, принятого в сообществе специалистов по оценке социальных программ. Для авторов статьи оценка — это эксперимент с контролируемыми условиями и математически формализованными переменными, что крайне сложно применить к социальным системам.

Ссылка на статью (есть в открытом доступе):

Zhan, J., Wang, L., Gao, W., Li, H., Wang, C., Huang, Y., Li, Y., Yang, Z., Kang, G., Luo, C., Ye, H., Dai, S., & Zhang, Z. (2024). Evaluatology: The science and engineering of evaluation. BenchCouncil Transactions on Benchmarks, Standards and Evaluations, 4(1), 1–25.

"Плесните колдовства в хрустальный мрак бокала..."

Неожиданно для себя наткнулся на термин evidence-based evaluation, который можно перевести как оценка, основанная на данных или на доказательствах. Google даёт на этот термин около 800 тыс. ссылок, то есть довольно много. Вот, к примеру, публикация от инновационно-исследовательской программы Евросоюза (2020), предлагающая обзор такого подхода к оценке. Следуя сложившейся традиции, такую оценку можно было бы назвать «доказательной» - по аналогии с доказательной медициной, доказательным менеджментом и т.д.

Цитата из упомянутого выше пособия: "Доказательную оценку можно отличить от субъективной оценки и оценки по жестко заданным шаблонам. В то время как субъективная оценка опирается на интуицию, устоявшиеся традиции или личные знания, доказательная оценка строится на строгом анализе наилучших доступных данных. С другой стороны, оценка по жестким шаблонам обычно предопределена заранее и основывается преимущественно на взглядах самого оценщика, тогда как доказательная оценка учитывает предпочтения, потребности, ценности и особенности контекста заинтересованных сторон".

Термины "доказательная оценка" или "оценка, основанная на данных" кажутся мне избыточными. Указанные выше отличия от "субъективной оценки" и "оценки по жестко заданным шаблонам" выглядят крайне неубедительно. Если авторы имели в виду экспертную оценку, то это вполне легитимный подход, когда суждение основывается не на «взглядах», а на экспертизе, глубоком знании предмета. "Оценка по шаблонам" для меня вообще непонятна. 

Вот часто цитируемое определение Майкла Пэттона: «Оценка программы — это систематический сбор информации о деятельности в рамках программы, её характеристиках и результатах, который проводится для того, чтобы вынести суждение о программе, повысить её эффективность и/или разработать планы на будущее». 

Таким образом, оценка, не основанная на данных – это не оценка, если оставаться в профессиональном поле. 

Моя гипотеза: возможно, введение термина "доказательная оценка" было призвано добавить академизма. Отсюда - название сегодняшней публикации, заимствованное из известного романса "Напрасные слова" Давида Тухманова (музыка) и Ларисы Рубальской (стихи)  :)  На фото - Александр Малинин и Елена Темникова за исполнением этого произведения.

Как обосновать, что вы используете практику с доказанной эффективностью

Будем исходить из положений «Стандарта доказательности практик в сфере детства» (МГППУ, 2021). 

«Социальную практику» стандарт определяет как "совокупность взаимосвязанных процедур и способов профессионального воздействия, направленных на достижение заранее запланированных позитивных изменений (социальных результатов) в жизни конкретных социальных групп или общества в целом".

Практикой с доказанной эффективностью называется "социальная практика, описанная в соответствии с правилами доказательного подхода и продемонстрировавшая свою эффективность в ходе исследований (в пользу эффективности которой есть эмпирические свидетельства, полученные в научных исследованиях и представленные профессиональному сообществу)". 

Правила доказательного подхода, согласно Стандарту, предполагают оценку практики по четырем критериям: 

1. Обоснованность логической модели. Оценивается замысел практики — насколько действия соответствуют потребностям и позволяют достичь заявленных результатов. Максимальная оценка означает четкое понимание и обоснованность того, как и почему действия приведут к результату.
2. Результативность (достижение социальных результатов). Оценивается фактическая результативность практики. Максимальная оценка подразумевает достижение устойчивых положительных результатов в сфере детства без негативных побочных эффектов.
3. Обоснованность данных о результатах. Оценивается убедительность доказательств и строгость методологии оценки.
4. Регламентированность практики. Оценивается стандартизированность и воспроизводимость процедур. Максимальная оценка означает высокую предсказуемость и повторяемость действий, закрепленных в методических рекомендациях и регламентах.

Для оценки степени доказанности эффективности практики Стандарт предлагает использовать порядковую шкалу, включающую начальный, базовый и продвинутый уровни. При этом отнесение практики к тому или иному уровню потребует их более-менее развернутого описания, которого в Стандарте пока нет. 

Три практических соображения: 

• На мой взгляд было бы логично использовать идентичные шкалы для оценки по каждому из критериев. 
• Было бы здорово также иметь методику для вынесения общего суждения о практике с учетом полученных по каждому критерию оценок. 
• Я бы добавил к шкале «нулевой» уровень (когда какие-либо доказательства отсутствуют вовсе или почти отсутствуют), и «подтвержденный» уровень, следующий за продвинутым (когда есть все основания считать эффективность доказанной).