Оценка в настоящем и будущем: взгляд грантодающих организаций
Какие значимые изменения произошли в 2022 году в сфере оценки в целом и в практике проведения оценки в грантодающих организациях? Каким вопросам стоит уделить внимание профессиональному сообществу в 2023 году? Редакция журнала «Позитивные изменения» спросила об этом представителей Форума Доноров — ассоциации крупнейших грантодающих организаций, системно занимающихся благотворительностью, и чья работа направлена на повышение прозрачности фондов и НКО.
Тренды, сформировавшиеся в 2022 году
В современном обществе в последние годы происходит трансформация социальной сферы — все чаще стали говорить о социальном воздействии, качественных изменениях в обществе и эффективных результатах реализации соответствующих проектов и программ.
2022 год продемонстрировал реальный потенциал и пользу оценки. На сегодняшний момент доноры рассматривают ее как инструмент, позволяющий сделать выводы об эффективности поддержанной или самостоятельно реализованной проектной деятельности. При этом у большинства уже есть понимание, что оценка — это в первую очередь источник информации для разработки дальнейшей стратегии: развитие или прекращение проектной деятельности, сонастройка с меняющимися внешними условиями, обеспечение устойчивости имеющихся позитивных изменений и возможности тиражирования технологий, успешно прошедших стадию пилотирования.
Неизменно растет число доноров, умеющих описывать ожидаемые результаты программ в измеряемых и конкретных формулировках, с привязкой к определенному сроку. Еще одним качественным изменением стала практика разработки цепочки результатов: от немедленных к долгосрочным, что позволяет отследить последовательность позитивных изменений, которые происходят во внешней среде благодаря поддержке донора.
Всё чаще стал встречаться гибридный подход к процессу оценки, когда сторонние эксперты участвуют в разработке методологии, анализе данных и выработке рекомендаций, а сбор информации, интерпретация данных, презентация результатов коллегам и контроль за процессом их использования остается за заказчиком. Ранее внешние специалисты привлекались преимущественно на полный цикл.
Что касается использования донорами результатов оценки, то чаще всего они направлены на повышение эффективности программной деятельности. Чуть реже их применяют для пересмотра целей программы или направлений деятельности, зафиксированных в программных портфелях. Наиболее серьезным был скачок, произошедший за последние несколько лет, в использовании результатов оценки для уточнения стратегических приоритетов. Сегодня для этой цели ее используют подавляющее большинство крупных донорских структур, то есть она становится не только инструментом оперативного, но и стратегического управления благотворительной деятельностью и социальными инвестициями.
Еще одним трендом, оформившимся в течение 2022 года, стало внимание доноров к оценке институционального развития НКО. Все чаще они оказываются готовы инвестировать в укрепление и развитие организационного потенциала НКО, а не только в проектную деятельность, поскольку очевидно, что сильные проекты не может делать слабая организация. Но и в вопросе финансирования проектов доноры стали обращать внимание на уровень организационной зрелости потенциальных партнеров и грантополучателей из числа некоммерческих организаций. Как отстроены процессы стратегического планирования и управления операционной деятельности, процессы фандрайзинга, внешних и внутренних коммуникаций, управления человеческими ресурсами и их развитием — все это является крайне важным. При этом оценка может быть проведена как самим донором или нанятыми им внешними экспертами, так и НКО, претендующей на получение финансирования. Это не только вносит вклад в формирование культуры оценки в НКО, но помогает ей определить зоны своего организационного развития.
Важно отметить, что до сих пор многие организации ошибочно считают социальный эффект от реализации программ синонимом оценки социальных результатов. Эти понятия, безусловно, взаимосвязаны. Социальный эффект — это изменения в сообществе и качестве жизни благополучателей, которые могут произойти благодаря достижению запланированных социальных результатов. В связи с этим особую важность приобретает умение декомпозировать цели благотворительных инициатив со стратегического уровня до проектного. Еще один важный признак оценки социального эффекта — возможность отнести происшедшие изменения на счет программы. Но, к сожалению, методологию сбора данных, позволяющую доказательно подтвердить это, пока используют лишь единицы.
Обновление позиции по развитию культуры оценки
Результатом сформировавшихся в 2022 году трендов, а также требующих оперативного реагирования сложностей, с которыми столкнулось сообщество грантодающих организаций, стала актуализация «Позиции по развитию культуры оценки в донорском сообществе». Это документ, разработанный и принятый членами Форума Доноров в 2015 году, в Международный год оценки, когда ей были посвящены ежегодная конференция и первое в России исследование о ее месте и роли в фондах. Роль эта велика, учитывая, что для донорских организаций оценка — это непрерывный процесс получения новых знаний о реализуемых программах и проектах и возможность улучшения благотворительной деятельности и социальных инвестиций. В Позиции отражены основные направления приложения усилий доноров по формированию и продвижению культуры оценки у них самих и в организациях, которым они оказывают поддержку. За несколько лет из разовых разрозненных инициатив оценка стала инструментом управления не только отдельными программами и проектами, но и всем портфелем.
За прошедшее с момента принятия документа время оценка перестала восприниматься как просто «проверка», став важным элементом дизайна проектов. Уровень экспертизы сотрудников стал значительно выше, появились новые зоны роста. Исходя из важности формирования и продвижения культуры оценки и значимости развития ее потенциала и среди донорских организаций, и среди их грантополучаталей, членами Форума Доноров было принято решение актуализировать положения Позиции по ключевым, критически важным направлениям1.
1. С полным текстом актуализированной Позиции можно ознакомиться здесь: https://www.donorsforum.ru/reports/forum-donorov-obnovil-pozitsiyu-assotsiatsii-porazvitiyu-kultury-otsenki/.
А именно:
- Интеграция оценки в деятельность донорских организаций
Фонды или компании, занимающиеся благотворительностью и социальными инвестициями, будут стремиться сделать оценку неотъемлемой и естественной частью своей деятельности, разрабатывать и внедрять практики и системы оценки, адаптированные к специфике своей деятельности, и продвигать оценку среди своих партнеров и грантополучателей. - Повышение полезности оценки, практическое использование ее результатов
Оценка имеет смысл лишь в случае, если используется для принятия решений и усиления достигаемых эффектов. Ее результаты должны приносить максимальную пользу всем стейкхолдерам программы, включая самого донора, грантополучателей, благополучателей и других партнеров. - Создание возможностей для роста компетентности в области оценки
Сотрудники, ответственные за реализацию программ, должны получать и развивать знания и навыки, необходимые для качественного планирования и проведения оценки. В интересах организации создать необходимые условия для этого. - Развитие оценочного потенциала грантополучателей
Донорские организации будут стремиться к созданию условий для усиления оценочного потенциала грантополучателей. В случае недостаточности ресурсов последних донорская организация будет стараться предоставить им доступ к недостающим ресурсам через дополнительное финансирование, обучение и консультации, и привлечение профильных специалистов по оценке. - Соблюдение и продвижение профессиональных принципов и стандартов
Организации, внедряющие у себя систему оценки, должны руководствоваться профессиональными принципами и стандартами, среди которых: открытость процесса оценки, обеспечение безопасности ее участников, уважение их достоинства и особенностей. - Развитие и обмен знаний об использовании результатов проведенных оценок и практиках оценки
Для формирования культуры обмена знаниями и повышения синергетического эффекта от проведения оценки донорские организации будут стремиться сделать информацию открытой, доступной и понятной широкому кругу заинтересованных сторон. Также важно организовать обмен опытом с донорским сообществом, грантополучателями и профессиональными тематическими сообществами.
Безусловно, культура оценки должна быть сонастроена с миссией организации и более широкой организационной культурой, поэтому к работе по ее продвижению предполагается привлекать всех ключевых стейкхолдеров благотворительности и социальных инвестиций, включая учредителей, сотрудников, грантополучателей и партнеров по реализации социальных и экологических программ и проектов.
Зоны роста в 2023 году
Сегодня буквально на наших глазах в российском и в международном донорских сообществах формируется тренд на повышение внимания к качеству управления воздействием. Фонды и социально ответственный бизнес, инвестирующие в снижение уровня бедности, улучшение доступа к услугам и ресурсам, сохранение и защиту окружающей среды, заинтересованы в оценке эффективности своей работы. Подобный анализ дает понимание, достигаются ли поставленные цели, какие механизмы и технологии максимально эффективны, каковы критерии достижения запланированного воздействия.
Также наблюдается тренд использования прогностической оценки, для разработки инструментов которой доноры работают в партнерстве с экспертным сообществом. Решения, разрабатываемые специалистами, используются не только для оценки фактически достигнутого результата, но и для анализа потенциала организаций и проектов, желающих снизить риски и гарантировать высокую эффективность инвестиций.
К примеру, проводится анализ потенциального воздействия не только на уровне проекта непосредственно для его заинтересованных сторон, но и на уровне рынка в целом. Оцениваются вклад проекта в создание системных рыночных эффектов, показатель уровня интенсивности — иными словами то, как проект способен устранить обозначенную проблему. Анализируется ситуация, которая имела бы место, если бы проект не был реализован (фактор контрфактуальности), оценивается потенциальный негативный эффект.
Безусловно, такие методики и решения нельзя отнести к категории простых, их использование потребует отдельных инвестиций, но потенциальная польза и эффект от их внедрения гарантируют достойный возврат на эти инвестиции.
Еще один аспект, которому доноры в настоящее время стали уделять все больше внимания, — использование принципов справедливой оценки (equitable evaluation). Подход позволяет осознавать и учитывать всю сложность человеческого опыта, накопленного в процессе преобразований, инициированных деятельностью донорских организаций. Соблюдение этих принципов, их сонастроенность с российской действительностью дает возможность максимально вовлечь благополучателей и другие заинтересованные стороны в процесс анализа эффективности потенциального и фактически произведенного воздействия. Это необходимо, чтобы учитывать их ценности и видение, а также своевременно включать их в дизайн проектов и стратегию работы фондов и социально ответственных компаний.
Ирина Ефремова-Гарт, первый заместитель директора Форума Доноров
Татьяна Печегина, журналист
The Present and the Future of Evaluation: The Donors’ View
What significant changes have taken place in 2022 in the field of evaluation in general and in the practice of evaluation in donor organizations? What issues should the professional community pay attention to in 2023? The Positive Changes Journal editors asked these questions to the participants of the Donors Forum, a association of major donor organizations that systematically engage in charitable activities and whose work is aimed at improving the transparency of foundations and non-profit organizations.
The trends of 2022
The contemporary society is experiencing a transformation of the social sphere in recent years, as more and more people are talking about social impact, qualitative societal changes and effective implementation of relevant projects and programs.
2022 has shown that evaluation is a very useful instrument with high potential. Donors currently see it as a tool enabling them to draw conclusions about the effectiveness of the project activities being supported or independently implemented. At the same time, most already have an understanding that evaluation is primarily a source of information for further strategy development: deciding whether to continue or stop project activities, adjusting to the changes in the environment, managing the sustainability of existing positive changes and the possibility of replicating the technologies that have successfully passed the piloting stage.
The number of donors who are able to describe expected program results in measurable and specific terms, with a specific timeframe, is steadily growing. Another qualitative change is the practice of developing a chain of results: from immediate to long-term, which makes it possible to track the sequence of positive changes that occur in the external environment thanks to that donor’s support.
A hybrid approach to the evaluation process is becoming increasingly common, with outside experts participating in the methodology development, data analysis and providing recommendations, leaving it up to the client to collect information, interpret data, present the results to colleagues, and manage their implementation. Previously, external specialists were mainly engaged for the full cycle.
As for the use of evaluation results by donors, these are most often aimed at improving the effectiveness of program activities. They are used less often to revise program goals or activities set forth in program portfolios. The most dramatic leap of the past few years is related to the use of evaluation results to refine strategic priorities. Today it is used for this purpose by the overwhelming majority of large donor organizations; that is, it becomes a tool not just for day-to-day steering, but also for strategic management of charitable activities and social investment.
Another trend that took shape during 2022 was the donors’ focus on evaluating the institutional development of nonprofits. Increasingly they are willing to invest in building and developing the organizational capacity of the nonprofits rather than merely in project activities, since it is obvious that a weak organization is not in the position to do strong projects. But donors have also started to pay attention to the organizational maturity of prospective partners and grantees from non-profit organizations when it comes to financing projects. It is extremely important to see how the strategic planning and operations management processes, fundraising, external and internal communications, human resource management and development are built up. Evaluation can be carried out by the donor directly, by third-party experts hired by the donor, or by the actual non-profit organization applying for funding. This not only contributes to the development of an evaluation culture in the world of nonprofits, but also helps the organizations to identify priorities of their organizational development.
It is important to note that many organizations still mistakenly consider the social effect of their programs to be synonymous with the evaluation of social results. These concepts are certainly interrelated. Social effect is the change in the community and the quality of life of the beneficiaries that can occur thanks to the achievement of planned social outcomes. In this regard, it is particularly important to be able to decompose the goals of charitable initiatives from the strategic realm to the project detail. Another important feature of social impact evaluation is the ability to attribute changes to the program. Unfortunately, only a few organizations are actually using the data collection methodology that can convincingly prove this.
Updating the policy statement on developing the evaluation culture
As a result of the trends that emerged in 2022, as well as the challenges faced by the donor community that require an immediate response, we have updated our Policy Statement on Developing the Evaluation Culture in the Donor Community. This is a document developed and adopted by the members of the Donors Forum in 2015, the International Year of Evaluation, when it was the subject of an annual conference and the first study in Russia on its place and role in foundations was conducted. This role is great, given that for donor organizations evaluation is a continuous process of gaining new knowledge about ongoing programs and projects and an opportunity to improve their charitable activities and social investment. The Policy Statement reflects the donors’ efforts to build and promote an evaluation culture among themselves and the organizations they support. In just a few years, evaluation has gone from being a one-time, isolated initiative to a management tool, not just for individual programs and projects, but for the entire portfolio.
In the time since the document was adopted, evaluation has ceased to be perceived as just a “check”, and has become an integral element of project design. The employees’ expertise level has grown significantly, and new growth areas have emerged. Based on the importance of building and promoting an evaluation culture and the importance of developing its potential among both donor organizations and their grantees, members of the Donors Forum decided to update the provisions of the Policy Statement on key areas of critical importance1.
1. The full text of the updated Policy Statement can be found here: https://www.donorsforum. ru/reports/forum-donorov-obnovil-pozitsiyuassotsiatsii-po-razvitiyu-kultury-otsenki/.
Namely:
- Integrating evaluation into the activities of donor organizations
Foundations or companies engaged in philanthropy and social investment will strive to make evaluation an integral and natural part of their activities, develop and implement evaluation practices and systems tailored to their specific activities, and promote evaluation among their partners and grantees. - Improving the effectiveness of evaluation and ensuring practical use of its results
Evaluation only makes sense if it is used to guide decision-making and reinforce the effects achieved. Its results should be of maximum benefit to all stakeholders in the program, including the donor, grantees, beneficiaries, and other partners. - Creating opportunities for the growth of evaluation competence
The staff responsible for implementing programs must acquire and develop the knowledge and skills necessary for quality planning and evaluation. It is in the interest of the organization to create the prerequisites for this growth. - Developing the grantees’ evaluation capacity
Donor organizations will seek to create conditions to enhance the grantees’ evaluation capacity. If the latter do not have sufficient resources for that, the donor organization will try to provide them with access to the missing resources through additional funding, training and consultations, and the involvement of specialist evaluators. - Adherence to and promotion of professional principles and standards
Organizations that implement an evaluation system must be guided by professional principles and standards, including: openness of the evaluation process, ensuring the safety of its participants, and respect for their dignity and distinctions. - Developing and sharing knowledge about the use of evaluations and evaluation practices
To build a culture of knowledge-sharing and enhance synergies in evaluation, donor organizations will strive to make information open, accessible, and easily digestible for a wide range of stakeholders. It is also important to share experiences with the donor community, the grantees, and professional specialist communities.
Definitely, an evaluation culture must be aligned with the organization’s mission and the overall organizational culture, so all key stakeholders of charity and social investment, including founders, employees, grantees and partners in social and environmental programs and projects, are expected to be working to promote it.
Growth areas in 2023
Today, a new trend is appearing right before our eyes, as both Russian and international donor communities are starting to focus more on the quality of impact management. Foundations and socially responsible businesses that invest in reducing poverty, improving access to services and resources, and preserving and protecting the environment are all interested in evaluating their performance. Such an analysis provides an understanding of whether there is a progress towards achieving the goals, what mechanisms and technologies are most effective, and what the criteria are for achieving the planned impact.
There is also a trend toward the use of predictive evaluation, with donors working in partnership with the expert community to develop new tools for it. The solutions developed by specialists are used not only to evaluate the actual results achieved, but also to analyze the potential of organizations and projects seeking to mitigate risks and guarantee high investment efficiency.
For example, potential impact is analyzed not only at the project level, specifically for its stakeholders, but also at the level of the market as a whole. The evaluation looks at the project’s contribution to developing systemic market effects, to the intensity level indicator — in other words, how the project is able to address the problem identified. The evaluation looks at what the situation would have been if the project had not been implemented (counterfactual factor) and considers the potential adverse effects.
Of course, such methods and solutions cannot be classified as simple, and their use will require separate investments; however, the potential benefits and effects of their implementation guarantee a decent return on this investment.
Another aspect the donors are now increasingly focusing on is the use of equitable evaluation principles. The approach makes it possible to recognize and account for the complexity of human experience accumulated in the process of transformations initiated by the activities of donor organizations. Adherence to these principles and their alignment with the Russian reality provides an opportunity to maximize the involvement of beneficiaries and other stakeholders in the process of analyzing the potential and actual impact. This is necessary in order to take account of their values and vision, as well as to incorporate them promptly into the project design and strategy of foundations and socially responsible companies.
Irina Efremova-Garth, first Deputy Director of the Donors Forum
Tatiana Pechegina, journalist
DOI 10.55140/2782-5817-2023-3-1-28-33
Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl