Breve Manual de Evaluación de Programas
Breve Manual de Evaluación de Programas
Breve Manual de Evaluación de Programas
evaluación
de programas
Autores:
Lucía Gorjón
Imanol Lizarraga Informe
Paloma Úbeda 2024/4
Coordinación:
Sara de la Rica
Julio 2024
Agradecimientos: La Fundación Iseak agradece a Cruz Roja Española todo su apoyo
durante la realización del presente manual. Este manual nace después de la nalización de
la evaluación del “itinerario de inclusión activa para perceptoras del Ingreso Mínimo Vital o
Rentas Mínimas Autonómicas" ofrecido por Cruz Roja Española y puesto en marcha por
Ministerio de Inclusión, Seguridad Social y Migraciones, nanciado por el Plan de
Recuperación, Transformación y Resiliencia. El proyecto se inscribe en el ámbito del Real
Decreto 378/2022 nanciado por de 17 de mayo (BOE 18/05/2022) para su ejecución en
2022-2024. Su número de expediente es IS_22/22/00008.
fi
fi
fi
Manual breve de evaluación
Índice de contenidos
1. La importancia de la evaluación .......................................................... 2
2. Primeros pasos: evaluación de necesidades ...................................... 2
3. Diseño y metodología .......................................................................... 4
3.1 La teoría del cambio (TC) ............................................................................. 5
3.2 Los ‘Randomized controlled trials’ (RCT) ................................................... 11
4. Implementación ................................................................................. 14
4.1 Coordinación y organización ..................................................................... 14
4.2 Establecimiento de protocolos de implementación ................................... 14
4.3 Problemas durante la implementación ....................................................... 17
5. Evaluación ......................................................................................... 19
5.1 Procesos .................................................................................................... 19
5.2 Resultados e impacto................................................................................. 20
6. Revisión de la evaluación y puntos de mejora .................................. 21
7. Escalabilidad ..................................................................................... 24
8. Conclusiones .................................................................................... 25
1
1. La importancia de la evaluación
Ante la apremiante necesidad de implementar intervenciones que protejan y
promuevan el bienestar social, tanto el sector público como el privado y las
entidades del tercer sector se enfrentan a un notable desafío. Más allá de
identificar las problemáticas sociales a abordar, el reto radica en discernir qué
políticas o programas pueden resultar más eficaces y eficientes en sus objetivos.
Dada la escasez de recursos, contar con información sobre el coste-beneficio de
las diferentes opciones es esencial. A este fin, el papel de la evaluación como
instrumento de decisión se sitúa en el centro.
2
fuente de conocimiento muy relevante, las soluciones que funcionaron
anteriormente no tienen por qué ser las adecuadas en la actualidad.
3
de registro disponibles. De este paso podría depender la viabilidad de la
evaluación en fases posteriores.
3. Diseño y metodología
Una vez identificadas las necesidades y los objetivos, se establece una base
sólida para intervenir y evaluar. No obstante, tras resolver la cuestión de qué
evaluar, surge la pregunta acerca de cuál es el método más adecuado para
4
hacerlo. Para ello, es necesario discutir, en primer lugar, la forma teórica de la
intervención y, en segundo lugar, cómo trasladar el planteamiento a la ejecución.
La evidencia previa sobre programas con objetivos similares puede ser un buen
punto de partida, ya que permite identificar casos en los que intervenciones
anteriores fallaron. Sin embargo, siempre debe considerarse que diferencias
mínimas en el contexto pueden conllevar necesidades completamente distintas.
Ninguna intervención tiene por qué ser idéntica a la anterior ni asemejarse
necesariamente a las siguientes. En definitiva, se trata de alcanzar una
conceptualización de la intervención que aborde con precisión la problemática
existente y se nutra del conocimiento generado por aquellos que enfrentaron
retos similares en el pasado.
5
Figura 1: cadena causal entre fases de intervención y fases de evaluación
La teoría del cambio requiere después una serie de eslabones intermedios que
enlacen las necesidades detectadas con los objetivos finales, es decir, un diseño
de resultados intermedios adecuados que permita alcanzar las metas
buscadas. En resumen, se trata de aplicar una estrategia retrospectiva,
6
buscando inicialmente las magnitudes sobre las que se desea intervenir y
definiendo posteriormente las herramientas concretas con las que se llevará a
cabo la implementación.
Figura 2: teoría del cambio del programa de “Itinerarios de inclusión activa para
personas perceptoras de Ingreso Mínimo Vital o Rentas Mínimas Autonómicas”
7
En este punto, la revisión de buenas prácticas en relación con posibles
acciones pasadas o presentes para resolver problemas similares resulta de gran
utilidad. La evidencia recopilada no debe centrarse únicamente en acciones
exitosas, sino también en aquellas que no han alcanzado los objetivos
esperados. Las primeras proporcionan información sobre caminos exitosos a
seguir, mientras que las segundas ofrecen orientación sobre decisiones que es
recomendable evitar.
Más allá del plan de acción, los productos y los hitos intermedios, la teoría del
cambio debe incluir una definición rigurosa de los indicadores que serán
cruciales para medir el impacto del programa en última instancia. Esta definición
se realizará una vez formuladas las hipótesis iniciales y durante la fase de
concepción del plan de preanálisis.
8
Los indicadores deben cumplir dos principios fundamentales: validez y fiabilidad.
En otras palabras, los indicadores deben medir lo que se pretende y, además,
hacerlo de manera precisa. Esta etapa de diseño contempla cómo medir las
magnitudes de referencia, con qué frecuencia y mediante qué instrumentos.
Entre estos últimos cabe destacar:
9
conceptos profesionales que se usan durante la implementación de políticas o
programas.
1 El tipo de consideraciones a la hora de elegir el/los instrumento/s adecuado/s, así como el diseño e
implementación de este/os son muy amplias y variadas. Aquí solo hemos destacado uno a modo de
ejemplo.
10
condición suficiente para una intervención exitosa, pero sí resulta del todo
necesaria. En paralelo, esta metodología da un peso notable a la medición de
cada paso a tomar, estableciendo compromisos de recopilación de datos a la
altura de una evaluación rigurosa.
Como cada fase en el proceso, este tipo de evaluación cuenta con abundantes
metodologías propias. En general, éstas tratan de asegurar que los resultados
observados dependen causalmente de la intervención, desestimando otros
potenciales factores que pudieran influenciarlos. Dado el infinito abanico de
dimensiones que pueden generar problemas de medición del impacto, se deben
seleccionar estrategias académicamente demostradas y de amplio uso, como
los Randomized controlled trials (RCT) previamente mencionados.
11
Figura 2: diagrama de selección con metodología RCT
Es de esperar que exista una brecha en los resultados de inserción laboral del
grupo tratado respecto al no tratado: los primeros probablemente obtendrán más
empleos, o al menos realizarán más entrevistas, mientras los segundos seguirán
esperablemente con los mismos problemas que tenían inicialmente. Dadas las
diferentes características entre el grupo de personas que se apuntaron a recibir
12
la intervención (más motivadas y activas) y las que no, lo más posible es que
esta brecha en el resultado se hubiera observado incluso en ausencia del
programa. Así, cualquier estimación en base a esta brecha no estaría midiendo
el impacto del programa, sino que lo sobreestimaría, pudiendo llevar a
conclusiones erróneas.
Para salvar este problema, la metodología del RCT asigna aleatoriamente a las
personas en los grupos de tratamiento (reciben la intervención) y control (no la
reciben). Es decir, una vez se obtiene un grupo de personas potencialmente
interesadas, se divide a estos en dos grupos: unos participarán, otros no. Más
allá de potenciales problemas de índole ética2, esta asignación aleatoria permite
identificar el efecto que el programa pueda tener aislándolo así del de otras
variables no observables, como la actitud, motivación o habilidades de las
personas. Así, con personas de características similares en ambos grupos, si se
observa una mejora de la inserción, se puede asumir de forma robusta que ésta
es debida al programa, ya que en ambos grupos había personas con diferentes
niveles de motivación o actitudes.
2 Puede argumentarse, por ejemplo, que la exclusión de determinadas personas de programas o políticas
no es aceptable. De mismo modo, si los resultados no son beneficiosos, sino que perjudican la situación de
las personas participantes, podría considerarse este desenlace como injusto o inaceptable. Tratándose de
un debate de múltiples aristas y que, probablemente, nunca se concluirá satisfactoriamente, un enfoque
social de la investigación debe tener en cuenta implicaciones éticas de esta índole, garantizando, siempre
que sea posible, que ningún colectivo sea perjudicado respecto a su situación inicial. De este modo, la
participación de un grupo reducido en determinado programa piloto podría favorecer a la sociedad en su
conjunto, si se alcanzan resultados positivos y estos son escalables.
13
combinación de ambas intervenciones o únicamente de una de ellas. Por tanto,
un buen diseño, guiado por una cadena de actuación basada en la Teoría del
Cambio y el uso de la metodología de RCT, nos ayudará a aproximarnos a un
diseño teórico óptimo del programa o política.
4. Implementación
Una vez diseñada la Teoría del Cambio que guiará todo el proceso de evaluación,
se debe reparar en la implementación de las distintas fases. Una vez listo el
esquema teórico, se trata de llevarlo a la práctica. Para ello, es esencial contar
con una organización y coordinación eficaces durante todo el proceso. En este
documento se detallan algunos de los puntos clave para asegurar una
implementación exitosa.
4.2 Establecimiento de protocolos de implementación
14
necesarios (financieros, materiales, etc.) y tener la capacidad de
desplazarlos de unas tareas a otras si cambian las necesidades.
e. Asignación de responsabilidades: definir claramente las
responsabilidades de cada uno de los actores involucrados. Por
ejemplo, designar a personas específicas para gestionar la
comunicación entre los distintos niveles de la organización y los
agentes externos. Esto asegura que la información fluya
adecuadamente y sea compartida por todos.
15
2. Aspectos específicos de la intervención: detalles concretos sobre la
metodología a utilizar, especialmente si se emplea una metodología de
evaluación de impacto aleatorizada como el RCT. Se trata de
metodologías que pueden suponer un reto si se desconocen sus
principales fundamentos, por lo que una comunicación adecuada sobre
los puntos a tener en cuenta es necesaria.
En relación con este último aspecto, en caso de utilizar una metodología RCT
cada miembro del equipo debe entender desde el momento inicial:
16
proceso se lleve a cabo de manera coherente, permitiendo una evaluación
precisa y fiable.
Como en cualquier intervención práctica, desde el inicio hasta el final del proceso
de implementación pueden aparecer problemas o retos que comprometan la
evaluación. Si bien algunos de estos contratiempos se mencionaron
anteriormente, en el presente apartado se profundizará en su naturaleza y
potenciales soluciones.
Para poder reducir los efectos del desgaste o la deserción de los participantes
es crucial disponer de una planificación y financiación estables y completos a lo
largo del proceso. Llegado el caso, podría requerirse un esfuerzo financiero
extraordinario para incrementar el seguimiento de las personas participantes, así
como una reevaluación de los criterios que garanticen una evaluación robusta.
17
el efecto beneficioso de la misma. Se refieren, a continuación, dos de los
principales puntos a considerar:
18
podrían tener incentivos a mantener su estado, dado que disponen de
beneficios tangibles.
5. Evaluación
Con una buena planificación, los objetivos claros y una implementación que siga
los pasos definidos, la existencia de una evaluación metodológicamente rigurosa
y de calidad debería estar garantizada. Sin embargo, la complejidad que supone
realizar una evaluación integral puede suponer un reto adicional. Para sortear
esta situación, se expone a continuación un esquema intuitivo sobre los pasos a
seguir durante esta etapa.
El principal recurso a utilizar durante estos procesos serán los datos. Dada su
relevancia, es así condición sine qua non para una evaluación robusta la
disponibilidad de información suficiente, fiable, homogénea y detallada a lo largo
de la intervención, de ahí el especial énfasis mostrado previamente en este
punto. La estrategia de recopilación de datos debe estar establecida desde un
primer momento, sin espacio para la improvisación o el descuido. En definitiva,
sólo mediante buenos datos se pueden llevar a cabo evaluaciones aceptables.
5.1 Procesos
19
Los indicadores pueden incluir desde la cobertura progresiva de determinados
colectivos (que identifiquen si la cobertura está siendo la suficiente para
garantizar los objetivos fijados) hasta los hitos de ejecución presupuestaria.
Asimismo, habitualmente se incluyen indicadores que traten de identificar a
tiempo si los recursos asignados son suficientes para alcanzar las metas. En
este sentido, una mala atribución de fondos o personas que no sea detectada a
tiempo puede hacer fracasar una intervención perfectamente válida. En suma,
un sistema integral de indicadores debe seguir una metodología estable
durante la implementación, que permita la comparabilidad de los datos y su
mejora continua.
Más allá de su carácter supervisor, los indicadores son importantes para tomar
decisiones informadas y basadas en la realidad dinámica. Así, por ejemplo,
podrían mostrar que un colectivo determinado está abandonando el programa
en mayor medida, que faltan recursos informáticos en un ámbito concreto, que
no se están recogiendo datos adecuados sobre inserción laboral o que alguna
meta intermedia no será presumiblemente alcanzada a tiempo.
Los procesos son importantes, pero detrás de los mismos siempre existe un fin
último. Cualquier programa, intervención o política busca un efecto concreto en
una variable (o variables) medibles y socialmente beneficiosas. Por esta razón,
una evaluación que no tratara de cuantificar el impacto final aportaría información
insuficiente sobre la idoneidad y eficacia de cualquier intervención.
20
el éxito o naufragio de la misma. Es decir, son indicadores de correlación, pero
no de causalidad.
3
Las microsimulaciones es un método que simula el comportamiento de los individuos bajo
diferentes escenarios, ayudando a analizar qué situación es más apropiada para un objetivo dado.
21
aquellos efectos negativos o nulos. Estos últimos son tan importantes como los
resultados positivos y merecen una debida atención.
22
Pero no solo hay que actualizar la estrategia seguida con afán de mejorar los
resultados positivos obtenidos, revertir los efectos negativos o para adaptarse a
nuevas situaciones. También es importante destacar que en ocasiones una
política o programa tiene efectos no intencionados sobre otras variables que no
son objeto de estudio o son objetivos secundarios. Los efectos en estas variables
no principales pueden ser positivos o negativos.
4
González, L., & Trommlerová, S. K. (2023). Cash transfers and fertility: How the introduction and
cancellation of a child benefit affected births and abortions. Journal of Human Resources, 58(3), 783-818.
23
Figura 6: variables principales, secundaria, éxito del programa y efectos globales
7. Escalabilidad
Como ya hemos comentado anteriormente, el diseño de políticas o programas
debe basarse en la evidencia. Cualquier gobierno, empresa o institución debería
empezar implementando su innovación, política o programa a pequeña escala,
es decir, a través de un piloto, evaluarlo de forma rigurosa y finalmente -si se
demuestra su éxito- escalarlo en el mismo contexto en el que se ha desarrollado
el piloto. El ejemplo de intervención social que hemos descrito anteriormente
(itinerarios de inclusión sociolaboral para perceptores del IMV o RM) se
desarrolló inicialmente en seis territorios españoles. Una vez se evaluó el
programa, se pudo conocer qué funcionó y qué no. En este momento, el
programa se puede escalar a todo el territorio nacional.
24
Sin embargo, escalar un programa, implementarlo en más lugares o personas
beneficiarias, no quiere decir que haya que llevarlo a cabo tal y como se
desarrolló en el proyecto piloto. Para escalar de forma adecuada una
intervención se deben tener en cuenta las condiciones locales específicas y la
capacidad de implementación, tanto de medios físicos, humanos como
financieros, así como los riesgos particulares del lugar. Por tanto, las
intervenciones deben ser adaptadas a ese nuevo contexto. Esta adaptación será
mayor si salimos del país en el que tuvo lugar el piloto. En este último caso, las
diferencias culturales, sistemas de gobernanza y voluntad política deben ser
tomadas en cuenta. Aquí, más que nunca, es crucial realizar un análisis previo
del contexto y de las necesidades, para detectar posibles discrepancias en
comparación con el lugar de origen del piloto. En todo caso, escalar el programa
o política en otra nación no significa desplegarlo a nivel nacional. Cuando se da
un cambio tan importante de contexto es importante llevar a cabo pilotos que
puedan captar alguna circunstancia particular del país que no se haya previsto,
para poder formular así una versión del programa adaptada y contextualizada,
manteniendo los mecanismos que la evidencia nos muestra que generan
resultados positivos.
8. Conclusiones
Ante la nueva era del dato, cada vez se hace más evidente la necesidad de
evaluar cualquier acción emprendida por parte del sector público, privado o tercer
sector. La escasez de recursos hace imprescindible una evaluación de las
actuaciones llevadas que garantice su correcto funcionamiento. Este
procedimiento ayuda a tomar decisiones informadas y a identificar áreas de
mejora. Es fundamental recordar que una evaluación comienza con un análisis
riguroso de las necesidades y del contexto.
25
en presentar dos metodologías complementarias: la Teoría del Cambio y los
Randomized controlled trial (RCT). Ambas buscan establecer la relación causal
entre la política o programa y unos indicadores que se consideren de interés.
Asimismo, los instrumentos de medición tampoco son únicos; tanto las
herramientas cualitativas como cuantitativas proporcionan información valiosa y
su combinación ofrece una visión más global.
La evaluación de políticas o programas es, por tanto, una herramienta cada vez
más indispensable en cualquier organización, aumentando la eficiencia de los
recursos utilizados y mejorando la toma de decisiones. Todos estos beneficios
se trasladan de manera efectiva a la sociedad.
26