Libro Evaluacion Impacto Aristidesvara PDF
Libro Evaluacion Impacto Aristidesvara PDF
Libro Evaluacion Impacto Aristidesvara PDF
Programas Sociales
Fundamentos Tericos y Metodolgicos y
Aplicacin al caso peruano
AGRADECIMIENTOS
CONTENIDO
LISTA DE TABLAS
Ttulo
1.1
1.2
1.3
1.4
1.5
2.1
2.2
2.3
2.4
2.5
2.6
2.7
2.8
2.9
2.10
2.11
2.12
2.13
2.14
2.15
2.16
2.17
2.18
Pg.
24
25
28
31
31
35
38
40
44
49
52
52
55
71
77
80
82
92
104
106
108
110
115
3.1
3.2
3.3
3.4
3.5
3.6
3.7
3.8
3.9
3.10
3.11
3.12
3.13
3.14
3.15
3.16
3.17
3.18
3.19
3.20
3.21
3.22
3.23
3.24
3.25
impacto.
Revistas especializadas sobre evaluacin de programas.
Evaluaciones de impacto ms robustas de los programas sociales en
el Per.
Desarrollo acadmico de la evaluacin de impacto de programas
sociales en el mundo segn investigaciones publicadas en Journals
internacionales o instituciones de desarrollo.
Pases donde se realizan las evaluaciones de impacto
Fuentes de publicacin de los artculos o informes de evaluacin de
impacto
rea donde se realiz la evaluacin de impacto
Poblacin beneficiaria de los programas considerados en los artculos
o informes de evaluacin de impacto
Unidad de anlisis considerada por los artculos de informes de
evaluacin de impacto
Origen de los datos utilizados para el anlisis de la evaluacin de
impacto
Instrumento utilizado para la recoleccin de datos en los artculos o
informes de evaluacin de impacto
Metodologa de investigacin empleada en los artculos o informes
de evaluacin de impacto
Metodologa de investigacin empleada segn el uso de grupo
control en los artculos o informes de evaluacin de impacto
Frecuencia de artculos o informes de evaluacin de impacto segn la
metodologa de investigacin y el tipo de muestreo empleado
Tamao de muestras reportadas en los informes de evaluacin de
impacto
Diseos de evaluacin reportados en los informes de evaluacin de
impacto
Uso de variables instrumentales en los informes de evaluacin de
impacto
Uso de emparejamiento de grupos en los informes de evaluacin de
impacto
Anlisis estadsticos empleados en los informes de evaluacin de
impacto
Impacto alcanzado por el programa o proyecto social evaluado
Pas donde fueron realizados los programas sociales contenidos en
los informes de evaluacin de impacto
Fuente de publicacin de los artculos o informes de evaluacin de
impacto en el Per y otros pases
reas de evaluacin de impacto en el Per y otros pases
Poblacin beneficiaria de los programas evaluados en el Per y otros
pases
Unidad de anlisis considerada en los informes de evaluacin de
impacto en el Per y otros pases
Origen de los datos utilizados para el anlisis segn se indica en los
121
126
141
247
247
248
249
249
250
250
250
251
251
251
252
252
252
253
253
254
254
254
256
256
257
3.26
3.27
3.28
3.29
3.30
3.31
3.32
4.1
4.2
4.3
4.4
4.5
4.6
4.7
4.8
4.9
4.10
4.11
4.12
4.13
4.14
4.15
4.16
4.17
4.18
4.19
4.20
4.21
4.22
4.23
4.24
4.25
4.26
4.27
257
257
258
258
259
259
259
277
279
280
281
283
284
290
292
302
309
309
310
311
312
312
315
315
317
318
318
319
319
320
320
321
322
322
4.28
4.29
4.30
4.31
4.32
4.33
324
325
326
329
330
331
331
332
10
LISTA DE FIGURAS
Ttulo
1.1
2.1
2.2
2.3
2.4
3.1
3.2
3.3
4.1
4.2
4.3
4.4
4.5
4.6
4.7
4.8
4.9
4.10
4.11
4.12
Pg.
23
37
68
95
97
246
248
255
264
265
266
278
296
308
334
335
338
340
343
346
11
4.13
4.14
4.15
4.16
4.17
conocida.
Relacin entre postest y pretest cuando no existe impacto del
programa y cuando los grupos son de asignacin conocida.
Serie simple con cambio de nivel posprograma, en supuesto
significativo y no significativo.
Serie simple sin cambio de nivel y con cambio de tendencia del
posprograma, en supuesto significativo y no significativo.
Serie simple con cambio de nivel y con cambio de tendencia del
posprograma, en supuesto significativo.
Serie temporal con con cambio de nivel y con cambio de tendencia
del posprograma en GE, y sin cambio de nivel y con tendencia en
GC.
347
350
352
354
356
12
RESUMEN
Palabras clave: Evaluacin, Impacto, Programas, Gestin, Sociales, Per, Cuasiexperimental, Causacin.
13
ABSTRACT
Key words: Evaluation, Impact, Programmes, Management, Socials, Per, Cuasiesperimental, causal theory.
14
INTRODUCCIN
15
16
17
I. MARCO METODOLGICO
18
empleando los recursos en forma eficaz. Por eso, su desuso es negligencia, pues
slo el gerente social bien preparado entiende que estos son los tipos de preguntas
que solamente se responden mediante una evaluacin de impacto.
En efecto, la evaluacin de impacto es una necesidad gubernamental, pues
es especialmente importante en los pases en desarrollo, donde los recursos son
escasos y cada dlar gastado debe maximizar su efecto (Banco Mundial, 2000). Si
los programas estn mal diseados, no llegan a los beneficiarios previstos y
despilfarran los recursos, solo con la evaluacin de impacto es posible redisearlos, mejorarlos o eliminarlos si se estima necesario (Blomquist, 2003;
CONPES, 2002). El conocimiento obtenido de estos estudios tambin proporciona
informacin decisiva para el diseo adecuado de programas y proyectos futuros
(Cook, Leviton & Shadish, 1985, 1991; Rossi & Freeman, 1985; Glass & Ellett,
1980).
Sin embargo, a pesar de la irrefutabilidad de lo dicho, an muchos
gobiernos e instituciones, as como gerentes de proyectos, rechazan las
evaluaciones de impacto por diversas razones (Medina Giopp, 2002). Son pocos
los casos en Amrica Latina (y especialmente en nuestro pas) en los que se puede
hablar de una evaluacin sistemtica del impacto de los programas sociales. De la
revisin pormenorizada de sus estrategias se puede encontrar que los modelos de
evaluacin utilizados son en su mayora- demasiado simples, inadecuados,
incompletos, inseguros y en muchos casos, invlidos. Adems, de acuerdo a las
revisiones de Sulbrandt (1993), la mayora de las polticas y los programas
pblicos de Amrica Latina no se evalan y, salvo excepciones, las pocas
evaluaciones que se han hecho no han provocado ningn cambio en el manejo de
los programas ni en el aprendizaje de los ciudadanos.
Diversas son las causas de estas deficiencias, pero la gran mayora se
circunscribe al factor humano (Mokate, 2001; Baker, 2000). En efecto, existen
muchas creencias errneas y actitudes negativas hacia la evaluacin de impacto. La
gran mayora de administradores de programas la consideran costosa, prolongada,
tcnicamente compleja y polticamente delicada (cuando sus resultados demuestran
ineficiencia e ineficacia de la gestin realizada). Se critica tambin que los
resultados se obtienen demasiado tarde, que no responden las preguntas adecuadas
o que no se realizaron con suficiente rigor analtico (Medina Giopp, 2002). En fin,
la evaluacin de impacto recibe muchas crticas y descrditos, pero lo cierto es que
ningn mtodo de evaluacin alternativo se ha mostrado superior para
reemplazarla.
Segn m entender, todas estas creencias y actitudes negativas son producto
de tres factores: a) la ignorancia generalizada sobre el tema, b) el desconocimiento
de los modelos modernos de evaluacin de impacto de los programas sociales y c)
la escasez de especialistas.
Es verdad que la parte ms dificultosa de la evaluacin de impacto es su
dimensin metodolgica, pues evaluar el impacto de un programa requiere conocer
mucho de metodologa y estadstica avanzada; es un terreno para especialistas. Sin
embargo, el nivel de especializacin de la evaluacin de impacto no puede ser
excusa para desdear sus aportes o para desentenderse de su importancia. Todo lo
contrario, su especializacin debe exigir una aproximacin comprehensiva para los
19
20
21
1.3. OBJETIVOS
1.3.1. Objetivo general
Determinar los fundamentos terico-metodolgicos del Sistema de
Evaluacin de Impacto ARYSIS de los programas sociales en el Per.
22
Vs. independientes
a)
b)
c)
d)
Principios internacionales
Teora de la causacin
Diseo cuasi-experimental
Simulacin
estadstica
montecarlo
V. Dependiente
23
tericos
Definicin operacional o
constitutiva
Principios internacionales
Indicadores
Teora de la causacin
Diseo cuasi-experimental
Simulacin
montecarlo
estadstica
de
Diseos
de
asignacin
conocida
Generacin de datos
Contraste de parmetros
Estimacin de sesgos
Correccin de sesgos
Idnticos a los indicadores de la
variable independiente.
24
un
de
de
en
Problema
GENERAL: Cules son los
fundamentos
tericometodolgicos del Sistema de
Evaluacin
de
Impacto
ARYSIS de los programas
sociales en el Per?
Objetivo
Determinar los fundamentos
terico-metodolgicos
del
Sistema de Evaluacin de
Impacto ARYSIS de los
programas sociales en el Per.
Hiptesis
Los fundamentos del Sistema de Evaluacin de
Impacto ARYSIS de los programas sociales en
el Per son: los principios internacionales de
evaluacin, la teora de la causacin, el diseo
cuasi-experimental avanzado y la estadstica de
simulacin va montecarlo.
ESPECFICOS: Cul es el
estado actual del desarrollo
terico de los programas
sociales, la evaluacin de
programas y la evaluacin de
impacto de los programas?
Cul es el estado actual del
desarrollo metodolgico de la
evaluacin de impacto en los
mbitos
internacional
y
nacional?
Cules son los fundamentos
principistas,
tericos
y
metodolgicos del sistema de
Evaluacin
de
Impacto
ARYSIS?
Variables
Variable dependiente: Modelo
de evaluacin de programas
ARYSIS
Variables independientes:
Fundamentos tericometodolgicos:
a) Principios internacionales.
b) Teora de la causacin.
c) Diseo cuasi-experimental.
d) Simulacin estadstica de
montecarlo.
27
Uso de procedimientos
variables instrumentales
de emparejamiento
Conclusiones
Lugar de ubicacin de la muestra
Fuente de la investigacin
Aspectos estudiados
Definicin
Apellidos e iniciales de los autores
Ao de publicacin del artculo
Ttulo del artculo de investigacin
Nmero y descripcin de la muestra empleada. La
unidad de anlisis tambin es referida.
Si es experimental, cuasi-experimental, preexperimental o cualitativo.
Si el diseo cuenta con al menos un grupo control.
Indicar el sub-diseo: diferencias de diferencias, prepost, slo postest, series de tiempo, discontinuidad de
la regresin, entre otros.
Nombre del instrumento empleado. Modalidad:
encuesta, escala, gua de entrevista, focus group, etc.
Mtodos estadsticas empleados para el anlisis de los
datos: modelos de regresin, ecuaciones estructurales,
ARIMAs, estadsticas descriptivas.
Si uso el matching o el uso de variables
instrumentales para controlar el sesgo de seleccin o
asignacin integrupal.
Principales conclusiones del estudio. Determinar si el
programa tuvo impacto significativo.
Pas en dnde su ubica fsicamente la muestra
beneficiada por el programa evaluado.
Si es un artculo de Journal o es un informe
institucional. Indicar la fuente institucional.
Dimensin de la evaluacin de programas estudiados.
rea de estudio (empleo, salud, educacin,
infraestructura, justicia, entre otros).
28
una tcnica muy econmica ya que permite ofrecer varios escenarios posibles de
un modelo de evaluacin, permite cometer errores sin provocar efectos sobre el
mundo real y sin gastar dinero. Se puede afirmar, entonces, que la simulacin es
una rama experimental dentro de la investigacin social evaluativa (Gilbert &
Troitzsch, 1999; Trochim & Davis, 1986).
La simulacin es el desarrollo de un modelo lgico-matemtico de un
sistema, de tal forma que se obtiene una imitacin de la operacin de un proceso
real o de un sistema a travs del tiempo (Azarang & Garca, 1996). En efecto, la
simulacin surge para evaluar numricamente un modelo. Un modelo es una
representacin analtica de una realidad, es un cuerpo de informacin relativo a un
sistema. Si las relaciones que integran ese modelo estn definidas, entonces se
puede tener una representacin numrica de las mismas y calcular un solucin
exacta en trminos deductivos. As, entonces, la simulacin es el proceso de
disear y desarrollar un modelo computarizado de un sistema o proceso y conducir
experimentos con este modelo con el propsito de entender el comportamiento del
sistema o evaluar estrategias con las cuales se puede operar el sistema. De lo dicho,
el modelo de simulacin sera el conjunto de hiptesis acerca del funcionamiento
del sistema expresado como relaciones matemticas o lgicas entre los elementos
del sistema.
Entre los diversos procesos de simulacin, el ms popular es el Mtodo de
Simulacin de Montecarlo, el cual viene aplicndose desde 1940 gracias al
desarrollo terico inicial de Von Neumann & Ulam (1949) en su ya clsico The
Montecarlo Method. Este mtodo permite resolver problemas analticos mediante
la simulacin y el muestreo sistemtico de variables aleatorias (Rubinstein, 1981).
El Mtodo de Montecarlo da solucin a una gran variedad de problemas
matemticos haciendo experimentos con muestreos estadsticos en una
computadora. En la presente investigacin, el Mtodo de Montecarlo se utiliza con
fines experimentales, es decir se elabora distintos modelos de tipo estocsticos1 y
se intercambian parmetros para estudiar cules son los posibles resultados. La
eleccin de este diseo se basa, entre otras razones, en las significativas ventajas de
su utilizacin (Azarang & Garca, 1996):
Una vez construido, el modelo simulado puede ser modificado de
manera rpida con el fin de analizar diferentes polticas o escenarios.
Generalmente es ms barato mejorar el sistema va simulacin, que
hacerlo directamente en el sistema real.
Es mucho ms sencillo comprender y visualizar los mtodos de
simulacin que los mtodos puramente analticos.
Los mtodos analticos se desarrollan casi siempre, para sistemas
relativamente sencillos donde suele haber un gran nmero de
suposiciones o simplificaciones, mientras que con los modelos de
simulacin es posible analizar sistemas de mayor complejidad o con
mayor detalle.
En los modelos estocsticos, los valores de las variables dentro un modelo sufren modificaciones
aleatorias con respecto a un valor promedio; dichas variaciones pueden ser manejadas mediante
distribuciones de probabilidad (Azarang & Garca, 1996).
29
Un modelo es una representacin de los objetos de un sistema y refleja de manera sencilla las
actividades en las cuales esos objetos se encuentran involucrados. Un sistema en cambio, es una
coleccin de variables que interactan entre s dentro de ciertos lmites para lograr un objetivo.
3
El programa Minitab permite simular, de forma rpida y sencilla, la obtencin de muestras de
variables aleatorias definidas por una determinada distribucin de probabilidad, as como calcular
valores correspondientes a su funcin densidad de probabilidad o funcin de distribucin. Otra
importante posibilidad que permite este programa es la de crear archivos ejecutables en formato
ASCII, formados por conjuntos de instrucciones que pueden ejecutarse todas seguidas de forma
automtica. Esta opcin est especialmente indicada cuando se debe realizar una accin de forma
repetitiva. Adems, desde Minitab tambin se pueden ejecutar programas compuestos por
instrucciones tpicas de programacin, tales como IF, ELSEIF, ELSE, DO, WHILE, NEXT, GOTO,
adems de los comandos propios de Minitab. Estos programas pueden ser utilizados en diversos
tipos de aplicaciones tales como automatizar procesos de anlisis de datos, resolver problemas por
simulacin, etc.
30
Distribucin acumulada
Parmetros
Rango
Media
Varianza
N(,)
( x)
1
2
1 x
(- x )
No existe ecuacin
Parmetro de localizacin:
Parmetro de escala:
(-,)
Significado
Se crea una variable aleatoria de 1000 observaciones, la cual
se ubicar en la columa c1. Esta variable es creada con una
distribucin de probabilidad normal, promedio de 50 y
desviacin estndar de 5.
Se crea una variable aleatoria de 1000 observaciones, la cual
se ubicar en la columa c2. Esta variable es creada con una
distribucin de probabilidad normal, promedio de 0 y
desviacin estndar de 5.
Se crea una variable aleatoria de 1000 observaciones, la cual
se ubicar en la columa c3. Esta variable es creada con una
distribucin de probabilidad normal, promedio de 0 y
desviacin estndar de 5.
Se suman las variables c1, c2 y el resultado se ubica en la
columna c4.
Se suman las variables c1, c3 y el resultado se ubica en la
columna c5.
Se asigna nombre a cada una de las variables creadas.
Se crea una variable en la columa c6, con valores de 1 a 1000.
Se codifica las primeras 500 observaciones con el valor 0
(grupo control).
Se codifica las restantes 500 observaciones con el valor 1
(grupo experimental).
31
R-Sq = 17.8%
Analysis of Variance
Source
DF
SS
Regression
1 111.39
Residual Error 18 516.04
Total
19 627.43
R-Sq(adj) = 13.2%
MS
111.39
28.67
F
3.89
P
0.064
Indica el valor promedio de la variable de respuesta Y cuando X es cero. Si se tiene certeza de que
la variable predictora X no puede asumir el valor 0, entonces la interpretacin no tiene sentido.
5
Indica el cambio promedio en la variable de respuesta Y cuando X se incrementa en una unidad.
6
Para un modelo con multiples predictors, la ecuacin es: [y = b0 + b1x1 + b2x2 + ... + bkxk + e]
donde Y = respuesta, X = predictores, bk = Coeficientes de regresin poblacionales, y e = error con
distribucin normal, media de 0, y desviacin estndar de s. La ecuacin muestral es: [ = b0 +
b1x1 + b2x2 + ... + bkxk] donde = valor predico y bk = coeficiente de regresin estimado. En la
regresin lineal simple, donde se incluye un solo predictor, el modelo es: [y = b0 + b1x1 + e]. Con
los estimadores muestrales b0 por b0, b1 por b1, y s por s; la ecuacin de regresin es entonces: [y
= b0 + b1x1].
7
Donde DF = Grados de libertad; SS = Suma cuadrtica, MS = Media cuadrtica, F = Valores de
distribucin F; P.= Probabilidad de aceptar la hiptesis nula.
32
33
Estado deba limitarse a garantizar las condiciones para que las empresas privadas
ofrecieran los bienes y servicios pblicos, que antes haban constituido un
componente fundamental de sus funciones (Cardozo, 2003).
En la dcada siguiente (los 90) los problemas sociales de Amrica Latina
continuaron creciendo: haba aumentado el nmero de habitantes en condiciones
de pobreza y de pobreza extrema (253 millones de personas, que constituan 50%
de la poblacin en 1990, frente a 38% que existan en 1980); ste se haba
concentrado en el medio rural y en grupos particularmente vulnerables, como nios
(60%), mujeres, indgenas, ancianos y discapacitados. La pobreza se reforz con
situaciones de desigualdad, marginacin y exclusin (Kliksberg, 1997). Ante esta
situacin, los Estados comenzaron a aplicar las reformas de segunda generacin,
centradas en la eficiencia de la provisin de servicios, la efectividad para mejorar
su cobertura y calidad, as como el reforzamiento de las condiciones para el
desarrollo de la actividad privada (Nickson, 2002).
La preocupacin por la innovacin y la eficiencia en la gestin ha llevado a
los gobiernos, entre otras estrategias, a la focalizacin de sus intervenciones
sociales. Si bien la poltica social sigue plantendose el objetivo de mejorar el nivel
de vida de las personas, el acento se ha puesto actualmente en el combate a la
pobreza extrema, lo que provoca que otros grupos sociales (trabajadores, por
ejemplo) vean disminuir los servicios pblicos que antes satisfacan sus
necesidades (principalmente de salud, educacin y vivienda), tanto en cantidad
como en calidad. Esta nueva poltica social, sea que asuma objetivos de corto plazo
(vinculados a la transferencia de recursos para paliar la situacin actual de los
pobres en relacin con la satisfaccin de sus necesidades elementales ms
inmediatas) o que se plantee objetivos de largo plazo (por medio de la inversin en
capital humano y social, en cuyo caso se habla de polticas de desarrollo social),
exigen la inclusin de medios de evaluacin sistemticos.
En este contexto, la introduccin de la evaluacin de los programas sociales
gubernamentales ha sido muy difcil en todos los pases, especialmente en los
menos desarrollados. Si bien en los pases escandinavos y otros como Suiza,
Estados Unidos o Canad, la idiosincrasia, el nivel de desarrollo y el sistema
poltico han permitido mayores avances (Aucoin, 2005), tambin existen otras
naciones que aun gozando de altos grados de desarrollo como Alemania, Reino
Unido o Francia, han enfrentado importantes resistencias para su aplicacin.
Generalmente las dificultades aumentan en pases menos desarrollados y se
agudizan en casos como el nuestro, cuya historia poltica ha estado signada por un
agudo presidencialismo y, hasta hace poco tiempo, por el predominio de una
dictadura donde no se rindieron cuentas a la ciudadana y se desatenda a la cultura
de la evaluacin.
En el aspecto positivo, Mxico, por ejemplo, ha hecho importantes avances
en la materia a partir del ao 2000, debido principalmente a la contratacin de
evaluaciones externas (Cardozo, 2003). Su mejor evaluacin fue la realizada por
expertos extranjeros al programa Progresa la cual se hizo gracias a una
disposicin de recursos, de la cual carecen las evaluaciones realizadas en nuestro
pas, impidiendo a estas ltimas contar con la fiabilidad y validez deseadas.
34
Ao
2003
Jariot, M.
2001
Development
Assistance Comit DAC
United Status General
Accounting Office
(GAO)
De Miguel
2002
Fernndez
1999
Alfie, E.
2006
Fernndez-Ballesteros
1996
1998
2000b
Definicin
Los programas pueden ser entendidos como las acciones que tienen el
propsito de obtener un cambio, y tienen que ser implementadas con los
medios dados para obtener resultados esperados dentro de un plazo dado.
(Pg. 37) (Traduccin propia).
proceso de intervencin que se inicia con una evaluacin y
priorizacin de necesidades educativas, de modo que a partir de esta
evaluacin inicial se marquen los objetivos educativos del programa
destinado a potenciar aquellos aspectos ms deficitarios o relevantes de un
grupo concreto de personas. Intervencin que se realiza dentro de un
contexto determinado, llevado a cabo mediante el diseo, planificacin e
implantacin de una serie de actividades que conforman el proceso de
implementacin del programa, apoyadas y fundamentadas en un marco
terico de referencia. Este proceso, adems, deber estar sometido a una
evaluacin constante con el fin de mejorar la intervencin y valorar el
logro de objetivos. (Pp. 113-114).
(Programa de desarrollo) es una intervencin de duracin limitada que
comprende mltiples actividades que pueden abarcar varios sectores,
temas y/o zonas geogrficas (Pg. 30).
Un programa debera ser una actividad, proyecto, funcin o poltica que
tiene un propsito determinado o un grupo de objetivos. (Pg. 3)
(Traduccin propia).
Es el plan, proyecto o servicio mediante el cual se disea, organiza y se
pone en prctica un conjunto de acciones y recursos materiales dirigidos a
la consecucin de una meta.
El programa es el conjunto especfico de acciones humanas y recursos
materiales diseados e implementados organizadamente en una
determinada realidad social, con el propsito de resolver algn problema
que atae a un conjunto de personas (Pg. 477).
Fundamentalmente son acciones, en algunos casos desorganizadas,
tendientes a satisfacer las urgencias, resolver demandas y problemticas
presentadas en cada campo especfico social; situacin que impide una
mejor utilizacin de los recursos y una adecuada referencia a los
resultados (Pg. 1).
Un programa se interpreta como una intervencin o tratamiento, es decir,
como un conjunto de manipulaciones que han sido programadas para ser
implantadas en una determinada realidad social (Pg. 28).
35
Autores
Bartolom, M.
Ao
1990
Prez, R.
1992
Fink
1993
Definicin
Un conjunto de estrategias y elementos orientados a la consecucin de
determinadas metas y objetivos (Pg. 39).
Plan sistemtico de intervencin, diseado y elaborado intencionalmente
para la consecucin de unos objetivos de mejora. (Pg. 46).
Los sistemticos esfuerzos realizados para lograr objetivos preplanificados con el fin de mejorar la salud, el conocimiento, las actitudes y
la prctica (Pg. 2).
36
POLTICA
PROGRAMA 1
Proyecto 1.1
Proyecto 1.2
PROGRAMA 2
PROGRAMA 3
Proyecto 2.1
Proyecto 2.2
Figura N 2.1. Distincin legal entre polticas, programas y proyectos sociales (Basado en Naciones
Unidas, 1998).
37
mismas para seleccionar la ptima. Este proceso se lleva a cabo con niveles
de profundidad crecientes, reflejado en sus etapas: Idea del proyecto, Perfil,
Prefactibilidad y Factibilidad. Avanzar en las etapas puede ser descrito
como una adquisicin progresiva de certidumbre. Esto es, la incertidumbre,
disminuye, en la medida en que se afrontan los costos adicionales de
profundizar los estudios que suponen el pasar de una a otra etapa.
2. Inversin. Es la instancia de adquisicin de los bienes de capital requeridos
para la operacin del proyecto (compra de terrenos, construccin de
edificios y equipamiento). En el campo de lo social, es necesario diferenciar
dos situaciones tpicas: Proyectos que requieren inversin (postas,
hospitales, escuelas, etc.) y aquellos en los que sta no existe o es de
carcter marginal (proyectos de capacitacin, asistencia tcnica, campaas
de salud, etc.). Cuando la inversin no es requerida, se pasa directamente
del estado de la preinversin a la operacin del proyecto.
3. Operacin. Comienza cuando el proyecto inicia su proceso productivo
(compra de insumos, articulacin de recursos y generacin de productos)
para entregar los productos (bienes o servicios) a la poblacin objetivo.
Se encuentra tambin que a cada estado del ciclo de vida se le asocia un
tipo de evaluacin. En la siguiente tabla se resume la relacin:
Tabla N 2.2. Tipos de evaluacin y estados del proyecto (Fuente: Elaboracin propia).
Estado del
proyecto
Planificacin del
Programa (Preinversin /
Formulacin)
Ejecucin del
Programa
(Operacin)
Tipo de evaluacin
Funciones
Cuando Utilizarla
Evaluacin Ex ante
Evaluar
la
viabilidad
y Se disea y se realiza
sustentabilidad del programa en durante la Planificacin.
trminos financieros, polticos e
institucionales, para priorizar y
seleccionar las alternativas de
componentes y actividad que
maximicen el impacto de la
inversin. Es la herramienta de
evaluacin que permite tomar la
decisin de implementar el programa.
Monitoreo
Evaluacin
Diagnstica
Evaluacin desde
la Perspectiva de
los beneficiarios
Se disea durante la
Planificacin y se desarrolla
permanentemente, durante
toda su ejecucin.
38
Estado del
proyecto
Finalizacin del
Programa
Tipo de evaluacin
Evaluacin de
Resultados
Evaluacin de
Impacto
Funciones
Cuando Utilizarla
Evaluacin
del
grado
de
cumplimiento final de los objetivos
especficos del programa, en trminos
de efectividad, eficiencia y eficacia.
Se disea en la planificacin
del programa y se realiza
inmediatamente despus de
finalizada la ejecucin del
mismo.
Identificar y explicar la modificacin Se disea durante
la
del valor inicial de los indicadores planificacin del programa
del problema que dio origen al y se ejecuta un tiempo
programa (lnea de base).
despus de finalizada la
ejecucin del mismo.
39
Direccin
Caractersticas
Problemas asociados
Los programas y proyectos no
siempre estn bien definidos, no
responden a enunciados explcitos de
polticas, tienen horizontes de
realizacin irreales, carecen de una
orientacin hacia el logro de
resultados y de criterios para la
medicin de la eficiencia y del
impacto, con escasa focalizacin y la
persistencia de subsidios encubiertos
de los sectores pobres a los de
mayores ingresos.
Competencias del sector social
fragmentadas
entre
diversas
dependencias
u
organismos,
programas e instituciones, con
capacidad insuficiente para dar
solucin integral a los problemas,
exigiendo una continua coordinacin
y colaboracin.
Escasas
experiencias
de
descentralizacin.
Tcnicas de gestin y formas de
organizacin del trabajo inadecuadas
e inconsistentes con la naturaleza de
las tareas de los programas y
proyectos.
Excesiva burocracia, con resistencias
40
Gestin
Caractersticas
operadores del proyecto a la
consecucin de sus objetivos.
Programacin
Ejecucin
Monitora
Evaluacin
impacto
de
Es la observacin concomitante de la
ejecucin. Compara lo realizado con lo
programado,
con
estndares
(promedios u ptimos) y con otros
programas.
La informacin resultante de la
monitora se canaliza a travs de
distintos circuitos de informacin
(ejecucin, programacin, direccin y
organizacin) con el objetivo de
producir acciones correctivas en dichas
funciones y procesos.
Su
implementacin
requiere
indicadores,
periodicidad
de
recoleccin de datos, fuentes de
informacin y su sistematizacin.
Tiene por finalidad determinar la
magnitud de los cambios producidos
Problemas asociados
al cambio y a la innovacin, con
fragmentacin de tareas, numerosas
capas
jerrquicas,
funciones
departamentales
aisladas
e
incomunicacin entre los decisores y
los operadores.
Ausencia de incentivos para el
mejoramiento de la gestin, con
asignaciones presupuestarias a las
instituciones que gestionan los
programas y proyectos que no estn
basadas en el desempeo.
Funcionarios poco motivados, que
perciben
bajos
salarios,
con
insuficiente
actualizacin
y
capacitacin.
La programacin no
acciones contingenciales.
considera
41
Gestin
Caractersticas
por los programas, tanto buscados
como no buscados.
Problemas asociados
el anlisis de programas y proyectos.
Escasez de recursos porque no se la
considera importante.
El gasto social per cpita alcanz un crecimiento real de casi 100% entre 1991 y el 2000 (pas de
US$ 90 a US$ 180). Segn CEPAL (2003) el Per fue el tercer pas con mayor crecimiento real del
gasto social per cpita entre 18 pases de Amrica Latina y el Cribe, slo por detrs de Paraguay y
Colombia.
42
Por ejemplo, las polticas de nutricin y alimentacin fueron implementadas por el Ministerio de
Agricultura, del Ministerio de Educacin, Ministerio de Pesquera, Ministerio de Salud, Ministerio
de Promocin de la Mujer y Desarrollo Humano, del PRES a travs de FONCODES y del
Ministerio de Economa y Finanzas a travs de los municipios. Vsquez y Mendizbal (2002)
sealan que la duplicidad de gasto en el ao 2000 ascendi a US$ 100 millones, un 40.6% del gasto
total de programas alimentarios y 11.5% del total de programas de lucha contra la pobreza.
43
Tabla N 2.4. Principales acontecimientos referidos a las polticas de gestin de los programas
sociales en el Per: 1990-2002. (Fuente: Elaboracin propia).
Ao
1990
Programa o
lineamiento
Programa
de
Emergencia
Social
(PES)
1991
Fondo
Compensacin
Desarrollo
(FONCODES)
de
y
Social
1992
Programa Nacional de
Asistencia Alimentaria
(PRONAA)
1992
Ministerio
de
la
Presidencia (PRES)
Objetivo
Comentarios
Proteger a la poblacin ms
vulnerable. Se centr en
temas alimentarios y de salud.
Reemplazar al SNDCS y
constituir un fondo de
inversin basada en la
demanda,
para
financiar
proyectos de infraestructura,
apoyo social y desarrollo
productivo.
Otorgar apoyo alimentario en
zonas rurales y urbano
marginales.
Centralizar el manejo de
distintos
programas
destinados a atender a la
poblacin ms pobre.
Se centraliz la gestin de los
programas
como
FONCODES,
PRONAA,
FONAVI, INFES, entre otros.
1993
1994
1994
1994
Se
elaboraron
los
Lineamientos de la
Poltica
Social,
centrndose
en
la
focalizacin
y
la
participacin activa de
la poblacin.
Programa
de
Focalizacin del gasto
social bsico.
Intentar
corregir
desarticulacin
superposicin
de
programas.
Programa de Salud
Bsica para Todos
Asegurar la provisin de un
conjunto de intervenciones
bsicas
en
los
establecimientos de primer
nivel de atencin.
Programa
de
Administracin
Compartida (PAC) y
los Comits Locales de
Administracin
Compartida (CLAS).
la
y
los
44
Ao
1994
1996
Programa o
lineamiento
Programa
de
Mejoramiento de la
Calidad
de
la
Educacin
Peruana
(MECEP) en convenio
con el Banco Mundial
Mapa
de
Pobreza
Distrital
1997
Programa
de
Administracin
de
Acuerdos de Gestin
(PAAG)
1999
Programas
Sociales
Protegidos (PSP)
2001
Mesas de Concertacin
para la Lucha contra la
Pobreza, la cual se
materializ en la Carta
de Poltica Social.
2001
Programa a Trabajar
Rural (FONCODES).
2002
Programa a Trabajar
Urbano (Ministerio de
Trabajo y Promocin
Social).
Bases
para
la
Estrategia
de
Superacin
de
la
Pobreza
y
Oportunidades
Econmicas para los
Pobres
(Elaborado por CIAS)
Objetivo
Comentarios
Convertirse en un medio de
concertacin en torno de la
forma ms idnea de luchar
contra la pobreza en cada
regin, provincia y distrito
del pas.
Creacin
de
trabajos
orientados a la rehabilitacin,
mantenimiento y puesta en
valor de la infraestructura
social de las comunidades.
PRES
y
FONCODES
efectivamente esta herramienta.
usaron
As, tal como se observa en la Tabla 2.4, desde fines de la dcada pasada
existe una tendencia consensual sobre la necesidad de reformular los programas
sociales, sobre todo si se considera la cantidad significativa de gasto sin mayor
impacto en el beneficio de la poblacin (Chacaltana, 2001, Du Bois, 2004). Sin
embargo, este inters por una gestin eficiente y eficaz se ve truncado por el
mismo Estado, quien, lamentablemente, tiene hasta ahora hbitos contrarios a una
administracin moderna. A decir de Du Bois (2004):
45
46
47
48
Ao
1985
Riecken
1972
Perloff, Perloff
Sussana
1976
Definicin
acto de juzgar o apreciar la importancia de un determinado objeto,
situacin o proceso, en relacin con ciertas funciones que deberan
cumplirse o con ciertos criterios o valores, explicitados o no Se trata de
un tipo de investigacin que analiza la estructura, el funcionamiento y los
resultados de un programa con el fin de proporcionar informacin de la cual
se deriven criterios tiles para la toma de decisiones en relacin con su
administracin y desarrollo (p.4).
La evaluacin de programas es la medicin de las consecuencias deseables
o indeseables de una accin psicosocial ejecutada para facilitar la obtencin
de metas perseguidas por el sujeto.
La determinacin de la medida en que un programa logr uno o ms de sus
objetivos, las razones por las cuales no los alcanz y la relacin existente
entre los efectos del programa y una amplia diversidad de variables y
caractersticas del programa.
49
Autores
Spaniol
Ao
1975
Ato,
Quiones,
Romero y Rabadn
1989
FernndezBallesteros
1996
Freeman y Rossi
1993
Rossi, Freeman
Lipsey
Aguilar
Eggs
1999
Ander-
1993
Krger et al.
1998
Markiewicz, A.
2005
Senate
Standing
Comite on Social
Welfare
Lipsey, M
1979a
Abdala, E.
2004
1998
Stufflebeam, D.
1971
1996
Definicin
Es un proceso sistemtico y continuo que proporciona informacin acerca
del efecto o impacto de un programa, con el objeto de contribuir a adoptar
una decisin poltica de trascendencia.
La evaluacin de programas es un proceso que consiste en valorar si un
programa consigui o no alcanzar los objetivos para cuya consecucin fue
ideado.
Consiste en la investigacin sistemtica a travs de mtodos cientficos de
los efectos, resultados y objetivos de un programa, con el fin de tomar
decisiones sobre l.
La aplicacin sistemtica de procedimientos de investigacin social para
evaluar la conceptualizacin, diseo, implementacin y utilidad de los
programas de intervencin social.
Es el uso de procedimientos de investigacin social para investigar
sistemticamente la efectividad de programas de intervencin social.
Requiere: a) recoleccin de datos y b) existencia de criterios de valoracin.
una forma de investigacin social aplicada, sistemtica, planificada y
dirigida; encaminada a identificar, obtener y proporcionar de manera vlida
y fiable, datos e informacin suficiente y relevante, en que apoyar un juicio
acerca del mrito y el valor de los diferentes componentes de un programa
(tanto en la fase de diagnstico, programacin o ejecucin), o de un
conjunto de actividades especficas que se realizan, han realizado o
realizarn, con el propsito de producir efectos y resultados concretos;
comprobando la extensin y el grado en que dichos logros se han dado, de
forma tal, que sirva de base o gua para una toma de decisiones racional e
inteligente entre cursos de accin, o para solucionar problemas y promover
el conocimiento y la comprensin de los factores asociados al xito o al
fracaso de sus resultados (Pg. 18).
la evaluacin de una intervencin, un proyecto o un programa supone la
recogida, anlisis e interpretacin sistemticos de la informacin relativa a
su funcionamiento y a sus posibles efectos. Los datos recogidos suelen
utilizarse para decidir cmo mejorar la intervencin y si debe ampliarse o
abandonarse. En esencia, una evaluacin debe responder a las siguientes
preguntas bsicas: cul es la naturaleza y el alcance del problema?; qu
intervenciones pueden incidir sobre el problema?; a qu grupo objetivo
debe dirigirse la intervencin?; afecta realmente la intervencin al grupo
objetivo?; se aplica la intervencin segn lo previsto?; es eficaz la
intervencin? (Pg. 1).
involucra a una gama de beneficiarios quienes representan una variedad
de intereses polticos y organizacionales. Es importante reconocer el valor
de la diversidad como reflejo de las diferentes perspectivas y posiciones
sociales. Sin embargo, esto es un desafio para el evaluador en la gestin de
las diferencias que se generan entre los beneficiarios y el evaluador, y entre
los mismos beneficiarios en relacin al enfoque y resultados de la
evaluacin (Pg. 13). (Traduccin propia)
el proceso de revisin minuciosa y critica de la eficiencia, eficacia y
adecuacin de un programa o grupo de programas (p.5). (Traduccin
propia).
Este es el proceso de determinar la estructura del programa y lgica por la
cual podra ser razonable esperar la obtencin de los resultados buscados
(Pg. 298) (Traduccin propia).
constituye un proceso sistemtico, metdico y neutral que hace posible
en conocimiento de los efectos de un programa, relacionndolos con las
metas propuestas y los recursos movilizados. (Pg. 26)
consiste en el examen riguroso y sistemtico, a partir de criterios
especficos, de los logros obtenidos por una poltica o programa social en
relacin a las metas que se han propuesto y a los efectos esperados en los
grupos sociales beneficiarios (Pg. 17).
Es un proceso que facilita la identificacin, la recoleccin y la
interpretacin de informaciones tiles a los encargados de tomar decisiones
y a los responsables de la ejecucin y gestin de los programas.
50
Autores
Repetto, E.
Ao
1987
DAC
2002
GAO
1998
De Miguel
2000
Levine, H.M.
Garca, J.L.
1975
1996
Stufflebeam, D.L.
1989
Alkin, M C.
1990.
Prez Juste, R.
1992
Northwerst
2002
Definicin
un modo de investigacin en orientacin educativa que se propone
indicar el valor de los programas orientadores de acuerdo con determinados
criterios (Pg. 250).
(evaluacin) Apreciacin sistemtica y objetiva de un proyecto, programa
o poltica en curso o concluido, de su diseo, su puesta en prctica y sus
resultados. El objetivo es determinar la pertinencia y el logro de objetivos,
as como la eficiencia, la eficacia, el impacto y la sostenibilidad para el
desarrollo (Pg. 21).
son los estudios sistemticos individuales conducidos peridicamente o
sobre bases ad hoc para medir cuan bien un programa est trabajando. Estos
son generalmente conducidos por expertos externos al programa, ni dentro
o fuera de la agencias, tambin como por los gerentes del programa (Pg.
3) (Traduccin propia).
Es el conjunto de principios, estrategias y procesos que fundamentan la
evaluacin de toda accin o conjunto de acciones desarrolladas de forma
sistemtica en un determinado contexto con el fin de tomar decisiones
pertinentes que contribuyan a mejorar las estrategias de intervencin social.
El examen de los efectos, resultados y output de un programa.
Proceso de identificacin, recoleccin y tratamiento de datos para obtener
una informacin que justifique una determinada decisin. Debe servir no
slo para analizar un determinado programa, sino tambin para ayudarnos a
comprender el proceso de aprendizaje (Pg. 46).
Es el proceso de identificar, obtener y proporcionar informacin til y
descriptiva acerca del valor y el mrito de las metas, la planificacin, la
realizacin y el impacto de un objeto determinado, con el fin de servir de
gua para la toma de decisiones, solucionar los problemas de
responsabilidad y promover la comprensin de los fenmenos implicados.
Un proceso de determinacin de reas de decisin sobre asuntos de inters
mediante la seleccin de la informacin adecuada y analizada para realizar
un informe con datos tiles para los que toman decisiones.
Proceso sistemtico diseado intencional y tcnicamente, de recogida de
informacin rigurosa valiosa, vlida y fiable- orientado a valorar la calidad
de un programa, como base para la posterior toma de decisiones de mejora
tanto del programa como del personal implicado y, de modo indirecto, del
cuerpo social en el que se encuentra inmerso.
La evaluacin de programas es una herramienta que ayuda al personal a
evaluar objetivamente los efectos del programa a travs de una recoleccin
sistemtica, anlisis y reporte de informacin del programa (Traduccin
propia).
51
Cul es el significado
de la evaluacin?
Cundo se realiza la
evaluacin?
Evaluacin tradicional
No es parte constitutiva
programa.
del
Control y fiscalizacin
52
Evaluacin tradicional
(evaluacin expost)
Cuales son los aspectos
prioritarios
que
se
evalan?
Qu se evala en la
evaluacin?
Se
considera
evaluacin
en
planificacin?
La planificacin y la formulacin
tradicional no preven el desarrollo
de parmetros e indicadores de
evaluacin.
Se prioriza solo la evaluacin
externa, sin considerar procesos de
evaluacin que desarrolla la misma
institucin ejecutora del programa
social.
Se
centra
en
criterios
metodolgicos derivados de la
evaluacin econmica - financiera
de proyectos.
la
la
Cul es la concepcin
metodolgica de las
evaluaciones?
La evaluacin de programas naci en Estados Unidos con el Planning-Programming-BudgetingSystem (PPBS), el cual fue importado a los pases europeos en la dcada de los 70. Estas
instituciones realizaban evaluaciones ex ante y evaluacin ex post. Tuvieron un objetivo
interministerial e introdujeron racionalidad cientfica en el proceso gubernamental (Toulemonde,
2000).
14
En la dcada de los cincuenta y comienzos del sesenta se busc determinar los efectos de la
nueva currcula en las llamadas nuevas ciencias y matemticas; posteriormente a insistencia del
senador Robert Kennedy se instituy la Elementary and Secondary Education Act of 1965 que
oblig realizar evaluaciones de los programas educacionales para estudiantes en desventaja
econmica; este mandato luego se expandi rpidamente a todos los programas sociales federales
(House, 1993).
53
54
Experimentalista
Base filosfica
Base disciplinaria
Positivista
Psicologa
Centro
de
metodologa
Determinar
relaciones causales
la
Metodologa
Diseos
experimentales
y
cuasiexperimen-tales
Variables
Predeterminadas
como input-output
S, es necesario
Ninguno
Grupo de control
Rol
de
los
participantes en la
evaluacin
Rol del evaluador
Independiente
programa
del
Eclcticos
Pragmtico
Psicologa,
sociologa,
ciencia
poltica
Aumentar
la
bsqueda
de
relaciones
causales
con datos de proceso
y contextuales
Diseos
cuasiexperimen-tales,
estudios de casos,
descripciones
Predeterminadas ms
las que surjan
S es posible
De
ninguno
a
interactivo
Cooperativo
Descriptivos
Fenomenolgico
Sociologa,
antropologa
Describir
el
programa
globalmente
y
desde
la
perspectiva de los
participantes
Etnografa,
estudios de casos,
observacin
participante
Las que surjan en
la evaluacin
No es necesario
Vara (puede estar
en funcin de las
observaciones de
campo).
Interactivo
Anlisis
Costo/Beneficio
Lgico-Analtico
Economa
Juzgar el valor
del programa en
trminos
de
costo
y
beneficios
Anlisis costobeneficio
Predeterminadas
S
Ninguno
Independiente
del programa.
55
Dimensiones
Experimentalista
Presiones polticas
(internas-externas).
Objeto del informe
de evaluacin
Controladas en el
diseo o ignoradas
Tomar/no tomar una
decisin
Eclcticos
Descriptivos
Integradas
Interpretar
recomendar
mejoramiento
programa
A describir
y
el
del
Presentar
una
descripcin global
del programa en
curso
Anlisis
Costo/Beneficio
A ignorar
Emitir un juicio
Es importante sealar que aunque a simple vista parece que las distinciones
entre los modelos mencionados son fuertes, en la prctica hay un considerable
solapamiento. En efecto, las diferencias se desvanecen a la hora de llevar a cabo
evaluaciones concretas. Adems, Mines, Gressard & Daniels (1982) realizaron una
revisin de la literatura sobre diversos modelos de evaluacin y llegaron a la
conclusin de que haba poca informacin disponible acerca de los mritos
relativos, limitaciones y utilidad de dichos modelos. Naturalmente, esto no quiere
decir que la efectividad de todas las tcnicas y modelos de evaluacin no pueda ser
demostrada, sino que el proceso de determinar si una tcnica o estrategia particular
sirve para una finalidad dada es probable que lleve implcito algn tipo de juicio y
error. No obstante, cualesquiera que sea el modelo de evaluacin, siempre que se
use ms de uno de forma combinada, los beneficios que se obtengan al evaluar los
programas sern mucho mayores que los riesgos (Bishop & Trembley, 1987).
56
Ospina (2001) seala que son pocos los casos en Amrica Latina (cita como
ejemplos a Chile, Colombia y Costa Rica) en los que se puede hablar de una
evaluacin sistemtica en la administracin pblica, en sus tres o cuatro niveles:
polticas pblicas, programas pblicos, organizaciones pblicas y desempeo de
los empleados pblicos. Considera que la evaluacin de la gestin pblica est
dejando de ser un ejercicio tcnico para transformarse en una herramienta poltica
til para resolver problemas de gobernabilidad y legitimidad, al contribuir al
fortalecimiento de la democracia y la rendicin de cuentas a la sociedad. As, una
mejor gestin del gasto pblico debera contribuir a mejorar la imagen del Estado y
aumentar su legitimidad, liberar recursos que pueden destinarse a satisfacer
necesidades de grupos sociales de menores ingresos y aumentar la equidad. Sin
embargo, an no se reportan casos en Amrica Latina en que estos resultados
deseables se presenten empricamente (Ospina, 2001).
Cohen (2001) resalta la importancia de proceder en la evaluacin de
programas sociales en Amrica Latina considerando los siguientes aspectos
tcnicos: a) La magnitud del gasto social, b) el porcentaje del gasto social
efectivamente redistributivo, c) la eficiencia en la aplicacin del gasto anterior, y
d) su impacto en la solucin del problema. Las razones de esta secuencia son
obvias: no pueden haber resultados relevantes en programas que carecen de
recursos suficientes; no basta con gastar, pues muchos recursos pueden insumirse
en los procesos sin llegar a la poblacin objetivo16; y, suponiendo que stos
lleguen, por lo general se desconoce su efectividad para resolver o aliviar el
problema que dio pie al programa, el grado en que justifican su costo y quines son
sus verdaderos beneficiarios y perjudicados.
En otro aspecto, la evaluacin de programas de desarrollo social es tambin
importante porque facilita el aprendizaje de los ciudadanos interesados en el
programa para afianzar los procesos de democratizacin (Blanet et al, 2000). En
efecto, Monnier (1991) resalta la importancia de la participacin de los actores
sociales participantes y propone realizar evaluaciones con una actitud pluralista
fundamentada en el reconocimiento de la diversidad de sistemas de valores que
coexisten en el seno de la sociedad y que se construyen a partir de los conflictos
sociales emergentes; lo que lleva al evaluador a actuar como conciliador entre las
partes en desacuerdo, en busca de una solucin satisfactoria, no ptima, mediante
un proceso continuo de aprendizaje colectivo17.
16
El autor refiere un trabajo que demostrara que en Chile slo 13% del gasto social total llega al
30% ms pobre de la poblacin; situacin que, segn considera, se repite en otros contextos
nacionales de Amrica Latina. Otro trabajo realizado en seis pases latinoamericanos registra que
90% del gasto pblico social corresponde a gasto corriente.
17
Hengel & Carlson (2002) plantean la existencia de tres diferentes perspectivas para impulsar el
aprendizaje desde las evaluaciones, con diferentes niveles de la complejidad social: A) El enfoque
tradicional de tomadores de decisiones y organismos financieros, interesados exclusivamente en un
aprendizaje que permita la retroalimentacin sobre el propio desempeo de polticas y programas.
B) El nivel que impulsa el aprendizaje organizacional de tomadores de decisiones, donantes, pero
tambin de todo otro actor social relevante, cuya participacin se torne fundamental. La evaluacin
y el aprendizaje incluyen acciones dentro de polticas existentes; el sistema mismo de accin
gubernamental y los principios, normas y valores de la conducta colectiva. C) El impulso al
aprendizaje de la sociedad, cuyo conocimiento, en trminos del Banco Mundial, se entiende como
un bien pblico global, que requiere empezar por hacer un uso pblico de las evaluaciones,
57
58
59
60
21
Esta ltima visin es impulsada fuertemente por la corriente neoinstitucional, aunque autores
como Campbell trabajaron desde los aos 60s el concepto de la evaluacin como elemento para la
reforma social.
61
Frank Fisher (1997) plantea la necesidad de cuatro componentes evaluativos para las polticas
pblicas, desde una ptica de argumentacin poltica: evaluacin de logros de la poltica, validacin
de la pertinencia de la poltica con respecto a la situacin problema, el anlisis de la contribucin de
la poltica a la construccin de valor en la sociedad, y la evaluacin ideolgica. Esta ltima
corresponde al anlisis del sistema de valores e ideologas que soportan la poltica.
62
63
Si bien 9 de los 20 proyectos de la muestra de proyectos analizados por Apoyo (2000) realizaron
alguna evaluacin intermedia o ex-post, sta habra sido de cobertura limitada, o slo de tipo
64
65
presupuestaria. Esa tarea tiene que ser impulsada de manera sostenible por el
Gobierno Central. Los autores recomiendan establecer legalmente la obligatoriedad
de estudios de impacto independientes, anual o bianualmente, como parte del
proceso presupuestario. Los informes deben ser abiertos al pblico y a la prensa, y
servir para la discusin en la Comisin de Presupuesto. Se requiere promover su
difusin activamente, para fortalecer el proceso de toma de decisiones y mejorar el
gasto social. Slo as se empezar un camino ms o menos sostenible para mejorar
la eficacia y eficiencia del gasto e intervencin social, sobre la base de criterios
tcnicos y pragmticos (Ortiz de Zevallos, 2001, 2003).
2.2.4.2. Sistemas de evaluacin en la Administracin Pblica
A partir de la segunda mitad de la dcada pasada, se inicia un movimiento
en la gestin pblica peruana que intentaba introducir y fortalecer los Sistemas de
Monitoreo y Evaluacin (M&E) de los programas pblicos con nfasis en lo social
(Ortiz de Zevallos, 2001). Ello se lleva a cabo desde un conjunto de iniciativas
vinculadas a la ejecucin del gasto y al proceso presupuestario, desarrolladas desde
el Ministerio de Economa y Finanzas, as como con el desarrollo de esquemas de
M&E en diversos proyectos sectoriales, principalmente aquellos que reciben
financiamiento de agencias de cooperacin.
Como parte de estos esfuerzos, entre 1995 y 2000, el Ministerio de
Economa y Finanzas impuls tres iniciativas de M&E en la administracin
pblica: la Oficina de Inversiones (ODI), el Sistema de Informacin
Administrativa y Financiera (SIAF) y el Planeamiento Estratgico Sectorial
Multianual (PESEM).
La Oficina de Inversiones (ODI)
La ODI funciona como una unidad rectora de las inversiones pblicas:
analiza las propuestas de inversiones presentadas por los diferentes sectores y
procura que estas se formulen adecuadamente. A fines de 2000, promulg la
Nueva Ley de Inversiones estipulando que a partir de 2001 todos los proyectos de
inversin deben cumplir con normas que definen cada una de las etapas del ciclo
de proyectos, las cuales deben ser aprobadas para asegurar su viabilidad. La etapa
de preinversin requiere de la elaboracin del perfil del proyecto; la etapa de
inversin consiste en la elaboracin del expediente tcnico y la ejecucin del
proyecto; y la etapa de post-inversin se refiere a la evaluacin ex post de los
proyectos.
Desde el punto de vista del M&E de proyectos en general, la principal
limitacin del nuevo marco legal es que solo abarca las intervenciones pblicas de
carcter eventual. De otro lado, la Ley establece que las unidades ejecutoras de los
proyectos son las encargadas de hacer las evaluaciones ex post, sin embargo, lo
ms probable es que estas se encuentren desactivadas cuando culminen los
proyectos. Resulta necesario que este esquema de M&E permita evaluar la
sostenibilidad de los programas, luego de varios aos de haber finalizado.
Por otro lado, tanto el SIAF como el PESEM no son propiamente esquemas
de M&E. Veamos a continuacin al SIAF.
66
67
Retroalimentacin
Prefactibilidad
Factibilidad
Declaracin
de viabilidad
Evaluacin
de Impacto
Evaluacin
Expost
Operaciones y
mantenimietno
Post-inversin
Expediente
tcnico
detallado
Ejecucin
Inversin
Figura N 2.2. Ciclo del proyecto de inversin segn el SNIP (Fuente: Elaboracin propia).
Segn el SNIP, un proyecto de inversin pblica tiene por finalidad crear, ampliar, mejorar,
modernizar o recuperar la capacidad productora de bienes y servicios.
68
69
70
Ao
2004
Abdala, E.
2004
Boothroyd, P.
1998
Apocada, P.
1999
Anguera, T.
1989
De Miguel, M.
1997
Definicin
Toda evaluacin de impacto de un programa social tiene como objetivo
determinar cul es la mejora que perciben los individuos que participan de
dicho programa. Esta mejora puede ser medida a travs de variables de inters
como pueden ser ingresos, empleo, reduccin de la desnutricin, etc. Para
ello, se requiere contar con un grupo de beneficiarios y controles que
permitan comparar la situacin de haber participado del programa con la de
no haberlo hecho. (p. 53).
Bajo la denominacin de evaluacin de impacto se entiende el proceso
evaluatorio orientado a medir los resultados de las intervenciones, en
cantidad, calidad y extensin segn las reglas pre-establecidas. La evaluacin
de impacto abarca todos los efectos secundarios a la planeacin y a la
ejecucin: especficos y globales; buscados (segn los objetivos) o no;
positivos, negativos o neutros; directos o indirectos (la puesta en marcha del
programa puede generar por s misma efectos sobre los directamente
involucrados, hasta la sociedad toda). (Pg. 28-29).
la medicin de impacto se orienta a los efectos no esperados y los
beneficios indirectos, o lo que los economistas denominan externalidades.
(Traduccin propia)
la evaluacin de los efectos producidos por un programa o intervencin.
Es decir, aquellos cambios habidos debidos a la citada intervencin. (Pg.
363).
la actividad encaminada a identificar, predecir, interpretar, comunicar y
prevenir el impacto de un programa, proyecto, plan o accin y desemboca en
la valoracin de los efectos finales de una cadena de ellos que se inicia como
una causa, que es precisamente la intervencin o implementacin de un
programa. (Pg. 26).
Este tipo de comparacin se conoce como effectiveness -traducido unas
veces por efectividad y otras por eficacia-, consideramos ms oportuno la
71
Autores
Ao
Baker, J.
2000
GAO
1998
CONPES
2002
Mohr, L.
1995
Ezemenari,
Rudqvist,
Subbarao
K.;
A.;
1999
2003
Regalia, F.
1999
Blomquist, J.
2003
Verstraete, L.
1993
1994
Vela, R.
2003
Definicin
utilizacin de desarrollo ya que este concepto define mejor los logros o
resultados a largo plazo (outcomes), especialmente cuando estos resultados
pretenden evaluar cambios en los valores sociales. (Pg. 163).
la evaluacin de impacto tiene el objeto de determinar en forma ms
general si el programa produjo los efectos deseados en las personas, hogares e
instituciones y si estos son atribuibles a la intervencin del programa. Las
evaluaciones de impacto tambin permiten examinar consecuencias no
previstas en los beneficiarios, ya sean positivas o negativas. (Pg. 1).
La evaluacin de impacto es una forma de evaluacin de resultados que
mide el efecto neto de un programa al comparar los resultados del programa
con una estimacin de qu habra pasado en caso de la ausencia del programa.
Esta forma de evaluacin es empleada cuando los factores externos son
considerados como influyentes en los resultados del programa, de esta manera
aislar la contribucin del programa al logro de objetivos. (Pg. 5)
(Traduccin propia)
identifica de manera sistemtica los efectos (positivos o negativos,
esperados o no) sobre los hogares e instituciones, generados por un programa
de desarrollo social. Se distingue de las evaluaciones de procesos, gestin y
resultados, al determinar la causalidad entre la intervencin y sus efectos
observados. As, permite entender la magnitud de los cambios generados por
dicha accin sobre el bienestar y en especial sobre la reduccin de la pobreza.
Concretamente, apuntan a retroalimentar y a mejorar la efectividad de los
programas sociales, comparndolos con intervenciones alternativas. (Pg. 4)
Es un medio para determinar la extensin hasta la cual un conjunto de
actividades afecta el estado de algunos objetivos y examina por qu los
efectos fueron mnimos o grandes (Traduccin propia).
Una evaluacin de impacto mide la extensin hasta la cual un programa ha
causado cambios deseados en el pblico esperado: se refiere al impacto neto
de una intervencin sobre las familias e instituciones, atribuible nicamente a
la intervencin. Por tanto, la evaluacin de impacto consiste en medir los
resultados y el cambio de desarrollo de corto y largo plazo resultantes de una
intervencin. (Pg. 65) (Traduccin propia).
La evaluacin de impacto mide los cambios en el bienestar de los individuos
que pueden ser atribuidos a un programa o a una poltica especfica y sus
objetivos son proveer informacin y ayudar a mejorar su eficacia. En este
sentido, es una herramienta que utilizan los encargados de tomar decisiones
en la formulacin de polticas, y que hacen posible que el pblico pueda
exigir cuentas sobre los resultados de los programas. (Pg. 7)
La evaluacin de impacto es una herramienta indispensable para medir si un
programa est logrando su objetivos, cunto ha cambiado la situacin de los
beneficiarios como resultado del programa y cmo hubiera sido la situacin si
el programa no se hubiese desarrollado. (Traduccin propia).
La evaluacin de impacto es la identificacin sistemtica de los efectos sobre
los individuos, hogares e instituciones atribuidos a un programa o proyecto.
La Evaluacin de Impacto tiene por objeto determinar si un proyecto ha
producido los efectos deseados en las personas, hogares e instituciones y si
estos efectos son atribuibles a la intervencin. Las evaluaciones de impacto,
por lo general, tambin permiten examinar consecuencias no previstas en los
beneficiarios, ya sean positivas o negativas.
La evaluacin de impacto de un proyecto social es un proceso de
identificacin, anlisis y explicacin de los cambios o modificaciones que, en
funcin de un problema social, se hayan producido en las condiciones
sociales de la poblacin-objetivo y en su contexto, como consecuencia de la
aplicacin del proyecto que se evala.
Esta propuesta de evaluacin, aunque mantiene la lgica de comparacin
entre situacin inicial y situacin final, se caracteriza por su intencin en
superar el enfoque unicausal de explicacin de los cambios producidos y
distinguir entre lo que el proyecto se propuso hacer y lo que realmente
ocurri.
72
73
Desde las propuesta iniciales de Rosenbaum y Rubin (1983, 1984) se han desarrollado numerosas
aplicaciones econmicas por autores diversos Heckman, Ichimura y Todd (1997); Dehejia y Wahba
(1999); Hotz, Imbens y Mortimer (1999); Lechner (1999); Heckman, LaLonde y Smith (1999);
Sianesi (2001); y Bryson, Dorsett y Purdon (2002).
74
El impacto final que persigue todo programa social es reducir la pobreza y mejorar la calidad de
vida de la poblacin. Sin embargo, por ser un fin ltimo, los programas y proyectos sociales se
disean y ejecutan para mejorar cualquier aspecto de la vida de las personas (educacin, salud,
infraestructura, etc.) o reducir situaciones precarias o riesgosas para su desarrollo. Por eso, cuando
me refiero a aumentar la calidad de vida o reducir la pobreza, debe recordarse que son fines
generales y ltimos.
30
Sin embargo, hay que hacer una advertencia importante: una evaluacin provechosa requiere de
un programa suficientemente maduro. Aunque un programa est probando enfoques innovadores,
necesita objetivos bien definidos y actividades bien delineadas, as como un marco institucional
estable que se preste para la implementacin.
75
76
Administracin
escolar (Nicaragua)
Administracin
escolar (Salvador)
Programas de Vales
(Colombia
Fondo Social
(Honduras)
Fondo Social
(Nicaragua)
Fondo Social
(Bolivia)
Trinidad y Tobago
Capacitacin Jvenes
Promedio
Costo
estimado de
la evaluacin
(US$)
Costo %
del costo
total del
proyecto
495,000
1,26%
443,000
Asesores
Recopilacin
de datos
8,1%
Personal
del Banco
Mundial
18,1%
39,0%
34,8%
0,60%
7,7%
7,4%
25,8%
59,2%
266,000
0,20%
9,4%
9,8%
21,8%
59,0%
263,000
0,23%
3,0%
11,5%
53,2%
32,3%
449,000
0,30%
4,9%
33,0%
7,8%
55,7%
878,000
0,50%
3,4%
14,6%
12,9%
69,1%
238,000
0,80%
7,6%
11,5%
17,9%
63,1%&
433,000
0,56%
6,3%
15,1%
25,5%
53,3%
Este costo no incluye el costo del personal local de contrapartida no financiados con el prstamo
o crdito. Las cifras se refieren al periodo dentro del cual se seleccionaron los proyectos de la
muestra de las evaluaciones y no al financiamiento total proporcionado alguna vez por el Banco y
otros a esas instituciones.
32
Por ejemplo, una evaluacin de impacto de Progresa (Programa de educacin, salud y
alimentacin de Mxico) revel que uno de sus objetivos educativos cerrar la brecha de gnero en
la matrcula, especialmente en el nivel de secundaria haba producido un impacto nulo. El modelo
estadstico que analizaba las variables del ausentismo y desercin asignaba una alta capacidad de
explicacin del comportamiento de stas a la distancia de las escuelas de los hogares de estudiantes
femeninos. En tal sentido, se asignaron becas ms altas a jefes de hogares con mujeres en edad
secundaria para estimular su asistencia y cubrir los costos derivados del transporte desde el hogar a
la escuela. As, la evaluacin reflej ausencia de impacto significativo en cerrar la brecha de gnero
en la matrcula de nivel secundaria (Boltvinik, 2000). Este resultado, y otros derivados de
77
En el caso de los programas sociales del Per, Yamada & Prez (2005),
encuentran que las evaluaciones de impacto pueden costar menos de 1% del monto
total de proyectos grandes y entre 2% y 4% del monto total de proyectos pequeos
o pilotos, lo que representa dinero bien invertido si se considera las grandes sumas
de recursos pblicos que podran orientarse mejor luego de una slida evaluacin
de impacto.
Ms impacto se logra al gastar ms:
Existe una tendencia en Amrica Latina a destinar cada vez mayores
recursos para combatir la pobreza, tanto en el rea rural como urbana. La dcada
de los aos 90 refleja claramente esta tendencia, pues la proporcin del gasto social
ha aumentado significativamente en ella33.
Es indudable que para enfrentar la pobreza se requiere contar con ms
recursos, sin embargo, esto es insuficiente ya que es posible gastar ms pero lograr
menos o nada. As, es posible alcanzar una baja proporcin de gasto social efectivo
respecto del volumen del gasto social destinado. Los datos son contundentes. A
pesar que el volumen de recursos destinados a lo social se ha incrementado, los
niveles de pobreza, bienestar, desigualdad, exclusin y poblacin en riesgo de
padecer pobreza34, as como la violencia e inseguridad no han logrado reducciones
significativas en la regin en los ltimos aos, ms bien y en un buen nmero de
pases, algunas de estas condiciones se han agravado. Dado lo anterior, la
evaluacin de impacto, favorece los procesos de asignacin de recursos, al
identificar las reas de mayor rentabilidad social de la inversin. Por otra parte,
la evaluacin, acompaada del monitoreo, favorece la eficiencia en la
implementacin de programas.
El carcter reservado de las evaluaciones:
An existen funcionarios que conciben a los resultados de las evaluaciones
como propiedad de la alta direccin (Medina Giopp, 2002; Medina Giopp &
evaluaciones de impacto, no son anecdticos o excepcionales, sino recurrentes. Es el caso de
microempresarios que reciben capacitacin en temas que no son relevantes, o bien que la escala de
crdito a la que tienen acceso es insuficiente, o bien que los equipos recibidos por pequeos
agricultores a travs de proyectos de mecanizacin, por ejemplo tractores, resulta inviable ya que
los repuestos o los expertos para su reparacin son escasos en el mercado local, etc. Los casos ms
dramticos son aquellos en los que la entrega de los bienes y/o servicios producen algn dao o
empeoramiento de la condicin de bienestar que se deseaba satisfacer, en vez de una mejora. Por
tanto, ms barato es evaluar que invertir ciegamente en la provisin de servicios y bienes sin saber
su impacto.
33
Pueden consultarse los informes anuales del Panorama Social de CEPAL o el Informe IPES de
BID.
34
El mtodo ingreso-consumo o MIC, presenta una nueva forma de elaborar mediciones sobre la
base de la lnea de pobreza. Uno de sus principales aportes es el de identificar a travs de analizar
de manera simultnea el ingreso y el consumo de los hogares, a los individuos o grupos familiares
que se encuentran en un alto riesgo de caer en pobreza y en consecuencia si no se atienden acern,
irremediablemente e estratos de pobreza extrema o moderada. En: Tuirn Gutirrez, Alejandro y
Alejandro Medina Giopp (2001) El MIC estrategia para mejorar las estimaciones por lnea de
pobreza y elaboracin de recomendaciones para enfrentarla. Material mimeografiado.
78
79
Antes de que el
proyecto comience
(1976)
Despus de que el
proyecto ha
funcionado por dos
aos (1980)
Variacin
absoluta
Variacin
porcentual
Grupo con
proyectos
beneficiados
Grupo de Control
355.0
569.6
234.5
70.0
258.3
451.0
172.7
74.6
80
81
Evaluaciones experimentales
y cuasi-experimentales
Evaluaciones verdaderas
mixtas cuanti-cualitativas
Descripcin
En ellas se cumple un proceso evaluatorio pero con fuerte injerencia de
alguna de las partes comprometidas con el proyecto y que presiona para
que aparezcan resultados preestablecidos.
El evaluador no acta neutralmente.
Son evaluaciones exclusivamente cuantitativas. Este diseo exige que se
constituya un grupo de control. Se mide el impacto por comparacin
estadsticas entre el grupo de control y el beneficiario de las acciones del
programa.
Se mide el incremento del bienestar de los beneficiarios.
Las evaluaciones mixtas permiten agregar elementos cualitativos como:
cambios actitudinales, cambios psicosociales, necesidad y satisfaccin
con el programa, autoestima, empleabilidad.
Pueden medirse impactos sobre otros actores. Se utilizan tcnicas como
estudios de casos, observaciones, entrevistas en profundidad.
El aporte mixto ayuda a entender ms el por qu unos programas son
exitosos y otros fracasan.
82
83
84
insignificantes cuando los efectos reales del programa son relevantes y viceversa.
(Vase, por ejemplo, La Londe, 1986, Fraker & Maynard, 1987, LaLonde &
Maynard, 1987, y Friedlander & Robins, 1995). Es posible controlar por el sesgo
mediante tcnicas estadsticas, como variables de comparacin e instrumentales,
pero es muy difcil eliminarlo por completo, siendo as un importante desafo para
los investigadores en el campo del anlisis de los efectos.
Entre las tcnicas de diseo cuasi-experimental en general se considera que
las tcnicas de comparacin pareada son la alternativa sub-ptima al diseo
experimental. Gran parte de la literatura sobre metodologas de evaluacin se
centra en el uso de este tipo de evaluaciones, lo que indica el frecuente uso de las
comparaciones pareadas y los numerosos desafos que plantea el contar con grupos
de comparacin poco adecuados.
En los ltimos aos se han producido significativos avances en las tcnicas
de correspondencia de puntuacin de la propensin (Rosenbaum & Rubin, 1985;
Jalan & Ravallion, 1998). Este mtodo es muy atractivo para los evaluadores que
tienen restricciones de tiempo y no tienen la ventaja de contar con datos bsicos
(de referencia), dado que se pueden usar con una simple seccin transversal de
datos. Sin embargo, para esta tcnica se debe contar con los datos adecuados,
porque se basa en tomar nuevas muestras de los beneficiarios durante la aplicacin
en terreno de una encuesta ms amplia, hacindolos corresponder luego con un
grupo de comparacin seleccionado de la muestra bsica ms amplia de la
iniciativa global, frecuentemente una encuesta domiciliaria a nivel nacional. Dado
el crecimiento de las aplicaciones de grandes encuestas en los pases en desarrollo,
como las encuestas sobre las condiciones de vida de propsitos mltiples, este
mtodo de evaluacin es particularmente prometedor (Jalan & Ravallion, 1998).
2.3.4.2. Evaluaciones cualitativas
Para realizar una evaluacin del impacto tambin se usan tcnicas
cualitativas, en un intento por determinar el efecto basndose en algo diferente al
escenario contrafactual (Mohr, 1995). En este caso, se trata de comprender los
procesos, comportamientos y condiciones como las perciben los individuos o
grupos estudiados (Valadez & Bamberger, 1994). Por ejemplo, los mtodos
cualitativos y, en particular, la observacin de los participantes, pueden
proporcionar informacin sobre las formas en que los beneficiarios perciben un
proyecto y cmo se ven afectados por ste. Puesto que medir el escenario
contrafactual es esencial para las tcnicas de anlisis de los efectos, los diseos
cualitativos en general se han usado en conjunto con otras tcnicas de evaluacin.
Algunas de las tcnicas utilizadas en este tipo de evaluaciones son las que
contienen la evaluacin rural rpida o la planificacin participativa (The World
Bank Participation Sourcebook, 1996). La principal ventaja de las evaluaciones
cualitativas es su flexibilidad y adaptabilidad a las necesidades de la evaluacin.
Permiten mejorar una evaluacin de impacto al permitir mayor comprensin de las
percepciones y prioridades de las partes interesadas y los diferentes factores que
puedan haber afectado a los resultados de un programa (Baker, 2000).
85
86
87
88
89
90
91
Tabla N 2.13. Opciones de diseo para reducir los costos de la obtencin de datos 37 (Fuente: Bamberger, 2006).
Diseo de la evaluacin
Referencia
Tratamiento
Mitad de
perodo
Despus de
la
intervencin
Porcentaje de
ahorro con respecto
al Diseo 1
Observaciones
P2 C2
P2 C2
P2 C2
25
P1 C1
50
P1 C1
37
P1
P1 C1
La reduccin de costos se basa en la hiptesis de que se necesitarn encuestas u otros mtodos de obtencin de datos primarios. Las reducciones estimadas de los
costos de recopilacin de datos, en comparacin con el Diseo 1, dependen del nmero de puntos de obtencin de datos (antes y despus de la intervencin, y grupo
de beneficiarios y de comparacin) eliminados. En el caso de encuestas concatenadas o sincronizadas, o cuando la evaluacin se basa en datos secundarios, el ahorro
puede ser mayor.
Diseo de la evaluacin
Referencia
Tratamiento
Mitad de
perodo
Despus de
la
intervencin
Porcentaje de
ahorro con respecto
al Diseo 1
Observaciones
Dos diseos muy utilizados que, por falta de una hiptesis aceptable, casi nunca son considerados como diseos de impacto de calidad
5. Anlisis del grupo de beneficiarios antes y
despus de la intervencin sin grupo de
comparacin.
P1
P2
50
P1
75-90
Smbolos: P = grupo de beneficiarios de seleccin aleatoria o no aleatoria. C = grupo de control o comparacin de seleccin aleatoria o no aleatoria (no equivalente). P1, P2, C1, C2
indican la primera y la segunda utilizacin del instrumento de encuesta con los grupos beneficarios y de comparacin, respectivamente.
93
Impacto
Efectos
Gestin de
programas
sociales
(Procesos)
Productos
Insumos
Evaluacin de impacto
Figura N 2.3. La conversin de insumos en resultados (Fuente: Elaboracin propia).
En ocasiones se habla de impacto a nivel proyecto (propsito) e impactos a nivel global (fin),
pero esta distincin es propia del Marco Lgico, donde se diferencian ambos aspectos.
95
base las proposiciones literales de los objetivos, ya sea a nivel de fin, propsito o
productos. Debido a ello, los evaluadores recurren a expresiones cuantitativas de
los objetivos, las cuales, bajo el enfoque del marco lgico, son conocidas como
indicadores objetivamente verificables.
En el contexto del marco lgico, los indicadores constituyen el medio para
establecer qu condiciones seran las que sealen el logro de los objetivos del
proyecto y por ende reduzcan la ambigedad y la subjetividad en torno al grado de
xito de las intervenciones. En tanto variables, los indicadores presentan dos
caractersticas esenciales: (a) son caractersticas observables de algo; (b) son
verificables objetivamente, esto es, son verificables por medios externos al
objetivo que pretenden medir. Los indicadores son formas operativas de las
variables. Debido a la importancia de que un indicador pueda verificarse en forma
objetiva, independientemente de si es directo o indirecto, junto a la especificacin
de indicadores se deben seleccionar los medios o fuentes apropiados de
verificacin. El principio fundamental reza as: si un indicador no es verificable
por ningn medio, entonces encuntrese otro indicador39. Por tanto, los tres
principios que deben guiar la seleccin de indicadores son los siguientes: a) Los
indicadores deben ser significativos y relevantes, b) los datos requeridos para hacer
clculos deben ser factibles de una recopilacin oportuna y econmica y c) los
indicadores y su clculo deben estar acordes con la capacidad institucional de la
entidad ejecutora.
Principio 4. Construir la lnea base:
La lnea base es la primera medicin de todos los indicadores seleccionados
para medir los objetivos de un programa. Se realiza al inicio del proyecto para
contar con una base que permita luego cuantificar los cambios netos producidos
por la intervencin.
Debido a diversas circunstancias, en los procesos de evaluacin de
programas pueden presentarse tres situaciones tipo:
1. El proyecto tiene lnea de base, formulada en la etapa de pre-inversion.
Es factible por ende realizar una evaluacin de impacto.
2. Durante la preparacin del proyecto, no se elabor la lnea de base. Es
posible hacer retroactivamente la lnea base y por lo tanto es tambin
factible realizar una evaluacin de impacto utilizando metodologa de
pareo (matching).
3. El proyecto no tiene lnea de base. No es posible elaborar una lnea base
retroactiva. La solucin seria transformar las observaciones cualitativas
en indicadores de resultados.
La construccin de la lnea base es un elemento crucial en el diseo de las
evaluaciones de impacto, pues slo de ese modo se podr apreciar objetivamente el
impacto del proyecto, comparar las situaciones antes y despus del proyecto, as
como las situaciones con y sin proyecto.
39
El marco lgico incentiva al evaluador a definir clara y explcitamente que es lo que indicar que
la ejecucin del proyecto ha sido exitosa. De este modo se evitan las interpretaciones subjetivas de
los logros del proyecto, y ste gana en cuanto a evaluabilidad; es decir, capacidad para ser evaluado
objetivamente durante y despus de su ejecucin.
96
Princ.1
Princ.3
La hiptesis de desarrollo se
centra en los resultados y no en
los procesos
Princ.2
Princ.4
Princ.5
97
40
98
99
100
101
102
103
104
cobertura demasiado limitada, para que el anlisis estadstico sea vlido? Cules
son los criterios para evaluar si los datos secundarios son adecuados para estimar
las condiciones iniciales? Y cundo es posible formular una hiptesis vlida a
falta de un estudio de referencia? (Bamberger, 2006).
2.3.7.2. Aclarar los objetivos de la evaluacin
Determinada la ejecucin de la evaluacin del impacto, es necesario
establecer objetivos claros. Los objetivos claros son esenciales para identificar las
necesidades de informacin, definir los indicadores de resultados y efectos y crear
una estrategia de evaluacin slida que proporcione respuestas precisas (Baker,
2000).
Aunque aparentemente el planteamiento del objetivo pareciera ser una de
las partes ms fciles del proceso de evaluacin, puede ser en extremo difcil. Por
ejemplo, los planteamientos que son demasiado amplios son difciles de evaluar. El
planteamiento del objetivo de la evaluacin del PROBECAT de Mxico, de que la
evaluacin busca examinar el efecto del programa de capacitacin PROBECAT
en los resultados del mercado laboral, sera ms preciso si se limitara al efecto de
PROBECAT en las horas trabajadas, los ingresos por hora, el salario mensual y el
tiempo para conseguir el primer empleo para diferentes tipos de trabajadores. La
evaluacin de PROGRESA de Mxico es un buen ejemplo de la creacin de un
esquema claro y el delineamiento de mltiples objetivos desde el comienzo, con un
anlisis separado para cada componente y con los objetivos detallados en
subcategoras. Esto fue especialmente importante, porque la intervencin fue
bastante compleja al tener que abordar no slo el efecto del programa, sino
tambin aspectos de la focalizacin y secuencia cronolgica de las operaciones del
programa.
Revisar otros componentes de evaluacin, como la eficacia en funcin de
los costos o las evaluaciones del proceso, tambin pueden ser importantes
objetivos de un estudio y pueden complementar la evaluacin del impacto. La
eficacia en funcin de los costos puede constituir una preocupacin muy especial
para las autoridades responsables, cuyas decisiones sern reducir, expandir o
reformar la intervencin que se est evaluando. En temas relacionados con la
entrega de servicios, una evaluacin de los procesos podra ser pertinente para
evaluar los procedimientos, dinmica, normas y restricciones bajo las cuales se
lleva a cabo un determinado programa.
2.3.7.3. Examinar la disponibilidad de los datos
Se pueden emplear muchos tipos de datos para realizar estudios de
evaluacin del impacto. stos pueden incluir una gama que flucta desde encuestas
hasta entrevistas cualitativas. En muchos casos, la evaluacin del impacto
aprovechar cierto tipo de datos existentes o se apoyar en alguna encuesta en
curso, lo que puede significar un considerable ahorro de costos. Sin embargo, con
este enfoque pueden surgir problemas de secuencia cronolgica del esfuerzo de
105
Conocer bien el programa. Es arriesgado iniciar una evaluacin sin conocer bastante sobre los
detalles administrativos e institucionales del programa; esta informacin en general proviene de la
administracin del programa.
Recopilar informacin sobre los hechos estilizados pertinentes al entorno. Los hechos pertinentes
podran incluir el mapa de pobreza, la forma en que funciona el mercado laboral, las principales
divisiones tnicas y otros programas pblicos pertinentes.
Ser eclctico con respecto a los datos. Las fuentes pueden abarcar entrevistas informales no
estructuradas con participantes en el programa y datos cuantitativos de muestras representativas. Sin
embargo, es muy difcil plantear preguntas de un escenario contrafactual en las entrevistas o grupos
representativos; se debe intentar preguntar a alguien que actualmente participe en un programa
pblico: Qu estara haciendo ahora si este programa no existiera? Puede ser valioso conversar
con los participantes del programa, pero es poco probable que ello por s slo proporcione una
evaluacin creble.
Asegurarse de que existen datos sobre los indicadores de resultados y variables explicativas
pertinentes. Estas ltimas deben abordar la heterogeneidad en los resultados basada en la
participacin en el programa. Dependiendo, por ejemplo, si se cuenta con cierto nivel de instruccin,
los resultados pueden ser diferentes. Podra ser imposible observar el efecto del programa a menos
que se controle por esa heterogeneidad.
Dependiendo de los mtodos usados, tambin se podran necesitar datos sobre variables que influyen
en la participacin, pero no influyen en los resultados dada la participacin. Estas variables
instrumentales pueden ser valiosas para separar los efectos probablemente causales de los programas
no aleatorios.
Los datos sobre resultados y otras variables explicativas pertinentes pueden ser cuantitativos o
cualitativos. Pero debe ser posible organizar la informacin en cierto tipo de estructura sistemtica
de datos. Un ejemplo simple y comn es que se tienen valores de diversas variables, incluido uno o
ms indicadores de resultados para diversas unidades de observacin (individuos, hogares, empresas,
comunidades).
Frecuentemente las variables sobre las que se tienen datos y las unidades de observacin que se usan
se seleccionan como parte del mtodo de evaluacin. Estas elecciones deben estar vinculadas al
conocimiento previo sobre el programa (desde luego, sus objetivos, pero tambin cmo se maneja) y
el escenario en que se introdujo.
La fuente especfica de los datos sobre los resultados y sus determinantes, incluida la participacin
en el programa, en general proviene de datos de encuestas de algn tipo. La unidad de observacin
podra ser el hogar, empresa o rea geogrfica, dependiendo del tipo de programa que se est
estudiando.
Los datos de las encuestas con frecuencia se pueden complementar con otros datos tiles sobre el
programa (como de la base de datos de supervisin del proyecto) o escenario (como de las bases de
datos geogrficas
106
107
108
109
Necesidad de datos
Mnima
Ideal
Corte transversal de un Encuestas bsicas y de
nico proyecto con y sin seguimiento
de
los
beneficiarios
beneficiarios
y
no
beneficiarios.
Permite
controlar
sucesos
contemporneos, adems
de proporcionar control
para medir el efecto
(permitiendo
una
estimacin de diferencia
en las diferencias)
Uso de enfoque
cualitativo
Guiar el diseo del
instrumento
de
la
encuesta, muestreo.
Identificar
los
indicadores
Recopilar y registrar
datos con la ayuda de
datos
textuales,
entrevistas informales o
semi
estructuradas,
reuniones de los grupos
representativos de la
comunidad, observacin
directa,
mtodos
participativos, fotografa,
triangulacin y anlisis
110
Mtodo
Diseos
experimentales
Necesidad de datos
no
a) Controles o pareo
creados
b)
Comparaciones
reflexivas
y
doble
diferencia
c) Control estadstico o
variable instrumental
Mnima
Ideal
Encuesta
extensa
y
encuesta
domiciliaria
ms reducida basada en
el proyecto, ambas con
dos momentos en el
tiempo para controlar por
los
sucesos
contemporneos.
Bsica y de seguimiento
de los beneficiarios
Series cronolgica o
panel de los beneficiarios
comparables
Corte transversal y series
cronolgicas
representativas de la
poblacin beneficiaria,
con
las
variables
instrumentales
correspondientes.
Datos
transversales
representativos de la
poblacin
beneficiaria
con las correspondientes
variables instrumentales.
Uso de enfoque
cualitativo
de datos.
111
112
113
2.3.7.8. Muestreo
El muestreo es una necesidad cuando se trabaja con poblaciones grandes y
cuando los recursos asignados a la evaluacin son limitados. Es recomendable que
el especialista en muestreo sea incorporado al proceso de evaluacin desde las
primeras etapas. De esa forma, se revisa la informacin disponible necesaria para
seleccionar la muestra y determinar si se requerir algn trabajo de enumeracin
(marco poblacional), o algunos ajustes especiales para controlar sesgos.
Como con otras partes del trabajo de evaluacin, es importante que exista
coordinacin entre el especialista en muestreo y el equipo de evaluacin. Esto es
decisivo al realizar comparaciones pareadas (matching), porque aqu el diseo del
muestreo es la base del "pareo y de la creacin del escenario contrafactual.
Existen muchas relaciones inversas de compensacin entre costos y
exactitud del muestreo que deben aclararse al elaborar el marco muestral. Por
ejemplo, realizar una muestra en dos o tres etapas reducir los costos del muestreo
y del trabajo en terreno, pero aumentarn los errores de muestreo y, por lo tanto, la
precisin de las estimaciones.
Una vez que el equipo de evaluacin ha determinado las variables de
resultado y la poblacin de inters, un primer paso para el especialista en muestreo
sera determinar los clculos de potencia estadstica (Valadez & Bamberger, 1994).
Puesto que se pueden realizar los clculos de potencia usando slo una medida de
resultados y a menudo las evaluaciones consideran varias, se debern tomar
algunas decisiones estratgicas con respecto al indicador de resultado que se usar
al disear la muestra.
Despus de elaborar la estrategia y el marco muestral, el especialista en
muestreo tambin debe participar en la seleccin de la muestra para el trabajo de
campo y la prueba piloto. Una vez finalizado el trabajo de campo, el especialista en
muestreo debe ayudar a determinar las ponderaciones de muestreo, para calcular
los factores de expansin y corregir los errores y la falta de respuestas (Grosh &
Muoz, 1996; Kish, 1965). En este caso, el especialista puede ajustar los sesgos
con mtodos de postmuestreo como los Bootstrap o Jacknife (Davison & Hinckley,
1997; Efron, 1979, 1981, 1983; Efron & Tsibiari, 1993).
Por otro lado, dado que la recopilacin de datos puede representar muchas
veces ms de la mitad del presupuesto de la evaluacin (Baker, 2000), la reduccin
del tamao de la muestra puede redundar en un ahorro considerable. Sin embargo,
hay que tener cuidado, ya que cuando la muestra es ms pequea, disminuye la
precisin estadstica de las estimaciones y el nivel de desagregacin del anlisis.
Entre los principales factores determinantes del tamao de la muestra se
encuentran los siguientes: el tamao del efecto de tratamiento promedio estimado,
la potencia deseada de la prueba estadstica, la media y la varianza de las variables
subyacentes, el nivel requerido de precisin estadstica, si se usa o no un grupo de
comparacin, los tipos de anlisis desagregado y si se precisan una o dos pruebas
estadsticas unilaterales. Teniendo en cuenta estas consideraciones, se dispone de
las siguientes opciones para reducir el nmero de entrevistas y ahorrar costos
(Bamberger, 2006):
Aceptar un nivel ms bajo de precisin estadstica (por ejemplo, un
intervalo de confianza del 90% en lugar del 95%) o de potencia
114
Definicin y uso
de
Recopilacin
de
informacin que genere un
recuento que puede ser
descriptivo o participativo y
puede servir para responder
a las preguntas: cmo y por
qu.
Fortalezas
Debilidades
115
Tcnica
Definicin y uso
Fortalezas
Debilidades
Grupos
representativos
o grupos focales
Conversaciones focalizadas
con miembros de la
poblacin beneficiaria que
estn familiarizados con los
temas
pertinentes.
El
propsito es comparar las
perspectivas
de
los
beneficiarios con conceptos
abstractos de los objetivos
de la evaluacin de
impacto.
Entrevistas
El entrevistador plantea
preguntas a una o ms
personas y registra las
respuestas
de
los
declarantes. Las entrevistas
pueden ser formales o
informales, directas o por
telfono, de interpretacin
cerrada o abierta.
Observacin
Observacin y registro de
una situacin. Esto incluye:
quin participa, qu sucede,
cundo, dnde y cmo. La
observacin
pude
ser
directa o participativa (el
observador se hace parte del
entorno
durante
un
periodo).
Proporciona
informacin
descriptiva sobre el entorno
y los cambios observados.
Cuestionarios
Elaboracin de un conjunto
de preguntas de encuestas
cuyas respuestas se pueden
codificar coherentemente.
Anlisis
de
documentos
escritos
Revisin de documentos
como: registros, bases de
datos
administrativos,
materiales de capacitacin,
correspondencia, etc.
Permite
identificar
problemas e investigarlos
en
ms
detalles
y
proporciona evidencias de
acciones, cambios y efectos
para
apoyar
las
percepciones
de
los
declarantes.
Pueden ser costosos.
116
117
118
119
Evaluacin de impacto
La evaluacin de impacto es una forma de evaluacin de resultados que
evalua la serie de efectos de un programa en comparacin con los resultados
estimados qu hubiesen ocurrido en ausencia del programa. (GAO, 1998). A este
ltimo se le conoce como estado contrafactual. Es un tipo de evaluacin ex post.
Programas sociales
Conjunto especfico de acciones humanas y recursos materiales, diseados
e implantados organizadamente en una determinada realidad social, con el
propsito de resolver algn problema que atae a un conjunto de personas. Todo
programa social persigue mejorar algunas condiciones de vida que pueden ser de
salud, infraestructura, educacin, asistencia, justicia, entre otras.
120
Ediciones
4 nmeros por ao. Desde 1978.
4 nmeros por ao. Desde 1998.
3 nmeros por ao. Desde 1986.
4 nmeros por ao. Desde 1979.
4 nmeros por ao. Desde 1999.
6 nmeros por ao. Desde 1999.
4 nmeros por ao. Desde 1998.
121
122
Sin embargo, la metodologa utilizada en este trabajo incurre en error al pretender combinar la
metodologa de emparejamiento o matching comparisons con los modelos economtricos de
sesgo de seleccin que hacen uso del ratio inverso de Mills. En particular, al usarse una correccin
por sesgo de seleccin del tipo rat io inverso de Mills se debi haber estimado una ecuacin de
asistencia escolar con slo la muestra de no beneficiarios del programa, o alternativamente con
slo la muestra de los beneficiarios.
123
124
125
Tabla N 3.2. Evaluaciones de impacto ms robustas de los programas sociales en el Per (Fuente: Elaboracin propia).
rea
Empleo
Ao / Institucin
evaluadora/autores
Centro de Estudios para
el Desarrollo y la
Participacin (2003)
Juan Chacaltana
Muestra
Se realiz una seleccin
aleatoria. Por razones de
prdida de parte de la muestra,
se termin con una muestra de
125
proyectos
y
1500
participantes.
Institucional
Empleo
Miguel
Jaime
Institucional - GRADE
Nutricin
CUANTO
2000)
Institucional
(1997
Conclusiones
La ganancia neta derivada del
programa es de 61 soles, es
decir, un 22% de la
transferencia nominal.
Sobre la base de la
informacin y supuestos
razonables sobre retornos de
inversiones, se encontr que
los beneficios adicionales
para la comunidad de las
obras representan un 93%
adicional de la inversin
inicial realizada por el
programa en pago de mano de
obra.
La medicin de impacto de la
sexta
convocatoria
del
programa PROJoven revela
que los efectos del programa
sobre
los
jvenes
beneficiarios son positivos.
Resalta
el
hecho
de
encontrarse en la ENNIV de
1997 una asociacin directa
de pequea intensidad entre la
pertenencia al Programa del
VdeL y la Desnutricin
Crnica (DNC).
rea
Agricultura
Evaluacin
del
Impacto del Programa
de Reforzamiento al
Desarrollo
Alternativo-Seccin
416(b)
Ao / Institucin
evaluadora/autores
Codina Giralt (2005)
DEVIDA
Institucional
Muestra
Calidad de vida
Sexta
Evaluacin
Intermedia y Ex post
de Foncodes
APOYO (2000)
Institucional
Conclusiones
Se
encontr
significativo.
impacto
FONCODES
Alimentacin
APOYO
El
universo
muestral
lo
127
rea
Ao / Institucin
evaluadora/autores
(2000)
Ravina
Renato
Paulini Javier
Muestra
&
Institucional
Conclusiones
de
Desayunos
Escolares
present menores niveles de
costos por beneficiario que el
Programa de Alimentacin
Escolar.
Evaluacin
de
Impacto del Programa
de
Desarrollo
y
Capacitacin
a
Microempresas
de
Mujeres
PROPYME (1997)
de
clubes
entrevistados
Nutricin
Evaluacin
de
impacto del Programa
de Complementacin
Alimentaria
para
Grupos de Mayor
Riesgo
Salud
Evaluacin
de
Impacto del Programa
Alimentario
Nutricional para el
Paciente Ambulatorio
con Tuberculosis y
Familia PANTBC 2002
CENAN-INS. (2003)
Universidad
Pacifico
Institucional
del
El
nmero
beneficiarios
alcanz a 96.
128
rea
Nutricin
Educacin
Mejor Educacin a
travs de ms Tiempo
en el Aula (META)
Ao / Institucin
evaluadora/autores
CENAN-INS. 2003
Muestra
Se estuvo una muestra
aleatoria por conglomerado de
1435 nios beneficiarios del
PANFAR pertenecientes al
segundo semestre del ao
2002.
Institucional
GRADE (2004)
Torero Mximo
Santiago Cueto
&
Institucional
Infraestructura
Estimando
el
Beneficio
de
los
Caminos
Rurales:
Programa de Caminos
Rurales (PCR)
GRADE (2001)
Javier
Escobal
Crmen Ponce
Institucional
La seleccin de hogares y
centros poblados beneficiados
indirectamente
o
no
beneficiados por el PCR se
realiz a partir de la muestra
aleatoria
de
caminos
rehabilitados por el programa,
buscando parear tramos de
caminos testigos con tramos
Conclusiones
No se encontr impacto.
129
rea
Ao / Institucin
evaluadora/autores
Muestra
rehabilitados por el PCR.
Agricultura
Ingresos
Familiares
Desarrollando
mercados rurales: El
rol de la incertidumbre
y
la
restriccin
crediticia
Institutions, Politics
and Contracts: The
Attempt to Privatize
the
Water
and
Sanitation Utility of
Lima, Peru
GRADE (2005)
Javier Escobal
Institucional
No especifica
Alcazar, Lorena; Xu
Lixin, Colin; Zuluaga,
Ana Mara.
Institucional
Ingresos
Familiares
No especifica
y
Se
utilizaron
tres
metodologas
complementarias: a) clculo de las curvas de
tendencias que muestra cmo los servicios se
distribuyen en la poblacin, b) medicin de
Conclusiones
contexto donde los impactos
son usualmente de largo
plazo.
Se
encontr
que
los
beneficios alcanzados de las
reformas parciales son mucho
menos que los que se
obtendran si hubiera una
concesin.
Las reformas
parciales son mejores para el
gobierno pues mantienen las
rentas de mayores precios,
pero
los
consumidores
pierden debido a una muy
baja inversin.
El consumo y gasto en los
servicios de telfono se ha
incrementado de 1991 a 1997
para todos los niveles de
130
rea
Ao / Institucin
evaluadora/autores
Muestra
Institucional
Conclusiones
ingreso debido a las menores
tarifas.
El consumo y gasto en
electricidad en el rea urbana
del Per ha decado debido al
incremento de los precios del
servicio elctrico.
Microcrdito
Evaluating
Social
Funds:
A
CrossCountry Analysis of
Community
Investments
Institucional
Educacin
Banco Mundial
Pobreza
Banco Mundial
APOYO (2000)
Institucional
131
rea
Pobreza
Modelo de medicin
de impacto sobre el
bienestar objetivo y
subjetivo: Un anlisis
de caso del Proyecto
de Reduccin y Alivio
a la Pobreza (PRA)
Ao / Institucin
evaluadora/autores
Muestra
Institucional
Infraestructura
Programa de Caminos
Rurales II y Programa
de Transporte Rural
Decentralizado
El
universo
del
grupo
tratamiento se define sobre la
base de las dos primeras
prioridades
de
inversin
(tramos) identificadas en los
Planes Viales Provinciales
(PVP):
Conclusiones
aquellos que viven en extrema
pobreza.
El
programa
disminuy
significativamente
la
incidencia de la diarrea en los
nios.
La muestra de tramos se
determina de manera aleatoria
del universo antes indicado
(Alrededor de 20% del total de
los caminos rehabilitados sern
muestrales).
132
rea
Ao / Institucin
evaluadora/autores
Muestra
Conclusiones
Salud
Midterm
Impact
Evaluation of the
Reproductive health in
the
Community
(reprosalud) Project
Ferrando D, Serrano N.
& Pure C. (2002)
Institucional (USAID)
Se identifica en gabinete
tramos control, en base a
informacin secundaria. Estos
tramos luego se verifican en
campo.
112 comunidades: 70 fueron
beneficiarias
directas
del
programa, 17 beneficiarias
indirectas y 25 integraron el
grupo control.
La unidad de anlisis estuvo
integrada por mujeres en edad
frtil y hombres entre los 15 a
59 aos.
Infraestructura
Agua
y
sanidad
Haratani J, Viveros
AM. & Becerra AM.
(1981)
Ancash Per
32 funcionarios y lderes
entrevistados. Sin muestreo.
Metodologa cuasi-experimental.
Diseo de evaluacin pre post con grupo
control.
Se utilizaron cuestionarios para las familias,
mujeres, hombres y para las autoridades de
salud.
Anlisis de comparacin de grupos y Odds
Ratio.
Mtodo
cualitativo
(entrevistas
a
profundidad).
Se entrevist a los funcionarios de AID y
CARE quienes participaron del diseo e
implementacin del proyecto.
La instalacin de suministro
de agua fue el componente
principal de que produjo
mayor impacto en la vida de
los aldeanos.
Institucional - USAID
Se
desarroll
una
entrevista
semi
133
rea
Ao / Institucin
evaluadora/autores
Muestra
Infraestructura
Evaluacin
de
Impacto del Proyecto
MSP Sub-Programa
Cebolla
Amarilla
Supe
Centro de Servicios y
Elaboracin
de
Proyectos de Inversin UNMSM
(1996)
Educacin,
transporte,
suministro de
agua y sanidad
USAID-ADEXCESEPI Institucional
Wilkinson JL, Mckean
C, Meyer RE, Nunberg
BS,
Weil
B.
&
Martinez H. (1984)
Conclusiones
El proyecto no obtuvo el
impacto esperado
USAID Institucional
Infraestructura
Empleo
Pobreza
Does
Privatization
Deliver? Access to
Telephone
Services
and
Household
Income in Poor Rural
Areas Using a QuasiNatural Experiment in
Peru.
Does the Quality of
Training
Programs
Matter?
Evidence
from
Bidding
Processes Data
1000
familias
rurales
comprometidas
en
las
actividades agrcolas y no
agrcolas, beneficiarias o no
con el servicio de telefona
privada en su localidad.
Se determin grupo control
de
y
Jvenes de 16 a 24 aos de
edad.
Poverty,
Health
Infrastructure and the
Nutrition of Peruvian
Children
Valdivia M. (2004)
Per
Per
BID Institucional
GRADE
Economics and Human
Puntuaciones Z.
Anlisis economtricos
134
rea
Trabajo
Nutricin
Labor
Market
Reforms and Their
Impact on Formal
Labor Demand and
Job Market Turnover:
the case of Peru
The Glass of Milk
Subsidy Program and
Malnutrition in Peru.
Ao / Institucin
evaluadora/autores
Biology, 2004
Journal
Saavedra J. & Torero
M. (2000)
Institucional
Evaluacin
de
impacto
de
la
asistencia
docente
sobre el rendimiento
de los estudiantes
400 establecimientos
GRADE
Banco Mundial
Educacin
Muestra
Conclusiones
Luego de la reforma se
observ una disminucin de
la ocupacin, siendo mayor y
significativa para el caso de
los trabajadores asalariados
formales respecto a los
informales.
No se encontr impacto del
programa
Diseo cuasi-experimental
asignacin aleatoria a los
tratamiento y contraste).
(no hubo
grupos de
Se encontr
programa
impacto
del
135
43
136
44
137
En efecto, desde ya debe dejarse claro que los elementos clave que garantizan una evaluacin
exitosa y rigurosa son: que la evaluacin sea un componente programado desde el diseo del
programa, que tenga objetivos claros, que se cuente con el apoyo del mbito institucional
responsable del mismo, que el diseo de la evaluacin ofrezca mediciones crebles, que cuente con
un adecuado marco lgico de evaluacin, presupuesto suficiente y, de preferencia, un diagnstico
previo a la implantacin del programa.
47
Skoufias (2001) seala que este importante tamao muestral podra ser incluso insuficiente para
medir el impacto en algunas reas, lo que de inmediato refuerza las dudas que dejan las
evaluaciones de otros programas sociales, comnmente realizadas en el pas, donde es difcil que la
muestra supere 20% de los beneficiarios, independientemente de los problemas enfrentados para
garantizar una seleccin aleatoria.
48
En el Per, mediante la instalacin del Sistema Nacional de Inversin Pblica, se pretende
controlar el diseo, ejecucin y evaluacin de los Proyectos de Inversin. La ltima etapa (expost)
es la referida a la evaluacin de impacto de los programas. Hasta la fecha (diciembre de 2006)
solamente se est implementando las estrategias de formulacin y ejecucin.
49
Este Comit est conformado por un representante del Ministerio Secretara General de la
Presidencia, del Ministerio de Planificacin y Cooperacin (MIDEPLAN) y del Ministerio de
Hacienda, a travs de la Direccin de Presupuestos, siendo presidido por esta ltima cartera.
138
139
140
Tabla N 3.3. Desarrollo acadmico de la evaluacin de impacto de programas sociales en el mundo segn investigaciones publicadas en Journals internacionales o
Instituciones de Desarrollo (Fuente: Elaboracin propia).
rea de estudio
Ttulo de la evaluacin
Suministro de agua y
sanidad
A Transitory Regime:
Water Supply in Conakry,
Guinea
Autores / lugar de
aplicacin / ao
Menard, C.; George,
C.R. (2000)
Muestra
Metodologa
Conclusiones
No disponible
Guinea
Institucional
Salud, nutricin &
poblacin
Educacin
Educacin
Teacher Incentives
Textbooks
and
Test
Scores: Evidence from a
Glewwe,
Paul;
Nauman, Ilias; Kremer,
Michael (2003)
Kenya
Diferencia en la Diferencia
Institucional
Diferencia en la diferencia.
141
rea de estudio
Ttulo de la evaluacin
Prospective Evaluation in
Kenya
Autores / lugar
aplicacin / ao
Sylvie
de
Kenya (2000)
Salud, nutricin y
poblacin
Institucional
Chaudhury,
Nazmul,
Jeffrey Hammer, and
Edmundo Murrugarra
(2003)
Armenia
Educacin y empleo
Pobreza
The
Impact
of
an
Integrated
Family
Planning Program in
Russia
Institucional
Karger, H. & Stoesz, D.
(2003)
Estados Unidos
Muestra
Metodologa
Conclusiones
Journal
Sherwood-Fabre
Goldberg
H.
Bodrova V. (2002)
L,
&
Rusia
Journal
Pobreza
Cardoso,
Eliana;
Portela Souza, Andre
(2004)
Brasil
428740 familias
Nios de 10 a 15 aos
142
rea de estudio
Empleo
Empleo
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Institucional
McKernan, SM. (2002)
Bangladesh
Journal
Muestra
Metodologa
Indonesia
Se
utiliz
regresin.
Conclusiones
ecuaciones
de
Institucional
Salud
Estudios experimentales
quasiexperimentales.
Canad
Journal
Pobreza
No se encontr evidencia de
que el incremento en el salario
mnimo reduce el empelo en
las
empresas
grandes
extranjeras o domsticas. Sin
embargo, si se aprecia lo
opuesto para el caso de las
empresas
pequeas
y
domsticas.
Estas
estimaciones
se
realizaron de la informacin
de un perodo comprendido en
pleno crecimiento sostenido.
Los programas para los
bebedores de alto riesgo
pueden tener efectos de nivel
agregado benficos y son de
esta manera un importante
componente de los esfuerzos
basados en la poblacin para
reducir los problemas de
alcoholismo.
Se
encontr
evidencia
respecto
al
impacto
significativo que tuvo la
inversin R&D sobre el
143
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Se utiliz el estimador de
diferencia en la diferencia para
comparar la diferencia de
resultados en los grupos.
Institucional
Educacin
Educacin
Farchy, D. (2005)
Galabawa
JCJ,
Obeleagu
A,
&
Miyanazawa I. (2002)
Indonesia
Institucional
Tanzania (Africa)
Journal
Alimentarios
144
rea de estudio
Ttulo de la evaluacin
Justicia
Autores / lugar de
aplicacin / ao
Rejda G. & Schmidt J.
(1979)
Muestra
Metodologa
Conclusiones
El
incremento
de
los
impuestos OASDHI no parece
disminuir las contribuciones
hacia planes con ausencia de
seguro.
Estados Unidos
Modelos de regresin para los dos
tipos de planes.
Journal
Educacin
Journal
Se pidi a los profesores de los
alumnos que seleccionaran a
aquellos
alumnos
que
presentaban un significativo
problema en el ajuste de su
comportamiento
social.
Especficamente
en
las
relaciones alumno-estudiante o
estudiante-compaeros.
Salud
145
rea de estudio
Ttulo de la evaluacin
Communication
Campaigns in Zambia
Autores / lugar
aplicacin / ao
Zambia
de
Muestra
Institucional
Educacin
Educacin
Hawthorne, G. (1996)
Kiger, D. (2000)
1721
estudiantes
en
el
programa Life Education y
1298 estudiantes que no
participan en el programa.
Australia
Conclusiones
Journal
(Estados
Canad)
Unidos
Journal
Suministro de agua y
sanidad
Metodologa
Diseo pretest-postest
Diferencia de medias
Simulacin contrafactual
La
informacin
sobre
las
diferencias de ingreso de los
participantes est disponible ahora
que ellos tienen una edad de 40
Guinea
Institucional
Educacin
146
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Estados Unidos
de
Muestra
Journal
Pobreza
infantil)
(Trabajo
Educacin
Educacin
800 municipalidades
Brasil
Institucional
930 nios con edad escolar
primaria.
Metodologa
Conclusiones
aos.
Estos
ingresos
son
traducidos en trminos monetarios
y se los compara con el costo de
ejecutar el programa para calcular
el valor neto del programa tanto
para los participantes como para
la sociedad.
Datos del Brazilian Nacional
Household Sample Survey (19971999) y del Ministry of Social
Welfare.
Diferencia en la diferencia y
Propensity Score Matching
Variables instrumentales de dos
etapas y otros mtodos de
emparejamiento.
Bangladesh
Institucional
Angrist, Joshua D.;
Bettinger, Eric; Bloom,
Erik; King, Elizabeth;
Kremer,
Michael
(2002)
Diferencia de medias
Colombia
Suministro de Agua
y sanidad
Journal
Galiani,
Sebastian;
Gertler,
Paul;
Schargrodsky, Ernesto
(2002)
A cluster evaluation of
Institucional
Schwerina
Argentina
Calidad de vida
MJ,
Se
encontr
que
los
147
rea de estudio
Ttulo de la evaluacin
Navy quality
programs
of
life
Autores / lugar de
aplicacin / ao
Michaelb PG, Glaserc
DN. & Farrar KL.
(2002)
Muestra
intencional
de
10765
beneficiarios de programas
Estados Unidos
Empleo
WorkFirst
Study
Longitudinal
Journal
Klawitter, MM.
(2002)
Estados Unidos
Metodologa
Conclusiones
Se
utiliz
anlisis
de
correlaciones y la prueba Chi
cuadrada.
Estudio de cohorte de un perodo
de un ao.
Se utiliz informacin los
archivos estatales Unemployment
Insurance.
Institucional
Calidad de vida
A multimethod approach
to evaluate transition into
community life
Journal
El estudio de caso de 3
participantes; dos varones y una
mujer
Estados Unidos
Sistema de pensiones
- justicia
A
State
without
ownership: the welfare
impact
of
British
privatizations 1979-1997
Florio, M (2002)
Reino Unido
Institucional
148
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Violencia -Salud
Usdin S, Scheepers E,
Goldstein S. & Japhet
G. (2005)
Muestra
Metodologa
No se especifica.
Sudafrica
Journal
Pobreza - migracin
Angelucci M (2004)
Mxico
Institucional
An impact evaluation of a
falls prevention program
among older people
Se seleccion a de manera
aleatoria a 223 personas
mayores de 60 aos.
Autralia
Journal
Educacin
discriminacin
ingreso y salud.
La evaluacin mostr una
asociacin consistente entre el
Programa Soul City Fourth y
el cambio positivo acerca de
la violencia de gnero.
Salud
Conclusiones
tcnica
de
149
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
actitudes auto-administrado.
Journal
Educacin, nutricin
& poblacin
Attanasio,
(2004)
Orazio
Colombia
Institucional
Salud
Aos S, Lieb R,
Mayfield J, Miller M &
Pennucci A. (2004)
Se seleccion de manera
intencional dos conjuntos de
municipalidades para el grupo
de tratamiento y dos conjuntos
para el grupo control. Cada
conjunto de municipalidades
estuvo integrado por 25
municipalidades.
Se realiz una seleccin
aleatoria por estratos, de las
familias elegibles para el
programa. De estas, 10660
integraron
el
grupo
de
tratamiento y 8347 el grupo
control.
Se
seleccion
aquellos
programas que presentaron al
menos una evaluacin rigurosa.
Estados Unidos
Institucional
Microcrdito
Snodgrass, DR.
Sebstad, J. (2002)
Multinacional.
India &
Zimbabwe
&
Peru,
Se
estudiaron
a
tres
instituciones: SEWA Bank en
India; Accion Communitaria
del Peru/
Mibanco en Peru; y Zambuko
Trust en Zimbabwe.
Se
realiz
una
bsqueda
electrnica sobre las evaluaciones
de programas.
Se construy un modelo costo
beneficio para medir el valor
monetario de los resultados
obtenidos en los diferentes
programas
Anlisis de casos. Estudio
cualitativo.
150
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Institucional (USAID)
Infraestructura
Cost-Benefit Analysis of
the High-Speed Train in
Spain
Muestra
Metodologa
Conclusiones
algunas
variables
entre
algunos grupos e impactos
neutros en otras.
Espaa
Journal
Educacin
Cost-Effectiveness
of
Education Policies in
Latin America: A Survey
of Expert Opinion
Schiefelbein, Wolff L.
& Schiefelbein, P.
(1998)
10 expertos internacionales y
30
planificadores
o
profesionales.
Latinoamrica.
Institucional
Justicia - empleo
Detecting
Effects
Living Wage Laws
of
Estados Unidos
Se utiliz la estrategia de
Diferencia en la Diferencia para
comparar las ciudades con
tratamiento de las ciudades
control.
Journal
Salud
Wastaff,
A.
&
Shengchao, Y.(2005)
151
rea de estudio
Ttulo de la evaluacin
Banks
Health
VIII
Project in Gansu Province,
China
Autores / lugar
aplicacin / ao
China
de
Muestra
Institucional
Se
determin
grupo de
tratamiento y grupo control.
Pobreza
Empleo
Bouillon
CP.
Tejerina L. (2006)
&
Multinacional
en
Amrica Latina:
(Argentina,
Bolivia,
Chile,
Brasil,
Colombia, Costa Rica,
Ecuador,
Guatemala,
Honduras,
Mxico,
Nicaragua y Per).
Institucional (BID)
Lechner, M.
(1999)
51 estudios de 47 programas
sociales.
Recoleccin
informes.
intencional
Economic Analysis of
Crossbreeding
Programmes
in
SubSaharan
Africa:
A
Conceptual
Framework
Personas
que
estuvieron
trabajando
antes
de
la
unificacin alemana.
Alemania
Conclusiones
metas.
Journal
Agricultura
de
Metodologa
No se menciona.
Se
analiz
la
informacn
proveniente del estudio SocioEconomic Panel (GSOEP, 19901994)
Se utiliz como metodologa de
evaluacin emprica el enfoque de
resultados potenciales para la
causalidad.
Se utilizaron dos modelos de
evaluacin: el modelo del sector
agrcola para
las diversas
mediciones de impacto de la cra
de ganado y el modelo Nivel de
Se ha encontrado un impacto
promedio positivo en la
regin. Se concluye que la EI
de los programas muestra que
estos pueden ser herramientas
muy efectivas para reducir la
pobreza y la desigualdad a
largo plazo y para aliviar la
pobreza a corto plazo.
152
rea de estudio
Justicia
Ttulo de la evaluacin
and Kenyan Case Study
Autores / lugar
aplicacin / ao
Kenya
de
Economic evaluation of
drug court: methodology,
results,
and
policy
implications
Institucional
Logan TK, Hoyt W,.
McCollister K, French
M, Leukefeld C, &
Minton L. (2004)
Estados Unidos
Muestra
Metodologa
Ingreso Familiar y
Poltica.
Buenos
Aires
Concession
Water
Alcazar,
Lorena;
Manuel Abdala, and
Mary Shirley (2000)
Argentina
Pobreza
Institucional
Dorosh P, Haggblade
S,
Lungren
C,
Razafimanantena T. &
Randrianmiarana
Z.(2003)
Se
utiliz
informacin
proveniente de la base de datos
sobre encarcelacin Ofender
Records
Information
and
Operations Network, Kentucky
Department of Mental Health and
Mental Retardation, Department
of Motor Vehilces, y otros.
Se realiz un anlisis de costo
econmico
Mtodo de evaluacin de
diferencia de medias y simulacin
contrafactual.
No se menciona.
Madagascar
Salud
Educacin
Institucional
Brown L. et al. (1994)
Se consider a toda
poblacin de beneficiarios.
la
Estados Unidos
Journal
Avery RJ, Bryant WK,
Mathios A, Kang H,
Simulacin
Journal
Suministro de Agua
y sanidad
Conclusiones
En
general
no
hubo
indicadores de deterioro del
servicio, ms bien se encontr
que algunos servicios la
atencin se favoreci.
Los mtodos de evaluacin
por web llevaran a una menor
153
rea de estudio
Ttulo de la evaluacin
line delivery system bias
student evaluation?
Autores / lugar
aplicacin / ao
Bell B; (2006)
de
Muestra
Metodologa
Conclusiones
de un experimento de muestra
emparejada
La informacin
corresponde a
972 estudiantes.
individual
Journal
Personas discapacitadas de 21 a
58 aos de edad.
Se
utiliz
la
informacin
proveniente del Survey of Income
and Program Participation (SIPP)
Estados Unidos
Empleo - justicia
Employment of People
with
Disabilities
Following the ADA
Estados Unidos
Journal
Educacin - salud
Justicia - empleo
Yanovitzkya
I,
Zanuttob E. & Hornik
R (2005)
Estados Unidos
Journal
Greenberg M, et al.
(2005)
No se mencion.
Estados Unidos.
Journal
Empleo
Evaluating
the
Employment Impact of a
Mandatory Job Search
programme
No disponible
Reino Unido
Institucional
Educacin - salud
Evaluation of HIV/AIDS
Hughes-dAeth,
A.
Se
utiliz
un
modelo
de
Hay
razones
para
ser
cuidadosos respecto a los
hallazgos ya sea de los efectos
positivos o negativos debido a
las limitaciones de mediciones
para determinar a quines se
extiende el
de American
Disability Act.
Se encontr un significativo
aunque pequeo efecto de la
exposicin a la campaa sobre
la conversacin de los padres
con los hijos sobre asuntos de
drogas.
Se
hall
programa.
impacto
del
154
rea de estudio
Ttulo de la evaluacin
peer education projects in
Zambia
Autores / lugar
aplicacin / ao
(2002)
de
Muestra
Metodologa
Conclusiones
los 15 aos.
Zambia
Journal
Salud
Se
eligieron
9
centros
educativos y se distribuyeron
de manera aleatoria en los
siguientes grupos: LST, I-LST
y grupo control.
Journal
La muestra
estudiantes.
fue
de
No se menciona
Kim,
Jooseop;
Alderman,
Harold;
Orazem, Meter (1998)
Journal
Can Cultural Barriers Be
Overcome
in
Girls'
Schooling?:
The
Community
Support
Se realiz 5 observaciones de la
muestra.
732
Argentina, Uruguay y
Brasil
Educacin
Mtodo de evaluacin
Diferencia en la Diferencia
de
El programa gener un
impacto significativo en la
matrcula primaria de las
mujeres.
155
rea de estudio
Ttulo de la evaluacin
Program
in
Balochistan
Rural
Autores / lugar
aplicacin / ao
Pakistn
de
Muestra
Metodologa
Institucional
Salud
Salud
Parente S, Feldman S.
&.
Christianson
JB.(2004)
Se utiliz a 3 grupos de
cohorte.
665 mujeres
Estados Unidos
Se utiliz anlisis de regresin
logstica,
Journal
Salud
Morah E, Mebrathu S.
& Sebhatu K.
(1998)
Journal
Family Planning Program
Effects on Contraceptive
use in Morocco, 19921995
Hotchkiss
DR,
Magnani RJ, Brown
LF. & Florence CS.
(1999)
Marruecos
Evaluacin de
experimental.
tipo
cuasi-
Eritrea (frica)
Salud
3,636 contratos
Estados Unidos
Journal
Melchiora LA, Hubaa
GJ, Brownb VB. &
Slaughterb R. (1999)
Conclusiones
1680 mujeres
Se
utiliz
la
informacin
proveniente
de
Morocco
Demographic and Health Surveys
(1992 y 1995).
Se utiliz un modelo
evaluacin de efectos fijos.
de
156
rea de estudio
Ttulo de la evaluacin
Salud
Justicia - pensiones
Fiscal implications of
Pension Reforms in Italy
Autores / lugar
aplicacin / ao
Institucional
Sinha, N. (2003)
de
Bangladesh
Institucional
Brugiavini,
A.
Peracchi, F. (2005)
&
Italia
Institucional
Educacin
Washington
Institute for
Policy (2001)
State
Public
Estados Unidos
Institucional
Salud
Fulop N, Elston J,
Hensher M, Mckee M.
& Walters R. (2000)
Reino Unido
Muestra
Metodologa
Conclusiones
Estimador
medias.
Se
determin
grupo de
tratamiento y grupo control.
Se obtuvo una muestra aleatoria
de los registros de los archivos
del National Institute for Social
Security.
de
diferencias
de
de
tres
reformas
Se
utiliz
un
modelo
economtrico semi estructural
para predecir las probabilidades
de
retiro
bajo
diferentes
escenarios polticos.
Diseo de comparacin
diferencias en diferencias.
de
Las
percepciones
y
documentos evidencia el
impacto de la estrategia
gubernamental de salud sobre
la poltica local y cambios en
el gasto,
157
rea de estudio
Salud
Ttulo de la evaluacin
Impact evaluation of a
Dutch
community
intervention to improve
health-related behavior in
deprived neighborhoods
Autores / lugar
aplicacin / ao
Journal
de
Kloeka
GC,
Van
Lenthea
FJ,
Van
Nieropb
PWM,
Koelenc
MA.
&
Mackenbach JP. (2006)
Muestra
Metodologa
Conclusiones
Se
determin
grupo de
tratamiento y grupo control.
Se utilizaron cuestionarios va
postal.
Holanda
Empleo
Instrumental
Variables
Estimates of the Effect of
Subsidized Training on
the Quantiles of Trainee
Earnings
Journal
Abadie A,
Angrist J. &
Imbens G. (2002)
20 000
Pograma
participantes
del
Estados Unidos
Journal
Educacin
Can
Private
School
Subsidies
Increase
Schooling for the Poor?:
The
Quetta
Urban
Fellowship Program
Kim,
Jooseop;
Alderman,
Harold;
Orazem, Peter (1998)
Diseo
de
experimental.
Institucional
Salud
Intervention
against
loneliness in a group of
elderly women: an impact
Anderson, L. (1985)
Estocolmo (Suecia)
del
Pakistn
158
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
evaluation
Journal
Metodologa
Conclusiones
Nutricin
Focusing on Women
Works:
Research on Improving
Micronutrient Status
through Food-Based
Intervention
Jonson-Welch
(1999)
C.
5 casos de intervencin en
nutricin social
Multinacional (Etiopa,
Tanzania, Kenya, Per
y Tailandia )
Diseo de evaluacin
experimental pre post.
Dinamarca
Se
determin
grupo de
tratamiento (n = 425) y grupo
control (n = 387).
Institucional
Empleo
Job
Search
and
Hyperbolic Discounting:
Structural Estimation and
Policy Evaluation
Paserman, D. (2004)
Israel
Institucional
Diseo experimental.
Learning,
private
Se
encontr
que
los
programas
evaluados
obtuvieron
un
impacto
positivo en la efectividad de
las
intervenciones
de
micronutrientes al aumentar
incrementar en las mujeres su
acceso
a
los
recursos
indispensables.
Se
utiliz
estimadores
de
variables
endgenas
y de
emparejamiento.
Se utiliz informacin del Estudio
Longitudinal Nacional sobre
Juventud (NLSY, 1978-1996)
El efecto de las polticas se estim
a
travs
de
nivel
de
discontinuidad hiperblica.
Se
estimaron
estructurales
Salud
cuasi-
Institucional
Empleo
parmetros
La informacin proviene de
El
enfoque
de
nuestra
159
rea de estudio
Ttulo de la evaluacin
information
and
the
economic evaluation of
randomized experiments
Autores / lugar
aplicacin / ao
BH. (2003)
de
Estados Unidos
Legal
Reform,
Externalities
and
Economic Development:
Measuring the Impact of
Legal Aid on Poor
Women in Ecuador
Metodologa
Conclusiones
VIH.
Journal
Justicia
Muestra
Ecuador
Institucional
Se utiliz informacin de la
Encuesta de Condiciones de Vida
(1988-1989).
La seleccin de las madres
beneficiarias
fue
aleatoria
mientras que la seleccin del
grupo de madres del grupo control
fue intencional.
Se
realizaron
anlisis
economtrico y estudios de
grupos focales.
Se utiliz el Modelo Probit
Bivariado,
el
Modelo
de
Seleccin Heckman, el Modelo
Tobit,
Salud
McGaha
(2002)
A,
Estados Unidos
Journal
et
al.
24 informantes clave.
100 acusados para el estudio
longitudinal, considerando los
casos
del
condado
de
Hillsborough
como
grupo
control.
160
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Salud
Measuring
County
Performance on Health:
Selected
for
115
Countries.
Muestra
115 pases
Multinacional
Metodologa
Conclusiones
mental contenidos.
Los datos fueron obtenidos de
archivos mundiales sobre los
temas de mortalidad, fertilidad,
educacin, ingreso per cpita,
todos cubren el perodo de 1960 a
1990.
Los
pases
varan
sustancialmente en sus niveles
de desempeo sobre varios
indicadores de salud, dado los
mismos niveles de ingreso y
educacin.
Institucional
Educacin
New
Evidence
on
Classroom Computers and
Pupil Learning
Educacin
Michael J. Camasso
MJ, Jagannathanb R. &.
Walker CC.(2004)
Can
Student
Loans
Improve Accessibility to
Higher Education and
Student Performance? An
Impact Study of the Case
of SOFES, Mxico
Canton,
Erik,
and
Andreas Blom. (2004)
Estados Unidos
Journal
Mxico
Institucional
La informacin de anlisis
proviene de la base de datos del
programa, de estudios a gran
escala entre los estudiantes y
universidades privadas (2003) y
del estudio de familias sobre logro
e ingreso.
161
rea de estudio
Educacin
Ttulo de la evaluacin
Organizational learning: A
cross-national pilot-test of
effectiveness in childrens
services
Autores / lugar
aplicacin / ao
de
Muestra
Estados
Educacin
Educacin
Peer-Led
Education
Adolescents:
Evaluation
Asthma
for
Impact
Diseo
de
Regresin
de
Discontinuidad.
Evaluacin
de
tipo
cuasi
experimental
con
diseo
longuitudinal.
No se menciona
Canad
Journal
Lavy, V. (2003)
Institucional
Profesores de escuela
Se
determin
grupo de
tratamiento (17 escuelas) y
grupo control (12 escuelas).
Israel
Sydney, Australia
Journal
Conclusiones
Journal
Metodologa
162
rea de estudio
Educacin
Ttulo de la evaluacin
Programa
Becas
Impact
Findings
Nacional de
Estudiantiles
Evaluation
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Estudiantes provenientes de 8
provincias de Argentina, que
incluyen 24 escuelas.
Argentina
Institucional (BID)
Pobreza
Pro-growth, pro-poor:
Is there a tradeoff?
multinacional
Institucional
Educacin
Results of a School
Voucher Experiment: The
Case of Washington, D.C.
After Two Years
Estados Unidos
Institucional
Conclusiones
para
163
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Empleo
Revisiting
the
Employability Effects of
Training Programs for the
Unemployed
in
Developing Countries.
Caldern-Madrid,
(2006)
A.
1786 beneficiarios
del
programa y un grupo control de
437 personas.
Metodologa cuasi-experimental.
Mxico.
Institucional (BID)
Salud
Savings/credit
group
formation and change in
contraception
Journal
Conclusiones
tolerancia poltica.
El impacto del programa en la
dinmica del reempleo es
positiva
porque
los
participantes mantienen su
trabajo por un largo perodo,
aun si el programa no es
efectivo en ayudarles a
encontrar un trabajo ms
fcilmente.
Educacin
Pobreza
Hays C, Hays S,
DeVille J, & Mulhall P.
(2000)
Estados Unidos
Se utiliz cuestionarios
padres y estudiantes.
para
Institucional
164
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Estados Unidos
de
Muestra
Journal
Educacin
Pobreza
Justicia
Justicia
Institucional
Piehl, AM, Cooper, SJ.,
Braga,
AA.
&
Kennedy, DM., (1999)
No disponible
State
Public
Estados Unidos
Unidos
Institucional
Aos, S. Phipps, P.
Barnoski, R.& Lieb, R.
(2001)
Estados
Canad
desarrollo de capacidades de
manera diferente y, de esta
manera, podra conducir a una
variedad de impactos en la
comunidad.
Se hall que el programa no
impact significativamente en
el
desempeo
de
los
estudiantes y sus vecinos.
Multinacional
Institucional
Washington
Institute for
Policy (2002)
miembros
acerca
de
la
participacin,
inversin
y
cohesin de los participantes en la
coalicin
Se empleo el estimador de
Diferencia en las Diferencias para
evaluar el impacto en el
desempeo y la disminucin del
uso de pesticidas
Estados Unidos
Justicia
Conclusiones
Indonesia
Journal
Dollar D. & Levin V.
(2005)
Metodologa
La intervencin de programa
Boston Gun Project estuvo
asociada con cerca del 60% de
la disminucin del homicidio
juvenil.
Diferencia de medias.
El estudio utiliz la comparacin
apples-to-apples
de
los
programas.
165
rea de estudio
Ttulo de la evaluacin
Empleo - justicia
Autores / lugar de
aplicacin / ao
Institucional
Francesconi, M. & Van
der KLaauw, W. (2004)
Reino Unido
Muestra
Metodologa
Conclusiones
Se
utiliz
informacin
longitudinal proveniente de 11
estudios panel sobre familias
britnicas (1991-2001)
Se utilizaron estimadores de
diferencia en la diferencia y la
informacin panel.
Se utiliz tres diferentes tcnicas
estadsticas simples: comparacin
de medias, anlisis de regresin y
emparejamiento por Propensity
Score Matching.
Institucional
Educacin y trabajo
infantil
Empleo justicia
Duryea, S. &
Morrison, A. (2004)
Costa Rica
Institucional
Mundial)
(Banco
Lechner,
M.
Vazquez-Alvarez,
(2003)
Alemania
&
R.
1642
personas
discapacidad.
con
Se
determin
grupo de
tratamiento y grupo control.
Institucional
Salud
Bavon, A. (2001)
Estados Unidos
Journal
Se
utiliz
la
informacin
proveniente de los encuestados
alemanes occidentales al Panel
Socioeconmico
Alemn
(GSOEP. 1984-2001).
La muestra
personas.
fue
de
264
El programa no reduce la
probabilidad de que el nio
trabaje.
El impacto de las polticas de
discapacidad
para
el
discapacitado no fue efectivo
al reducir su costo de
participacin
dentro
las
actividades
del
mercado
laboral competitivo.
166
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Salud
Angeles G, Guilkey
DK. & Mroz TA.
(2003)
Indonesia
Institucional
Ayuda alimentaria
Yamano,
Takashi;
Alderman,
Harold;
Christiaensen,
Luc.
(2003)
Ethiopia
Institucional
Justicia
discriminacin
167
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Salud
Plotnick,
RD.;
Garfinkel,
I.;
McLanahan, S. Ku , I.
(2006)
Muestra
Metodologa
Conclusiones
Se
utiliz
la
informacin
disponible en los Archivos de
Historias Matrimonial (198851993) y los Archivos de historias
adoptivas (1985-1993)
parejas homosexuales.
Se encontr que las polticas
que aumentan las pensiones
para el cuidado de los nios
en los hombres podra reducir
la paternidad no marital.
Estados Unidos
Salud
Institucional
Steele F, Curtis SL. &
Choe M. (1999)
4,753 mujeres
Marruecos.
Journal
Salud
Marruecos
Journal
Empleo
Se
utiliz
informacin
cuantitativa y cualitativa.
Se utiliz informacin del estudio
Demogrphy and
Health de
Morocco (1992) y del Estudio
Panel de Morocco (1995).
Colombia
168
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Institucional
de
Muestra
Metodologa
Conclusiones
Pobreza
Empleo
Salud
Salud
Journal
Gumuseli AI. & Ergin
B. (2002)
Diseo
de
experimental.
Turqua.
Journal
Hayes, RJ. et al. (2005)
9645 adolescentes.
Reino Unido
Tanzania (Africa)
Journal
Meekers
D,
Van
Rossem R, Silva M. &
Koleros A. (2004)
Malawi.
Institucional
evaluacin
Se
encontr
que
intervencin
mostr
efectiva.
la
ser
169
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
prueba
T
para
muestras
independientes y tcnicas de
regresin
de
etapa
nica
estandarizadas.
Salud
Educacin,
transporte,
suministro de agua y
sanidad
Se utiliz
evaluacin
cualitativa.
un mtodo
cuantitativa
de
y
No se encontr diferencias
entre los impactos de los tres
tipos de intervencin.
Estados Unidos
Journal
Empleo
Advantage
through
Training?
A
Microeconometric
Evaluation
of
the
Employment Effects of
Active Labour Market
Programmes in Poland
Puhani, PA (1998)
Combining Longitudinal
Household
and
Community Surveys for
Evaluation
of
Social
Transfers: Infrastructure
Rehabilitation Projects in
Rural Georgia
Lokshin,
Yemtsov,
(2004)
Polonia
Institucional
Se utiliz el modelamiento
economtrico en la forma de
modelos de duracin con la
heterogeneidad individual no
observada.
Georgia
Journal
Michael;
Ruslan
Se tuvo a disposicin a
informacin
secundaria
de
algunos
estudios,
as:
La
informacin a nivel de familias
proviene del estudio oficial de
familias en Georgia (SGHH,
1996), la informacin de nivel
comunitario proviene del Rural
Community Infrastructure Survey
(RCIS, 2002).
Se
encontr
que
la
capacitacin favorece las
oportunidades de empleo tanto
para hombres como para
mujeres, mientras que la
intervencin y los trabajos
estatales no: los trabajos de
intervencin prolongan el
desempleo, al igual de los
trabajos estatales en el caso de
los hombres.
El nmero de estudiantes se
ha incrementado de manera
significativa como resultado
del programa.
Hubo
un
desarrollo
significativo en la percepcin
de cambios en el acceso a la
educacin de las aldeas
beneficiarias en comparacin
con las no beneficiarias.
Diferencia en la diferencia y
170
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Salud
Hotchkiss DR,
(2003)
de
et al.
Muestra
Metodologa
Marruecos (frica)
Conclusiones
de
Institucional
Salud
1525 veteranos
Estados Unidos
Journal
500
familias
individuos.
Jamaica
Institucional
con
684
La simulacin de polticas
mostr que el incremento en
los costos de los gastos por
servicios pblicos puede tener
muy poco efecto en las
mujeres que viven en familias
mejores, pero tendra un
efecto
substancial
y
perjudicial sobre la pobreza.
Se encontr que el trabajo y la
situacin domiciliaria haban
sido
significativamente
alcanzados a los 3 meses de
dejar el programa.
Se aplic un cuestionario.
Se utiliz el modelo Propensity
Score y la regresin logsitca
Pobreza
The
Socio-Economic
Impact of Favela-Bairro:
What do the Data Say?
54 comunidades: 34 como
grupo de tratamiento y 17 como
grupo control.
Se
utiliz
la
informacin
proveniente
del
General
Population Census, de los
Certificados de Defuncin del
Departamento de Salud Municipal
Institucional
171
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
diferencia.
Salud
Zaire
Empleo
Salud
Think
globally,
act
locally: assessing the
impact of communitybased substance abuse
prevention
Journal
Salud
La evolucin demostr la
importancia de la poltica de
higiene
relacionada
al
conocimiento y las prcticas
como factores de riesgo para
la
enfermedad
diarreica
severa.
Estados Unidos
El estudio se caracteriza por ser
mixto: cuantitativo y cualitativo.
Journal
Lee, D. (2005)
No disponible.
Estados Unidos
Institucional
Len, M. & Younger,
SD. (2004)
Ecuador
Se utilizaron estimadores de
forma cuasi-reducida para medir
el impacto del programa Bono
Solidario
172
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
9 funcionario pblicos
agencias gubernamentales
Conclusiones
Institucional
Salud
Agua y Sanidad
Albert, VN.(2001)
Estados Unidos
Journal
Akuoko-Asibey,
(1997)
A.
de
Ghana
(frica)
Journal
Educacin
Justicia - salud
Compensatory Education
for
Disadvantaged
Mexican Students: An
Impact Evaluation Using
Propensity
Score
Matching
Se
utiliz
la
metodologa
Propensity Score Matching
Mxico
La
informacin
sobre
las
calificaciones de los estudiantes
en sus exmenes proviene de
Estimadores Nacionales (EN:
1998-2002).
Institucional
Paxon,
C.
&
Waldfogel, J. (2001)
Se
determin
grupo de
tratamiento y grupo control.
La muestra final fue de 415
nios
Estados Unidos
Institucional
Educacin
Wilderness
challenge
programs for delinquent
youth: a meta-analysis of
outcome evaluations
Se
encontr
que
los
funcionarios pblicos en el
nivel ministerial no tienen o
tienen poco conocimiento
acerca del impacto del
programa
sobre
los
correspondientes
beneficiarios.
- El programa CONAFE es
ms efectivo en promover el
aprendizaje
de
las
matemticas y el espaol.
La Educacin Telesecundaria
y bilinge para los estudiantes
indgenas mostraron promover
el logro de los estudiantes.
Los resultados obtenidos
sealan claramente algunas
situaciones de alerta tal como
los
potenciales
efectos
adversos de las recientes
reformas de bienestar sobre el
maltrato infantil.
Se encontr que todos los
programas reportados por los
estudios fueron efectivos en
reducir la conducta antisocial
y delictiva.
173
rea de estudio
Salud
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Journal
de
Frankenberg E.
Duncan T. (2001)
&
Indonesia
Journal
Educacin y apoyo
social
Education
Maintenance
Alowance: The First Year.
A Quantitative Evaluation
Ashworth K, Hardman
J, Liu WCh, Maquire S
& Middleton S. (2001)
Reino Unido
Muestra
Child Education
and
Work Choices in the
Presence of a Conditional
Cash Transfer Programme
in Rural Colombia
Attanasio
O,
Fitzsimons, Gmez A,
Lpez D, Meghir C,
Mesnard A. (2006)
Colombia
Institucional
Conclusiones
orientados a la diferenciacin de
grupos respecto la participacin
del programa Wilderness.
Se utiliz informacin del estudio
Indonesia Family Life Survey
(1993 y 1997).
Se utiliz un
experimental.
diseo
cuasi-
Se utiliz el estimador
Diferencia en las diferencias.
de
Institucional
Educacin y apoyo
social
Metodologa
de
Anlisis de regresin,
Propensity Score y Tcnicas de
densidad de Bernal.
Diseo de evaluacin cuasiexperimental pre post.
Se seleccion una muestra
representativa por estratos.
174
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Educacin
Nutricin
Attanasio O, Syed M.
& Vera-Hernndez M.
(2004)
25 comunidades beneficiarias.
Se
determino
grupo de
tratamiento y grupo control.
Colombia
Propensity Score Matching
Educacin y apoyo
social
Education Choices in
Mxico:
Using
a
Structural Model And a
Randomized Experiment
to Evaluate Progresa
Institucional
Attanasio O, Meghir C.
& Santiago A. (2005)
Mxico
Institucional
Nutricin y apoyo
social
Apoyo social
Educacin y apoyo
social
The
impact
of
a
conditional cash transfer
programme
on
consumption in Colombia
The
Impact
of
a
Contidional
Education
Subsidy
on
School
Colombia
Institucional
Attanasio
O,
Fitzsimons E. & Gmez
A. (2005)
Aplicacin de cuestionarios.
Institucional
Colombia
Aplicacin de cuestionario.
Puntuaciones Z.
Anlisis de regresin.
Variables instrumentales.
175
rea de estudio
Ttulo de la evaluacin
Enrolment In Colombia
Autores / lugar
aplicacin / ao
Colombia
de
Muestra
Metodologa
Institucional
Pobreza
Evaluacin pre-post.
Se
seleccionaron
aquellos
hogares con nios menores de
13 aos o madres gestantes.
Attanasio O, Gmez
LC, Heredia P. & VeraHerndez M. (2005)
Colombia
Institucional
Blundell R, Brewer M.
& Shephard A. (2005)
Honduras
Conclusiones
los 14 a 17 aos, tanto en
zonas urbanas como en
rurales,
siendo
ms
beneficioso para los varones.
Se increment de modo
significativo el consumo en
los hogares.
Institucional
Salud, Nutricin y
apoyo social
Empleo
social
apoyo
Reino Unido
Institucional
Empleo
y
capacitacin laboral
Blundell R, Dearden L.
& Meghir C. (1996)
Reino Unido
Institucional
El programa foment es
estado nutricional y la
morbilidad de los nios
menores.
176
rea de estudio
Ttulo de la evaluacin
Empleo
social
The
Labour
Market
Impact of the Working
Families Tax Credit
apoyo
Autores / lugar de
aplicacin / ao
Blundell R, Duncan A,
McCrae J. & Meghir C.
(2000)
Muestra
Metodologa
Conclusiones
Jvenes desempleados de 18 a
24 aos
Reino Unido
Empleo
Institucional
De Giorgi G. (2005)
Reino Unido
Institucional
Pobreza
Income
Support
and
Staying in School: What
Can We Learn from
Australias AUSTUDY
Experiment?
Dearden L, Emerson C,
Frayne C. & Meghir C.
(2005)
Reino Unido
Institucional
13,868 individuos de 16 a 18
aos de edad que cursan los
ltimos aos de escuela. Donde
de ellos
4000 estudiaron antes de la
reforma y 9,868, luego de la
reforma.
177
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Educacin
Pobreza
Evaluation of Aimhigher:
Excellence Challenge The
Early
Impact
of
Aimhigher:
Excellence
Challenge
on Pre-16
Outcomes: An Economic
Evaluation
Emmerson C, Frayne
C,. McNally S. & Silva
O. (2005)
Reino Unido
Institucional
Heady C, Mitrakos T.
& Tsakloglou P. (2001)
Justicia
Evaluation of Education
Maintanance Allowance
Pilots: Young People
Aged 16 to 19 Years.
Final Report of the
Quantitative Evaluation
13 pases europeos
Regresin lineal
Propensity Score Matching.
Diferencia en las diferencias.
La informacin se obtuvo del
European Community Household
Panel.
Multinacional (Europa)
Middleton S, Perren K,
Maguari S, Rennison J,
Battistin E, Emerson C.
& Fitzsimons E. (2005)
Reino Unido
Institucional
Parson K, Li S, &
McEntire R. (2002)
Estados Unidos
Journal
Institucional
Educacin
Mtodo
de
las
variables
instrumentales en dos etapas y el
enfoque experimental.
Evaluacin a travs de un estudio
piloto y comparacin de reas.
de
evaluacin
Se
encontr
que
la
transferencia ayud a reducir
la inequidad y pobreza en
todos los pases evaluados, sin
embargo, con diferencias
significativas entre los pases.
Se encontr que la iniciativa
gubernamental increment la
participacin en estudios a
tiempo completo en los
jvenes mayores de 16 aos,
siendo este incremento mayor
para el caso de los varones.
Es posible sobrellevar los
obstculos
politicos
y
burocrticos en la integracn
de las fuentes de informacin,
pero
tales
impedimentos
permanecen en el modo de
poltica
informada
e
178
rea de estudio
Pobreza
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
perfil demogrfico de
juventud que atiende.
1,904 madres cuidadoras
Metodologa
la
An Evaluation of the
Swedish System of Active
Labour Market Programs
in the 1990s
Suecia
Institucional
Sianesi, B. (2003)
Suecia
Institucional
Educacin
Educacin
implementacin prctica.
Se encontr un efecto
benfico de la reforma
respecto a la pobreza infantil,
sin embargo no se logra el
alcance esperado.
Reino Unido
Empleo
Differential Effects of
Swedish Active Labour
Market Programmes for
Unemployed
Adults
During the 1990s
Sianesi, B. (2003)
Institucional
Propensity store
Ability,
Parental
Background
and
Education
Policy:
Empirical Evidence from
a Social Experiment
Education
Maintenance
Allowance
Transport
Pilots
Quantitative
Findings from Year 1 and
2 (2000-2001/2001-2002)
Conclusiones
Institucional
Perren K, Middleton S.
& Emerson C. (2003)
Reino Unido
Institucional
La reforma increment el
logro educativo de aquellos
individuos de padres obreros.
Asimismo,
increment
significativamente el ingreso
de aquellos padres obreros.
No
se
encontr
significativo impacto
programa
un
del
179
rea de estudio
Empleo
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Seleccin no aleatoria de cinco
reas
beneficiarias
del
programa y 11 actuaron como
grupo control
3, 340 beneficiarios y no
beneficiarios del programa, es
estableci grupo control
Argentina
Metodologa
Mtodo de evaluacin
experimental pre post.
Conclusiones
no
Institucional
Mtodo de emparejamiento a
travs del estimador Propensity
Score.
Anlisis costo beneficio de los
efectos del programa.
Pobreza
Anuatti-NEto
F,
Barossi-Filho
M,
Gledson de Carvalho A.
& Macedo R. (2003)
264 compaas,
Se utiliz grupo control
Brasil
Institucional
Pobreza
y
desigualdad Social
18 pases de Latinoamrica
79 estudios de familias (198019998)
180
rea de estudio
Ttulo de la evaluacin
Pobreza
y
desigualdad social
Pobreza, desigualdad, y
liberalizacin comercial y
financiera en Amrica
Latina
Autores / lugar de
aplicacin / ao
Behrman JR, Birdsall
N. & Szkely M.
(2001)
Muestra
Metodologa
Conclusiones
Se
encontr
que
la
liberalizacin comercial no
tuvo efectos distinguibles
sobre la desigualdad y
pobreza en la regin, mientras
que
la
liberalizacin
financiera s lo tuvo.
Latinoamrica
La evaluacin econmica se
realiz a travs de un anlisis
economtrico.
Institucional
Educacin
proteccin social
Ingreso Familiar
The
Impact
of
Experimental Nutritional
Interventions
on
Education into Adulthood
in
Rural
Guatemala:
Preliminary Longitudinal
Analysis
Cameron,
(2002)
Guatemala
Institucional
Lisa
Institucional
Se
determin
grupo de
tratamiento y grupo control.
4803 casos. Se determin grupo
de tratamiento y grupo control
Indonesia
Estados Unidos
Institucional
Institucional
Estudio
de
longitudinal.
evaluacin
Existe
un
efecto
significativamente positivo y
del suministro de Atole,
recibido a la edad de 6 a 24
meses, sobre los resultados
educativos evaluados 27-32
aos despus.
Se hall que el programa tiene
un
impacto
significativo
negativo
en
los
casos
desercin escolar.
181
rea de estudio
Ttulo de la evaluacin
Empleo
Autores / lugar de
aplicacin / ao
Blundell R, Duncan A,
& Meghir C. (2002)
Reino Unido
Muestra
Metodologa
Conclusiones
Se encontr un efecto
moderadamente positivo del
programa en las repuestas de
empleo.
Institucional
Pobreza
y
desigualdad social
Caldern C, Chong A.
& Valds R. (2004)
Multinacional
Institucional
Pobreza
crecimiento
econmico
Empleo
Pobreza
y
desigualdad social
Privatization
discontent
and
its
determinants:
evidence
from
Latin
Amrica
Impact
evaluation
of
Empleo
en
Accin:
Lessons and relevante for
Colombia
An evaluation of the
Distributional Power of
PROGRESAS
Cash
Transfers in Mxico
Carrera J, Checchi D,
& Florio M. (2005)
Multinacional
Institucional
Castro MF. (2004)
Colombia
Institucional
Coady DP. (2001)
Mxico
Se utiliz el estimador de
diferencia en la diferencia. y un
modelo de simulacin estructural.
Se
utiliz
la
informacin
proveniente de dos bases de datos
sobre regulaciones laborales:
Rama y Artecona (2002) y
Botero, Djankov, La Porta,
Lpez-de-Silanes
y
Shleifer
(2003).
Anlisis
de
regresin
dimensin transversal y
informacin panel.
Se utiliz los resultados
Latinobarmetro (2002)
su
de
de
Institucional
Pobreza y educacin
Deutsch, R. (1998)
Brasil
Entrevistas y instrumento de
sondeo.
Se utiliz la comparacin de
182
rea de estudio
Ttulo de la evaluacin
the Favelas of Rio de
Janeiro
Empleo
Autores / lugar
aplicacin / ao
Institucional
de
Downes A, Mamingi
M. & Belle Antoine RB
(2000)
Muestra
No se especifca.
Barbados, Jamaica y
Trinidad y Tobago
Institucional
Empleo
An Econometric CostBenefit
Analysis
of
Argentinas
Youth
Training Program
Argentina
Institucional
Salud
Educacin
Do Community-Managed
Schools
Work?
An
Flores R, Morris S,
Olinto P, Medina3 J. &
Neidecker O. (2003)
Metodologa
Conclusiones
medias.
la reduccin de la pobreza,
sino tambin una inmediata
retribucin en la forma de
empleo y oportunidades de
empleo para las madres
beneficiarias.
Las regulaciones laborales en
los tres pases estudiados no
han causado un impacto
significativo en comparacin
con los otros pases de la
regin.
Honduras
Institucional
Jimenez,
Emmanuel,
and Yasuyuki Sawada.
El programa promueve de
manera
significativa
la
183
rea de estudio
Ttulo de la evaluacin
Evaluation
Salvador's
Program
of
El
EDUCO
Autores / lugar
aplicacin / ao
(1998)
de
Muestra
Metodologa
Conclusiones
asistencia estudiantil.
El Salvador
El
estudio
aplic
cinco
cuestionarios: para estudiantes,
padres, directores de escuela,
profesores y asociacin de padres.
Journal
Pobreza
Decentralized Targeting of
an Anti-Poverty Program
Galasso
M.
&
Ravallion M. (2005)
Bangladesh
Institucional
Empleo
crecimiento
econmico
Galiano S, Gertler P,
Schargrodsky E. &
Sturzenegger F. (2003)
Argentina
21 empresas no financieras de
propiedad estatal, actualmente
privatizadas o no.
bienestar
An
Experiment
in
Incentive-Based Welfare:
The Impact of PROGESA
on Health in Mexico
Institucional
Salud
social
Institucional
Estimador de diferencia en la
diferencia.
Anlisis de regresin.
El programa de privatizacin
tuvo un impacto positivo en el
incremento de la rentabilidad
pero muy negativo en el
empleo.
184
rea de estudio
Ttulo de la evaluacin
Salud
Efectos de la reforma en
salud sobre las conductas
irregulares
en
los
hospitales pblicos: El
caso de Bogot, Distrito
Capital, Colombia
Salud y Nutricin
Empleo y seguridad
social
Empleo y seguridad
social
Empleo y seguridad
social
Empleo
Autores / lugar de
aplicacin / ao
Giedion U, Gonzles L.
& Acosta OL. (2001)
Muestra
Metodologa
Conclusiones
22 hospitales
Colombia
Institucional
505
comunidades,
323
beneficiarias del programa y
181 como grupo control.
Esto comprende un total de
125,000 nios con 12 a 23
meses de edad
43 pases: 28 europeos y 15
latinoamericanos.
Multinacional
Institucional
Hopenhayn HA. (2001)
Argentina
64,000
individuos
uniformemente distribuidos por
aos.
No se especifica.
Institucional
Kluger A. (2000)
Colombia
Macro
Policy
and
employment problems in
Lora E. (1998)
Multinacional
Institucional
18 pases de Latinoamrica
Se
encontr
que
las
regulaciones de seguridad
laboral tuvieron un substancial
impacto sobre el empleo y la
tasa de despidos en los pases
de Latinoamrica y Europa.
Se encontr que la reforma
tuvo un fuerte impacto en el
despido
laboral,
incrementando la tasa de
riesgo durante el perodo de
prueba por 40%.
Se encontr que la reforma
laboral ha generado un gran
dinamismo
del
mercado
laboral
as
como
la
disminucin de la tasa de
desempleo.
185
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Latin Amrica.
estudios
impacto.
Maluccio J.
Institucional
Salud y bienestar
Metodologa
de
Conclusiones
evaluacin
de
Nicaragua
Institucional
Transporte
(Infraestructura)
Van
De
Dominique
Dorothyjean
(2005)
Walle,
and
Cratty.
Vietnam
Institucional
Empleo
Empleo
La
comparacin
de
las
comunidades beneficiarias del
proyecto con las no beneficiarias
fue a travs del Propensity Score
Matching.
Anlisis economtricos.
Multinacional
Institucional
Mondito G. &
Montoya S (2000)
186
rea de estudio
Ttulo de la evaluacin
Employment Decisions by
Firms: Empirical Evidence
for Argentina
Autores / lugar
aplicacin / ao
de
Muestra
Argentina
Institucional
Empleo
Metodologa
5000
establecimientos
manufactureros que emplean
ms de cinco trabajadores.
Brasil
Anlisis de regresin.
Se utiliz la informacin de
Pesquisa
Industrial
Mensal
(1985-2001) para la informacin
longitudinal mensual de la
demanda laboral.
Institucional
Salud y Seguridad
social
Nutricin
ADRA/Ghanas
Food
Security Program (PL 480
Title II)
Shinkai N. (2000)
Mxico y Uruguay
Institucional
Institucional (USAID)
Apoyo social
Alexieva A, Alexieva
K. & Vasev I.
Revisin de documentos e
informes. Entrevista al equipo de
profesionales y beneficiarios del
proyecto. Grupos Focales.
Comparacin
del
estado
nutricional de los nios. Grupo
control y grupo experimental. Se
us comparaciones Z.
Mtodo cualitativo.
Conclusiones
significativo efecto en las
decisiones de empleo,
187
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
un total de 141.
(2003)
Bulgaria
Institucional (USAID)
Infraestructura
Anderson
GW
&
Vandervoort
ChG.
(1982)
Revisin de 8 informes de
proyectos en diversos pases.
Multinacional
(Honduras,
Jamaica,
Colombia,
Sierra
Leone, Liberia, Kenya,
Filipinas, Tailandia)
Agricultura y apoyo
social
Institucional (USAID)
Araujo F, Viveros AM.
& Murphrey J (1985)
250 agricultores.
Institucional (USAID)
Askin P, Childress M,
Delmare R, Estes V,
Smith M. & Sullivan G.
(1996)
Multinacional ((Russia,
Kazakhstan,
Kyrgyzstan, Ukraine,
Moldova, Armenia y
Georgia).
Mtodo cualitativo.
El estudio tiene un enfoque de
anlisis sociocultural.
Repblica Dominicana
Educacin
Institucional (USAID)
188
rea de estudio
Electrificacin rural
Ttulo de la evaluacin
Economic
and
social
impact evaluation of the
Rural
Electrification
Program in Bangladesh.
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Entrevistas profundas con las
organizaciones
beneficiarias,
cuestionarios a muestra aleatoria,
entrevistas
telefnicas.
Estadsticas descriptivas.
Diseo experimental de estudio
slo postest.
Ausencia de lnea base (pretest)
Conclusiones
El programa de electrificacin
fue exitoso.
Pobreza
Educacin
Do Family Caps on
Welfare Affect Births
Among
Welfare
Recipients? Reconciling
Efficacy and Effectiveness
Estimates
of
Impact
through a Blended Design
Strategy.
The
Monrovia
consolidated
school
system:
an
impact
evaluation
Jagannathan
Camasso
M.
Killingsworthusa
(2004)
R,
&
M.
Estados Unidos
Journal
Pewu G. & Belleh W.
(1982)
Liberia (frica)
Institucional (USAID)
Muestra aleatoria de 20
informantes
clave,
entre
directores, especialistas, y
participantes.
Se revis documentos.
189
rea de estudio
Ttulo de la evaluacin
Educacin
Educacin
Promoting
education for
Malawi.
primary
girls in
Autores / lugar de
aplicacin / ao
Benoliel S, Ilon L,
Sutton M, Karmacharya
DM, Lamichhane S,
Rajbhandry P, Der
Kafle B. & Giri S.
(1998)
Nepal
Institucional (USAID)
Bernbaum M, Fair K,
Miske S, Moreau T,
Nyirenda D, Sikes J,
Wolf J, Harber RB,
Hartwell
A.
&
Schwartz B. (1999)
Muestra
Metodologa
Conclusiones
Diseo
pre-experimental.
Comparacin slo postest.
Se
determin
grupo de
tratamiento y grupo control, sin
asignacin aleatoria.
Malawi
Institucional (USAID)
Educacin
ciudadana
derechos
en
y
Proyecto
creado
para la provisin de
servicios de salud y
desarrollo
comunitario
Haiti:
Hacho
Rural
Community Development.
Entrevistas
estructuradas
mediante cuestionario.
Comparacin de porcentajes.
Mtodo cualitativo.
El
programa
significativos logros.
tuvo
Se hicieron observaciones y
entrevistas a profesores, padres y
alumnos.
Se
revisaron
documentos.
Se utiliz tcnicas cualitativas
(triangulacin) y anlisis de datos
cuantitativos.
Mtodo mixto.
El diseo de evaluacin bsico
utiliz un mtodo de comparacin
de pases.
Se
utiliz
entrevistas
cualitativas/cuantitativas
a
informantes clave.
Aplicacin de Cuestionario y
Grupos Focales.
Mtodo
cualitativo
(triangulacin).
190
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Educacin
Management Education in
Modern Tunisia: L`Institut
Suprieur De Gestion,
Tnez.
Multinacional
(Ecuador,
Senegal
Gambia,
Honduras,
Tailandia, entre otros
34 pases)
62 proyectos evaluados.
Institucional (USAID)
Casstevens TW, Jonson
NC, King GJ. &
Willens L.(1985)
de
Examen documentario
proyectos evaluados.
62
de
Se incluye a personas de
negocio y acadmicos. No
menciona el nmero. Muestreo
intencional.
Metodologa cualitativa
Se realiz un muestreo
aleatorio estratificado.
Mtodo Mixto.
El proyecto es bastante
exitoso, aunque su desarrollo
difiri
de
los
planes
originales.
Tnez
Resolucin
de
conflictos sociales
Centre
for
Conflic
Resolution:
Impact
Evaluation Report.
Institucional (USAID)
Centre for Conflict
Resolution (2004)
Kenya
Institucional (USAID)
Infraestructura
Agua potable
de
Chewynd
E.
&
Dworkin DM. (1981)
Korea
Se
utiliz:
cuestionarios,
discusiones de grupo focal,
entrevistas a informantes claves,
entrevistas
individuales
y
grupales, as como la revisin
documentaria.
Los dados fueron sometidos a
anlisis cuantitativos (estadsticas
descriptivas).
Mtodo mixto.
Entrevista a hogares benefiados,
mediante cuestionario.
191
rea de estudio
Ttulo de la evaluacin
Educacin
An Impact Evaluation of
the Educational Support
Services
Trust`s
Programme.
Autores / lugar de
aplicacin / ao
Institucional (USAID)
Ebrahim R. (1996)
Sudafrica)
Institucional (USAID)
Empleo
Do Workfare Participants
Recover Quickly from
Retrenchment?
Muestra
Metodologa
Entrevista a informantes clave.
Informantes clave.
200 estudiantes del cuarto
grado de seis escuelas primaria
de Cabo Oeste, Khayelitsha y
Cabo Este. De estos, 96
participaron en el grupo de
tratamiento y 104 en el grupo
control.
Ravallion,
Martin;
Galasso,
Emanuela;
Lazo, Teodoro; Philipp,
Ernesto (2001)
Argentina
Programa Trabajar II
Educacin
Youth
Reintegration
Training and Education
For
peace
(YRTEP)
Program
Institucional
Fauth G. & Daniels B.
(2001)
Sierra Leona (frica)
Institucional (USAID)
Muestra
total:
participantes.
Infraestructura
Irrigacin
Agricultura
Bangladesh
Irrigation
Small-Scale
Friedkin T, Lester R,
Blank H. & Ahmed N.
(1983)
Bangladesh
Conclusiones
Mtodo cuasi-experimental.
No se encontr efectos
significativos del programa.
Se encontr un significativo
efecto del programa en los
participantes.
Se aplic un Cuestionario de
evaluacin, diseado y adaptado a
partir de un estudio piloto de 20
participantes del programa.
482
192
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Institucional (USAID)
Infraestructura
electrca
agricultura
Metodologa
Conclusiones
positivos no planificados.
No se encontr un efecto
importante del programa y el
desarrollo agrcola de las
comunidades.
Costa Rica
Institucional (USAID)
Nutricin
educacin
Growth
Monitoring,
Nutrition and Education:
Impact evaluation of an
effective applied nutrition
program in the Dominican
Republic.
96 familias distribuidas en 17
comunidades.
Se aplic un cuestionario de 61
tems.
Estadsticas descriptivas.
Diseo Cuasi- Experimental con
grupo
control
y
pre-post.
(Matching). Medidas repetidas.
Institucional (USAID)
Se utiliz informacin de la
evaluacin interna del programa
realizado por CARITAS y se
revis documentos e informes. Se
entrevist a informantes clave.
Se aplic un cuestionario de
actitudes para madres.
Comunicacin
transporte
Maxwell,
Demetre &
(1981)
Chapin,
Fletcher
Dos
rutas
Informantes
agricultores
nmero).
de
carretera.
clave
y
(no menciona
El proyecto favoreci la
produccin agrcola y el
ingreso econmicos de los
agricultores.
Honduras
Institucional (USAID)
Revisin
Proyecto.
de
archivos
del
193
rea de estudio
Ttulo de la evaluacin
Titulacin de tierras
Infraestructura
Agricultura
Agricultura
Sederhana:
Indonesia
Small-Scale Irrigation
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Honduras
Institucional (USAID)
Hevia, H. (2001)
473
productores
titulados
seleccionados aleatoriamente.
Holloran S, Corey GL
& Mahoney T. (1982)
Indonesia
Institucional (USAID)
Jonson WF, Ferguson
CE. & Fikry M. (1983)
98 funcionarios, autoridades y
granjeros.
Tnez
Se utiliz informacin de
documentos
y
archivos
institucionales.
Institucional (USAID)
Electrificacin
apoyo social
Ecuador:
electrification
Rural
Ecuador
Institucional (USAID)
Comunicacin
transporte
Estadsticas descriptivas.
Diseo
pre-experimental
(entrevistas sin grupo control ni
lnea base).
194
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Filipinas
de
Muestra
181 agricultores y pescadores.
Does
Child
Labor
Displace
Schooling?
Evidence on Behavioral
Responses to Enrollment
Subsidy
Institucional
Agricultura
transporte
Agua potable
Comercio
Agricultural
Transportation Assistance
Program (ATP)
Evaluation
of
the
Provincial Water Project
in the Philippines
Impact
Evaluation
on
Revisin de documentos de 20
regiones.
Tanzania
64 informantes clave.
equitativa.
Estadsticas descriptivas.
Informacin obtenida en el
Bangladesh Bureau Statistics
(1995 - 1996).
Diferencia de medias, variables
instrumentales y otros mtodos de
emparejamiento.
Mtodo cualitativo (observacin
de campo).
Institucional (USAID)
Magnani R, Tourkin S.
& Hartz S. (1984)
La seleccin de la muestra no
fue aleatoria.
Filipinas
2500 Familias
Institucional
Se
determin
grupo de
tratamiento y grupo control no
equivalente.
Se
utiliz
informacin
proveniente del estudio de
hogares mantenidos por los
distritos de Bacolod y Cagayan de
Oro.
21 / 50 Agentes de aduanas.
Makanza
M.
&
Conclusiones
Aplicacin de formularios y
encuestas mediante entrevistas
individuales y grupales.
Institucional (USAID)
Educacin
Metodologa
Se
encontr
beneficios
positivos del programa
Se
encontr
que
la
195
rea de estudio
Ttulo de la evaluacin
Implementation of the
WTO
evaluation
agreement
for
Mozambique
Autores / lugar de
aplicacin / ao
Munyaradzi R. (2004)
Muestra
Mozambique
Metodologa
Conclusiones
(descriptivo).
Intervencin es beneficiosa
para la administracin de los
clientes.
Aplicacin de cuestionarios a
agentes de aduanas.
Institucional (USAID)
Electrificacin
apoyo social
The Philippines:
Electrification
Rural
7 cooperativas.
Entrevista no estructurada a
pobladores y a informantes clave.
Filipinas
Salud reproductiva
Institucional
McClelland
DG,
Johnston AG, Pedersen
BR, Schwartz JB. &
Schmeding R.(1993)
Anlisis de informacin en
registros de compaas elctricas
4 regiones. 110 pobladores de
Ghana.
49
visitas
institucionales.
Ghana
Educacin
Liberian
Primary
Education
Program
(PEP):Final
Impact
Evaluation of the PEP
Pilot Radio Broadcast.
Institucional (USAID)
McDowell
J.
&
Moulton J. (1990)
305
Profesores
escuela.
directores
de
Se control la maduracin,
Liberia (frica)
Se utiliz grupo control
Seleccin aleatoria de
comunidades beneficiarias
programa.
Panam
Institucional
Agua potable
Institucional
Se encontr un impacto
limitado del programa
26
del
un
el
los
de
los
196
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Agricultura y apoyo
social
Impact
Resettlement
Activity.
Miller, J. (2002)
Evaluation:
Grant
Emergency
Recovery:
Agricultura and Comercial
Trade (ER:ACT)
de
Muestra
Metodologa
Conclusiones
630 beneficiados
Revisin de documentos
Se encontr un impacto
favorable del programa en la
economa de los beneficiarios.
Mozambique
Institucional
Educacin
U. S. Aid to Education in
Paraguay:
The
Rural
Education Development
Project
No especifica
agua
The
On-Farm
Water
Management Project In
Pakistan
55 pobladores vinculados a la
agricultura
Pakistn
Salud
Suministro de agua y
alcantarillado
An education Program in
Alcoholism for Social
Workers: Its Impact on
Attitudes and TreatmentOrientede Behavior
Se encontr un impacto
favorable del proyecto en la
educacin rural.
Aplicacin de cuestionarios a
directores, profesores, alumnos y
padres de familia.
Como criterio de comparacin se
utiliz
el
Estudio
de
Productividad Agrcola del Plan
Regional de la Organizacin Sind.
Paraguay
Institucional
Energa
potable
Revisin
de
documentos,
discusin de procedimientos,
entrevistas e informes escritos.
Institucional
Manohar
V,
Des
Roches E, & Ferneau E.
(1976)
Entrevista y
cuestionario.
aplicacin
de
42 trabajadores sociales
Se consider la informacin
proveniente del National Council
of Applied Economic Research de
la India (1993-1994).
Canad
Journal
Jalan, Jyotsna, and
Martin
Ravallion
(2003)
India
El programa educacional
provoc un plan de referencia
que facilitara la circulacin
de los pacientes de la sala de
hospital hacia la clnica de
Alcoholismo de Boston City
Hospital.
El acceso a agua de caera
disminuye significativamente
la incidencia de diarrea, al
igual que la duracin de las
enfermedades.
197
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
314 beneficiarios
Se utiliz el estimador de
Diferencia de medias, as mismo,
se compar los resultados
utilizando el Propensity Score
Matching individual frente al de
la aldea.
Entrevista a beneficiarios
Journal
Educacin
Impact Evaluation of
Community-Based Coastal
Resource
Management
Projects in The Philippines
Institucional
Evaluation
of
A.I.D.
Family Planning Programs
Tunisia Case Study
Rea S, Martin R,
Young M, & Kress D.
(1993)
Estudio de caso
31 carreteras individuales
Visitas de campo.
Entrevista a informantes clave.
El programa ha tenido
impacto en la calidad de
servicios brindados, en las
competencias
de
los
proveedores de servicios y del
mecanismo encargado de la
continuidad del uso de
IUD.
Desde una perspectiva global,
existe impacto del proyecto.
Seleccin aleatoria de
70 agricultores
Se encontr un impacto
parcial del programa.
Tnez
Institucional
Comunicacin
transporte
Filipinas
Salud Reproductiva
Conclusiones
Kenya
Agricultura
Philippines:
Integrated
Development
BICOL
Area
Institucional
Sommer Jg, Aquino R,
Fernndez C, Golay
FH,
Simmons
E,
Castillo GH. & Roco
198
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Ch. (1982)
de
Muestra
Metodologa
Conclusiones
18 proyectos
Filipinas
Agricultura
Institucional
Steinberg DI, Morrow
RB. &
Dong-il
K.(1980)
Korean Irrigation
Korea
Institucional
Educacin
Preliminary
Impact
Evaluation Report of NGO
Educare Training in South
Africa
Stevens FI.(1995)
Sud frica
32 profesores: 18 recibieron el
tratamiento y 14 conformaron
el grupo control.
Institucional
Educacin
No se menciona
Institucional
Promoting
education for
Guinea
primary
girls in
Sutton M, Tietjen K,
Bah A & Kamano P.
(1999)
Guinea
Institucional
Se encontr un impacto
parcial del programa.
Guatemala
Educacin
No se precisa
Se encontr un impacto
positivo del programa
199
rea de estudio
Ttulo de la evaluacin
Agricultura
Agricultural
Policy
Analysis and Planning: A
summary of two recent
analyses
of
a.i.d.supported
projects
worldwide
Apoyo social
A Synthesis of tour
legacy/impact studies of
USAID
assistance
to
Cameroon
Autores / lugar de
aplicacin / ao
Tilney JS & Riordan JT
(1988)
Muestra
Metodologa
Conclusiones
Multinacional
Ambos estudios utilizaron las
evaluaciones realizadas por AID
con el objetivo de determinar el
impacto de los proyectos.
Institucional
USAID (1994)
Camern
Institucional
Educacin
(Salud,
Nutricin
y
Poblacin infantil)
Education
and
Child
Labor:
Experimental
Evidence
from
a
Nicaraguan
Conditional
Cash Transfer Program
Maluccio,
(2003)
John
A.
Nicaragua
Institucional
Educacin y salud
Reinsertion
of
excombatants in El Salvador
Creative
Associates
International (1996)
Se seleccionaron 42 comarcas
(pequeas comunidades con
alrededor de 100 familias)
utilizando un ndice de
marginalidad, 21 de ellas
recibieron se benefici del
programa y las otras 21 se
constituy en el grupo control.
Se obtuvo una muestra aleatoria
de 1585 familias
1000
evaluados:
ex
combatientes, y grupo control
de veteranos.
La intervencin de USAID en
Camern
ha
generado
cambios
sociales
y
econmicos
exitosos
y
positivos en diversos sectores.
200
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
El Salvador
de
Muestra
Metodologa
Conclusiones
Entrevistas estructuradas
Institucional
Aplicacin de cuestionarios
Educacin
Ikhwelo Pilot
Final Report
Projects:
Ikhwelonet Consortium
(2002)
660 entrevistados
Sudfrica
Capacitacin laboral
Educacin
Institucional
Van Steenwyk,
(1984)
Honduras
N.
Institucional
Wooten J, Jansen W,
Kohashi
Warren
M.(1982)
40
entrevistados:
23
participantes y 17 supervisores
80 entrevistados
El programa obtuvo el
impacto esperado, de reducir
el costo familiar para la
educacin bsica, adems de
otros beneficios.
Se utiliz informacin de la
Encuestas de las Caractersticas
Socio
Econmicas
de
los
Hogares.
Filipinas
Gnero y equidad
Institucional
Adato M, De la Brire
B, Mindek D. &
Quisumbing A. (2000)
Mxico
Diferencia en la diferencia
Institucional
Resolucin
Conflictos
de
El impacto de Progresa
sobre
las relaciones
sociales en la comunidad
Adato M. (2000)
230
personas
de
comunidades en 6 estados.
70
Anlisis de regresin
Se desarroll un estudio de
evaluacin de tipo cualitativo.
Mxico
Institucional
Se
determin
grupo de
tratamiento y grupo control
La participacin en
programa
favoreci
cohesin social.
el
la
Grupos focales
Entrevistas semi estructuradas a
mdicos
201
rea de estudio
Ttulo de la evaluacin
Educacin y salud
Evaluacin de operaciones
de Progresa desde la
perspectiva
de
los
beneficiarios,
las
promotoras, directores de
escuela y personal de salud
Autores / lugar de
aplicacin / ao
Adato M, Coady D. &
Ruel M. (1999)
Muestra
Metodologa
Conclusiones
No se especifica
Mxico
Institucional
Educacin
Do Crowded Classrooms
Crowd Out Learning?
Evidence From the Food
for Education Programme
in Bangladesh
Nutricin y pobreza
Educacin
Alwang J. (2002)
Multinacional
(frica y Asia)
El
programa
influy
negativamente
en
el
rendimiento promedio de los
alumnos
el
cual
sera
resultados
del
efecto
compaero negativo.
500
localidades
elegidas
aleatoriamente que comprenden
a familias pobres que tienen
nios inscritos entre 3 y 6 de
primaria y 1 a 3 de
secundaria
Pruebas
de
estandarizadas.
Diferencias
de
proporciones.
evaluacin
medias
determin
grupo
de
202
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Educacin
Education Choices in
Mexico: Using a Structural
Model and a Randomized
Experiment to Evaluate
PROGRESA
Attanasio,
Orazio;
Meghir,
Costas;
Santiago, Ana (2005)
Muestra
Metodologa
Conclusiones
tratamiento y control.
Se utiliz una muestra aleatoria
de 506 aldeas: de donde 320
conformaron el grupo de
tratamiento y 186 de control.
Mxico
Diferencia de medias.
Diferencia en la diferencia.
Modelo de Participacin
Escolar.
Institucional
Educacin y salud
Behrman
JR.
Hoddinott J. (2000)
&
Mxico
Institucional
Pobreza
social
Pobreza
Educacin
apoyo
A
cost-effectiveness
analysis of demand- and
supply-side
education
interventions: the case of
Se encontr un impacto
significativo que indica del
programa en el aumento el
crecimiento del nio y reduce
la probabilidad de desmedro.
Estudio de caso
Evaluacin a travs del anlisis de
la
Tasa
de
Costo
de
Transferencias (Coady, 2004)
203
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Se
determin
grupo de
tratamiento y grupo control.
educativa.
Mxico
Institucional
Anlisis de simulacin
Progresa in Mxico
Institucional
Pobreza
social
apoyo
No se especifica
Los
resultados
indican
ganancias substanciales en el
bienestar,
derivadas
al
expandir el programa para
incluir a los pobres urbanos.
Proyecto
urbano
alimentos por trabajo de
CARE
Garrett J. (2001)
Etiopa
Revisin
de
disponible.
Institucional
Salud y nutricin
Gertler P. (2000)
Mxico
Institucional
24,000
correspondientes
individuos.
hogares
125,000
Se
determin
grupo de
tratamiento y grupo control.
Diseo
de
experimental.
Asignacin
localidades
control.
documentacin
evaluacin
aleatoria de las
en tratamiento y
Pobreza
y
desigualdad social
Pobreza, desigualdad y
efectos indirectos del
Programa de Educacin,
Salud y Alimentacin
506 localidades.
Se
determin
grupo de
tratamiento y grupo control.
Mxico
Institucional
Aplicacin
del
ENCEL 980.
cuestionario
204
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Diferencia de medias.
Estadstica T
apoyo
El impacto de Progresa
sobre el consumo: informe
final
Hoddinott J, Skoufias
E. & Washburn R.
(2000)
24,000
hogares
de
506
localidades seleccionadas por
Progresa.
Mxico
Se
determin
grupo de
tratamiento y grupo control.
Institucional
Se
utiliz
seguimiento.
Empleo y educacin
El impacto de Progresa
sobre el trabajo, el ocio y
el uso del tiempo
Parker
SW.
Skoufias. E. (2000)
&
Mxico
Institucional
encuestas
Se
encontr
que
los
beneficiarios del programa
mostraron mayores niveles de
gastos
por
consumo,
orientados
stos
principalmente a productos
nutritivos.
de
Mtodos de regresin.
Estudio de evaluacin pre-post
Se utiliz informacin obtenida
de: ENCASEH97, ENCEL98N,
ENCEL99M, y la ENCEL99N.
Se aplic una encuesta sobre el
uso del tiempo.
Se encontr un impacto
significativo del Programa en
la
disminucin
de
participacin laboral de los
nios. No obstante, no ha
habido incremento de sus hora
libres.
Educacin y apoyo
social
El Programa de Guarderas
Comunales de Guatemala:
Focalizacin Efectiva de la
Seleccin aleatoria
Mtodos de evaluacin a travs de
la diferencia de medias, variables
instrumentales
y
el
emparejamiento por Propensity
Score Matching.
El programa caus un
incremento significativo de
28% en el fomento de la
vivienda.
La muestra de estudio se
seleccion de manera aleatoria.
205
rea de estudio
Ttulo de la evaluacin
Ayuda en Alimentos en
reas Urbanas
Agricultura
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Institucional
Se
determin
grupo de
tratamiento y grupo control
3,126 evaluados
en 17 provincias.
distribuidos
Entrevistas
profundas
beneficiarios del programa
Conclusiones
Viet Nam
Se utiliz las estadsticas de series
de tiempo de los distritos respecto
a su produccin agrcola, rea,
precios de tierras, temporada para
la exportacin de arroz.
Institucional
Se aplic cuestionarios.
Nutricin
educacin
Educacin
El impacto de Progresa
sobre
la
inscripcin
escolar
Ryan JG.
X.(2004)
&
Meng
Bangladesh
Institucional
apoyo
Is progresa working?
summary of the results of
de
Se encontr un impacto
positivo del programa en los
Mxico
Se
determin
grupo
tratamiento y control.
Skoufias
E.
&
McLafferty B. (2001)
Se encontr un importante
efecto positivo del programa
sobre la educacin e ingreso
de los nios y jvenes
participantes, especialmente
las mujeres.
Institucional
Pobreza
social.
206
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
an evaluation by IFPRI.
Muestra
Metodologa
Conclusiones
Grupos focales
hogares
y
beneficiadas.
estados
Mxico
comunidades
Institucional
Pobreza
social
apoyo
Salud y proteccin
social
Una
evaluacin
del
impacto de los apoyos en
efectivo de Progresa sobre
las transferencias privadas
entre los hogares
The effectiveness of NGO
campaigning: lessons from
practice
Apoyo social
Salud y proteccin
social
Evaluating Decentralized
Social Sector Programs:
Evidence from Moroccos
BAJ
An Occupational Health
Programme for Adults and
Children in the Carpet
Weaving
Industry,
Mirzapur, India: a case
study in the informal
sector.
Journal
Jacoby HG. (2000)
Marruecos
Se emple informacin de la
ENCASEH97 y el conjunto de
datos ENCEL.
Anlisis economtricos.
Anlisis de regresin.
Se
examin
documentos,
militantes de las organizaciones y
a los beneficiarios.
Entrevista semi- estructurara,
recortes de diarios.
Diseo de evaluacin pre-post.
Institucional
India
Journal
Se emparej la muestra de
tejedores con la muestra de no
tejedores segn edad y situacin
socioeconmica.
Se aplic cuestionarios.
207
rea de estudio
Ttulo de la evaluacin
Educacin y apoyo
social
Effects
on
School
Enrollment
and
Performance
of
a
Conditional
Transfers
Program in Mexico
Autores / lugar de
aplicacin / ao
Dubois P, De Janvry A.
& Sadoulet E. (2003)
Mxico
Institucional
Empleo
Jalan,
Ravallion,
(2003)
Jyotsna;
Martin
Muestra
Metodologa
Conclusiones
152,000
individuos
comprendidos en 26, 000
familias, todos distribuidos en
506 comunidades.
Diseo
de
evaluacin
experimental.
La seleccin de las comunidades
fue de modo aleatorio.
Se
determin
grupo de
tratamiento (320 comunidades)
y
grupo
control
(186
comunidades).
2,802
participantes
del
programa Trabajar (Grupo de
tratamiento)
Anlisis de regresin
Encuesta de Desarrollo Social
(1997)
Diferencia en medias y Propensity
Score Matching
Argentina
Institucional
Educacin
Outcomes of Mandated
Prevenitive
Services
Programs of Homeless and
Truant
Children:
A
Follow-up Study.
100
adolescentes
que
participaron del programa de
readaptacin.
Estados Unidos
La ganancia promedio es de
103 dlares, lo cual es la
mitad del promedio del salario
del programa Trabajar. Las
ganancias de ingreso son
significativamente
mayores
para el caso de los jvenes (15
24 aos)
Se encontr un impacto
favorable del programa en la
intervencin de adolescentes
con conducta psicoptica.
Journal
Protocolo conteniendo escalas de
medicin del comportamiento
psicopatolgico.
Educacin
Womens Participation in
Rural Credit Programmes
in Bangladesh and Their
Demand for Formal Health
Care: Is There a Positive
impact?
The Consequences of
Government
Program
Nanda P. (1999)
Correlacin de Pearson.
Anlisis de Varianza
Anlisis de Regresin Mltiple.
La seleccin de los distritos fue
aleatoria.
Bangladesh
Journal
Pitt MM, Rosenzweig
MR. & Gibbons DM.
Se determin grupos de
tratamiento y grupo control
Variables instrumentales
No se especifica
Se encontr un impacto
positivo de la participacin de
las mujeres en los programas
de crdito sobre sus demandas
por una atencin de su salud
formal.
Se encontr un impacto
positivo de los programas de
208
rea de estudio
Ttulo de la evaluacin
Placement in Indonesia
Autores / lugar
aplicacin / ao
(1992)
de
Muestra
Indonesia
Institucional
Apoyo social
Institucional
Educacin
Long-Term Consequences
of
Secondary
School
Vouchers: Evidence from
Administrative Records in
Colombia
Angrist J, Bettinger E.
& Kremer M. (2004)
Colombia
4, 044 estudiantes
Se
determin
grupo de
tratamiento y grupo control.
Institucional
Metodologa
Conclusiones
Educacin
Nutricin
educacin
Remedying
Education:
Evidence
from
Two
Randomized Experiments
in India
Banerjee A, Cole S,
Duflo E. & Linden L.
(2005)
Anlisis de regresin.
Se evalu a los programas
Balsakhi y Computer Assisted
learning.
India
Se encontr un impacto
positivo de los dos programas
evaluados en cuanto el
incremento del rendimiento
acadmico de los nios.
Institucional
209
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
India
de
Muestra
Metodologa
Conclusiones
tratamiento.
Seleccin no aleatoria de de los
grupos de tratamiento.
Institucional
Educacin y salud
Duflo E, Dupas P,
Kremer M. & Snei S.
(2006)
328 escuelas.
Se
determin
grupo de
tratamiento (163) y grupo
control (165).
Puntuaciones
Z.,
evaluacin
costo-beneficio.
Asignacin aleatoria de grupo de
tratamiento y grupo control.
Anlisis de regresin
Kenya
Educacin
Monitoring
Works:
Getting Teachers to Come
to School
Institucional
Duflo E. & Hanna R.
(2006)
India
120 escuelas
Se
determin
grupo de
tratamiento (60) y grupo
control (60)
Institucional
Salud
Dupas P. (2006)
13,000 estudiantes
escuelas.
de
328
Kenya
Institucional
Se
determin
grupo de
tratamiento (2,500) y grupo
control.
La intervencin no produjo
una disminucin del embarazo
adolescente
pero
s
increment la posibilidad que
los embarazos adolescentes
ocurran
dentro
del
matrimonio.
El programa tuvo impacto en
disminuir significativamente
la tasa de ausencia a clase de
los profesores y el incremento
en las notas de exmenes de
los alumnos.
La campaa disminuy la
incidencia de embarazos de
parejas adultas entre las
adolescentes.
Educacin
Metodologa
cuantitativa.
cualitativa
210
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Entrevistas
Agricultura
desarrollo
organizacional
Gugerty
M.K.
Kremer M. (2004)
&
80 grupos de mujeres.
Se determin grupos de
tratamiento y grupos control
Kenya
Entrevsita
Institucional
Educacin
Decentralization:
Cautionary Tale
Kremer M, Moulin S.
& Namunyu R. (2003)
14 escuelas
Se
determin
grupo
tratamiento y control
de
Asignacin aleatoria de
escuelas a los grupos
tratamiento y control.
las
de
Kenya
Modelo Becker-Rosen
El programa increment la
permanencia
escolar
y
tambin gener demanda de
escolares de otras escuelas
cercanas.
Institucional
Educacin
Computer-Assisted
Learning: Evidence from a
Randomized Experiment
Linden L, Banerjee A.
& Duflo E. (2003)
Anlisis de regresin
Se
encontr
que
participacin
escolar
sensible a su costo.
la
es
9,654
adolescentes,
se
determin grupo de tratamiento
y grupo control
Estudio de caso
Anlisis de regresin,
India
Institucional
Salud
Randomised
controlled
trial of an adolescent
sexual health programme
in rural Mwanza, Tanzania
Apoyo social
Women
and
MicroFinance Programs
211
rea de estudio
Ttulo de la evaluacin
Salud y educacin
Autores / lugar de
aplicacin / ao
Institucional
Awasum D, Siench C.
& Obwaka E. (1999)
Muestra
Metodologa
Conclusiones
informantes clave.
Entrevistas
participantes.
Se encontr que la campaa
result ser una estrategia
efectiva y oportuna.
Kenya
Apoyo social
Institucional
Barnes C, Gaile G. &
Kibombo R. (2001)
Uganda
Institucional
La seleccin aleatoria de la
muestra de estudio.
Cuestionario.
Anlisis de
Cuadrada
Educacin
Nutricin
educacin
Medium-Term Effects of
the
Oportunidades
Program
Package,
including Nutrition, on
Education
of
Rural
Children Age 0-8 in 1997
Behrman
SW. &
(2004)
JR, Parker
Todd PE.
Varianza
y Chi
Mxico
Institucional
Se utiliz el emparejamiento de
212
rea de estudio
Empleo y salario
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Bell. LA (1995)
Muestra
Trabajadores de empresas
industriales formales.
Mxico y Colombia
Institucional
Pobreza
Evaluacin de Impacto en
Programas de Superacin
de Pobreza, el Caso del
Fondo de Inversin Social
(FOSIS) de Chile
Pobreza
social
Pobreza
social
apoyo
apoyo
Comparing Effects of
General Subsidies and
Targeted Transfers on
Poverty:
Robustness
Analysis Using Data Set
from Tunisia
Bibi, S. (1998)
Condicional
Cash
Transfers, Schooling and
Child
Labor:
MicroSimulating Bolsa Escola
Bourguignon
F,
Ferreira HG. & Leite
PG. (2003)
Metodologa
Conclusiones
No se especifica la dimensin
de familias
Tnez
Diseo
metodolgico
comparativo, con inclusin de
tnicas
cuantitativas
y
cualitativas.
Se utiliz la entrevista
informantes calificados
Institucional
Se utiliz la simulacin
Brasil
60,000 familias
213
rea de estudio
Ttulo de la evaluacin
Agricultura y apoyo
social
Educacin
A Longitudinal Study of
the Impact of Integrated
Literacy
and
Basic
Education Programs on
Womens Participation in
Social and Economic
Development in Nepal
Autores / lugar de
aplicacin / ao
Institucional
Bradstock, A. (2005)
Sudfrica
Muestra
Institucional
Burchfield S, Hua H,
Baral D. & Rocha V.
(2002)
1000 mujeres
Se
determin
grupo de
tratamiento y grupo control.
Nepal
Metodologa
Conclusiones
bienestar y comportamiento.
La muestra fue obtenida de
manera aleatoria.
Informantes clave, entrevistas de
grupos focales y clasificacin
socio-econmica.
No se encontr evidencia de
un impacto favorable del
programa en el ingreso
familiar.
Institucional
Se
utiliz
triangulacin.
Convivencia social
CARE (2004)
Kenya
mtodos
de
Diseo
de
investigacin
cualitativo y cuantitativo.
Se utiliz una seleccin de
muestra sistemtica y por estratos.
Institucional
Salud
Evaluation
of
GAVI
Immunization
Services
Support Funding
pases
como
Institucional
214
rea de estudio
Ttulo de la evaluacin
Pobreza
social
apoyo
Autores / lugar de
aplicacin / ao
Coady D, Dai X. &
Wang L. (2001)
Muestra
Metodologa
Conclusiones
China
Educacin
Salud y
educacin
Evidence of behaviour
change
following
a
hygiene
promotion
programme in Burkina
Faso
Institucional
Contreras D, Flores L.
& Lobato F. (2003)
Chile
Institucional
Curtis V, Kanki B,
Cousens S, Diallo I,
Kposehouen A, Sangar
M. & Nikiema M.
(2001)
Tcnicas
de
regresin
multivariada
de
mnimos
cuadrados ordinarios.
Se utiliz un modelo de
evaluacin economtrico.
Suma de cuadrados de dos etapas
Malawi (frica)
Empleo
Institucional
Ferro,
Andrea
Rodrigues
y
Ana
Kassouf (2004)
Anlisis economtricos
tendencia.
La muestra fue de 378837
nios.
Brasil
Salud y apoyo social
Randomized trial of a
statewide home visiting
program to prevent child
abuse: impact in reducing
Duggan A, Fuddy L,
Burrell L, Higman SM,
McFarlane E, Windham
A. & Sia C. (2002)
de
El programa de visita a
hogares no disminuy los
factores de riesgo mayores
hacia el abuso infantil.
215
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Agricultura y apoyo
social
The Impact
Reform on
Farm
Livelihoods
of Land
Comercial
Workers
Institucional
Farm Community Trust
of Zimbabwe (2001)
Zimbawe
Institucional
Grupos de discusin focal y
entrevistas a informantes clave.
Gua
de
entrevista
estructurada.
Pobreza
social
Educacin
Apoyo
Do
Microfinance
Programs Help Families
Insure
Consumption
Against Illness?
Empowering parents to
improve
education:
evidence
from
rural
mexico
Estudio
familias.
panel
de
7,000
Institucional
Gertler P, Patrinos H.
& Rubio-Codina M.
(2006)
Institucional
An Evaluation of Postcampaign Knowledge and
Practices of Exclusive
Breastfeeding in Uganda
Indonesia
Mxico
Salud
semi-
Se utiliz el estimador de
diferencia en las diferencias.
Estudio de evaluacin post test.
La informacin se obtuvo del
Estudio de Evolucin DISH
(1999).
Journal
Se sigui un proceso de muestreo
216
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
de dos etapas.
Entrevistas personales.
Tcnicas de regresin logstica
mltiple.
Nutricin
Pobreza y poltcas
de apoyo social
Haseen, F. (2006)
Se encontr un efecto
significativo del programa en
la calidad de dieta de las
familias beneficiarias.
Bangladesh
Institucional
Jones, P.(1997)
No se menciona.
Ghana
Institucional
Infraestructura
pobreza
Pobreza
social
apoyo
Meta-Analysis to Assess
Impact
of
Watershed
Program and People's
Participation
Diseo de
analtico.
evaluacin
meta-
Se utiliz la informacin de
hogares de las reservas forestales
de Chimaliro y Liwonde.
404 familias
Malawi
Journal
La muestra se seleccion de
manera aleatoria.
Grupos de discusin focal y
217
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Salud y educacin
Educacin
Empleo
Multinacional
Institucional
Torres G, Isaza L, &
Chvez LM. (2004)
Colombia
Journal
Leach, F, Abdulla S,
Appleton H, El-Bushra,
Cardenas N, Kebede K,
Lewis V. & Sitaram S.
(2000)
Se estableci un marco
muestral de 140 proyectos de
los 151 financiados entre 1997
y 2001.
Se realiz un muestreo
estratificados segn ao de
convocatoria, modalidad de
convocatoria, sujetos que se
convocan y rea temtica.
La muestra final es de 18
proyectos
78 mujeres
la
Multinacional (Etiopa,
India, Per y Sudan)
Pobreza
Journal
Masud N. & Yontcheva
B. (2005)
Multinacional
Anlisis de Regresin
Diseo meta-analtico
218
rea de estudio
Ttulo de la evaluacin
Pobreza
Salud
Medio ambiente
Autores / lugar de
aplicacin / ao
Institucional
McCord, A. (2004)
Sud frica
Muestra
Metodologa
Institucional
45 terratenientes. Se determin
grupo de tratamiento y grupo
control
Costa Rica
Institucional
Mudyarabikwa,
(2000)
5 gerentes
Zimbabwe
Journal
Pobreza
social
apoyo
Irene Norlund,
Thu Nhung Mlo Duon
Du,
Ngo Huu Toan
(2004)
O.
17 comunidades beneficiarias.
Conclusiones
analfabetismo.
Se
encontr
impactos
positivos de ambos programas
Se encontr evidencia de un
mayor
impacto de los
subsidios sobre la equidad y
los beneficios del consumidor
si
son
directamente
proporcionados
al
consumidor.
El impacto del programa ha
sido considerable y mayor de
lo que se haba esperado.
Cuestionario cualitativo.
Vietnam
Journal
219
rea de estudio
Ttulo de la evaluacin
Educacin
Autores / lugar de
aplicacin / ao
North
South
Consultants Exchange
(2003)
Muestra
Metodologa
Conclusiones
73 personas:
19 participantes para los grupos
de discusin focal y 64 para las
entrevistas.
Cuestionarios cualitativos.
Grupos de discusin focal
Entrevistas a profundidad.
Se encontr un impacto
positivo del programa
17,701 nios
Egipto
Salud
Institucional
Nyarko P, Pence B. &
Debpuur C. (2001)
Ghana
Se consider la informacin
respecto a los nios nacidos entre
octubre el 1 de 1994 y el 31 de
diciembre de 1999.
Institucional
Salud
Pannarunothai, S. &
Kittidilokku, S. (1997)
Tcnicas de regresin
Estudio de evaluacin pre post.
Grupos de discusin focal,
entrevistas a profundidad.
Tailandia
Se seleccion una muestra a
travs de una tcnica multietpica.
Journal
Cuestionario
administrado.
Educacin
Evaluating a Targeted
Social Program When
Placement is Decentralized
postal
auto
No se menciona
La asistencia a la escuela se
increment significativamente
en 24% como resultado del
programa
4,072 personas.
Estudio
de
prospectivo.
Bangladesh
Salud
Impact of a Communitybased
Comprehensive
Primary
Healthcare
Programme on Infant and
Institucional
Perry HB, Shanklin
DS. & Schroeder DG.
(2003)
Se
determin
grupo de
tratamiento y grupo control
evaluacin
220
rea de estudio
Ttulo de la evaluacin
Child Mortality in Bolivia
Nutricin y apoyo
social
Autores / lugar
aplicacin / ao
Bolivia
de
Journal
Pushpangadan,
K.(2002)
Muestra
Dos aldeas
Metodologa
Conclusiones
regiones pobres.
Diferencia de grupos
Evaluacin a travs del estudio de
caso.
Anlisis costo beneficio
India
Institucional
Quisumbing
(2003)
AR.
Etiopa
Institucional
Pobreza
social
y apoyo
Salud y educacin
Impact Assessment of
CFPR/TUP: A Descriptive
Analysis Based on 20022005 Panel Data
Rabbani M, Prakash
VA,
Sulaiman
M.
(2006)
Anlisis
de
tendencia,
puntuaciones Z y anlisis de
regresin
Se estableci un panel de las
familias
Bangladesh
Institucional
Diferencia en la diferencia
Magnani,
(2003)
R.
et
al.
No se menciona
3,930 personas
Se
determin
grupo de
tratamiento (n =655) y grupo
control (n =3.275).
Sudfrica
Institucional
Pobreza y empleo
Poverty
and
Employability Effects of
Workare Programs in
Argentina
Ronconi L, Sanguinetti
J, Fachelli S, Casazza
V. & Franceschelli I.
(2006)
Se encontr un impacto
definitivo del programa sobre
la base de recursos de la
familia
participante
del
programa.
Se encontr un efecto
substancial del programa a
corto y mediano plazo
respecto a reas tales como
conocimiento, confianza en el
uso del condn y uso del
condn.
Se encontr que para una gran
fraccin de los beneficiarios el
programa gener dependencia
y no increment su capital
humano.
221
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Argentina
de
Muestra
apoyo
Conclusiones
Propensity
Score
Matching,
Diferencia en las diferencias y
anlisis de regresin
Institucional
Pobreza
social
Metodologa
500 nios
y 1,400 familias
Se
determin
grupo de
tratamiento y grupo control
Guatemala
Se utiliz mtodos de anlisis
cuantitativos y cualitativos.
Institucional
Entrevistas estructuradas
Observacin en hogares
Grupos de discusin focal
Pobreza
social
apoyo
25 proyectos de desarrollo
social financiados por la
European
Comisin
Humanitarian Office (ECHO)
Revisin
exhaustiva
de
documentos y entrevistas personal
de ECHO y de las organizaciones
socias.
47 exportadores distribuidos en
35 aldeas
Sudan
Empleo y derechos
humanos
Institucional
Sharma AN, Sharma R.
& Raj N. (2000)
India
Se aplic un cuestionario
Grupos de discusin focal
Institucional
Apoyo
empleo
social
Conditional
Cash
Transfers, Adult Work
Incentives, and Poverty
Mxico
Se
determin
grupo de
tratamiento y grupo control
Diseo
de
evaluacin
experimental pre post.
Se utiliz informacin de la
Encuesta
de
Caractersticas
Socioeconmicas de los Hogares).
222
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Institucional
de
Muestra
Metodologa
Conclusiones
Salud
Pobreza
An
experimental
evaluation of recovery
management
checkups
(RMC) for people with
chronic substance use
disorders
Estados Unidos
Anlisis de regresin.
Diseo
de
investigacin
experimental.
La seleccin de los grupos de
tratamiento y de control se realiz
de manera aleatoria.
Journal
Se
seleccionaron
70
municipalidades de manera
aleatoria para la formacin de
cuatro grupos (uno de ellos el
grupo control). Se obtuvo un
total de 5,748 familias
Se demostr la importancia
del protocolo de intervencin
Recovery
Managment
Checkups como medio de
favorecer resultados a largo
plazo en personas con
desordenes crnicos en el
consumo de sustancias
Se encontr un efecto
estadsticamente positivo del
impacto de la demanda de
intervencin pero no en la
entrega de la intervencin.
Diferencia de medias
Diferencia en la diferencia
Seleccin aleatoria
Salud
Trabajadoras sexuales
Sudfrica
Se
realizaron
estimaciones
economtricas
Diseo de evaluacin cualitativo
Grupos de discusin focal y
entrevistas a profundidad a
trabajadoras sexuales.
Diseo
Institucional
Salud
Stanton
BF,
et
al.
515 jvenes.
de
evaluacin
223
rea de estudio
Ttulo de la evaluacin
and abstinence among
Namibian youth following
a
HIV
risk-reduction
intervention:
a
randomized, longitudinal
study
Salud
Autores / lugar
aplicacin / ao
(1998)
de
Muestra
Metodologa
Conclusiones
Se
determin
grupo de
tratamiento y grupo control
My future is My Choice
redujo el comportamiento de
riesgo de VIH entre los
participantes
sexualmente
inexpertos.
Namibia (frica)
Journal
Underwood
Hachonda
Serlemitsos
E.
Bharath U. (2001)
C,
H,
&
Diseo de evaluacin
experimental pre post.
cuasi-
Zambia
Pobreza
social
apoyo
Impact Assessment of
Poverty
Alleviation
Programmes from Human
Rights Perspective
Institucional
Bandyopadhyay KR. &
Mukherjee AN. (2005)
India
Institucional
Calidad de vida
An
Assessment
of
Community-Based Health
Financing Activities in
Uganda
Derriennic Y, Wolf K.
& Kiwanuka-Mukiibi
P.
(2005)
No se especifica
No se especifica
Uganda
Educacin,
salud,
nutricin y poblacin
Evaluating
Preschool
Programs when Length of
Exposure to the Program
Varies: A Nonparametric
Institucional
Behrman, Jere; Cheng,
Yingmei; Todd, Petra
(2003)
Estudio
de
experimental.
diseo
Diferencia en la diferencia
cuasi-
224
rea de estudio
Ttulo de la evaluacin
Approach
Autores / lugar
aplicacin / ao
Bolivia
de
Institucional
Educacin,
proteccin
social,
suministro de agua y
sanidad
Rawlings,
Laura;
Sherburne-Benz,
Lynne; Van Domelen,
Julie (2004)
Muestra
comunidades similares en las
que el programa no ha sido
presentado y nios que estn en
el programa por menos de un
mes.
Familias beneficiarias de los
programas
(grupo
de
tratamiento) y familias no
beneficiarias (grupo control)
Armenia,
Bolivia,
Honduras, Nicaragua,
Per
y
Zambia,
(multinacional)
Metodologa
Conclusiones
Variables instrumentales
Otros
mtodos
Emparejamiento.
Anlisis
de
multinacional.
de
impacto
Educacin
Caso nico
Caso nico
Estados Unidos
Journal
Rawlings, Laura B.,
and Gloria M. Rubio.
(2003)
Brasil,
Mxico,
Honduras, Jamaica, y
Nicaragua
(multinacional)
Institucional
Educacin,
transporte,
suministro de agua y
La seleccin de la muestra no
fue aleatoria, incluyendo 249
aldeas de poblacin rural
225
rea de estudio
Ttulo de la evaluacin
sanidad
Household Welfare
Rural Georgia
in
Autores / lugar
aplicacin / ao
Georgia
de
Muestra
Institucional
Educacin
Educacin: gestin
del sector pblico
Metodologa
Conclusiones
secundaria se increment
significativamente
en
comparacin
con
las
comunidades en control.
Diferencia en la diferencia y
Propensity Score Matching
Se utiliz el estudio de hogares.
Institucional
Galiani,
Sebastian;
Schargrodsky, Ernesto
(2002)
Argentina
Institucional
Salud
Forrest S, Masters H.
& Milne V. (2004)
Reino Unido
Journal
16 participantes
Se utiliz en mtodo de
evaluacin de diferencia en la
diferencia.
Diseo cualitativo
Se utiliz la entrevista semiestructurada.
El anlisis de los datos fue
conducido sobre una base
temtica y comparativa y el
programa de anlisis cualitativo
NUDIST.
El
estudio
mostr
la
importancia del proceso de
reconstruccin
de
la
Intervencin Psicolgica en
los participantes para la
prctica cotidiana y la
importancia de los resultados
de capacitar en actitudes y
enfoques.
Existe
poca
evidencia
de
que
los
encuestados perciban el uso
extensivo de la Intervencin
Psicolgica como el objetivo
final de los cursos de
capacitacin.
226
rea de estudio
Ttulo de la evaluacin
Suministro de agua
y sanidad
Autores / lugar de
aplicacin / ao
Galdo,
Virgilio;
Briceno, Bertha (2004)
Muestra
Metodologa
Conclusiones
Se encontr un impacto
negativo significativo en la
mortalidad infantil
Ecuador
Institucional
Salud
An impact evaluation of
student teacher training in
HIV/AIDS education in
Zimbabwe
Chifunyisea T, Benoyb
H, & Mukiibi B. (2002)
Zimbabwe
Journal
Salud
Evaluation of a Model
Self-Help
Telephone
Program:
Impact
on
Natural Networks
Diferencia de medias
Diferencia en la diferencias
Propensity score matching.
Se utiliz cuestionarios de lnea
base y seguimiento, y guas para
grupos de discusin focal.
Goodman, C. (1990)
Canad
Journal
81
participantes
fueron
seleccionados aleatoriamente
para conformar una red
telefnica o a una serie de
lecturas
profesionales
accesibles a travs del telfono,
y luego fueron reasignados al
componente alternativo luego
de tres meses.
Hubo un incremento en el
conocimiento de la prevencin
del
Virus
de
Inmunodeficiencia Humana
(VIH) y en la habilidad de los
profesores para temas de salud
reproductiva y sexual. Sin
embargo,
como
los
estudiantes
estuvieron
expuestos a otro material de
VIH fuera del programa, no
todos los cambios se deben al
programa.
Seis meses de aplicado el
programa
dej
a
los
participantes
con
una
acrecentada informacin y
apoy la satisfaccin y
desarrollo el compromiso de
las familias y amigos como
apoyos emocionales.
227
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
Social Conflict.
Salud
Evaluation of a Peer
Assessment Approach for
Enhancing
the
Organizational Capacity of
State Injury Prevention
Programs
Revisin documentaria.
Criterios del Programa State
Techinical
Assesment Team
(STAT)
Holanda
Journal
Pobreza
Evaluation of Rhode
Islands
Family
Independence
Program
(FIP)
Reino Unido
Institucional
Desarrollo urbano
Bamberger, Michael;
Gonzalez-Polio,
Edgardo;
Sae-Hau,
Umnuay (1982)
El Salvador
Se
utiliz
informacin
administrativa
de
diversas
fuentes, incluyendo informacin
del estado del registro de apoyo
en efectivo, y de los informes de
empleo e ingresos del programa
de Seguro de Desempleo.
Se sigui un diseo de estudio
longitudinal,
utilizndose
asimismo los estimadores de
efectos combinados y de efectos
aleatorios.
Estudio
de
diseo
cuasi
experimental.
La evaluacin de impacto
revel que luego de un ao,
los siete programas estatales
para la prevencin de daos
haban actuado sobre 81% de
las recomendaciones recibidas
durante las visitas de STAT.
Todos
los
programas
reportaron
ganancias
en
visibilidad y credibilidad
dentro del departamento de
salud estatal con otras
unidades y agencias.
Se encontr que el mayor
impacto del FIP fue el
incremento de la probabilidad
de que el apoyo corriente y en
efectivo a los beneficiarios s
funcionara. Sin embargo, el
ingreso estimado en la
ganancia trimestral debido al
FIP
fue
relativamente
modesto.
Institucional
228
rea de estudio
Ttulo de la evaluacin
Salud
Autores / lugar de
aplicacin / ao
Braun M.; Giugliani E,
Matos M, Giugliani C,
Proenco A, & Machado
A, (2003)
Muestra
Metodologa
Conclusiones
bebs
El estudio muestra un
significativo incremento de la
tasa de lactancia materna,
especialmente la de tipo
exclusiva, luego de la
implementacin de la BavyFiendly Hospital Initiative
(BHFI).
Primer cohorte:
nacidos en 1994
187
Brasil
Journal
Salud
Evaluation
of
the
Pharmaceutical Industry
Investment Program
Productivity
Commission (2003)
Australia
Institucional
Empleo
10000
jefes
de
hogar
localizados alrededor de 75
municipalidades, tanto del rea
rural como urbana.
Diseo
de
estudio
post
tratamiento, sin comparacin.
Se utilizaron dos fuentes de datos:
la Encuestas Nacional de Calidad
de Vida (1997) y el estudio
conducido por el Servicio
Nacional de Aprendizaje (SENA).
229
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Educacin,
Salud,
Nutricin
y
poblacin,
suministro de agua y
sanidad
Muestra
Honduras
Institucional
Salud, Nutricin y
Poblacin
The
Impact
of
PROGRESA on Health
Salud
Findings
from
a
retrospective
process
evaluation of five HIA
studies
Estudios previos
semejanzas.
La informacin es de fuente
secundaria, proveniente del Biannual Household Survey de la
Oficina de Estadstica y Censos
de Honduras y de los estudios de
hogares.
Diseo exploratorio
Entrevistas cualitativas detalladas
fueron tomadas a informantes
clave en los estudios de
evaluacin de impacto en salud
(Health Impact Asessment = HIA)
Journal
Conclusiones
Diferencia en la diferencia y
comparacin Pipeline.
Inglaterra
Educacin
Metodologa
Se
utiliz
estructurada.
una
encuesta
El
programa
increment
significativamente
la
utilizacin de las clnicas de
salud pblica para el cuidado
de prevencin, asimismo,
existen significativos avances
en la salud de los nios y
adultos.
Los principales hallazgos
muestran preocupacin por la
necesidad del seguimiento y
evaluacin de las actividades
relacionadas. Sin embargo,
ninguno de los cinco estudios
de
HIA,
y
de
los
entrevistados, haba estado
incluido o haba sido sujeto a
una evaluacin externa o
independiente.
El programa est impactando
en gran nmero de estudiantes
a travs de los esfuerzos de
promocin del programa.
230
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Estados Unidos
de
Muestra
Metodologa
dos dimensiones: estado actual
del programa y tendencia del
programa.
Institucional (Liibro)
Suministro de Agua
y sanidad
Salud, Nutricin y
Poblacin
Miguel,
Kremer,
(2003)
Edward;
Michael
Kenya
Se determin grupos de
tratamiento y control segn
etapa de la evaluacin
Estimador de Diferencia en la
diferencia
2000 hogares
Journal
Pobreza
Conclusiones
Se encontr un retorno
promedio del desembolso del
programa de 9 a 10%,
superior al impacto de la
231
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Institucional
Pobreza
Hidden
Impact?
Household
Saving in
Response to a Poor-Areas
Development Project.
Pobreza
Household Effects of
African
Community
Initiatives: Evaluating the
Impact of the Zambia
Social Fund
La muestra es de 20950
familias que pertenecen a 99
comunidades
donde
al
programa ha intervenido.
Zambia
Metodologa
Conclusiones
Institucional
Diferencia de Medias
Pobreza
Impact Evaluation of a
Conditional Cash Transfer
Se
seleccionaron
a
42
comarcas, de las cules se
232
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Nicaragua
Muestra
Metodologa
Conclusiones
Instituccional
Educacin,
salud,
nutricin
y
poblacin,
suministro de agua y
sanidad
Impact Evaluation of
Social funds. An Impact
Evaluation of Education,
Health, and Water Supply
Investments
by
the
Bolivian Social Invesment
Fund
Bolivia
Journal
Educacin,
Salud,
Nutricin
y
Poblacin,
Suministro de Agua
y Sanidad
Impact Evaluation of
Social Funds. The Impact
and Targeting of Social
Infrastructure Investments:
Lessons
from
the
Nicaraguan Social Fund
Nicaragua
Estimador de Diferencia en la
Diferencia.
Propensity Score Matching
Otros
mtodos
de
emparejamiento.
Journal
Educacin
Impact
Evaluations
of
Chase,
Robert
S.
Se
obtuvo
una
muestra
Diferencia de medias
233
rea de estudio
Ttulo de la evaluacin
Social Funds. Supporting
Communities
in
Transition: The Impact of
the
Armenian
Social
Investment Fund
Autores / lugar
aplicacin / ao
(2002)
de
Armenia
Muestra
Metodologa
Conclusiones
Journal
Se determin grupo de familias
en tratamiento y grupo de
familias aspirantes (control).
La informacin proviene de un
estudio de familias integrado
(1998-1999)
que
incluye
informacin de ingreso, gasto,
educacin y salud familiar.
Se realizaron los correspondientes
anlisis de regresin.
Educacin
Impact of a vocational
counselor on employmentrelated outcomes among
methadone patients
Journal
Diseo cuasiexperimental.
La informacin adicional acerca
de los servicios de educativovocacionales brindados a los
pacientes fueron obtenidos de los
reportes ingresados al Servicios
de Alcoholismo y Abuso de
Sustancias por el Consultor de
Rehabilitacin Vocacional.
Se utilizaron anlisis de regresin
logstica.
Educacin
Se
concluy
que
el
establecimiento
de
un
consejero de rehabilitacin
vocacional en la clnica que
mantuvo la metadona es una
intervencin
educativa
vocacional de costo efectivo.
Los servicios educativosvocacionales se acrecentaron
significativamente
en
la
Clnica 1; la presencia
educativa-vocacional
se
increment de 53 a 56% en la
clnica 1 y disminuy en la
clnica 2, 45-43%.
Los centros del programa ATE
impactan
preactiva
y
positivamente
en
los
estudiantes y la fuerza
tecnolgica de los Estados
Unidos. El nmero de
alumnos que completan el
programa exceden a los que lo
abandonan.
234
rea de estudio
Ttulo de la evaluacin
Justicia
Impact of Legislation
Requiring Moped and
Motorbike Riders to Wear
Helmets
Autores / lugar de
aplicacin / ao
Ballart X. & Riba C.
(1995)
Espaa
Journal
Pobreza
Salud
Will
welfare
reform
influence marriage and
fertility? Early evidence
from
the
ABC
demostration
Impact of Prooviding a
Medical Home to the
Uninsured Evaluation of a
Statewide Program
Fein, D. (2001)
Estados Unidos
Muestra
Metodologa
Conclusiones
La muestra comprende el
nmero de accidentes en
pequeas motocicletas y casco
(grupo de tratamiento) y en
motocicletas grandes (grupo
control).
El impacto de la adopcin de
la medida legislativa grande y
permanente pero el hbito de
uso de casco de los
motociclistas no ha sido
influido por lo campaa a
travs de los medios ni por las
posibles sanciones.
Journal
desarrollaron
anlisis
de
235
rea de estudio
Educacin
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Jalan,
Glinskaya,
(2004)
de
Joytsna;
Elena
India
Institucional
Educacin
Incentives to Learn
Kremer M, Edward M,
Thornton R. & Ozier
O. (2004)
Kenya
Muestra
La
seleccin
de
los
beneficiarios al programa no
fue aleatoria, constituyndose
una muestra total integrada por
las familias de 40 distritos.
Asimismo, el impacto fue
evaluado a travs de dos submuestras: grupo de tratamiento
y grupo control.
Se seleccion una muestra
aleatoria de 127 escuelas
primarias, 63 fueron invitados a
participar en el programa y 64
sirvieron como grupo control.
Institucional
Salud y nutricin
Alderman,
Harold;
Seubuliba,
Isaac;
Konde-Lule,
Joseph;
Hall, Andrew (2003)
Se realiz un muestreo
aleatorio de grupos con tres
estratos,
obtenindose
50
parroquias.
Uganda
Se
determin
grupo de
tratamiento y grupo control.
Institucional
Educacin
Investing In Children
Through The Food For
Metodologa
Conclusiones
tendencia y comparacin de
resultados a travs de la prueba de
McNemar`s
un importante desarrollo a
travs de muchas mediciones
de la utilizacin del cuidado
de la salud y representa un
mtodo exitoso y fcilmente
financiable para que los
estados fomenten el cuidado
de la salud de sus poblaciones
no aseguradas..
El programa tuvo un impacto
positivo y significativo sobre
la asistencia a la escuela y
sobre el mayor nivel de
educacin lograda.
La provisin peridica de
frmacos antihelmnticos tuvo
un impacto significativo sobre
el ndice de ganancia de peso
en los nios menores de cerca
de 10% sobre lo esperado si el
tratamiento se realiza dos
veces al ao.
El programa tuvo un efecto
positivo significativo en la
236
rea de estudio
Ttulo de la evaluacin
Education Program
Autores / lugar de
aplicacin / ao
Haider
Chowdhury.
(2004)
Muestra
Institucional
Ezemenari,
Kene;
Subbarao, K (1998)
Jamaica
Diferencia
de
medias
estadsticas descriptivas.
El panel de estudio estuvo
integrado por 986 familias.
Se
determin
grupo de
tratamiento y grupo control.
Institucional
Yap,
Yoon-Tien,
Guilherme
Sedlacek,
and Peter Orazem.
(2002)
Brasil
Institucional
Salud, Nutricin y
Poblacin
Longitudinal Evaluation
of Uganda Nutrition and
Early Child Development
Program
Alderman,
Harold;
Britto, Bia; Siddiqi,
Arjumand (2004)
Uganda
Institucional
Se
determin
grupo de
tratamiento y grupo control.
Educacin
Conclusiones
Bangladesh
Pobreza
Metodologa
de
El
programa
redujo
significativamente las brechas
de pobreza. Sin embargo no
sucede lo mismo con la
incidencia de la pobreza.
dominancia
el
programa
237
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
increment el consumo de
medicinas antiparasitarias.
Transporte
de
Energa Elctrica y
otras Energas.
Salud, Nutricin y
Poblacin
No informa.
Colombia
Institucional
Se
aplicaron
cuestionarios
detallados
para
obtener
informacin de la Lnea Base.
Diferencia en la diferencia
Variables
instrumentales
(distancia de la residencia de la
familia al programa y la distancia
La participacin en el
programa
Hogares
Comunitarios de Bienestar
Familiar tiene un efecto
positivo significativo sobre la
altura de los nios, sobre la
probabilidad de estar en la
escuela, as como sobre la
probabilidad de que sus
madres estn empleadas y con
ms horas laborales.
238
rea de estudio
Desarrollo
Ttulo de la evaluacin
Microcrdito, Evaluacin
de impacto. Caso: Brasil y
Chile
Autores / lugar
aplicacin / ao
de
Aroca, P. (2002)
Brasil Chile
Muestra
Metodologa
de la residencia de todas las
familias del pueblo hacia el
programa)
Otros
mtodos
de
emparejamiento.
Anlisis de puntuaciones Z,
desviacin estndar,
Se definieron dos grupos: las
personas
que
recibieron
microcrdito y las que no (grupo
control).
Institucional
Se utiliz los puntajes de
predisposicin y las tcnicas de
emparejamiento.
Salud
Suministro de Agua
y
Sanidad
con
efectos en educacin
Multi-media
campaign
exposure
effects
on
knowledge and use of
condoms for STI and
HIV/AIDS prevention in
Uganda
Bessinger R, Katende
C, & Gutpa N (2004)
Uganda
Journal
Se obtuvo una
muestra
constituida por 1312 familias
que conformaron el grupo
Conclusiones
239
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Muestra
Metodologa
Conclusiones
beneficiado y no beneficiado
con el programa.
significativo
y
robusto
impacto de las inversiones en
educacin
primaria
del
programa sobre los resultados
e indican un significativo
impacto de la inversin en
agua del programa sobre los
resultados en salud.
La
comparacin
de
los
beneficiarios y no beneficiarios de
FISE se realiz a travs de la
comparacin contrafactual.
Estimador de Diferencia en la
Diferencia.
Propensity Score Matching
Otros
mtodos
de
emparejamiento.
Educacin
Nicaragua's
School
Autonomy Reform: Fact
or Fiction?
Nicaragua
Un Cuestionario especial fue
diseado para conocer acerca de
la toma de decisiones en la
escuela.
Institucional
Educacin
Organizational learning: A
cross-national pilot-test of
effectiveness in childrens
services
Se
utiliz
un
modelo
economtrico para comparar las
escuelas
beneficiarias
del
programa de las no beneficiarias.
Se utiliza un diseo cuasiexperimental y longitudinal.
El aprendizaje organizacin fue
medido con la Organizational
Learning
Assesment
Scale
(OLAS);
mientras
que
la
percepcin
de
la
eficacia
La participacin en el
programa tuvo un impacto
positivo y significativo sobre
la toma de decisiones para la
escuela primaria y secundaria.
El programa tuvo un efecto
positivo y significativo en la
influencia percibida de los
directores tanto en los asuntos
pedaggicos
como
administrativos.
240
rea de estudio
Educacin
Ttulo de la evaluacin
Philippines:
Student
Outcomes in Philippine
Elementary Schools: An
Evaluation
of
Four
Experiments
Autores / lugar
aplicacin / ao
de
Muestra
Se seleccionaron 40 escuelas
ubicadas en reas con bajos
ingresos. De estas, 20 fueron
integraron
el
grupo
de
tratamiento
y 20 el grupo
control.
Journal
Pobreza y desarrollo
De Vreese, CH.(2004)
Holanda
Journal
Metodologa
Conclusiones
aprendizaje organizacional y
las
mediciones
de
satisfaccin
laboral
y
emponderamiento entre el
personal.
Los
resultados
fueron confirmados slo para
el caso de los programas de
Estados unidos.
Se
utilizaron
anlisis
de
correlacin no-paramtrica y
paramtrica.
Se utiliz un diseo de evaluacin
aleatorio.
Se utiliz el estimador
Diferencia en la Diferencia.
de
962 encuestados
23 noticias obtenidas de manera
aleatoria.
241
rea de estudio
Salud
Educacin,
Nutricin
Poblacin.
Empleo
Salud,
y
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Behrman
JR.
Hoddinott J (2001)
Skoufias,
(2001)
de
&
Mxico
Muestra
Institucional
Emmanuel
Mxico
Institucional
Galasso,
Emanuela;
Ravallion,
Martin;
Salvia, Agustin (2001)
Argentina
Institucional
Educacin
Progressing
Through
Progresa:
An
Impact
Assessment of a School
Subsidy Experiment
Behrman,
Jere;
Sengupta, Piyali; Todd,
Petra (2001)
Mxico
Metodologa
Conclusiones
polticamente
menos
involucrados.
Las estimaciones indican que
PROGRESA no tuvo efectos
en el estado nutricional del
nio preescolar. Sin embargo,
a travs del anlisis de
regresin se encontr que el
programa est relacionado
significativamente con el
crecimiento en estatura y
disminuye las probabilidades
de atrofio en la niez.
PROGRESA increment de
manera
significativa
la
matrcula escolar, asimismo
redujo la tasa de desercin
escolar y la probabilida de
trabajar en los escolares.
242
rea de estudio
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
Institucional
de
Muestra
Metodologa
Conclusiones
secundaria.
Simulacin
programa.
Suministro de agua y
sanidad.
No se menciona
Chile
Institucional
Educacin
Remedying
Education:
Evidence
from
Two
Randomized Experiments
in India
Banerjee,
Abhijit,
Shawn Cole, Esther
Duflo & Leigh Linden.
(2004)
India
Institucional
Educacin
Retrospective
Vs.
Prospective Analyses of
School Inputs: The Case of
Flip Charts in Kenya
Se
determin
grupo de
tratamiento y grupo control.
Muestra integrada por 89
escuelas que recibieron de
manera aleatoria los rota folios
(grupo de tratamiento) y 89
escuelas que no los recibieron
(Grupo control).
del
impacto
del
Diferencia
de
medias
simulacin contrafactual.
243
rea de estudio
Educacin
Ttulo de la evaluacin
School
Meals,
Educational Achievement,
and School Competition:
Evidence
from
a
Randomized Evaluation
Autores / lugar
aplicacin / ao
Vermeersch,
Kremer,
(2004)
de
Christel;
Michael
Kenya
Muestra
Institucional
Educacin
Mercado laboral y
Empleo
Social Protection in a
Crisis: Argentina's Plan
Jefes y Jefas
Metodologa
Conclusiones
Se
utiliz
la
informacin
provinientes
del
Intercensal
Survey of Indonesia (SUPAS,
1995).
Se
determin
grupo de
tratamiento y grupo control.
Se dividi la muestra entre los
que se benefician del programa
(grupo de tratamiento) y los
que solicitaron pero no se
benefician del tratamiento
(grupo control)
Anlisis de Regresin
Variables instrumentales,
Stage Least Squares
Two
Se utiliz la informacin de la
Encuesta Permanente de hogares
(2001 y 2002)
regresiones ms retrospectivas
tendran
mayor
sobrestimacin de los efectos
de un programa que brinda
rotafolios a gran escala.
El programa tuvo un efecto
positivo y significativo sobre
el promedio de participacin
escolar y en su desempeo en
los exmenes de evaluacin;
asimismo
se
encontr
influencia
positiva
significativa en el peso de los
estudiantes varones
El
programa
increment
significativamente los aos de
educacin de los nios de 2 a
6 aos de edad en 0.12 aos
para la muestra troal y en 0.20
aos para la muestra de
quienes perciben salario. El
salario
se
increment
significativamente en 1.5%
como resultado del programa.
El programa tiene un impacto
positivo y significativo en el
ingreso familiar e individual.
Institucional
Salud
Social
Support
and
Psychological Functioning
Among High-Risk Mother:
The impacto f the Baby
Love Maternal Outreach
Worker Program
Navaie-Waliser
M,
Martin SL, Tessaro I,
Campbell MC, & Cross
AW. (2000)
Estados Unidos
de
244
rea de estudio
Educacin
Educacin
Ttulo de la evaluacin
Autores / lugar
aplicacin / ao
de
Journal
Schollar, Eric (2001)
Sudfrica
Journal
Jonathan A. Supovitz
(2005)
Muestra
Estados Unidos
Journal
Metodologa
Conclusiones
Diferencia de medias
245
8.5%
16.4%
13.4%
18.5%
37.4%
1.4%
Diversos continentes (4.2%)
No se especifica (0.2%)
Figura N 3.1. Distribucin porcentual de la evaluacin de impacto de los programas sociales segn
continente (Fuente: Elaboracin propia).
246
frica
Mxico (33)
Chile (3)
Kenya (16)
Per (33)
Argentina (16)
Colombia (15)
Brasil (14)
Jamaica (2)
Repblica
Dominicana (2)
Hait (1)
Panam (1)
Paraguay (1)
Multinacional
(13)
Honduras (7)
Nicaragua (6)
Bolivia (5)
Ecuador (4)
Guatemala (4)
Reino Unido
(19)
Suecia (4)
Holanda (3)
Espaa (2)
Alemania (2)
Europa
Dinamarca (1)
Italia (1)
Polonia (1)
Rusia (1)
Multinacional
(2)
Asia
Bangladesh
(15)
India (12)
Indonesia (10)
Armenia (2)
Sudfrica (7)
Uganda (6)
Burkina Faso
(2)
Camern (2)
Liberia (2)
Ghana (5)
Marruecos (5)
Mozambique (2)
Egipto (1)
Filipinas (8)
China (4)
Nepal (2)
Singapur (1)
Malawi (4)
Tanzania (4)
Tnez (4)
Zambia (4)
Eritrea (1)
Magadascar (1)
Namibia (1)
Sierra Leona (1)
Israel (4)
Tailandia (1)
Pakistn (3)
Turqua (1)
Vietnam (3)
Multinacional (1)
Etiopa (3)
Guinea (3)
Zimbabwe (3)
Sudn (1)
Turqua (1)
Zaire (1)
Georgia (2)
Korea (2)
Oceana
Australia (6)
Canad (4)
Multinacional (1)
Bulgaria (1)
Frecuencia
328
103
2
433
Porcentaje
75.8
23.8
0.4
100.0
247
7.4%
(1976-1989)
15.2%
(1990-1999)
77.3%
(2000- Ag.2006)
Frecuencia
60
40
20
0
1981
1985
1993
1997
2001
2005
Frecuencia
113
94
64
49
19
18
18
16
14
13
8
4
3
433
Porcentaje
26.1
21.7
14.8
11.3
4.4
4.2
4.2
3.7
3.2
3.0
1.8
.9
.7
100.0
248
Por otro lado, segn se observa en la Tabla 3.7, que entre las poblaciones
beneficiadas por los programas sociales se destacan las familias (48.1%) y los
estudiantes de educacin bsica (11.4%). La eleccin de estas poblaciones
beneficiarias guarda correspondencia con las reas de estudios preponderantes en
las evaluaciones de impacto sealadas anteriormente: educacin, salud y pobreza
extrema.
Tabla N 3.7. Poblacin beneficiaria de los programas considerados en los artculos o informes de
evaluacin de impacto (Fuente: Elaboracin propia).
Tipo
Familias
Estudiantes de educacin bsica
Nios e infantes
Adultos y ancianos
Jvenes
Mujeres
Profesionales o expertos
Pases
Pacientes o personas discapacitadas
Estudiantes de educacin superior
No se especifica
Total
Frecuencia
210
50
41
38
28
26
13
10
8
5
8
437
Porcentaje
48.1
11.4
9.4
8.7
6.4
5.9
3.0
2.3
1.8
1.1
1.8
100.0
Frecuencia
227
79
36
36
28
12
19
437
Porcentaje
51.9
18.1
8.2
8.2
6.4
2.7
4.3
100.0
249
Tabla N 3.9. Origen de los datos utilizados para el anlisis de la evaluacin de impacto (Fuente:
Elaboracin propia).
Tipo
Primarios
Secundarios
No se especific
Total
Frecuencia
218
164
55
437
Porcentaje
49.9
37.5
12.6
100.0
Frecuencia
157
140
60
10
70
437
Porcentaje
35.9
32.0
13.7
2.3
16.0
100.0
Frecuencia
179
83
62
41
7
65
437
Porcentaje
41.0
19.0
14.2
9.4
1.6
14.9
100.0
250
Por otro lado, los estudios experimentales refieren, en primer lugar, el uso
de muestreo probabilstico (n=36), mientras que los estudios cuasi-experimentales
reportan con mayor frecuencia el muestreo tanto probabilstico (n=48) como no
probabilstico (n=54). Los estudios pre-experimentales, de anlisis cualitativo y
meta-anlisis fueron los que, en mayor nmero, no utilizaron muestreo
probabilstico. Estos valores se presentan en la Tabla 3.13.
Tabla N 3.12. Metodologa de investigacin empleada segn el uso de grupo control en los
artculos o informes de evaluacin de impacto (Fuente: Elaboracin propia).
Uso de grupo control
Metodologa
No (Fr)
1
6
54
20
3
84
Experimental
Cuasi-experimental
Pre-experimental
Anlisis cualitativo
Meta-anlisis
Total
Total (Fr)
S (Fr)
40
172
7
5
1
225
41
178
61
25
4
309
Probabilstico
36
48
11
7
102
Total
Censo
40
131
37
24
3
235
3
1
Frecuencia
46
28
51
22
41
45
101
103
437
Porcentaje
10.5
6.4
11.7
5.0
9.4
10.3
23.1
23.6
100.0
251
Tabla N 3.15. Diseos de evaluacin reportados en los informes de evaluacin de impacto (Fuente:
Elaboracin propia).
Tipo
Diferencias en diferencias
Pretest - postest
Diferencias slo postest
Series de tiempo interrumpidas
Costo beneficio
Estudio de caso
Descripcin de medias y porcentajes
Discontinuidad de la regresin
No se especifica
Total
Frecuencia
106
67
66
38
18
16
12
4
110
437
Porcentaje
24.3
15.3
15.1
8.7
4.1
3.7
2.7
.9
25.2
100.0
Frecuencia
392
33
12
437
Porcentaje
89.7
7.6
2.7
100.0
Frecuencia
341
86
427
10
437
Porcentaje
78.0
19.7
97.7
2.3
100.0
Frecuencia
166
Porcentaje
38.0
252
36
24
6
4
3
198
437
8.2
5.5
1.4
.9
.7
45.3
100.0
Frecuencia
346
72
19
437
Porcentaje
79.2
16.5
4.3
100.0
253
Frecuencia
29
404
3
436
Porcentaje
7.6
91.5
0.9
100.0
50
Ello no excluye que algunos autores nacionales han publicado sus informes va artculo de
investigacin en Working Pappers de instituciones extranjeras. Ejm: Chong A. & Galdo J. (2006) y
Valdivia M. (2004).
254
Porcentaje
20
10
Per
0
1976
Otros pases
1982
1988
1994
1998
2002
2006
255
Tabla N 3.22. reas de evaluacin de impacto en el Per y otros pases (Fuente: Elaboracin
propia).
reas
Agua y sanidad
Empleo
Educacin
Salud
infraestructura y electrificacin
Justicia
Alimentacin
Pobreza extrema
Desarrollo urbano (Ttulos de propiedad)
Micro crdito e ingresos familiar
Calidad de vida, convivencia social y medio ambiente
Agricultura y ganadera
No se especifica
Total
Per (n =29)
6.1
18.2
12.1
6.1
12.1
--15.2
12.1
--6.1
3.0
6.1
3.0
100.0
Tabla N 3.23. Poblacin beneficiaria de los programas evaluados en el Per y otros pases (Fuente:
Elaboracin propia).
Beneficiarios
Poblacin en general (familias)
Nios y nias
Estudiantes de educacin bsica
Adultos mayores y ancianos
Jvenes
Pacientes o personas discapacitadas
Mujeres
Profesionales o expertos
Pases
No se especifica
Total
Per (n =29)
54.5
15.2
9.1
--9.1
3.0
6.1
----3.0
100.0
Per (n =29)
18.2
6.1
51.5
--6.1
6.1
12.1
100.0
256
Per (n =29)
39.4
30.3
30.3
100.0
Per (n =29)
27.3
3.0
30.3
6.1
33.3
100.0
Per (n =29)
--30.3
24.2
9.1
--36.4
100.0
257
Per (n =29)
18.2
--18.2
6.1
3.0
--12.1
--42.4
100.0
Per (n =29)
21.2
--3.0
--75.8
100.0
258
Tabla N 3.30. Tcnicas de control de variables extraas utilizadas en la evaluacin del impacto de
los programas sociales del Per y otros pases (Fuente: Elaboracin propia).
Tcnicas
S
Grupo control
Variables instrumentales
Emparejamiento
54.0
7.5
19.3
23.8
1.3
0.8
S
48.5
9.1
27.3
Per (n =29)
No
15.2
69.7
51.5
No
especifica
36.4
21.2
21.2
Per (n =29)
21.2
------9.1
--69.7
100.0
Per (n =29)
63.6
12.1
24.2
100.0
259
260
261
(c) tenencia de activos durables y (d) de locacin. As, mediante el uso de tcnicas
multivariantes (basadas en el anlisis de componentes principales y escalas
ptimas), se define un sistema de puntuaciones por variables y categoras de
variables que posibilitan el clculo del IBEH y, por ende, un ordenamiento de la
poblacin. Finalmente, los autores plantean el uso del mtodo de conglomerados
para estratificar grupos homogneos al interior pero heterogneos entre s y
determinar los umbrales de bienestar para la elegibilidad de los hogares a los
subsidios pblicos. Los estimados muestran que el IBEH tiene una mejor
capacidad de discriminacin que otros indicadores tradicionales utilizados para la
segmentacin de la poblacin (Ej. gasto per cpita, nivel de pobreza, entre otros),
lo cual se traducira en resultados ms eficientes en trminos de reduccin de
errores de focalizacin. Asimismo, el menor costo relativo en la recopilacin de
informacin y el uso de informacin de mejor calidad y de fcil verificacin
favorecen su aplicacin como instrumento de focalizacin individual en mbitos
urbanos.
262
263
Principios
Parmetros
tericos
Criterios
metodolgicos
Procedimientos
estandarizados
Evaluacin
de impacto
4.1. PRINCIPIOS
Todo modelo sistmico contiene principios que rigen sus elementos
constitutivos51. El modelo ARYSIS no es la excepcin y se basa en los principios
propuestos por la American Evaluation Asociation (AEA, 1994; 2004) y por otras
instituciones internacionales.
Debe recordarse que las normas, estndares, guas orientativas y/o cdigos
en evaluacin, surgen a partir de la dcada de los aos ochenta y noventa en
algunos pases, cumpliendo una doble funcin52: a) por un lado, orientan a los
51
Segn la XXII edicin del Diccionario de la Real Academia Espaola, el trmino "principio"
significa, entre otros, "punto que se considera como primero en una extensin o cosa", "base,
origen, razn fundamental sobre la cual se procede discurriendo en cualquier materia", "causa,
origen de algo", "cualquiera de las primeras proposiciones o verdades fundamentales por donde se
empiezan a estudiar las ciencias o las artes". As, los principios son ideas, postulados ticos o
escritos fundamentales que condicionan y orientan la accin evaluativa.
52
Los primeros cdigos en elaborarse en el campo de la evaluacin de programas y polticas fueron
en el mbito anglosajn. El primero y ms importante de todos, las normas del Joint Committee, en
su primera edicin en 1981 y su segunda en 1994. Luego le siguieron los cdigos de la Asociacin
Americana de Evaluacin, 1994; la Asociacin Canadiense de Evaluacin, 1996; y la Asociacin
Australiana de Evaluacin, 1997. Tambin se aprobaron en 2001 unas orientaciones de evaluacin
por parte de la Asociacin Africana de Evaluacin, que son una adaptacin a las normas del Joint
Committee y en las modifican aproximadamente un 40% de las normas previamente existentes. En
el mbito europeo, se han aprobado cdigos u orientaciones de las Sociedades de Evaluacin
francesa (2003), alemana (2001), suiza (2000) y britnica. Mientras los modelos suizo y alemn
siguen la estructura de las normas del Joint Committee, el francs est formulado en formato de
grandes principios ticos (pluralismo, independencia, competencia, respeto, transparencia y
responsabilidad), y el ingls hace una interesante separacin de normas segn vayan dirigidas a
264
Principios del
proceso
Factibilidad
Rectitud
Precisin
Evaluacin
de impacto
265
Figura N 4.3. Principios bsicos del evaluador de impacto en ARYSIS (Fuente: Elaboracin
propia).
266
Michel Patton (1997) es uno de los principales precursores del mejoramiento de la utilizacin de
los resultados de las evaluaciones. Indica que un factor que atenta contra el uso de los resultados, es
la casi nula o vaga explicacin de los procedimientos empleados para recoger los datos y la forma
en que se analizan, quedando muchas veces los clientes y audiencias con estudios que solo han
servido para incrementar el nmero de libros de una estantera o simplemente justifican que ha sido
tomada con anterioridad a la realizacin del estudio.
267
268
269
4.1.2.3. Rectitud
El principio de rectitud est diseado para asegurar que la evaluacin sea
efectuada de manera legal y ticamente correcta, as como con el debido respeto
hacia el bienestar de los que estn involucrados en el proceso de evaluacin y de
todos aquellos que pudieran ser afectados por sus resultados. Tiene 8 indicadores:
1. Orientacin al servicio. Las evaluaciones deben ser diseadas para
ayudar a las organizaciones a dirigir y atender de manera efectiva
las necesidades del mayor nmero posible de participantes.
2. Acuerdos formales. Las obligaciones adquiridas por las partes
involucradas en el proceso de evaluacin (lo que ha de hacerse,
cmo, por quines y cundo) deben ser expresadas por escrito, de
manera que las partes involucradas se adhieran a todas las
condiciones de los acuerdos o puedan renegociar de manera formal.
3. Respeto a los derechos humanos. Las evaluaciones deben ser
diseadas y operadas para respetar y proteger los derechos y el
bienestar de las personas.
4. Interaccin humana. Los evaluadores deben respetar la dignidad
humana as como considerarla en su interaccin con otras personas
relacionadas con la evaluacin, de modo que los participantes no se
vean intimidados o perjudicados.
5. Dictmenes equilibrados y justos. La evaluacin debe ser ntegra y
equitativa en el examen y registro de las fortalezas y debilidades del
programa a evaluar, a fin de que las fortalezas y los problemas
puedan ser ponderados con buen juicio y prudencia.
6. Divulgacin de resultados. Los encargados del proceso de
evaluacin deben asegurarse que el conjunto de resultados, con las
limitaciones pertinentes, lleguen a las personas afectadas por la
evaluacin, as como cualquier otra que tenga derecho legal de
conocer sus resultados.
7. Conflicto de intereses. Los conflictos de intereses deben atenderse
de manera abierta y honesta, a fin de que esto no arriesgue el
proceso y resultados de la evaluacin.
8. Responsabilidad administrativa. El destino y gasto de los recursos
utilizados en el proceso de evaluacin deben reflejarse mediante
procedimientos contables transparentes; es decir, los encargados de
la evaluacin estn obligados a ser prudentes y ticamente
responsables, de que los recursos sean contabilizados y gastados
adecuadamente.
4.1.2.4. Precisin
Las normas de precisin estn diseadas para asegurar que la evaluacin
revele o muestre la informacin tcnica requerida, sobre los indicadores que
fundamentan el valor o mrito del programa que est siendo evaluado. Tiene 11
indicadores:
270
271
272
Analizaban la influencia de los programas sociales sobre el peso de los nios al nacer.
273
274
55
Esta condicin es necesaria, pero no suficiente, por lo que las conclusiones causales de los
diseos correlacionales, por s solos, no son vlidas.
275
56
Campbell (1986) "el fin principal que se persigue con la aleatorizacin (...) es la validez
interna, no la externa" p. 52.
276
Tabla N 4.1. Tipos de Validez y sus amenazas segn Campbell y Stanley (1966)
Validez
Interna
Amenazas
Historia
Maduracin
Definicin
Acontecimiento especfico entre el pretest y el post-test
Cambios debidos al mero paso del tiempo e independientes
del tratamiento
Efecto de la administracin de un test sobre los resultados en
otro posterior
Cambios en los criterios de evaluacin o atribuibles a las
caractersticas del instrumento
Tendencia a aproximarse a la media que ocurre en los grupos
seleccionados por sus valores extremos
Diferencias entre los grupos provocadas por una asignacin
sesgada de los sujetos a los tratamientos
Prdida diferencial de participantes entre los grupos de
comparacin
Interaccin entre seleccin y otras amenazas
Cambio en la sensibilizacin de los sujetos experimentales
provocado por el pretest
Se refiere a aquellos casos en los que los resultados
observados pudieran ser especficos de la situacin
investigada
Referidas a los factores que podan afectar a la Validez
Interna, tales como maduracin, historia, mortalidad, etc.
Administracin de test
Instrumentacin
Regresin estadstica
Seleccin
Mortalidad experimental
Validez
Externa
Seleccin
Interaccin entre las pruebas
y el tratamiento
Interaccin entre seleccin y
tratamiento
277
Validez de la investigacin
Validez interna
Validez de la
conclusin
estadstica
Validez interna
Validez externa
Validez externa
Validez del
constructo
causa efecto
Figura N 4.4. Evolucin desde Campbell & Stanley (1966) a Cook & Campbell (1979) (Fuente:
Basado en Aliaga, 2000).
278
Validez de la
conclusin
Estadstica
Validez Interna
Historia
Maduracin
Administracin de pruebas
Instrumentacin
Regresin estadstica
Seleccin
Mortalidad Selectiva
Interacciones con la seleccin
Ambigedad en la direccin de la relacin causa-efecto
Difusin e imitacin de tratamientos
Igualacin compensatoria de tratamientos
Rivalidad compensatoria de los sujetos
Desmoralizacin de los sujetos
Validez de
constructo
Validez externa
279
esta categora como diferenciada del resto del concepto de la validez interna,
dndole un significado ms especfico. As, las amenazas a la validez de la
conclusin estadstica estn relacionadas fundamentalmente con las fases de
medicin y anlisis de datos.
Tabla N 4.3. Amenazas a la validez de la conclusin estadstica segn Cook & Campbell, 1979
(Fuente: Elaboracin propia).
Amenazas
Baja potencia estadstica
Violacin de los supuestos de las
pruebas estadsticas
Violacin del error tipo I
Fiabilidad de la medicin de la
respuesta
Fiabilidad de la administracin
de los tratamientos
Irrelevancias
aleatorias
del
contexto de investigacin
Heterogeneidad aleatoria de las
unidades de respuesta.
Descripcin
El nmero muestral y el clculo de la probabilidad son inadecuados,
disminuyendo la potencia del contraste estadstico.
Se aplican estadsticos sin verificar el cumplimiento de sus supuestos.
Concluir que existen efectos del programa cuando de hecho no existe.
Las medidas pretest y postest no son fiables, no tienen consistencia
interna, homogeneidad o estabilidad temporal.
Los tratamientos no se aplican estandarizadamente. Se viola el principio
de homogeneidad de situaciones.
Diferencias aleatorias ambientales no controladas entre grupos,
producidos posteriormente a la seleccin. Puede aumentar la varianza
artificialmente en algn grupo.
Diferencias aleatorias intrasujeto no controladas entre grupos, producidos
posteriormente a la seleccin. Puede aumentar la varianza artificialmente
en algn grupo.
b) Validez interna:
El concepto de validez interna en la reformulacin de Cook y Campbell
(1979) se centra, especficamente, en determinar si la relacin entre variables
(suponiendo que tal relacin tenga una buena validez de conclusin estadstica) es
de tipo causal, y en tal caso, cal es la direccin de dicha relacin causal. Ha de
tenerse presente que las conclusiones sobre esta posible relacin causal se
establece exclusivamente, como ya mantena el modelo anterior, entre las variables
tal y como han sido operativizadas en la prctica de la investigacin (Campbell y
Stanley, 1966).
A las amenazas de validez interna ya conocidas en el modelo anterior, se
suman algunas ms, tales como la ambigedad sobre la direccin de la relacin
causal, la difusin o imitacin de tratamientos, la igualacin compensatoria de
tratamientos (cuando dejar "sin nada" al grupo control parece inadecuado y se les
concede algn bien o servicio), la rivalidad compensatoria de los sujetos (esto es,
el efecto competencia que se puede desatar en el grupo control) o la
desmoralizacin o resentimiento de los sujetos que reciben menor cantidad de
tratamiento deseable58.
58
Curiosamente, algunas de estas nuevas amenazas introducidas por Cook, con la aprobacin de
Campbell, en el nuevo modelo - particularmente la desmoralizacin- no cumplen con la
caracterstica original que haba definido los sesgos de la denominada validez interna, es decir, que
no pueden ser controlados mediante la asignacin aleatoria. Esto hace que posteriormente Campbell
(1986) considere que alguna de estas amenazas (incluso puede que todas) no sean especficamente
de la validez interna, sino de la validez de constructo.
280
Tabla N 4.4. Amenazas a la validez interna segn Cook & Campbell, 1979. (Fuente: Elaboracin
propia).
Amenazas
Historia
Maduracin
Administracin
pruebas
de
Instrumentacin
Regresin estadstica
Seleccin
Mortalidad selectiva o
diferencial
Interacciones
seleccin
con
Ambigedad
en
la
direccin de la relacin
causa-efecto
Difusin e imitacin de
tratamientos
Rivalidad compensatoria
de los sujetos
Desmoralizacin de los
sujetos
Descripcin
Eventos especficos que ocurren al mismo tiempo que el tratamiento y que se
asocian a los resultados. La ocurrencia de acontecimientos externos que afecten al
comportamiento del individuo, es decir, cualquier tipo de hecho que le ocurra en
su vida diaria podra afectar a la Variable dependiente (VD). Si esos
acontecimientos ocurren, y el gerente social no los detecta, podra atribuir la
mejora al programa, cuando en realidad podra ser efecto de otras variables.
Procesos internos que operan a corto plazo (hambre, fatiga, etc.) o largo plazo
(envejecimiento) y que afectan los resultados.
Efectos de administrar una prueba sobre las puntuaciones obtenidas en una
administracin posterior. Los datos obtenidos con una primera prueba pueden
cambiar al repetir la aplicacin de esa misma prueba, por efecto de la prctica o el
recuerdo. Aunque no se produzca ninguna intervencin, la repeticin de las
pruebas de evaluacin puede mostrar cambios.
Cambios en la calibracin de un instrumento de medida (humano o mecnico). Se
asocia a la fiabilidad. Tambin se incluyen en este tipo de amenazas los errores de
instrumentacin, o errores en los propios procedimientos de evaluacin. Un
aparato no calibrado, con errores no sistemticos, o procedimientos con poca
fiabilidad, no validados, etc., impide llegar a conclusiones seguras sobre los
resultados.
Tendencia hacia la centralidad producida en grupos con unidades directa o
indirectamente seleccionadas sobre la base de sus puntuaciones extremas. Es un
concepto matemtico y se refiere al efecto de las puntuaciones extremas que
tienden a "regresar a la media" de grupo. Cuando en la VD parecen existir efectos
de techo o suelo, es decir, las puntuaciones son extremas y poco podran aumentar
o disminuir, respectivamente, entonces la tendencia en la siguiente medicin es a
obtener datos ms cercanos a media, o al menos ms estables, y no reflejaran el
posible cambio de la Variable Independiente (VI).
Efectos producidos por la no equivalencia inicial de los grupos tratamiento y
control. Se refiere a las diferencias sistemticas en la comparacin de grupos que
pueden ser resultado de una seleccin sesgada, no completamente aleatoria, en la
que persiste alguna diferencia especfica entre los grupos que podra explicar
tambin los resultados.
Reduccin del tamao y/o naturaleza original de los grupos durante el proceso de
medicin. Es la prdida de sujetos a lo largo de una experimentacin con grupos,
que hace cambiar la composicin o caractersticas de los grupos comparados.
Interaccin de la seleccin con otras fuentes de sesgo anteriormente mencionadas
produciendo efectos espurios. Las ms comunes son la seleccin-maduracin, que
ocurre cuando grupos no equivalentes maduran a diferente ritmo; la seleccin por
historia cuando los acontecimientos ocurridos en los dos grupos son diferentes.
Efecto producido cuando la presencia temporal de la causa no es clara. Suele
aparecer en diseos no experimentales de tipo correlacional.
Las condiciones del grupo experimental son extendidas al grupo control por
accin directa de los sujetos, por imitacin o por solidaridad. Es posible que
ocurra intercambio de informacin sobre los procedimientos, condiciones u
objetivos de una investigacin a travs de sujetos en varios grupos. La validez
dejara bastante que desear pues no habra independencia entre los grupos a
comparar.
Los sujetos del grupo control se enteran de las diferencias de trato con el grupo
tratamiento e ingresan en una rivalidad que compensan las diferencias, los
sabotean o generan obstculos posteriores.
Los sujetos desertan por razones de motivacin personal. Cuando los sujetos
conocen su pertenencia a un determinado grupo, que recibir tratamientos con
resultados menos deseables, esta informacin puede actuar para cambiar su
comportamiento. Por lo que los sujetos podran actuar por "rivalidad" o "dejadez"
si conocen los resultados esperados de ese experimento. Estos efectos de
reactividad impediran conocer el efecto especfico de un determinado tratamiento,
independiente de esa reactividad.
281
282
Amenazas
Explicacin
preoperacional
inadecuada
Sesgos por el
empleo de una
nica operacin
Sesgos derivados
de utilizar un
solo mtodo
Confusin entre
constructos
y
niveles
de
constructo
Interaccin entre
diferentes
tratamientos
Interaccin entre
la administracin
de pruebas y el
tratamiento
Generalizabilidad
a travs de los
constructos
Sesgos de
reactividad de las
unidades de
respuestas (sujetos
59
Adivinacin de la
hiptesis
Descripcin
Puede estar presente cuando la eleccin de la definicin operativa
de una variable no se realiza a partir de un cuidadoso anlisis
conceptual de la misma, y por tanto no se adecua exactamente a la
definicin constitutiva (Kerlinger, 1975) del constructo.
Puesto que definir operativamente un constructo o variable puede
ser inadecuado (no tener validez de contenido o ser incompleta,
estar sesgada, ser incorrecta) siempre es preferible utilizar diversos
procedimientos, lo que nos permitir triangular los datos y captar
mejor el significado de la variable. Esta es una amenaza derivada
de no comprobar la convergencia a la que hacamos referencia
anteriormente.
Esta amenaza puede presentarse cuando, independientemente de
que se operacionalice de una o varias formas, todas ellas utilizan un
mismo procedimiento (slo tcnicas de lpiz y papel o slo
procedimientos para evaluar la reactividad fisiolgica). En tales
casos, el propio mtodo puede conllevar un sesgo sistemtico que
nos impida aprehender adecuadamente el constructo que nos
interesa.
Ocurre en aquellos casos en que un determinado constructo slo se
relaciona con otro cuando alcanza un determinado nivel, pero el
investigador no es capaz de descubrirlo porque no llega a
sobrepasar dicho umbral. Un ejemplo simplificado podra ser el de
un presunto investigador que concluyese que la temperatura no
afecta al estado fsico del agua, porque lo ha modificado desde los
10 centgrados hasta los 90 sin obtener resultados. En el mismo
sentido, puede existir problemas para generalizar los efectos de la
utilizacin de un sistema de educacin compensatoria (o la
ausencia de los mismos) si stos consistan exclusivamente en una
hora semanal de apoyo, cuando hubiera sido necesaria una mayor
intensidad del tratamiento para conseguir algn resultado
apreciable.
Se refiere a la posibilidad de que los efectos de un determinado
tratamiento aplicado con anterioridad al grupo experimental
interfieran con los del tratamiento actual, por lo que
malinterpretemos los efectos producidos por este ltimo, que no
podrn generalizarse a otras condiciones.
Se refiere a los sesgos que la aplicacin de un pretest puede
provocar en los sujetos (sensibilizacin), consiguiendo efectos
diferentes a los que se conseguiran en una situacin natural,
diferente de la investigacin en que carece de esos controles
previos.
Se refiere a los posibles efectos, no considerados en el diseo
previo, que un tratamiento puede tener entre las variables o
constructos distintos a la variable dependiente.
Ato slo clasifica siete de las diez amenazas citadas por Cook y Campbell en 1989.
283
Amenazas
o casos)
Aprensin a la
evaluacin
(o
efectos reactivos
de
la
observacin)
Expectativas del
experimentador
Descripcin
directamente al tratamiento que, realmente, se le administra.
Indica la propensin de los sujetos a cambiar su comportamiento
cuando saben que estn siendo evaluados u observados (es la
aplicacin blanda en las Ciencias Humanas del Principio de
Incertidumbre de Heisenberg en la Fsica).
Tambin conocido con el nombre de efecto Rosenthal (por su
descubridor), efecto Pigmalin o, en sentido inverso, efecto Golem
(Ball, 1997). Aunque su autntico alcance ha sido puesto en duda,
est relacionado con los sesgos que de modo ms o menos
inconsciente puede intentar auto-cumplir sus predicciones.
d) Validez externa:
En la reformulacin de Cook & Campbell (1979) la validez externa est
referida a la generalizacin de los resultados a travs de diversos componentes,
bsicamente los sujetos y las situaciones, a los que se ha aadido la dimensin
temporal. Las amenazas de validez externa son:
Interaccin de seleccin y tratamiento: Posible limitacin de la
generalizacin de resultados a sujetos o poblaciones no
directamente incluidas en la investigacin, es decir, mantienen
presente la posibilidad de que las relaciones causales identificadas
sean especficas slo para los sujetos directamente analizados.
Interaccin de situaciones y tratamiento: En este caso las
limitaciones a la generalizacin de los resultados de la investigacin
puede venir de la especificidad de la relacin causal en la situacin
especficamente considerada.
Interaccin de historia y tratamiento: En este caso se considera
que las limitaciones a la generalizacin de las relaciones causales
pueden estar directamente vinculadas con el momento temporal, de
modo que suponer que tal relacin causal existi en el pasado o se
mantendr en el futuro, al ir ms all de lo expresamente
descubierto, tiene una alta dosis de suposicin no contrastada.
Tabla N 4.6. Amenazas a la validez externa segn Cook & Campbell de 1979. (Fuente:
Elaboracin propia).
Amenazas
Interaccin seleccin-tratamiento
Interaccin contexto-tratamiento
Descripcin
Se conoce tambin por validez de poblacin. Se refiere a la generalizacin
de la muestra a la poblacin. Supone que haya algunos efectos de la
seleccin de los grupos, de forma que impida la generalizacin a otros
grupos en que no haya ocurrido esa seleccin inicial, los sujetos de uno de
los grupos podra mostrar efectos de reaccin diferenciales a la
manipulacin de la VI.
Corresponde a la denominada validez ecolgica. Se refiere a la
generalizacin del contexto de aplicacin a otros contextos. Los sujetos
suelen cambiar su comportamiento cuando se encuentran ante una
situacin estructurada, que exige un rendimiento determinado, con una
gran directividad; frente a situaciones ms naturales, donde no hay altas
exigencias de la situacin. Se han definido distintos tipos de reactividad a
la situacin experimental, por un lado, la reactividad observacional, que se
produce cuando el sujeto cambia su comportamiento por el hecho de ser
284
Amenazas
Interaccin historia-tratamiento
Interaccin administracin de
pruebas-tratamiento
Interaccin
instrumentacintratamiento
Interaccin
de
tratamientos
intrasujeto
Descripcin
actor de una investigacin y tiende a reaccionar ms a las caractersticas
generales de la investigacin que a las variables independientes
efectivamente manipuladas. Por otro, el efecto de predisposicin o
sensibilizacin del sujeto a tratamientos posteriores, es decir, si el sujeto
no es novato en las tareas experimentales puede que reaccione de forma
diferente a otro que s lo sea, y ello dificulte la generalizacin. Y, adems,
el denominado efecto de novedad, la reaccin del sujeto a cambiar
inmediatamente tras la introduccin del tratamiento, sea cual sea ste, lo
que impedira la generalizacin de esos resultados a largo plazo.
La inferencia se ve limitada por acontecimientos especficos ocurridos en
alguno de los grupos y que generan diferencias no controladas.
Generalizacin del resultado a otras condiciones de instrumentacin
diferentes de la utilizada.
Generalizacin del resultado a otras condiciones de instrumentacin
diferentes a la utilizada.
Generalizacin del resultado de la situacin en que los sujetos reciben ms
de un tratamiento a la situacin (hipottica) en que slo reciben uno.
Son varios los procedimientos que Cook & Campbell (1979) analizan para
procurar aumentar la validez externa de una investigacin. En primer lugar se
consideran diversos tipos de muestreo, que incumben tanto a sujetos como a
situaciones, pero que no considera, obviamente, la dimensin temporal:
a) Muestreo aleatorio: este muestreo aleatorio es el que mejor
procura la representatividad de los resultados, y por tanto, el que
nos ofrece mayores garantas para generalizar los resultados a otras
situaciones o sujetos pertenecientes a la poblacin global. Sin
embargo, plantea serios problemas prcticos, fundamentalmente
debido a que las circunstancias no siempre permiten hacer un
muestreo de este tipo, o a que cuando se realiza, las muestras suelen
estar muy dispersas.
b) Muestreo heterogneo deliberado: consiste en incluir en el
estudio un amplio rango de sujetos y circunstancias de tal modo que
abarquen la mayor amplitud posible. Esta idea no debe entenderse
como seleccin exclusiva de los casos extremos, sino que han de
incluirse tambin casos "tpicos". Este procedimiento es mucho ms
asequible que el aleatorio, y aunque tcnicamente no se puede
generalizar a partir de sus resultados, la amplia gama considerada
nos permite hacernos una idea global de las relaciones estudiadas en
las diversas modalidades posibles.
c) Muestreo impresionista de categoras o modos: Consiste en
determinar las clases o categoras a las que queremos generalizar y
elegir elementos de cada una de esas modalidades, a fin de obtener
una impresin general. Este tipo de procedimiento es til en
aquellos casos en los que las pretensiones de generalizacin son
limitadas, y particularmente en investigacin aplicada, ya que no es
til para establecer un conocimiento terico ampliamente
generalizable. Es el procedimiento menos poderoso de los tres tipos
de muestreo, pero tiene como ventajas principales su simplicidad y
economa.
285
Algunos autores (por ejemplo, Cook, Campbell y Peracchio, 1990, Ato en Anguera et al., 1995)
han dividido este concepto en dos diferentes, uno sobre las condiciones en las que se realiza
propiamente la investigacin (el contexto o situacin) y otro referido especficamente al momento
temporal, en el sentido dado por Cook y Campbell (1979) a este concepto, aspecto que comparto,
ya que puede darse el caso de que una misma investigacin se realice en un mismo contexto (por
ejemplo, en un mismo colegio pblico entre alumnos de la misma asignatura) pero que los
resultados sean distintos debido a los cambios ms intangibles que puedan deberse al paso del
tiempo (cambios en la ideologa, la legislacin, etc.).
286
287
288
289
Validez
Interna
Validez de
Conclusin
Estadstica
Validez
Externa
Validez de
Constructo de
Causas y
Efectos
Efecto reactivo o de
interaccin de los tests
Interaccin
seleccintratamiento
Efectos reactivos de
dispositivos
experimentales
Interaccin
entre
tratamientos mltiples
Explicacin preoperacional
inadecuada.
Sesgos derivados del uso de
una operacin nica
Sesgos derivados del uso de
un solo mtodo
Adivinacin de hiptesis
Recelo de evaluacin
Expectativas del
290
Tipo de
validez
291
Amenazas
Baja potencia estadstica
Validez
Interna
Maduracin
Administracin de pruebas
Instrumentacin
Regresin estadstica
Seleccin
Mortalidad Selectiva
Interacciones con la seleccin
Ambigedad en la direccin de la
relacin causa-efecto
Difusin e imitacin de tratamientos
Igualacin compensatoria de
tratamientos
Rivalidad compensatoria de los
sujetos
Desmoralizacin de los sujetos
Tratamiento en ARYSIS
Calcular adecuadamente el tamao de la muestra. En
su defecto, utilizar remuestreo con mtodos Bootstrap.
El anlisis del poder estadstico es un modo til de
asegurar que la muestra propuesta sea lo
suficientemente grande para los fines del anlisis.
Utilizar el estadstico posteriormente al anlsis del
cumplimiento de sus supuestos.
Fijar un valor alfa de acuerdo a la probabilidad de la
presencia del evento.
Realizar un estudio piloto para determinar la
fiabilidad por homogeneidad, consistencia interna y
estabilidad temporal de la medicin.
Establecer un protocolo estandarizado de aplicacin
del tratamiento y supervisar su ejecucin previa
capacitacin de los administradores.
Controlar con covariantes. Establecer una lista de
registro de covariantes posibles que se registrarn en
el monitoreo.
Evitar la aquiescencia del entrevistado y enfatizar en
la consigna consensuada.
Realizar un pretest comprehensivo. Controlar con
covariantes. Establecer una lista de registro de
covariantes ambientales posibles que se registrarn en
el monitoreo.
Realizar mediciones de control en el tiempo.
Controlar con covariantes. Establecer una lista de
registro de covariantes intrasujeto posibles que se
registrarn en el monitoreo.
Establecer un procedimiento estandarizado de
administracin de pruebas.
Utilizar pruebas de medida paralelas y con fiabilidad y
validez probadas.
Eliminar las puntuaciones extremas o controlar su
efecto mediante ecuaciones de regresin.
Utilizar
procedimientos
de
emparejamiento
matching.
Considerar un porcentaje adicional de mortalidad
selectiva y determinar su efecto en los resultados.
Utilizar procedimientos de seleccin paralelos.
Desarrollar un marco terico previo. Utilizar el path
anlisis.
Evitar la cercana socio-geogrfica de los grupos
control. Establecer estados contrafactuales utilizando
criterios de propensity score.
Evitar la cercana socio-geogrfica de los grupos
control. Establecer estados contrafactuales utilizando
criterios de propensity score.
Evitar la cercana socio-geogrfica de los grupos
control. Establecer estados contrafactuales utilizando
criterios de propensity score.
Disear mecanismos de motivacin incluidos en los
programas. Evitar la cercana socio-geogrfica de los
grupos control. Establecer estados contrafactuales
292
Amenazas
Validez de
constructo
Interaccin seleccin-tratamiento
(validez de poblacin).
Interaccin contexto-tratamiento
(validez ecolgica)
Recelo de evaluacin
Expectativas del experimentador
Confusin de constructos y niveles
de constructo.
Validez
externa
Tratamiento en ARYSIS
utilizando criterios de propensity score.
Disear el marco terico contextualizado a la realidad
y acorde al estado del arte. Utilizar estudios de
evaluacin rpida.
Utilizar operaciones paralelas. Utilizar mtodos
mixtos.
Utilizar el enfoque multimtodo y multirasgo.
Interaccin historia-tratamiento
(validez histrica)
293
294
295
A: Estado de
tratamiento
E: Situacin antes del
programa
Grupo experimental
B: Estado de no
tratamiento
C: Estado de
tratamiento
D: Estado de no
tratamiento
Figura N 4.5. Estados posibles para beneficiarios y controles (Fuente: opo & Robles, 2002, con
modificaciones)
296
297
metodologa se utiliza en los casos en los que no hay informacin acerca del
programa al inicio del mismo, es decir no se cuenta con una lnea de base, y slo se
puede recoger informacin luego del programa. Ntese que si las situaciones de los
beneficiarios y controles son similares en el perodo anterior al programa, el
estimador de diferencia en diferencias es equivalente al estimador de corte
transversal.
Es importante sealar que tanto el estimador de diferencia en diferencias
como el de corte transversal utilizan como grupo de control a individuos distintos a
los beneficiarios. En general, el grupo de control est conformado por individuos
que por alguna razn no participan del programa o que si quisieron entrar lo
hicieron tarde, o es un grupo explcitamente identificado. Lo crucial es lograr que
el grupo de control y el de beneficiarios sean lo ms similares posibles. Para ello
existen diversos procedimientos, siendo el ms popular el matching, seguido de
la seleccin economtrica.
Habiendo estimado el impacto del programa por cualquiera de los enfoques
previamente mencionados, es posible desagregar el mismo en dos componentes:
uno atribuible a cambios en las caractersticas individuales de los beneficiarios y el
otro a cambios en los retornos que estas caractersticas tienen. As por ejemplo, en
un programa de capacitacin laboral, uno de los principales cambios en las
caractersticas observables de los beneficiarios se observara en la capacitacin
ocupacional que ellos obtienen al participar del programa, pero a su vez, esta
capacitacin ocupacional adicional podra generar una mejora en los retornos a la
experiencia que ellos tengan.
Para esto, se hace necesario estimar por separado ecuaciones de cambio
en la variable de impacto tanto para los beneficiarios como para sus respectivos
controles. Esto es, se necesita estimar un modelo economtrico en el que la
variable explicada sea el cambio en la variable resultado del individuo, explicada
en funcin de una serie de caractersticas individuales relevantes.
De esta manera se obtiene un estimador de retornos para los beneficiarios
y otro para los controles, as como estimadores de las caractersticas medias de
ambos grupos. As, el estimador de diferencias en diferencias para el impacto del
programa es desagregado en dos componentes aditivos, uno explicando cambios en
las caractersticas individuales de los participantes, y el otro, cambios en los
retornos a dichas caractersticas.
La metodologa de evaluacin propuesta puede ser considerada como una
metodologa de anlisis de equilibrio parcial. Ello se debe al hecho de que se
concentra en la evaluacin de los beneficiarios y los correspondientes controles
(contrafactuales) sin tomar en consideracin la manera en que ellos interactan con
el entorno socio-econmico.
En general, todo programa social tiene un efecto directo sobre los
beneficiarios del mismo, pero tambin tendr efectos indirectos sobre otros agentes
de los mercados donde tales beneficiarios operan, generando as reacciones que
afectarn a su vez las relaciones econmicas de los mismos en el futuro. Analizar
los efectos de un programa social en un contexto en el que se presume que existen
efectos indirectos no despreciables requiere un enfoque de equilibrio general, para
el cual es necesario afinar y complementar las herramientas de medicin.
298
299
300
Para aplicar este procedimiento es muy importante determinar las potenciales fuentes de sesgo de
un estimador de impacto y cmo el mtodo de matching logra evitarlos.
301
Ventajas
Menor costo que los diseos experimentales,
ya que generalmente las muestras proceden
de otras fuentes diferentes a las de la
administracin del programa.
Puede dar respuesta a todos los parmetros de
inters. En particular puede dar los
indicadores de distribucin del impacto.
Implica la utilizacin de modelos de
comportamiento social en la modelizacin, lo
que deja de lado el enfoque nicamente
estadstico prevaleciente en los diseos
experimentales.
No hay limitaciones ticas como en la
experimentacin social.
No se incurre en el sesgo de aleatorizacin, ni
hay efectos del tratamiento pues los
individuos no saben si estn en el grupo de
tratamiento o control ya que son datos que se
observan y no se inducen.
Generalmente las muestras que se utilizan son
grandes.
Inconvenientes
Si no se logra conformar un grupo de tratamiento
que se comporte como si hubiera sido asignado
aleatoriamente, el mtodo fracasara, puesto que
toda evaluacin de impacto tendra estimaciones
inconsistentes.
Se necesita una elaboracin estadstica muy afinada
para evitar dar resultados diferentes utilizando el
mismo conjunto de datos. El desarrollo de estos
instrumentos ha sido muy importante en la ltima
dcada pero la proliferacin de mtodos han vuelto
confuso contar con un resultado fiable, ya que los
resultados diferentes pueden dar lugar a que la
utilizacin de los mtodos se haga en funcin de
querer mostrar mejores o peores resultados de un
programa.
El conjunto de datos disponible, no forzosamente
llena los requisitos que el evaluador necesita que
cumpla. Como se necesita que los individuos se
comporten como si fueran participantes o grupo de
control, a veces los datos no se adecuan a los
perfiles de uno u otro grupo.
Se necesita ineludiblemente abordar con
rigurosidad la estimacin del sesgo de seleccin
mediante diferentes estrategias que pueden dar
diversidad de resultados.
Es posible que exista sesgo de contaminacin, en
el sentido de que en los datos como grupo de
control puede haber individuos que hayan pasado
por capacitacin similar a la del programa a
evaluar.
Desde las propuesta iniciales de Rosenbaum y Rubin (1983, 1984) se han desarrollado numerosas
aplicaciones econmicas por autores diversos Heckman, Ichimura y Todd (1997); Dehejia y Wahba
(1999); Hotz, Imbens y Mortimer (1999); Lechner (1999); Heckman, LaLonde y Smith (1999);
Sianesi (2001); y Bryson, Dorsett y Purdon (2002).
302
303
64
A este tipo de grupos se les llama grupos intactos porque la razn por la que surgen y la manera
como se formaron fueron independientes del experimento.
304
Existen tres procedimientos de asignacin de grupos control y experimental (Judd & Kenny,
1981): a) asignacin aleatoria (en el caso de todos los diseos experimentales) la cual garantiza la
equivalencia inicial de los grupos, b) no aleatoria pero conocida; es decir, cuando se asigna a uno de
los grupos en funcin de la puntuacin obtenida en un pretest de la misma medida utilizada para
evaluar el impacto del tratamiento y c) no aleatoria ni conocida, cuando no se conoce exactamente
sobre qu variables se constituyen los grupos.
66
La aleatorizacin es la clave para la equivalencia inicial de los grupos experimental y control. La
aleatorizacin implica una distribucin similar de las caractersticas de un sujeto en cada grupo y
facilita la inferencia causal. Elimina, tambin, los sesgos de seleccin y proporciona la base segura
para la inferencia estadstica.
305
306
307
Diseos cuasiexperimentales
Con variable de
asignacin
desconocida
CG no equivalente
De cohortes
Intercambio de
tratamientos
Con variable de
asignacin conocida
Tratamiento
invertido
Discontinuidad de
la regresin
Series temporales
interrumpidas
Pre-post no
equivalente
Bsico
Retirada de
tratamiento con
pre y postest
Simple
Varios pretest
Con pretest
Tratamiento
repetido
Con grupo
control no
equivalente
Pre-post y
muestras
separadas
Tratamiento
dividido
Con
replicaciones
mltiples
Con VD no
equivalente
Con
replicaciones
intercambiables
308
Asignacin
No Existe
Pretest
Y1
Secuencia de registros
Tratamiento
X
Postest
Y2
N
200
Pretest
5.28 (D.E.=1.79)
Postest
7.41 (D.E.=2.73)
309
Asignacin
NA
NA
Pretest
-
Secuencia de registros
Tratamiento
X
-
Postest
Y1
Y2
310
N
1300
1300
Postest
11.60 (3.19)
16.45 (5.07)
311
Asignacin
NA
NA
Pretest
YE1
YCl
Secuencia de registro
Tratamiento
X
-
Postest
YE2
YC2
N
51
60
Pretest
4.16 (1.11)
3.09 (0.95)
Postest
5.42 (1.84)
3.95 (1.57)
312
Cook & Campbell (1979) y Cook, Campbell & Peracchio (1990) han
destacado cinco diferentes pautas de resultados de las cuales depende la calidad de
la inferencia causal, a saber:
1. No hay cambio en GC. Mientras que
el GE alcanza un notable aumento en
el postest, el GC no obtiene ningn
cambio. Cuando aparece esta pauta
GE
de resultados, la atribucin causal al
tratamiento (X) es difcil, y pasa
primero por determinar las tasas de
crecimiento de GE y de GC durante
el perodo temporal pretest-postest.
Las amenazas contra la validez
GC
interna ms comunes en todas las
pautas son las siguientes:
Interaccin
seleccinPretest
Postest
maduracin: el GE, como
consecuencia
de
la
no
equivalencia en el pretest con el GC, madura o cambia a diferente ritmo
como consecuencia del tratamiento.
Instrumentacin: GE y GC parten de puntos diferentes de la escala de
medida y sus diferencias se agudizan en funcin de la distancia inicial
(pretest), de la distancia a cubrir entre pre y postest y de la proximidad a los
valores extremos (efectos techo y suelo).
Regresin estadstica: el GC representa en el pretest un rango extremo de
valores de la escala de medida respecto al GE que se aproxima al centro de
la escala en el postest.
Historia: eventos locales que tuvieron lugar diferencialmente en uno de los
dos grupos han podido cambiar su trayectoria respecto del otro.
2. Grupo Experimental (GE) y Grupo
Control (GC) cambian en la misma
direccin pero a diferente ritmo. Esta
pauta tiene ms apariencia de normal
que la anterior: GE y GC obtienen
sendas mejoras en el postest, pero el
aumento producido en el GE es mayor
que en el GC. Las amenazas contra la
validez interna son las mismas que en el
caso anterior.
GE
GC
Pretest
Postest
313
GE
GC
Pretest
Postest
GE
GC
Pretest
Postest
GE
GC
Pretest
Postest
314
Asignacin
NA
NA
Pretestl
YE1
YC1
Secuencia de registro
Pretest2
Tratamiento
YE2
X
YC2
-
Postest
YE3
YC3
Postest
5.42 (1.84)
3.95 (1.57)
315
316
Asignacin
NA
NA
Pretest
Y1
--
Secuencia de registro
Tratamiento
-X
Postest
-Y2
En este diseo, Y1, y Y2 son los dos momentos en que se registran las
medidas y la lnea punteada indica un grado restringido de no equivalencia. Por lo
dems, el diseo bsico de cohortes representa, en esencia, la misma idea que el
diseo con grupo de control no equivalente.
Aunque muchas de las amenazas contra la validez interna quedan
eliminadas en este diseo (entre otras, maduracin, regresin estadstica,
mortalidad e interacciones con seleccin, en particular la interaccin entre
seleccin y maduracin), todava pueden ser importantes algunas amenazas. Dos
de las ms importantes son la seleccin y la historia.
La seleccin es la amenaza ms severa, puesto que entre los hermanos
mayores existe una mayor proporcin de primognitos, que se ha
demostrado que alcanzan mejores puntuaciones en desarrollo intelectual
que sus hermanos menores (Zajonc & Marcus, 1975). Una forma de
superar este problema sera analizar los datos considerando nicamente
pares contiguos en el orden de nacimiento (por ejemplo, nacidos en
primero y segundo lugar por un lado, nacidos en segundo y tercer lugar
por otro, etc.).
La historia es tambin otra amenaza importante, puesto que la cohorte
de control puede haber tenido experiencias alternativas a Plaza
Ssamo cuya influencia se hace imposible evaluar.
4.3.2.3.2. Variaciones del diseo bsico de cohortes
Diseo de cohortes con pretests. En un estudio que comparaba la
efectividad relativa de profesores ordinarios de un centro con la de educadores
externos contratados para estimular el rendimiento de los nios, Saretsky (1972)
observ que los profesores ordinarios realizaban esfuerzos especiales y alcanzaban
un rendimiento mayor de lo esperado en comparacin con el de aos anteriores.
Aunque no est claro en su informe cmo comprob Saretsky esta hiptesis, lo
ms lgico es comparar la ganancia media de la clase objeto de experiencia con la
317
Asignacin
NA
NA
Pret
Y1
Secuencia de tratamiento
Trat.
Post
Pret
Trat.
Y2
Y3
X
Post
Y4
N
100
124
Pretest(1982)
6.10 (1.51)
--
Postest(1983)
6.72 (1.89)
--
Pretest(1983)
-6.34 (1.46)
Postest(1984)
-8.45 (2.09)
318
Primera
Segunda
Tercera
Asignacin
NA
NA
NA
Cohorte1
Postest
Pretest
(X)Y1
Y2
Secuencia de registros
Cohorte 2
Cohorte 3
Tratamiento
Postest
Pretest
X
Y3
Y4(X)
Asignacin
NA
A
A
NA
Cohorte 1
Postest
Pretest
(X)Y1
Y2
Secuencia de registro
Cohorte 2
Cohorte 3
Tratamiento
Postest
Pretest
X
X
Y3
Y4
Y5(X)
319
Asignacin
Pretest
Subgrupo 1
Cohorte 1 (Control)
Cohorte 2 (Experimental)
Subgrupo 2
Cohorte 1 (Control)
Cohorte 2 (Experimental)
Subgrupo 3
Cohorte 1 (Control)
Cohorte 2 (Experimental)
NA
NA
Yc1
NA
NA
YC2
NA
NA
Yc3
Secuencia de registro
Tratamiento
Postest
X1
YE1
X2
YE2
X3
YE3
Asignacin
Experimental
NA
Pretest
YE1
Control
NA
YC1
Secuencia de registro
Tratamiento
Post/Pret
Tratamiento
X
YE2/YC2
X
Postest
YC3
YC2/YE2
YE3
320
Asignacin
NA
NA
Pretest
Y1
Yl
Secuencia de registro
Tratamento
X+
X-
Postest
Y2
Y2
321
Asignacin
NE
Pret
Y,
Trat
X
Secuencia de registro
Pret/Post
Trat
Pre/Post
Y2
X
Y3
Trat
X
Post
Y4
Asignacin
NE
Pret
Y,
Trat
X
Secuencia de registro
Pret/Post
Trat
Pre/Post
Y2
Y3
Trat
X
Pos
Y4
322
323
Asignacin
NA
NA
Pretest
Y1A
Y1B
Secuencia de registro
Tratamento
X
-
Postest
Y2A
Y2B
324
Asignacin
Experimental
Control
NAC
NAC
Secuencia de registro
Pretest
Tratamento
YEi
X
Yci
-
Postest
YEZ
YE2
325
N
246
282
Pretest
7.49 (2.36)
6.03 (1.95)
Postest
9.61 (3.54)
7.58 (3.57)
326
327
328
Asignacin
Natural
Secuencia de registro
O1 O2 O3 O4 O5 X O6 O7 O8 O9 O10
Ocasiones
Ocasiones
329
Asignacin
Natural
Natural
Secuencia de registro
O1 O2 O3 O4 O5 X O6 O7 O8 O9 O10
O1 O2 O3 O4 O5 X O6 O7 O8 O9 O10
330
Asignacin
Natural
Secuencia de registro
OA1 OA2 OA3 OA4 OA5 X OA6 OA7 OA8 OA9 OA10
OB1 OB2 OB3 OB4 OB5 X OB6 OB7 OB8 OB9 OB10
Asignacin
Natural
Secuencia de registro
O1 O2 O3 O4 O5 X O6 O7 O8 O9 O10 noX O11 O12 O13 O14 O15 X O16 O17 O18
O19 O20
Dado que dos fases del diseo coinciden con la presentacin del programa,
existen tres oportunidades para demostrar su efectividad:
331
Asignacin
Natural
Natural
Secuencia de registro
O1 O2 O3 O4 O5 X O6 O7 O8 O9 O10
O1 O2 O3 X O4 O5 O6 O7 O8 O9 O10
Existen varias razones para emplear este diseo (Cook et al, 1990; Anguera
et al, 1995), entre ellas:
Porque controla muchas de las amenazas que atentan contra la validez
interna, sobre todo, de los efectos de la historia; pues al presentarse el
tratamiento a travs de los grupos en momentos diferentes es factible
rechazar la hiptesis de que los cambios debidos a los efectos de la
historia se confunden con los derivados de la introduccin del
tratamiento (a no ser que dichos efectos operen en distintos ambientes y
momentos temporales).
Porque se ve potenciada la validez interna y reforzada la validez
externa, por causa de que el efecto del tratamiento puede observarse en
dos muestras distintas en al menos dos lugares y tiempos distintos.
Porque es til para detectar impactos, que si bien son de cierta
intensidad sin embargo su accin tan slo se manifiesta tras un periodo
de tiempo ms o menos prolongado.
Sin embargo, a pesar de estas ventajas, an es posible que existan amenazas
contra la validez como la interaccin entre seleccin con historia.
332
333
0
1
All
500
500
1000
50.50
49.70
50.10
Zero values
500
Positive values
50.45
49.48
49.96
70
postest
60
50
40
30
20
20
30
40
50
pretest
60
70
80
Figura 4.7. Relacin entre postest y pretest cuando no existe impacto alguno del programa (Fuente:
Elaboracin propia).
334
Tal como se aprecia en la Figura 4.7, tanto el pretest como el postest tienen
una distribucin aleatoria entre los grupos experimental y control, no existiendo
ninguna diferencia entre ellos. Este el caso terico en que el programa no ha sido
efectivo en absoluto.
Ahora, supongamos que se ha aplicado el programa y despus de un ao se
ha medido el postest, con un impacto terico de 10 puntos a favor del grupo
experimental.
MTB >
MTB >
MTB >
SUBC>
Rows:
let c7=c5+(10*c6)
name c7='postest 2'
table c6;
mean c4 c7.
grupo
pretest postest 2
Mean
Mean
0
50.50
50.45
1
49.70
59.48
All
50.10
54.96
MTB > Plot 'postest 2'*'pretest';
SUBC>
Symbol 'grupo';
SUBC>
Regress 'grupo';
80
70
postest 2
60
50
40
30
20
20
30
40
50
pretest
60
70
80
Figura 4.8. Relacin entre postest y pretest cuando existe impacto del programa en 10 puntos
(Fuente: Elaboracin propia).
335
Coef
50.4516
9.0239
SE Coef
0.3136
0.4435
T
160.88
20.35
R-Sq = 29.3%
Analysis of Variance
Source
DF
SS
Regression
1 20358
Residual Error 998 49076
Total
999 69433
P
0.000
0.000
R-Sq(adj) = 29.2%
MS
20358
49
F
413.99
P
0.000
Ecuacin b
MTB > regress c5 1 c6
The regression equation is
postest = 50.5 - 0.976 grupo
Predictor
Constant
grupo
S = 7.01242
Coef
50.4516
-0.9761
SE Coef
0.3136
0.4435
R-Sq = 0.5%
T
160.88
-2.20
P
0.000
0.028
R-Sq(adj) = 0.4%
Analysis of Variance
Source
DF
SS
Regression
1
238.19
Residual Error 998 49075.67
Total
999 49313.86
MS
238.19
49.17
F
4.84
P
0.028
336
Coef
50.5343
9.1991
SE Coef
0.2456
0.3474
R-Sq = 41.3%
Analysis of Variance
Source
DF
SS
Regression
1 21156
Residual Error 998 30109
Total
999 51265
T
205.73
26.48
P
0.000
0.000
R-Sq(adj) = 41.2%
MS
21156
30
F
701.24
P
0.000
337
grupo
0
1
postest 2 2p
70
60
50
40
30
30
40
50
60
70
pretest 2p
Figura 4.9. Relacin entre postest y pretest cuando existe impacto del programa en 10 puntos y con
una reduccin del error de medida (Fuente: Elaboracin propia).
338
500
Zero values
500
Positive values
table c6;
mean c4 c5;
stdev c4 c5.
grupos
pretest postest
Mean
Mean
pretest
StDev
postest
StDev
339
0
1
All
49.84
55.33
52.58
50.08
55.03
52.55
7.399
7.327
7.857
7.374
7.157
7.674
pretest
StDev
7.399
7.327
7.857
postest
StDev
7.374
7.157
10.425
table c6;
mean c4 c5;
stdev c4 c5.
grupos
pretest postest
Mean
Mean
49.84
50.08
55.33
65.03
52.58
57.55
grupos
0
1
80
postest
70
60
50
40
30
20
20
30
40
50
pretest
60
70
80
Figura 4.10. Relacin entre postest y pretest cuando existe impacto del programa en 10 puntos y
cuando los grupos no son equivalentes (Fuente: Elaboracin propia).
340
Coef
50.0786
14.9515
S = 7.26638
SE Coef
0.3250
0.4596
R-Sq = 51.5%
Analysis of Variance
Source
DF
SS
Regression
1
55887
Residual Error 998
52695
Total
999 108581
T
154.11
32.53
P
0.000
0.000
R-Sq(adj) = 51.4%
MS
55887
53
F
1058.46
P
0.000
Ecuacin e
MTB > regress c5 2 c6 c4
The regression equation is
postest = 25.2 + 12.2 grupos + 0.499 pretest
Predictor
Constant
grupos
pretest
Coef
25.201
12.2072
0.49920
S = 6.27125
SE Coef
1.373
0.4234
0.02696
R-Sq = 63.9%
Analysis of Variance
Source
DF
SS
Regression
2
69371
Residual Error 997
39211
Total
999 108581
Source
grupos
pretest
DF
1
1
T
18.36
28.83
18.52
P
0.000
0.000
0.000
R-Sq(adj) = 63.8%
MS
34685
39
F
881.94
P
0.000
Seq SS
55887
13484
341
add c1 c2 c10
add c1 c3 c11
let c10 = c10 - (5*c6)
let c11 = c11 - (5*c6)
table c6;
mean c10 c11;
stdev c10 c11.
grupos
pretest 2 postest 2 pretest 2
Mean
Mean
StDev
49.84
50.08
7.399
45.33
45.03
7.327
47.58
47.55
7.697
postest 2
StDev
7.374
7.157
7.689
postest 2
StDev
7.374
7.157
7.674
342
grupos
0
1
postest 2
70
60
50
40
30
20
30
40
50
pretest 2
60
70
80
Figura 4.11. Relacin entre postest y pretest cuando existe impacto del programa en 10 puntos y
cuando los grupos no son equivalentes en perjuicio del GE (Fuente: Elaboracin propia).
R-Sq = 10.4%
Analysis of Variance
Source
DF
Regression
1
SS
6129.3
P
0.000
0.000
R-Sq(adj) = 10.3%
MS
6129.3
F
116.08
P
0.000
343
Residual Error
Total
998
999
52694.6
58823.9
52.8
Ecuacin g
Coef
25.201
7.1992
0.49920
S = 6.27125
SE Coef
1.373
0.4148
0.02696
R-Sq = 33.3%
Analysis of Variance
Source
DF
SS
Regression
2 19613.3
Residual Error 997 39210.6
Total
999 58823.9
Source
grupos
pretest 2
DF
1
1
T
18.36
17.36
18.52
P
0.000
0.000
0.000
R-Sq(adj) = 33.2%
MS
9806.7
39.3
F
249.35
P
0.000
Seq SS
6129.3
13484.0
Las tcnicas de ajuste que aqu se han utilizado se han podido realizar porque han estado
planificadas, pero existen otros procedimientos que tambin podran utilizarse, como el
emparejamiento (matching) y la estratificacin.
344
table c5;
mean c4 c6;
stdev c4 c5.
grupos
pretest postest
Mean
Mean
55.95
53.15
44.03
57.18
49.80
55.23
pretest
StDev
4.361
4.340
7.374
grupos
StDev
0.0000
0.0000
0.5000
345
80
postest
70
60
50
40
30
30
40
50
pretest
60
70
Figura 4.12. Relacin entre postest y pretest cuando existe impacto del programa en 10 puntos y
cuando los grupos no tienen asignacin conocida (Fuente: Elaboracin propia).
346
70
60
50
40
30
20
30
40
50
pretest
60
70
Figura 4.13. Relacin entre postest y pretest cuando no existe impacto del programa y cuando los
grupos son de asignacin conocida (Fuente: Elaboracin propia).
R-Sq = 9.1%
Analysis of Variance
Source
DF
Regression
1
SS
4059.6
P
0.000
0.000
R-Sq(adj) = 9.0%
MS
4059.6
F
99.79
P
0.000
347
Residual Error
Total
998
999
40600.6
44660.2
40.7
Ecuacin i
MTB > regress c6 2 c7 c5
The regression equation is
postest = 50.2 + 0.505 pre-corte + 10.0 grupos
Predictor
Coef SE Coef
T
P
Constant
50.1506
0.3760 133.39 0.000
pre-corte 0.50473 0.04360
11.58 0.000
grupos
10.0437
0.6430
15.62 0.000
S = 5.99142
R-Sq = 19.9%
R-Sq(adj) = 19.7%
Analysis of Variance
Source
DF
SS
Regression
2
8870.9
Residual Error 997 35789.4
Total
999 44660.2
MS
4435.4
35.9
F
123.56
P
0.000
Ecuacin j
MTB > regress c12 1 c5
The regression equation is
postest sin impacto = 53.2 - 5.97 grupos
Predictor
Coef SE Coef
T
P
Constant
53.1515
0.2899 183.33 0.000
grupos
-5.9682
0.4036 -14.79 0.000
S = 6.37824
R-Sq = 18.0%
Analysis of Variance
Source
DF
SS
Regression
1
8895.8
Residual Error 998 40600.6
Total
999 49496.4
R-Sq(adj) = 17.9%
MS
8895.8
40.7
F
218.67
P
0.000
Ecuacin k
MTB > regress c12 2 c5 c7
The regression equation is
postest sin impacto = 50.2 + 0.044 grupos + 0.505 pre-corte
Predictor
Coef SE Coef
T
P
Constant
50.1506
0.3760 133.39 0.000
grupos
0.0437
0.6430
0.07 0.946
pre-corte 0.50473 0.04360
11.58 0.000
S = 5.99142
R-Sq = 27.7%
Analysis of Variance
Source
DF
SS
Regression
2 13707.0
Residual Error 997 35789.4
Total
999 49496.4
R-Sq(adj) = 27.5%
MS
6853.5
35.9
F
190.92
P
0.000
348
set c1
1:20
end
random 20 c2;
normal 50 5.
set c3
1:20
end
code (1:10) 0 c3 c3
code (11:20) 1 c3 c3
random 20 c4;
normal 0 1.
349
Variable
65
grupos (antes-despus)
0
1
0
1
Data
60
55
50
45
40
2
8 10 12 14
Observaciones
16
18
20
Figura N 4.14. Serie simple con cambio de nivel posprograma, en supuesto significativo y no
significativo (Fuente: Elaboracin propia).
350
S = 5.35434
R-Sq = 17.8%
Analysis of Variance
Source
DF
SS
Regression
1 111.39
Residual Error 18 516.04
Total
19 627.43
R-Sq(adj) = 13.2%
MS
111.39
28.67
F
3.89
P
0.064
Ecuacin m
MTB > regress c6 1 c3
The regression equation is
P. con cambio nivel = 48.8 + 9.72 grupos (antes-despus)
Predictor
Constant
grupos (antes-despus)
S = 5.35434
Coef
48.783
9.720
R-Sq = 47.8%
Analysis of Variance
Source
DF
SS
Regression
1 472.39
Residual Error 18 516.04
Total
19 988.43
SE Coef
1.693
2.395
T
28.81
4.06
P
0.000
0.001
R-Sq(adj) = 44.9%
MS
472.39
28.67
F
16.48
P
0.001
set c1
1:20
end
random 20 c2;
normal 50 5.
random 20 c3;
normal 0 1.
add c2 c3 c4
set c5
1:20
end
code (1:10) 0 c5 c5
351
MTB >
MTB >
MTB >
MTB >
SUBC>
SUBC>
SUBC>
code (11:20) 1 c5 c5
add c1 c3 c8
add c4 c8 c9
TSPlot 'P.sin cambio, con tendencia';
Symbol 'Grupo (antes-despus)';
Connect 'Grupo (antes-despus)';
Project 'Grupo (antes-despus)'.
__________________________________________________________________
Cuando una serie temporal no presenta cambio de nivel pero s de
tendencia, la representacin grfica es como sigue:
Series temporales: Tratamientos sin cambio de nivel pero s de tendencia
80
Variable
P.sin cambio, con tendencia
Grupo (antes-despus)
0
0
1
Data
70
60
50
40
2
8
10 12 14
Observaciones
16
18
20
Figura N 4.15. Serie simple sin cambio de nivel y con cambio de tendencia del posprograma, en
supuesto significativo y no significativo (Fuente: Elaboracin propia).
A simple vista se puede suponer que el programa ha sido efectivo, pero eso
no es as, porque el nivel no ha cambiado, slo ha cambiado la tendencia, y esta
est asociada a la maduracin o la estacionalidad de los datos. Las siguientes
ecuaciones de regresin demostrarn lo afirmado.
__________________________________________________________________
Ecuacin n
MTB > regress c4 1 c5
The regression equation is
P. sin cambio ni tendencia = 49.4 + 1.27 Grupo (antes-despus)
Predictor
Coef SE Coef
T
P
Constant
49.448
1.956 25.28 0.000
Grupo (antes-despus)
1.267
2.767
0.46 0.652
S = 6.18666
R-Sq = 1.2%
R-Sq(adj) = 0.0%
352
Analysis of Variance
Source
DF
SS
Regression
1
8.03
Residual Error 18 688.95
Total
19 696.98
MS
8.03
38.27
F
0.21
P
0.652
Ecuacin o
MTB > regress c9 1 c5
The regression equation is
P.sin cambio, con tendencia = 54.7 + 11.7 Grupo (antes-despus)
Predictor
Constant
Grupo (antes-despus)
S = 7.67013
Coef
54.673
11.657
SE Coef
2.426
3.430
R-Sq = 39.1%
T
22.54
3.40
P
0.000
0.003
R-Sq(adj) = 35.7%
Analysis of Variance
Source
DF
SS
Regression
1
679.48
Residual Error 18 1058.96
Total
19 1738.43
MS
679.48
58.83
F
11.55
P
0.003
Ecuacin p
MTB > regress c9 2 c5 c1
The regression equation is
P.sin cambio, con tendencia = 46.4 - 3.47 Grupo (antes-despus) + 1.51
observacin
Predictor
Constant
Grupo (antes-despus)
observacin
S = 6.33189
Coef
46.355
-3.466
1.5123
R-Sq = 60.8%
DF
1
1
T
13.75
-0.61
3.07
P
0.000
0.550
0.007
R-Sq(adj) = 56.2%
Analysis of Variance
Source
DF
SS
Regression
2 1056.85
Residual Error 17
681.58
Total
19 1738.43
Source
Grupo (antes-despus)
observacin
SE Coef
3.370
5.685
0.4929
MS
528.43
40.09
F
13.18
P
0.000
Seq SS
679.48
377.38
__________________________________________________________________
En la ecuacin (m) se demuestra que no existe impacto significativo (sin
cambio de nivel) del programa. Sin embargo, en la ecuacin (n) existe
aparentemente- un impacto de 11.657 puntos a favor del programa, lo cual es falso
porque previamente se supuso que no exista cambio de nivel alguno. Es el cambio
de tendencia historia de los datos, maduracin, eventos asociados no controladosla que est produciendo los resultados artificiales. Entonces, para controlar esta
tendencia se introduce una covariante (el nmero de observacin), demostrando en
la ecuacin (p) que no existe ningn impacto significativo del programa, es decir
que no existe ningn cambio de nivel.
Cuando existe cambio de nivel y cambio de tendencia, el impacto del
programa tiende a mezclarse con estos errores, sobre-estimndolo. Por ejemplo, si
353
Coef
54.673
21.657
R-Sq = 68.9%
SE Coef
2.426
3.430
T
22.54
6.31
P
0.000
0.000
R-Sq(adj) = 67.2%
Analysis of Variance
Source
DF
SS
MS
F
P
Regression
1 2345.2 2345.2 39.86 0.000
Residual Error 18 1059.0
58.8
Total
19 3404.2
_________________________________________________________________________________________
90
80
70
60
50
40
2
8
10 12 14
Observaciones
16
18
20
Figura N 4.16. Serie simple con cambio de nivel y con cambio de tendencia del posprograma, en
supuesto significativo (Fuente: Elaboracin propia).
354
Coef
46.355
6.534
1.5123
R-Sq = 80.0%
Analysis of Variance
Source
DF
SS
Regression
2 2722.6
Residual Error 17
681.6
Total
19 3404.2
SE Coef
3.370
5.685
0.4929
T
13.75
1.15
3.07
P
0.000
0.266
0.007
R-Sq(adj) = 77.6%
MS
1361.3
40.1
F
33.95
P
0.000
Ecuacin s
MTB > regress c11 3 c5 c1 c10
The regression equation is
P.con cambio, con tendencia = 45.1 + 11.4 Grupo (antes-despus)
+ 1.74 observacin
- 0.46 tendencia post tratamiento
Predictor
Constant
Grupo (antes-despus)
observacin
tendencia post tratamiento
S = 6.48430
R-Sq = 80.2%
Analysis of Variance
Source
DF
SS
Regression
3 2731.44
Residual Error 16
672.74
Total
19 3404.17
Coef
45.082
11.40
1.7438
-0.463
SE Coef
4.430
12.09
0.7139
1.010
T
10.18
0.94
2.44
-0.46
P
0.000
0.360
0.027
0.653
R-Sq(adj) = 76.5%
MS
910.48
42.05
F
21.65
P
0.000
__________________________________________________________________
A estos diseos simples antes-despus, se puede agregar un grupo control,
mejorando las perspectivas del anlisis y el control de las amenazas contra la
validez, principalmente aquellas relacionadas a la maduracin, instrumentacin,
medicin, regresin a la media e historia.
En este ejemplo de simulacin se tiene dos grupos de datos, 20 de control
(GC) y 20 experimental (GE) con medidas antes (10 primeras observaciones) y
355
Variable
PGC.sin cambio, con tendencia_1
Grupo (antes-despus)
0
0
1
80
Data
70
60
50
40
2
8
10
12
Observaciones
14
16
18
20
Figura N 4.17. Serie temporal con con cambio de nivel y con cambio de tendencia del
posprograma en GE, y sin cambio de nivel y con tendencia en GC (Fuente: Elaboracin propia).
356
__________________________________________________________________
Ecuacin t
MTB > regress c13 1 c5
The regression equation is
PGE.con cambio, con tendencia_1 = 54.7 + 21.7 Grupo (antes-despus)
Predictor
Constant
Grupo (antes-despus)
S = 7.67013
Coef
54.673
21.657
R-Sq = 68.9%
Analysis of Variance
Source
DF
SS
Regression
1 2345.2
Residual Error 18 1059.0
Total
19 3404.2
SE Coef
2.426
3.430
T
22.54
6.31
P
0.000
0.000
R-Sq(adj) = 67.2%
MS
2345.2
58.8
F
39.86
P
0.000
Ecuacin u
MTB > regress c13 2 c5 c12
The regression equation is
PGE.con cambio, con tendencia_1 = 3.50 + 10.3 Grupo (antes-despus)
+ 0.941 PGC.sin cambio, con tendencia_1
Predictor
Constant
Grupo (antes-despus)
PGC.sin cambio, con tendencia_1
S = 1.05276
R-Sq = 99.4%
Analysis of Variance
Source
DF
SS
Regression
2 3385.3
Residual Error 17
18.8
Total
19 3404.2
Coef
3.498
10.3236
0.94075
SE Coef
1.703
0.5988
0.03071
T
2.05
17.24
30.63
P
0.056
0.000
0.000
R-Sq(adj) = 99.4%
MS
1692.7
1.1
Source
Grupo (antes-despus)
PGC.sin cambio, con tendencia_1
DF
1
1
F
1527.26
P
0.000
Seq SS
2345.2
1040.1
__________________________________________________________________
Estos han sido algunos experimentos simulados mediante computadora
sobre los posibles resultados que se pueden obtener si no se controlan las amenazas
contra la validez. Cada diseo cuasi-experimental se dirige al control de algunas
amenazas, y aunque existen procedimientos estadsticos para ajustar estos sesgos,
la propuesta del Modelo Arysis se fundamenta en la planificacin y previsin
analtica de la evaluacin de impacto.
357
358
359
360
CONCLUSIONES
361
362
363
364
RECOMENDACIONES
1. Se recomienda la institucionalizacin de la evaluacin de impacto como
instrumento de apoyo a la toma de decisiones de poltica social. El Gobierno
puede incorporarla como poltica institucional dentro de la actual Reforma del
Estado y simplificacin de los Programas Sociales. Esta recomendacin es
necesaria en la medida que permite el logro de dos fines asociados: el
aprendizaje institucional y el uso racional de recursos escasos. De esta forma,
servir para generar aportes estratgicos de poltica, orientar y ajustar los
programas sociales. Los argumentos presentados indican la pertinencia de
utilizar la evaluacin de impacto como instrumento clave en el proceso de toma
de decisiones de la asignacin del gasto social. Su utilizacin contribuir en la
armonizacin de la oferta programtica, en su eficiencia y efectividad, y en la
orientacin de recursos del presupuesto nacional hacia aquellos programas que
generen los mejores resultados en trminos de reduccin de la pobreza.
2. Se recomienda la difusin del mtodo de evaluacin de impacto a travs de la
actualizacin curricular de la Gestin Pblica y la Gerencia Social. Los
gerentes sociales y administradores pblicos de programas de inversin
necesitan conocer aunque sea de modo propedutico- las caractersticas y
naturaleza de la evaluacin de impacto. El currculo de estas especializaciones
se debe orientar al desarrollo de una actitud positiva hacia la evaluacin de
impacto, as como a la formacin de criterios de calidad de la misma.
3. El Sistema Nacional de Inversin Pblica contempla dentro de su proceso de
post-inversin a la evaluacin de impacto; sin embargo, an no ha elaborado
guas ni manuales sobre su formulacin, ejecucin o informe. Por ello, se
recomienda la consideracin del Modelo ARYSIS para el diseo fundamentado
de tales manuales y documentos. No es suficiente que el SNIP provea de
material referencial centralizado en estudio de casos. Aparte de ello, debe
proveer referencia terica-metodolgica que fundamenten la eleccin de
diseos especializados de evaluacin de impacto apropiados para cada sector o
programa, pues lo que generalmente ocurre es que los documentos basados en
365
366
REFERENCIAS
1. ABADIE A, ANGRIST J. & IMBENS G. (2002). Instrumental Variables
Estimates of the Effect of Subsidized Training on the Quantiles of Trainee
Earnings. Econometrica, Econometric Society, Vol. 70(1), Pp. 91-117, January.
2. ABDALA, E. (2001). Modelos de evaluacin para programas de capacitacin
de jvenes. Montevideo: Cinterfor/OIT.
3. ABDALA, E. (2004). Manual para la evaluacin de impacto en programas de
formacin para jvenes. Motevideo: Cinterfor/OIT.
4. ADATO M, COADY D. & RUEL M. (1999) Evaluacin de operaciones de
Progresa desde la perspectiva de los beneficiarios, las promotoras, directores de
escuela y personal de salud. Instituto Internacional de Investigacin sobre
Polticas Alimentarias, Washington, DC.
5. ADATO M, DE LA BRIRE B, MINDEK D. & QUISUMBING A. (2000).
The impact Progresa on women`s status and intrahousehold relations.
International Food Policy Research Institute. Washington. USA.
6. ADATO M. (2000). El impacto de Progresa sobre las relaciones sociales en la
comunidad. International Food Policy Research Institute. Washington. USA
Julio.
7. ADATO, M. (2000). Final report: The impact of PROGRESA on community
social relationships. September. Report submitted to PROGRESA.
International Food Policy Research Institute, Washington, D.C.
8. ADU-GYAMFI JJ, TWUM-AMPOFO K, AKUAMOAH J. & KWAKU A.
(2006) ADRA/Ghanas Food Security Program (PL 480 Title II). En. Base de
Datos USAID
9. AEDO, C. & NEZ, S. (2004). The Impact of Training Policies in Latin
America and the Caribbean: The Case of Programa Joven. Research Network
Working Paper N 483. Bases de datos electrnica BIF.
10. AGUILAR, M. & ANDER-EGG, E. (1992). Evaluacin de servicios y
programas sociales. Madrid: Siglo XXI.
11. AHMED, A. & DEL NINNO, C. (2002). The Food for Education Program in
Bangladesh: An Evaluation of its impact on Educational Attainment and Food
Security. Food Consumption and Nutrition Division Discussion Paper N138.
367
368
25. ALWANG J. (2002). The impact of The International Food Policy Research
Tnstitute`s research program on rural finance policies for food security for the
poor. International Food Policy Research Institute. Impact Assessment
Discussion Paper N. 16
26. AMERICAN EVALUATION ASSOCIATION (2004). Guiding Principles for
Evaluators. USA.
27. ANDERSON GW & VADERVOORT CHG. (1982) Rural Roads Evaluation
Summary Report. A.I.D. Program Evaluation Report No. 5 Base de datos
electrnica USAID.
28. ANDERSON, P.; THOULESS, D.; ABRAHAMS, E. & FISHER. D. (1980).
New method for a scaling theory of localization. American Physical Society. 22
(8): 35193526.
29. ANDERSON, S. & BALL, S. (1983). The profession and practice of program
evaluation. San Francisco, Ca: Jossey-Bass.
30. ANDERSSON, L. (1985) Intervention against loneliness in a group of elderly
women: an impact evaluation. Soc. Sci. Med. Vol. 20. No. 4. 355-364.
31. ANGELES G, GUILKEY DK. & MROZ TA. (2003) The Effects of Education
and Family Planning Programs on Fertility in Indonesia. Measure Evaluation,
Working Paper-03-73.
32. ANGELUCCI M (2004) Aid and Migration: An Analysis of the Impact of
Progresa on the Timing and Size of Labour Migration. Forschungsinstitut zur
Zukunft der Arbeit (IZA). Discussion Paper No. 1187
33. ANGRIST J, BETTINGER E. & KREMER M. (2004). Long-Term
Consequences of Secondary School Vouchers: Evidence from Administrative
Records in Colombia. Serie Documentos de Trabajo (US) No. 10713, 133.
National Bureau of Economic Research, agosto.
34. ANGRIST J. & LAVY V. (2001) New Evidence on Classroom Computers and
Pupil Learning. IZA Discussion Paper No. 362
35. ANGRIST, J., BETTINGER, E., BLOOM, E., KING, E. & KREMER. M.
(2002). Vouchers for Private Schooling in Colombia: Evidence from a
Randomized Natural Experiment. The American Economic Review, 92 (5):
1535-1558.
36. ANGUERA, M. (1989). Innovaciones en la metodologa de evaluacin de
programas. Anales de Psicologa. N 5: 13-42. Murcia: Secretario de
publicaciones e intercambio cientfico.
37. ANGUERA, M., ARNAU, J., ATO, M. MARTINEZ ARIAS, R., PASCUAL,
J. & VALLEJO, G. (1995). Mtodos de investigacin en psicologa. Madrid:
Sntesis.
38. ANOLIN ALC. (2000). Women and Micro-Finance Programs. Civil Society
and Governance Programme, IDS.
39. ANUATTI-NETO F, BAROSSI-FILHO M, GLEDSON DE CARVALHO A.
& MACEDO R. (2003) Costs and Benefits of Privatization: Evidence from
Brazil. Research Network Working Paper N-455. Bases de datos electrnica
BIF.
369
370
371
372
373
374
375
376
377
378
379
188. COOK, C., DUNCAN, T., JITSUCHON, S., SHARMA, A & GUOBAO,
W. (2004). Assessing the Impact of Transport and Energy Infrastructure on
Poverty Reduction. Regional Assistance Technical Report N 5947. Asian
Development Bank, Manilla, Philippines.
189. COOK, T. & CAMPBELL, D. (1986). The causal assumptions of quasiexperimental practice. Synthese, 28: 141-180.
190. COOK, T. & CAMPBELL, D. (Eds.). (1979). Quasi-experimentation:
Design and analysis for field settings. Chicago: Rand McNally.
191. COOK, T. & SHADISH JR., W. (1986). Program Evaluation: The World
Science. Annual Review of Psychology, 37: 139-232
192. COOK, T. & SHADISH, W. (1994). Social experiments: some
developments over the past fifteen years. Annual Review of Psychology, 45:
545-580.
193. COOK, T.; CAMPBELL, D. & PERACCHIO, L. (1990). Quasi
Experimentation. En M. DUNNETTE & L. HOUGH (Eds.). Handbook of
industrial and Organizational Psychology. Vol.1, pags. 491-576. 2 Edicin.
Palo Alto (CA). Consulting Psychologist Press.
194. COOK, T.; LEVITON, L. & SHADISH, W. (1985). Program evaluation.
En: LINDZEY, G & ARONSON, E. (Eds.). Handbook of social psychology.
Nueva York, Random House.
195. COOKE & KOTHARY (2001). Participation: The New Tyranny? Londres,
Zed Books.
196. CORDRAY, D. (1986). Quasi-Experimental Analysis: A Mixture of
Methods and Judgment. En: W. TROCHIM (Ed.). Advances in QuasiExperimental Design and Analysis. San Francisco: Jossey-Bass.
197. COWLES, M. (1989). Statistic in Psychology. An Historical Perspective.
Hillsdale, New Jersey: LEA.
198. COYLE, S.; BORUCH, R. & TURNER (1991). Evaluating AIDS
prevention programs: expanded edition. Washington DC: National Academy
Press.
199. CREATIVE ASSOCIATES & BENCHMARKS, INC. (1985). Small
Project Assistance (SPA): A Joint Project of AID and the Peace Corps.
Washington. Base de datos electrnica USAID - A.I.D. Evaluation Special
Study No. 24.
200. CREATIVE ASSOCIATES INTERNATIONAL (1996). Reinsertion of excombatants in El Salvador. USAID. National Reconstruction Secretariat.
201. CRONBACH, L. (1963). Course improvement through evaluation.
Teachers College Record, 64: 672-683.
202. CRONBACH, L. (1974). Beyond the two disciplines of the scientific
psychology. Comunicacin a la asamblea de la APA, 2 de Septiembre.
(Traduccin espaola en F. ALVIRA, M. AVIA, R. CALVO & F. MORALES
(Eds.). Los dos mtodos de las Ciencias Sociales. Madrid: C.I.S.).
203. CRONBACH, L. (1982). Designing evaluations of educational and social
programs. San Francisco, Jossey-Bass.
204. CRONBACH, L.; HAMBRON, S., DORNBUSCH, S., HESS, R.,
HORNICK, R., PHILLIPS, D., WALKER, D. & WEINER, S. (1980). Towards
380
381
382
383
384
385
386
387
310. GLEWWE, P., KREMER, M. & MOULIN, S. (2000). Textbooks and Test
Scores: Evidence from a Prospective Evaluation in Kenya. Science Foundation,
World Bank Research Committee.
311. GLEWWE, P., KREMER, M., MOULIN, S. & ZITZEWITZ, E. (2000).
Retrospective vs. Prospective Analyses of School Inputs: The Case of Flip
Charts in Kenya. Working Paper N 8018. National Bureau of Economic
Research, Cambridge MA.
312. GLEWWE, P., NAUMAN, I. & KREMER, M. (2003). Teacher Incentives.
Working Paper N 9671. National Bureau of Economic Research, Cambridge,
MA.
313. GLINER JA. & SAMPLE P. (1996) A multimethod approach to evaluate
transition into community life. Evaluation and Program Planning, Vol. 19, No.
3, pp. 22-233
314. GODDARD PO, GMEZ G, HARRISON P. & HOOVER G (1981). The
Product is Progress: Rural Electrification in Costa Rica . Proyect Impact
Evaluation Report Na 22. Base de datos electrnica USAID
315. GODOY, L. & RANGEL, M. (1997). Nuevas experiencias en Poltica
Social: Los Fondos de Inversin Social en Amrica Latina y el Caribe en los
Programas Sociales. Documento LC/R 1744, CEPAL, Santiago de Chile.
316. GONZLEZ, A. (1987). Evaluacin de centros y programas educativos.
Revista Comunidad Educativa, 15; 6-9.
317. GOODMAN, C. (1990). Evaluation of a Model Self-Help Telephone
Program: Impact on Natural Networks. Social Work, 36 (6): 556-562.
318. GREENBERG M, MANTELLA N, LAHRA M, FRISCHB M, WHITEC
K. & DAVID KEHLERD D. (2005) Evaluating the economic effects of a new
state-funded school building program: the prevailing wage issue.Evaluation
and Program Planning, 28:3345.
319. GREENBERG M, MANTELLA N, LAHRA M, FRISCHB M, WHITEC
K. & DAVID KEHLERD D. (2005) Evaluating the economic effects of a new
state-funded school building program: the prevailing wage issue.Evaluation
and Program Planning, 28:3345.
320. GROSH, M.E. & MUOZ, J. (1996). A Manual for Planning and
Implementing the Living Standards Measurement Study Survey. LSMS,
Documento de trabajo N 126. Banco Mundial, Washington, D.C.
321. GUBA, E. & LINCOLN, Y. (1985). Naturalistic Inquiry. Sage. Beverly
Hills.
322. GUBA, E. (1978). Toward a methodology of naturalistic inquiry in
educational evaluation. Los ngeles. Center for the study of evaluation.
323. GUETZKOW, H. (1962). Simulation in Social Science. Englewood Cliffs,
New Jersey. Prentice Hall.
324. GUGERTY M.K. & KREMER M. (2004). The Rockefeller Effect.
University of Wahington. Working Paper.
325. GUMUSELI AI. & ERGIN B. (2002) The Manager's Role in Enhancing
the Transfer of Training: A Turkish Case Study . International Journal of
Training Development, vol. 6: 80-97.
388
389
390
391
392
393
398. KLOEKA GC, VAN LENTHEA FJ, VAN NIEROPB PWM, KOELENC
MA. & MACKENBACH JP. (2006) Impact evaluation of a Dutch community
intervention to improve health-related behaviour in deprived neighbourhoods.
Health & Place, 12: 665-677.
399. KLUGER A. (2001) The Incidence of Job Security Regulations on Labor
Market Flexibility and Compliance in Colombia: Evidence from the 1990.
Reform. Research Network Working papers ; R-393. Bases de datos
electrnica BIF.
400. KRATOCHWILL, T. (1978). Single Subject Research. Strategies for
evaluating change. Nueva York: Academic Press.
401. KREMER M, MOULIN S. & NAMUNYU R. (2003). Decentralization: A
Cautionary Tale. Harvard University, Cambridge, Mass.
402. KREMER, M., EDWARD, M., THORNTON, R. & OZIER, O. (2004).
Incentives to Learn. Policy Research Working Paper N 3546. World Bank,
Washington D.C.
403. KRGER, C., WINTER, H. & SHAW, R. (1998). Gua para la evaluacin
de las intervenciones preventivas en el mbito de las drogodependencias.
Manual para responsables de planificacin y evaluacin de programas. Lisboa:
Observatorio Europeo de Drogas y Toxicomanas.
404. KRUGLANSKI, A. & KROY, M. (1976). Outcome validity in
experimental research: A reconceptualization. Representative Research in
Social Psychology, 7: 166-178.
405. KRUSE, D. & SCHUR, L. (2003) Employment of People with Disabilities
Following the ADA. Industrial Relations, Vol. 42, No. 1.
406. LALONDE, R. & MAYNARD, R. (1987). How Precise Are Evaluations of
Employment and Training Programs? Evidence from a Field Experiment.
Evaluation Review, 11(4): 428-451.
407. LALONDE, R. (1986). Evaluating the Econometric Evaluations of
Training Programs. American EconomicReview, 76: 604620.
408. LANE, J. (2000). New Public Management. Sage, London.
409. LATORRE, A.; DEL RINCN, D. & ARNAL, J. (1996). Bases
metodolgicas de la investigacin educativa. Barcelona: Hurtado Ediciones.
410. LAVY, V (2003) Pay for Performance: the Effect of Teachers Financial
Incentives onStudents Scholastic Outcomes CEPR Discussion Paper No.
3862
411. LEACH, F, ABDULLA S, APPLETON H, EL-BUSHRA, CARDENAS N,
KEBEDE K, LEWIS V. & SITARAM S. (2000). The Impact of Training on
Women's Micro-Enterprise Development. Education Research Paper No. 40,
139 p.
412. LECHNER, M. & VAZQUEZ-ALVAREZ, R. (2003) The Effect of
Disability on Labour Market Outcomes in Germany: Evidence from Matching
IZA. Discusin Paper. N 967.
413. LECHNER, M.(1999) Earnings and Employment Effects of Continuous
Off-the-Job Training in East Germany after Unification, Journal of Business &
Economic Statistics, 17, 74-90.
394
414. LEE, D. (2005) Training, Wages, and Sample Selection: Estimating Sharp
Bounds on Treatment Effects. National Bureau of Economic Research (NBER)
Working Paper. N 11721.
415. LEHMAN, R. (1980). What simulation can do to the statistics and design
course? Behavior Research Methods and Instrumentation 12: 157-159.
416. LEN, M. & YOUNGER, SD. (2004) Transfer Payments, Mother's
Income, and Child Health in Ecuador. Cornell Food and Nutrition Policy
Program Working Paper No. 172.
417. LEVIN, H. (1975). Cost-Effective Analysis in Evaluation Research. In
Guttentag, M. & Struening, E. (Eds.). Handbook of Evaluation Research, Vol.
2, Sage, Beverly Hill.
418. LEVY I, ZUVEKAS C. & STEVENS C. (1981). Philippines: Rural Roads I
and II. AID Project Impact Evaluation Report N l8. Base de datos electrnica
USAID
419. LEVY, A. et al. (1985). The impact of a nutrition information program on
food purchases. Journal of Public Policy and Markenting, 4: 1-13.
420. LINDEN L, BANERJEE A. & DUFLO E. (2003). Computer-Assisted
Learning: Evidence from a Randomized Experiment . Cambridge, MA:
Poverty Action Lab.
421. LIPSEY, M (1996). Key issues in intervention. A program evaluation
perspective. American Journal of Industrial Medicine, 29, 298-302.
422. LOGAN TK, HOYT W,. MCCOLLISTER K, FRENCH M, LEUKEFELD
C, & MINTON L. (2004) Economic evaluation of drug court: methodology,
results, and policy implications. Evaluation and Program Planning 27 (2004)
381396.
423. LOHR, B. (1972). An historical of the research on the factors related to the
utilization of health services. Duplicated research report, Bureau for Health
Services Research and Evaluation, Social and Economic Analysis Division,
Rockville, MD, January.
424. LOKSHIN, M. & YEMTSOV, R. (2003). Evaluating the Impact of
Infrastructure Rehabilitation Projects on Household Welfare in Rural Georgia.
World Bank Policy Research Working Paper N 3155. World Bank,
Development Economics Research Group and Eastern Europe and Central
Asia, Poverty Reduction and Economic Management, Washington, D.C.
425. LPEZ, JH. (2004) Pro-growth, pro-poor: Is there a tradeoff? World Bank
Policy Research Working Paper 3378.
426. LPEZ-BARAJAS, E.; LPEZ. E. & PREZ, R. (1987). Pedagoga
experimental I. Madrid: UNED.
427. LORA, E. & OLIVERA M. (1998) Macro Policies and Employment
Problems in Latin America. Inter-American Development Bank, Working
Paper No. 372.
428. LUCAS K, DAVIS T. & RINKARD K. (1996) Agricultural Transportation
Assistance Program (ATP). Disponible en base de datos electrnica USAID.
429. MADUEO, M., LINARES, J. & ZURIA, A. (2004). Instrumento
estandarizado de identificacin de beneficiarios para programas sociales en el
395
Per. Bethesda, MD: Socios para la reforma del sector salud, Abt Associates
Inc.
430. MAGNANI R, TOURKIN S. & HARTZ S. (1984) Evaluation of the
Provincial Water Project in the Philippines. S. Agency for International
Development. Project 492-U-033. Base de datos electrnica USAID
431. MAGNANI RJ. HOTCHKISS DR, FLORENCE CS.& LEIGH LA.(1999)
The impact of Family Planning Supl Environment on Contraceptive Intentions
and Use in Morocco. Studies in Family Planning, vol. 30, 2: 120-132.
432. MAGNANI, R. ET AL. (2003) The Impact of Life Skills Education on
Adolescent Sexual Risk Behaviors. Horizons Research Summary. Washington,
D.C.: Population Council.
433. MAKANZA M. & MUNYARADZI R. (2004) Impact Evaluation on
Implementatio of the WTO valuation agreement for Mozambique. Regional
Center for Southern frica, U.S. Agency for International Development
Gaborone, Botswna. Base de datos electrnica USAID
434. MALUCCIO, J. & FLORES, R. (2004). Impact Evaluation of a Conditional
Cash Transfer Program: The Nicaraguan Red De Proteccion Social. Food
Consumption and Nutrition Division Discussion Paper N 184. International
Food Policy and Research Institute, Food Consumption and Nutrition Division,
Washington D.C.
435. MALUCCIO, J. (2003). Education and Child Labor: Experimental
Evidence from a Nicaraguan Conditional Cash Transfer Program. International
Food Policy and Research Institute, Washington D.C.
436. MANDEL DH, ALLGEIR PF, WASSERMAN G, HICKEY G, SALAZAR
R. & ALVIAR J. (1980) The Philippines: Rural Electrification. Project Impact
Evaluation N. 15 Base de datos electrnica USAID
437. MANOHAR, V., DES ROCHES, E. & FERNEAU, E. (1976). An
education Program in Alcoholism for Social Workers: Its Impact on Attitudes
and Treatment-Orientede Behavior. British Journal Addiction, 71: 225-234.
438. MARK, M. (1986). Validity typologies and the logic and practice of quasiexperimentation. En M.K. Trochim (Ed.). Advances in quasi-experimental
design and analysis (pp. 47-67). San Francisco: Jossey-Bass.
439. MARK, M. (2001). Evaluation Capacuty and the Development of
Contextually-Sensitive Evaluation Practice: The Role of the Evaluation
Journal. The Japanese Journal of Evaluation Studies, 1 (1).
440. MARKIEWICZ, A (2005). A balancing act: resolving multiple stakeholder
interests in program evaluation. Evaluation Journal of Australasia, 4 (1, 2): 1321.
441. MRQUEZ G. & PAGS C (1997) Trade and Employment: Evidence
from Latin America and the Caribbean. Inter-American Development Bank,
Working Paper No. 373.
442. MARTNEZ, C. (1996). Evaluacin de programas educativos.
Investigacin evaluativa. Modelos de evaluacin de programas. Madrid,
UNED.
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416