Suscríbete a DeepL Pro para poder traducir archivos de

Más información disponible en www.DeepL.com/pro.

4
¿MENOS TRABAJO PARA EL
PROFESOR? LAS IRONÍAS DE
LA AUTOMATIZACIÓN
TOMA DE DECISIONES EN LAS
ESCUELAS
Neil Selwyn

Introducción
Como en muchos otros ámbitos de la sociedad, las instituciones educativas están
empezando a adoptar todo tipo de tecnologías de toma de decisiones automatizada
(ADM). Aunque las aplicaciones y los sistemas educativos no suelen figurar en los
análisis críticos de la inteligencia artificial (IA) y la automatización, ofrecen ricos
ejemplos de las nuevas repercusiones (y tensiones) asociadas a la ADM en los
entornos sociales cotidianos. En este capítulo se examina el ejemplo de un sistema
de ADM comercializado recientemente en las escuelas australianas. Este producto
promete automatizar el registro de asistencia de los alumnos a clase, lo que en la
enseñanza australiana se denomina "pasar lista". En lugar de que los profesores lean
listas alfabéticas de nombres y decidan qué alumnos están presentes (y cuáles no),
los colegios pueden invertir ahora en "AutoRoll", una "solución" de reconocimiento
facial para la gestión de la asistencia a clase. Como veremos, este sistema
aparentemente inofensivo pone de relieve una serie de formas en las que las
aspiraciones iniciales de los diseñadores y desarrolladores de ADM pueden chocar
con prácticas y concepciones específicas del contexto. En resumidas cuentas,
marcar los nombres de los alumnos en una lista es mucho más de lo que podría
suponerse en un principio.

Breve descripción del ADM en el aula

En la actualidad se observa un crecimiento constante de las tecnologías de ADM
diseñadas para uso educativo. Quizá las más destacadas sean las destinadas a
apoyar el aprendizaje de los alumnos, como los sistemas de aprendizaje
personalizado diseñados para dirigir la participación de los estudiantes en los
recursos de aprendizaje en línea. Estos sistemas utilizan sofisticados análisis
basados en datos para apoyar la toma de decisiones sobre lo que los estudiantes
deben aprender a continuación. Tal vez sean más frecuentes las formas de
tecnología basada en IA centradas en la administración y la organización, en su
mayoría diseñadas para apoyar la toma de decisiones automatizada de rutina
para instituciones, profesores y otros miembros del personal. Muchas de estas
tecnologías apoyan lo que

DOI: 10.4324/9781003170884-6
74 Neil Selwyn

Gulson y Witzenberger (2021) hablan de "gobernanza educativa automatizada",

que abarca desde la toma de decisiones burocráticas dentro de la escuela hasta la
gestión de los sistemas educativos nacionales. En otros lugares, las escuelas han
adoptado tecnologías impulsadas por la IA para apoyar las etapas iniciales de la
contratación de profesores, la compra y la adquisición de recursos, la predicción
de patrones de matriculación y retención de estudiantes probables y la
información sobre otras "decisiones empresariales" a las que se enfrentan los
administradores escolares.
Junto a estas formas institucionales de ADM, se han desarrollado otras
tecnologías basadas en la IA para apoyar las tareas de toma de decisiones en el aula
que antes correspondían a los profesores. Estas tareas van desde juzgar la calidad
del trabajo de los alumnos hasta identificar a los que hacen trampas o están
desmotivados y desvinculados de sus estudios. Por ejemplo, cada vez hay más
interés en el uso de sistemas de inteligencia artificial que controlan los niveles de
atención y los estados emocionales de los estudiantes. Herramientas tan populares
contra el plagio de redacciones como "TurnItIn" se ven ahora reforzadas por el uso de la
"estilometría del lenguaje" basada en IA para ayudar a los profesores a decidir sobre
casos de malas prácticas académicas y trampas. Los sistemas escolares y las
escuelas individuales también están empezando a hacer uso de la calificación
automatizada de exámenes y la evaluación de ensayos (lo que a veces se describe
como "robo-calificación") para apoyar las decisiones de calificación (Shermis y
Lottridge, 2019).
Sin embargo, quizá la forma más generalizada de ADM que están adoptando
los centros escolares sean las tecnologías que apoyan las "decisiones de control de
acceso", es decir, la gestión del flujo de personas que entran, pasan y salen de los
espacios escolares. De forma más prosaica, se ha asistido al auge de los
"sistemas de gestión de visitantes" automatizados, que facilitan el proceso de
registro de alumnos, personal y demás personal y visitantes del campus. El auge
de la tecnología de reconocimiento facial y detección de objetos ha llevado a
miles de centros escolares estadounidenses a adoptar sistemas de reconocimiento
facial para identificar a intrusos no autorizados y potencialmente dañinos.
Durante la vuelta a la escolarización presencial tras los cierres de COVID,
surgieron informes de escuelas estadounidenses que utilizaron fondos de ayuda para
la pandemia para adquirir nuevos sistemas de reconocimiento facial, con detección
de intrusos, control de asistencia y capacidades añadidas de imagen térmica
(Barber, 2020). Se están utilizando sistemas biométricos similares para
autenticar la identidad de los estudiantes en línea; en otras palabras, para
confirmar que las personas que participan en actividades de aprendizaje en línea
fuera del campus son realmente quienes dicen ser. En muchos sentidos, tener
una idea clara de quién está "presente" en un momento determinado es un
requisito previo para que tenga lugar cualquier otra cosa.

Promesas y lógica del ADM educativo

Las supuestas ventajas asociadas a estas diferentes tecnologías resultarán
familiares a los observadores generales de la ADM. Por ejemplo, las promesas
habituales de que los ADM permiten una mayor precisión se hacen evidentes en
 ¿Menos trabajo para el
la esperanza de aportar una lógica matemática formalprofesor? 75
de "calculabilidad" a los
procesos del aula que tradicionalmente se guían por conjeturas informadas del
profesor o por una planificación especulativa. Del mismo modo, las promesas de
que los ADM conducen a una mayor "perspicacia" y a una acción informada son
evidentes en las esperanzas de la "adaptación" y la "personalización" impulsadas
por la tecnología de la oferta educativa (véase Bulger, 2016), por lo que
contrarrestan las críticas de que la escolarización masiva "estereotipada" ha
demostrado ser incapaz de satisfacer las diversas necesidades individuales.
 76 Neil Selwyn

Esta idea de que la ADM actúa como corrector de deficiencias

específicamente educativas es quizá más evidente en las promesas de que la
ADM conduce a una mayor eficiencia al reducir (o eliminar) el número de
"humanos en el bucle". En este caso, los discursos suelen enmarcarse en la idea
de que la tecnología de ADM corrige las deficiencias de los profesores, como la
fatiga, la parcialidad y la falta de atención a los alumnos. De hecho, mientras que la
ADM en todos los ámbitos de la vida se justifica en términos de "evitar los sesgos,
prejuicios e irritaciones de los [actores] humanos" (Lisle y Bourne, 2019: 682),
esto se ve como una consideración particular cuando se trata de profesores que
tratan con un gran número de estudiantes. Se reconoce que los profesores de
escuelas de todo el mundo están sobrecargados de trabajo, agotados y quemados
(Fitzgerald et al., 2019; Saloviita y Pakarinen, 2021). En respuesta, los sistemas
impulsados por IA se imaginan como impulsados por decisiones desapasionadas,
objetivas e imparciales, lo que Edwards y Cheok (2018: 5) describen como "la
capacidad de las máquinas . . para interactuar con alumnos humanos sin que las
emociones humanas se interpongan".
Esto no quiere decir que se considere que estas tecnologías eliminan por
completo a los profesores. Por el contrario, estas afirmaciones suelen estar
matizadas por la idea de que la ADM libera a los profesores de las tareas
rutinarias y procedimentales, permitiéndoles concentrarse en el trabajo
pedagógico de alto nivel. Reflejando afirmaciones más amplias de que la ADM
"libera" a los trabajadores del conocimiento para que se dediquen a un trabajo
discrecional más complejo (McIntyre, 2019), se describe a las tecnologías de IA
como responsables de las onerosas "rutinas", "deberes" y trabajo "pesado" en el
aula asociados con la enseñanza. Como tal, se argumenta comúnmente que los
profesores pronto podrían beneficiarse de tener "asistentes" impulsados por IA
que proporcionen "apoyo inteligente" y reduzcan la carga de trabajo y el estrés
(Ideland, 2021). Por lo tanto, estos escenarios se anticipan:

un futuro en el que el papel del profesor siga evolucionando y acabe

transformándose; un futuro en el que su tiempo se utilice de forma más
eficaz y eficiente, y en el que su experiencia se despliegue, aproveche y
aumente mejor.
(Luckin et al., 2017: 11)

El impulso para integrar la ADM en las escuelas lleva implícita la sensación de

que los responsables del diseño, el desarrollo y la comercialización de la
tecnología perciben las escuelas con preocupación y desconcierto. En este sentido,
el desarrollo de las ADM en las aulas coincide con la idea de que las instituciones
y los sistemas escolares están "inadaptados" a las sociedades digitales. A menudo
se argumenta, por ejemplo, que las escuelas convencionales están "rotas", son
"decimonónicas" y frustrantes por su naturaleza y forma, es decir, productos
anticuados y obsoletos de una época pasada. Los comentaristas hablan con
exasperación de "aulas de la era industrial", escuelas que parecen fábricas,
educadores de "torre de marfil", etcétera. Junto con estas frustraciones, hay
ambiciones de diseñar la "reforma corporativa" de las instituciones educativas; en
resumen, la imposición de modelos, lógicas y procesos empresariales a las
 ¿Menos trabajo para el
escuelas y a quienes trabajan en ellas (véase Selwyn, profesor?
2021). Por77lo tanto, la
ADM encaja bien con los apetitos más amplios de reformas impulsadas por la
tecnología que impregnan los ideales de gestión empresarial de eficiencia, eficacia
y estandarización. Así pues, cualquier promesa de "liberar" y "ayudar" a
78 Neil Selwyn

Los profesores son atravesados por un sentido de ADM que añade una dosis de
espina dorsal cor- porada muy necesaria a unas instituciones públicas que
fracasan y a unas plantillas que se desvanecen rápidamente.

El caso del control automático de asistencia a clase "autoroll

A continuación examinamos un modesto ejemplo del auge de la GAD en las
escuelas: el desarrollo por una pequeña empresa australiana de un sistema de
"toma de asistencia automatizada" que utiliza tecnología de reconocimiento facial
para marcar automáticamente el registro de clase al comienzo de cada lección. En
este artículo examinamos esta tecnología a través de una lectura detallada de
patentes, blogs de desarrolladores, materiales de marketing y una serie de
entrevistas con actores clave del sector educativo. Estos datos empíricos permiten
comprender mejor las funciones técnicas de esta tecnología de ADM, sus lógicas
organizativas más amplias y la forma en que se entiende que (re)configura las
acciones y relaciones en el aula.

Disposiciones técnicas
En los áridos términos de su patente de producto, AutoRoll (seudónimo
utilizado) es "autoaprendizaje localizado para el reconocimiento de personas en
lugares". En términos de marketing más estridentes, el vídeo promocional de
AutoRoll lo describe como una "tecnología revolucionaria que automatiza el
paso de lista... hace automáticamente lo que el personal escolar hace
manualmente". En resumen, AutoRoll es un sistema de reconocimiento facial
diseñado para automatizar un proceso de toma de decisiones muy limitado que
tiene lugar al principio de cada clase: registrar qué alumnos asisten a clase. Así
lo describe uno de los fundadores de la empresa:

Se trata de un resultado muy específico que queremos resolver: "¿Quién

está en esta sala en este momento? Bien, se espera que estos estudiantes
estén aquí, lo están". Así que vamos a marcar automáticamente esa lista
para el profesor. Entonces puede entrar y decir: "Sí, veo que todos estos
datos son correctos, voy a pasar lista".

Las primeras versiones del producto incluían iPads montados en la pared y un

servicio de reconocimiento facial basado en la nube. Sin embargo, la empresa ha
pasado rápidamente a un complejo sistema de hardware autónomo personalizado y
"software como servicio". Como tal, AutoRoll implica ahora la instalación en las
aulas de pequeños dispositivos montados en la pared que transmiten vídeo de
cámaras 4K. Además, la solicitud de patente de la empresa describe una versión
de "gestión de visitantes" integrada en un quiosco situado en las zonas de
recepción que "también puede interconectarse con otros dispositivos físicos
externos para proporcionar control de acceso, como controlar la cerradura
magnética de una puerta". Ambos dispositivos se consideran "cosas" en la
Internet de las Cosas (IoT).
Esto significa que toda la comunicación, autenticación y seguridad se realiza a
 ¿Menos trabajo para el
través del marco IoT de Amazon Web Services (AWS). 79
El cofundador
profesor? y director
técnico de AutoRoll añade que la empresa ha desarrollado su propia plataforma
de IoT.
 80 Neil Selwyn

modelos en tiempo real que se almacenan a bordo de cada dispositivo para

"extraer los puntos de interés, realizar una identificación rápida y, a
continuación, si no se puede averiguar o no hemos visto a esa persona antes,
acudir a Rekognition [el servicio en la nube de visión por ordenador de Amazon]
para obtener la respuesta final".

Enmarcar el problema "educativo

Estas especificaciones técnicas reflejan distintos marcos de los "problemas" de la
vida real que los fundadores de AutoRoll han perseguido desde la creación de su
producto. En la retórica solucionista de la cultura de las empresas emergentes, uno
de los "discursos de ascensor" favoritos para el producto es: ¿Cómo podemos
solucionar la gestión de personal y la asistencia a clase? Curiosamente, cuando se
dirigen al público del sector informático, los fundadores de AutoRoll se esfuerzan
por restar importancia a la naturaleza "anodina" de su tarea. En este sentido,
autoRoll se justifica por aliviar a los colegios de un aspecto aburrido pero
obligatorio de la escolarización, un punto de "cumplimiento" y algo que "los colegios
están obligados por ley".
Sin embargo, también es evidente lo que los desarrolladores de AutoRoll
identifican como un problema de escala:

Cuando se piensa en ello, las escuelas son un problema muy complicado.

Los profesores tienen que pasar lista al menos cada hora. . . Pero también hay
que tener en cuenta la gestión de las visitas y el cumplimiento de las normas.
Las escuelas tienen personas que visitan sus campus todos los días y tenemos
que verificar quiénes son... si pensamos en el tamaño de las escuelas, es un
problema de escala... muchas de estas cosas son muy complejas. . muchas de
estas cosas son fáciles de hacer manualmente cuando se tiene un número
reducido de alumnos o de aulas, pero cuando se amplía el problema, se hace
cada vez más difícil.

Por otra parte, los creadores de AutoRoll describen las escuelas como lugares en los
que "alrededor del 10-20% de su población está ausente o entra tarde o sale
temprano". Basándose en la terminología de la gestión del transporte y el diseño
de páginas web, se considera que esto provoca un aumento problemático del
"tiempo de permanencia". En resumen, desde el punto de vista de la ingeniería
informática, "hay que procesar una gran cantidad de datos".

Superar los retos "técnicos

De hecho, la principal preocupación técnica de AutoRoll se había concebido
inicialmente en términos de este "problema de escala". El pequeño equipo de
desarrollo consideraba que las aulas grandes requerían al menos tres cámaras 4K
para obtener una cobertura visual completa con la suficiente densidad de píxeles
"necesaria para realizar un buen evento de reconocimiento". Esto significaba que
la escuela imaginada por AutoRoll ("con digamos 80 -incluso 100- aulas")
produce grandes flujos de datos. Este volumen de datos se consideró el principal
 ¿Menos trabajo para el
reto técnico: profesor? 81

Imagínense que tenemos cientos y cientos de dispositivos en las

instalaciones de un cliente funcionando durante el día. No paran de enviar
datos a nuestra nube.
82 Neil Selwyn

Estamos escalando horizontalmente todo lo que podemos, y entonces el

reloj da las 4 en punto... todo el mundo se va a casa y todo se paraliza.
Todo queda en silencio.

Sin embargo, el proyecto piloto inicial de la empresa puso de manifiesto un

problema adicional: las expectativas de las escuelas en relación con los niños y
la privacidad de los datos. La fase piloto del producto reveló rápidamente que
cualquier ADM escolar está sujeto a una serie de marcos normativos: varias leyes
estatales de "Privacidad y Protección de Datos", la ley federal de "Privacidad" e
incluso normativas específicas como la ley de "Dispositivos de Vigilancia". En
palabras de un asesor jurídico del Sindicato Independiente de la Enseñanza, la
aplicación de esta legislación en las escuelas era "bastante amplia" y "no estaba
bien probada". Por ello, las primeras incursiones de AutoRoll en las escuelas
suscitaron una considerable oposición por parte de los responsables políticos
locales, los padres y los medios de comunicación, e incluso llevaron al Ministro
de Educación de un estado a declarar una moratoria temporal sobre la
implantación de cualquier tecnología de reconocimiento facial en las escuelas
públicas. Tal y como se desprende de la investigación sobre UX de AutoRoll:

Padres y profesores se sienten incómodos y preocupados con la idea de

tener un sistema de asistencia basado en IA en el espacio educativo, así
como con la gobernanza de la privacidad.

Las cuestiones de privacidad, por tanto, constituyeron un problema técnico clave

que el equipo de AutoRoll tuvo que resolver: "Aquí es donde invertimos mucho
tiempo de ingeniería y mucho esfuerzo". Para ello, se rediseñaron los productos
AutoRoll para que fueran totalmente autónomos: los algoritmos de IA se
ejecutaban en dispositivos de hardware fabricados específicamente que no
producían ni almacenaban imágenes de personas ni de actividades de toda la
clase. Irónicamente (dadas las afirmaciones de marketing de que los profesores
se ven abrumados por la administración de clases numerosas), la patente del
producto AutoRoll describe esto como una carga de datos modesta: "el
procesamiento por parte del dispositivo local sigue siendo rápido y eficiente
desde el punto de vista computacional, ya que sólo necesita recordar a un
pequeño grupo de personas".
Desde el punto de vista técnico, se trata de un planteamiento difícil y
limitado, sobre todo porque fabricar su propio hardware limita las posibilidades
de exportación, en comparación con la venta exclusiva de software. No obstante,
los fundadores están dispuestos a afirmar que sus productos "no pueden
utilizarse mal". Incluso inocentemente". En este sentido, los complejos debates
sociales en torno al reconocimiento facial, la ética y la discriminación, que
alcanzaron su punto álgido cuando AutoRoll salía al mercado, pudieron
reprimirse en los términos limitados de la "obligación legal" de las escuelas de
abordar cuestiones de "privacidad". Se trataba de una "exigencia" que AutoRoll
podía afirmar haber resuelto gracias a su tecnología a medida, tal y como la
describía su cofundador:
 ¿Menos trabajo para el
Es mucho más caro, en términos de coste 83 en marcha
inicial, poner
profesor?
productos de hardware... pero nos dimos cuenta de que era un requisito
absoluto. . seguimos el camino de la I+D porque es un requisito para las
escuelas. Otras empresas podrían estar estudiando el uso de la IA y el
reconocimiento facial para casos y ámbitos de uso más amplios, pero para
nosotros se centró mucho en cómo
 84 Neil Selwyn

¿es esto apropiado, y cómo es esto ético para el uso, y cumplir con los
requisitos legales para su uso en las escuelas?

Beneficios percibidos
A pesar de la naturaleza "específica" de la tarea de toma de decisiones, este
considerable trabajo técnico sustentó varias afirmaciones exuberantes de que
AutoRoll "ayudaba a las escuelas". En primer lugar, las conocidas afirmaciones
de eficiencia: "hemos desarrollado soluciones para agilizar y mejorar la
eficiencia de los procesos [de asistencia] en los centros escolares". Estas
eficiencias se describen en términos de precisión ("registros de asistencia
exactos") y ahorro de tiempo ("paso de lista instantáneo", "conocimiento en
tiempo real", y superación del problema de que "esos pocos minutos se suman y
pueden equivaler a dos horas y media de clase perdidas a la semana por cada
alumno", como se resume en las preguntas más frecuentes de AutoRoll.
En segundo lugar, las ventajas asociadas a la "eliminación del error humano".
El sistema se presenta como "completamente infalible", incluso cuando los
alumnos intentan registrar de forma deshonesta a compañeros ausentes. Del
mismo modo, los profesores son falibles: "incluso con las mejores intenciones,
puede haber errores". Como dice la patente de AutoRoll, "el control manual de
asistencia requiere mucho trabajo, tiempo y es propenso a la elusión y la
inexactitud". Por tanto, los fundadores de la empresa consideran que no es
razonable esperar que los profesores pasen lista manualmente:

Cuando se le pide a un profesor... que compruebe 20-25-30 nombres de

una lista una vez cada hora de cada día, mientras mantiene la clase
ocupada, mientras no se distrae porque alguien llega diez minutos tarde,
mientras intenta impartir una clase y no puede parar y conectarse a un
ordenador y comprobar el registro digital, lo que puede llevar dos o tres
minutos, y en ese momento la clase vuelve a estar alborotada y empiezan a
tirarse aviones de papel unos a otros y entonces tarda otros cinco minutos
en encarrilar la clase. Eso ocurre todo el tiempo y, por lo tanto, hay error
humano. Siempre hay un error humano en el proceso de pasar lista.

En este sentido, el uso del reconocimiento facial se justifica como un medio a

prueba de fallos para gestionar estos riesgos potenciales y garantizar la seguridad.
De hecho, con el paso del tiempo, el marketing de Auto-Roll ha ido promoviendo
cada vez más las cuestiones relacionadas con el cuidado y la seguridad: "AutoRoll
trata de ayudar a las organizaciones a ofrecer un cuidado excelente a sus
comunidades... proporcionando entornos en los que todas las personas puedan
sentirse seguras y confiar". En palabras de los fundadores de la empresa y de la
industria biométrica en general, la anticipación de los problemas de atención se
enmarca en términos extremos:

Ningún padre quiere dejar a su hijo en el colegio por la mañana y pensar

que el colegio no sabe dónde está su hijo durante el día o, Dios no lo
quiera, incluso perderlo.
 ¿Menos trabajo para el
profesor? 85
Si hay un alto riesgo de que haya gente mala en la zona del colegio y
quieres proteger a tus hijos, entonces [con AutoRoll] podrías empezar a
sentirte más cómodo.

En conjunto, AutoRoll se justificó como un servicio público que refleja los

mejores principios industriales de la "IA ética" y la "IA para el bien", al
centrarse en la tarea explícita de asistir a clase, en lugar de otros impactos más
"poderosos" impulsados por la IA. Como dijo el cofundador:

Se trata de una visión ética del desarrollo tecnológico. Realisti-

a IA es una herramienta muy poderosa que puede utilizarse para resolver
problemas muy diversos. Con bastante frecuencia se ponen en contacto con
nosotros distintos clientes potenciales.
nos piden que produzcamos diferentes aspectos de nuestra IA que podrían
tener un impacto realmente positivo en lo que pueden hacer nuestras soluciones
de toma de asistencia. Cosas como ser capaces de ayudar con los posibles
efectos sobre la salud mental, la depresión, la ansiedad. Hay algoritmos
estándar que pueden utilizarse para ello. Pero entonces
hay que tener en cuenta si se va a utilizar de forma adecuada.
manera? Así que tenemos todo eso en cuenta, y ahora mismo decimos "No, no
vamos a hacerlo". Porque no hemos hecho suficientes análisis y no hemos
analizado suficientemente el producto para entender cuáles son los
resultados específicos y asegurarnos de que la tecnología se utiliza para el bien.
De modo que sea IA para el bien y no con el potencial de ser perjudicial o
sesgada.

Disminuciones temidas
Por último, merece la pena contrastar estas concepciones comerciales de los
"problemas" educativos y las "soluciones" automatizadas con las opiniones de los
profesionales de la educación. A pesar de sus alardes comerciales, el sistema
AutoRoll sólo se ha implantado en un puñado de centros escolares, y la empresa
se mantiene hermética sobre su base de clientes. Esto es comprensible, dado el
escepticismo que hemos observado en nuestras entrevistas con diversas partes
interesadas clave de toda la comunidad educativa. A la mayoría de los entrevistados
les decepcionó la idea de que el uso de la tecnología de reconocimiento facial para
automatizar el pase de lista resolviera un problema importante. Por ejemplo, el
asesor jurídico afirmó que "se puede dar por sentado que la mayoría de los
colegios saben exactamente quién está en sus instalaciones", y el presidente del
grupo de presión "biometría en los colegios", que "no había oído hablar de ningún
colegio que no pudiera funcionar sin un sistema biométrico". En general, AutoRoll
se consideró un uso desproporcionado de una tecnología controvertida en una
población vulnerable. Como concluyó un funcionario de protección de datos del
gobierno: al final no hay necesidad de utilizar [el reconocimiento facial], el
equilibrio no es el adecuado".
En este sentido, la clave era la sensación de que AutoRoll se basaba en una
visión "externa" de las escuelas y las aulas: "depende de si miras a las escuelas
86 Neil Selwyn
desde fuera o desde dentro". En una entrevista de grupo a los representantes
ejecutivos y docentes del sindicato nacional de la enseñanza se plantearon dudas
de que la tecnología funcionara sin problemas, lo que supondría un trabajo
adicional para los profesores: "sabemos quiénes son las personas que van a tener
que reiniciarlo, reajustarlo y todo ese tipo de cosas".
 ¿Menos trabajo para el
profesor? 87
Es un trabajo más que tiene que hacer alguien en la escuela". Quizá lo más
significativo fue este debate final de un grupo de representantes de profesores y
representantes sindicales, en el que se ampliaba la importancia de pasar lista en
el contexto del juicio profesional de los profesores y la gestión de las aulas:

R: La suposición de que pasar lista es tiempo perdido, y la suposición de que

pasar lista no es trabajo docente es una suposición falsa.
B: Sí, es un proceso bastante superficial, pero como profesor puedes utilizarlo de
muchas maneras que en realidad tratan de garantizar que los estudiantes estén
en el mejor lugar para aprender, que estén concentrados. Es una actividad
inicial que tiene todas las normas que la rodean. Es una actividad
institucionalizada y, en ese contexto, los profesores la utilizan de una manera
muy procedimental: la superan, la terminan, siguen adelante... [pero] otros
profesores la utilizan de una manera muy distinta. [pero] otros profesores la
utilizan de forma muy creativa como herramienta para preparar a los
alumnos para el aprendizaje.
R: A veces te equivocas, y puede ser un poco molesto, puedes liarla..., pero al
mismo tiempo tiene un proceso ceremonial que puede ser muy muy útil para
un profesor.
C: . . . y la interactividad que crea entre tú y los alumnos.
R: . . . pero también entre los alumnos de una clase. Porque oyen los nombres de
los otros alumnos y se les recuerda que no se trata sólo de una presencia
física, sino del simbolismo de un nombre. Eso les hará pensar de otra
manera.
B: Y los profesores lo utilizan no solo para comprobar si un niño está en clase,
sino también para saludarlo, para darle la bienvenida. Es una señal para los
demás niños. Y también tiene la dinámica de que, cuando un alumno está
ausente, los demás se lo dicen, lo que puede dar lugar a una conversación
sobre el motivo de la ausencia.
D: ¿Y el nuevo profesor? Para un profesor nuevo, pasar lista es un proceso
crucial para saber quién está ahí. Con la repetición, al final del trimestre
llegas a conocer sus nombres.
B: Además, es tu primera evaluación del día. Dependiendo de cómo te responda
un alumno, esa es la primera indicación de lo que tienes que hacer en esa
clase.
E: También es una oportunidad para mostrar un poco de discreción, si un niño
estaba teniendo problemas y llegaba tarde persistentemente usted podría
optar por retrasar la toma de lista hasta 10 minutos después de la lección
para que no aparezca como llegando tarde una vez más. Si se pasa lista
automáticamente en el primer minuto, no hay margen de maniobra.
C: Tiene que ver con la pertenencia... que sea cual sea la etapa en la que se
encuentre un alumno, forma parte de esta clase de una manera igual a todos
los demás alumnos.
R: Así que limitar [AutoRoll] a que sea eficaz para la toma de decisiones deja
absolutamente de lado un montón de procesos relacionales... y eso no se
puede descartar.
 88 Neil Selwyn

Debate
A diferencia de un cirujano que decide si opera o de un piloto que decide cómo
aterrizar un avión, un profesor que pasa lista en clase podría parecer un caso
decididamente no secuencial de toma de decisiones profesionales. Sin embargo, el
ejemplo de AutoRoll pone de relieve las importantes tensiones sutiles que
pueden surgir cuando cualquier forma de ADM es
 ¿Menos trabajo para el
profesor? 89
introducido en un contexto de trabajo profesional. De hecho, AutoRoll plantea la
cuestión de que no existe una toma de decisiones profesional totalmente
rutinaria. Aunque pasar lista es algo que las personas ajenas a la profesión (como
los creadores de AutoRoll) podrían ver como una pérdida de tiempo y
conocimientos profesionales, se trata de un "deber" que algunos profesionales de
la educación consideran un elemento significativo de su autonomía y autoridad.
Se trata de una tensión que se repite en los estudios sobre la GAD en otros
contextos, es decir, los intentos de automatizar "prácticas que los operadores no
consideran automáticas" (O'Grady, 2021: n.p.).
Aunque pueda parecer una aplicación prosaica de la tecnología de IA,
AutoRoll plantea una serie de cuestiones más amplias relacionadas con la
naturaleza de las aulas dotadas de ADM, junto con la automatización del trabajo
profesional en general. En primer lugar, merece la pena considerar cómo el
imperativo de AutoRoll surgió de las condiciones sociotécnicas más amplias que
han llegado a definir la educación contemporánea, y cómo se sustenta en ellas.
Por sí sola, la promesa de reducir el tiempo que se tarda en matricular a los
alumnos no basta para garantizar la adopción generalizada de esta tecnología.
Por el contrario, AutoRoll sólo sigue percibiéndose como una posibilidad
comercialmente viable (al menos por parte de los partidarios de la industria y el
gobierno federal) porque encaja perfectamente con las lógicas y condiciones más
generales de la reforma escolar contemporánea.
Por ejemplo, se trata de una tecnología que se adapta bien a la amplia
infraestructura digital existente en las escuelas. Las escuelas contemporáneas
están ahora repletas de dispositivos digitales, sensores y cámaras de circuito
cerrado de televisión, junto con la vigilancia continua de datos a través de
plataformas escolares, sistemas de gestión del aprendizaje y otras aplicaciones de
aula. Y lo que es más significativo, AutoRoll también se adapta bien a una serie
de lógicas de mejora escolar más amplias que le ayudan a sortear cualquier
resistencia inicial de padres y políticos preocupados. Por ejemplo, la perspectiva
de "trastornar" una práctica administrativa que se remonta a finales del siglo
XIX se articula bien con los discursos sobre la escuela obsoleta y "rota" de la era
industrial, así como con los discursos sobre el profesor agobiado por el trabajo y
la carga de trabajo.
En conjunto, la imposición ligeramente "exagerada" de la tecnología de
escaneado facial en tiempo real es un tótem de la reforma corporativa, que
aporta lógicas y eficiencias empresariales a la organización escolar mediante la
imposición de soluciones empresariales basadas en la tecnología. En un sentido
amplio, AutoRoll empieza a dar forma a un imaginario sociotécnico muy
arraigado entre los reformadores escolares: la "escuela inteligente":

Los edificios escolares están dotados de complejas redes de sensores que

regulan los entornos de aprendizaje mediante sistemas de gestión de edificios
conscientes del contexto. Estos sistemas son capaces de recoger y procesar
flujos continuos de datos biométricos y ambientales de los edificios escolares
y sus habitantes, incluidos los datos recogidos de escáneres de huellas
dactilares, software de reconocimiento facial, cámaras de vigilancia,
sensores de movimiento, sensores de luz y tecnologías de biosensores
90 Neil Selwyn
portátiles.
(De Freitas y Rousell, 2020: 11)

Por lo tanto, es comprensible que los "forasteros" de la educación sigan

dispuestos a dar crédito a las afirmaciones de AutoRoll, motivadas
comercialmente, sobre el "problema" del
 ¿Menos trabajo para el
profesor? 91
la lista de clase manual y los beneficios asociados a su automatización. Sin
embargo, las afirmaciones de que se pueden ahorrar hasta 2,5 horas semanales
de "horas de clase perdidas", por muy erróneas que sean, apelan claramente a la
ambición de inculcar eficiencias de tipo empresarial en las aulas. Del mismo
modo, la promoción por parte de AutoRoll de la ansiedad anticipada por "perder a
los niños" y los perjuicios derivados de la falta de "atención" también se
corresponden con la insatisfacción por la distracción, el exceso de trabajo y la
falta de atención de los profesores. Como en el caso de otras formas de ADM
relacionadas con la seguridad, éstas se hacen eco de la "confianza de las frms
privadas en la evocación de futuros cargados de riesgos" (O'Grady, 2021: n.p.) y
de su deseo de promover las tecnologías como una fuerza opuesta para el "bien
público".
Sin embargo, a pesar de tal hipérbole, este capítulo también destaca ten- siones
significativas en términos de cómo la tecnología disminuye el valor de controlar
la asistencia de los estudiantes. En resumen, podría considerarse que las lógicas
subyacentes de AutoRoll están arraigadas en lo que Wajcman (2019) denomina
un "modelo de ingeniería" de los procesos del aula y las tareas docentes. Como
ocurre con cualquier tecnología ADM, la codificación del proceso de rodillo de
clase da lugar a un modelo fnito y acotado que inevitablemente constituye "una
visión simplista de las tareas que soporta y de las estructuras que representa" (Fischer
y Wunderlich, 2021: 5770). Por un lado, el diseño de AutoRoll confgura el acto de
pasar lista en clase como un trabajo humano educativamente improductivo y, por
tanto, ineficaz que es deseable eliminar. Por otro lado, esto contrasta claramente
con la forma en que muchos profesores llevan a cabo esta tarea de manera
pedagógica y/o socialmente generativa. De hecho, el marco de "mentalidad de
ingeniería" de AutoRoll no considera estrictamente que la tirada sea una
"decisión" en absoluto. AutoRoll presupone un acto objetivo de registro -un
estudiante ha entrado o no en el aula- en lugar de una cuestión de discreción. Sin
embargo, algunos de los profesores entrevistados opinaron lo contrario: lo que
AutoRoll podría codificar como un acto simple y rutinario debería reconocerse
como algo complejo y no rutinario. En este caso, los educadores hablaron de
pasar lista en el aula como un proceso de juicio, toma de conciencia y evaluación
de la situación.
Por lo tanto, pasar lista puede ser un momento de considerable poder discrecional
basado en el juicio profesional y la experiencia.
Desde el punto de vista de un profesor, por tanto, hablar de automatizar la lista de
clase debe situarse en el contexto de una comprensión relacional de las aulas y la
enseñanza como trabajo relacional. Desde este punto de vista, el acto de pasar lista es
una instancia clave de conocimiento tácito y acción social, con la discreción de
cada profesor a la hora de pasar lista permitiendo un momento significativo de
gobierno del aula "a nivel de calle" (McIntyre, 2019). La discreción de los profesores a
la hora de pasar lista es necesaria para que las aulas sigan funcionando sin
problemas, suavizando las contradicciones, permitiendo que los niños nerviosos se
calmen y que los alumnos que llegan tarde tengan la oportunidad de recomponerse.
Por el contrario, el ADM AutoRoll reduce este juicio profesional y el trabajo
relacional. En lugar de "liberar" a los profesores, esta forma de ADM en el aula
trabaja para desintermediar sus interacciones con los estudiantes, así como para
 92 Neil Selwyn
disminuir al estudiante como sujeto (por ejemplo, describiendo a un niño presente
como un "punto de datos correcto"). Como tal, la codificación de AutoRoll del
proceso de rodillo deja de lado la capacidad de los trabajadores del conocimiento
profesional para "tomar buenas decisiones y resolver problemas, y que las
habilidades para hacerlo se derivan de la creatividad individual del profesional del
conocimiento y de su profunda experiencia" (Fischer y Wunderlich, 2021: 5770).
 ¿Menos trabajo para el
profesor? 93
Conclusiones
Gran parte del caso de AutoRoll refleja una historia familiar de las realidades de
la integración de la ADM en entornos de trabajo profesionales. En primer lugar,
la idea de que delegar la responsabilidad de lo que parece ser un simple acto de
toma de decisiones en la tecnología ADM pone en primer plano las creencias,
puntos de vista y lógicas de los empresarios, desarrolladores de software y
vendedores "externos" responsables de la aparición de esta tecnología. Estas
delegaciones no son del todo inoportunas, sino que responden a una serie de
condiciones más amplias de reforma, mejora y eficacia de la escuela. Sin
embargo, estas tecnologías conducen inevitablemente a una codificación
simplificada de los procesos en el lugar de trabajo, lo que a su vez conduce a "la
inserción de nuevas racionalidades y ontologías" en los entornos laborales
(O'Grady, 2021). Dado que los profesores y los estudiantes tienden a quedar al
margen de este proceso, AutoRoll constituye una sutil presencia
"desprofesionalizadora" en la vida laboral de los educadores. Aunque la ADM suele
prometer la superación de una serie de fricciones relacionadas con el ser humano,
estas fricciones son un elemento clave del trabajo relacional que hace que las
aulas sigan funcionando con relativa fluidez en el día a día.
Como tal, la conclusión clave a extraer aquí no es realmente una cuestión de
si el desarrollo continuo de la tecnología de pase de lista impulsada por ADM es
necesariamente "algo bueno" o "algo malo" en las escuelas. Más bien, es
necesario prestar más atención a abordar (y quizás reconciliar) las diferencias en
los fundamentos ontológicos y epistemológicos en los que se basa la
implementación de esta tecnología (Lisle y Bourne, 2019). Esto concuerda con
un tema clave a lo largo de esta colección editada, que es cómo la futura
integración de la tecnología ADM podría reimaginarse a lo largo de líneas
"centradas en las personas" y "humanísticas". Por ejemplo, ¿cómo sería un
"Auto-Roll" codiseñado por profesores y alumnos? ¿Qué aspecto tendría el
ADM si se diseñara para apoyar el trabajo relacional de los profesores en las
aulas? Como afirma Sarah Pink en este volumen, "si queremos que las personas
participen en el proceso de diseño de la tecnología ADM, debemos asegurarnos
de que las categorías conceptuales que enmarcan la teoría y la práctica de la
innovación tengan en cuenta a las personas". Por lo tanto, un primer paso para
reimaginar formas rehumanizadas de AutoRoll podría ser reexaminar las formas
en que se utilizan las nociones de "cuidado", es decir, el "cuidado" de saber
automáticamente que un niño ha entrado en una habitación, frente al "cuidado"
de dedicar tiempo a preguntar cómo se siente el niño. En este sentido, por
ejemplo, ¿qué aspecto podría tener la ADM en el aula si se diseñara en torno a
nociones relacionales (en lugar de corporativas) de trabajo "atento" y relaciones
"afectuosas", en lugar de nociones de cuidado como obligación legal?
Por supuesto, se podría argumentar que reorientar la ADM en torno a los
intereses de profesores y estudiantes no es sencillo. Aunque podrían adoptarse
una serie de posibles orientaciones integradoras y participativas de campos como
el diseño, la antropología y la interacción persona-ordenador, todas ellas corren
el riesgo de verse frustradas por las actuales condiciones hegemónicas de las
94 Neil Selwyn
instituciones educativas y la labor educativa. Incluso después de las
convulsiones educativas de la pandemia del COVID, el modelo dominante de
escolarización obligatoria parece que va a permanecer notablemente inalterado,
con pocas ganas de pasarse a la enseñanza en línea, a la "enseñanza híbrida" o a
cambios similares relacionados con la tecnología que se observan en el sector de la
enseñanza superior. En particular, como Teräs
 ¿Menos trabajo para el
profesor? 95
et al. (2020) señalan que las formas "pospandémicas" de tecnología educativa
que parece que dominarán las escuelas en la década de 2020 siguen siendo las
que refuerzan la visión instrumental capitalista de la educación en lugar de
valores alternativos de promoción del crecimiento humano holístico. En este
sentido, cualquier esfuerzo por implicar a profesores y alumnos en el diseño, la
delegación y la aplicación de las ADM educativas debe abordar también los
retos de rehumanizar las condiciones y lógicas institucionales más amplias en las
que se desarrolla la labor educativa. En este sentido, cualquier reimaginación de
la GAD en las aulas debe ir de la mano de reformas educativas más amplias que
se esfuercen por restablecer totalmente las escuelas como lugares de cooperación
y codeterminación. Este tipo de renovación institucional es un reto de diseño que
va mucho más allá del alcance de este capítulo, pero que no debería ignorarse en
ningún intento de imaginar "mejores" formas de ADM educativa.

Agradecimientos
Este capítulo es fruto del trabajo realizado en el marco de dos proyectos de
investigación: un proyecto "Discovery" financiado por el Consejo Australiano de
Investigación (DP200100189) y una beca "Inter-Faculty Grant" de la
Universidad de Monash. La investigación sobre AutoRoll es fruto de la
colaboración con Liz Campbell y Mark Andrejevic.

Referencias
Barber G (2020) Schools Adopt Face Recognition in the Name of Fighting COVID.
Wired, 3 de noviembre. Disponible en: www.wired.com/story/schools-adopt-face-
recognition- name-fghting-covid/
Bulger M (2016) Aprendizaje personalizado. Informe, Data and Society, Nueva York, julio.
De Freitas E y Rousell D (2020) Arquitecturas relacionales y espacio vestible.
Investigación en educación 107(1): 10-32.
Edwards B y Cheok A (2018) ¿Por qué no profesores robot? Inteligencia Artificial Aplicada
32(4): 345-60.
Fischer L y Wunderlich N (2021) Datafcation of Knowledge Work. En: Bui T (ed) Pro-
ceedings of the 54th Hawaii International Conference on System Sciences. Hawaii, 4-8 de
enero. Honolulu: HICSS, 5769-78.
Fitzgerald S, McGRath-Champ S, Stacey M, Wilson R y Gavin M (2019) Intensifcation
of Teachers' Work under Devolution. Revista de relaciones industriales 61(5): 613-36.
Gulson K y Witzenberger K (2021) Repackaging Authority. Revista de Política Educativa.
Publicación electrónica antes de impresión 11 de octubre de 2021.
https://doi.org/10.1080/02680939.2020.1785 552.
Ideland M (2021) ¿Google y el fin del profesor? Aprendizaje, medios de comunicación y
tecnología 46(1): 33-46.
Lisle D y Bourne M (2019) Las muchas vidas de la automatización de fronteras. Social
Studies of Sci- ence 49(5): 682-706.
Luckin R, HolMes W, Grifths M y Forcier L (2017) Intelligence Unleased. London:
Pearson.
McIntyre C (2019) Explorando las motivaciones de los gestores del sector público en el
despliegue de herramientas de apoyo a la toma de decisiones a pie de calle. Policy
Quarterly 15(1): 61-7.
O'Grady N (2021) Automatización de las infraestructuras de seguridad. Diálogo sobre seguridad
 96 Neil Selwyn
52(3): 231-48.
 ¿Menos trabajo para el
profesor? 97
Saloviita T y Pakarinen E (2021) Teacher Burnout Explained. Teaching and Teacher Educa-
tion 97: 103221.
Selwyn N (2021) Educación y tecnología. Londres: Bloomsbury.
Shermis M y Lottridge S (2019) Communicating to the Public About Machine Scor- ing.
Ponencia presentada en la reunión anual del National Council of Measurement in
Education, Toronto, 7 de abril. Disponible en:
www.air.org/sites/default/fles/CSSC_Communicat-
ing%20with%20the%20Public_White%20Paper.pdf (consultado el 11 de octubre de
2021).
Teräs M, Suoranta J, Teräs H y Curcher M (2020) Post-Covid-19 Education and Educa-
tion Technology 'solutionism'. Postdigital Science and Education 2: 863-78.
Wajcman J (2019) La arquitectura digital de la gestión del tiempo. Ciencia, tecnología y
valores humanos 44(2): 315-37.