INTELIGENCIA ARTIFICIAL

Y EL DERECHO
ADMINISTRATIVO

UN ENFOQUE BASADO EN DERECHOS

Ricardo A. Muñoz (h)

2020
 Muñoz, Ricardo A. (h)
Derecho administrativo e inteligencia artifical / Ricardo A. Muñoz (h) ; prólogo
de Mirian Mabel Ivanega. - 1a ed . - Ciudad Autónoma de Buenos Aires: IJ
Editores, 2020.
Libro digital, EPUB

Archivo Digital: descarga y online

ISBN 978-987-8377-25-4

1. Derecho Administrativo . 2. Inteligencia Artificial. I. Ivanega, Mirian Mabel,

prolog. II. Título.
CDD 342

Las posturas doctrinarias expresadas en los artículos

aquí incluidos son de exclusiva responsabilidad de sus autores
y no necesariamente reflejan los puntos de vista de la Editorial,
la Institución, el Director ni del Comité Editorial.

Se prohíbe la reproducción total o parcial

de esta obra sin la autorización expresa.

IJ International Legal Group

Dirección y correspondencia: Lavalle 1115 - PB,
Ciudad Autónoma de Buenos Aires, Argentina
CP: 1048
TE: +54 011 5276-8001

Derechos reservados por la Ley Nº 11.723

ÍNDICE

PRÓLOGO

CAPÍTULO I
Aspectos introductorios
I. Planteo del análisis
II. El poshumanismo y la “irrelevancia humana”
III. El mejor ejemplo: las TICs y la IA en tiempos de pandemia
IV. Nuestro camino

CAPÍTULO II
Las TICs en la administración pública
I. Políticas en materia de transformación, modernización y
simplificación administrativa
II. El gobierno digital (y abierto). Ciudades digitales
III. La mejora continua de procesos y las TICs
IV. El gobierno “electrónico” según el CLAD
V. Otros antecedentes sobre políticas de “gobierno electrónico”
VI. Los derechos del ciudadano digital
VII. Hacia un “estado digital de derecho”
CAPÍTULO III
Las TICs en las “categorías” del derecho
administrativo
I. Nuevos horizontes del derecho administrativo
II. El impacto de las nuevas tecnologías sobre el derecho administrativo

CAPÍTULO IV
La inteligencia artificial aplicada al derecho
I. La inteligencia artificial
II. La administración 4.0 y la inteligencia artificial
III. La IA aplicada al derecho. Algunas dificultades

CAPÍTULO V
Inteligencia artificial y automatización de la
administración
I. Inteligencia artificial y derecho administrativo
II. Acto administrativo automatizado
III. La automatización de los procedimientos administrativos

CAPÍTULO. VI
La IA ante un enfoque basado en derechos
I. La IA en una perspectiva de derechos
 II. El futuro de la inteligencia artificial

CAPÍTULO. VII
Conclusiones
I. Palabras finales
II. Nuestras conclusiones
 PRÓLOGO
Prof. Mirian M. Ivanega

El ser humano siempre se ha preocupado por su futuro inmediato y mediato,

encontrándose atraído por conocer anticipadamente lo que sucederá para
tratar de sortear el camino normal de los acontecimientos.
Esta necesidad de vaticinar el futuro parece no ser posible con la
tecnología, cuyo desarrollo arrollador lo enfrenta a un cambio continuo y
permanente, por lo menos para el común de los humanos que no son
especializados en la materia.
Internet que hasta hace algunas décadas se consideraba terreno de
especialistas, se masificó modificando sustancialmente la vida de las
sociedades aportando importantes beneficios
Pero los cambios tecnológicos han sido tan bruscos en comparación con
otras transformaciones producidas a lo largo de la historia de la humanidad,
que los retos que plantean ya no solo consisten en aprender y comprender
las nuevas herramientas, sino en reconocer que lo nuevo se convierte en
viejo a una velocidad impensable.
Si ello pudiera asociarlo con una expresión, sería con una de las frases del
diálogo entre el zorro y El Principito, cuando el primero afirma “Sólo se
conocen bien las cosas que se domestican”.
Considerar que la tecnología es en parte indomesticable no significa que
resulte inaccesible o que no pueda ser utilizada por la mayoría de las
personas, pero sí que el conocimiento que se tiene sobre ella es una ínfima
parte de su potencial y utilidad. Basta con reconocer que, en términos del
Banco Mundial, debe darse la bienvenida al Internet de las cosas (IdC, o
IoT) es decir la posibilidad de conectar objetos, más allá de computadoras,
tabletas o teléfonos inteligentes, a la red. Según predicciones del sector
tecnológico, para el año 2023 se espera que las conexiones a Internet de las
Cosas alcancen los 3.500 millones. Así se habla de los anteojos en cuyos
cristales se puede ver el correo electrónico; la refrigeradora que avisa
cuando un producto está a punto de vencerse; el brazalete que envía una
alerta a un equipo médico; el sensor conectado a otro dispositivo que
registra cuántos transeúntes utiliza un cruce, para mejorar el tránsito en una
[1]
zona .
Estos avances dejan en evidencia que la inclusión y la exclusión -de
grupos sociales- están presentes en el mundo de las Tecnologías de la
Información y la Comunicación (TICs).
Ello ha sido puesto de manifiesto reiteradamente. Así, por ejemplo, en el
marco de los Objetivos de Desarrollo Sostenible 2030 (Objetivo 9) se indica
que los avances tecnológicos son esenciales para encontrar soluciones
permanentes a los desafíos económicos y ambientales, para la oferta de
nuevos empleos y la promoción de la eficiencia energética. Sin embargo,
allí también se destaca que más de 4.000 millones de personas carece aún
de acceso a internet y que el 90% proviene del denominado mundo en
desarrollo. El acceso igualitario a la información al conocimiento y la
promoción de la innovación y el empoderamiento solo pueden lograrse si se
reducen las brechas.
En ese contexto, el reconocimiento del concepto de “universalidad de
Internet”, adoptado por la UNESCO en el año 2015 es un avance que
implica promoverla con base en los derechos humanos, con un carácter
abierto y accesible para todos, con la participación de múltiples partes
interesadas.
Incluso la pandemia producida por el coronavirus, ha llevado a resaltar
que la conectividad es un bien público, con consecuencias no siempre
positivas. Mil quinientos millones es la cantidad de niños que deben tomar
clases en línea por causa del brote de COVID-19 pero esa educación que se
ha vuelto virtual, para millones de ellos que carecen de conexión esa
educación “no es ni siquiera un sueño lejano”. En esta época de
distanciamiento social, la conectividad permite mantenernos informados,
trabajar, educarnos y conservar el bienestar mental e incluso físico. Sin
embargo, para quienes no tengan acceso a Internet, el impacto social y
[2]
económico de la pandemia será significativamente más profundo .
 Pero las TICs no se agotan en el universo de lo digital, lo virtual, lo
remoto, el home-office, el gobierno electrónico, el camino tecnológico ha
llevado a la Inteligencia Artificial (IA), que muestra a los sistemas que
piensan como humanos, que automatizan actividades tales como la toma de
decisiones, la resolución de problemas, el aprendizaje: las máquinas con las
capacidades mentales de los humanos: razonamiento, comprensión,
imaginación, reconocimiento, creatividad.

La importancia de la IA se ha hecho evidente en la alianza mundial para

prevenir futuras hambrunas, celebrada en la Ciudad de Washington el 23 de
septiembre de 2018, entre las Naciones Unidas, el Banco Mundial, el
Comité Internacional de la Cruz Roja (CICR), Microsoft Corp., Google y
Amazon Web Services. La necesidad de que las respuestas a esos
acontecimientos devastadores no lleguen demasiado tarde, llevó a
implementar el Mecanismo de Acción contra la Hambruna (FAM). Su
objetivo consiste cambiar esta situación mediante la prevención, la
preparación y la acción temprana, intervenciones que pueden salvar más
vidas y reducir hasta un 30 % los costos humanitarios. En esta iniciativa se
utiliza “el poder de predicción de los datos para activar el financiamiento a
través de instrumentos apropiados, en estrecha colaboración con los
sistemas existentes”.

El compromiso de Google, Microsoft, Amazon Web Services y otras

empresas tecnológicas, es el aporte de conocimientos especializados “para
desarrollar una serie de modelos analíticos denominados ´Artemis´, en los
que se emplean sistemas avanzados de inteligencia artificial y aprendizaje
automático para estimar y predecir el agravamiento de las crisis de
seguridad alimentaria en tiempo real”. Estas predicciones ayudan a orientar
a los que deben adoptar decisiones y a alentarlos a responder más
[3]
tempranamente .
Es así como las IA muestran un amplio universo en su utilidad y
aplicación, que le permite al profesor Ricardo Muñoz introducirse en sus
aguas para realizar aportes sustanciales. No se trata de un libro sobre
tecnología, pero sí aborda sus manifestaciones; no se trata de un libro que
recopila definiciones científicas y doctrinarias, pero sí los incluye; se trata
de un libro de derecho administrativo con una visión renovada de las
principales instituciones de la disciplina (organización, acto administrativo,
procedimiento administrativo, contrataciones.) que son planteadas desde
una óptica diferente siguiendo a mi criterio un interrogante central ¿Cómo
afectan y transforman las TICs y la IA al derecho administrativo? Con la
excelencia y rigor científico que siempre lo caracterizó, el autor brinda
respuestas que constituyen una sustanciosa información para el operador
jurídico, además de dejar sentadas las bases para profundizar aún más el
estudio de otros temas, como la reinterpretación de los principios generales
del derecho.
En el trayecto de los siete capítulos que muestran una medulosa
investigación sistémica, se encuentra un eje común: la dignidad de la
persona humana y sus derechos fundamentales; ello se erige como una
contribución esencial al derecho.
Por eso, es un honor prologar una obra que desde la “humanización” de la
tecnología nos introduce en su conocimiento, como herramienta
transformadora para responder a los objetivos del Estado Constitucional de
Derecho.
 CAPÍTULO I
Aspectos introductorios

I. Planteo del análisis

Discurrir, en términos generales, respecto el impacto que las nuevas
tecnologías de la información y comunicación (TICs) tienen sobre el ámbito
de la Administración Pública y el “subsistema” jurídico que la regula: el
Derecho Administrativo, y más específicamente en relación a los sistemas
de inteligencia artificial (en adelante, IA) que poco a poco las estructuras
organizaciones estatales están haciendo cada vez más uso, se presenta en
estos tiempos una materia de obligado análisis para los juristas y operadores
del derecho.
El profesor cordobés Armando Andruet explica que los abogados de hoy,
para que se articule una virtuosa y eficiente práctica profesional, deberán
sumar a sus condiciones una adecuación constante

“al dinamismo del mundo tecnológico, no sólo para, con ello,

saber de los nuevos temas que se disputarán jurídicamente, sino
para que la práctica profesional sea más eficaz en el menor
tiempo posible y con una mayor accesibilidad para todos. Así es
como cuestiones tan novedosas como la relacionada con la
inteligencia artificial y también las plataformas sociales deberán
ser atendidas. La primera, para profundizar en la mejora de la
acción realizativa de la profesión, y la segunda, para una mayor
socialización de los derechos de los ciudadanos y de lo que la
[4]
abogacía institucionalizada favorece para todos ellos” .

Los abogados, tanto aquellos que actúan en la profesión liberal, en el

ámbito privado bajo relación de dependencia, como aquellos que lo hacen
en la órbita pública, sufren diversas incomodidades que tienen que ver con
problemas elementales y más bien primarios, tales como el modesto sistema
para subir copias digitalizada, o la “caída” constante de un servidor. Sin
embargo, y pese aquellas dificultades, nos parece fantástico –lo que en estos
tiempo es casi una obviedad– trabajar en forma remota desde cualquier
parte, consultar un expediente administrativo o judicial en el lugar que nos
encontremos, todos hábitos –y solo para nombrar algunos– que hemos
incorporado con naturalidad en nuestras vidas y hace unos años parecía
[5]
impensado .
Hoy se habla de la cuarta “revolución industrial” y se afirma que se trata
de una transformación monumental originada principalmente en dos
fenómenos: 1) la mutación exponencial de las nociones de espacio y tiempo
a partir del uso masivo de las TICs; y 2) la transformación en la forma de
procesar los datos y la información en muchas actividades que antes sólo
podían ser realizadas por nuestros cerebros. En el libro “La Cuarta
Revolución Industrial”, Schwab (2016) destaca que, a diferencia de las
anteriores revoluciones caracterizadas por la adopción de una tecnología
determinada, esta cuarta se basa en la convergencia de las tecnologías
digitales, físicas y biológicas, vale decir que se fusionan los mundos físicos,
digital y biológico. Fundamentalmente, se integran las diferentes
tecnologías de la información y comunicación desde Internet de las Cosas,
la nanotecnología, Inteligencia Artificial, algoritmos, robotización,
impresiones 3 D y vehículos autónomos para dar lugar a las Fábricas 4.0 o
Fábricas Inteligentes, totalmente automatizadas, creando redes inteligentes
[6]
que podrán controlarse a sí mismas .
El impacto de esta transformación en el ejercicio de la abogacía tiene
múltiples implicancias. Una de las más perceptibles es la existencia de
herramientas de gestión y software que permiten reemplazar a las personas
humanas en tareas clásicas inherentes a la profesión de la abogacía, como es
el caso de revisar contratos, buscar e identificar precedentes
jurisprudenciales o legislación relevante asociada a un problema jurídico,
redactar dictámenes, o escribir proyectos de resoluciones, entre otras; y es
razonable predecir que esta clase de herramientas se extenderán y serán
ampliamente accesibles en un futuro cercano.
 En este contexto, una visión pesimista podría predecir la extinción de la
profesión e imaginar un mundo en el cual los abogados y abogadas sean
remplazados por robots o equivalentes. Sin embargo, coincidimos en que
“un punto de vista más optimista sobre la realidad permite analizar las
ventajas de esta transformación social motivada por las nuevas tecnologías
de la información y la inteligencia artificial (IA) y tomarlas como desafíos
[7]
para la profesión” . Y de esto trata precisamente nuestro trabajo.
Si exteriorizáramos cuales son los lazos que sientan las relaciones entre
los sistemas de IA (utilizados en la actualidad y que se generalizaran en un
tiempo no muy lejano) y los derechos humanos de reconocimiento
constitucional y convencional de inmediata operatividad ante la
Administración pública, diríamos que aquellas se muestran como en una
“avenida de doble mano”: por un lado, los derechos humanos trazan los
límites en la utilización de los robots, bots, software, sistemas de expertos,
redes neuronales (y/o la IA que se prefiera) marcando el camino hacia
donde deben dirigirse las nuevas e innovadoras tecnologías, pero, por el
otro, éstas pueden servir como mecanismos de realización de derechos
humanos y su inmediata aplicabilidad, por ejemplo, haciendo la labor del
empleado público menos autómata, más rápida, con menos margen de error,
en definitiva, un tránsito hacia el mejoramiento de la eficacia y eficiencia de
los servicios públicos y toda otra prestación estatal.
Sobre estos cimientos debe desarrollarse un “ecosistema” de IA que
acerque las ventajas de la tecnología a los ciudadanos, para que obtengan
nuevos beneficios, como una mejor atención sanitaria, sistemas de
transporte más seguros y limpios, o mejores servicios públicos (transporte,
energía y gestión de los residuos) y la reducción de sus costos, dotación de
nuevas herramientas a las fuerzas de seguridad, etc.
Ya prontamente debemos advertir que este trabajo se va a centrar
fundamentalmente en el uso de la IA para desarrollar actividad pública y
adoptar decisiones administrativas. Pero –aclaramos– no es motivo de
estudio por nosotros la regulación administrativa (de orden legal y/o
reglamentaria) del uso de la IA por parte de sujetos privados; aspecto éste
de gran importancia, que nos sitúa en problemáticas aún mayores, y que –
[8]
desde nuestra perspectiva– queda todavía mucho camino por recorrer . Sí,
en cambio, brindaremos algunas reflexiones sobre el uso de IA por parte de
aquéllos privados que desarrollan funciones públicas o prestan servicios de
interés general.
Tampoco nos ocuparemos en este estudio del uso de la IA para detectar la
corrupción administrativa y/o violación a las políticas de compliance,
[9]
aspecto específico que la doctrina le ha prestado particular atención , y al
que solo nosotros mencionaremos como una de los posibles usos de la IA
en materia de prevención, medidas de transparencia y políticas de
integridad.
Lo que sí se estudiará, es como –en una primera instancia– los institutos
conocidos por todos (acto, procedimiento, contrato administrativo, etc.) se
fueron modernizando hacia aspectos electrónicos apoyados por novedosas
tecnológicos, para después directamente pasar a la utilización de técnicas
más modernas y complejas, donde lo tecnológico no es una mera apoyatura
o herramienta de una clásica institución, sino que crea el propio
instrumento, implica la manifestación administrativa en sí misma y resuelve
en forma independiente.
Proponemos un “salto” del Derecho Administrativo “electrónico” al
Derecho Administrativo “inteligente”. En el primero, ya definitivamente en
proceso de implementación entre nosotros, lo electrónico sirve de “soporte”
para el expediente administrativo, o en el mejor de los casos, se basa en un
desarrollo rutinario computacional dentro de un sistema más cercano a un
proceso mecánico que razonado. En cambio, en el segundo, se abandona la
“linealidad analógica” del clásico expediente papel sobre el que se edifica el
electrónico, para pasar a un “expediente digital”, en donde la tecnología no
es un mero soporte, sino que crea un archivo nuevo que antes no existía a
través de IA y sistemas de conocimiento generado, razonado y “aprendido”,
como lo son las técnicas del “Machine Learning” y “Deep Learning”. Así,
los “expedientes administrativos inteligentes” podrían ser receptáculos de
información y datos a gran escala, auténticos epicentros de Big Data
jurídica administrativa (informes, dictámenes, memorándums, resoluciones,
etc.), lo que podría ofrecer –además– que mejoren sustancialmente los
[10]
servicios de asesoramiento permanente de la Administración pública .
Si bien haremos referencia a la automatización de la decisión
administrativa como la principal y central manifestación de la IA en la
Administración pública, ponemos de resalto que esa posibilidad no es la
única, habida cuenta que se puede utilizar IA para el registro y bases de
datos, investigaciones con fines fiscales, detección de fraude, operaciones
de lavado, entre tantas acciones llevadas a cabo por órganos con
[11]
competencia pública .
En nuestro caso, la principal preocupación –y quizás allí pueda girar un
aporte a la discusión– es lo referido a la utilización de motores, programas,
robots, o como prefiera el lector recrear sistemas de IA, siempre
condicionada a una regulación jurídica previa y su interpretación basada en
un enfoque de derechos. Esto no es otra cosa que advertir –adelantando un
poco nuestras conclusiones– que la incorporación de las TICs en la
burocracia estatal debe implicar en todos los casos herramientas para la
plena efectivización de derechos fundamentales, y nunca una excusa para su
violación o cercenamiento.
La problemática de la IA y la posibilidad que ella misma tiene de formar
conocimiento en forma autónoma, radica en las circunstancias que, si bien
es verdad que puede generar una usina incalculable de beneficios y
mejoramiento de la calidad de vida, también lo es la posibilidad que cause
daños de enorme magnitud, de forma independiente, y con una sorprendente
eficiencia. Pero la perplejidad más grande que causa la IA es la posibilidad
–no muy lejana y más real y concreta de lo imaginado– que a través de ella
se empiece a dejarse de lado a la persona humana como la base de la
construcción y eje del sistema jurídico, y por ende de los derechos
humanos, para empezarse a elucubrar que los derechos pueden ser
extendidos a “vida” no humana, o si se quiere, la ampliación de la
personalidad a otros seres (tales como, por un lado, los animales
considerados “como personas no humanas”, y por el otro, los robots, o IA
en general).

II. El poshumanismo y la “irrelevancia humana”

El uso de la IA, y toda otra opción de invocación de la más avanzada
tecnología, pone en discusión y en debate la posibilidad que, no solo el ser
humano sea sujeto de derecho, sino también la alternativa de ampliar la
personalidad jurídica hacia otras realidades, otrora “objetos” de derecho,
ahora verdaderos titulares de derechos –incluso– fundamentales, lo que en
definitiva cambia el eje por el cual se definió la centralidad de todo el
Sistema Jurídico.
En recientes investigaciones filosóficas y sociales se ha propuesto que el
concepto “humano” está vacío de contenido y que puede ser aplicado a un
número infinito de significados, aunque no está igualmente vacío el
concepto de los “derechos humanos”:

“Desde un punto de vista no-esencialista, los derechos son

construcciones altamente artificiales, un accidente histórico de la
historia intelectual y política de Europa. El concepto de derecho
pertenece al orden simbólico del lenguaje y la ley, y determinan su
alcance y ámbito de aplicación, prescindiendo de categorías
[12]
sólidas ontológicas…” .

En este punto, para Gil Domínguez,

“se está produciendo un alejamiento del antropocentrismo que

sirvió de plataforma sobre la cual se edificó el discurso jurídico.
Proyectar la trascendencia o el fin del homo sapiens hacia otros
homos desde la biología del cuerpo no sea un límite a la
existencia ha dejado de ser una escena del cine de anticipación”.

El mejoramiento del homo sapiens mediante la incorporación de

tecnología o directamente su sustitución es lo que plantea el
[13]
transhumanismo y el poshumanismo .
Comenta el autor que

“La comprobación de la sintiencia, cognitividad y la capacidad de

autorreflexión que tienen algunos animales no humanos hace que
el presente antroponcentrismo también esté en crisis a la hora de
establecer quienes pueden ser sujetos de derecho. Sintiencia
 animal que bien podría asimilarse en un futuro cercano a la
sintiencia artificial cuando los robots humanoides sean parte de la
comunidad, con lo cual existe un puente que une el presente de los
animales no humanos con el futuro de las inteligencias artificiales
autónomas, empáticas y sensibles en torno a la sintiencia como
aspecto estructural en la definición jurídica del sujeto de
[14]
derecho” .

Incluso, a mitad de camino entre la persona humana y los robots, puede

apelarse al concepto “Cyborg”, término utilizado para describir al individuo
modificado para mejorar su adaptación al espacio. El Cyborg es definido en
términos de “hibridación” como aquella persona cuyas funciones
fisiológicas pueden ser mejoradas, restablecidas o creadas mediante un
mecanismo o dispositivo electrónico. Resulta así de una contracción entre
dos vocablos –“cybernetic” y “organismo”, adquiriendo en la actualidad
una representatividad propia para identificar al hombre que está formado
[15]
por materia viva y por dispositivos electrónicos .
Aplicando estas teóricas, cualquier entidad puede devenir en un sujeto de
derecho y los derechos humanos podrán ser extendidos a nuevas áreas y
personas, así como también podrán en el futuro incluir nuevas prerrogativas
hoy impensadas. Esta corriente de pensamiento abandona la primacía
exclusiva del ser humano, pero no la reemplaza por la preeminencia de
otras especies (como por ejemplo la inteligencia artificial). Con el post–
humanismo, los derechos humanos evolucionarían hacia “derechos de la
existencia”: no importa si uno tiene un cuerpo humano, si es un robot o una
figura quimérica, la mera existencia brinda derechos.
Siguiendo con esta línea de pensamiento, en la medida que los cuerpos
humanos se vayan fusionando con la tecnología y pierdan su organicidad, o
cuando la IA sea capaz de reemplazar nuestros cuerpos por completo y
transformar al ser humano en una nueva especie, los derechos humanos
también irán flexibilizando su concepto para incluir nuevas formas de
existencia.
En la actualidad, es impensado –por ahora– que nuestro ordenamiento
jurídico nacional e internacional incluya derechos a los robots, como fue
igualmente impensado para los revolucionarios del siglo XVII reconocer
derechos de igualdad a la mujer, niños, esclavos y extranjeros. Concluye
Estefanía Santos que

“Si los derechos humanos construyen humanos, en un futuro no

muy lejano, la humanidad atravesada por la tecnología construirá
un ordenamiento legal para los posthumanos. La clave será
resguardar la dignidad, respetar la diversidad y sentar las bases
[16]
de una convivencia tolerante con las distintas existencias” .

En este punto, no debe dejar de señalarse algunas ideas pesimistas

respecto el futuro de la humanidad –especialmente para las clases más
postergadas– ante el advenimiento de las tecnologías disruptivas: caer en el
absoluto olvido. Para el pensador Harari

“…el liberalismo está perdiendo credibilidad justo cuando las

revoluciones paralelas en la tecnología de la información y en la
biotecnología nos enfrentan a los mayores retos que nuestra
especie ha encontrado nunca. La fusión de la infotecnología y la
biotecnología puede hacer que muy pronto miles de millones de
humanos queden fuera del mercado del trabajo y socavar tanto la
libertad como la igualdad. Los algoritmos de macrodatos pueden
crear dictaduras digitales en las que todo el poder esté
concentrado en las manos de una élite minúscula al tiempo que la
mayor parte de la gente padezca no ya explotación, sino algo
[17]
muchísimo peor: irrelevancia” .

Esto a su vez, puede causar dificultades a las personas para encontrar

trabajado, en un mundo laboral cada vez más complicado. Comenta el autor
citado que

“La IA podrá colaborar en la creación de empleos humanos de

otra manera. En lugar de que los humanos compitan con la IA,
podrían centrarse en su mantenimiento y en su uso…Sin embargo,
 el problema de esos nuevos empleos es que probablemente
exigirán un gran nivel de pericia y, por lo tanto, no resolverán los
problemas de los trabajadores no cualificados sin empleo…En
consecuencia, a pesar de la posibilidad de que aparecieran
muchos nuevos empleos humanos, quizá presenciaríamos el
surgimiento de una nueva clase ´inútil´. De hecho, podríamos
tener lo peor de ambos mundos, y padecer a la vez unas tasas de
desempleo elevadas y escasez de mano de obra
[18]
especializada” .

Sea como fuere, todos estos cambios son irreversibles, no hay marcha
atrás, es imposible detenerlos, y por eso, el derecho debe adecuarse a ellos –
generando regulaciones justas y razonables para la protección de los
derechos humanos–, pues de lo contrario, si el derecho no se acomoda
contemplado las nuevas realidades, o si lo hace sin una perspectiva
enfocada en derecho humanos, dejará de ser la herramienta de coordinación
social que siempre fue.
Al respecto, agrega Travieso

“el derecho tiene que adaptarse a la tecnología y no a la inversa.

Así sucede en la problemática y las aplicaciones de la protección
de los datos personales, cuya protección es vasta y dinámica.
Todos los días constatamos las múltiples implicancias que han
hecho de este sector de derechos, vinculado a las nuevas
tecnologías, una punta de lanza para integrar la tecnología a la
vida cotidiana. Ahora no hay dudas de la necesidad de brindar
una adecuada protección a esta gama de derechos de protección
[19]
de la persona” .

III. El mejor ejemplo: las TICs y la IA en tiempos

de pandemia
a) Decisiones políticas y pandemia

Al momento de la redacción de este trabajo, el planeta se encuentra

viviendo una catástrofe sanitaria, que impactó definitiva sobre nosotros.
Todavía, en el medio de la pandemia del “coronavirus”, no sabemos cuáles
serán las implicancias sobre la salud pública, la sociedad, la económica, la
política, la cultura o el arte. Pero lo que sí conocemos es que nuestros
comportamientos están obligadamente cambiando por las circunstancias, y
tal como predicen los filósofos e historiadores, cambiaran para siempre.

Un claro ejemplo sobre los alcances y límites de las TICs y la IA en el

ámbito de la Administración pública, puede encontrarse en el análisis de las
medidas que el mundo entero, y nuestro país, han tomado en relación a la
pandemia del Covid-19. En algunos casos, fundamentalmente en los países
de occidente, se tomaron medidas de aislamiento y distanciamiento, incluso
las más gravosas para el ejercicio de los derechos y las garantías
fundamentales (tales como un confinamiento general y obligatorio para
todos los habitantes, la prohibición de ingreso al país de ciudadanos, etc.),
para contener, mitigar y combatir los efectos que esta pandemia causa en la
salud pública. Pero en otros países, principalmente orientales, se acudió a la
IA, al big data, a las cámaras de vigilancia, al reconocimiento fácil, a la
investigación geométrica, al georreferenciamiento, y cuanto otra tecnología
de última generación, utilizada para el Estado para controlar la prohibición
de circulación por parte de la sociedad.

Importantes pensadores asiáticos, destacan que los bajos índices de

contagio en Asia y la erradicación definitiva en China (en donde se inició la
propagación), se debe, no solo a la tradición cultural colectivista y al
respeto a la autoridad de estos países, sino también a la efectividad de las
[20]
medidas tomadas. Destaca el filósofo surcoreano Byung–Chul Han que

“para enfrentarse al virus los asiáticos apuestan fuertemente por

la vigilancia digital. Sospechan que en el big data podría
encerrarse un potencial enorme para defenderse de la pandemia.
 Se podría decir que en Asia las epidemias no las combaten solo
los virólogos y epidemiólogos, sino sobre todo también los
informáticos y los especialistas en macrodatos. Un cambio de
paradigma del que Europa todavía no se ha enterado. Los
apologetas de la vigilancia digital proclamarían que el big data
salva vidas humanas”.

En contraposición a ello, el historiador israelí Yuval Noah Harari, explica

que se enfrentan dos opciones sobre cómo combatir la pandemia: vigilancia
totalitaria vs empoderamiento de la ciudadanía, y aislamiento nacionalista
vs solidaridad global. Respecto el primer dilema, el autor explica que las
actuales técnicas de vigilancia permiten a los gobiernos apoyarse en
sensores ubicuos y algoritmos en vez de espías humanos y que en la batalla
contra el coronavirus se han desplegado nuevas herramientas. Al respecto,
da el ejemplo de China, que mediante el monitoreo de smartphones y el uso
de millones de cámaras de reconocimiento facial y obligando a los chinos a
chequear y reportar su temperatura corporal y condiciones médicas logró
detectar no sólo a los portadores del virus sino también trazar sus
movimientos e identificar a todos con quienes estuvo en contacto.

Una de las claves del análisis de Harari es que ahora gobiernos y

corporaciones tienen a su disposición herramientas antes impensadas.

“Si no somos cuidadosos, la epidemia puede marcar un hito en la

historia de la vigilancia –advierte– no tanto porque podría
normalizar el despliegue de herramientas de vigilancia masiva en
países que hasta ahora las han rechazado, sino más bien porque
representa una dramática transición de vigilancia ‘sobre la piel’ a
[21]
vigilancia ‘bajo la piel” .

Sin embargo, ambos coinciden sobre la falta de efectividad de las

medidas tomadas por Europa. Para el filósofo coreano, se observan
“sobreactuaciones inútiles”. Los cierres de fronteras son evidentemente una
expresión desesperada de soberanía...Pero eso es una huera exhibición de
soberanía que no sirve de nada. Serviría de mucha más ayuda cooperar
intensamente dentro de la Eurozona que cerrar fronteras a lo loco. Entre
tanto también Europa ha decretado la prohibición de entrada a extranjeros:
un acto totalmente absurdo en vista del hecho de que Europa es
precisamente adonde nadie quiere venir. Como mucho, sería más sensato
decretar la prohibición de salidas de europeos, para proteger al mundo de
Europa. Después de todo, Europa es en estos momentos el epicentro de la
pandemia.

Por su parte, respecto la opción entre aislamiento nacionalista y

solidaridad global, entiende el pensador israelita, que, así como la pandemia
y la crisis económica resultante son “problemas globales”, sólo pueden ser
resueltos mediante la cooperación global. Dado el carácter global de la
economía y las cadenas de aprovisionamiento, si cada gobierno actúa por
las suyas ignorando a los demás, el resultado será el caos y una crisis
económica más profunda. Por eso, dice, se necesita “un plan global”.

Sin perjuicio de estas opiniones antagónicas y sus puntos de encuentro,

en el marco del coronavirus parece que la utilización de tecnologías,
siempre respetando los derechos fundamentales, no dejan de tener absoluta
virtualidad y sirven de mucho. En este contexto, nos encontramos con
aplicaciones que, a través de mapas georreferenciales, personas piden ayuda
(de asistencia, alimentos, remedios, etc.) y otros, vecinos acuden a esos
llamamientos. Aplicaciones que, en el caso de detectarse un caso positivo
de Covid-19, por medio de mapas de relaciones y vinculaciones, el sistema
determina que personas –por su cercanía– pueden ser potenciales contagios.
En China, cámaras de última tecnología toman la temperatura de personas
que entran a un lugar público (estaciones, terminales, etc.) a más de 4
metros, y de ser elevada, le impiden el ingreso. O aplicaciones que ofrecen
un preciso mapeo de puntos en la ciudad que facilitan la toma de decisiones
como, por ejemplo, cual es el comercio de mayor cercanía para comprar
alimentos.

b) La protección de datos personales en tiempos de pandemia

1. Datos en época de pandemia

Como se ha visto, en el marco de una pandemia, los datos que se tratan son
múltiples, diversos y en exponencial aumento. Sin embargo, gran parte de
ellos se encuentra necesariamente vinculados a la salud de las personas,
generalmente catalogados como información sensible y, en consecuencia,
suelen recibir un tratamiento especial por parte de las legislaciones.

Además de los datos sanitarios, se involucra otro tipo de información que

no se encuentra directamente relacionada con la salud, pero cuyo
tratamiento indiscriminado también puede ocasionar graves consecuencias
para los derechos de las personas, tales como la ubicación geográfica o la
información sobre su vida personal y social.

Finalmente, no solo estamos expuestos a la difusión y revelación de datos

sanitarios sensibles, sino que también el aislamiento y distanciamiento
social aumenta el riesgo de daños acaecidos por la utilización de
información intima, personal, privada, en contra de sectores más
permeables para ser perjudicados por prácticas que vulneran la privacidad
personal.
Como se sabe, en razón de la pandemia sufrida a nivel mundial y local, y
siempre teniendo en cuenta que ahora (más que nunca) los menores están
accediendo, consumiendo y proyectando muchísima mayor cantidad de
material personal en distintas redes sociales, esto coadyuva a aumentar
sobremanera a riesgos típicos que surgen por interactuar en la red: la
sobreexposición conductas propias de stalking y ciberbullying (ciberacoso),
hating (incitación al odio y la violencia) o grooming (extorsión sexual
[22]
virtual de menores) . Es por ello que es importantísimo, y en mayor
medida en estos tiempos, al cuidado de nuestros datos personales, a la
información sensible, a la privacidad online, en el control de las tecnologías
de comunicación y redes sociales, de alta exposición y gran riesgo para los
sectores más vulnerables ante posibles ataques.

Si bien es verdad que en contexto de estado de absoluta emergencia que

implica una pandemia existen algunas excepciones que pueden puede ser
justas y debidamente motivas a fin de preservar la salud, la seguridad y
[23]
asistencia de la población . También lo es que estas injerencias
excepcionales no son ilimitadas, resultando convenientes entonces
reflexionar respecto algunas de sus consecuencias en la esfera subjetiva de
la persona.

Ya en el año 1984 el profesor italiano Vittorio Frossini decía que:

“el Estado, por motivos de interés público, ha de valerse de sus

facultades de información y de sus poderes para la protección de
la colectividad, aun perjudicando la esfera de intimidad
individual: por ejemplo, para afrontar las epidemias debe valerse
de las informaciones de carácter sanitario que posee, para
identificar ingresos ilícitos debe recurrir a las informaciones de
carácter financiero, etcétera. Por ello, el control administrativo se
efectúa en doble sentido, y en consecuencia, la tutela pasa del
aspecto subjetivo (refiriéndose a personas individuales o
colectivas) al aspecto objetivo de la tutela de los programas de
[24]
información” .

2. Medidas de protección de datos en algunos países afectados

A nivel internacional, las autoridades vinculadas a la protección de datos ya

se han expedido sobre la problemática que representa la pandemia, y han
tomado algunas medidas que elongan los contornos por donde se definen
los derechos a la protección de datos personales y a la autodeterminación
informativa.

Italia, uno de los países más golpeados por la enfermedad, aprobó una
legislación de emergencia que obliga a toda persona que haya estado
recientemente en una zona de riesgo, a notificar de ello a las autoridades
sanitarias. En el caso de España, otro de los países más perjudicados por el
virus, la Agencia de Protección de Datos de dicho país ha publicado un
informe en el que analiza el tratamiento de datos personales en relación con
[25]
la crisis epidemiológica y un listado de “Preguntas Frecuentes” sobre el
coronavirus, centradas en el tratamiento de datos en el ámbito laboral.

En lo que respecta los desarrollos tecnológicos al servicio de la

emergencia, varios de los países afectados están implementando sistemas
que permiten hacer un seguimiento de la ubicación de las personas. Y en
China, como se dijo, las medidas han sido aún más rotundas y polémicas.

Por estas razones y muchas más, la Comisión Interamericana de

Derechos Humanos (CIDH) como la Corte Interamericana de Derechos
Humanos (Corte IDH) se han pronunciado sobre todos y cada uno de los
aspectos que puede presentar la acción desplegada por el Estado para
prevenir y enfrentar los efectos del Covid-19 en la salud de la población y
no solo del uso de la fuerza por los encargados de hacer cumplir la ley. La
Corte IDH adoptó, el 9 de abril del corriente año 2020, una Declaración
titulada “Covid-19 y Derechos Humanos: Los problemas y desafíos deben
ser abordados con perspectiva de Derechos Humanos y respetando las
obligaciones internacionales”. En lo que refiere a la protección de datos
personales, destacó que

“El acceso a la información veraz y fiable, así como a internet, es

esencial. Deben disponerse las medidas adecuadas para que el
uso de tecnología de vigilancia para monitorear y rastrear la
propagación del coronavirus Covid19, sea limitado y
proporcional a las necesidades sanitarias y no implique una
injerencia desmedida y lesiva para la privacidad, la protección de
datos personales, y a la observancia del principio general de no
discriminación”.

A su vez, la CIDH sancionó el 10 del mismo mes y año su Resolución N°

1/2020 titulada “Pandemia y Derechos Humanos”, que también aborda el
tema. Así, recomendó a los Estados miembros
 “Garantizar el consentimiento previo e informado de todas las
personas en su tratamiento de salud en el contexto de las
pandemias, así como la privacidad y protección de sus datos
personales, asegurando un trato digno y humanizado a las
personas portadoras o en tratamiento por Covid-19. Está
prohibido someter a las personas a pruebas médicas o científicas
experimentales sin su libre consentimiento” (apartado 12) y
“Proteger el derecho a la privacidad y los datos personales de la
población, especialmente de la información personal sensible de
los pacientes y personas sometidas a exámenes durante la
pandemia. Los Estados, prestadores de salud, empresas y otros
actores económicos involucrados en los esfuerzos de contención y
tratamiento de la pandemia, deberán obtener el consentimiento al
recabar y compartir datos sensibles de tales personas. Solo deben
almacenar los datos personales recabados durante la emergencia
con el fin limitado de combatir la pandemia, sin compartirlos con
fines comerciales o de otra naturaleza. Las personas afectadas y
pacientes conservarán el derecho a cancelación de sus datos
sensibles” (apartado 35).

3. El caso de la Argentina

En nuestro país, la Agencia de Acceso a la Información Pública ha emitido

[26]
un comunicado en su sitio de Internet , en el cual informa sobre las
pautas y las bases de legitimidad para el tratamiento de datos personales en
el marco de la pandemia. La autoridad ha destacado ciertos preceptos
básicos incluidos en la ley argentina como: el carácter sensible de los datos
relativos a la salud; la facultad de los establecimientos sanitarios y los
profesionales de la salud para procesar y cederse se entre sí datos de los
pacientes, siempre y cuando cumplan con el secreto profesional; la
prohibición de usar la información con fines incompatibles con el
tratamiento médico, sin el consentimiento del paciente; y las facultades de
los órganos del Estado de tratar datos de los ciudadanos sin consentimiento,
en el marco de sus funciones públicas.
 En cumplimiento de las medidas de contención y mitigación de la
pandemia, los establecimientos sanitarios –públicos y privados– y los
profesionales de la salud proceden a la recolección, conservación,
ordenación, almacenamiento, evaluación y cesión entre sí de datos
personales de los pacientes. La operatoria configura un “tratamiento de
datos personales”, y en tal carácter, se encuentra sujeta a las disposiciones
de la Ley Nº 25.326 de “Protección de los datos personales”, y su decreto
reglamentario 1558/2001, con sus respectivas actualizaciones, por lo que
allí rige un marco jurídico concreto respecto la información sanitaria que
surja de la pandemia. En particular, conforme dicho plexo normativo, tales
datos se consideran información sensible y, por ende, rige sobre ellos los
máximos estándares protectorios.

De igual manera, los establecimientos aludidos y los facultativos que

intervinieren deben respetar inexorablemente los principios emergentes del
secreto profesional que constituye un derecho–deber tendiente a preservar
la confianza y credibilidad en los profesionales.

“La comunidad científica consciente del creciente uso de las

nuevas tecnologías para la atención médica, la investigación, la
administración hospitalaria y los registros de salud pública y
convencida de que es necesario asegurar el carácter confidencial
de, la seguridad, contenida en los documentos que se elaboran –
por ej. historias clínicas– y que debe brindarse mayor
asesoramiento a las personas responsables de los bancos de datos
médicos con respecto a la mejor forma de instrumentar los
principios que rigen en materia de protección de datos y secreto
médico y profesional en relación con los tipos específicos de
registros computarizados que poseen han elaborado diversas
recomendaciones conteniendo normas a que deben sujetarse los
bancos de datos médicos automatizados, que incluyen:
comunicación pública, contenido mínimo de las reglas a
cumplimentar, registro de datos, acceso a la información y su uso,
el sujeto de los datos y su uso, conservación de datos a largo
 plazo, obligaciones profesionales y protección ampliada”, señala
[27]
adecuadamente Masciotra .

Más adelante, en el Capítulo VI, haremos referencia a que todo

mecanismo de IA –que opere Big Data, perfiles, automatización de
contenidos, etc.– deberá adecuarse a los estándares protectorios que
configuran el derecho a la autodeterminación informativa.

IV. Nuestro camino

Bajo estas premisas, interrogantes y el escenario global, ofrecemos al lector
la siguiente “hoja de ruta” de nuestro camino trazado, el que –aclaramos– si
bien referencia en términos generales a normativa de la República
Argentina, los conceptos, afirmaciones y derivaciones son plenamente
aplicables a Europa y América en donde las inquietudes son básicamente
las mismas.
Empezaremos sobre la utilización de las TICs en la Administración
pública y la categorización de las clásicas instituciones jurídicas del
Derecho Administrativo ahora bajo el aditamento “electrónico”. Para
después, adentrarnos en los avances tecnológicos más profundos, donde lo
electrónico y tecnológico, no es una mera forma de expresión y calificación
de la institución, sino en realidad, es la realización en sí misma de la
voluntad administrativa. Aquí la IA, la robótica, en algunos casos con la
utilización incluso de algoritmos, redes neurales, entre otros elementos,
lleva a la automatización y smartificación de la actividad decisoria de la
Administración pública, lo que presenta objetivos que –en apariencia– se
presentan en permanente tensión: el cumplimiento del bienestar general vs.
el resguardo de los derechos esenciales. Nuestra labor, será entonces, dejar
atrás ese mero aspecto, para demostrar que –en rigor de verdad– el uso de la
IA no opera en oposición a los derechos.
A tales fines, transitaremos sobre: las TICs en la Administración pública,
y los conceptos de gobierno abierto, gobierno electrónico, derechos
digitales, Internet de las Cosas, interoperabilidad, entre otros (Cap. II), el
impacto de las TICs sobre los clásicos institutos del Derecho
Administrativo (que se le puede añadir la alocución “de la Información”)
(Cap. III), alguna noción respecto la IA, y especialmente, aquella aplicada
al ámbito del Derecho (Cap. IV), más concretamente las implicancias de la
IA sobre el Derecho Administrativo, especialmente bajo lo que se ha
denominado como la “automatización” de las decisiones administrativas
(Cap. V), para llegar finalmente a nuestra principal preocupación: el análisis
de la IA desde una perspectiva basada en los derechos, por lo menos en
cada uno de los tópicos que nos permitimos describir (VI).
Vayamos, entonces, circulando sobre nuestro camino.
 CAPÍTULO II
Las TICs en la administración pública

I. Políticas en materia de transformación,

modernización y simplificación administrativa
a) La trasformación y modernización administrativa
En esta idea de tecnologización de la Administración pública, y en el
análisis respecto de qué manera ello se inserta en el ámbito del Derecho
Administrativo moderno, antes de abordar mayores profundizaciones
técnicas como lo es la IA, empecemos entonces por el estudio de las
incorporaciones de las TICs que se han dado en nuestro país en el marco de
la implementación de políticas en materia transformación, modernización y
simplificación administrativa.
Hace un tiempo, el Estado Nacional viene dictando senda normativa,
principalmente de naturaleza administrativa, que en líneas generales buscan
alcanzar metas de transformación, desburocratización, modernización,
simplificación administrativa y reducción de cargas innecesarias al
administrado, pero en particular, la introducción de las nuevas tecnologías
de la información y comunicación al ámbito de la Administración pública, a
través de los expedientes electrónicos, trámites a distancia, notificaciones
electrónicas, entre otros tantos instrumentos.
En este escenario, y en relación a lo que particularmente nos interesa,
debemos tener presente el denominado Plan de Modernización del Estado
aprobado por el Decreto N° 434 del 1 de marzo de 2016, el que, según se
afirma en sus considerandos, tuvo por objetivo

“constituir una Administración Pública al servicio del ciudadano

en un marco de eficiencia, eficacia y calidad en la prestación de
servicios, a partir del diseño de organizaciones flexibles
orientadas a la gestión por resultados. Esto supone promover una
 gestión ética y transparente, articulando la acción del sector
público con el sector privado y las organizaciones no
[28]
gubernamentales” .

Comenta Perrino que

“lo que se busca con estos planes y programas de reforma es la

mejora del funcionamiento de la Administración pública,
entendida como entidad servicial, a la que se quiere despojar de
antiguos componentes burocráticos para depurar sus
instrumentos de actuación y potenciar y mejorar sus técnicas de
gestión a fin de ejercer más eficaz y eficientemente las tareas que
le atribuye el ordenamiento jurídico. De tal modo, se trata de
generar una nueva cultura en la función administrativa fundada
en un conjunto de valores y pautas de comportamiento que tiene
como centro a la persona y la correlativa servicialidad de la
[29]
Administración Pública” .

Para lograr los objetivos perseguidos en el Decreto N° 434/16, se

establecieron las bases de un programa de acciones y medidas para corregir
disfunciones en el actuar de la Administración y aumentar la calidad de los
servicios provistos por el Estado a través de la incorporación de las
Tecnologías de la Información y de las Comunicaciones (TIC),
simplificando los procedimientos, propiciando reingenierías de procesos y
ofreciendo a las personas la posibilidad de mejorar el acceso por medios
electrónicos a información personalizada, coherente e integral.
El citado decreto, además, contempló en el eje “Plan de Tecnología y
Gobierno Digital” el objetivo de implementar una plataforma horizontal
informática de generación de documentos y expedientes electrónicos,
registros y otros contenedores que sea utilizada por toda la Administración
a los fines de facilitar la gestión documental, el acceso y la perdurabilidad
de la información, la reducción de los plazos en las tramitaciones y el
seguimiento público de cada expediente.
 En este contexto, posteriormente el Poder Ejecutivo nacional dictó los
Decretos 891 y 894 del año 2017 por los cuales, respectivamente, se
aprueban la denominadas “Buenas prácticas en materia de simplificación” y
se introducen importantes cambios en el Reglamento de Procedimientos
Administrativos (Decreto 1759/72 y sus modificaciones) del Decreto-Ley
N° 19.549, autorizando las herramientas electrónicas al procedimiento
administrativa, surgiendo de tal modo un nuevo texto ordenado.
b) La simplificación administrativa
En general, y en el plano internacional, el concepto de “simplificación
administrativa” alude a una larga lista de herramientas tendientes a la
mejora de la calidad normativa orientada a la reducción de cargas, en un
contexto de políticas de mejora regulatoria Así se lo hace, por ejemplo, en
el informe de la OCDE titulado “Reducir el papeleo. Estrategias nacionales
para la simplificación administrativa”, en el cual se afirma: “La
simplificación administrativa es una herramienta de calidad para revisar y
simplificar las normas administrativas. Estas normas implican papeleo y
trámites a través de los cuales la administración recaba información y
afecta a las decisiones económicas individuales”.
Según indica Cass Sunstein, quien fuera abogado en la administración de
Obama,

“…si el gobierno opta, allí donde pueda, por una mayor

simplificidad sin llegar a reducir sustancialmente sus funciones
actuales, puede ser mucho más efectivo, mucho menos confuso,
muchísimo menos contraproducente y de mucha más ayuda”.
Aunque “hay otra posible interpretación para la noción de
simplificación en la que tendrían cabida las funciones
actualmente asignadas al gobierno. En virtud de esta
interpretación, lo que necesitaríamos son menos reglas y más
criterio individual. He aquí la demanda fundamental: el gobierno
se pasa demasiado tiempo diciéndole a la gente lo que tiene que
hacer y cómo debe hacerlo. Impone notables restricciones a los
colegios, los profesores, los hospitales y los empresarios, con un
nivel de detalle absurdo, en lugar de describir un objetivo general
y permitir que las personas empleen su creatividad e iniciativa
 para cumplirlo. En pocas palabras: menos regulación y más
[30]
sentido común” . De alguna manera, se trata de modos de
participación o colaboración público privada y lo que se procura
es reducir los denominados “riesgos normativos” o “riesgos de
[31]
exceso de regulación” .

Ahora bien, y respecto nuestro país, subyace de los decretos antes citados
que la alocución simplificación administrativa tiene un significado aún más
amplio, y es ese el sentido del nombre que se le otorga precisamente al
primero de los decretos (Decreto N° 891/2017). En efecto,

“se recurre a la expresión simplificación administrativa para

referirse a una pluralidad de actuaciones necesarias para
adecuar la Administración a los nuevos retos que se le exigen. Por
ello, la simplificación es, en primer lugar, una forma de concretar
algo más, el concepto aún más amplio de modernización
administrativa. La idea que domina el concepto de simplificación
administrativa es la de reducción de intervenciones
administrativas que gravan de forma no justificada o
desproporcionada la actividad de los ciudadanos y de las
empresas. Pero la noción de simplificación puede también
referirse a la simplificación de los instrumentos normativos o a la
reducción de organismos públicos, así como también a la mejora
[32]
de los instrumentos para acceder a información pública” .

En este sentido, la doctrina española también ha dicho que la simplificación

administrativa designa una serie de institutos, cuyos rasgos principales son
aplicación del principio de eficacia de la acción administrativa, entendiendo
por esta última “la capacidad en concreto de la Administración de cuidar de
modo satisfactorio –el más satisfactorio posible dada la situación real– los
intereses implicados, ya sean públicos, colectivos o privados, así como
capacidad de incidir en la realidad externa por parte del órgano o de la
oficina administrativa agente, a través de su acción concreta, se exprese ésta
[33]
bien en actos jurídicos o bien en operaciones materiales” .
En esta línea, Sebastián Martín-Retortillo distingue tres tipos de
simplificación administrativa: a) simplificación normativa: dirigida a
reducir la complejidad del sistema normativo; b) simplificación orgánica,
que conduce a mejorar las estructuras u organizaciones públicas; y c)
simplificación procedimental, mediante la cual se pretende intervenir sobre
los procedimientos administrativos para hacerlos menos complejos, más
eficaces, eficientes y racionales. A su vez, a esta última variante de la
simplificación el mencionado autor la bifurca en dos vertientes: 1.- la
simplificación de los trámites contenidos en cada procedimiento, y 2.- la
[34]
simplificación del número de procedimientos existentes .
Explica Perrino que la simplificación de los procedimientos
administrativos se proyecta sobre dos grandes aspectos: por un lado, el de la
reducción de las trabas o cargas administrativas; y, por el otro, el de la
racionalización o agilización del procedimiento administrativo. Para
nosotros, de una forma más o menos directa, las TICs y la IA en la
Administración pública, se vinculan con ambos aspectos.
Ejemplos de técnicas para reducir cargas administrativas son la
eliminación de obligaciones innecesarias en cabeza de los administrados, no
requerir la presentación de documentos o datos que obren en poder de la
Administración, reducir la frecuencia de petición de datos, acortar los
plazos de tramitación de los procedimientos, permitir la presentación
electrónica de solicitudes, comunicaciones y demás documentos, etc.
(artículo 3 y 4, del Decreto 891/2017; artículo 107 del Decreto 894/2017).
El otro aspecto o ámbito que comprende la simplificación administrativa
es el de la racionalización o agilización del procedimiento administrativo, a
fin de ordenarlo para imprimir celeridad, eficacia y eficiencia a la gestión
[35]
administrativa . En este sentido, la implantación de procedimientos
directos y simples por medios electrónicos (artículo 4, Decreto 894/2017),
las buenas practicas comunicacionales intra y extra organismos (artículo 11,
Decreto 891/2017) y el silencio positivo (artículo 10 del mismo decreto),
son buenos ejemplos que transitan por el camino querido.
 Por la forma de redacción y la naturaleza de estas normas, coincidimos
con la doctrina en el sentido de que las buenas prácticas reguladas son
mandatos vinculantes (en muchos casos mandatos de optimización):
reafirman enfoques, conceptos, estrategias, y principios ya regulados, de
[36]
obligatorio cumplimiento . Aunque, agregamos nosotros, deben estar
complementadas con reglamentaciones más concretas, inclusive, con
penalidades ante su incumplimiento, por una parte, y el reconocimiento de
derechos digitales, por la otra.
En definitiva, tenemos para nosotros que estas “buenas prácticas en
materia de simplificación” constituyen un verdadero manual sobre la
realidad del procedimiento administrativo en el Siglo XXI, ofreciendo
herramientas necesarias para satisfacer la complejidad que se le presenta a
la función administrativa en la actualidad.
Desde luego, resulta importante, en este campo de la actuación de la
Administración pública, que se incentive también a los gobiernos
provinciales y municipales para que se modernicen y avancen hacia un
[37]
esquema de simplificación procedimental y normativa ; que de hecho lo
vienen haciendo en beneficio de la población de sus respectivas
jurisdicciones.
Ahora bien, y tal como comenta Gamero Casado respecto las asimetrías
regulatorias de simplificación entre distintas jurisdicciones,

“no todas las Administraciones públicas avanzan de igual manera

en la implantación de la simplificación de procedimientos. Las
Entidades Locales constituyen, desde luego, el exponente más
débil de todas las iniciativas de simplificación administrativa,
siendo así que en nuestro sistema político les corresponden
incisivas potestades de intervención. Cualquier metodología de
simplificación administrativa que se emprenda en el futuro debe
afrontar la necesidad de integrar a las Entidades Locales en el
[38]
proceso” .

c) La gobernanza y el derecho a la buena administración

El denominador común de todas estas herramientas, y como casi todo el
Derecho Administrativo en la actualidad, son los conceptos de
“gobernanza”, por un lado, y el “derecho a la buena administración”, por el
otro; ciertamente ambos muy vinculados.
Así, es que en los considerandos del Decreto 891/1017 se señala que

“de acuerdo con los lineamientos de la Organización para la

Cooperación y el Desarrollo Económico (OCDE), una adecuada
política regulatoria exige que se implementen prácticas de buena
gobernanza entre organismos y departamentos de gobierno
tendientes a la simplificación de trámites y formalidades y la
eliminación de normas que entorpecen y demoran el accionar del
Estado”.

En cuanto a la gobernanza, estudia la literatura que existen dos respuestas

posibles a los problemas de capacidad y eficacia directiva de los gobiernos:
la gobernabilidad y la gobernanza. La primera, si bien se presenta con la
capacidad suficiente para gobernar la sociedad civil, la posiciona a ésta
como objeto y destinatario del gobierno y la administración pública, pero
nunca como sujeto. En cambio, la gobernanza parte que el gobierno es un
agente de dirección, pero por sí mismo es insuficiente. La gobernanza,
traduce una noción que representa la interacción entre las administraciones
públicas, el mercado y la sociedad civil, que se integran, reemplazado una
[39]
forma de gobernar monopólica .
Para Javier Barnes, la gobernanza se ve anclada en una cooperación
(público- privada, e interadministrativa) que se extiende tanto a la
formulación de las políticas públicas como a su desarrollo y aplicación,
teniendo en cuenta formas más efectivas de participación, la coordinación
de múltiples niveles de gobierno, la salvaguarda de la diversidad y la
descentralización, el debate público permanente, una mayor flexibilidad y
supervisión de los procesos decisorios, la experimentación y generación de
[40]
conocimiento .
Sobre este concepto, y como consecuencia de la incorporación de la
última generación de TIC en las administraciones públicas, ha emergido un
nuevo paradigma en la gestión pública denominado “gobernanza
inteligente” (smart governance) que se funda en nuevas capacidades
organizativas e implicaciones para la relación entre administraciones y
ciudadanía, la existencia de una serie de tecnologías sociales, así como la
adopción de unos valores nuevos de funcionamiento en el sector público
más horizontales, abiertos al entorno y con una clara orientación a la
innovación. Así se han planteado componentes del concepto como la
participación, el gobierno abierto, la colaboración interorganizativa, la
transparencia radical de los procesos de relación con el entorno o la
transformación de las dinámicas de intermediación entre ciudadanía e
instituciones.

“En consecuencia, la lógica smart en la gestión pública se

encuentra muy estrechamente unida a la existencia de una nueva
generación de tecnologías que no solo permiten la concreción de
dinámicas de innovación, sino que además llevan insertos una
serie de valores de la web 2.0 o los principios de transparencia,
[41]
participación y colaboración del gobierno abierto” .

[42]
El derecho a la “buena administración” (también denominado “buen
gobierno”), por su lado, encuentra recepción expresa en el artículo 41 de la
Carta Europea de Derechos Fundamentales de la Unión Europea, e
inclusive, establece el derecho de los ciudadanos a dirigirse al Defensor del
Pueblo en los supuestos de “mala administración” (artículo 43).
Al respecto, Rodriguez-Arana Muñoz ha dicho que la buena
administración y el buen gobierno aspiran a colocar en el centro del sistema
a la persona y sus derechos fundamentales. De manera que el buen gobierno
no es un fin en sí mismo, sino una institución al servicio de los ciudadanos
que debe acreditar su compromiso para que todos los ciudadanos puedan
ejercer en mejores condiciones todos y cada uno de los derechos
[43]
fundamentales .
El llamado derecho al buen gobierno nace a partir de la necesidad de
superar el paradigma de administración tradicional, racional, de cuño
weberiano, con un apego desmesurado a la literalidad del principio de
legalidad, e intenta reemplazar ese esquema por otro en el cual el ciudadano
sea colocado en el centro del sistema, de donde se infiere que esta nueva
manera exige darle satisfacción de forma eficaz a las necesidades de
[44]
ciudadanos cuyo servicio tiene que actuar siempre .
Y finalmente, como dice Miriam Ivanega, el derecho a la buena
administración tiene dos efectos: a) es determinante de la calidad de la
organización política, y b) como una suerte de rompiente frente a prácticas
[45]
administrativas corruptas . Por lo que, el por nosotros considerado
[46]
“derecho humano fundamental a la no corrupción” , o si se prefiere, “el
derecho a contar con una Administración que sirva con objetividad los
[47]
intereses generales” , tiene directa vinculación con el concepto de buena
administración.
Por su lado, el “Código Iberoamericano de Buen Gobierno” (CLAD,
2006) entiende por buen gobierno aquél que busca y promueve el interés
general, la participación ciudadana, la equidad, la inclusión social y la lucha
contra la pobreza, respetando todos los derechos humanos, los valores y
procedimientos de la democracia y el Estado de Derecho, y a partir de ello,
el Código articula tres tipos de reglas de conducta, basadas en la naturaleza
democrática del gobierno, la ética gubernamental y a la gestión pública. Y
siendo aún un poco más explícita, la “Carta Iberoamericana de los Derechos
y Deberes del Ciudadano en Relación con la Administración Pública”
(CLAD, 2013), garantiza a los ciudadanos “el derecho fundamental a la
buena administración” que consiste –dice la norma- en que los asuntos de
naturaleza pública sean tratados con equidad, justicia, objetividad,
imparcialidad, siendo resueltos por un plazo razonable al servicio de la
dignidad humana” (apartado 25).
Veremos más adelante que la IA es especialmente visible en las
Administraciones públicas, donde el uso del Big Data y los agentes
inteligentes permiten intentar mejorar sus políticas públicas y sus decisiones
administrativas y avanzar, en definitiva, hacia el buen gobierno y la buena
administración, ya que –adelantándonos un poco en nuestras conclusiones–
las automatizaciones y la robótica transparentan (o por lo menos lo
favorecen), el accionar estatal. Así, el derecho al buen gobierno, se presenta
como un horizonte de obligado cumplimiento a seguir por el Estado, en un
escenario de la utilización cada vez más compleja de agentes inteligentes.
Regresaremos con este tema, en el Capítulo VI de esta publicación.

II. El gobierno digital (y abierto). Ciudades

digitales
a) El “Gobierno Digital”. La “interoperabilidad”. “Internet de las Cosas”
El denominado “Gobierno Digital” es uno de los aspectos más importantes
a tener en cuenta a los fines de entender cuál es el contexto en el cual se
ubica la Administración pública en la actualidad. Veamos.
La necesidad del Sector Público de contar con nuevas tecnologías y
herramientas de la información y el denominado Gobierno Digital,
constituye el nudo central de las reformas introducidas por las normativas
citadas, y que analizaremos –aunque mas no sea– en forma sintética.
En lo que respecta al específicamente al Gobierno Digital, que nos
ocuparemos ahora, el Decreto 891/2017 en su artículo 8° insta la
interoperabilidad entre las administraciones públicas de todos los niveles,
generando de esta manea un intercambio y colaboración mutua, a fin de
implementar todas las herramientas tecnológicas existentes, para acercar la
[48]
Administración a los ciudadanos .
Han explicado Leiva y Télles Valdéz que una “segunda ola” en el
gobierno electrónico, que transita después agendas digitales, firmas y
documentos electrónicos, entre otros que permiten diversas gestiones, pasa
ahora por el desarrollo de una plataforma integrada de servicios ciudadanos
o de un sistema nacional de información ciudadana, en donde se debe
hablar no solo de “conectividad” sino de “interoperatividad” o
[49]
“interoperabilidad” .
Puede entenderse a la “interoperabilidad” como la capacidad de que
organizaciones diversas y dispares interactúen con vistas a alcanzar
objetivos comunes que sean mutuamente beneficiosos y hayan sido
acordados conjuntamente, recurriendo a la puesta en común de información
y conocimientos entre las organizaciones, a través de los procesos
empresariales a los que apoyan, mediante el intercambio de datos entre sus
[50]
respectivos sistemas TIC .
En el contexto analizado, el concepto de interoperabilidad aparece como
un elemento esencial para hacer posible la transformación digital. Permite
que los órganos administrativos interactúen electrónicamente entre sí y con
los ciudadanos y las empresas, información con sentido y de forma
comprensible para todas las partes. Y abarca –tal como lo describe Molina
[51]
Del Pozo - todos los aspectos que afectan a la prestación de los servicios
digitales, como: a) cuestiones jurídicas, por ejemplo, al garantizar que la
legislación no imponga obstáculos injustificados a la reutilización de datos
en diversos ámbitos políticos, b) aspectos organizativos, por ejemplo, al
solicitar acuerdos formales sobre condiciones aplicables a interacciones
entre organizaciones, c) aspectos semánticos de datos, por ejemplo, al
garantizar el uso de descripciones comunes de datos a intercambiar, d)
dificultades técnicas, por ejemplo, mediante la configuración del entorno de
sistemas de información necesario para permitir un flujo ininterrumpido de
bytes.
En esencia, debe ponerse de relieve que la “interoperabilidad” es una
característica necesaria que surge como consecuencia de la denominada
“Internet de las Cosas”. Internet de las Cosas puede ser conceptualizada
como una red de objetos físicos –vehículos, máquinas, electrodomésticos y
más– que utiliza sensores y API (Interfaces de Programación de
[52]
Aplicaciones), para conectarse e intercambiar datos por internet . Hay
distintos tipos de programas que pueden ser utilizados para analizar estos
datos. Sin embargo, los programas basados en algoritmos de IA son los más
adecuados porque permiten automatizar el proceso de toma de decisiones y
ofrecen respuestas de manera inteligente a distintos procesos y aplicaciones.
[53]
Para la doctrina , se suele aludir a “Internet de las cosas” o “de los
objetos”, como traducción literal de la expresión inglesa “internet of
things”, cuyo autor fue Kevin Ashton, en 1999, al hilo de una presentación
que hizo para la multinacional Procter & Gamble, advirtiendo que la
información que circulaba por Internet era introducida por las personas y
que, por tanto, dependía del tiempo de que éstas dispusieran para que
hubiera más información accesible en la red. Sin embargo, si la información
provenía directamente de las “cosas” que nos rodeaban incorporándose
directamente a Internet gracias a los ordenadores y, más en concreto, al
software, se podría rastrear a las cosas, tener información directa en tiempo
real de su uso, vida útil, características, la necesidad de nuevos suministros
de esas cosas a las empresas que las emplean en la producción de otras
cosas, si esa cosa tiene que ser reparada, reemplazada, mejorada, si su fecha
de caducidad ya ha pasado, etc., con lo cual se reducen los deshechos y se
[54]
ahorra en costes .
En la “Internet de las Cosas”, las “cosas” y los datos dialogan entre sí, se
relacionan, interactúan y se intercambian a través de diversos procesos. Por
eso, en realidad, debe estarse ante mecanismos de “datificación”, donde los
datos masivos, los megadatos, la big data, produce cambios vertiginosos
sobre la información, de tal manera que en realidad puede hablarse
perfectamente de “Internet de los Datos”. Aquí, dos conceptos son
relevantes. Por un lado, la “interoperabilidad”, es decir, la capacidad de los
sistemas de información, y por ende de los procedimientos a los que éstos
dan soporte, de compartir datos y posibilitar el intercambio de información
y conocimiento entre ellos. Por el otro, el de “escalabilidad”: la capacidad
que tiene la Red de adaptarse al cambio de circunstancias en el manejo de la
cantidad de información, sin perder su fluidez, su rapidez, y la calidad de
los procesos informáticos que generan, transmiten y analizan la información
recibida.
En nuestro régimen, el tema analizado se articula con la idea de
interconexión digital, cuyas bases sentó el Decreto 87/2017 (Plataforma
Digital del Sector Público Nacional) al propiciar no solo la despapelización
y la sustitución del procedimiento en soporte papel, por vía digital; sino que
además fomenta la integración de la Administración Pública como un único
soporte de las peticiones de los ciudadanos, intentando acabar con el
fraccionamiento en compartimientos estancos propios de la organización
preexistente. Este principio, también lo encontramos dentro de los ejes del
Plan de Modernización del Estado, creado por el Decreto 434/17, en cuanto
establece el Plan de Tecnología y Gobierno Digital, con el propósito de
avanzar en una administración sin papeles y facilitar la interacción entre el
ciudadano y los organismos públicos. Asimismo debe considerarse el
último eje: la Estrategia País Digital, que pretende atravesar e interconectar
[55]
las administraciones públicas nacional, provincial y municipal .
b) El “Gobierno Abierto”
Sin perjuicio de lo dicho, estamos por la consideración de que la temática
del denominado Gobierno Digital debe ser incluida en la problemática del
Gobierno Abierto, concepto más amplio y abarcador que aquel. Es más,
autores han señalado la preocupación por la equivalencia manifestada en los
planes entre Gobierno Abierto y Gobierno Digital, mencionado que, en
algunos casos, persiste la confusión generalizada de acotar la idea de
gobierno abierto como una extensión o etapa superior en los esfuerzos por
consolidar estrategias de gobierno digital o administración electrónica, o
bien reducir su alcance a la puesta en marcha de políticas de datos
[56]
abiertos .
Así es que, en el llamado Gobierno Abierto, subyace la idea de abrir al
público, en forma libre y gratuita, los datos, sumado a mecanismos de
participación y a la incorporación de sectores no gubernamentales. Toma
protagonismo el desarrollo tecnológico que contribuye a una nueva forma
de relación y forma de gobernar. Como dice Ivanega: “se abren canales de
[57]
comunicación, fundamentándose de esta forma la transparencia” .
El Gobierno Abierto:

“promueve la colaboración activa entre las mismas entidades u

órganos del Estado en todos los niveles, pero aún más importante,
entre éstos y los ciudadanos bajo la premisa del trabajo conjunto
y colaborativo a través de las distintas herramientas y canales
[58]
que las tecnologías y las comunicaciones nos ofrece” .

Y así es que, los tres principios del “gobierno abierto”, son: 1.-
Transparencia, que en párrafos ulteriores del documento se orienta a
facilitar información en pro de la responsabilidad en el gobierno
(accountability), en especial gracias a la enorme potencialidad de Internet y
las TICs; 2.- Participación pública en el diseño y ejecución de las políticas
públicas, sobre la base de una idea crucial: la de que el conocimiento no se
concentra en exclusiva en las esferas gubernamentales, sino que también se
[59]
halla, aunque disperso, en la propia sociedad ; 3.- Colaboración, con
arreglo a instrumentos, métodos y sistemas innovadores, en ese desarrollo
de las tareas gubernamentales, en una doble perspectiva: tanto horizontal,
en cuanto que todos los departamentos y agencias han de cooperar entre sí y
con otras Administraciones del país; como vertical, en la medida en que la
Administración federal ha de colaborar asimismo con los ciudadanos,
empresas y cualesquiera otras organizaciones sociales. Por último, los dos
objetivos básicos: uno fundamentalmente político, fortalecer la democracia;
y otro primordialmente administrativo, promover la eficiencia y la eficacia
[60]
en los labores del gobierno . El gobierno abierto:

“entraña una relación de doble vía entre ciudadanía y estado,

posibilitada por la disponibilidad y aplicación de TIC
(tecnologías de la información y el conocimiento) que facilitan
múltiples interacciones entre actores sociales y estatales, y se
traducen en vínculos más transparentes, participativos y
colaborativos….supone ampliar la esfera de lo público, abrir la
caja negra del estado, tornar más transparente la gestión, admitir
un mayor protagonismo de la ciudadanía en la administración del
gobierno y expandir las posibilidades de brindar más y mejores
servicios al público a través de un mejor acceso a los sistemas de
[61]
información” .

Este contexto –sin dudas– posiciona a la Administración pública frente a

una nueva forma de “descentralización operativa” que ha dado en llamarse
[62]
“el Estado descentralizado de Internet” , caracterizado por la coherente
integración en las redes y en los servicios de comunicaciones electrónicas
del conjunto de Administraciones públicas, cualquiera sea su naturaleza
jurídica y posición institucional. Es que la gestión electrónica –dice
Delpiazzo–
 “posibilita un modelo de arquitectura más horizontal que vertical
(como, en cambio, se muestra la organización burocrática
tradicional), que vincula y permite el acceso y la
interoperabilidad sistemática de la información de las diferentes
instituciones entre sí y con los integrantes de la sociedad,
[63]
posibilitando una mayor participación de éstos” .

No caben dudas que

“las nuevas tecnologías también van a servir de instrumentos de

democratización del poder social. De esa manera, muchos autores
coinciden en definir a Internet como instrumento de participación
democrática. La cara y cruz de las nuevas tecnologías serán
objeto de debate en esta obra desde la doble perspectiva de
considerar que, al mismo tiempo, pueden ser instrumentos que
vulneren derechos, ante lo cual será preciso articular mecanismos
de defensa, pero también pueden ser instrumentos de ejercicio de
[64]
derechos, posibilitándolos o dándoles mayor proyección” .

c) La “Ciudad Digital”. La “ciudad inteligente” (Smart City). El

“derecho a la ciudad”
Como consecuencia de las nociones de gobierno abierto y gobierno digital,
crece correlativamente –con cada vez más relevancia– la concepción de
“ciudad digital”.
En el Manual para el desarrollo de Ciudades Digitales en Iberoamérica,
desarrollado por AHCIET (Asociación Hispanoamericana de Centros de
Investigación y Empresas de Telecomunicaciones) se entiende a la Ciudad
Digital como

“aquella en la que, utilizando los recursos que brindan la

infraestructura de telecomunicaciones y de informática existentes,
entre ellas la denominada Internet, brinda a sus habitantes un
 conjunto de servicios digitales a fin de mejorar el nivel de
desarrollo humano, económico y cultural de esa comunidad, tanto
[65]
a nivel individual como colectivo” .

La Ciudad Digital ofrece Servicios Digitales de distinta índole, que tienen

como finalidad modernizar a las ciudades iberoamericanas a través de la
habilitación de servicios en línea. Éstos funcionan bajo la lógica de la
búsqueda y el procesamiento de información a distancia, llevados a cabo
por medios electrónicos. Entre esos servicios podemos tener presente a
portales con información general, portal para consultas, guía de trámites
ante el estado, gestión de los servicios públicos, etc.
No obstante, en los últimos años va ganando terreno otro concepto que se
utilizada para referirse a esta problemática y que sobrepasa al de “ciudad
digital”: la “ciudad inteligente” (Smart City); por cuanto éste último, si bien
utiliza la tecnología para transformar procesos centrales optimizando
recursos proveyendo información en tiempo real a los actores interesados,
también abarca un ámbito de sostenibilidad y sustentabilidad
comprendiendo un concepto multidisciplinar que ha de abarcar dimensiones
[66]
económicas, humanas, sociales y tecnológicas .
En este sentido, para la Comunidad Europea

“las ciudades inteligentes y sostenibles combinan diversas

tecnologías para reducir el impacto ambiental y ofrecer a sus
ciudadanos una mejor calidad de vida. Esto no es sólo un desafío
técnico. El cambio organizacional de los gobiernos, es esencial.
Hacer una ciudad inteligente es un desafío multidisciplinario, que
se debe realizar en conjunto con los funcionarios de la ciudad, los
proveedores, las autoridades nacionales y legisladores,
[67]
académicos y la sociedad civil” .

Se ha definido a la ciudad inteligente como

 “aquella que coloca a las personas en el centro del desarrollo,
incorpora tecnologías en la gestión urbana y usa estos elementos
como herramientas para estimular la formación de un gobierno
eficiente que incluya procesos de planificación colaborativa y
participación ciudadana. Al promover un desarrollo integrado y
sostenible, las Ciudades Inteligentes se tornan más innovadoras,
[68]
competitivas, atractivas y resilientes, mejorando vidas” .

Recientemente, y sin desperdicios, ha dicho Maimunah Mohd Sharif,

directora de ONU-Hábitat, que:

“Para mí, una smart city (SC) es la situación en la que la gente, el

país o el gobierno local puede proveer una buena calidad de vida
y de forma sostenible. No tiene por qué implicar tecnología punta.
Inteligente no quiere decir tecnología, sino que funcione bien.
Tiene mucho que ver también con la gestión del talento. Al final,
todos los países comparten los mismos temas: inmigración,
urbanización, congestión… Los países ricos pueden compartir la
tecnología con los demás para afrontar estos problemas. Las
ciudades necesitan ciudadanos inteligentes. Si no hay
educación, smart people, no conseguirás los objetivos que te
propones. En definitiva, el enfoque de las SC debe ser mucho más
global”.

Según se puede visualizar, el concepto de ciudad inteligente no se reduce

a algo imaginario, meramente tecnológico que esté vinculado a la
conectividad digital de los ciudadanos, sino a un concepto mucho más
amplio, que tiene que ver con la optimización de recursos, la gobernanza
integrada y los recursos técnicos. De tal manera, enlaza cuatros elementos
importantes: a) el capital humano, es decir, el necesario empoderamiento
del ciudadano, b) el cambio de comportamiento, hacia una responsabilidad
social colectiva, relacionado con lo medio ambiental, por ejemplo, c) el
capital social, dirigido a la sustentabilidad social e inclusión digital, y d) un
abordaje humanizado, es decir, las TICs sensibles al contexto en que se
transita.
 Las ciudades inteligentes nos proponen, desde lo jurídico, importantes
desafíos. Así preguntarnos, ante las nuevas modalidades de transporte
individual, como por ejemplo las motos eléctricas: ¿si estamos ante
innovación o regulación? De la misma manera, otro dilema se puede
presentar ante los drones, o incluso, las nuevas modalidades de transporte
público de cosas (a través de una bicicleta mediante una app) o personas (en
este caso través de un automóvil y otra app): ¿si estamos frente una
violación de un servicio público o debemos adaptar las regulaciones? Aquí
de una manera u otra, cualquiera fuere la respuesta, debe tomar centralidad
la planificación, la programación de la Ciudad, para alcanzar los objetivos
trazados.
Y finalmente, el concepto de “Smart City”, tiene su perfecto correlato en
el alcance del denominado y cada vez más estudiado “derecho humano a la
ciudad”.
La “Carta Mundial por el Derecho a la Ciudad” lo define como “el
usufructo equitativo de las ciudades dentro de los principios de
sustentabilidad, democracia, equidad y justicia social” y luego continúa
señalando que

“Es un derecho colectivo de los habitantes de las ciudades, en

especial de los grupos vulnerables y desfavorecidos, que les
confiere legitimidad de acción y de organización, basado en sus
usos y costumbres, con el objetivo de alcanzar el pleno ejercicio
del derecho a la libre autodeterminación y un nivel de vida
[69]
adecuado” .

Para nosotros, a través de “derecho a la ciudad”, se reconoce el

[70]
derecho , si se quiere de incidencia colectiva, a un hábitat urbano
saludable, es decir, aquel cuyas condiciones ambientales, económicas,
sociales, políticas, culturales posibilita al hombre de ciudad su desarrollo
individual y su interacción social. Todos los habitantes tenemos el derecho
de gozar y disfrutar las bonanzas de un ambiente sano, equilibrado y apto,
pero también tenemos el deber de preservarlo con comportamientos
consecuentes y responsabilidad social. El derecho y el deber de preservar el
ambiente se refiere en un sentido amplio, pues concurre el patrimonio
[71]
natural como cultural y artificial .
El vecino en su hábitat debe poder satisfacer sus necesidades, sus
demandas, y las respuestas a las mismas son las que determinan la calidad
de vida de la Ciudad. La calidad de vida, entonces, es el grado en que una
sociedad posibilita la satisfacción de sus necesidades múltiples y
[72]
complejas . A la par de ello, no debemos dejar de reconocer que el
hábitat urbano es construido, pero también, destruido, por el propio hombre,
el principal responsable del espacio urbano.
En definitiva, bajo el concepto del “derecho a la ciudad”, se articulan una
serie de derechos peo también de obligaciones, entre lo público y lo
privado, bajo un entorno coordinado y saludable entre el medio natural y el
artificial, en donde el acceso a la tecnología y los servicios electrónicos son
[73]
de irrenunciable e impostergable atención .

III. La mejora continua de procesos y las TICs

Desde hace un tiempo, se le ha presentado a la Administración pública la

necesidad de aplicar mejoras continuas de procesos, a través de nuevas
tecnologías y herramientas informáticas. Al respecto, el artículo 4° del
Decreto 894/2017 establece que

“El Sector Público Nacional deberá aplicar mejoras continuas de

procesos, a través de la utilización de las nuevas tecnologías y
herramientas informáticas, utilizar e identificar los mejores
instrumentos, los más innovadores y los menos onerosos, con el
fin de agilizar procedimientos administrativos, reducir tiempos
que afectan a los administrados y eliminar regulaciones cuya
aplicación genere costos innecesarios”.
 Con similar redacción, la “Carta Iberoamericana de Gobierno
Electrónico” (CLAD, 2007) advierte que los Estados deberán prepararse
para la efectiva implantación del Gobierno Electrónico, y en tal sentido, se
recomienda “Adapten las reglas de procedimiento a las posibilidades que
ofrecen las comunicaciones electrónicas” (apartado 23.c) e “implanten
nuevos modelos de gestión en la Administración Pública que fomenten la
mejora continua de los procesos y la constante innovación” (apartado 23.d).

Teniendo en cuenta estos aspectos, es posible puntualizar que los avances

que se han logrado en el campo del gobierno electrónico en los países
iberoamericanos, se han dado en materia de racionalización de las
actividades administrativas (como áreas presupuestarias y fiscal), monitoreo
de programas y políticas públicas (metas e indicadores), en materia de
servicios gubernamentales (centros de atención, reclamos y expedientes
[74]
digitales), transparencia y acceso a la información pública.

El Estado es un gran almacén de recursos informacionales, un gran

yacimiento de datos. La actividad que desarrolla como administrador de las
políticas establecidas, hace que recoja y procese datos, y como
consecuencia, genere gran cantidad de información, la cual en una
importante proporción está relacionada a personas determinadas, sin
embargo, otra parte de ella se refiere a la actividad de gobierno. Por lo
tanto, semejante “repositorio informacional”, en una sociedad que se
aprecie democrática, no puede ni debe ser retenido ya que se configuraría
[75]
una “capitalización indebida de poder” .

Actualmente, la innovación tecnológica, el desarrollo de las tecnologías

de la información y de la comunicación y una nueva concepción de las
relaciones tecnología-sociedad que condiciona la posición de las
tecnologías frente a la forma de buscar e impartir justicia están provocando
que el procedimiento judicial, el procedimiento administrativo, el
mediacional y todos los procedimientos en los que se podría organizar el
derecho, se encuentren inmersos en procesos de cambios. Se trata de
cambios en cuanto a los usuarios y “protagonistas” del proceso y cambios
[76]
en cuanto a los “modelos” de procedimiento .
 En lo que respeta concretamente a la mejora de procesos y trámites
necesarios, el Estado ha tomado determinaciones, tales como la
implementación del sistema de ventanilla única y ágil no solo para la
simplificación de trámites, sino también para garantizar la cercanía del
Estado a las personas, la aplicación de las presunciones de buena fe y
veracidad en la actuación del administrado, salvo prueba en contrario, no
exigir al ciudadano la presentación de documentos que ya obren en poder de
la Administración Pública, garantizar el tratamiento al ciudadano con
cortesía, cordialidad y de asesoramiento en la tramitación administrativa,
mejorar la cooperación y coordinación intergubernamental,
interadministrativa e interorgánica, entre otros.
En definitiva, las TICs en la Administración pública contribuye a lograr
importantes objetivos, tales como la: a) reducción de los tiempos de
tramitación, b) mejorar accesibilidad a la información para su control, c)
aumentar niveles de transparencia, d) perdurabilidad de la información, e)
lograr el efectivo acceso a los ciudadanos a los servicios que presta el
[77]
Estado y f) aumentar los niveles de participación ciudadana .
Regresaremos con estas temáticas más adelante.

IV. El gobierno “electrónico” según el CLAD

Un concepto muy vinculado al “gobierno digital” antes visto, es aquel que
hace referencia al “gobierno electrónico”.

El CLAD tiene dicho que la producción de nuevas tecnologías de gestión

constituye un campo en cual se dieron transformaciones en la
administración pública iberoamericana en los últimos años. Aquí, el área en
[78]
la cual hubo mayores avances fue en el del gobierno electrónico , tema
que ganó tal centralidad que condujo a la elaboración de un documento
específico del CLAD llamado “Carta Iberoamericana de Gobierno
Electrónico” (2007), basado en el derecho al acceso electrónico en las
administraciones públicas.
 Sus dos principales objetivos, que se citan a continuación, resumen muy
bien el propósito del gobierno electrónico:

“Un objetivo final y directo: reconocer a los ciudadanos un

derecho que les facilite su participación en la gestión pública y su
relación con la administración pública, contribuyendo de esta
manera a que las mismas se hagan más transparentes y
respetuosas del principio de igualdad, así como más eficientes y
eficaces”. Y otro “estratégico e indirecto: promover la
construcción de una sociedad de la información y del
conocimiento, inclusiva, focalizada en las personas y orientada al
desarrollo”.

Se denomina Gobierno Electrónico a uso de las TICs para facilitar e

intensificar la relación del gobierno con los ciudadanos, mejorar la gestión y
los servicios, garantizar la transparencia y la participación cívica y facilitar
el acceso a la información pública. Es así que, como resultado del impacto
tecnológico de las TICs en la vida social, rápidamente se las ha incorporado
a la interrelación entre ciudadanos y los gobiernos locales, provinciales y
nacionales llevando a cabo nuevas estrategias comunicacionales que
permiten establecer una mayor cercanía con aquellos, para informar los
logros de la gestión, la ejecución de proyectos y avances, como así también
la disponibilidad para admitir demandas, apoyos, sugerencias y críticas de
[79]
la población, gestionar trámites administrativos y atender servicios .
El “gobierno electrónico” constituye un nuevo paradigma tecnológico
que permite a los poderes públicos: a) proveer más y mejores prestaciones a
los ciudadanos, b) brindar puntos de acceso unificados y sencillos para
satisfacer múltiples necesidades informativas y de servicios, c) adicionar
productividad, calidad y valor a los servicios, atención a medida de los
requerimientos de cada usuario, d) resolver trámites, consultas, reclamos,
sugerencias en línea, e) aumentar la participación ciudadana, f) aumentar la
calidad y reducir el costo de las transacciones dentro del Estado, g) reducir
el costo (en dinero, tiempo, molestia, anímica, de tramitaciones del
público), h) aumentar la transparencia de la gestión pública, entre otros
[80]
resultados .
El “gobierno electrónico” se traduce en forma concreta en una gran
cantidad de servicios que puede brindar la Administración pública, tales
como: a) la creación de portales, ya sean generales de acceso a toda la
administración y sus organismos, y particulares o temáticos, relacionados
con cada programa de gobierno; b) consulta y trámites: solicitud de
información, para eventualmente concretar una gestión; c) ventanillas
únicas, a través de un sistema intercomunicado que permita al usuario la
realización de trámites vinculados entre sí; d) contacto directo con
funcionarios, por la cual el sistema otorgue el ciudadano una vía de
comunicación directa con las autoridades para que éstos puedan alcanzarle
inquietudes, denuncias, etc.
Delpiazzo comenta que suelen distinguirse cuatro etapas en la
implementación del quehacer administrativo a través de medios
informáticos y telemáticos, que refieren, entre otras, a la creación de un
portal institucional; a la posibilidad de una comunicación en ambos
sentidos; a la implantación de funcionalidades estructuradas que permitan a
los particulares realizar transacciones por medio de este nuevo canal de
comunicación con cada Administración (tales como renovación de una
licencia, pago de una multa, y el ingreso a la nómina de trabajadores de las
empresas a efectos de sus aportes sociales o de las declaraciones juradas de
impuestos respectivamente); y por último a la instalación de un portal
integrador que vincule una multiplicidad de Administraciones, abarcando
[81]
todos los servicios posibles desde Internet .

V. Otros antecedentes sobre políticas de “gobierno

electrónico”
Sin perjuicio de los decretos antes citados, cabe destacar importantes
antecedentes en nuestro país sobre “gobierno electrónico” en la
Administración Pública Nacional.
 El Decreto 378/2005, aprueba los “Lineamientos Estratégicos que
deberán regir el Plan Nacional de Gobierno Electrónico y los Planes
Sectoriales de Gobierno Electrónico de los organismos de la
Administración Pública Nacional”.

En el marco del citado plan, la Subsecretaria de Gestión Pública

desarrollará, administrará y mantendrá los siguientes programas e
instrumentos: guía de trámites, portal general del gobierno de la República
Argentina, sistema de seguimiento de expedientes, ventanilla única, portales
temáticos del gobierno nacional y directorio en línea de organismos y
funcionarios de la administración pública (artículo 5).

A su vez, se establece que la citada autoridad definirá las estrategias,

normas y procedimientos tendientes a: a) La implementación de la
Tramitación Electrónica de Expedientes, con la utilización de Firma Digital,
y b) La interoperabilidad en la interacción entre organismos de la
Administración Pública Nacional y entre éstos y los habitantes y ciudadanos
para la presentación electrónica de documentos y para la interconexión
entre aplicaciones informáticas mediante la utilización de Servicios Web
ofrecidos por el Estado Nacional (artículo 6).

En el Anexo I, que define los citados lineamientos, establece en primer

lugar su “objetivo” diciendo que

“el Plan Nacional de Gobierno Electrónico impulsará el uso

intensivo de las Tecnologías de la Información y las
Comunicaciones (TICs) por parte del Estado Nacional” para
mejorar la relación del gobierno con los habitantes y ciudadanos,
aumentar la eficacia y eficiencia de la gestión y los servicios
públicos e incrementar la transparencia y la participación, para
una mayor integración y desarrollo de la sociedad” (Anexo I,
artículo 1).
 Mejor servicio al ambiente y ciudadano, mejor gestión pública, reducción
de costos, transparencia, participación, integración, apoyo al desarrollo,
integración a la economía mundial, son los principios rectores del plan
(artículo 2). Y los instrumentos para cumplir con los objetivos son: la
utilización intensiva de Internet, centros de atención telefónica, servicios
web, tramitación electrónica, documento electrónico, y timbrado electrónico
(artículo 3).

Por su lado, el Decreto 512/2009 crea la denominada “Agenda Digital”,

un ambicioso programa de corto, mediano y largo plazo tendiente al
desarrollo de las TICs, el cual tiene directa relación con la concepción de un
[82]
gobierno electrónico .

La Agenda Digital, que busca fomentar el uso de las TICs en el sector

público y privado, fue definido como camino, o plan nacional para la
inclusión y apropiación por parte del gobierno, las instituciones y las
personas de los beneficios de la Sociedad del Conocimiento, mediante el
uso intensivo y estratégico de las TIC (Tecnologías de la Información y
Comunicación).

Esta Agenda incluirá, en una primera etapa, el financiamiento de: (1) el

acceso, (2) el uso de las TIC en el sector público, (3) el uso de las TIC en el
sector privado, especialmente en micro y pequeñas empresas, (4) el
desarrollo de capital humano, (5) la investigación, desarrollo e innovación
en TIC (abarcando empresas, universidades e instituciones del sector), y (6)
relevamiento y análisis de datos.

Tales ejemplos, son demostrativos que, en materia de tecnologías, el

principio es la gradualidad y progresividad, en donde los objetivos surgen
como consecuencia de procesos y los avances son siempre parciales, nunca
definitivos. Esto nos lleva a pensar, que las ideas sobre IA están en
permanente revisión, y el Derecho tiene un constante desafío de –por lo
menos– intentar aproximarse temporalmente a los cambios que
vertiginosamente propone la tecnologización de la Administración pública.
VI. Los derechos del ciudadano digital
a) El derecho a relacionarme electrónicamente con la Administración
Ahora bien, todo este gran “universo” que se abre hacia nuevos canales de
actuación de la Administración pública, a través de la IA (que se verá en
detalla más adelante), en sus más diversas variantes, y con implicancias en
institutos conocidos por todos (organización, contratación, procedimiento,
acto, tal como se verá más adelante) supone el reconocimiento –y el
efectivo ejercicio- de por lo menos dos derechos que presuponen y
condicionan lo antes dicho: por un lado, el derecho de los ciudadanos a
relacionarse electrónicamente con la Administración pública, y por el otro,
el derecho de acceso a Internet, entre otros no menos importantes derechos
digitales.
En nuestra opinión, uno de los aportes más destacables que el CLAD ha
hecho a la temática de gobierno electrónico, ha sido el reconocimiento a los
ciudadanos del “derecho a relacionarse electrónicamente” con sus
Gobiernos y Administraciones Públicas, lo que supone que las
Administraciones estén interrelacionadas entre sí a fin de simplificar los
procedimientos. Y claro que este derecho de los ciudadanos a relacionarse
electrónicamente con las Administraciones Públicas debe ser tan amplio
como lo permita la naturaleza del trámite y pretensión de que se trate, tal
como presentar escritos, realizar pagos, liquidar impuestos, recibir
notificaciones, acceso a la información y expedientes, entre otros.
Naturalmente, y en primer lugar, debemos traer al análisis la “Carta
[83]
Iberoamericana de Gobierno Electrónico” (CLAD, 2007) , que entiende
a las categorías de “Gobierno Electrónico” y de “Administración
Electrónica” como sinónimas, ambas consideradas como el uso de las TIC
en los órganos de la Administración para mejorar la información y los
servicios ofrecidos a los ciudadanos, orientar la eficacia y eficiencia de la
gestión pública e incrementar sustantivamente la transparencia del sector
público y la participación de los ciudadanos.
 Más adelante, reconoce a los ciudadanos un verdadero “derecho a
relacionarse electrónicamente” con sus Gobiernos y Administraciones
Públicas, lo que supone –señala el apartado 7°– que las Administraciones
estén interrelacionadas entre sí a fin de simplificar los procedimientos. Y,
tal como se adelantó, este derecho de los ciudadanos a relacionarse
electrónicamente con las Administraciones Públicas debe ser tan amplio
como lo permita la naturaleza del trámite y pretensión de que se trate, tal
como presentar escritos, realizar pagos, liquidar impuestos, recibir
notificaciones, acceso a la información y expedientes, entre otros (apartado
8°).
Respecto este derecho, y la aplicación de los principios de obligación de
progresividad y prohibición de regresividad, propios del Sistema
Internacional de Derechos Humanos principalmente en materia de derechos
económicos, sociales y culturales –pero de igual aplicación en los temas que
nos convocan–, la Corte Constitucional de Costa Rica considera que se
violenta este derecho si se suprime la página web como mecanismo para
que los administrados gestionen las citas y los trámites para la acreditación
como conductores y la obtención de la licencia de conducir. Según ese
tribunal

“es una decisión regresiva y lesiva del derecho fundamental de

los administrados a relacionarse electrónicamente con los
poderes públicos. En efecto, si ya se había puesto a disposición de
los usuarios el referido mecanismo y, con posterioridad, se dejó
sin efecto, implica una decisión regresiva, máxime, que limita
sensiblemente los mecanismos por los cuales los usuarios pueden
contactarse con la Administración. Por ende, se impone la
estimatoria de este extremo del recurso a efecto de ordenarles a
las autoridades del Consejo de Seguridad Vial que mantengan el
mecanismo ya indicado como una forma de garantizar la tutela
[84]
del derecho reconocido en esta resolución”.

Por su lado, el CLAD también continúo con la inquietud, aunque no fuera

con un instrumento específico del tema. Así es que “Carta Iberoamericana
de Participación Ciudadana en la Gestión Pública” (CLAD, 2009), establece
–por ejemplo- el principio de “adecuación tecnológica” con el fin de

“incrementar la calidad, accesibilidad y eficacia de la

participación ciudadana en la gestión pública, los poderes
públicos promoverán la adaptación y la universalización del
acceso a las nuevas tecnologías de información y comunicación
como herramientas para la participación de los ciudadanos y las
ciudadanas” (apartado 10, inc. h), garantizando “la participación
ciudadana en la gestión pública a través de las tecnologías de
información y comunicación” (apartado 36 y 37).

O la misma “Carta Iberoamericana de los Derechos y Deberes del

Ciudadano en Relación con la Administración Pública” (CLAD 2013) que
reconoce, como una derivación del “derecho fundamental a la buena
administración”, el

“derecho a conocer y a opinar sobre el funcionamiento y la

calidad de los servicios públicos y de responsabilidad
administrativa para lo cual la administración pública propiciará
el uso de las TICS” (apartado 34), el “derecho a conocer el estado
de los procedimientos administrativos que les afecten” para lo cual
–clara la norma– “el funcionario responsable de la tramitación
del procedimiento estará a disposición del ciudadano interesado
para informarle en cada momento de la situación del expediente
administrativo, sea oralmente, por escrito o a través delas TICS”,
entre otros.

b) Los derechos del ciudadano digital. El derecho de acceso a Internet

En el marco de esta relación de la Administración con ciudadano, aparecen
[85]
así los “derechos del ciudadano digital” , evanescentes en sus confines,
pero que evocan y sugieren la incipiente revolución de los ejes mismos de
la relación entre libertad y autoridad. En este sentido, y dentro del llamado
[86]
“estatuto del ciudadano digital” , pueden catalogarse el derecho del
administrado a usar instrumentos telemáticos y con fin de participar en el
procedimiento y controlar su estado, el derecho a la obtención de una
identidad digital para acceder y utilizar servicios, el derecho a elegir el
domicilio digital que se erigirá como el lugar exclusivo de comunicación y
notificación con la Administración.
Pero esta tecnologización requiere que el dialogo informático entre la
Administración y el ciudadano no sea una mera facultad sino una verdadera
obligación, y en aquellos casos en los que continúe siendo facultativo, no
emanen consecuencias gravosas para los interesados. Si bien no se puede
prescindir de la configuración intelectiva de la tramitación electrónica como
instrumento que permite avanzar hacia una Administración más eficiente en
su tramitación, eso no puede suponer una renuncia o limitación de derechos
de las personas, sino solo en los casos y en las condiciones que se deduzcan
de la normativa aplicable, interpretados con criterios estrictos a favor del
[87]
administrado, o lo que es lo mismo, restrictivos de la limitación .
Por eso, cuando entre la Administración y el ciudadano se instaura de
[88]
manera obligatoria un vínculo digital , emerge la obligación para los
poderes públicos hacer efectivo el derecho de acceso a Internet como
“precondición” o “prerrequisito” para el ejercicio de ulteriores derechos
(reducción de la brecha digital, por ejemplo). Barrio Andrés ha destacado
que

“el acceso a Internet constituye una parte importante de la

discusión sobre la ciudadanía digital, es decir, la capacidad de
participar en la sociedad digital. Internet, en particular, puede
actuar eficazmente como un instrumento para favorecer la
presencia y participación activa de los individuos dentro de la
[89]
sociedad, fomentando la inclusión social” .

El catedrático español citando entiende que

“debe ir ya abriéndose camino en la ciencia jurídica el momento

de sustanciar un nuevo derecho fundamental de acceso a Internet.
Hay que notar como Internet es una herramienta tecnológica que
 facilita el ejercicio de otros derechos, tales como el derecho a la
libertad de expresión o el derecho a la libertad de información e,
incluso, los derechos de educación, trabajo y libertad de empresa,
y poco a poco va constituyéndose en un elemento esencial de la
“procura existencial” en el espacio de necesidades que el
individuo ya no tiene en la actualidad capacidad de atender
[90]
efectivamente, requiriendo por ello la asistencia del Estado” .

Las asimetrías de progreso y desarrollo existentes en el mundo, también

se ven replicadas en el acceso a las tecnologías, lo que genera un nuevo tipo
de exclusión: la “exclusión digital”. Si tomamos las estadísticas publicadas
por la Internet World Stats (IWS) en el año 2017, la mayor brecha digital en
el mundo sigue instalada en África, donde solo 27.7% de la población tiene
acceso a Internet, cuando Europa alcanza el 77.4 %, o el mismo
Norteamérica que presenta la más alta penetración de Internet en el mundo
(88.1%). Y aunque Argentina cuente con unos de los porcentajes de
conexión más altos de la región (79,4% de la población), la superación del
“muro digital” y la garantía de suministro universal a los bienes
informativos e Internet, constituye –y más ahora– uno de los desafíos más
importantes de la gestión pública.

En términos de derechos fundamentales, la problemática que nos aqueja

puso en evidencia la necesidad de destacar y consolidar –definitivamente–
el acceso público a Internet, como un verdadero, irrenunciable y universal
derecho humano, y no ya como una mera prestación contractual no esencial
de naturaleza simplemente privatista.

La UNESCO adoptó un concepto de “universalidad de Internet” como un

modelo integrador para el desarrollo de Internet al servicio del interés
público sobre la base de cuatro principios que pueden resumirse en el
siguiente acrónimo mnemotécnico D.A.A.M. Estos principios son: a)
democracia, lo que implica ser libre, y basada en los derechos humanos, b)
apertura, donde resalta la importancia del software de código abierto, de los
datos abiertos y de los recursos educativos abiertos, c) accesibilidad, que se
relaciona con el acceso ubicuo, asequible, sin discriminación, de calidad y a
bajo costo, d) multisectorialidad, mediante la cual se intenta establecer que
Internet sea un espacio público cuya gobernanza debe ser regida bajo los
principios del espacio público y no simplemente como un asunto entre
[91]
privados .

La coyuntura nos obliga a recordar, entonces, la existencia en el Derecho

Comparado y en nuestro país, de un verdadero derecho humano de acceso a
Internet, que es de naturaleza social, y por tal, exige obligaciones positivas
por parte del Estado a favor de los ciudadanos. Este reconocimiento no es
nuevo, ni para el Sistema Internacional de Derechos Humanos, ni para la
Argentina.

Para nombrar solo algún documento, en el año 2011, en la Declaración

conjunta sobre “Libertad de Expresión e Internet”, suscripta por los
principales organismos que componen la Comunidad Internacional (ONU,
OEA, UE, entre otros), se señaló que “los Estados tienen la obligación de
promover el acceso universal a Internet para garantizar el disfrute efectivo
del derecho a la libertad de expresión” y también para asegurar “el respeto
de otros derechos, como el derecho a la educación, la atención de la salud y
el trabajo, el derecho de reunión y asociación, y el derecho a elecciones
libres”. Por su lado, países como Estonia desde 2000, Grecia desde 2001
(lo hizo incluso como un derecho constitucional), España y Finlandia desde
2003, Alemania desde 2004, o Turquía desde 2010, por solo citar los más
relevantes, reconocen el derecho humano a la Red.

En esta misma línea, la legislación argentina se ha hecho eco de ello

garantizando “el derecho humano a las comunicaciones y a las
telecomunicaciones” reconociendo a las TICs como un “factor
preponderante en la independencia tecnológica” (Ley N° 27.078, artículo
2°). Dicha ley considera que las TICs cumplen una función social y sobre
esa base el Estado debe incentivar esa función “procurando la accesibilidad
a las TIC para el pueblo”. Además, y tal como acertadamente recuerda Juan
[92]
Corvalan , el desarrollo de las TICs se enmarca en el denominado
Servicio Universal (Ley N° 27.078, título IV, capítulo I), que encuentra
regulado por el Reglamento General del Servicio Universal (Decreto
[93]
558/2008, modificatorio del 764/2000) .
Stefano Rodotá en su obra El derecho a tener derechos, (pág. 109) señala
que

“el hecho de calificar el acceso a Internet como derecho

fundamental no es más que un reflejo de la función asignada a tal
como derecho como condición necesaria para la efectividad de
otros derechos fundamentales, en especial para el derecho a la
libre construcción de la personalidad y para la libertad de
expresión…el acceso, entendido como fundamental de la persona,
se configura como un trámite necesario entre los derechos y los
bienes”.

Desde la perspectiva de los derechos cívico-políticos, entonces, Internet

es un instrumento imprescindible para facilitar la transparencia de los actos
estatales, recibir información y aumentar la participación activa de los
ciudadanos en la construcción de las sociedades democráticas. Pero,
además, y lo que se torna igualmente importante, Internet permite la
efectivización concreta de otras basales derechos, tales como el derecho de
transitar libremente, ejercer industria lícita, libertad de expresión y
comunicación, a trabajar, a la educación, la vivienda, la salud, y cualquier
otro derecho que se nos ocurra.
El derecho humano de acceso a Internet, en sí mismo, y como
“instrumental” de otros derechos tanto más elementales que aquel, para ser
tal, y gozar de plana efectividad, debe estar rodeado –a su vez– de otras
garantías, sin las cuales aquel se tornaría inútil. Hago referencia al acceso a
dispositivos (como tablets, o computadoras), a programas de alfabetización
digital, entre otros, que nos permitan hablar de la más mínima “inclusión
digital” desde una perspectiva social.
Si nos preguntásemos qué implica hablar mínimamente del concepto de
“inclusión digital” desde la perspectiva social, podemos responder –junto a
[94]
importante doctrina – que aquel alcanza:
 “- poder acceder a los dispositivos a través de los cuales se
produce la conexión a Internet (computadoras, tablets, teléfonos
inteligentes o smartphones).
- poder acceder a Internet para obtener contenidos de toda
índole, comunicarse e interactuar de múltiples formas, realizar
todas las aplicaciones, operativos, transacciones, trámites y vías
de intercambio habilitadas, tanto en el sector privado como en el
público (E- Government).
- estar dotado de un umbral de conocimientos y experiencia que le
permita al usuario poder comprender la importancia de contar
con estas herramientas, aprender el sentido y utilidad de cada uno
de los componentes, y, sobre todo, estar ´alfabetizado digitalmente
´, esto es, encontrarse capacitado en los niveles necesarios para
poder operar y actuar en el nuevo marco de relación informática
que ofrece la sociedad digital. Puede decirse que la inclusión
digital persigue combatir tres dificultades propias de la brecha
digital: acceso, uso y apropiación de las nuevas tecnologías. Se
busca de este modo que los ciudadanos puedan conectarse a
Internet, y, sobre todo, que desarrollen las habilidades, la
motivación y la confianza para usar herramientas digitales con el
fin de mejorar su calidad de vida”.

Así es que, la problemática del derecho de acceso a Internet es una

cuestión de derechos sociales, como se dijo, sin perjuicio de que una forma
u otra naturalmente está vinculado el derecho a la libertad de expresión e
información, típico derecho de naturaleza individual.
Pero igualmente, desde el horizonte que nos brindan los derechos
colectivos, particularmente los intereses individuales homogéneos, la
problemática de los derechos vulnerados en Internet o por la imposibilidad
de su acceso, pueden encontrar debida respuesta a través de las acciones de
clase, pero eso sí, en aspectos que se refieran a la afectación común de
derecho violado, en cuanto el grupo vulnerado comparte una sola causa o
[95]
evento generador del daño (factor común de afectación) .
 De tal manera, que la importancia del reconocimiento del derecho
humano de acceso a Internet, no se funda solamente en ese derecho en sí
mismo, sino que su verdadera importancia radica en que es al mismo
tiempo “un derecho instrumental”, pues posibilita la realización de
elementales libertades y se traduce en un “prerrequisito” imprescindible
para el ejercicio de otros derechos, nos animaríamos a decir, del resto de
derechos fundamentales. En definitiva: hace al “derecho al desarrollo
humano” (artículo 75, inc. 18 y 19 de la Constitución Nacional). Esta
característica, sumado a su condición de ser también un “derecho social”,
obliga al Estado a actuar a través de acciones positivas actuando en
concreto para que el servicio llegue ciertamente a los sectores más
[96]
vulnerables .

En conclusión, como se ha visto, una franja significativa de la ciudadanía

aún carece de acceso o no hace utilización del mismo por factores
múltiples, entre los cuales se cuentan la ausencia de infraestructura material
en ciertas zonas del país, su costo y la falta de desarrollo de procesos
educativos masivos orientados a capacitar en las nuevas habilidades que la
participación activa en la Sociedad del Conocimiento requiere. Uno de los
desafíos más importantes que enfrenta la gestión pública actual es sin dudas
el acceso universal a la sociedad del conocimiento y la incorporación
común de la “tecnología” y la “ciberciencia”, que requieren transmisión,
información y capacitación de conocimientos tecnológicos para consagrar el
“derecho universal a la educación”.

En este sentido,

“debe reconocerse que el objetivo del Servicio Universal es cerrar

la brecha digital, atendiendo a las necesidades de los usuarios
más pobres y de aquellos que residen en las zonas alejadas. Por
ello, deberá implementarse esta herramienta como parte de las
políticas públicas, más que como un instrumento exclusivo de la
legislación en materia de telecomunicaciones. De este modo, la
futura ley concretará el objetivo dispuesto en el artículo 75, inciso
 19 de la Constitución Nacional, cuando dispone proveer al
crecimiento armónico de la Nación promoviendo políticas
diferenciadas que tiendan a equilibrar el desigual desarrollo
relativo de las provincias y regiones. Habría que implementar una
suerte de acciones afirmativas comunicacionales, orientadas a
favorecer a los sectores más postergados, para que la igualdad
deje de ser un concepto formal y se plasme una igualdad
[97]
verdaderamente sustantiva” .

En definitiva, coincidimos en que en nuestro sistema se reconoce

“el derecho humano a Internet como derecho social y de

desarrollo conforme los principios de progresividad y no
regresión y con alcance universal es decir para todos los
habitantes del país. Determina por tanto derechos subjetivos
individuales y colectivos y su contratara las prestadoras de
[98]
servicios TIC y el estado como obligados jurídicos” .

Los Estados deben velar para que todo su territorio goce de conectividad
y potencial acceso a la misma por parte de sus habitantes, porque al final
del camino lo que se procura es la plena inclusión, y dentro de dicha
obligatoriedad, debería comprenderse la de establecer mecanismos reales,
efectivos y concretos para poder efectivizarlo, y más aún, en el supuesto de
que la persona (humana) careciera de recursos económicos para afrontarlo.
Solo así, el derecho tendría plena vigencia.

VII. Hacia un “estado digital de derecho”

Todos estos conceptos de simplificación administrativa, la gobernanza y la
gobernanza “inteligente”, el derecho a la buena administración, el gobierno
abierto y digital, el gobierno electrónico, Internet de las Cosas, la mejora
continua de procesos y la interoperabilidad, la “ciudad digital”, la “ciudad
inteligente” (Smart City), y el derecho humano “a la ciudad” y el “buen
vivir urbano”, los derechos del ciudadano digital en general, y en particular,
los derechos a relacionarse electrónicamente con la Administración y el
derecho de acceso a Internet, entre otros, dan vida y sientan las bases
infraestructurales de lo que puede denominarse como “Estado Digital de
Derecho”.
Si bien no existe una definición uniforme del concepto de “Estado Digital
de Derecho”, traemos aquí las palabras de Lucia Bellocchio y Alfonso
Santiago, quienes afirman que

“éste involucra por un lado una nueva concepción del

funcionamiento del aparato estatal a través de las inmensas
posibilidades de la informática y las tecnologías de las
comunicaciones, y por el otro, a un gran grupo de derechos
digitales que son actualmente también considerados derechos
humanos y que permiten a las personas acceder, usar, crear y
publicar medios digitales, así como acceder y utilizar
computadoras, otros dispositivos electrónicos y redes de
comunicaciones; conectándose ello radicalmente con la
protección y la realización de derechos existentes, tales como el
derecho a la privacidad o la libertad de expresión, en el contexto
de las nuevas tecnologías digitales, especialmente Internet.
Asimismo, implica para los gobiernos el deber de aplicar
tecnologías digitales y herramientas de datos para rediseñar
socialmente la prestación de servicios públicos a gran escala, ya
sean estos servicios de salud o educativos o de cualquier otra
[99]
índole socio-económica” .

En consecuencia, comentan los autores citado, resulta imperativo poner el

foco en el futuro, haciendo hincapié en los desafíos y proyecciones que
emergen para el campo de los derechos humanos a raíz de todas estas
transformaciones:

“Esto, que algunos autores han denominado derechos humanos

de cuarta generación, son la base fundamental para pensar en un
Estado Digital de Derecho y sobre todo en uno de sus elementos
cruciales: la dignidad humana; pues, incluso algunos años atrás,
se ha comenzado a reconocer, entre otras cosas, la necesidad de
que los derechos humanos apuntalen la gobernanza de Internet, y
la de que los derechos que tienen las personas fuera de línea
[100]
también deban protegerse on-line” .
 CAPÍTULO III
Las TICs en las “categorías” del derecho
administrativo

I. Nuevos horizontes del derecho administrativo

Aparecen aquí tres grandes supraprincipios esenciales que vinculan las
TICs con el Derecho Administrativo del siglo XXI: optimizar, simplificar y
maximizar. Sobre estos grandes principios se deben incorporar nuevos
postulados y categorías innovadoras de importancia clave en la era digital y
[101]
de la IA . Entre otros, nos referimos a los principios específicos que
surgen de diversas normas emitidas en los últimos 10 años.

“Algunos de ellos son: accesibilidad digital, seguridad digital,

alfabetización digital, inclusión digital, integridad del servicio,
asequibilidad, consistencia interna, personalización del usuario,
conservación, trazabilidad, interoperabilidad, perdurabilidad,
robustez, escalabilidad, usabilidad, sustentabilidad tecnológica,
[102]
neutralidad en la web y adecuación tecnológica” .

En un ejemplo, con la aparición de la vía administrativa electrónica o

digital es indispensable asegurar los siguientes principios en el tratamiento
de la información y de los datos: integridad, inalterabilidad, perdurabilidad,
conservación y resguardo.
De manera tal entonces que el nuevo escenario de incorporación de las
TICs en el Derecho en general, pero en la Administración pública en
particular, naturalmente también demanda importantes respuestas del
Derecho Administrativo.
La digitalización de la Administración se produce por la utilización de
nuevas tecnologías, desde la óptica de la persona y sus derechos. El desafío
principal, ahora es asegurar que la ciudadanía acceda a todos los servicios
que proporciona los gobiernos a través de las TICs. Ya no se trata de
solamente de asegurar la vigencia de los principios clásicos (legalidad,
transparencia, proporcionalidad, etc.), sino de reconfigurar ciertas nociones
que adquieren otra dinámica a partir de las TICs, como por ejemplo como
acontece con los principios de cooperación, colaboración, coordinación,
[103]
progresividad, igualdad, adaptación .
Según Javier Barnes el Derecho Administrativo debe enfrentarse a la
sociedad de la información, mediante la elaboración de un “Derecho
Administrativo de la Información”, el que debe comprender el conjunto de
normas jurídico– públicas, que tienen por objeto la información, su
tratamiento por parte del Estado, así como la acción y las relaciones de
carácter informativo de las Administraciones entre sí y de éstas con los
ciudadanos (protección de datos y secretos oficiales, uso y utilización de la
información administrativa, responsabilidad, igualdad de acceso y derribo
del muro digital, garantías de derechos fundamentales en el ciberespacio,
[104]
etc.) .
Para el autor citado, la sociedad de información no solo requiere de leyes
de intervención o injerencia sobre los derechos de los particulares, sino,
sobre todo, de leyes que sepan encontrar un equilibrio, ponderando los
complejos intereses sociales e individuales en juego.

“De ahí que, junto al principio de proporcionalidad o prohibición

de exceso, debe introducirse el principio de ´prohibición de
defecto´, esto es, la obligación de satisfacer en forma suficiente
las libertades de información y los valores que ellas encierran o,
dicho de otro modo, la prohibición de que las leyes se queden
cortas a la hora de impulsar las posibilidades que para el
desarrollo humano y la dignidad de la persona presenta la
sociedad de la información. En términos más amplios: el Derecho
Administrativo de la Sociedad de la Información no se mueve
tanto en el plano de la intervención o injerencia sobre la esfera de
las libertades individuales, como en el de la prestación y creación
[105]
del marco adecuado” .
 En el caso de las Administraciones públicas, como se verá, son
numerosos los proyectos que se han basado en el tratamiento intensivo y
masivo de los datos durante los últimos años, a través de la IA. Ya no se
trata simplemente de utilizar ordenadores para facilitar la eficacia y
eficiencia de la actividad administrativa, sino, por el contrario, de la
posibilidad de implantar sistemas automatizados con una gran capacidad de
procesamiento que puede llegar a adoptar decisiones que afectan a sujetos
concretos, lo que obliga a redefinir las garantías individuales. En definitiva,
se trata de apuntalar el enorme potencial de la tecnología como refuerzo
para la efectividad de los principios del Estado democrático de derecho, sin
que por ello se vea resentida la posición jurídica de los ciudadanos, desafío
que resulta especialmente de importancia en el Derecho Administrativo.
Si bien la Administración se ha servido desde siempre de las
posibilidades y los medios técnicos de su tiempo, los logros de las
modernas tecnologías de la información y las comunicaciones abren
grandes perspectivas, que alcanzan tanto a la organización como a la
actividad –sea unilateral o contractual– de las más diversas
[106]
Administraciones .

II. El impacto de las nuevas tecnologías sobre el

derecho administrativo
a) Liminar
La Administración Pública es uno de los campos más fértiles para la
aplicación de la informática. La política actual, tal como se ha visto,
impulsa la extensión de la informática como herramienta de planificación y
toma de decisiones, y la difusión principalmente de sistemas distribuidos
[107]
basados fundamentalmente en computadoras y redes .
Y esto puede verse principalmente en materia de organización
administrativa a través por ejemplo de la aplicación de formas más
participativas de vinculación con el ciudadano, en el poder de policía
mediante la automatización de los controles, o en la misma responsabilidad
del Estado, en este caso, de tipo objetivo vinculado a los daños producidos
por la operatoria de datos alojados en registros públicos, para solo nombrar
algunos.
En el Derecho de las Nuevas Tecnologías, aplicado al ámbito de la
Administración pública, se impone el principio de “la equivalencia
funcional” como vía de alcanzar la equiparación jurídica entre distintas
[108]
figuras . Así se identifica la función de la instrumentación en el mundo
físico y sus requisitos a efectos de reproducirla en el dispositivo electrónico
y concederle los mismos efectos jurídicos. Cada “figura” jurídica clásica del
Derecho Administrativo, tiene su “contra figura” tecnológica, claro está,
ahora adaptada a las nuevas circunstancias. Inclusive, ya algunas no tienen
razón de ser, porque deben redefinirse (o buscar su “resiliencia”), para no
desaparecer del mundo jurídico. Por ejemplo, debe considerarse que la
descentralización de base territorial, debe ser revisada, para no caer en
absoluto abandono, toda vez que el “traslado físico” debe ser suplantando
por el “traslado digital” (salvo para el suministro de prestaciones de bienes
y servicios), en una suerte de “desterritorialización” material de la
Administración pública.
Veamos entonces de qué manera se conecta en Derecho Administrativo, y
sus categorías jurídicas “clásicas”, con las nuevas tecnologías.
b) El acto administrativo electrónico
El tratamiento electrónico de datos por parte de la Administración pública
puede incidir sobre la materialización misma de la decisión: el acto
administrativo electrónico en general, y una de sus categorías, el acto
administrativo automático. Veamos.
Comenta Delpiazzo que la expresión acto administrativo electrónico
designa tanto al formado por el computador como al formado por medio del
computador. En el primer caso, el computador no se limita a materializar
una voluntad externa, sino que determina el contenido de esa voluntad,
decidiendo en el caso concreto. En el segundo caso, en cambio, el
computador simplemente manifiesta una voluntad expresada. Y aclara, en el
primer supuesto, “se estará ante el acto administrativo automático, como
especie de acto administrativo electrónico, en el cual no interviene una
persona física en cada caso singular sino que el sistema informático
[109]
produce la decisión” .
Desde la misma manera, explica Lacava, resulta prioritario distinguir
entre acto administrativo de forma electrónica y acto administrativo de
elaboración electrónica. En el primer caso, nos referimos al acto mediante
soporte informático, en el sentido de que éste último es electrónico debido a
que se encuentra expresado sobre material electrónico. Es la forma la que lo
denomina y no el contenido, que continúa siendo determinado por el
funcionario. Por el contrario, en el segundo supuesto, existe una total
automaticidad del acto. Es la misma computadora, mediante un programa
informático, la que determina y emite el acto administrativo. En este último
caso, desarrolla el autor citado,

“la actividad humana se limita sólo a la realización de un

software que permitirá al ordenador, una vez provisto de todas las
informaciones necesarias, emitir el acto respectivo. A partir de
esa programación previa, es la computadora quien evaluará las
condiciones de admisibilidad, los requisitos de legitimación y los
presupuestos que son relevantes para la emanación de la
[110]
decisión” .

Finalmente, en este punto, aunque sin que pudiera vincularse

específicamente con el acto administrativo electrónico propiamente dicho,
sino más bien al apoyo de la tecnología para la expresión de la voluntad
estatal, cabe considerar el Capitulo XI “Firma Digital. Gestión Documental
Electrónica” del “megaDNU” 27/2018, en cuanto en su artículo 128 (que
fuera ratificado por el artículo 7° de la Ley N° 27.446) establece que

“los documentos oficiales electrónicos firmados digitalmente,

expedientes electrónicos, comunicaciones oficiales, notificaciones
electrónicas y domicilio especial constituido electrónico de la
plataforma de trámites a distancia y de los sistemas de gestión
documental electrónica que utilizan el Sector Público Nacional,
las provincias, el Gobierno de la CIUDAD AUTÓNOMA DE
 BUENOS AIRES, municipios, Poderes Judiciales, entes públicos
no estatales, sociedades del Estado, entes tripartitos, entes
binacionales, BANCO CENTRAL DE LA REPÚBLICA
ARGENTINA, en procedimientos administrativos y procesos
judiciales, tienen para el Sector Público Nacional idéntica
eficacia y valor probatorio que sus equivalentes en soporte papel
o cualquier otro soporte que se utilice a la fecha de entrada en
vigencia de la presente medida, debido a su interoperabilidad que
produce su reconocimiento automático en los sistemas de gestión
documental electrónica, por lo que no se requerirá su
[111]
legalización” .

Dejaremos para después, en el marco de la utilización de la IA en la

Administración, la problemática de la automatización administrativa.
c) Las notificaciones administrativas electrónicas
El artículo 11° del Decreto 891/2017 establece que “Los organismos del
Sector Público Nacional deberán promover el intercambio de buenas
prácticas comunicacionales intra y extra organismos. La totalidad de las
medidas dispuestas deberán comunicarse de manera clara y eficiente”.
La problemática de las comunicaciones eficientes, sin dudas no lleva en
particular al tema de las notificaciones electrónicas, que parecería que –
aunque sin decirlo– es el verdadero motivo de ese artículo. En este sentido,
el Decreto 894/2017 –que más adelante comentaremos– agrega el inc. h) al
artículo 41 del Decreto 1759/72, estableciendo que las notificaciones
también podrán hacerse

“Por medio de la plataforma electrónica de trámites a distancia

(TAD), que se realizarán en la cuenta de usuario que es la sede
electrónica en la cual el particular ha constituido su domicilio
especial electrónico. La notificación oficial se dará como
perfeccionada cuando el contenido de la misma esté disponible en
la cuenta de usuario de destino. A dichos efectos, se considerará
al usuario notificado el primer día hábil siguiente al de la fecha
 de ingreso de la notificación a su cuenta, momento en el que
comienzan a correr los plazos”.

La notificación por medios electrónicos en el procedimiento

administrativo se plantea como un elemento vinculado a la eficiencia y
eficacia del servicio estatal, reduciendo los tiempos del procedimiento, y en
consecuencia, asegurando en mayor medida la defensa de los particulares
(artículo 18 de la Constitución Nacional y todos los Tratados de Derechos
Humanos que se refieren al tema), procurando una paulatina disminución
del soporte papel en los expedientes conforme la progresiva aspiración de
“despapelización” reconocida con carácter general por el artículo 48 de la
Ley N° 25.506, y en la que –por otra parte– se encuentra interesada la
protección del medio ambiente tal como surge del artículo 41 de la
[112]
Constitución Nacional .
[113]
Destaca la doctrina que son utilizadas, usualmente, dos formas –
independientes o conjuntas– para notificar a través de los nuevos medios: el
ingreso a la sede electrónica y el correo electrónico. Respecto la primera,
generalmente se establecen algunos requisitos como suministrar usuario y
clave de acceso, poder acreditar fecha y hora de acceso en que se produce la
recepción efectiva. Y en cuanto al correo, éste debe ser emitido por la
entidad autorizada con competencia para ello, debiéndose registrar la
[114]
efectiva expedición del mismo . Según se puede advertir de la
normativa transcripta, el primero parece ser el sistema elegido.
Sea cual fuera el sistema, en materia comunicaciones en general, y
notificaciones electrónicas en particular, debe garantizarse al administrado
plena seguridad sobre los efectos de las mismas, extendiéndosele constancia
sobre la correcta diligencia de la misma (emisión, recepción, fecha,
contenido, etc.), y –de ser necesario– debe coexistir este sistema con los
medios tradicionales, como un reaseguro a favor del administrado.
Así es que se ha entendido que para viabilizar jurídicamente las
notificaciones electrónicas, se impone el establecimiento de las garantías
necesarias que aseguren que para relaciones entre la Administración y los
administrados el cumplimiento de los siguientes requisitos básicos: a)
entrega y almacenamiento estable y seguro con servicios fiables, rápidos y
sencillos; b) protección de la confiabilidad e integridad de la información
contenida en el mensaje; c) identificación y autenticación de las partes
intervinientes; d) fechado indudable de la elaboración, trasmisión y
recepción del documento electrónico establecido; e) usabilidad y
disponibilidad de formatos compatibles e interoperables; y f) seguridad de
[115]
las redes y de la infraestructura necesaria .
Por lo demás, de la lectura del inc. h del artículo 41 del RLNPA, se extrae
que son el administrado o su letrado, los que tienen la obligación del
consultar en la “sede electrónica” si efectivamente se encuentra disponible
en la cuenta del usuario de destino alguna notificación, lo que impone la
pesada imposición diaria del administrado en la consulta continua de la
misma, lo que de ser así, choca frontalmente con los principios de
“simplificación”, reducción de cargas y trabas al administrado, etc. que
intenta instalar los decretos en estudio.
Explica Thomas que este “salto a la modernidad” para los ciudadanos los
coloca frente a un problema. Aquellos, sin perjuicio del grado de
conocimiento y acceso a sistemas informáticos que tengan, deberán
establecer domicilios que los deben tener presente, controlar regularmente y
[116]
entender su funcionamiento regular .
Véase la redacción de los artículos 6 a 8 del Decreto 1063/2016, que
regula estas cuestiones:

“Artículo 6° — Domicilio Especial Electrónico. Toda persona

humana que comparezca ante autoridad administrativa mediante
la Plataforma de “Trámites a Distancia” (TAD), por derecho
propio o en representación de terceros, deberá constituir un
domicilio especial electrónico en el cual serán válidas las
comunicaciones y notificaciones.
Artículo 7° — Constitución de Domicilio Especial Electrónico. La
cuenta de usuario de la Plataforma de “Trámites a Distancia”
(TAD) será considerada el Domicilio Especial Electrónico
constituido para aquellos trámites que se gestionen utilizando
dicha plataforma.
 Artículo 8° — Notificaciones electrónicas. Todas las
notificaciones que deban cursarse en el marco de la Plataforma
de “Trámites a Distancia” (TAD) se realizarán en la cuenta de
usuario que es el Domicilio Especial Electrónico constituido por
el administrado”.

Para el autor citado,

“sin dudas esto atenta contra los derechos de los sectores

tecnológicamente vulnerables. Por cuestiones etarias, las
generaciones nacidas en el siglo XX, que tienen en este momento
un fuerte impacto en las generaciones productivas, así como las
comunidades vulnerables, no se encuentran naturalmente
vinculadas a los medios electrónicos, por lo que la combinación
de los artículos 6, 7 y 8 del decreto 1063/2016, es decir, no
´revisar/controlar´ el correo puede implicar consecuencias
definitivas para los derechos de los ciudadanos. No se establecen
mecanismos de apoyo, alertas, etc., que permitan recordarle a una
persona que existe un sistema de notificación que puede no tener
presente, donde pueda recibir notificaciones de suma
[117]
urgencia” .

d) Procedimiento administrativo y nuevas tecnologías

Guillermo Comadira ha esquematizado tres roles distintos por los cuales el
Estado en general, y agregamos nosotros, la Administración en particular,
[118]
se relaciona con las nuevas tecnologías . Primero, como usuario de
ellas, aplicándolas en la gestión con el fin de facilitar la participación y la
relación con el ciudadano y ganar en transparencia, eficiencia y eficacia.
Segundo, se le atribuye fomentar su utilización, como vía de acceso a la
llamada sociedad de la información y el conocimiento, de desarrollo
económico e inclusión social (vgr. leyes de fomento de software, de
innovación tecnológica, etc.). Y tercero, finamente el Poder Legislativo en
el ejercicio del poder de policía establece limitaciones en orden a tutelar
derechos potencialmente en pugna con la utilización de las nuevas
[119]
tecnologías .
Parecería ser que el Decreto 894/2017 se ocupa principalmente del primer
rol, es decir la aplicación de tecnologías a la gestión administrativa
procurando mejorarla, no obstante tener directa vinculación con las otras
dos funciones.
Al igual que el Decreto 891/2017, su par 894/2017 introduce importantes
cambios en este caso al Decreto 1759/72 que buscan posicionar a la persona
humana en el centro de la Administración pública, y a los servicios a los
administrados bajo los principios de transparencia, eficiencia, eficacia
sencillez y calidad. Y para ello, es transcendente simplificar los trámites y
[120]
formalidades, evitar el dispendio de tiempo y costos .
El Poder Ejecutivo Nacional, motivó la norma en

“…Que la defensa de los derechos y garantías de los particulares

contemplados en la citada Ley N° 19.549 está directamente
relacionada con una administración ágil, que facilite el acceso a
las actuaciones administrativas.... ya que el ciudadano no está al
servicio de la administración, sino por el contrario, es la
administración la que está al servicio del ciudadano…. Que en
ese marco, se impulsan distintas medidas tendientes a facilitar el
acceso del administrado a los organismos que integran la
Administración Pública Nacional, agilizando sus trámites
administrativos, incrementando la transparencia y accesibilidad,
mediante el uso de herramientas tecnológicas que posibiliten un
acceso remoto y el ejercicio de un seguimiento efectivo sobre la
actividad administrativa… Que es premisa de este gobierno poner
en primer lugar al ciudadano, y para ello se debe evitar trasladar
a los particulares el costo de gestionar la documentación si la
Administración cuenta con los datos, la información y los
documentos oportunamente presentados por los ciudadanos, o
producida directamente por un organismo público…”.
 Las reformas que se efectúan al Decreto 1759/72 a través del Decreto N°
[121]
894/2017, puede ser clasificadas en tres grupos : a) las atinentes a la
simplificación documental y reducción del cargas al administrado; b) las
concernientes a la incorporación de la figura del Jefe de Gabinete de
Ministros en el procedimiento administrativo; c) las derivadas de la
aplicación de las TICs al procedimiento administrativo.
Respecto lo primero, se alivian cargas para presentar informaciones,
datos, documentos o certificados (artículo 107 y 108), y en concordancia
con el artículo 7° del Decreto 897/2017, y se establece todo lo concerniente
a “declaraciones juradas” (artículo 109 y artículo 110), lo que parece
plenamente justificado conforme a derecho y los nuevos “standares” antes
expuestos. No obstante, no coincidimos en la eliminación de requisitos del
mandato para los supuestos de percepción de sumas de dinero (artículo 33)
lo que podría generar estafas y otros riesgos en perjuicio del ciudadano.
En cuanto a lo segundo, como la última modificación al Decreto 1759/72
data del año 1991 (Decreto 1883), evidentemente en la norma debía
incorporarse la figura del Jefe de Gabinete de Ministros al procedimiento
administrativo, haciendo mención a dicha autoridad en materia de
competencia, recurso de reconsideración, jerárquico y de alzada (artículos
[122]
2, 90, 92, 96 y 100) .
Por lo demás, pensamos que el decreto mencionado pudo haber sido una
excelente oportunidad para introducir modificaciones, pero no se hizo. Tal
es el supuesto de la eliminación, o en su caso clara regulación, de la
distinción entre derechos subjetivos e interés legítimo, la reglamentación de
la protección de los derechos de incidencia colectiva en sede administrativa,
la representación de los menores de edad en sede administrativa debiéndose
tener presente su capacidad progresiva (artículo 26, Código Civil y
Comercial de la Nación), entre otros aspectos.
Y finalmente, respecto la aplicación de las TICs al procedimiento
administrativo, ya prontamente el artículo 1° señala que los “expedientes
tramitaran por medios electrónicos”. ¿Únicamente? Parecería que esa es la
única alternativa, no solo por la forma redacción de ese dispositivo, sino por
lo dispuesto por el artículo 7° que define lo que se entiende por expediente,
su formato (que deberá ser electrónico) y como debería está conformado.
No obstante ello, los artículos 8, 23, 32 (entre otros) admiten
excepcionalmente la posibilidad de expedientes que tramiten en soporte
papel.
Este punto nos obliga a detenernos en la eventualidad que una
implementación abrupta de los entornos digitales –sin la posibilidad alguna
de operar con otro soporte– representaría un verdadero contrasentido con el
acceso a la tutela administrativa efectiva, máxime en aquellos sectores de la
sociedad que aún carecen de los medios o de la educación necesaria para
[123]
desenvolverse con el expediente electrónico .
Por tal circunstancia, se ha dicho con acertadísimo criterio –con el que
coincidimos– que el reglamento de procedimientos administrativos actual

“estipula la posibilidad de seguir efectuando presentaciones bajo

soporte papel (artículos 7, 15, 27, 30 y concs.), sin perjuicio del
deber de la Administración de efectuar la digitalización
correspondiente. La contemplación del supuesto analizado
constituye una clara manifestación del principio del informalismo
a favor del administrado previsto en el artículo 2°, inciso c., del
derecho-Ley N° 19.549. Probablemente, en base a esa relación
ciudadano-Estado mediante soportes digitales, la jurisprudencia
administrativa y la jurisdiccional centrarán sus esfuerzos en
delinear sus contornos, sobre la base del principio mencionado.
Sobre éste punto, nos permitimos añadir que en ningún supuesto
los soportes digitales o electrónicos pueden erigirse como un
valladar para el ejercicio de derechos constitucionales o
convencionales. Por tales circunstancias, más que nunca, en caso
de duda razonable deberá estarse a favor del administrado.
Asimismo, hasta tanto se consolide la enseñanza y la
infraestructura adecuada para garantizar la eficiencia de las
prestaciones electrónicas, consideramos que las disposiciones o
resoluciones que imponen la obligatoriedad exclusiva de las
prestaciones a través de –por ejemplo– el sistema TAD, resultan
[124]
de dudosa razonabilidad o constitucionalidad” .
 Ha llamado poderosamente la atención la falta de estudio de los grupos
vulnerables tecnológica y culturalmente en este tipo de regulaciones. En
este punto, para nosotros, la exclusión de grupos vulnerables del
relacionamiento digital con la Administración pública, provoca una
indefensión de tal magnitud, que coloca al hombre en un status tal
lamentable, que puede ser hasta catalogados como una suerte de “no-
ciudadanos”.
Para Gustavo Thomas unos de los principios que inspira el “gobierno
electrónico” es el de la igualdad: “con objeto de que en ningún caso el uso
de medios electrónicos pueda implicar la existencia de restricciones o
discriminaciones para los ciudadanos que se relacionen con la
Administración Pública por medios no electrónicos, tanto respecto el acceso
a la prestación de servicios públicos como respecto a cualquier actuación o
procedimiento administrativo sin perjuicio de las medidas dirigidas a
incentivar la utilización de medios electrónicos. Si el Estado argentino no se
ha preocupado en entender la existencia de grupos desconocidos o
vulnerables tecnológicos/ culturales, claramente se atenta contra este
principio de rango constitucional. Se rompe la igualdad si el Estado solo
responde a los ciudadanos con computadoras y acceso permanente de wifi,
mientras que quienes no los tengan correr el riesgo de ser “desconocidos
[125]
por el Estado” .
En la misma línea, Alfonso Buteler explica que uno de los principios
fundamentales para considerar ante cualquier modalidad de innovación
administrativa, es el de la igualdad:

“el uso de las tecnologías no puede traer aparejado un trato

discriminatorio. La utilización de medios electrónicos no debe
implicar la existencia de restricciones o discriminaciones para los
ciudadanos que se relacionen con la administración por medios
no electrónicos, tanto respecto al acceso a la prestación de
servicios públicos como con relación a cualquier actuación o
procedimiento administrativo. Además, para lograr un trato
equitativo, el Estado debe llevar adelante medidas positivas
 dirigidas a incentivar la utilización de los medios electrónicos y
[126]
de ayuda pública para permitir el acceso a la tecnología” .

Las reglas de objetividad, eficacia, audiencia al interesado, entre otras,

adecuadamente abiertas a la ciudadanía y a la eAdministración componen el
fundamento sobre el cual pivota la regulación de la nueva relación jurídico–
electrónica. En particular el mandado de una administración servicial de los
intereses generales que se traduce en un servicio a los ciudadanos.
Por tal razón, se deberían configurar –al menos– determinados derechos
indispensables ante el uso de las tecnologías en el procedimiento
[127]
administrativo, los que –siguiendo a De Vicente Domingo – puede
sintetizarse en: 1) derecho a una edición de los programas asequibles para
un usuario medio, 2) derecho a una formación online a través de tutoriales u
otros medios adecuados, 3) derecho a una gua simultánea al uso de la
aplicación de fácil consulta, 4) derecho a disponer de una vía en el
programa ante una incidencia, 5) derecho a un aplazamiento del trámite
cuando se detecten errores, 6) derecho a una información veraz e inmediata
si los pasos han surtido su efecto positivo, o no lo han hecho, 7) derecho a
la posibilidad subsidiaria, en caso de ser necesario, de ejecutar un
determinado tramite en papel, 8) derecho a obtener prueba fidedigna de los
pasos que se han dado, 9) derecho a la subsanación de cualquier error u
omisión material o formal, unido al acompañamiento informático a los
efectos de una rápida ayuda, 10) derecho a no ser penalizado, cuando se han
puesto todos los medios razonables para evitarlo, 11), derecho a
reclamaciones y recursos practicables desde la misma aplicación, y 12)
derecho a la responsabilidad patrimonial por los perjuicios causados.
Volveremos con esta visión crítica, poniendo eje en materia de derechos
humanos, en el Capítulo VI de este trabajo.
Siguiendo con la regulación normativa, aclara la doctrina que

“los expedientes electrónicos son utilizados para caratulación,

vinculación de documentos, pases y consultas de expedientes
electrónicos. Cabe destacar que todos los documentos que forman
parte de un expediente electrónico tendrán que ser previamente
 generados en forma electrónica a través de los módulos
Comunicaciones Oficiales, Generador de Documentos Oficiales,
Expediente Electrónico, y asimismo, si aún existieran en formato
papel u otro formato, deberán ser digitalizados a través del
[128]
Generador de Documentos Electrónicos Oficiales” .

Después, el decreto hace referencia al expediente electrónico cuando:

regula el impulso de oficio por medios electrónicos (artículo 4), expedientes
reservados y documentos secretos (artículos 11 y 12), vistas (artículo 38), la
prueba (artículo 46), la reconstrucción de expedientes (artículo 105), etc. Y
a la denominada Plataforma de Trámites a Distancia (TAD): para la firma
de las actuaciones (artículo 17), constitución de domicilio especial (artículo
19), presentación de escritos (artículo 25) y documentación acompañada
(artículo 27), entrega de constancias sobre iniciación de actuaciones y
presentación de escritos (artículo 30), actuación por poder y representante
legal (artículo 31), acreditación de personería (artículo 32), etc.
Buscando su implementación, el Estado Nacional estableció en el
Decreto 733/2018 que la totalidad de los documentos, comunicaciones,
expedientes, actuaciones, legajos, notificaciones, actos administrativos y
procedimientos en general, deberán instrumentarse en el sistema de Gestión
Documental Electrónica (GDE), permitiendo su acceso y tramitación digital
completa, remota, simple, automática e instantánea, excepto cuando no
fuere técnicamente posible, a partir de precisas fecha que impone el citado
acto administrativo (artículo 1°). También se exige que ningún organismo
deberá exigir la presentación de documentación en soporte papel. En caso
de que el administrado voluntariamente presente un documento en soporte
papel, el organismo debe digitalizarlo e incorporarlo al sistema de Gestión
Documental Electrónica (GDE) en forma inmediata (artículo 3°). Y como
una reducción más de cargas al ciudadano, se ordena que la Administración
sólo deberá solicitar una vez la documentación al administrado. Los
organismos deben intercambiar la información entre sí, mediante el Módulo
“INTEROPER.AR” del sistema de Gestión Documental Electrónica (GDE),
o el intercambio de comunicaciones oficiales en dicho sistema o los
servicios de interoperabilidad que se implementen, de acuerdo a lo
establecido en el Decreto N° 1273/2016 y en la Ley N° 25.326. el silencio
del organismo que dispone de la información, no obstará a la continuación
 [129]
del trámite (artículo 4°) . Volveremos con este decreto en el siguiente
párrafo.
En definitiva, conforme lo manifestado, la Administración sigue siendo
una organización pública privilegiada que tiene como finalidad la
satisfacción del interés general, sometida de una manera u otra a principios
y reglas que al rigen.

“Lo que varía son sus formas: tanto la organización

administrativa como el ejercicio de la función administrativa
quedan marcadas por el empleo de las nuevas tecnologías, con
todo lo que ello significa. De la misma manera, el procedimiento
administrativo electrónico no es diferente del procedimiento
administrativo común, sino el resultado de la aplicación al mismo
de las TIC, con las nuevas oportunidades para el mejor
cumplimiento del principio de eficacia que ello trae
[130]
consigo” .

e) Organización administrativa y “gobierno electrónico”

Como se sabe, la incorporación del artículo 42 de la Constitución Nacional
dio rango normativo de primer nivel a un nuevo paradigma de gestión
estatal, integrado por los principios de calidad y eficiencia de los servicios
públicos, principios que están dotados de un “efecto expansivo” a todas las
funciones y actividades del Estado, en la medida que se lo asocie con los
valores constitucionales definidos en el Preámbulo junto con los objetivos
políticos definidos en las cláusulas de “progreso” y “desarrollo humano”
(inc. 18 y 19 del artículo 75).
Tal efecto expansivo sobre la Administración pública, comenta Ismael
MATA, “provoca que de una administración burocrática –centrada sobre sí
misma– deba pasarse a una “administración servicial”, o sea, puesta al
servicio concreto y efectivo de la gente, ingresando a un nuevo modelo que
[131]
suelo calificarse de “posburocrático” .
 Antes, hemos citado el concepto de Gobierno Electrónico” y de
“Administración Electrónica”, en los cuales se pretende el uso de las TIC en
los órganos de la Administración para mejorar la información y los
servicios ofrecidos a los ciudadanos, orientar la eficacia y eficiencia de la
gestión pública e incrementar sustantivamente la transparencia del sector
[132]
público y la participación de los ciudadanos .
En este sentido, en los últimos tiempos se han creado organismos
especializados para la aplicación de las TICs al ámbito de la Administración
pública, tales como la Subsecretaria de Tecnologías y Ciberseguridad, solo
para nombrar alguna.
Además, y lo que es más importante aún, debe ponerse de resalto que la
organización administrativa y sus categorías clásicas –como la jerarquía,
avocación, concentración, descentralización, descentralización, etc.– se
concibieron bajo una concepción de espacio y tiempo radicalmente
diferente.

“Actualmente –señala Juan Corvalán– asistimos a un auténtico

universo de inmediatos, ya que el tiempo secuencial o cronológico
comienza a diluirse. Algo similar ocurre con el espacio, puesto
que en muchos casos es irrelevante un lugar físico concreto o
hablar de presencia y ausencia en los mismos términos que en
otras épocas. Si se consagra un sistema digital para vincular a la
Administración con los ciudadanos, como regla no es plausible
hablar de una desconcentración física territorial o espacial en
donde se producen desplazamientos de infraestructura y recursos
[133]
humanos” .

En palabras simples, la “organización digital”, no pasa por “abrir

oficinas”, sino por expandir o ajustar diversos algoritmos. En síntesis,
“debemos alejarnos de una lógica que concibe a las nuevas TIC como si se
tratara de sustituir una máquina de escribir por un ordenador básico en las
[134]
oficinas estatales” .
 Para discernir el alcance de la problemática, el lector debe tener presente
que la era de la Posmodernidad se caracteriza por la

“proliferación de los llamados ´no–lugares´, y precisamente

Internet es un ´no–lugar global´, fracturado en múltiples
subterritorios…Internet elimina el tiempo y la distancia y, por
ende, en el mundo virtual, ambos extremos casi perdieron
importancia. En el ciberespacio, la nueva coordenada es la
[135]
atemporalidad” .

f) Tecnologías en el empleo público

1.– El correo electrónico en el empleo público
Todos hemos visto la necesidad de incorporar el sistema de Internet, tanto
en la gestión del sector privado pero también y con mayor urgencia en el
sector público, con la finalidad de incorporar las nuevas tecnologías que
dominan las relaciones y comunicaciones en una sociedad moderna e
integrada al mundo, realidad que se presenta como un desafío de los nuevos
[136]
tiempos, como una verdadera revolución tecnológica .
El uso de equipos informáticos por parte de los trabajadores del sector
público muestra una dispar situación a lo largo del país. Sin embargo, y en
contraposición a lo que normalmente puede pensarse, en promedio el sector
público muestra mayor proporción de trabajadores con uso de equipos
informatizados que el sector privado. Así, para algunas regiones del país, el
sector público se posiciona como uno de los principales demandantes de
mano de obra calificada para desarrollar actividades como uso de
[137]
TICs .
En general, como se sabe, los agentes y funcionarios públicos se valen de
Internet en su horario de laboral para mejorar su conocimiento o para
acceder a la información científica, técnica o de otra índole que tenga
relevancia para el organismo. Pero la utilización de la “red de redes” en el
medio laboral, generalmente ha movilizado la utilización responsable de la
[138]
misma, la que no siempre se da . Por ello, estamos por la
reglamentación de la utilización de Internet en el ámbito del empleo
público, no solo para evitar peligros por su uso ocioso, sino también por los
problemas legales que podría generar para el propio Estado ante, por
ejemplo, acceso a contenidos pornográficos, difusión de información
sensible, etc.
En particular, la problemática del uso indebido del e-mail del empleador
por parte del trabajador y las probables sanciones para éste último, según lo
antes visto, es igualmente reproducible en el ámbito del empleo público,
pero con el agravamiento que ello podría aparejar desde la perspectiva de la
propia responsabilidad del Estado, por ejemplo, en el caso de que
empleados compartieran en forma ilegal archivos, o replicaran fotos con
contenido pornográfico.
[139]
Así, en el orden nacional, puede citarse la Res. 464/2009 del
Ministerio de Economía y Finanzas Públicas, la que en el marco de una
política de seguridad, regula para su ámbito una serie de aspectos
relacionados con Internet en general y el uso correo electrónico por parte de
funcionaros y empleados, en particular. Allí se encuentra una extensísima
reglamentación respecto las posibilidades de monitoreo del correo laboral y
del uso de equipamiento informático, responsabilidad del usuario, entre
otros aspectos.
O en el ámbito de la Provincia de Buenos Aires, donde el Decreto N°
[140]
2442/05 establece un “Régimen sobre el Uso Responsable de
Elementos Informáticos” donde se especifican las causales y límites al
[141]
monitoreo del correo proporcionado por el órgano al trabajador . Y en
cuanto a este régimen, dos aspectos fundamentales a considerar. Primero,
como un clásico en la materia, se establece que la titularidad del correo
electrónico y la cuenta de e–mail es del organismo que la otorgó,
independientemente del nombre y la clave de acceso (artículo 9). Segundo,
señala que cualquier comunicación enviada y/o recibida en forma
electrónica podría ser admisible como medio probatorio en cualquier
procedimiento administrativo y/o judicial (artículo 14).

Además, el Decreto diferencia entre uso permitido (artículo 5), uso

aceptable (artículo 6), usos prohibidos (artículo 6) y uso indebido de los
sistemas (artículo 7).

Por uso permitido se entiende la utilización de las herramientas

informáticas para el desarrollo y mejor cumplimiento de las tareas propias
de la función. La utilización de los diferentes sistemas de información y
elementos informáticos es de uso exclusivo para asuntos gubernamentales u
oficial. Los sistemas de información y equipos pueden ser usados siempre
y cuando su utilización esté de acuerdo con las políticas oficiales y no
interfiera con las operaciones y gestiones de la Provincia, o con la tarea de
los demás usuarios. En el desarrollo de sus tareas, los usuarios deberán
utilizar las herramientas informáticas para mejorar la eficacia y eficiencia
administrativa. Su utilización no podrá constituirse en obstáculo para el
cumplimiento de las tareas encomendadas.

Con respecto a lo segundo, se acepta que los usuarios aprovechen en

forma limitada los elementos informáticos para un uso personal que derive
en su mejor capacitación, jerarquización y/o especialización en sus
conocimientos, prácticas y habilidades o para aprovechar los beneficios de
la Sociedad de la Información y el Conocimiento. El uso aceptable no podrá
interferir con las actividades o funciones que el usuario cumple, ni con la
misión y gestión oficial del organismo o dependencia.

En tercer lugar, el Decreto señala que encuentra expresamente prohibido

el uso de la Red o de cualquier recurso informático que infrinja normas
nacionales o provinciales, causen daño o perjudiquen al Estado Provincial o
a tercero. La sustracción de equipos o periféricos informáticos, y/o
cualquier otro medio de soporte de información (discos compactos,
disquetes, cintas, etc.) constituye un delito de acción pública.

Y finalmente, respecto al “uso indebido de los sistemas”, se establece que

bajo ninguna circunstancia el uso de los recursos informáticos por parte de
los usuarios deberá influir de manera negativa en el desempeño, la imagen,
en las tareas o generar responsabilidades para la Provincia. No se permiten
los usos de Internet u otras herramientas informáticas, ya sea utilizando
equipamiento del Organismo, en ejercicio o en ocasión de las funciones que
se revistan dentro del mismo, durante el horario laboral o fuera de él, con
fines no autorizados.

2. Responsabilidad disciplinaria por opiniones vertidas en las redes

Cabe preguntarse, a continuación, si el marco jurídico fuertemente tuitivo
de la libertad de expresión que en este trabajo se indicó, se aplica sin más al
caso de la expresión de los individuos que ostentan el carácter de
funcionarios estatales con responsabilidad administrativa. O si, por el
contrario, en el caso de los agentes estatales esto se encuentra morigerado,
y, por lo tanto, aquellos encuentran limitaciones estatutarias bajo estándares
más estrictos, que los aplicables a un ciudadano común.
En nuestro país, la Corte Suprema ha estado tradicionalmente enfocada a
resolver los casos de responsabilidad por la difusión de informaciones
falsas, expresiones lesivas del honor, casos de censura previa o publicidad
oficial, pero no ha esbozado una doctrina pormenorizada que pueda
extrapolarse directamente a los casos en los que está en juego la libertad de
expresión de los agentes del Estado.
En el Derecho Comparado, la Corte Suprema de los EE.UU. definió que
cuando lo que está en juego es la libertad de expresión de un agente estatal,
la clave para desentrañar la constitucionalidad de una eventual sanción
disciplinara administrativa está en poder resolver el caso “balanceando el
interés del empleado público, como ciudadano, al comentar materias de
interés público y el interés del Estado, como empleador, en promover la
[142]
eficiencia del servicio público que presta a través de sus empleados” .
A partir de esta premisa, que permite a los jueces ponderar de forma
especial los intereses en juego, se ha resuelto que la

“Primera Enmienda no requiere que el Estado deba tolerar la

conducta de un funcionario público que, razonablemente, pueda
esperarse que resulte disruptiva para una dependencia pública,
pueda socavar su autoridad o destruir las relaciones laborales
[143]
dentro de esa dependencia” .
 Explica Oyhanarte que, en el centro de esta postura, existe un valor que
justifica razonablemente una mayor restricción a la libertad de expresión de
los agentes públicos y un control de constitucionalidad deferente. Se trata
concretamente de que en el marco de ciertas funciones, el empleador estatal
“necesita un grado de control significativo sobre la conducta y las palabras
de los empleados; sin este control existiría poca posibilidad de brindar de
[144]
forma eficiente el servicio público” .
Se han exigido respecto los jueces, lo que es igualmente aplicable al
ámbito de la Administración pública cuando un funcionario y/o agente debe
resolver un recurso administrativo –por ejemplo–, y de ahí su importancia
en esta parte, ciertas pautas generales para el uso de redes sociales por parte
de personas que ejercen la judicatura y también, del personal de apoyo,
atendiendo a los deberes de independencia, imparcialidad, responsabilidad
institucional, cortesía, integridad, transparencia, secreto profesional y
prudencia, y debiendo actuar con suma prudencia, asumiendo todas las
medidas posibles para que las conductas personas no sean objeto de tacha
[145]
de parcialidad .
De esta manera, no habría dudas sobre la inconducta de un empleado de
la salud que extrae fotografías de un paciente y las sube a una red social, lo
que fue considerado por la jurisprudencia como una falta grave que implica
una pérdida de confianza, vulnerando el deber de obrar de buena fe, la
normativa específica del ejercicio de la medicina y, peor aún, la intimidad
[146]
del paciente .
Asimismo, yendo a un análisis con más precisión, todas aquellas
expresiones que puedan ser considerados en determinado medio o contexto
social como “epítetos denigrantes”, dichos “groseros”, palabras que caigan
en la categoría de “insulto” o, en general, expresiones cuyo “propósito
primario de lesionar el honor o causar daño” carecen de protección
constitucional y pueden dar lugar a un delito penal, un ilícito civil, o una
sanción disciplinaria de naturaleza administrativa, por más que sean
proferidos informalmente por las redes sociales.
Pero, es más, las expresiones insultantes de este tipo son particularmente
graves cuando emanan de funcionario estatal de importante jerarquía, o
agente público estatal. Y ello es así no sólo porque la utilización de epítetos
despectivos o insultos pueden implicar la comisión de un acto ilícito en el
plano penal o civil, sino que existen razones institucionales de orden
funcional que hacen que el discurso de estos agentes públicos deba ser
especialmente prudente y moderado, máxime cuando estos sean vertidos en
[147]
contra de la institución que representan o integran .
g) La contratación administrativa electrónica e informática
1. Las TICs en la contratación pública
También el uso de herramientas tecnológicas en la Administración Pública
puede tener directo impacto sobre la problemática de la contratación
pública, en sus dos variantes ya conocidas: la contratación electrónica y la
contratación informática, agregándose a ambas la naturaleza de
administrativa.
En ambos casos, no caben dudas que la incorporación de las tecnologías
de la información y de las comunicaciones (TICs) en la Administración
Pública, y en particular, en los procesos de contratación ofrece grandes
posibilidades de mejoramiento de la eficacia, calidad, transparencia y
control de los contratos públicos y de la gestión estatal en general, con la
consiguiente reducción de gastos, mejoramiento de procesos internos,
[148]
mayor interacción con los ciudadanos que aquello conlleva; lo que se
inscribe en definitiva un nuevo modelo de gestión pública conocido como
[149]
e-Government .
2. La contratación administrativa electrónica
El uso de las TICs en el proceso de contratación no convierte al contrato en
electrónico si la incidencia de estas tecnologías no es decisiva en algunas de
sus etapas. De allí que, tal como señala Gimeno Feliú, corresponde
distinguir entre el uso de las TICs como herramientas de apoyo de aquel
[150]
proceso, y de la contratación electrónica propiamente dicha . Esta
última existirá cuando la oferta y la aceptación se transmiten por medio de
equipos electrónicos de tratamiento y almacenamiento de datos, conectados
a una red de telecomunicaciones, y cuando las prestaciones principales se
[151]
cumplan por este medio .
Si hacemos un repaso sobre el estatus actual de las contrataciones
públicas electrónicas en nuestro país, en primer lugar debemos decir que las
mismas se encuentran contempladas en el ámbito nacional a través de los
[152]
artículos 21 y 22 del Decreto 1023/2001 , y su correspondiente
recepción en las jurisdicciones locales como el caso de la Ciudad de Buenos
Aires (artículo 83, Ley N° 2095), Córdoba (Ley N°, 10155), entre muchas
otras.
María Inés Corrá señala a la ausencia de reglamentación adecuada, la
falta y retraso de implementación de las tecnologías necesarias para hacer
efectivas este tipo de contrataciones, sumado a las barreras culturales para
el uso intensivo de TICs tanto para la organización interna como la
interacción con los particulares, como las principales limitaciones para
[153]
hacer realidad las contrataciones electrónicas .
Sea como fuere, y sin perjuicio de la real implementación del mecanismo,
desde una estricta mirada sobre los contratos administrativos, la
contratación electrónica impacta con singular fuerza en los elementos del
vínculo, en particular, en la formación de la voluntad y en la forma del
[154]
contrato .
En cuanto a lo primero, y aunque la voluntad se exprese a través de
[155]
señales electromagnéticas , en este caso no se trata de un contrato entre
ausentes, sino de una contratación entre presentes a pesar de las distancias
geográficas y horarias que puedan existir– ya que como dice UEZ “la
virtualidad de la presencia se sobrepone a la ficción de ausencia, debido a
que la comunicación electrónica puede llegar a ser tan inmediata, como
[156]
una presencial, sin que pueda, empero, sustituirla” . Y respecto a lo
segundo, se establece una nueva forma contractual –la digital– que debe
[157]
respetarse bajo pena –inclusive– de inexistencia del contrato .
 Amén de lo dicho, principalmente debería tenerse presente que la
implementación de las TICs en el contrato, especialmente, en el
procedimiento de selección del contratista, de ninguna manera podría ni
debería redundar en contra de los principios de igualdad, libre concurrencia,
competencia, transparencia, etc., escenario que pudiera presentarse en un
contexto de marcada “brecha digital”. Todo lo contrario, la contratación
pública electrónica impacta en la concurrencia y competencia
favorablemente, pues la amplía espacial y temporalmente, ya que Internet –
por ejemplo– no encuentra fronteras geográficas ni restricciones
temporales.
Reciente normativa en nuestro país aporta específicamente a la
contratación electrónica incorporando la utilización de tecnología como
apoyo a clásicas modalidades de contratación administrativa. Así, el
Decreto el Decreto 27/2018 –antes citado– implementa lo que puede
denominarse la “subasta pública electrónica” (artículo 148, que modifica el
artículo 25 inc. b) del Decreto 1023/2001), y prevé la convocatoria a
licitación pública en el Boletín Oficial y Sitio Web oficial del órgano
competente (artículo 155, modificatorio del artículo 10 de la Ley N° 13.064
de “Obras Públicas”) sin que sea necesario ahora la publicación a través de
[158]
otros medios privados (prensa) .
En la Unión Europea, la nueva Directiva 2014/24/UE sobre contratación
pública, que deja sin efecto la anterior Directiva 2004/18/CE del
Parlamento Europeo y del Consejo del 31–3–04, obliga ahora a los Estados
a utilizar estos medios electrónicos en el plazo de 30 meses desde su
[159]
entrada en vigor .
Dispone, en este sentido, el artículo 23.1 de la norma que los Estados
miembros garantizarán que todas las comunicaciones y todos los
intercambios de información se lleven a cabo utilizando medios de
comunicación electrónicos y, en particular, la presentación electrónica de
ofertas y solicitudes, obligando a que ello se realice en relación con lo
establecido en los artículos 34 (referido a los sistemas dinámicos de
adquisición), 35 (subastas electrónicas), 36 (catálogos electrónicos), 37.3
(comunicaciones electrónicas en los procedimientos de contratación
dirigidos por una central de compras, 51 (envíos de los anuncios a la
Comisión) y 53 (disponibilidad electrónica de la documentación de la
contratación).
La Comisión Europea publicó el Libro Verde sobre la generalización del
recurso a la contratación pública electrónica en la Unión Europea (SEC
2010, 1214) para impulsar la utilización de las TIC a fin de lograr una
contratación pública más eficaz en todo el mercado único, al tiempo que
avanzar hacia una revisión coordinada y global del actual marco de
contratación pública de la UE.
En el Libro Verde se recuerdan las grandes ventajas de una utilización
más generalizada de la contratación electrónica. Entre ellas, cabe destacar
una mayor accesibilidad y transparencia (“la contratación electrónica
puede mejorar el acceso de las empresas a la contratación pública gracias
a la automatización y centralización del flujo de información sobre las
oportunidades de licitación concretas”); ventajas en relación con los
procedimientos concretos (“frente a los sistemas basados en el soporte de
papel, la contratación electrónica puede contribuir a que las entidades
adjudicadoras y los operadores económicos reduzcan sus costes
administrativos, y a que se agilicen los procedimientos de contratación”, lo
que en las actuales circunstancias económicas podría tener una acogida muy
favorable ya que aumentaría al máximo el potencial que puede obtenerse a
partir de recursos limitados); ventajas en cuanto al logro de una mayor
eficacia en la gestión de la contratación (“en los casos en que existan
centrales de compras, el recurso a los procedimientos electrónicos podrá
contribuir a la centralización de las tareas administrativas de contratación
más onerosas y al logro de economías de escala en términos de gestión”); y
potencial de cara a la integración de los mercados de contratación en la UE
(“en un entorno caracterizado por la utilización del soporte de papel, la
falta de información y los problemas asociados a la presentación de ofertas
en relación con contratos que van a adjudicarse a cierta distancia del lugar
de establecimiento de la propia empresa pueden limitar el número de
proveedores que compitan en determinadas licitaciones o disuadirlos
totalmente de participar en ellas. En potencia, la contratación electrónica
tiene la ventaja de acortar esas distancias, salvar las deficiencias en
materia de información y fomentar una mayor participación, mediante el
incremento del número de posibles proveedores y la eventual ampliación de
[160]
los mercados”) .
 En definitiva, las ventajas de la utilización de estas técnicas y
herramientas van más allá de los importantes beneficios para los poderes
concedentes de apostar por los medios electrónicos, ya que permiten el
aumento de ofertas por partes de los participantes en la compulsa, con el fin
de obtener economías de escala, así como la reducción de los precios y de
los costes de transacción.
3. La contratación administrativa informática
La “contratación informática”, por su lado, no se identifica con el contrato
electrónico, ya que aquella hace referencia a los contratos que tienen por
objeto bienes o servicios informáticos, con independencia de que ella
pueda, eventualmente, realizarse a través o con ayuda de medios
[161]
electrónicos .
En estos tiempos, ya no es una novedad discurrir respecto lo que la
doctrina ha desarrollado como “contratos públicos informáticos”. Lo que
califica a estos contratos informáticos del resto de la contratación
[162]
administrativa, es exclusivamente su objeto : bienes de naturaleza
informática, o lo que es más pertinente, bienes y servicios relacionados con
las nuevas tecnologías. Así puede integrar esta categoría el suministro de
bienes materiales (equipos, elementos de sistemas, sistemas informáticos),
inmateriales (obras de ingenio, programas, información), o servicios (de
mantenimiento de equipos, fabricación, gestión de instalaciones).
Después, y siguiendo exclusivamente el régimen español, dentro de esta
gran variedad, pueden encontrarse algunos regidos parcialmente por el
derecho privado (permuta, comodato de equipos), u otros, exclusivamente
[163]
por el público (suministro, gestión de datos) .
 CAPÍTULO IV
La inteligencia artificial aplicada al derecho

I. La inteligencia artificial
a) Conceptos desde la doctrina jurídica
Empecemos ahora a desandar el camino respecto la aplicación de
tecnologías más complejas en la Administración pública, en donde los
sistemas digitales ya no solo meramente expresan la voluntad decisoria,
sino la definen y determinan, conforme algoritmos, redes neuronales,
técnicas de aprendizaje profundo, y cuanta otra IA pueda utilizarse.
Se ha definido a la IA como

“la rama de las ciencias de la computación que estudia el

software y hardware necesarios para simular el comportamiento y
comprensión humanos. El objetivo último de la IA es simular la
inteligencia humana en una máquina creando robots que sean
conscientes y con sentimientos reales, similares a los
[164]
humanos…” .

Susana Navas Navarro, profesora española y verdadera autoridad en la

materia, comenta que a través de la IA se trata de emular las diversas
capacidades del cerebro humano para presentar comportamientos
inteligentes sintetizando y automatizando tareas intelectuales. De ahí que
sea potencialmente aplicable a cualquier ámbito de la actividad intelectual
humana. De hecho, emplea técnicas y conocimientos propios de otras
disciplinas tales como filosofía, economía, estadística, ingeniería,
[165]
neurociencia, psicología y, por supuesto, las matemáticas .
Resulta especialmente interesante para este nuevo desarrollo de sistemas,
el hecho que ya no son meros programas con una estructura de
conocimientos predefinida, como lo es la IA “simbólica”, sino en realidad
estas tecnologías son “entrenadas”, tal como se precisará infra respecto los
algoritmos y las redes neuronales. En una fase de entrenamiento se
proporcionan a la red modelos de entrada y los correspondientes modelos
de salida (respuesta) apropiados, para que a través del nuevo conocimiento
que vayan adquiriendo, tomen la mejor solución cumpliendo con el
objetivo.
b) IA y algoritmos
A su vez, se ha aclarado con razón que

“La IA necesita de una secuencia de instrucciones que especifique

las diferentes acciones que deben ejecutar un sistema inteligente
para resolver un determinado problema denominado algoritmo
que consiste en un procedimiento para encontrarle la solución
[166]
mediante la reducción a un conjunto de reglas” .

De tal manera entonces, no es lo mismo IA que algoritmo, pues mientras

la primera es un sistema que, al simular la inteligencia personal genera
soluciones cuyo resultado es análogo al logrado por el pensamiento
humano, el algoritmo es una estructura procedimental, un conjunto de
reglas y secuencias, que debe ejecutar la máquina para obtener una
respuesta concreta. En palabras de la autora antes citada:

“Un sistema de IA necesita de una secuencia de instrucciones que

especifique las diferentes acciones que debe ejecutar el
computador para resolver un determinado problema. Esta
secuencia de instrucciones es la estructura algorítmica que
emplea el sistema de IA. Por tanto, “algoritmo” es el
procedimiento para encontrar la solución a un problema mediante
[167]
la reducción del mismo a un conjunto de reglas” .

En esencia, entonces, un algoritmo puede ser definido como un conjunto

preciso de instrucciones o reglas, o como una serie metódica de pasos que
puede utilizarse para hacer cálculos, resolver problemas y tomar decisiones,
es decir, el algoritmo es una fórmula que se utiliza para hacer un
[168]
cálculo . Y la IA se sustenta, nutualmente, en algoritmos inteligentes o
en algoritmos de aprendizaje que, entre muchos otros fines, se utilizan para
identificar tendencias económicas, predecir delitos, diagnosticar
enfermedades, predecir nuestros comportamientos digitales, etc.
Ahora bien, la principal razón de la preocupación frente a los algoritmos
refiere a que, por su intermedio, el sistema tomaría decisiones que podrían
poner en jaque derechos fundamentales de individuos, cuyos datos son
utilizados para estos cálculos. Riesgos como futuros usos no previstos en el
momento de obtener la información y el consentimiento sobre ella, tales
como la generación de perfiles, la manipulación, la monitorización de la
conducta y especialmente las valoraciones basadas en decisiones
automatizadas que generen una discriminación algorítmica que puede
perjudicar seriamente a las personas. En este sentido, debe evitarse
definitivamente lo que se ha denominado “algoritmocracia”, es decir un
gobierno de los algoritmos, donde estos podrían estar tomando decisiones
sobre los ciudadanos, cuyo impacto en los derechos fundamentales aún no
[169]
somos capaces de prever .
Finalmente debe precisarse en este apartado que, si bien puede entenderse
–en apretada síntesis– que la IA resuelve aplicando algoritmos que definen
el proceso para obtener la respuesta frente al conflicto, ello no quiere decir
en modo alguno que los algoritmos sean fuente de derecho, sino en rigor de
verdad –aunque parezca una obviedad, deba aclararse– es la “ley” en
sentido lato la que resuelve, haciéndolo a través de la delegación material
que implicó la norma (ley, decreto, etc.) que aprobó a su vez el sistema de
IA.
Por eso, el algoritmo, no es fuente de derecho.

“En el caso de ejercicio de potestades administrativas, se puede

decir que se delega en la IA tal ejercicio y el autómata toma el
sitio del humano en función de las instrucciones que ha recibido”
 y la fuente del Derecho “sigue siendo la norma jurídica que es
[170]
ejecutada mediante la IA y el algoritmo” .

Más adelante volveremos sobre este punto.

c) Función de la IA: la representación del conocimiento
La representación del conocimiento y el razonamiento se encuadran en un
área de la IA que tiene como objetivo fundamental recrear y graficar el
conocimiento de una manera que facilite la inferencia. Esto es, sacar
conclusiones a partir de dicho conocimiento. En otras palabras, los
mecanismos de IA será útiles y habrán cumplido su cometido si permiten
visualizar y representar debidamente el conocimiento.
Una buena representación del conocimiento cubre seis características
básicas:
1. Cobertura: significa que la representación del conocimiento cubre la
información a lo ancho y en lo profundo. Sin una cobertura amplia, la
representación del conocimiento no puede determinar nada ni resolver
ambigüedades.
2. Ser comprensible por humanos. La representación del conocimiento es
aceptada como un lenguaje natural, por lo que la lógica debería fluir de
manera libre. Debería estar en condiciones de soportar la modularidad y
jerarquía de clases (Ejemplo, los osos polares son osos, que, primero, son
animales).
3. Consistencia. Si se advierte una acción, el acto debe ser interpretado
como tal acción, y siempre de la misma manera. A su vez, si es consistente,
la representación del conocimiento puede eliminar el conocimiento tanto
redundante como conflictivo.
4. Eficiencia. Debe actuar cumpliendo los fines previstos, sin fallas, y
casi sin fisuras.
5. Facilidad de modificación y actualización. A través de su capacidad de
aprendizaje y simulación del pensamiento, el sistema debe ser apto para
adaptarse a nuevos objetivos.
6. Soporte de la actividad inteligente que usa la base de conocimiento.
 Para entender mejor por qué estas seis características conforman una
buena representación del conocimiento, debe pensarse a la IA como una
enciclopedia. Tomemos con ejemplo Wikipedia: está estructurada, hay
millones de artículos (cobertura) organizados en categorías, tipos de
contenido y temas similares (comprensible por humanos), redirecciona
diferentes títulos, pero con el mismo contenido al mismo artículo
(consistencia), es eficiente, se pueden añadir o actualizar páginas fácilmente
y permite a los usuarios consultar la base de conocimiento en sus teléfonos
u ordenadores de escritorio.
d) El aprendizaje automático. Redes neuronales
Pero la IA no es todo, sino –por el contrario– solo el primer paso para la
automatización y la actividad instantánea. Hay muchos más métodos. Y en
todos se utilizan capacidades a través de técnicas de algoritmos.
[171]
Explica la doctrina que la IA

“que intenta utilizar facultades identificables como cognitivas a

nivel humano, reside en la capacidad de interpretar parámetros
de manera flexible para aprender y utilizar el conocimiento
obtenido para el objeto fijado como meta…En un paso más
complejo, el machine learning es una rama derivada de la
inteligencia artificial más compleja, que permite el desarrollo de
técnicas que posibilitan el aprendizaje genuino, es decir, la
capacidad de que por medio del procesamiento de la información
(datos en relación), se pueda inducir conocimiento…Finalmente,
el deep learning o aprendizaje profundo, es una derivación
del machine learning, que permite la modelación de abstracciones
que permiten la toma de decisiones de forma automatizada
basadas en el conocimiento adquirido”.

Al “machine learning”, se lo conoce como el subcampo de las ciencias de

la computación y una rama de la IA cuyo objetivo es hacer posible que las
computadoras aprendan. Es una técnica que utiliza algoritmos que razonan
de manera similar al cerebro humano. El “machine learning” logra el
aprendizaje de las computadoras por dos vías: a partir de los datos que se le
introducen, así como también a través de la ejecución de los respectivos
algoritmos. Con respecto a estos, comparte su uso con otras ramas de la IA,
pero desarrolla un enfoque en los datos orientado a “educar” a la
maquinaria para fomentar su autonomía.
Es una técnica que utiliza algoritmos que razonan de manera similar al
cerebro humano. Concretamente, se trata de crear programas capaces de
generalizar comportamientos a partir de la información suministrada en
forma de ejemplos. El aprendizaje automático cuenta con una amplia gama
de aplicaciones: a saber, motores de búsqueda, diagnósticos médicos,
detección de fraude en el uso de tarjetas de crédito, análisis del mercado de
valores, clasificación de secuencias de ADN, reconocimiento del habla y
del lenguaje escrito, juegos y robótica, entre otros.
Para entender mejor, tomemos un ejemplo:

“imaginemos que queremos identificar la marca y el modelo de

todos los vehículos que pasan por una calle. Por un lado,
tendríamos las imágenes y el sonido de las cámaras y por otro
una base de datos enorme con la forma, características técnicas o
el sonido del motor de miles de coches. Un sistema de inteligencia
artificial identificaría los coches de las imágenes por su
aproximación a los datos que conoce; pero no siempre acertaría,
ya que hay coches con características muy similares. Un sistema
con Machine Learning podría ´aprenderse´ los datos y clasificar
con mayor precisión los vehículos, pero uno con Deep Learning
puede ´entrenarse´ sobre los nuevos datos que va recibiendo. Es
decir, puede emplear un diferenciador erróneo y equivocarse una
vez, pero a la siguiente emplea otro para acercarse cada vez más
[172]
al resultado correcto” .

Muchos de las IA diseñadas y construidas con un propósito, como

ejecutar un robot que juega ping pong o domina cualquier juego. Este es el
resultado inevitable cuando los informáticos se sientan y crean algo para
hacer una tarea específica, terminan con algo que puede hacer esa tarea y no
mucho más. Para superar este problema de las IA orientadas a la tarea, los
científicos de la computación empezaron a operar con redes neuronales
artificiales.
Las redes neuronales artificiales intentan recrear este sistema de
aprendizaje en ordenadores construyendo un programa simple para
responder a un problema y recibir retroalimentación sobre cómo lo hace.
Una computadora puede optimizar su respuesta haciendo el mismo
problema miles de veces y ajustando su respuesta de acuerdo a la
retroalimentación que recibe. A la computadora se le puede dar un
problema diferente, el cual puede aproximarse de la misma manera que
aprendió de la anterior. Al variar los problemas y el número de enfoques
para resolverlos los cuales la computadora ha aprendido, los científicos
[173]
informáticos pueden enseñar una computadora determinados aspectos .
Una red neuronal artificial es un grupo interconectado de nodos similar a
la red de neuronas en un cerebro biológico. Cada nodo representa una
neurona artificial y una flecha representa una conexión desde la salida de
una neurona a la entrada de otra. El objetivo de la red neuronal es resolver
los problemas de la misma manera que el cerebro humano, aunque las redes
neuronales son más abstractas.
En esencia, las redes neuronales artificiales son modelos de redes
neuronales humanas diseñadas para ayudar a las computadoras a aprender.
Aquellas, fundamentan la existencia de los sistemas de IA más populares.
e) Tecnologías de IA más utilizadas
A los fines de graficar la importancia de lo abordado, y a modo de ejemplo,
podemos señalar distintas tecnologías de IA que dominan la materia en la
[174]
actualidad , muchas de las cuales son conocidas por todos nosotros, la
mayoría de utilización diaria. Así, podemos mencionar:
1. Generación de lenguaje natural. La generación de lenguaje natural es
una sub-disciplina de la IA que convierte los datos en texto, lo cual permite
a las computadoras comunicar ideas con una precisión impresionante.
2. Reconocimiento de voz. Cada día son creados nuevos sistemas que
pueden transcribir el lenguaje humano, través de sistemas interactivos de
respuesta de voz y aplicaciones móviles (Siri, puede ser un conocido
ejemplo).
 3. Agentes virtuales. Un agente virtual no es más que un agente
informático o un programa capaz de interactuar con humanos. Los agentes
virtuales se están utilizando actualmente para el servicio de atención al
cliente y soporte, así como administradores de hogares inteligentes (los
chatbots, por ejemplo).
4. Plataformas machine learning. Como se dijo, ésta es una subdisciplina
de las ciencias de la computación y una rama de IA, cuyo objeto es
desarrollar técnicas que permitan a las computadoras aprender, por lo que
son utilizadas para para predicción y clasificación. Un ejemplo puede ser la
compañía Adext que aplica la IA y machine learning a la publicidad digital
para encontrar la audiencia o grupo demográfico más redituable para
cualquier anuncio.
5. Plataformas de aprendizaje profundo. También se dijo que las
plataformas de Deep Learning usan una forma única de machine learning
que involucra circuitos neuronales artificiales con varias capas de
abstracción que pueden imitar al cerebro humano, procesar datos y crear
patrones para la toma de decisiones. Actualmente se usa principalmente
para reconocer patrones y clasificar aplicaciones que sólo son compatibles
con conjuntos de datos a gran escala.
6. Biométricas. Esta tecnología puede identificar, medir y analizar el
comportamiento humano y los aspectos físicos de la estructura y de la
forma del cuerpo. Permite interacciones más naturales entre los seres
humanos y máquinas, incluidas las relacionadas con el reconocimiento del
tacto, imágenes, voz y lenguaje corporal, por lo que es extremadamente
importante en el campo de la investigación de mercado.
7. Automatización de procesos robóticos. La automatización de procesos
robóticos usa scripts y métodos que imitan y automatizan tareas humanas
para apoyar en los procesos corporativos. Retomando el ejemplo de Adext,
esta plataforma automatiza la publicidad digital usando AI, con la finalidad
de ahorrar tiempo y recursos dedicados a las realizar las tareas mecánicas y
repetitivas que demanda esta profesión, las cuales pueden efectuadas con
mayor eficiencia y asertividad por la misma. Es una solución que te permite
aprovechar al máximo el talento meramente humano y mover a los
empleados a posiciones más estratégicas y creativas, para que sus acciones
realmente puedan tener un impacto en el crecimiento de la compañía.
 8. Analíticas de texto y NLP (Procesamiento de Lenguaje Natural). Esta
tecnología utiliza análisis de texto para comprender tanto la estructura de
las oraciones, como su significado e intención, a través de métodos
estadísticos y machine learning. Esta técnica se utiliza actualmente en
sistemas de seguridad y detección de fraudes, aunque también están siendo
utilizados por una amplia gama de asistentes y aplicaciones automatizadas
para extraer datos no estructurados. Otro ejemplo, especialmente en la
materia que nos convoca, es la utilización de NLP para revisar contratos,
inclusivo, para la redacción de sentencias o resoluciones administrativas
modelos.
9. Compliance (cumplimiento). Compliance es la certificación o
confirmación de que una persona u organización cumple con los requisitos
de prácticas aceptadas, legislaciones, regulaciones, estándares o términos de
un contrato. En la actualidad, se advierte soluciones regulatorias
de complicance que utilizan IA para ofrecer eficiencia a través de la
automatización y la cobertura integral de riesgos. Las soluciones con
análisis predictivo y constructores de escenarios pueden ayudar a las
organizaciones a cumplir con los requerimientos del capital regulatorio. Y
el volumen de actividades de transacciones señaladas como potenciales
ejemplos de lavado de dinero se puede reducir a medida que se utiliza
el deep learning para aplicar reglas comerciales cada vez más
[175]
sofisticadas .
10. Creación de Contenido. La creación de contenidos ahora incluye
cualquier tipo de material que una persona sume al mundo online, ya sean
videos, anuncios, publicaciones en blogs, white papers, infografías u otros
recursos visuales o escritos.
11. Reconocimiento de Emociones. Esta tecnología permite que el
software “lea” las emociones en el rostro humano mediante el
procesamiento avanzado de imágenes o el procesamiento de datos de audio.
Hoy en día podemos capturar “microexpresiones” o señales sutiles del
lenguaje corporal y cualquier entonación vocal particular que nos indiquen
los verdaderos sentimientos de una persona. Las fuerzas de seguridad,
podrían estar usando tecnología para tratar de detectar más información
sobre alguien durante un interrogatorio, lo que nos llevaría a muchos
cuestionamientos desde la perspectiva constitucional y de los derechos
fundamentales. Pero también podría tener una amplia gama de aplicaciones
para los especialistas en marketing.
12. Reconocimiento de Imagen. El reconocimiento de imágenes es el
proceso que identifica y detecta un objeto o característica específica en una
imagen digital o video. La IA está aprovechando cada vez más esta
tecnología y brindando excelentes resultados. La IA puede buscar fotos en
las plataformas de redes sociales y compararlas con una amplia gama de
conjuntos de datos para decidir cuáles son más relevantes durante las
búsquedas de imágenes. También se puede utilizar para detectar placas de
autos, diagnosticar enfermedades, analizar clientes y sus opiniones y
verificar a los usuarios basándose en su rostro.
13. Automatización en Marketing. La automatización del marketing
permite a las empresas mejorar la interacción con su mercado meta y
aumentar su eficiencia –características que suelen traducirse en un
incremento exponencial de los ingresos de la compañía–. A su vez, utiliza
software para automatizar la segmentación de sus públicos meta, la
integración de los datos de sus clientes y el manejo de sus campañas;
simplificando las tareas repetitivas, y permitiéndoles enfocarse en lo que
mejor saben hacer.
f) Historia de la IA
Entendemos que, si pretendemos analizar y discurrir sobre la historia de la
IA, debemos remontarnos a cualquier intento que –desde el momento que el
“hombre es hombre”– ha tenido para simular el comportamiento y
razonamiento humano a través de una máquina. La automatización de las
tareas y la “maquinización” del pensamiento, sin que hablemos ni siquiera
de computación o informática, es lo que ha motorizado a la humanidad, y
todo desarrollo científico –o por lo menos la mayoría– se asienta sobre ello.
Porque, el ser humano desde la antigüedad ha anhelado replicar sus
capacidades intelectuales en otros seres creados por él mismo, y esto no está
solo relacionado con la literatura ni el cine (como el personaje de
“Frankenstein”, los extraterrestres o los robots que hablan).
[176]
Por esta razón, los papers científicos dan cuenta que, aunque aún
veamos la IA en “pañales”, lo cierto es que los orígenes de esta tecnología
se remontan a la época griega, por ejemplo cuando Aristóteles describió un
conjunto de reglas que describen una parte del funcionamiento de la mente
para obtener conclusiones racionales, y Ctesibio de Alejandría (250 a. C.)
construyó la primera máquina autocontrolada, un regulador del flujo de
agua (racional pero sin razonamiento).
A pesar de estos primeros referentes históricos, es a Alan Turing a quien
se considera padre de la IA (dando, de hecho, nombre al test que determina
la calidad de las IA). En 1936, este visionario diseñó una máquina capaz de
implementar cualquier cálculo que hubiera sido formalmente definido, pilar
esencial para que un dispositivo pueda adaptarse a distintos escenarios y
“razonamientos”. Después, en 1956, John McCarthy, Marvin Minsky y
Claude Shannon acuñaron este término durante la conferencia
de Darthmounth para referirse a “la ciencia e ingenio de hacer máquinas
inteligentes, especialmente programas de cálculo inteligentes”.
En los 90, la mayoría de las empresas tecnológicas decidieron realizar
inversiones mayúsculas en este terreno con el fin de mejorar la capacidad de
procesamiento y análisis de la ingente cantidad de datos que se generan en
el creciente mundo digital.
De hecho, la consagración definitiva de la IA llegó en 1997, cuando IBM
demostró que un sistema informático era capaz de vencer al ajedrez a un
humano, y no un humano cualquiera, sino el campeón del mundo Gari
Kaspárov.
Si hay un ejemplo de IA por defecto, ese es IBM Watson. Un sistema que
hizo su aparición estelar ganando una competición de alto nivel, aunque en
este caso más compleja que la anterior. En 2011, Watson ganó el popular
concurso televisivo Jeopardy frente a los dos máximos campeones de este
programa, en el que se realizan preguntas sobre cultura y conocimiento de
todo tipo. Watson, primero tuvo que ser capaz de entender las preguntas, y
después brindar una respuesta, a lo que ayudaron sus 200 millones de
páginas de contenido almacenadas en su sistema.
Y a partir de allí, al proceso de la IA no ha dejado de crecer, lo que se ve
a diario en cada una de los avances tecnologías que se comunican a diario.
g) Cuestionamientos éticos a la IA
1.– Principios, directrices y guías en el ámbito internacional
Uno de los temas más relevantes, y que suscita un gran debate, es el de la
ética aplicada a la IA, cuyo análisis profundo –por cierto– escapa al objeto
de nuestra propuesta.
La posibilidad de crear máquinas pensantes plantea una serie de
cuestiones éticas que abarcan diferentes puntos tanto que las máquinas no
lastimen a seres humanos o seres vivos en general, como el estatus moral
propio de la máquina. De tal manera, el tema puede dividirse en: a) la ética
de los investigadores, diseñadores y usuarios: la preocupación por el
comportamiento moral de los seres humanos a medida que diseñan,
construyen, usan y tratan con productos de IA, y b) yéndonos un poco más
lejos, y con mayor abstracción, la ética de las máquinas: es la preocupación
por el comportamiento moral de los productos artificiales.
En este sentido, tanto el Parlamento Europeo, por un lado, como algunos
de los principales exponentes de la IA mundial, por el otro, se han
reflexionado sobre los componentes éticos de la IA.
Inmersos en el debate sobre la IA, el Parlamento Europeo, tras una
propuesta de borrador (junio 2016) y un informe razonado (febrero 2017)
ha aprobado un informe sobre Robótica en el que se establece un Código
Ético de Conducta.
La propuesta de resolución del Parlamento Europeo establece que es
necesario establecer “un marco de guía ético para el diseño, producción y
uso de los robots” que sirva de complemento a las diferentes
recomendaciones puramente legales que se realizan. Es decir, profundizar
en una nueva disciplina que aborde los problemas éticos de la IA, la
“roboética”. La idea de fondo es que los estándares éticos deberían ir
dirigidos a la humanidad –esto es, los diseñadores, productores y usuarios
de los robots– y no tanto a los robots en sí mismos; aspecto éste último –
agregamos nosotros– en realidad se sujeta a asuntos de programación del
propio hombre y no de la máquina en sí misma, que no cobra vida por sí
misma y en forma independiente.
Los principios sancionados por el Parlamento Europeo, puede resumirse
en:
1.– Proteger a los humanos del daño causado por robots: la dignidad
humana.
 2.– Respetar el rechazo a ser cuidado por un robot.
3.– Proteger la libertad humana frente a los robots.
4.– Proteger la privacidad y el uso de datos: especialmente cuando
avancen los coches autónomos, los drones, los asistentes personales o los
robots de seguridad.
5.– Protección de la humanidad ante el riesgo de manipulación por parte
de los robots: especialmente en ciertos colectivos –ancianos, niños,
dependientes– que puedan generar una empatía artificial
6.– Evitar la disolución de los lazos sociales haciendo que los robots
monopolicen, en un cierto sentido, las relaciones de determinados grupos.
7.– Igualdad de acceso al progreso en robótica: Al igual que la brecha
digital, la brecha robótica puede ser esencial.
8.– Restricción del acceso a tecnologías de mejora regulando la idea del
“transhumanismo” y la búsqueda de mejoras físicas y/o mentales.
Por el otro costado, desde la perspectiva de los desarrolladores de la IA,
[177]
se ha informado que en febrero de 1975 un grupo de genetistas se
reunió en un pequeño pueblo de California, “Asilomar”, para decidir si su
trabajo podría destruir el mundo. En esa oportunidad, se estaba al inicio de
la ingeniería genética y la manipulación del ADN, y de esa reunión
surgieron una serie de principios y un estricto marco ético para la
biotecnología. Cuatro décadas después –organizado por el “Future of Life
Institute”– otro grupo de científicos se reunió en el mismo lugar y con el
mismo problema. Pero esta vez se trataba de analizar las posibles
consecuencias de la IA. La idea de fondo fue clara y compartida: un
profundo cambio está llegando y afectará a toda la sociedad y las personas
que tengan algún tipo de responsabilidad en esta transición tienen tanto una
gran responsabilidad como la oportunidad de darle la mejor forma posible.
Tras una profunda deliberación de meses, se aprobaron una serie
de principios que fueron apoyados por al menos el 90 % de los asistentes.
Estos 23 principios aprobados (denominados los “23 principios de
Asimolar”) no son exhaustivos, pero muestran la necesidad de que ciertos
principios fundamentales se respeten y que, a través del desarrollo de este
debate, la IA se utilice para mejorar la vida de todos. De este modo, se
plantean una serie de principios agrupados en tres consideraciones
generales: a) Principios relativos a la investigación; b) Ética y valores; y c)
Temas a largo plazo.
El modo de reflexionar y plantear los marcos éticos –y posteriormente
legales– ofrece un ejemplo claro de la distinta forma que tienen los
americanos y europeos de enfrentarse a los problemas: éstos últimos desde
un punto de vista más institucional, con comités, subcomités, informes,
propuestas y marcos legales (más o menos obligatorios), frente a una
discusión más flexible, abierta y voluntaria que caracteriza al modo de
hacer anglosajón. Aun así, podemos observar una serie de parámetros e
ideas comunes, que pueden servir de base compartida para intentar
conceptualizar y regular, en su momento, las prácticas y consecuencias de la
IA.
De tal manera, puede observarse que existen una serie de consideraciones
comunes en los dos modos de realizar esta aproximación a la ética de la IA:
a) La IA debe realizarse por el bien de la humanidad y beneficiar al mayor
número. Es necesario reducir el riesgo de exclusión; b)
Los estándares éticos de la IA deben ser altísimos en lo que respecta a la
seguridad de los humanos. Para ello, es necesario un control ético y finalista
de investigación, transparencia y cooperación en el desarrollo de la IA; c)
Los investigadores y diseñadores tienen una responsabilidad crucial: toda la
investigación y desarrollo de la IA debe estar caracterizada por la
transparencia, la reversibilidad y trazabilidad de los procesos; d) Necesidad
de control humano: Que en todo momento sean los humanos los que
decidan qué pueden hacer o no los sistemas robóticos o basados en IA; e)
Gestionar el riesgo: Cuanto más grave sea el riesgo potencial, más estrictos
deberán ser los sistemas de control y gestión del riesgo; f) No desarrollo de
la IA para realizar armas de destrucción; g) Incertidumbre: Se reconoce que
los avances en estos campos son inciertos, en ámbitos y alcances que en
ciertos casos son inimaginables.
Por otro lado, diversas voces de gran relevancia de los ámbitos científicos
y académicos, con el fin de llamar la atención sobre los riesgos que atañe el
desarrollo de la IA y para reivindicar un papel de esta disciplina de servicio
hacia los seres humanos, se han adscrito a una “carta abierta” publicada por
el “Instituto Future of Life”. Entre los firmantes de esta misiva sobresalen
nombres como el del científico Stephen Hawking o Elon Musk, propietario
de la firma Tesla Motors de vehículos eléctricos. Además, también
suscriben este mensaje profesores de diversos centros de prestigio (Harvard,
MIT, Berkeley, Oxford, Cambridge, etc.) y numerosos trabajadores de
Google.
A través de esta misiva, titulada “Prioridades de Investigación para una
inteligencia artificial robusta y beneficiosa: una carta abierta”, y de su
archivo adjunto, “Documento de Prioridades de Investigación”, los
firmantes reconocen el inmenso abanico de posibilidades que brinda este
campo. Estos documentos recogen como la IA cuenta con “unos enormes
beneficios potenciales”, pero advierten que todo lo que ha ofrecido la
civilización desde el origen de los tiempos es “producto de la inteligencia
humana”. Además, la epístola muestra un cierto escepticismo y reconoce
que los seres humanos “no podemos predecir lo que podremos alcanzar si
esa inteligencia se encuentra magnificada por las herramientas”.
Sin embargo, en la propia misiva, y especialmente en el documento
adjunto, se evidencia una postura firme respecto al uso, siempre al servicio
de la humanidad, de esta tecnología. “Recomendamos una extensa
investigación destinada a asegurar que, con cada vez más cualidades, los
sistemas de Inteligencia Artificial sean sólidos y beneficiosos”, señala como
premisa de cara al objetivo que marca como “nuestros sistemas de
inteligencia artificial deben hacer lo que queremos que hagan”. Un proceso
que, según sus firmantes, “debe ser necesariamente interdisciplinar, porque
implica tanto a la sociedad como a la inteligencia artificial”. Una tarea,
prosigue la carta, que “engloba desde economía, derecho y filosofía, hasta
seguridad informática, metodología formal y, por supuesto, varias ramas
de la propia inteligencia artificial”.
2.– La IA y los gobiernos nacionales
[178]
Destaca la doctrina que a fines del 2018 más de veinte países contaban
con estrategias nacionales de IA. Por ejemplo, en la “Estrategia Francesa
para la Inteligencia Artificial” (2018) se recogen las implicaciones éticas y
políticas de la IA y se formula una estrategia nacional para su desarrollo, a
la que suman un conjunto de recomendaciones éticas centradas en la
necesidad de mejorar la comprensión actual de los algoritmos a través de
apoyo a la investigación sobre temas de rendición de cuentas, formación
del personal a cargo, elaboración de estudios de impacto y conducción de
auditorías algorítmicas para identificar y mitigar posibles discriminaciones.
El Reino Unido, es otro ejemplo. El “Informe de la House of Lord”
(2018), se centra en el uso de algoritmos en procesos de toma de decisiones
y las situaciones referidas a la discriminación producida por su uso, la
transparencia y la regulación algorítmica. Entre las principales
recomendaciones figuran la creación de un organismo independiente
dedicado al monitoreo de los temas relacionados con algoritmos, la
transparencia en las decisiones algorítmicas tomadas por el gobierno para
fomentar la participación ciudadana, la expedición de medidas para evitar la
discriminación algorítmica, el derecho a la explicabilidad de los algoritmos
que afecten significativamente a las personas y el resarcimiento en caso de
errores o fallas, entre otras.

II. La administración 4.0 y la inteligencia artificial

El catedrático español Carles Ramió Matas explica que hay dos posibles
estrategias a encarar por la Administración pública ante procesos de IA,
[179]
smartificación y robotización .
Una posibilidad, es encarar una estrategia reactiva. El sector privado
avanza en la implantación de la IA y de la robótica, y las Administraciones
públicas, capturadas a nivel político, sindical y corporativo, deciden
quedarse a la orilla. Se trataría de una “estúpida quimera” (dice el autor), ya
que es imposible mantenerse al margen de esta revolución tecnológica. Al
final, las instituciones públicas no van a tener más remedio que incorporarse
a esta revolución implantando los dispositivos tecnológicos maduros
auspiciados por las empresas privadas y con valores privados. Para
catedrático citado “el resultado de esta estrategia sería penoso: una
Administración cada vez más anticuada y una adquisición, a última hora,
irreflexiva e improvisada de una tecnología que la va a dejar en manos de
los grandes cuasimonopolios tecnológicos”.
El otro camino, es adoptar una estrategia proactiva. Aprovechar la
revolución tecnológica no solo para renovar su capacidad técnica, sino
especialmente para solventar buena parte de sus problemas conceptuales y
organizativos. La IA y la robótica pueden ser la gran oportunidad para
implantar una renovación institucional y organizativa radical de las
instituciones públicas que contribuya a su adaptación, su relevancia y su
supervivencia en un contexto de gobernanza.

“Es una enorme oportunidad para implantar un nuevo modelo

conceptual que erradique definitivamente el clientelismo y la
corrupción, que mejore la seguridad jurídica y el trato equitativo,
que sea más transparente y más inteligente y, finalmente, que sea
capaz de prestar más y mejores servicios públicos”.

[180]
Para la Unión Europea , por ejemplo, resulta fundamental que las
administraciones públicas, los hospitales, los servicios públicos y de
transporte, los supervisores financieros y otras áreas de interés público
empiecen a adoptar rápidamente productos y servicios que se basen en la IA
en sus actividades, haciendo especial hincapié en los sectores de la atención
sanitaria y el transporte, en los que la tecnología está suficientemente
desarrollada para una adopción a gran escala.
En esta línea, más adelante (Capítulo V) se demostrará de qué manera, a
través de técnicas de IA, la automatización administrativa provoca
consecuencias valiosas, en pos de irrenunciables objetivos para la gestión
pública, como lo son la transparencia, la razonabilidad, la igualdad, la
eficiencia, entre otros.
A su vez, en referencia refiere e a las Administraciones públicas, se ha
destacado que en el proceso para la efectiva implantación de la IA se
observan al menos tres fases:

“a) Automatización robótica de procesos, que afecta

principalmente a elementos burocráticos y rutinarios, resultando
imprescindible en esta fase la digitalización y la implantación de
sistemas automatizados de apoyo a la toma de decisiones. b)
Automatización cognitiva, que implica ya la aplicación real de
inteligencia artificial en sentido estricto, siendo los principales
 desafíos el tipo de información que se estructura en el sistema, y
los criterios utilizados para el diseño de los algoritmos. c)
Inteligencia artificial en su máxima expresión, lo que supone
implantar la informática afectiva, el análisis predictivo y la
utilización de máquinas con capacidad de aprendizaje; donde ya
entran en juego los valores, las premisas ideológicas en las que se
sustenta la tecnología y, en particular, los problemas relativos al
[181]
sesgo de las decisiones” .

Como podrá observar el lector, del análisis de esta caracterización, los

desafíos para el derecho son claramente distintos en función de la fase del
proceso en que nos situemos, y en nuestro país, en nuestra opinión, todavía
ni siquiera podemos ubicarnos en la primera de las etapas aludidas.
Así las cosas, y volviendo con la “actitud” de la Administración, es
imprescindible que las instituciones públicas adopten una estrategia
proactiva, es decir, que se beneficien de la revolución tecnológica, más allá
de la simple digitalización e innovación tecnológica, aprovechando el nuevo
paradigma tecnológico para “ordenar” los distintos modelos y culturas de la
Administración (burocrático, gerencial, regulador y de gobernanza) y
conseguir una mayor fortaleza institucional.
Como se sabe, uno de los principales problemas de las administraciones
públicas contemporáneas es la confusión y la confrontación entre sus
distintos modelos conceptuales. La IA y la robótica presentan una gran
ocasión para alcanzar definitivamente un nuevo y sólido modelo de
Administración pública que sea líquida, abierta, colaborativa, creativa e
innovadora, pero a la vez también sólida, predecible y constante.
Esto lo explica Ramió Matas (a quien traigo nuevamente), para quien la
IA, la smartificación y la robotización pueden contribuir decididamente a
[182]
ordenar “modelos” , que se presentan (aparentemente) en tensión.
Veamos.
Primero, la erradicación definitiva del modelo clientelar. “Los procesos
de smartificación y robotización pueden ejercer de catalizador para
contribuir a la erradicación del modelo clientelar al impedir la
discrecionalidad interesada de los distintos agentes públicos con tendencias
clientelares…”.
Segundo, establecer un renovado modelo burocrático mecanizado:

“La robotización implicará una mecanización virtuosa del modelo

maquinal burocrático y puede asegurar que no opere de manera
defectuosa o discrecional. Además, puede contribuir a evitar en
gran medida la corrupción funcionarial. Por ejemplo, la simple
digitalización de una Administración implica que los documentos
administrativos quedan registrados en todo momento y no se
puedan alterar discrecionalmente y, por tanto, puede evitar las
potenciales manipulaciones interesadas en los procedimientos
administrativos”.

Tercer, implementar un renovado modelo gerencial mecanizado y

smartificado.

“La prestación de servicios y el modelo gerencial también se va a

beneficiar, con igual o con superior intensidad, de la
smartificación o inteligencia artificial. Gracias al manejo de
grandes datos (big data) la prestación de servicios públicos va a
ser mucho más eficaz y eficiente, y el modelo gerencial va a
incrementar su inteligencia institucional. Las ganancias en
calidad, en eficacia y en eficiencia van a afectar todos los
servicios públicos”.

Y cuarto, un modelo de gobernanza inteligente en materia de gestión

smartificado.

“La Administración pública debería disponer de programas

inteligentes de gestión integrada de la información que le
permitiera de manera sencilla controlar la calidad de los servicios
públicos y poder realizar análisis de eficiencia para asegurar que
 las transferencias económicas hacia las organizaciones privadas
sean las más justas”.

Tales conceptos serán ejemplificados en forma concreta a través de la

automatización del acto y procedimiento administrativo (Capítulo V), pero
siempre desde la visión que nos dan la persona humana, su dignidad y los
derechos fundamentales (Capítulo VI). Mientras tanto, sigamos con el
análisis de la IA, pasando a continuación a su aplicación al Derecho.

III. La IA aplicada al derecho. Algunas

dificultades
a) La IA aplicada
El mundo de los negocios no ha vivido una transformación similar a la que
trae la IA (que está reinventando la forma en la que las compañías compiten
y se desarrollan) desde la Revolución Industrial. Cuando se implementen
estas tecnologías de forma integral, ayudarán definitivamente a mejorar la
productividad y a la reducción de costos, impulsando puestos de trabajo
más creativos y generando nuevas oportunidades de crecimiento.
Tenemos algunos ejemplos: 1) Chatbots conversacionales: También
llamados asistentes personales virtuales. Son sistemas de atención al cliente
automatizados, y hoy los podemos usar libremente en una variada gama de
comercios, de negocios e incluso en las entidades bancarias. 2) Predicción
en las compras: Amazon utiliza la IA para anticipar las necesidades de sus
clientes. 3) Generación de noticias: Varias compañías usan IA para escribir
historias simples como resúmenes financieros o resúmenes de deportes. No
se trata de artículos de fondo o piezas de periodismo investigativo, sino de
textos simples basados en datos duros. 4) Motores de búsqueda: Google se
vale de un sistema de inteligencia artificial para interpretar consultas de
búsqueda, basándose en el posicionamiento geográfico, intereses y
búsquedas previas. 5) Exámenes médicos a distancia: Sistemas que tras
analizar datos pueden diagnosticar enfermedades. 6) Reconocimiento Facial
Biométrico: La biométrica es una aplicación de IA que aporta a los
sistemas inteligentes la capacidad de recopilar datos sobre características
faciales y demográficas. Así, las máquinas inteligentes pueden adaptar sus
respuestas analizando diferentes identidades y respuestas emocionales.
En la actualidad las herramientas con IA son un gran apoyo para los
procesos industriales, ya que ayudan a generar un mayor rendimiento en el
área donde son usadas. Y los campos de aplicación de la IA, son
numerosísimos. Entonces, repasemos algunas áreas de IA aplicada.
En la asistencia sanitaria. El objetivo es mejorar la atención a los
pacientes y reducir los costos. Las empresas están aplicando el aprendizaje
de máquina para hacer mejores diagnósticos y más rápidos que los seres
humanos. Una de las tecnologías sanitarias más conocidas, y ya mencionada
aquí, es IBM Watson. Entiende el lenguaje natural y es capaz de responder a
las preguntas que se le formulan. El sistema extrae datos de los pacientes y
otras fuentes de datos disponibles para formar una hipótesis, que luego
presenta con un esquema de puntuación de confianza. También puede
traerse a colación las apps que, a través de un cuestionario, puede
determinar posibles casos de enfermedad, como el coronavirus Covid-19.
En los negocios y en la comercialización. La automatización de procesos
robóticos se está aplicando a tareas altamente repetitivas que normalmente
realizan los seres humanos. Los algoritmos de aprendizaje automático
intentan descubrir información sobre cómo servir mejor a los clientes. Un
ejemplo son los chatbots se han incorporado en los sitios web para ofrecer
un servicio inmediato a los clientes.
En la educación. La AI puede automatizar la calificación. La IA permite
evaluar a los estudiantes y adaptarse a sus necesidades, ayudándoles a
trabajar a su propio ritmo. Los tutores pueden proporcionar apoyo adicional
a los estudiantes, asegurando que se mantengan en el buen camino. De esta
forma podría cambiar dónde y cómo los estudiantes aprenden, tal vez
incluso reemplazando a algunos maestros.
En las Finanzas. Existen aplicaciones que pueden recopilar datos
personales y proporcionar asesoramiento financiero. Por ejemplo, hoy en
día, el software realiza gran parte de las operaciones en Wall Street.
En la fabricación y manufactura. Esta es un área que ha estado a la
vanguardia de la incorporación de robots en el flujo de trabajo. Los robots
industriales solían realizar tareas únicas y estaban separados de los
trabajadores humanos, pero a medida que la tecnología avanza eso ha
cambiado.
Y en el ámbito Jurídico, que es nuestra especial preocupación. Como
sabrá el lector, el proceso de descubrimiento, a través de la revisión de
documentos judiciales es a menudo abrumador. Automatizar este proceso
permite un mejor uso del tiempo y un proceso más eficiente. Seguidamente,
nos detendremos en este aspecto.
b) La IA aplicada al Derecho
La IA aplicada al Derecho, o también conocida como “Artificial Legal
Intelligence” (ALI), se centró fundamentalmente en el estudio de la
automatización del razonamiento jurídico y de la solución a los problemas
jurídicos.
La capacidad de la IA para extraer, compilar y aportar soluciones es
infinitamente superior a la inteligencia humana en todos los campos y
específicamente en el ámbito jurídico, en el cual los sistemas de cognitive
computing aplicados al razonamiento jurídico permiten que la IA extraiga el
conocimiento del cuerpo compuesto por leyes, fallos, artículos,
comentarios, etc. proporcionando una solución que explica y argumenta
jurídicamente una o varias soluciones alternativas respecto de casos
[183]
concretos, o bien, realiza predicciones de resolución .
En estos días ya casi no se debate sobre la necesidad de la utilización de
la IA en el ámbito de las decisiones jurídicas, aunque lo que sí está en
estudio son los distintos modelos computacionales para la argumentación
jurídica.
[184]
Comenta Navas Navarro que hasta la fecha se conocen dos modelos
computacionales aplicados al razonamiento jurídico: por un lado, los
sistemas expertos basados en la lógica formal mediante el suministro de una
serie de reglas, y, por el otro, los sistemas expertos de extracción de
información conceptual y el Cognitive Computing. Los primeros son
sistemas automáticos de extracción de la información legal relevante sobre
la base de asociar conceptos presentes en un texto o documento con los
conceptos necesarios para resolver el problema jurídico presentado; el
segundo consiste en la colaboración entre el algoritmo y el humano, de
manera que no solo selecciona la información, la ordena, la resume en la
forma más conveniente para el humano sino que, además, explora e
interactúa con los datos de maneras no previstas aportando soluciones
creativas al problema jurídico que se le presenta.
Los dos sistemas difieren en la fuente de la que se extrae el conocimiento
pues, en el primer caso, lo aporta el humano mediante reglas construidas
por los ingenieros en código binario y que introducen en la máquina;
mientras que, en el segundo caso, el conocimiento lo extrae el propio
sistema del cuerpo de textos legales, jurisprudenciales y otros documentos
proporcionando, con posterioridad, una solución que explica y argumenta
jurídicamente uno o varios casos y, además, hace predicciones.
Así las cosas, gracias a los avances en IA, pueden “automatizarse” en el
ámbito jurídico, solo para nombrar algunos sin ánimo de taxatividad, el
análisis, extracción de información relevante, predicción, generación de
argumentos escritos, redacción de documentos contractuales, informes o
memorándums, planificación de tareas en los despachos de abogados o en
los juzgados, redacción de actos administrativos, todo tipo de resoluciones y
de normas legales, análisis de tendencias en relación con cambios legales o
doctrinales, o cambios de tendencias en los mercados que permitan pensar
en un cambio en la estrategia inversora, predicciones, resolución de
demandas mediante técnicas automatizadas de solución alternativa de
conflictos, control de calidad y aplicabilidad posterior de textos legales,
entre muchos otros.
c) El nacimiento de la IA aplicada al Derecho
Desde el principio, la IA aplicada al Derecho nació con el objetivo de
solucionar un conjunto de problemas específicos que se plantean en el
ámbito jurídico, conocidos por todos nosotros y que todavía persisten: la
organización de las grandes bases de datos, la clasificación y ordenación de
los textos jurídicos que varían permanentemente en el tiempo (leyes,
reglamentos, sentencias, etc.), la categorización de distintos tipos de
actores, usuarios, etc., el modelado de las operaciones realizadas por los
agentes, los modelos de razonamiento jurídicos, entre muchos otros.
Con el surgimiento de las grandes bases de datos, públicas y privadas, el
interés por los sistemas de clasificación en “bases relacionales” se
 [185]
incrementó, campo que en los años setenta se denominó “jurímetría” ,
para después ser conocido como “informática jurídica”. Detengamos aquí
por un instante.
[186]
Cuenta Patricia Reyes Olmedo –que seguimos en este punto–, que
el jurista norteamericano Lee Loevinger, que en 1949 publica “Jurimetrics.
The Next Step Forward”, fue quien creó el concepto de “jurimetría” para
hacer referencia a la aplicación de la automación para contribuir a la
racionalización del Derecho, escrito que plantea la posibilidad de prever
decisiones jurídicas sobre cálculos de base empírica. En ese texto, el autor,
miembro de un comité antimonopolio en EE.UU., señaló que la tecnología,
usada fundamentalmente para el trabajo de investigación y recopilación de
precedentes judiciales, podría ser aplicada, bajo una metodología científica
para el procesamiento de esa información con fines de previsión de
decisiones jurídicas.
Sin embargo, no puede decirse que se encuentre allí todo el fundamento
de la Jurimetría, pues hasta nuestros días existen diferentes hitos y líneas de
investigación que se han desarrollado en tormo a los sistemas de
recuperación de información legal.
De tal manera, en el año 1961, un informe del “Jurimetrics Committee of
the American Association of American Law Schools”, describe el interés
del Comité en investigar el campo de la Jurimetría y los siguientes temas: a)
Posible utilización de la autoinstrucción (self intructional) en la educación
jurídica, b) uso de la lógica simbólica como instrumento de análisis
(analytics tools) para detectar y controlar ambigüedades sintácticas en
documentos jurídicos escritos; c) usos de computadores y otros métodos de
recuperación automática de información (automatic data retrieval) como
ayuda para la investigación jurídica; d) empleo de la semántica para mejorar
la comunicación legal (comunication en law); e) análisis cuantitativo de los
aspectos de las decisiones jurídicas; f) otras aplicaciones y desarrollos en el
ámbito del Derecho.
A pesar de todo este intento de conceptualización, el término Jurimetría
quedó en la historia del Derecho, motivado en las múltiples polémicas a su
respecto y también a los resultados prácticos que su estudio promovió y que
alcanzan incluso al presente.
 Con el tiempo en Estados Unidos el término Jurimetric cedió ante la
denominación de Computer and Law. Al traspasar las fronteras y llegar a
Europa, su denominación y contenido fue enriquecido con otras
[187]
proyecciones . Por ejemplo, desde Inglaterra, Paul Hoffman, en el
artículo “Lawtomation in Legal Research: Some Indexing Problems”, de
1962, propone la acepción: Lawtomation, haciendo referencia a que este
vocablo es válido para designar la moderna mecanización de la estructura
jurídica de los textos y documentos jurídicos, que constituye el primer paso
y condición necesaria para la total automatización del sistema jurídico. En
España, Mario Losano comienza a trabajar estas temáticas bajo el concepto
de Iuscibernética, reconociendo su aplicación a la documentación, los
registros, la actividad profesional y las decisiones jurídicas.
[188]
Y finalmente, comenta Reyes Olmedo , hacia los años 70 comenzó
en Europa el desplazamiento de los autores hacia el término Informática
Jurídica. En esa primera época la Informática Jurídica se concibió de
manera general, como el uso de las aplicaciones de las tecnologías de la
información y comunicaciones (TIC) en el quehacer jurídico, es decir como
un instrumento o herramienta al servicio del procesamiento, automatización
[189]
y sistematización de la información y actividad jurídica .
Así fue que, en esos años, el profesor italiano de Filosofía del Derecho,
Vittorio Frosini, distinguió lucidamente entre dos tipos de aplicación de la
tecnología informática: la informática jurídica y la informática judicial
propiamente dicha.

“La informática jurídica consiste en la aplicación de las

metodologías de la automatización, como el information retrieval,
al material jurídico: por ejemplo, la búsqueda automática de las
normas, de las sentencias (válida para los sistemas jurídicos
basados en el case law, pero útil también en los sistemas de code
law) y evidentemente, de los textos doctrinales para las
referencias bibliográficas. Existe también la informática judicial
que concierne, en cambio, a los procedimientos de carácter
administrativo, y que incluye la sucesión y la distribución de las
causas y su asignación a los tribunales según criterios objetivos;
 la elaboración de listas en base a índices de referencia en materia
de concursos o competencias (como en el derecho de quiebra), y
[190]
otras formas de racionalización de la actividad judicial” .

Ahora, en estos tiempos, más allá del análisis de la documentación, del

procesamiento de datos, si se quiere, de la “archivística”, actualmente –y tal
como se dijo– la IA aplicada al Derecho se ocupa de determinados aspectos
relacionados con el conocimiento, los conceptos, la argumentación y el
razonamiento jurídico.
Desde entonces, y ya entrado el siglo XXI, la “revolución” ha llegado de
la mano del propio desarrollo de la tecnología, aunque debemos coincidir
que la extensión de la globalización económica y cultural, la convergencia
de las TICs y comunicaciones en Internet, sumado a la generalización del
ordenador personal y cualquier otro tipo de dispositivo, crearon las
condiciones para el desarrollo al que nos estamos refiriendo. Las
instituciones jurídicas, al principio se han adaptado con lentitud al proceso y
a estos cambios, y luego de forma acelerada, aunque no siempre ordenada.
Al igual que las múltiples aplicaciones que la IA ha tenido sobre todo
tipo de ciencias (ingeniería, medicina, etc.) y que han demostrado
resultados satisfactorios, no se trata de sustituir el criterio de un ingeniero,
médico, etc., por un programa, sino ampliar y reforzar su capacidad de
diagnóstico. Y en las ciencias jurídicas, pasa lo mismo, no se busca
reemplazar al juez o funcionario que dicta una resolución, sino habilitarlo
legalmente para que, previa validación, se respalde en las tecnologías
automatizadas para la emisión de un acto administrativo. Se impide
suplantar a lo insustituible (la “persona humana”), sin obstaculizar ni
obstruir un proceso que es imparable (las TICs y la IA en el ámbito de la
Administración y la gestión pública).
Insistimos en que no se trata de sustituir el criterio del Juez (ni del
médico, si estamos en las ciencias médicas) por un programa, sino de
[191]
ampliar y reforzar su capacidad de diagnóstico . Por ello, coincidimos
con Horacio Granero en que
 “La inteligencia artificial constituye un término provocador y
epistemológicamente controvertido: no se trata de hacer
inteligentes a las máquinas, sino de modelizar la inteligencia
racional, o sea tratar de comprender de la mejor manera posible
qué pasa cuando, dentro de una situación compleja, el cerebro
elige de forma silenciosa e invisible la solución que parece más
[192]
razonable entre otras posibles” .

d) Algunas dificultades
1.– El lenguaje y la presentación formal de la norma
Claro está, toda esta actividad automatizada, no está desprovista de diversas
dificultades, que se presentan especialmente en el ámbito del Derecho, y
que se vinculan fundamentalmente a dos tipos: por un lado, lo relacionado
con el lenguaje, y por el otro, la presentación formal de la norma.
Respecto lo primero, puede decirse que hace algún tiempo los
ordenadores pueden reconocer, con un alto grado de precisión, el sentido de
las consultas formuladas por los seres humanos, sin que estos deban utilizar
para ello complejas construcciones sintácticas.
El Procesamiento del Lenguaje Natural es una rama de conocimiento de
la IA que, básicamente, pretende conseguir que una máquina comprenda lo
que una persona expresa mediante el uso de su lengua natural de expresión
(idioma inglés, español, chino, etc.) También puede definirse al
procesamiento de lenguajes naturales –abreviado PLN, o NLP del idioma
inglés Natural Language Processing– como un campo de las ciencias de la
computación, IA y lingüística que estudia interacciones entre las
[193]
computadoras y el lenguaje humano .
Sin embargo, el lenguaje jurídico posee algunas características propias
que aumentan las dificultades de comprensión de las consultas formuladas,
[194]
tales como la vaguedad, ambigüedad y textura abierta del derecho ,
entre otros.
Respecto lo segundo, la manera de modelización de reglas y pautas
jurídicas (codificación vs. dispersión y dinamismo) se presenta como un
problema a resolver a la hora de construir un sistema de IA aplicado al
derecho, ya que la maquina no siempre comprende las diferentes
alternativas que presenta la regulación jurídica en el plexo normativo, ni
muchos menos sus constantes cambios y transformaciones.
2.– La IA y el sistema jurídico
Pero quizás la dificultad mayor que se advierte está relacionada con el
sistema jurídico adoptado, y por consiguiente con la forma de razonamiento
jurídico, lo que se conecta –además– con los modelos tradicionalmente
seguidos en cada país.
En este sentido, ya en el año 2001 Sarra entendía que

“las teorías formalistas del derecho aparecen como las que mejor
resisten una representación formal del conocimiento y, por lo
tanto, favorecerían la utilización de la IA; de hecho, es posible
advertir que tradicionalmente las diferentes aplicaciones
prácticas en la materia implícitamente las reconocen como
basamento, aunque hay quienes sostienen que ello ha conducido a
modelos inadecuados. Por el contrario, las teorías del derecho
que se encuentran en el extremo opuesto como el sociologismo
norteamericano o, más recientemente, el postmodernismo, serían
[195]
ámbitos más hostiles para la aplicación de tales técnicas” .

Ahora bien, continúa la autora citada,

“la IA es una disciplina que tiene como objetivo emular la

inteligencia humana, es decir, lograr la representación de los
modelos de pensamiento. Como consecuencia de esto, muchos
investigadores en IA y derecho se abocan al análisis de los
modelos teóricos descriptivos del razonamiento jurídico y no de
los modelos normativos pues éstos no describen la forma en que el
[196]
razonamiento verdaderamente ocurre” .
 Esto pone en evidencia las exigencias para los sistemas de IA sean cada
vez más representativos de todos los elementos que cuenta y valora el
decisor a la hora de resolver, si es que se quiere “simular”
“representativamente” la conducta humana. Por tal razón, los algoritmos
deben contemplar, además de los hechos y antecedentes fácticos –con
particular detalle–, los Principios Generales del Derecho, los principios y
reglas del Sistema Internacional de Derechos Humanos, normas y reglas
convencionales y constitucionales, el contexto, los precedentes, los aspectos
multi e interdisciplinarios como los económicos, sociales, políticos,
psicológicos, entre muchos otros.
Somos conscientes que la IA puede ser particularmente cuestionada
cuando se trata de aplicar a conflictos en los cuales no puede soslayarse la
fuerte preeminencia de valores. En estos casos, el dilema que se nos
presenta es: si ante un problema que pudiera eventualmente ser solucionado
por un sistema inteligente, querríamos la solución “fría” y “aséptica” del
programa, o, preferiríamos una solución como la que brinda el “juez”,
analizada a la luz de su experiencia personal pasada y de los valores
adquiridos en su socialización dentro de una cultura determinada. No hay
duda de que en la mayoría de los casos elegiríamos la segunda opción, la
solución brindada por el hombre.
Y esta última no debe ser incompatible con la IA, toda vez que lo que
debería ofrecerle al derecho es, simplemente, un sistema que permita al
órgano decisor (pensando en la Administración pública) ampliar su
universo de soluciones posibles para que, en la última instancia, la decisión
siga siendo humana. Para después quedará la posibilidad de revisar la
decisión, o mejor aún, antes a través de la incorporación en el programa de
variables que contemplen estos supuestos, queridos y buscados por la
Autoridad competente.
De todas maneras, huelga decir, una decisión desapegada en valores,
creencias, reglas éticas y/o morales, o cuanto más prefiera el actor, es
igualmente (o lamentablemente más aun todavía) esperable cuando la
argumentación es definida en el caso concreto por una persona humana que
ocupa un cargo en un órgano ejerciendo funciones administrativas, en un
contexto actual de crisis de valores éticos que trasvasa todo el ámbito
estatal, en el cual la falta de transparencia y corrupción navega con
naturalidad.
 En el Capítulo siguiente se analizará de que manera la IA colabora en la
búsqueda la transparencia, razonabilidad, motivación, igualdad, etc., valores
tan caros para nuestro sistema democrático.
3.– Ejemplos de reconfiguración de algunas instituciones
Dicho esto, debemos reflexionar decididamente que las tecnologías, la IA y
la robótica que se basa en algoritmos, nos exige plantear la reconfiguración
de las categorías jurídicas por todos conocidas, pues de lo contario se corre
el riesgo de caer ante la inutilidad del Derecho como principal herramienta
transformadora de las conductas sociales. Tomo dos casos, a modo de
ejemplo.
El supuesto de la contratación empleando agentes inteligentes permite
replantearse cuestiones tales como el error como vicio del consentimiento
en la formación del contrato, habida cuenta que aquel tiene difícil encaje en
la medida en que –en el supuesto dado– no existe persona humana o
[197]
jurídica contratante. De tal manera, para la doctrina especializada , la
cuestión estriba por determinar contractualmente un sistema de justa
distribución de riesgos entre las partes (ej. riesgo por el conocimiento
defectuoso del contexto que se tomó en cuanta para arribar a la decisión).
También, puede perfectamente plantearse supuestos jurídicos de “derecho
de autor digital”. Si bien es verdad que la creatividad que la legislación
atribuye siempre es a favor de una persona humana. También lo es que los
estudios en creatividad computacional demuestran que los entes inteligentes
son capaces de emular el cerebro humano en cuestión de ingenio y producir
obras mucho más originales. Se trata de los denominados “agentes
creativos”. La obra así concebida no se protege por el Derecho más allá del
programa de ordenador que le ha servido de base en la medida en que debe
proceder del ingenio humano y no de una máquina. Sin embargo, existen
jurisdicciones en las que los computer generated works se consideran
“obras protegibles” atribuyendo el ejercicio de los derechos de autor a
[198]
aquella persona que los encargó .
 CAPÍTULO V
Inteligencia artificial y automatización de la
administración

I. Inteligencia artificial y derecho administrativo

A lo largo de este capítulo procuraremos algunas ideas básicas respecto de
que manera la IA impacta en el Derecho administrativo, y cómo éste
debería adaptarse para poder potenciar las ventajas de aquella, y controlar
sus efectos no tan beneficiosos.
Cabe señalar, por cierto, que la relación entre la automatización,
maquinización (cuanta otra novedad que se refiera a estas nuevas
realidades) y el Derecho Administrativo nunca fue extraña a la clásica
doctrina, y en este punto puede destacarse –entre importante bibliografía–
un revelador y anticipatorio trabajado del profesor español Tomas Ramón
Fernandez del año 1971 en el cual ya avizoraba las tecnologías de
automatización para el dictado de resoluciones, por cierto, tomando partida
por su inconveniencia, a través de una mirada algo pesimista. Para el autor

“La electrónica al servicio del Derecho será cualquier día,

próximo o lejano, una realidad como elemento mecánico de ayuda
a la investigación, como elemento receptor y emisor de
información; pero la noble función de juzgar no puede ser
mecanizada. Seguirá siendo atribución del hombre preparado
para ella” y a renglón seguido aclara “La función del ordenador
va a ser exclusivamente la de informar. El ordenador no va a
hacer sentencias ni va a sustituir a los investigadores”, aunque
reconoce en la nota al pie de página n° 2 de ese texto doctrinal
que “Evidentemente podría hacer tanto una cosa como la
[199]
otra” .
 Tampoco deja de llamarnos la atención una recensión bibliográfica del
año 1969 que firma Gonzalez Navarro, comentando una obra de Derecho
Administrativo de Aurelio Guaita, a través de la cual, destacando el trabajo
paciente y constante del autor, el primero se pregunta si no sería posible
recurrir al empleo de una máquina para facilitar la tarea del investigador de
la penosa búsqueda de la bibliografía, y dice:

“Desde luego, la idea parece factible. Tal vez, incluso, se ha

realizado ya con éxito alguna experiencia en este sentido…El
cerebro humano –se ha dicho– es intensamente complejo, quizá
tan complejo como 10.000 computadores actuales combinados. En
el futuro, si este grado de complejidad se consigue con un solo
computador, quizá se pueda averiguar si puede competir con el
poder de pensamiento del cerebro humano. Sin embargo –se
añade también–, el problema de programar este supercomputador
no habrá desaparecido. Las limitaciones del hombre que haya de
programarlo pondrán siempre un límite a la inteligencia que se
pueda simular por la máquina. La ´inteligencia artificial´ de un
computador obedece a los dictados, del hombre, y hace falta
mayor inteligencia para disponer que para ejecutar. El hombre,
como creador, estará siempre en la cúspide… Lo que queremos
subrayar al traer a colación las anteriores palabras, es que el
trabajo del hombre no puede ser nunca eliminado. La máquina
nos hará ganar en rapidez, en precisión, pero el hombre será
[200]
siempre insustituible” .

Poco más de una década más tarde, el profesor italiano Vittorio Frosini,
analizando la Administración pública de entonces, visualizó con total
lucidez que “El ordenador electrónico, provisto de “inteligencia artificial”,
es el instrumento de que el hombre puede valerse para gobernar las
máquinas y los sistemas de organización en los que éstos han sido
insertados”. Por lo que resulta evidente, reflexiona el autor citado, que el
interés de la Administración pública de las sociedades industriales
avanzadas por el nuevo sector de la tecnología electrónica y de sus
aplicaciones constituye el carácter innovador y distintivo de los servicios
administrativos de nuestros tiempos, tratándose de un proceso que
[201]
denomina “automatización administrativa” .
Podrá verse, por lo tanto, que desde la década del ´60, por lo menos, el
debate sobre la automatización en la Administración ronda –en líneas
generales– alrededor de los mismos ejes: las tecnológicas que se vienen, los
beneficios que traen, cuales son las actividades que pueden desarrollar, y el
rol de la persona humana en todos esos procesos.
Si partimos de una clasificación de períodos de evolución de la Justicia
que se basa en la conocida categorización de etapas de las distintas
[202]
revoluciones , pero aplicada –por nosotros– al ámbito de la
Administración pública, asimilando –mutatis mutandis– sentencia con acto
administrativo, juez con funcionario y proceso con procedimiento,
podremos caracterizar a la Administración 1.0 como la correspondiente a la
etapa clásica decimonónica –todavía vigente–, basada en formato en papel,
con expedientes y archivos físicos, presencial y de trámites rígidos. La
Administración 2.0, por su lado, denota un mejoramiento respecto su
antecesora, ya que agrega herramientas electrónicas para el mejoramiento
de su funcionamiento y la comodidad de los agentes públicos (teléfonos,
computadoras, etc.). Pero el primer

“salto cuali-cuantitativo más relevante se da con el paso a la

Justicia 3.0 –para nosotros Administración 3.0–, donde el
diferencial lo hace la revolución digital mediante el paso de la
aparatología mecánica y analógica a la tecnología digital. Aquí
se abren paso las tecnologías de la información y las
comunicaciones con el revolucionario arribo de las computadoras
personales y de su intervinculación a través de ´redes´:
[203]
internet” .

Ahora bien, el segundo salto, se presenta con el desarrollo de la IA, por

cuanto a través de la innovación se puede simplificar y eficientizar
enormemente la actividad administrativa. La Administración 4.0, edificada
sobre su antecesora, irrumpe a través de tecnologías disruptivas de alto
impacto, incluyendo la robótica, la nanotecnología, la computación cuántica
e internet de las cosas, ente otras.
Como se advierte, y anticipándonos en nuestras conclusiones, no se trata
de suplantar en forma abrupta ni definitiva la intervención de la persona
humana. Todo lo contrario, buscar la introducción de agentes inteligentes de
manera gradual pero nunca totalmente.
Las complejidades se presentan, no solo a la hora de la imposibilidad de
llegar a todos los administrados con este tipo de nuevos “modos”, sino
también los riegos que para ellos generan en sus situaciones jurídicas
subjetivas. La disponibilidad de una enorme masa de información, sumado
a la cantidad de datos personales (inclusive sensibles), pone al ciudadano en
el riesgo de una absoluta indefensión ante el poder público. De allí
entonces, debe buscarse un equilibro entre los beneficios de las tecnologías
disruptivas y los derechos fundamentales. En ese camino transitaremos.
Vayamos entonces al análisis jurídico de una de las principales
incidencias prácticas y concretas que hoy tiene la IA sobre los institutos del
Derecho Administrativo, sin perjuicio que en el futuro se den muchas más
relaciones. Estamos haciendo referencia, a las decisiones administrativas
automáticas, por un lado, y a la automatización del procedimiento, por el
otro.

II. Acto administrativo automatizado

a) Concepto y alcance
La Administración electrónica, como anticipábamos, trae consigo nuevos
retos. Uno de los más importantes es el relativo a la construcción del
concepto y del régimen jurídico de la actuación administrativa realizada
íntegramente por medios electrónicos, sin intervención de persona física,
denominada en el Derecho Comparado como “actuación administrativa
automatizada”.
Por ejemplo, la actuación administrativa automatizada ha sido definida
por la Ley N° 11/2007, de 22 de junio, de “Acceso Electrónico de los
Ciudadanos a los Servicios Públicos” de España –LAE– (hoy
 [204]
derogada ) como “actuación administrativa producida por un sistema
de información adecuadamente programado sin necesidad de intervención
[205]
de una persona física en cada caso singular” .
Llama la atención, en este sentido, que la LAE hable en todo momento de
actuación administrativa automatizada, en lugar de hacer referencia a acto
administrativo automatizado.

“La razón es sencilla –y avala la interpretación que se está

argumentando en estas páginas–: lo relevante de aquélla no es el
producto, que no deja de ser un acto administrativo normal y
corriente, sino la forma en que se adopta, la actuación que
[206]
permite llegar a ese producto final” .

Por su lado, en régimen español vigente (Ley N° 40/2015 “Régimen

jurídico del sector público”, aplicable a todas las administraciones locales),
define ahora a la “actuación administrativa automatizada”, como “cualquier
acto o actuación realizada íntegramente a través de medios electrónicos
por una Administración Pública en el marco de un procedimiento
administrativo y en la que no haya intervenido de forma directa un
[207]
empleado público ”.
Así, la decisión administrativa automatizada implica un acto
administrativo como cualquier otro, y solo la diferencia radica en la fuente
de producción: en aquel caso corresponde a un sistema de información
programado y no a una persona humana. Ahora bien, la ausencia de la
persona de “carne y hueso” no es total, sino “en cada caso singular”
(conforme esa definición), esto es, en cada concreto supuesto en que se hace
uso de ese sistema de información para desarrollar la correspondiente
actuación administrativa exigida por el ejercicio de la potestad, ya que antes
y en forma general la persona humana intervino otorgando competencia y
validez al sistema, incluso, a través también del diseño del motor
[208]
informático .
Efectivamente, un acto administrativo adoptado –aun en su integridad–
por medios electrónicos puede consistir en una declaración de voluntad
(adjudicación de un contrato por subasta electrónica); en una declaración de
juicio (valoración de los méritos de un candidato en el marco de un proceso
de evaluación de su actividad); en una declaración de conocimiento
(certificado electrónico de empadronamiento); o en una declaración de
deseo (propuesta de sanción por infracción en materia de tráfico); entre
[209]
muchos otros .
De esta manera entonces, tal como lo sostiene Delpiazzo, es
perfectamente posible que determinados tipos de actos administrativos
puedan ser dictados por el computador como “nuevo funcionario”, en la
medida en que sean programados o que la información contenida en la base
de conocimientos de un sistema experto contenga previsión de los supuestos
[210]
necesarios para su aplicación en el caso concreto .
Así lo ha reconocido expresamente el Tribunal en lo Contencioso
Administrativo de la República de Uruguay al analizar el sistema
informático vigente en el ámbito aduanero y considerar que, “cuando la
liquidación de las obligaciones surge de criterios adoptados por la
Administración y vertidos al software”, “a través del referido software –ya
sea para liquidar una operación o para impedirla– se materializa un acto
particular o subjetivo de la Administración”. En términos más explícitos
sostuvo que “este sistema informático aplica en forma automática el
régimen tributario aduanero que corresponde a la operación, el cual ha
sido previamente determinado por la Dirección Nacional de Aduanas…” y

“en virtud de ello, no cabe duda alguna que, como

correctísimamente afirma el Procurador del Estado, la
liquidación de las obligaciones surge de criterios generalmente
adoptados por la Administración y vertidos en el referido
software, lo cual lleva a concluir que en definitiva el programa
informático contiene unos criterios que constituyen una expresión
de voluntad unilateral de la Administración que produce efectos
[211]
jurídicos” .
 También en materia tributaria, recientemente el Consejo Constitucional
[212]
francés, a través de una sentencia del 27 de diciembre de 2019 , se
inclinó por la constitucionalidad de la regulación introducida por el
legislador a través de la Ley de Presupuestos 2020, que autoriza la
utilización de un mecanismo o herramienta de IA con fines de control
fiscal. La normativa aprobada otorga a la administración la potestad de
recabar de forma automatizada y utilizar determinados contenidos
accesibles públicamente a través de ciertos operadores de plataformas de
internet (redes sociales, plataformas de intermediación de venta de bienes y
servicios), con el fin de investigar infracciones fiscales y aduaneras. Se ha
señalado que, para resolver en ese sentido, el decisorio establece
condiciones de compatibilidad del mecanismo con los derechos
fundamentales de los ciudadanos, entre los cuales se precisó cuál es el
ámbito de aplicación o situaciones en las que puede utilizarse el
mecanismo: datos públicos en línea de una serie de redes sociales y
plataformas de comercio electrónico e intermediación, mediante una doble
condición legal para la captación de los datos, en el sentido de que el
contenido debe ser accesible libremente a través de un servicio público de
comunicación en línea: por un lado, se excluye la captación de datos
respecto de los cuales se requiere acceso con contraseña o registro en una
página web, y, por otro lado, se requiere que exista voluntariedad sobre su
divulgación pública por parte de los usuarios de tales redes sociales o
plataformas.
De igual manera, la bibliografía comenta un caso por el cual un
condenado cuestionó la sentencia de imposición de una condena de
cumplimiento efectivo, determinada por parte de un tribunal del Estado de
Wisconsin a través del algoritmo de IA denominado COMPAS,
agraviándose en la violación del debido proceso al ser sentenciado en base a
un programa que se desconoce cómo obtiene el resultado, la violación al
derecho del acusado de obtener una sentencia individualizada debidamente
fundada por los juzgadores, y la utilización en forma incorrecta de
información que abastece al software, tal como la edad, genera, raza,
situación socioeconómica de las personas para generar estigmatización de
selectividad criminal.
Por su lado, el tribunal del circuito de ese Estado explicó que sus
consideraciones sobre la puntuación de riesgo arrojada por COMPAS
fueron respaldadas y fundadas por el juzgador, a su vez en otros factores
independientes de los brindados por el algoritmo de inteligencia artificial.
Asimismo, dicho tribunal consideró que el informe de riesgo del sistema de
IA, fue correcta y apropiada ya que el tribunal, al no fundar la condena
únicamente en los resultados arrojados por el algoritmo de IA, sino fundarla
[213]
también en otros factores de riesgo .
Por último, en este punto, resulta absolutamente trascendente destacar
que la automatización administrativa muchas veces se logra mediante los
[214]
datos e información que aportan los particulares en el trámite , o si se
quiere, existe una suerte de delegación de competencia pública a favor del
ciudadano, por lo que en estos sistemas más que nunca se torna visible el
principio de colaboración del administrado en la Administración. En la
mayoría de los casos, la decisión automatizada surge sobre la base de
elementos que los mismos interesados introducen, lo que es importante,
además, no solo desde la teoría de los actos propios, sino también desde la
propia actividad procedimental de interesado que insta el trámite.
Finalmente, en el caso de ser una actividad administrativa realizada de
oficio o “espontanea” de la Autoridad administrativa, ésta encuentra como
principal límite que la decisión automatizada no puede ser exclusivamente
motivada por datos extraídos del “perfilamiento” digital del usuario. En el
Capítulo VI, volveremos con este último punto.
b) Críticas desde la teoría del órgano y del acto administrativo
El evento de la adopción de un acto administrativo automatizado, sin
embargo, ha llevado a no pocos autores a plantear la posibilidad de la
superación de la teoría del órgano y la redefinición del concepto de acto
administrativo.
Efectivamente, y dicho de forma muy sintética, la total ausencia de
intervención de persona física en la adopción de una resolución
administrativa parece no encajar en la construcción dogmática de ambos
conceptos. El órgano administrativo es el resultado de una agrupación de
funciones en torno a la persona de su titular; el acto administrativo es una
declaración de voluntad, cualidad exclusiva del ser humano. En la actuación
automatizada la función la ejerce una máquina y el acto resultante, como
producto de una máquina, no puede ser entendido como expresión de
voluntad, porque carece de ella.
Por ejemplo, Parada señala –a lo que no coincidimos– que no sería
posible considerar resolución administrativa la adoptada de forma
automatizada, porque las máquinas carecen de voluntad:

“los actos administrativos son manifestaciones de voluntad y las

máquinas, al no tenerla, carecen de posibilidad de producir actos
jurídicos y lo que reflejan no es más que el resultado de los datos
y programas que se introducen en ellas, por lo que la producción
jurídica sigue estando referida a los funcionarios y autoridades
[215]
que se sirven de aquéllas” .

Para Uríos Aparisi y Alamillo Domingo la adopción de los actos

administrativos como resultado de un proceso automatizado en el que se ha
desplazado completamente toda intervención humana directa produce una
quiebra en la concepción tradicional del acto administrativo, y lleva a la
[216]
necesaria reforma de la teoría general del órgano administrativo . En
esta misma línea, Delgado García y Oliver Cuello hablan de una quiebra en
el concepto tradicional de acto administrativo como instrumento que
encierra una manifestación de voluntad, conocimiento o juicio del órgano
[217]
administrativo .
Y entre nosotros, Lacava, admite que el acto administrativo automatizado
adoptado sin intervención de ser humano, podría no subsumirse en el
concepto tradicional del acto administrativo, toda vez que por lo menos
[218]
falta uno de sus elementos esenciales: la voluntad .
No obstante, para Martín Delgado, a quien seguimos en el tema, la
actuación administrativa automatizada resulta perfectamente compatible
con la teoría del órgano y con el concepto actual de acto administrativo.

“El hecho de que la decisión haya sido adoptada por una máquina
de forma automatizada no implica que la actuación se le impute a
 ella, sino que la autoría del acto recaerá sobre el órgano
administrativo que ejerce la potestad y tiene encomendada la
competencia. La imputación no deja de ser una ficción normativa:
la autoría de una actuación llevada a cabo por una persona –o,
en este caso, por una aplicación informática– integrada en un
órgano de una Administración pública se atribuye a esta última
[219]
porque así lo impone la ley” … “la teoría del órgano, por
tanto, sigue vigente y no hay quiebra alguna del elemento
subjetivo del acto administrativo, pues la conexión entre actividad
automatizada y órgano se produce a través del uso de un sistema
[220]
para firmar y autenticar el ejercicio de la competencia” .

Y respecto lo segundo, el autor niega aquella postura por la cual se señala

que no sería posible considerar resolución administrativa la adoptada de
forma automatizada ya que las máquinas carecen de voluntad. Frente a ello
aclara que

“la voluntad de la que es expresión un acto administrativo no es

una voluntad de persona física, sino voluntad procedimental,
voluntad normativa, una hipóstasis: el órgano administrativo, a
través de las personas –o, en su caso, máquinas– que lo integran,
procede a emanar una declaración de voluntad, juicio,
conocimiento o deseo en ejecución de una norma para la
[221]
satisfacción del interés general” ,

de tal manera que se está ante un acto administrativo como cualquier

otro, lo que cambia es la manera de tomarse la decisión y las formas, en este
[222]
caso, digitales .
c) Limitaciones. Actividad reglada y discrecional
Ahora bien, no todo tipo de actuación puede ser automatizada, toda vez que
la misma, pese su indiscutible utilidad y realidad cada día más presente,
encuentra no pocas limitaciones. En primer lugar, debemos destacar que no
cabe automatización del ejercicio de potestades reglamentarias, dado que
[223]
solo nos referimos a actos administrativos individuales . De igual
manera, estamos refiriendo siempre a actuaciones formalizadas, por lo que
–obviamente– no es posible la automatización de actividad puramente
material.
Claro está, esta posibilidad nos lleva a la derivación que la IA adopte
actuaciones administrativas formalizadas, tanto antes de iniciar un
procedimiento administrativo (referido a actuaciones preliminares), durante
el procedimiento administrativo (adopción de medidas cautelares, petición o
generación de informes, por ejemplo) y en la terminación del procedimiento
(dictar la propia resolución definitiva).
Pero el segundo límite, que nos genera todo tipo de perplejidad, es el que
viene determinado por la naturaleza de la potestad ejercida.
Desde luego, parece indiscutida la posibilidad de que la IA produzca
decisiones automatizadas en relación con potestades regladas, como señalan
García De Enterria y Tomás Ramón Fernandez:

“la Ley puede determinar agotadoramente todas y cada una de las

condiciones de ejercicio de la potestad, de modo que construya un
supuesto legal completo y una potestad aplicable al mismo
también definida en todos sus términos y consecuencias (por
ejemplo, jubilación por edad de los funcionarios, ascenso por
antigüedad, liquidación de un tributo –aplicación de una cuota
establecida por la Ley a una base fijada sobre un hecho imponible
determinado– etc.). En estos casos, como siguen destacando estos
autores “opera aquí la Administración de una manera que podría
[224]
llamarse automática” .

Cuando esa actuación es reglada, entonces, no existen dudas. El acto

surge como consecuencia de ciertos supuestos objetivamente constatables,
y, por ende, programables. En estos casos, las posibilidades son claras: si se
cumple el supuesto de hecho previsto en la norma, se aplica la consecuencia
jurídica en ella contenida y, mediante este simple proceso, se satisface el
interés general. En estos casos, tal proceso intelectivo puede ser
desarrollado por una persona o por una máquina, sin que ello suponga
alteración alguna en el resultado final en cuanto al aspecto relativo a su
[225]
definición .
En cambio, en materia de actividad discrecional de la Administración, la
discusión es mayor, habiendo incluso expresado la doctrina en contra de la
automatización cuando lo que se trata es de la configuración de la expresión
estatal ante potestades de aquel tipo.
Para la doctrina clásica antes citada

“La existencia de potestades discrecionales es una exigencia

indeclinable del gobierno humano: éste no puede ser reducido a
una pura monocracia objetiva y neutral, a un simple juego
automático de normas, contra lo que en su tiempo espero la
entelequia social y política de la Ilustración (y como hoy, en cierto
modo, alimenta la más vulgar fe en la informática y los
[226]
ordenadores)” .

Más recientemente, autores como Uríos y Alamillo han expresado que “la
resolución automatizada de procedimientos administrativos habría de ser
excepcional y debidamente justificada”, lo que también les lleva a excluir
esta posibilidad allí donde exista discrecionalidad y a limitarla, en
[227]
consecuencia, a los supuestos reglados . O, en todo caso, tal y como
defienden Delgado García y Oliver Cuello, siguiendo a Cervantes, en
relación con procedimientos sencillos, en los que el sentido de la resolución
viene determinado por la aplicación automática de unos parámetros ya
delimitados y no hay margen alguno de desvío respecto de la resolución que
hubiera adoptado el órgano administrativo por medios convencionales. Ello
conduce a delimitar el marco del empleo de las TIC en el proceso decisorio
[228]
al ejercicio de potestades regladas .
En una posición más intermedia, Martín Delgado explica que,
 “dado que la actuación administrativa automatizada supone
parametrizar los elementos configuradores de la decisión
administrativa mediante la introducción de los criterios que la
aplicación informática tendrá en cuenta y manejará para la
adopción de la resolución”, “no debe descartarse el uso de
sistemas de información en el ejercicio de potestades
discrecionales en las que la discrecionalidad sea de baja
[229]
intensidad”, refiriéndose a la discrecionalidad técnica .

No obstante, también respecto a los actos que son producto de actividad

discrecional es posible su automatización mediante la implementación de
sistemas expertos capaces de emular la conducta de un experto humano
[230]
dentro de un dominio limitado a partir del llamado “razonamiento
[231]
cibernético” (programas, algoritmos, etc.) .
Tengo para mí que la utilización de la inteligencia artificial al Derecho
Administrativo, y con ello, la automatización de gran parte de la expresión
de voluntad decisoria, tendrá razón de ser justamente ante el ejercicio de
actividad a través de criterios de oportunidad, mérito y conveniencia, en
donde justamente los motores –mediante la aplicación de logaritmos–
servirán para reducir la discrecionalidad administrativa. Y esto es así,
porque en la actividad reglada no hay dudas, y sea por medios
convencionales o tecnológicos, la decisión será única. Si la inteligencia
artificial implica una tecnología predictiva, entonces en la actividad reglada
no habrá nada para predecir. En cambio, sí será de verdadera utilidad en
[232]
materia de actividades discrecionales .
Coincidimos con Granero en que

“Hoy podemos saber, con una certeza bastante aproximada a la

realidad, cuál es la tendencia de los Tribunales en la resolución
de un tema –léase resoluciones para nosotros–, y la probabilidad
de un resultado favorable o desfavorable y en cuestión de
segundos informarle al cliente las perspectivas de su petición.
 Ciencia ficción, no, realidad gracias a la inteligencia artificial.
[233]
Intentaremos ver cómo ello es posible” .

El esfuerzo de parametrización antes dicho, tendrá como consecuencia la

predicción de la conducta estatal, es decir, la tecnología anticipa al
administrado lo que sucederá, y la IA servirá –por lo tanto– para reducir la
arbitrariedad y mejorar el control y trasparencia sobre la actuación
administrativa. No tenemos dudas que la IA aplicaba al ámbito de la
Administración, implica un instrumento efectivo para evitar, o por lo
menos, reducir, acciones caracterizadas por el oscurantismo público.
En esencia, afirma el catedrático español Ramió Matas,

“La introducción de las nuevas tecnologías constituye, en sí

misma, una herramienta de prevención y lucha contra la
corrupción, la trazabilidad de las actuaciones electrónicas, y la
seguridad que rodea a su gestión favorece la confianza en la
gestión, y la introducción de mejores sistemas de control. Sistemas
de control que pueden aplicarse a sectores tan en riesgo y bajo
sospecha como la contratación pública. Como ejemplos podemos
citar los sistemas de alerta temprana impulsados por los pactos
de integridad en la contratación impulsados por Transparencia
Internacional España… y el caso de la digitalización de la
[234]
Administración” .

Y yendo un poco más específicamente a la lucha contra la corrupción y

aplicación de máximos estándares de transparencia, la IA puede servir para
extraer de esas grandes masas de datos información relevante y, en lo que
ahora nos importa, útil para identificar riesgos de corrupción y concretar
políticas de integridad. El uso de big data y de la IA para la detección de
riesgos de corrupción puede ser muy útil para prevenir la “mala
administración” y la corrupción, a través de la definición de indicadores. La
herramienta podría implicar un sistema de evaluación de riesgos: la
investigación de factores de riesgo de mala administración, establecer un
sistema de alertas, que integre una base de datos, y un sistema lógico e
informático de procesamiento de datos basado en algoritmos, que dará lugar
a mapas de evaluación de riesgos, planes individuales de autoevaluación,
[235]
entre otros .
En definitivita, la automatización de la actividad administrativa, a través
de tecnologías de IA, ayudará al decisor, y dará plena efectividad a los
principios de transparencia, igualdad, confianza legítima, seguridad y
previsibilidad, entre otros.
d) La “ultima” palabra es la del “ser humano”
Ahora bien, esa “fe moderna”, casi una necesidad histórica de trasladar el
pensamiento humano a una máquina, a la que nos hemos referido cuando
analizamos historia de la IA, nos puede llevar a una situación extrema por la
cual, gracias a mecanismos de aprendizaje automático y profundo y otros
avances en marcha, se podría dar lugar –en teoría– a la substitución de la
ponderación basada en criterios no jurídicos que pueda realizar el decisor
humano.
Pero que esa operación sea posible técnicamente por los avances de la
tecnología, no significa que deba ser siempre deseable. Existen límites que
deben establecerse a la IA en el proceso de toma de decisiones
discrecionales, no tanto por limitaciones tecnológicas, sino de oportunidad,
mérito y conveniencia al deberse establecer una “reserva” para que ciertas
decisiones sean tomadas por humanos, lo que autores como Ponce Solé
llaman “reserva de humanidad”: “en el ámbito de decisiones discrecionales,
la actividad administrativa sólo puede ser semi–automatizada, no
totalmente automatizada. La IA podrá hacerse servir como apoyo, pero la
[236]
ponderación final que conduzca a la decisión debería ser humana” .
A medida que la concesión normativa de potestades supone la entrada de
apreciaciones subjetivas basadas en criterios extrajurídicos (potestades
regladas que exigen interpretación de conceptos, conceptos jurídicos
indeterminados valorativos, discrecionalidad) se abren al decisor público
una pluralidad de alternativas en el servicio al interés general.
Ya sea que en determinados supuestos, elegidos razonable y
justificadamente (sin arbitrariedad, ni discrecionalidades), o ya sea porque
vuelven las actuaciones al decisor administrativo –o su superior jerárquico–
ante impugnaciones administrativas, existen casos y supuestos donde, de
una u otra manera, el decisor “persona humana” (órgano persona) ocupando
un cargo (órgano jurídico) resuelve él mismo en el caso concreto respecto la
suerte de situaciones jurídicas subjetivas, sin la “delegación” que supone el
programa. Es así, donde, graficamos, la “ultima” palabra la tiene el
funcionario humano.
Aquí es donde la doctrina introduce el concepto de “empatía”, señalando
que

“Entre los problemas, sobre todo queremos llamar la atención

sobre cómo el ejercicio de la discrecionalidad implica la
necesidad de empatía. En ocasiones, al deber apreciarse en
ocasiones conceptos jurídicos valorativos como la buena
conducta, la buena fe, el ejercicio de la equidad en la revisión de
oficio o la revocación, por ejemplo. En el ejercicio de
discrecionalidad hay un importante papel de la empatía en esa
consideración de los hechos, intereses y derechos relevantes a
considerar y sopesar. El decisor público debería tener la
capacidad de ponerse en la piel de los interesados, participantes y
posibles afectados por la futura decisión, pues solo así podrá
ponderar correctamente, para el buen ejercicio de la
[237]
discrecionalidad” .

A diferencias de las personas humanas, la IA no tiene un perfil

psicológico, cultural, social y emocional. Si bien es verdad que, en campos
acotados, la IA tiene mayor capacidad de almacenamiento, procesamiento y
los tiempos de respuesta que un humano de cualquier edad. Pero también lo
es que aquella, en términos generales, carece de objetivos internos, de
capacidad de memoria que pueda relacionar cada experiencia con diversos
contextos, personas y objetos. Por lo que, por ahora, no cuenta con la
[238]
empatía, la creatividad y el pensamiento crítico .
En definitiva, sabiendo que el verdadero sentido de las IA se da en
materia de actividades discrecionales, pero también al ser conscientes de las
limitaciones y riesgos de la IA, proponemos que –de una manera y otra–
una “reserva” de resolución humana a cargo del funcionario competente, ya
sea para aquellos supuestos por los cuales el caso lo justifica en donde la
parametrización y modelación no pudo llegar o generaría una solución
injusta reñida con los principios vigentes, ya sea cuando a través de
recursos e impugnaciones administrativas deba revisarse la decisión
primigeniamente tomada por el sistema tecnológico. Estas salidas,
asimismo, obligan una regulación jurídica concreta que parta de la
validación legal de los mecanismos tecnológicos que automatizan la
actividad administrativa y los procedimientos para llevarla a cabo.
e) El régimen jurídico del acto automatizado
La constatación efectiva para la automatización administrativa de la
vigencia de la teoría del órgano como unidad administrativa que tiene
asignadas funciones de cuyo ejercicio se derivan efectos jurídicos a
terceros, y de la plena vigencia de la teoría del acto administrativo como
declaración de un órgano administrativo (automatizado) en el ejercicio de
una potestad administrativa, no conduce –sin embargo– a entender ni a
concluir que la implantación de las nuevas tecnologías en la organización y
en la actuación de las Administraciones públicas carezca de efecto alguno.
Al contrario, ante ello se derivan consecuencias, pero no sobre el
concepto de órgano o de acto (y, por tanto, no sobre el concepto de
actuación administrativa automatizada), sino sobre su régimen jurídico,
puesto que –por ejemplo– la ley española antes citada exigía el
cumplimiento de toda una serie de condiciones adicionales que influyen
sobre la validez y la eficacia de los actos administrativos adoptados de
forma automatizada: identificación y autenticación; habilitación normativa
previa; aprobación y publicidad de los programas y especificaciones
[239]
empleados; o notificación electrónica .
Como se ha dicho antes, el acto administrativo adoptado de forma
automatizada no deja de ser acto administrativo, por lo que estos deberán
reunir todos y cada uno de los requisitos y condiciones que el régimen
jurídico exige para la completa validez y eficacia de los actos
administrativos. Así, por ejemplo, en materia de automatización e IA se ha
estado por el respeto a la especial exigencia de motivación que impone el
principio de buena administración, por lo que resulta imprescindible una
justificación específica de las decisiones que se adopten, y que, además,
resulte comprensible para una persona que carezca de los conocimientos
[240]
para valorar el alcance de la tecnología utilizada .
Ahora bien, y sin perjuicio de los requisitos “ordinarios”, se debe
contemplar una serie de exigencias adicionales y específicas,
complementarias a aquellos, que en definitiva redundan en garantía para los
administrados.
Primero, la utilización de los medios electrónicos debe contar con una
habilitación normativa previa, que no alcanza en forma genérica, sino para
el caso particular, una habilitación específica que avale y justifique la
automatización en tales supuestos. Segundo, tal norma legal debe
determinar órgano u órganos competentes, para la definición de las
especificaciones, programación, mantenimiento, supervisión y control de
calidad y, en su caso, auditoría del sistema de información y de su código
fuente. Tercero, como una derivación del principio de transparencia y
legalidad, deberá darse publicidad a las especificaciones y programas
empleados en la actuación administrativa automatizada. Y cuarto, deberá
garantizarse la identidad, integridad, autenticidad, confidencialidad, calidad
y conservación de toda la información y de la resolución automatizada en
sí, a los fines de evitar violaciones a derechos constitucionales, y en
[241]
particular, de protección de datos personales .
En particular, respecto este último punto, aquella sentencia del Consejo
[242]
Constitucional francés del año 2019 , puso como condición para
ratificar la constitucionalidad de normativa por la cual se utilizaba IA para
fines tributarias, que se excluyan del ámbito de aplicación la captación de
datos sobre opiniones políticas, religiosas o filosóficas, origen étnico o
racial, orientación sexual, datos genéticos o biométricos, etc.; que se
cancelen todos aquellos datos que hubieran sido captados y carecieran de
trascendencia fiscal; que los indicios de fraude fiscal recabados en forma
automática a través de algoritmos no puede servir de única prueba para
fundamentar la regulación; y que las condiciones de acceso y utilización de
los datos captados solo pueden ser manejados por personal de la
Administración sujeta a secreto profesional y un régimen de estricta
confidencialidad (garantía de “secreto tributario”).
f) Revisión administrativa y judicial de la automaticidad
Tampoco el procedimiento de impugnación de esta categoría de actos está
ajeno a especiales particularidades a tener en cuenta.
En primer lugar, se ha afirmado que una de las consecuencias de la
automatización de las decisiones administrativas es la no aplicabilidad de la
institución de la excusación y recusación: dado que no hay persona humana
actuante, sino que quien tramita y resuelve es una aplicación informática,
carecerá obviamente de todo interés en el asunto y, por tanto, actuará
siempre de forma independiente y objetiva.

“Difícilmente el titular del órgano (o las personas físicas que

integran sus unidades) encargado del diseño de la aplicación
tendrá en cuenta su interés en un caso concreto en el ejercicio de
su función programadora. Es por ello que puede afirmarse con
que la automatización del proceso de toma de decisiones
administrativas es, en sí misma, garantía de imparcialidad y
favorece indudablemente la igualdad de trato de los
administrados por parte de la Administración, así como la
[243]
seguridad jurídica” .

En todo caso, y excepcionalmente, en un supuesto de “gabinete”, la

excusación o recusación podría darse en contra de quien confeccionó el
programa remoto, y no de del órgano que resuelve (que es una mera ficción
de imputación de competencia), debiéndose demostrar, entonces, la relación
entre el titular del órgano encargado de la programación y los asuntos se
resuelven en forma automatizada.
Ahora bien, en el supuesto se presente cualquier vicio que pudiera sufrir
todo acto administrativo, o eventualmente, de darse algunas deficiencias en
función de los requisitos específicos antes indicados, los que podrían
implicar defectos concretos de forma o de fondo respecto el acto
automatizado, debe estarse ante la posibilidad de la impugnación
administrativa y judicial de tales decisiones.
Cabe aquí preguntarnos si resulta posible hablar de desviación de poder
en el marco de la actuación administrativa automatizada. El interrogante es
respondido por Martin Delgado quien afirma que

“Entendida como la falta de correspondencia entre el fin

perseguido por la norma al atribuir la potestad y el fin que
persigue la Administración en ejercicio de la misma, la desviación
de poder sólo puede producirse en el momento de la
configuración del sistema de información –que puede ser alterada
y realizada en función de intereses diferentes de los consagrados
por el ordenamiento jurídico–, pero no respecto de la actuación
administrativa final. No hay, pues, posibilidad alguna de
desviación de poder electrónica, porque la máquina carece de
voluntad propia y se limita a actuar en aplicación combinada de
los parámetros introducidos por el órgano encargado de la
gestión del sistema de información. No obstante, cuando esa
´voluntad automatizada´ esté viciada de origen por un diseño
fraudulento de la aplicación informática procederá declarar la
nulidad del acto administrativo automatizado por infracción del
[244]
ordenamiento jurídico” .

Volviendo al procedimiento, debe convenirse que el control

administrativo de los actos a través de medios impugnativos, solo puede
ejercerse por el superior jerárquico del emisor del acto cuya revisión se
pretende, en el caso que ésta última autoridad no se expida en forma
automatizada, porque de ser así, el acto original agota por sí mismo la vía
administrativa. Y esto es así, ya que naturalmente en el caso del recurso de
reconsideración (que debe ser resuelto por la misma autoridad), o en el caso
del recurso jerárquico en donde el superior también decida en base al
mismo programa, como lo algoritmos ya están definidos, no existe
posibilidad de que resuelva de un momo distinto al primero.
Y finalmente, la revisión judicial de los actos automatizados puede tener
grandes obstáculos, tales como el conocimiento acerca de cómo se ha
producido la formación de la voluntad del órgano administrativo, y la
imposibilidad sustituir el criterio de la Administración, más aun, en materia
de actos discrecionales.
Para el autor antes citado
 “el Juez debe hacer una doble valoración a la hora de resolver el
recurso contencioso-administrativo: de un lado, comprobar si se
han respetado todas y cada una de las exigencias formales de
régimen jurídico de la actuación administrativa automatizada; de
otro, para el caso de que no haya sido así, determinar el grado de
influencia de esa irregularidad. Y, en relación con esta
valoración, deberá tener en cuenta dos circunstancias: si ha
existido indefensión y si el resultado final hubiera sido el mismo
de haber actuado el órgano administrativo por medios
[245]
convencionales” .

Los nuevos sistemas pueden ofrecer resultados que ningún operador

humano defendería en derecho, o al menos resultaría discutible en esa sede,
y sin embargo se nos podrían presentar como únicos posibles por estar así
automatizados. Y entonces la pregunta es elemental: ¿calificaríamos de
injusta o arbitraria la solución si fuera directamente emitida por un agente
humano, y la admitiríamos como inevitable por proceder de un sistema de
[246]
IA? Claramente la respuesta es por la negativa.
Si decíamos que en materia de automatización administrativa tiene la
última palabra la persona humana, más aún todavía, y a mayor razón,
también lo es en el caso de control administrativo. Aquí traemos
nuevamente el profesor Prosini, quien ya en 1984 observaba que

“el ordenador posee una inteligencia artificial, es decir, mecánica

y mnemotécnica, pero no posee una capacidad de iniciativa y
decisión, y, por tanto, no puede tener ninguna responsabilidad. El
problema de los controles, esto es, de las autorizaciones (y de las
sanciones eventuales), sobre la gestión administrativa
automatizada sigue siendo, en consecuencia, un problema jurídico
referido al momento inicial y al momento final de cualquier
procedimiento administrativo, es decir, cuando interviene el
[247]
funcionario personalmente” .
 Volveremos nuevamente con la revisión de los actos administrativos
automáticos, en el Capítulo VI, cuando hagamos referencia al principio de
la tutela administrativa efectiva y la imposibilidad que la IA sea utilizada
como una herramienta para violentar derechos, en lugar de realizarlos y
efectivizarlos.

III. La automatización de los procedimientos

administrativos
Juan Corvalán temporiza cuatro paradigmas distintos de la Administración.
El 1.0 correspondiente a la etapa clásica decimonónica, compuesto por
papel, la imprenta y el uso de la máquina de escribir. La Administración 2.0
incorpora al ordenador, los procesadores de texto, la impresora y luego el
fax. A partir de Internet, los portales digitales, las aplicaciones móviles y las
redes sociales, el sector público en este siglo XXI ha comenzado a migrar
hacia el formato 3.0, que se caracteriza por varios conceptos o principios
que la normativa antes citada reitera sistemáticamente (lo remoto, simple,
automático, ágil e instantáneo). Una Administración Pública gestionada en
un esquema 3.0, comenta el autor citado,

“implica transformar los binomios tiempo/espacio–

burocracia/ciudadanía a partir de potenciar y actualizar tres
supraprincipios rectores: optimización, simplificación y
facilitación. En definitiva, hoy en día conviven tres formatos –1.0,
2.0 y 3.0– dentro de las organizaciones públicas, que a gran
escala muestran un lento y complejo camino en el que se ha
intentado simplificar y optimizar la gestión de los datos y la
[248]
información” .

Ahora bien, se está definitivamente rumbo no solo consolidar el formato

3.0, sino también iniciar el camino hacia una Administración inteligente
4.0. Estas mutaciones, a fin de cuentas, presuponen una triple transición que
se desarrollará de forma asimétrica: de una “burocracia papel”, a una
“burocracia digital” y de ahí a una “burocracia inteligente” en donde los
sistemas de IA facilitan, simplifican y aceleran exponencialmente
interacciones, tareas, generación de documentos, etc., a partir de la
[249]
automatización y de la actividad predictiva .
Por eso, no nos podemos quedar en el procedimiento administrativo
electrónico. Hay más. Tal como lo señalábamos respecto el acto
administrativo, el desenvolvimiento de las tecnologías en el procedimiento
administrativo lejos está hoy de constituir una mera posibilidad de poner a
disposición de los operadores y usuarios una serie de instrumentos
electrónicos (expediente, notificación, firma, etc.). La verdadera
automatización del procedimiento refleja que las herramientas tecnológicas
que dispone la Administración no son instrumentos de apoyo, sino
constituyen ellas mismas un medio de actuación de las fases
procedimentales.
Se ha vuelto posible abordar la automatización del procedimiento
decisional que conforma el acto administrativo, en donde los actos
administrativos son adoptados mediante ordenadores. Tal como se dijo, en
la legislación y la práctica administrativa, junto al acto administrativo del
funcionario concurre el acto administrativo automatizado, el acto definido y
adoptado mediante un ordenador. Esta nueva figura de acto administrativo
ha dado lugar a una problemática del acto profundamente distinta de la
tradicional, la cual refleja la peculiaridad de la así llamada “maquinización”
del procedimiento decisional. De una teoría del acto que gira sobre la
“decisión” del funcionario se ha pasado a una teoría del acto que se
concentra sobre el acto–software (el acto–programa) que “gobierna” el
[250]
procedimiento decisional del ordenador .
[251]
Comenta Lacava que en ese caso

“el procedimiento administrativo es desenvuelto directamente por

el ordenador, el cual, a partir de los datos con los que cuenta, se
encuentra en grado de tramitarlo en modo íntegro. En otros
términos, un procedimiento de este tipo supone que no es
 materialmente desarrollado por los operadores de la
Administración pública, sino que resulta realizado directamente
por los aparatos informáticos, por ello la exigencia de su
[252]
reingeniería, de su reestructura en clave automatizada” .

Con un carácter meramente enunciativo, traemos a colación posibles

aplicaciones de la IA dentro del proceso administrativo: a) medidas
cautelares, en la evaluación del peligro en la demora y la verosimilitud del
derecho, a los fines de determinar la suspensión administrativa de los
efectos del acto, conforme la materia, las circunstancias, etc.; b) en la faz
probatoria, a través de la revisión documental de toda base de datos que se
encuentre en el ámbito de la Administración, en todos sus niveles, siendo la
interoperabilidad la principal herramienta para la localización e
identificación de posibles fuentes de pruebas; c) en la ejecución del acto
administrativo automatizado, toda vez que –en el caso de quedar firme y
consentido– puede llevarse a cabo su cumplimiento, por ejemplo a través de
la incorporación de la sanción en un registro –de cualquier tipo–, en la
imposibilidad de realizar algún trámite, u obtener una habilitación, entre
otros.
Volviendo con el Decreto 733/2018 (citado en el Capítulo 3°), éste otorga
los primeros pasos para la automatización y la aplicación de IA en la
Administración Pública Nacional. Según Corvalán, esta norma es inédita,
en cuanto hace referencia expresamente a la posible aplicación de IA en el
[253]
sector público para acelerar la burocracia estatal . En sus fundamentos
se impulsa la preparación de condiciones tecnológicas necesarias y
adecuadas para la implementación de “...motores de reglas e inteligencia
artificial con el objeto de automatizar la mayor cantidad posible de
decisiones”. Para el autor citado, es la primera norma en Argentina que
reconoce el rol central que ocuparán los sistemas de inteligencia artificial en
la optimización de la Administración Pública.
En concreto, el plazo de 90 días para informar los trámites de mayor
demanda y los flujos de trabajo cerrado –que ordena el artículo 5° de la
norma– se orientan a “diseñar inteligentemente un circuito de trabajo
secuencial cerrado y uniforme para coordinar la acción administrativa entre
los agentes públicos entre sí y de estos con los administrados, mediante la
utilización de motores de reglas e inteligencia artificial para automatizar la
mayor cantidad posible de decisiones” (de los considerandos).
Esto es, sin dudas, el puntapié inicial para estandarizar y automatizar
algunos procesos, y así poder diseñar sistemas de IA para agilizar y
simplificar los trámites de mayor demanda y con un alto grado de
uniformidad.
Ahora bien, tal como se señaló respecto la incorporación de las
tecnologías en el procedimiento administrativo, lo que se denominó
procedimiento electrónico, aquí también, en el procedimiento
administrativo automatizado, podemos invocar las mismas inquietudes –que
en realidad se presenten ahora en mayor medida– en el caso de ausencia
ciudadana de medios digitales, la imposibilidad de acceso a Internet, la
carencia de alfabetización digital, etc., lo que redundará en definitiva en
circunstancias negativas, no solo desde el punto de vista procedimental en
una situación de indefensión de tipo adjetiva, sino también desde lo
material, por lo que significa el impedimento de ejercer cualquier tipo de
derechos económicos, sociales y culturales ante la Administración pública.
Sin perjuicio que el capítulo siguiente volveremos con el eje basado
desde una perspectiva de derechos, y que será tratado en particular, ante el
escenario antes dicho debe convenirse que procedimiento electrónico y
automático van ocupando espacios del anterior procedimiento y
colonizando nuevos, en una suerte de “camino sin retorno” como
habitualmente se dice. Sin embargo, en el plano normativo, el corte no es
tan radical, como suele ocurrir en la evolución de todo el Derecho.
Por ello, adelanto la conveniencia de la apertura del procedimiento
administrativo a partir de la figura del “asistente”, que puede configurarse
como un “agente conversacional” (los famosos chatbots antes explicados),
o en su caso, y mientras tanto nos adaptemos a estas realidades, un
“asistente humano” que existe en algunos sistemas comparados. Por
ejemplo, cuenta la doctrina que bajo la forma de “responsable”, como
[254]
ocurre en materia de procedimiento administrativo en Italia , se
instituyó una figura encargada de ser el referente del ciudadano a lo largo
del procedimiento, que acompaña a la persona –que carece de las
habilidades y las posibilidades para hacerlo– en el camino para informarse
[255]
sobre los procesos políticos y administrativos .
En España, otro ejemplo importante, el ciudadano tiene legalmente
reconocido el derecho a ser asistido en el uso de medios electrónicos,
incluso a ser representado por un funcionario habilitado si careciera de esos
medios, comprendiendo también todas aquellas gestiones que requieran
[256]
firma o identificación personal . Este derecho, a su vez, es reforzado a
través de la transformación de las oficinas de registro en oficinas de
asistencia al ciudadano y mediante la articulación de dos herramientas: el
registro de apoderamiento y el registro de funcionarios habilitados.
 CAPÍTULO. VI
La IA ante un enfoque basado en derechos

I. La IA en una perspectiva de derechos

a) La IA, las políticas públicas y un enfoque basado en derechos
La AI aplicada en el ámbito de la Administración pública, por ejemplo, a
través de las decisiones administrativas, se adecua al postulado del Estado
Convencional y Constitucional de Derecho, siempre y cuando cumpla sus
exigencias y no postergue sus principios fundantes. Y esta tarea no está
desprovista de notables dificultades, principalmente por las complejidades
que implica la utilización de innovadoras tecnologías (como robots, redes
neuronales, sistemas de expertos, etc.) que naturalmente actúan sin
voluntad, discernimiento y algunas de ellas sin conocimiento cognitivo,
pero que en algunos casos impactan negativamente sobre los derechos
fundamentales, incluso, produciendo daños y perjuicios.
Nuestra propuesta se inclina por pensar que, ante supuestos negativos, la
Administración debe imponer reglamentaciones que prevengan y eviten
tales consecuencias a través de diversas regulaciones normativas, y una vez
entonces superadas tales eventos, no puede haber excusas para aplazar ni
retrasar los beneficios que las TICs y la IA pueden generar para el
administrado, y más aún cuando por su intermedio –en realidad– se
potencian y amplifican los derechos humanos y la dignidad de la persona.
Las aplicaciones de las TICs, en general, y la IA, en particular, trasunta la
conceptualización, resolución, implantación y control de una verdadera
política pública por parte del Estado, y al ser tal, y como todas, deben estar
definidas a través de lo que se denomina “enfoque basado en derechos”
(EBD).
Las políticas públicas adoptadas y ejecutadas, deben enmarcarse dentro
de los parámetros ya diseñados constitucionalmente, en la medida que ha
sido el pueblo como titular del poder constituyente, quien ya ha fijado las
grandes líneas rectoras, que se exteriorizan en los fines preambulares; en las
normas, principios y valores emergentes de los incisos 18,19,23 y otros del
artículo 75 y respetando los derechos y garantías emergentes del
ordenamiento constitucional y de los instrumentos internacionales
jerarquizados como tal, sean los expresamente mencionados en el inc. 22
como los que se jerarquizaran en el futuro. Asimismo en los tratados que sin
tener jerarquía constitucional– como el Protocolo Adicional a la
[257]
Convención Americana sobre Derechos Humanos en materia de
Derechos Económicos, Sociales y Culturales o Protocolo de San Salvador–
tienen jerarquía superior a las leyes, por lo que las políticas públicas
adoptadas por Congreso y Ejecutivo, deben respetarlos.
El proceso de adopción y ejecución de políticas públicas con la finalidad
de satisfacer necesidades de la sociedad en general o de grupos colectivos
particulares, en determinadas materias o áreas problemáticas, tales como
salud pública, educación, vivienda, trabajo, seguridad social, etc. es lo que –
de acuerdo al resultado alcanzado– posibilita el ejercicio de derechos de
contenido económico social, ya que para la vigencia de los derechos
fundamentales, especialmente los económicos–sociales resulta
indispensable la adopción, democráticamente participativa, de políticas
[258]
públicas. Lo señala con precisión Alfonso Santiago cuando destaca la
conveniencia y necesidad de estudiar y reflexionar no solo sobre el
contenido de los derechos humanos sino acerca del diseño y ejecución de
políticas públicas. Existe una estrecha relación entre satisfacción de
necesidades básicas –como presupuesto para la estructuración de una vida
digna– y derechos sociales, como reconocimiento de exigencias
[259]
indispensables y necesarias para la realización personal y social .
Debe tenerse un enfoque de derechos tanto en la conformación como en
la evaluación de las políticas públicas y en toda estrategia de
[260]
desarrollo . Lo explica Alza Barco cuando afirma que el “enfoque
basado en derechos” (EBD) se sustenta en la teoría constitucional y derecho
internacional de los derechos humanos incorporando la dimensión política
en su análisis, en cuando señala la “decisión política adoptada a través de
las políticas públicas del Estado, quien se hace principal responsable de la
vigencia de los derechos y pone al ciudadano al centro de toda decisión”.
Los atributos fundamentales de este enfoque, a juicio de este autor, son los
siguientes: a) en toda política y programa de desarrollo, el objetivo central
debe ser la realización de los derechos humanos, b) este enfoque identifica
a los ciudadanos como titulares de derecho, el contenido de estos y al
Estado como titular de deberes y obligaciones, (respeto, protección,
garantía y promoción); c) los principios y normas internacionales de
derechos humanos orientan la labor de todos los sectores y fases del proceso
de programación, tales como: igualdad y no discriminación, progresividad y
no regresividad, participación ciudadana en el proceso y transparencia y
[261]
rendición de cuentas .
b) Algunos aspectos concretos
Volviendo entonces a la premisa inicial, esto es una indudable e
irrenunciable exigencia de aplicación e interpretación de la normativa que
incorpora tecnología a la Administración pública a partir de los principios
elementales en materia de derechos humanos, podemos señalar que el uso
de la IA fundado desde un enfoque basado en derechos, ofrece –por lo
menos y desde nuestra óptica– diez órdenes de análisis: 1.– Las TICs en la
Administración pública se incorporan para garantizar y promover derechos,
nunca como instrumentos para su violación, 2.– el respecto a la privacidad
on line, concepto que abarca la intimidad, imagen y honor, desde siempre y
en todos los casos, más aún ante supuestos de IA, 3.– la protección de datos
personales y el derecho a la autodeterminación informativa, 4.– la
prohibición decisiones automatizadas basadas exclusivamente por
valoraciones personales digitales, 5.– la impugnación de los actos
automatizados y el principio de tutela administrativa efectiva, 6.– las
exigencias constitucionales y convencionales de la automatización
administrativa, en particular, el principio de no discriminación, 7.– debe
tenerse presente la responsabilidad provocada por el uso de la IA y los
algoritmos, 8.– el respecto al principio de precaución e impacto social, 9.–
la IA debe adaptarse al derecho a la buena administración y, 10.– los
beneficios que trae IA para la persona humana y su dignidad.
Veamos cada uno de ellos.
1.– Las TICs en la Administración y protección de derechos
Empecemos por lo primero. La utilización de la IA (junto a robótica,
agentes inteligentes, redes neuronales, etc.) presuponen –ya en forma
consolidada– la instalación de las TICs en la Administración pública, por lo
que la smartificación y robotización denota paso posterior. Ahora bien,
puede suceder que no se dé la primera etapa, o si se quiere, exista un grupo
o sector de administrados que, por distintas razones (económicas, edad,
alfabetización, etc.), no pueden alcanzar medios digitales, y, por lo tanto,
teniendo impedimentos para la efectivización concreta de su derecho a
relacionarse electrónicamente con la Administración.
Las garantías y principios establecidos en resguardo de los interesados no
deben darse por supuesto. La nueva relación jurídico-electrónica, con todas
sus comodidades y ventajas, encierra también sus riesgos: inseguridad,
pérdida de oportunidad, indefensión, abandono forzado del procedimiento,
etc. Muchas veces, el derecho a relacionarse electrónicamente con la
administración antes expuesto, no ha sido acompañado con la facilitación
de medios electrónicos a los usuarios. No puede omitir considerarse
adecuadamente que los nuevos instrumentos no siempre están
correctamente diseñados, no es sencillo su manejo, no siempre funcionan
adecuadamente, implicando una carga para el ciudadano obligado a soportar
[262]
las disfunciones que el sistema ocasiona a sus derechos .
Por tales razones, y muchas más, coincidimos con la propuesta
denominada “apertura asistida” por Corvalan y Sá Zeichen,

“la que se basa en sistemas de inteligencia artificial (IA) que

pueden y en muchos casos deben convivir con asistencia e
intervención humana. Por eso podríamos hablar de ´asistencia
híbrida´ a partir de combinar sistemas de IA con asistencia
humana. En este paradigma que planteamos, la asistencia
mediante IA tiene varios niveles según dos grandes factores: 1) la
apertura que se proponga; y 2) la relación con las necesidades del
ciudadano y de los operadores jurídicos. Como si se tratara de
abrir un gran dique que contiene una masa de agua descomunal,
es necesario que exista una dosificación y una filtración del agua
que pasa por él. Como veremos, este tipo de asistencia aporta a la
apertura la dosis, la precisión y la accesibilidad necesarias para
 satisfacer el auténtico objetivo de dicha apertura: permitir el
[263]
acceso al conocimiento por parte del ciudadano” .

Ahora entonces, saldado lo anterior y dando por cierto que la

accesibilidad a los medios digitales se encuentra debidamente
cumplimentada en términos generales y para la gran mayoría de la
ciudadanía, pasemos a lo segundo. La aplicación de la IA en el ámbito de la
Administración pública, nunca puede ser una manera de violentar derechos
fundamentales, todo lo contrario, debe constituirse como abanico de
herramientas para efectivizarlos y universalizarlos. Coincidimos en que “En
la tensión entre los desarrollos tecnológicos y el bien de la humanidad,
debe procurarse el redescubrimiento permanente de lo humano. La
robótica, la inteligencia artificial y cualquier avance tecnológico deben
[264]
servir a la humanidad y no al revés” .
En esencia, la utilización de la IA por parte de la Administración pública
encuentra en el derecho a la intimidad, privacidad, honor, imagen, el
derecho a la protección de datos personales y a la autodeterminación
informativa, la tutela administrativa efectiva, las garantías de defensa, en
realidad, todos los derechos fundamentales y las garanticas procesales,
limites indiscutibles e inquebrantables en su accionar. Insistimos en que la
automatización, robotización, las redes neuronales, los agentes inteligentes,
están para garantizar derechos, no para violarlos.
Por ejemplo, a autores como Travieso le ha impactado la denominada
“actuación policial predictiva”. La actuación policial predictiva será una
realidad. No hay nada nuevo en la recopilación y uso de inteligencia por
parte de los organismos encargados de hacer cumplir la ley para detectar
donde se planea un delito y tratar de detenerlo antes de que ocurra.

“Sin embargo, la actuación policial predictiva podría llevar a la

identificación de personas o grupos que podrían cometer un
crimen incluso antes de que tuvieran la intención de cometerlo.
Hay una enorme cantidad de críticas en estos procedimientos, con
algoritmos que pueden encubrir procesos graves de
discriminación, produciendo un cambio radical en los conceptos
 de inocencia y culpabilidad. En esos casos puede resultar que la
inteligencia artificial se transforme en un vehículo para violar los
[265]
derechos humanos” .

Esto, a su vez, nos lleva a la problemática del denominado “allanamiento

remoto”. Se ha estudiado que existen programas espías por los cuales –
previa autorización judicial– se obtienen evidencia digital a través de
direcciones IP, lista de puertos, etc., lo que incluso encuentra respaldo
normativo en la legislación de procedimiento criminal de los EEUU. Por su
intermedio, se permite a los magistrados federales, a pedido de un fiscal y
en el marco de las investigaciones, cuando el distrito donde la información
se encuentra localizada ha sido ocultado mediante el uso de medios
tecnológicos, dictar orden de allanamiento remoto y posibilitar que las
autoridades federales envíen un “troyano judicial” para acceder a los
dispositivos del imputado y de esa forma secuestrar la información allí
[266]
contenida . Esta iniciativa ha sido objeto de numerosas críticas ya que
da vía libre al hackeo de computadoras e incluso con la amenaza de que no
existan los límites territoriales para llevar adelante las medidas, sumado a
que el dispositivo pueda ser usado por varias personas y no solo el
imputado. En definitiva, puede estarse ante la violación a un nuevo derecho
fundamental “a la confidencialidad e integridad de la información en
sistemas informáticos”, que surge como una derivación unificada que reúne
a la garantía de inviolabilidad de correspondencia y a la del domicilio, con
los derechos de privacidad y personalidad.
Volvamos al asunto que nos reúne.
Es esencial que el diseño y empleo de la IA, ya sea en el plano
administrativo y más aún judicial, esté regido por ciertos principios rectores
compatibles y respetuosos de los derechos fundamentales del hombre, por
lo que, si se utilizan herramientas sostenidas en tecnologías disruptivas en la
toma de decisiones, es basal naturalmente que no se socaven garantías y
libertades fundacionales de nuestro Estado Constitucional de Derecho.
En ese sentido, el 18 de diciembre de 2018, la Carta Ética Europea sobre
el “Uso de la Inteligencia Artificial en los Sistemas Judiciales y su
Entorno”, se constituyó en el primer instrumento europeo que estableció
cinco principios sustanciales y metodológicos aplicables al procesamiento
automatizado de decisiones y datos judiciales –igualmente aplicables en
nuestra opinión en el ámbito del procedimiento administrativo– basados en
técnicas que pueden guiar a los legisladores y profesionales cuando se
enfrentan al rápido desarrollo de la IA en los procesos judiciales (y
administrativos) nacionales. El atiente al respeto a los derechos humanos y
la no discriminación, estableció que desde la concepción hasta la aplicación
práctica las soluciones garanticen el respeto de los derechos establecidos en
el Convenio Europeo de Derechos Humanos y el Convenio número 108 del
[267]
Consejo de Europa .
Seguidamente, el 22 de mayo del año en curso, los 36 países miembros
de la Organización para la Cooperación y el Desarrollo Económico (OCDE)
junto con Argentina, Brasil, Colombia, Costa Rica, Perú y Rumania
suscribieron los principios sobre la IA los que fueron elaborados a partir de
las orientaciones proporcionadas por un grupo de expertos integrado por
más de 50 miembros procedentes de gobiernos, instituciones académicas, el
mundo empresarial, la sociedad civil, organismos internacionales, la
comunidad tecnológica y sindicatos, que comprendió 5 principios basados
en valores para el despliegue responsable de una IA fiable, entre los que se
destacó el respeto al Estado de Derecho, los derechos humanos, los valores
[268]
democráticos y la diversidad .
En efecto, estimamos que debe darse preferencia a los enfoques de “ética
por diseño” o de “derechos humanos por diseño” es decir que, desde la fase
de diseño y aprendizaje estén totalmente integradas las reglas que prohíben
las violaciones directas o indirectas de los valores fundamentales protegidos
[269]
por las Convenciones .
2.– El respecto a la privacidad on line (intimidad, imagen y honor)
1.– Introducción. La realización de actividad administrativa a través de
IA es un multiplicador gigante para el cumplimiento de los objetivos de
eficacia, eficiencia, transparencia, etc. de la Administración pública, pero
también –lamentablemente– una herramienta extremadamente poderosa
para la violación de los derechos fundamentales. En este apartado, y en los
sucesivos, nos ocuparemos de analizar como a través de la captación de
información a través de algoritmos, redes neuronales, agentes inteligentes,
entre otros, se pueden menoscabar derechos personalísimos como lo son el
[270]
honor, la imagen, la intimidad , entre otros, y precisamente su
prevención o restablecimiento ante situación de violación, se presenta como
unos de los desafíos más importantes para el Derecho en la actualidad.
2.– El derecho a la privacidad on line. La intimidad. Uno de los derechos
fundamentales que merece especial resguardo en el marco de las nuevas
tecnologías, es el derecho a la intimidad.
La intimidad afecta a los núcleos más sensibles de la personalidad,
constituye el espacio vital imprescindible para que la dignidad de la persona
humana y los derechos inviolables que le son inherentes encuentre un clima
apropiado para su desarrollo. Por ello, el carácter instrumental y básico de
la intimidad como derecho fundamental generador de otros derechos
(libertad política, asociación, al trabajo, etc.), también fundamentales, le da
un lugar de privilegio y especial protección en el orden de valores
[271]
materiales que inspiran el ordenamiento .
Nos proponemos acreditar –entonces– una afirmación basal: en estos
tiempos las innovaciones a nivel informático obligaron a abandonar el
concepto de intimidad como libertad negativa, exigiendo avanzar hacia una
fase activa del proceso de circulación de la información personal, teniendo
protagonismo el interesado a través de un adecuado control para la
[272]
preservación de su libertad informática .
[273]
Rivera señala que dentro del espectro –se podría decir “tradicional–
de lo que involucra el derecho a la intimidad, se encuentra la protección de:
a) el secreto o reserva de actos de la vida privada (intimidad, salud,
prácticas religiosas, etc.), b) el secreto de la correspondencia epistolar y de
papeles privados, c) la privacidad del domicilio, d) el derecho a la imagen,
e) el derecho al nombre, f) el derecho al secreto profesional. No obstante,
[274]
explica Vaninetti que hoy en día con la irrupción de las nuevas
tecnologías, principalmente en el área de las comunicaciones y la aparición
vertiginosa de Internet, el derecho a la privacidad (“privacidad on line”)
también aparece relacionado con: a) privacidad de la personalidad
(identidad, fotografía, etc.), b) privacidad de datos con respecto a una
persona (hábitos de gasto, historia médica, afiliaciones políticas, fiscal, etc.)
y c) privacidad de las comunicaciones de una persona (contenido de mails,
chats, etc.).
En nuestro sistema jurídico, el derecho a la intimidad encuentra
protección convencional (artículo V de la Declaración Americana de los
Derechos y Deberes del Hombre, artículo 12 de la Declaración Universal de
Derechos Humanos, artículo 17 del Pacto Internacional de Derechos Civiles
y Políticos, artículo 11 de la Convención Americana sobre Derechos
Humanos), constitucional (artículo 14, 16, 18, 19 de la Constitución
Nacional), y legal (artículo 51, 52, 53 y 1770 del Código Civil y Comercial
de la Nación).
Cabe aclarar que, sin perjuicio de la claridad con que las normas
constitucionales y convencionales protegen la intimidad, proveyendo un
marco normativo ejemplar acorde con las exigencias del Estado de Derecho
y en consonancia con las constituciones más desarrolladas sobre la materia,
el programa constitucional argentino no ha tenido especialmente en cuenta
los cambios generados por las nuevas tecnologías de la informática y de las
comunicaciones a su potencial afectación a los ámbitos de la intimidad y
[275]
privacidad .
3.– El derecho a la imagen. Uno de los componentes del derecho a la
privacidad on line, es el derecho a la propia imagen, es decir, el derecho
personalísimo –pero dotado de también contenido patrimonial– que se
concreta en la reproducción o representación de la figura de la persona, en
[276]
forma visible y recognoscible .
La difusión de la imagen de las personas en Internet, y por lo tanto
captadas por la Administración a través de agentes inteligentes, se está
convirtiendo en una práctica habitual en nuestros días, lo que se debe a la
frecuente utilización de teléfonos móviles con cámara digital integrada y las
denominadas webcams que facilitan la reproducción estática y en
movimiento de imágenes humanas. La combinación de Internet, con las
nuevas tecnologías, trae aparejado nuevas formas de vulneración de los
[277]
derechos fundamentales, como lo es precisamente la propia imagen .
 Las imágenes que pueden encontrarse en Internet en franca violación al
derecho a la intimidad, al honor, a la reputación y al propio derecho a la
imagen pueden ser de las más variadas. Para Granero,

“la tecnología informática no solo contribuye con el aumento en

la velocidad de los procesos de circulación de imágenes, sino
también facilita el copiado y almacenamiento de las mismas (a
través de los ´scaneos´ de fotografías). También, es común
encontrar truncamientos de imágenes por métodos digitales que,
hace muy poco tiempo, hubiesen requerido de una gran técnica y
[278]
pericia para su realización” .

En nuestro país, la ausencia de mención expresa del derecho a la imagen

en la Constitución Nacional no importa un desconocimiento o negación de
su existencia. En este sentido, se ha afirmado que aquel goza de amparo
constitucional, ya sea como un aspecto del derecho a la privacidad
contemplado en el artículo 19 de dicho cuerpo normativo, o bien como un
derecho autónomo implícito en el artículo 33, a lo que se suma el artículo
75, inciso 22, que otorga rango constitucional a diversos instrumentos
internacionales, entre ellos, el Pacto de San José de Costa Rica, cuyo
[279]
artículo 11 tutela la honra, la intimidad y la dignidad personal . Incluso,
se ha argüido que ante la necesidad de recolectar cierta información en aras
de un determinado interés, debe examinarse el grado de repercusión del
derecho a la propia imagen a través del derecho a la protección de ciertos
datos personales y la garantía instrumental consagrada en el tercer párrafo
[280]
del artículo 43 de la Carta Magna .
En definitiva, la imagen personal recibe protección constitucional, civil y
penal. Integra el ámbito de reserva de la persona, y el acceso arbitrario a
ella o su difusión puede dar lugar a responsabilidad civil (artículo 53 y 1770
del Código Civil y Comercial) y penal en la medida que forme parte de una
comunicación electrónica o se halle almacenada en un banco de datos
(artículo 153, 155 y 155 bis del Código Penal).
 4.– La reputación on line y el derecho al honor. Puede decirse que la
reputación de una persona o compañía, es “lo que se dice de ella”, o sea, el
juicio que los demás elaboran de un individuo u organización. Este
concepto tradicional ha sufrido un cambio con el advenimiento de las
tecnologías 4.0, porque en la revolución que estamos transitando hay
millones de personas opinando, comentando o criticando en tiempo
[281]
real . Así toda plataforma digital conectada a la Red (blogs, redes
sociales, mails, etc.), pueden generar grupos o espacios de opinión –y como
tal, verdaderos espacios de poder– que pueden dañar la reputación de una
persona en instantes o la imagen corporativa y su consecuente rentabilidad.
Por ello, tan relacionado con la intimidad “on line”, es el derecho al
honor, es decir, la dignidad personal reflejada en la consideración de los
terceros y en el sentimiento de la persona misma, en el que quedan
comprendidos distintos aspectos. Por un lado, la autovaloración, el íntimo
sentimiento que cada persona tiene de su propia dignidad y la de su familia
(honor subjetivo, honra o estimación propia), y por el otro, el buen nombre
y la buena reputación objetivamente adquiridos por la virtud, y el mérito de
la persona, o de la familia de que se trate, dentro del marco de sociabilidad
[282]
del ser humano (honor objetivo, buen nombre, reputación o fama) .
Así las cosas, los derechos a la intimidad, imagen y honor, todos derechos
que –en el mundo digital– podrían ser componentes de un derecho mayor,
denominada la “privacidad online”, actúan como verdaderos valladares ante
la actividad automatizada de la Administración pública. Y esto es así, ya
que ninguna técnica que constituya IA puede menoscabar derechos
constitucionales, y allí encuentra límites concretos de actuación.
3.– La protección de datos personales y el derecho a la
autodeterminación informativa
Cabe destacar que como consecuencia del derecho a la intimidad y
[283]
privacidad , ya desde un tiempo se habla del derecho a la
autodeterminación informativa, como la facultad de toda persona para
ejercer control sobre la información personal que le concierne, contenida en
registros públicos o privados, especialmente almacenados mediante medios
informáticos.
 Como lo señala Bidart Campos:

“en la autodeterminación informativa aparece una fase activa

que, en el proceso de circulación de la información personal,
confiere al interesado un protagonismo fuerte para intervenir con
fines de control y preservación de sus datos, en todo lo que en
[284]
cuanto a su veracidad y confidencialidad le conciernen” .

Es el equivalente a lo que se ha denominado como “libertad informativa”

que implica el derecho de toda persona de informarse para su propia cuenta
y de disponer de los datos informatizados, que posee el administrador de
[285]
una base de datos computacional . La “libertad informática” es así un
derecho a controlar el uso de los mismos datos insertos en un programa
informático y comprende, entre otros aspectos, la oposición del ciudadano a
que determinados datos personales sean utilizados para fines de aquel
[286]
legítimo que justificó su obtención .
Este derecho sobre las informaciones que nos atañen, es un derecho
personalísimo que actúa y opera en forma autónoma e independiente en
relación a otros derechos de la persona, como la intimidad, privacidad, la
imagen, el honor, la identidad personal, y se encuentra en el amplio
[287]
contexto de la libertad y la identidad personal . Es decir, sin que se
violen o desconozcan estos últimos derechos, sí puede en cambio haber
reproches a partir del derecho a la autodeterminación informativa.
Los datos personales obtenidos sin el consentimiento de su titular, así
como los logrados con su consentimiento pero utilizados para fines distintos
[288]
al de su autorización , habitual y lamentablemente son manipulados de
manera tal que se lesionan no solo el derecho a la intimidad, sino otros
elementos básicos de todo ser humano como el derecho a trabajar, a no ser
discriminado, etc., a través por ejemplo del marketing directo, la
[289]
determinación del perfil, entre otros .
 Todo ello, nos lleva al escenario constitucional de la acción de hábeas
data (artículo 43, Constitución Nacional) y la Ley N° 25.326 de “Protección
de Datos Personales” de aplicación –obviamente– para los entornos
digitales de la Administración pública. Es más, se ha reconocido que aquel
instituto ha sido concebido fundamentalmente, entre otras cosas, para la
protección de datos sensibles y que su origen fue la consecuencia de la
[290]
manipulación de bases a través de la tecnología informática . Como
producto del impacto de las nuevas tecnologías, se ha facilitado
enormemente la recolección y almacenamiento de datos personales toda vez
que el ordenador y el uso de Internet posibilitan el rápido y completo
tratamiento de datos personales, que son llevados ahora a archivos
informatizados.
En esencia, entonces, la IA aplica al mundo del Derecho, en general, y
del Derecho Administrativo, en particular, debe respetar todo el sistema
jurídico (internacional, constitucional y legal) establecido en resguardo para
protección de datos personales, pues de no ser así, se puede caer en el riesgo
de evidentes e inmotivadas restricciones al derecho constitucional de la
autodeterminación informativa. Muchas veces la IA supone
(lamentablemente) el manejo de datos sin que tengamos control sobre ello,
lo que justifica sobradamente el análisis jurídico aquí ofrecido.
4.– La prohibición de la automatización decisoria exclusivamente por
valoraciones personales
Particularmente, uno de los supuestos de resguardo al derecho de protección
de datos personales lo encontramos en la prohibición de la automatización
jurídica basada exclusivamente en perfiles digitales.
La automatización en las resoluciones (judiciales y/o administrativas)
tiene una regulación concreta en el artículo 20 de la Ley N° 25.326 de
“Protección de datos personales”, estableciéndose un límite claro ante esa
situación, por cuanto aquellas no pueden tener como único fundamento los
datos que surjan del tratamiento informatizado de la persona, esto es el
“perfilamiento” artificial y muchas veces parcial, que las plataformas hacen
de una persona.
Así señala que
 “Las decisiones judiciales o los actos administrativos que
impliquen apreciación o valoración de conductas humanas, no
podrán tener como único fundamento el resultado del tratamiento
informatizado de datos personales que suministren una definición
del perfil o personalidad del interesado”, sancionando con la
nulidad insanable “los actos que resulten contrarios a la
disposición precedente”.

De igual manera, el artículo 40 del Proyecto de reforma de la Ley de

Protección de Datos Personales, al momento que incorpora la figura de la
evaluación de impacto relativa a la protección de datos personales siguiendo
[291]
a la normativa europea , establece que

“cuando el responsable del tratamiento prevea realizar algún tipo

de tratamiento de datos que por su naturaleza, alcance, contexto o
finalidades, sea probable que entrañe un alto riesgo de afectación
a los derechos de los titulares de los datos amparados en la
presente Ley, deberá realizar, de manera previa a la
implementación del tratamiento, una evaluación del impacto
relativa a la protección de los datos personales. La evaluación de
impacto relativa a la protección de los datos es obligatoria en los
siguientes casos, sin perjuicio de otros que establezca la
autoridad de control: a. Evaluación sistemática y exhaustiva de
aspectos personales de personas humanas que se base en un
tratamiento de datos automatizado, como la elaboración de
perfiles, y sobre cuya base se tomen decisiones que produzcan
efectos jurídicos para las personas humanas o que les afecten
significativamente de modo similar; b. Tratamiento de datos
sensibles a gran escala, o de datos relativos a antecedentes
penales o contravencionales”.

Finalmente, en el supuesto que se viole o desconozca este derecho “a no

ser objeto de una decisión basada únicamente en el tratamiento
automatizado o en la elaboración de perfiles” que puedan producir efectos
jurídicos sobre él o que le afecten de modo significativo, el interesado
tendrá la facultad de impugnar aquellos actos, decisiones y/o negocios
jurídicos celebrados en función exclusivamente de esas decisiones,
pudiendo –además– reclamar la reparación del posible daño moral que se le
[292]
hubiera causado .
Un ejemplo de lo expuesto, lo encontremos en la sentencia del Consejo
[293]
Constitucional francés del año 2019 , que puso como condición para
ratificar la constitucionalidad de normativa por la cual se utilizaba IA para
fines tributarias, entre otros aspectos, que los indicios de fraude fiscal
recabados de forma automatizada a través de los algoritmos no pueden
servir de única prueba para fundamentar una regularización, sino que deben
ponerse en marcha procedimientos de control fiscal, a través de medios no
automatizados, para evaluar la fiabilidad de tales indicios (corroboración) y
completarlos debidamente a efectos de motivar una eventual comprobación.
Y agregó que cualquier regularización o sanción que pudiera resultar de
tales procedimientos debe ser debidamente individualizada y motivada, sin
que pueda fundamentarse únicamente en los datos resultados de tratamiento
automatizado, permitiendo en todo caso el ejercicio de derechos de defensa
(audiencia y contradicción) y las garantías que establece la normativa de
protección de datos de carácter personal (derechos de acceso, rectificación y
cancelación).
No obstante, desde nuestra óptica, tal prohibición no alcanza a toda la
automatización de las decisiones administrativas por medio del uso de IA
en el marco de un procedimiento administrativo llevado a cabo por la
Administración pública en ejercicio de potestades públicas, como sí
bregamos. Por el contrario, la norma veda solamente la realización –tal
como dice el título del artículo 40– de las valoraciones personales –es decir
el “perfilamiento” digital o “personalidad” parcial– ya que el mismo podría
traer consecuencias jurídicas disvaliosas para la persona humana y sus
derechos.
Así se ha reflexionado que “en la era del perfilamiento, el titular del dato
tiene una identidad digital mellada, una identidad digital disociada y
determinista, que puede llegar a ser letal, para él mismo, como aquellos que
[294]
lo sucedan” .
En definitiva, el régimen invocado lejos de prohibir las decisiones
administrativas automatizas, las permite, pero con una limitante: aquellas
no pueden estar exclusivamente fundadas en valoraciones respecto
tratamiento informatizado de la persona humana, lo que es evidente, no solo
por la relatividad de tales perfiles, sino por la imposibilidad de la persona de
participar en su elaboración, lo que a la postre trae consecuencias negativas
respecto los derechos al debido proceso, de defensa, de protección de datos
personales, de privacidad, entre otros.
5.– La impugnación de los actos automatizados y el principio de tutela
administrativa efectiva
Tampoco el procedimiento de impugnación de esta categoría de actos está
ajeno a especiales particularidades. En primer lugar, debe estarse a que una
de las consecuencias de la automatización de las decisiones administrativas
es la no aplicabilidad de la institución de la excusación y recusación: dado
que no hay persona humana actuante, sino que quien tramita y resuelve es
una aplicación informática, carecerá obviamente de todo interés en el
asunto y, por tanto, el atente inteligente “actuará” siempre de forma
independiente y objetiva.
En segundo lugar, y en el supuesto que se manifieste cualquier vicio que
pudiera sufrir todo acto administrativo, o eventualmente, de darse algunas
deficiencias en función de los requisitos antes indicados (falta de
autorización legal, ausencia de validación del programa, etc.), los que
podrían implicar defectos concretos de forma o de fondo respecto el acto
automatizado, debe estarse ante la posibilidad de la impugnación
administrativa y judicial de tales resoluciones, en realidad, como lo son
todas.
En este sentido, como antes se dijo, debe convenirse que el control
administrativo de los actos a través de medios recursivos, solo puede
ejercerse por el superior jerárquico del autor del acto cuya revisión se
pretende, solo en la medida que este sea persona humana, porque de ser así,
el acto original agota por sí mismo la vía administrativa. Y esta es la
solución correcta, ya que naturalmente en el caso del recurso de
reconsideración (que debe ser resuelto por la misma autoridad), o en el caso
del recurso jerárquico en donde el superior también decida en base al
mismo programa, como lo algoritmos ya están definidos, no existe
posibilidad de que resuelva de un modo distinto al originario. En definitiva,
de una forma u otra, la impugnación tendrá sentido y razón de ser, si el acto
generado por IA, es revisado por una persona humana, o en su caso, por un
agente inteligente distinto al original.
Estas premisas fundamentales respecto la impugnación de los actos
administrativos automáticos, sin dudas cumplen los standares más
elementales brindados por el Sistema Internacional de Derechos Humanos,
en general –tal como se analizará seguidamente–, y en especial el de la
[295]
“tutela administrativa efectiva” , el que se configura, para nosotros,
tanto como un principio, tanto como un derecho, y que en uno u otro caso,
importa nuevos parámetros que deben ser finalmente tenidos en cuenta por
el intérprete jurídico al momento de moderar el interés general con las
[296]
pretensiones individuales .
Así es que el principio de la tutela administrativa efectiva, por ser tal, es
fundante de normas, supletorio de ellas, se erige como un estándar de
justicia y equidad, inspirador de normas que regulan la función
administrativa, y, por ende, el procedimiento administrativo. De esta
manera, el principio de tutela administrativa efectiva cumple la
funcionalidad de ser informante y estructurante de todo el conjunto de
normas y actos que configuran el procedimiento administrativo, en un
estado formal y sustancial de derecho, sirviendo de una directriz
[297]
insoslayable en su interpretación y aplicación a los casos concretos .
Asimismo, y en el supuesto que lo abordemos como “el derecho a la tutela
administrativa efectiva”, éste debe ser reconocido como un derecho humano
esencial, de naturaleza procesal, de raigambre constitucional, con origen en
los Tratados Internacionales de Derechos Humanos, y por ello, debe
constituirse como una garantía federal directamente operativa y de
aplicación inmediata en todos los niveles de gobierno, y siempre a favor del
administrado.
De aquí extraeremos en general el principio (también derecho) de tutela
administrativa efectiva, y en particular, el “principio de igualdad de armas”,
que establece que el proceso se construye en todas sus fases en forma
equilibrada de modo que ninguna de las partes goce privilegios ni la otra
[298]
tratos discriminaciones , tal como también lo exige el artículo 75 inc.
23 de nuestra Constitución Nacional.
 Esta definición jurídica engrandece si tenemos en cuenta que

“la categoría de la tutela administrativa efectiva se inserta como

un paso más dentro de esa búsqueda de eficacia práctica en los
instrumentos estatales de protección de los derechos y encuentra
su propia funcionalidad desde dos elementos que la caracterizan y
distinguen de su par judicial: el papel preventivo que se le asigna
a partir de la finalidad de evitar el conflicto y el lugar
privilegiado de la función administrativa para la obtención de ese
propósito, en tanto actividad estatal que por excelencia presenta
[299]
los rasgos diferenciales de inmediatez y concreción” .

En concreto, de la tutela administrativa efectiva se puede deducir la

verdadera inutilidad del sistema de recursos administrativos instaurados no
como garantía para el particular sino como una carga para sus
[300]
intereses , y de allí entonces, aplicando esta derivación al ámbito de la
automatización administrativa, puede colegirse por lo tanto la esterilidad de
la aplicación del régimen recursivo, tal como se conoce, pero que se
visualiza aún más para el caso de la impugnación administrativa actos
administrativos automáticos. De tal manera, el uso de la IA en la
Administración pública, exige la revisión de los sistemas de control en sede
administrativa.
6.– Exigencias constitucionales y convencionales de la automatización
administrativa. El principio de no discriminación
Resulta incuestionable en los últimos tiempos, sobre todo a partir de la
Reforma Constitucional de 1994, el impacto que ha tenido el Derecho
Internacional de los Derechos Humanos, en todos los ámbitos jurídicos, y
en particular, en el Derecho Público. Sus efectos más notorios se proyectan
en el Derecho Procesal Constitucional (en relación a diversas instituciones
que conciernen a la protección de los derechos humanos y al control de
constitucionalidad), en el Derecho Procesal en general, a través del
desarrollo de procesos urgentes provisionales y no provisionales, y el
Derecho Privado, lo que da cuenta la unificación del Código Civil y
Comercial, que asume –como tantas veces se ha dicho– la
constitucionalización del Derecho Privado como principal eje motivacional.
Hoy en día, todas las técnicas jurídicas estarán sujetas a una legítima
reelaboración conceptual, en la medida en que se las enfoque desde la
óptica de los derechos humanos. Resulta como metodología de primera
magnitud, reorganizar las disciplinas dogmáticas en función de la
ampliación de los derechos fundamentales. Esta expansividad o fuerza
expansiva de los derechos esenciales del hombre, conmueve enormemente a
todo instrumento que pretende ser cauce de realización de aquellos,
redefiniendo los mecanismos que buscan ser útiles y eficaces en la
[301]
concreción de los derechos fundamentales .
Desde este nuevo análisis, la importancia del procedimiento
administrativo se justifica por la importancia de los derechos fundamentales
que aquel viabiliza y hace posible, toda vez que debe ratificar en forma
concreta la fuerza normativa de la Constitución Nacional, y la plena
operatividad y directa aplicación de sus cláusulas y los Tratados
Internacionales de Derechos Humanos para todas las autoridades de todos
los niveles de gobierno, porque –como decía Bielsa– el Derecho
Administrativo se muestra como el momento dinámico de la Constitución y
[302]
el procedimiento como el “derecho procesal de la Constitución” .
[303]
En concordancia con lo manifestado, se ha explicado que los
sistemas de IA basado en un enfoque de derechos, deben respetar
elementales principios. Tales como: el de “transparencia algorítmica”, de tal
manera que se pueda inferir o deducir acerca de los criterios en que se basa
para arribar a una determinada conclusión o resultado, y que –además–
cuando se están en juego derechos fundamentales, sean validados los
resultados intermedios; el de “trazabilidad algorítmica”, por el cual el
sistema debe poder explicar, paso a paso, las operaciones técnicas que se
realiza desde el inicio hasta el fin del proceso determinado; y el de
“máximo acceso algorítmico”, ya que toda entidad pública estatal o no
estatal debe garantizar el máximo acceso al sistema de procedimiento de
información que las tecnologías realizan.
 Es habitual el aparecimiento de los denominados “algoritmos opacos”, en
donde si bien es verdad que en la mayoría de la legislación comparada
establece que el responsable del tratamiento de datos de carácter personal
deberá facilitar al interesado la información, ante la existencia de decisiones
automatizadas –incluido la elaboración de perfiles– no existe información
relevante sobre la “lógica” aplicada, así como la importancia y las
consecuencias previstas de dicho tratamiento para el interesado, y en no
[304]
pocas ocasiones no está claro su funcionamiento .
Párrafo aparte merece su atención el principio de “no discriminación
algorítmica”, que informa que el diseño e implementación de los algoritmos
inteligentes deben respetar el principio de no discriminación, que consiste
en impedir que los sistemas de IA procesen información o datos bajo
“sesgos” o distinciones por motivos de raza, color, sexo, religión, opinión
política, etc., es decir, que eviten operaciones que utilicen en sus circuitos
de procesamiento ciertas distinciones basadas en categorías repugnantes
para el derecho (categorías sospechosas).

“El uso de algoritmos no es todo lo neutral que debiera ser –

entiende Navas Navarro–. Puede dar lugar, entre otras
situaciones, a la elaboración de perfiles de los usuarios, lo que
implica reconocer patrones de comportamiento de éstos en los que
se les encasilla, y en los cuales se basa la publicidad dirigida
online o in–app, pudiendo conllevar discriminaciones de aquéllos
que no deben ser admisibles por el ordenamiento jurídico, si no
están justificadas convenientemente”.

Cuenta la autora que

“Muchas de estas decisiones las adoptan agentes autónomos, esto

es, se trata de decisiones automatizadas basadas en los perfiles
que afectan, en muchos casos, de forma significativa al interesado
en el tratamiento de sus datos. Esta forma significativa en que le
afectan es ´perjudicial´ para él. Perjudica sus intereses
económicos mermando su capacidad de decisión y de elección de
forma sustancial…. Son discriminaciones ´invisibles´ para el
 usuario llevadas a cabo por programas de ordenador. Así, no sólo
existe asimetría en la información entre las partes, sino que ésta
ocasiona discriminación. Estas prácticas se conocen con el
nombre de ´weblining´ por contraste con la más tradicional
´redlining´ en virtud dela cual se segmentaba a la población, para
denegarle la prestación de servicios o bien ofrecerle productos a
un precio más elevado, en función de su lugar de residencia sobre
la base del código postal, lo que era un factor que indicaba la
[305]
pertenencia a una determinada raza o etnia” .

La imparcialidad e independencia de la IA estará vinculada a que los

algoritmos no sean discriminatorios o bien que tengan la capacidad de
aplicar presunciones favorables a ciertas personas o grupos de personas, lo
que se logra – explica Gil Dominguez– observando las orientaciones
sociales a partir de los fallos que se dictan o auscultando el estado de
opinión de la gente o interrogando acerca de la multiplicidad de situaciones
para luego introducirlo en el algoritmo para dotarlo de una visión “más
[306]
humana” .
Sin dudas, la imposibilidad concreta del respeto de estos principios, no
estará exento de daños, cuya responsabilidad debe ser garantizada. Pasemos
a esta problemática, entonces.
7.– Responsabilidad por los daños causados por la IA y los algoritmos
Nada más lejos para nosotros que generar temor a través de alguna teoría
por la cual en el futuro los IA y los robots cobrarán vida, y extinguirán la
humanidad.
Con gran ironía relata Harari que

“La IA suele asustar a la gente porque esta no cree que vaya a

ser siempre obediente. Hemos visto demasiadas películas de
ciencia ficción sobre robots que se rebelan contra sus amos
humanos, que corren descontrolados por las calles matando a
todo el mundo. Pero el problema real con los robots es justo lo
contrario. Debemos temerlos porque probablemente obedecerán
 siempre a sus amos y nunca se rebelarán…El problema real de los
robots no es su propia inteligencia artificial, sino más bien la
[307]
estupidez y crueldad naturales de sus amos humanos” .

Sin embargo, debe tomarse conciencia respecto los posibles perjuicios

que la IA y la robótica pueda causar. En este sentido, se ha dicho con
[308]
verdad que toda la parafernalia de datos y sistemas predictivos puede
volverse en nuestra contra, siendo los algoritmos capaces de ocasionarnos
daños, en por lo menos tres situaciones.
Primero, a través de los bugs o errores informáticos, que constituyen un
error de programación, ya sea porque el programa no se comportó conforme
la intención del programador o porque las intenciones del programador no
cumplieron las expectativas de los usuarios. Segundo, tal como se adelantó,
los sesgos en los algoritmos, implican un peligro de la IA ante la promoción
de la discriminación directa o indirecta, reafirmando prejuicios e
[309]
inequidades contra grupos minoritarios y/o de escasos recursos . Y
tercero, la manipulación algorítmica y/o el efecto “burbuja”, en aquellos
casos que las aplicaciones son sesgadas, maliciosas, e inducen el
comportamiento de las personas en determinado sentido.
Debido a que los sistemas autónomos operan justamente en entornos que,
bien estructuralmente, bien en detalle, no son conocidos o lo son de forma
imprecisa, el comportamiento de la máquina por definición no es previsible
al detalle, precisamente porque tal comportamiento depende de factores
ambientales sensoriales percibidos.
Desde la perspectiva jurídico-civil, la utilización de sistemas autónomos
es problemática, sobre todo considerando los criterios de imputación. El
vigente concepto del Derecho civil se basa en la premisa de que sólo las
personas humanas y jurídicas tienen personalidad (capacidad), y, con ello,
devienen sujetos agentes. En este sentido, ya Savigny formuló en su
“Sistema del Derecho romano actual” que cada relación jurídica existe “en
relación de una persona a otra” y el concepto original de la persona o el del
sujeto de derecho debería coincidir con el concepto del ser humano.
Partiendo de esta idea antropocéntrica, la utilización de la técnica, desde
una perspectiva jurídica, es caracterizada por la imputación a una
“personalidad”. Ahora bien, como se dijo antes, el “poshumanismo” ha
puesto en crisis e impregnado de relatividad a estos conceptos tradicionales.
En el caso de daños generados por la IA, la robótica y/o la
automatización mediante algoritmos, redes neuronales, etc.: ¿Quién está
obligado a indemnizar daños y perjuicios cuando una máquina, en gran
medida autónoma, ocasiona un daño? ¿Su fabricante? ¿Su programador?
¿El que la ha la usado? ¿A qué reglas de la Derecho de la responsabilidad
civil debemos acudir para resolver los problemas de imputación que
resultan de la utilización de sistemas autónomos?
La opinión probablemente dominante –hasta donde este problema ha sido
tratado– parte de una reflexión tradicional.

“La mayoría toma por base el convencimiento de que el

ordenador (al igual que antes) únicamente puede procesar datos,
pero ningún sentido. Por tanto, no se debería en absoluto hablar
de inteligencia y, sobre todo, de acciones autónomas... Con lo que
permanece, como siempre, enlazado a la acción humana, lo que es
jurídicamente relevante y significa que, en última instancia,
[310]
siempre se deja ver una persona imputable” .

Así las cosas, entonces, y avanzando un poco más concretamente, a la

hora de determinar la naturaleza de la responsabilidad derivada de la IA y el
uso de algoritmos, se ha señalado que no queda otra que decantarse por la
[311]
responsabilidad objetiva .

“La adopción de un factor objetivo de atribución descansa en la

protección del tercero damnificado, debido a la imposibilidad de
determinar quién es el sujeto responsable del daño, ya que
intervienen en la cadena de programación investigadores,
diseñadores, desarrolladores, y programadores. Asimismo, podría
dificultarse señalar quien ejecutó el algoritmo. No parece justo
poner en cabeza del damnificado la tarea de señalar quién obró
 con la diligencia debida y/o eventualmente con dolo, lo que
[312]
descarta de plano un factor subjetivo de atribución” .

Sin perjuicio de lo dicho, debemos preguntarnos si en el caso de los

daños producidos por los algoritmos la situación es análoga a la
responsabilidad de los proveedores de Internet, en donde en nuestro país, y
en el mundo, la legislación y jurisprudencia se han inclinaron por una
responsabilidad de tipo subjetivo ante la difusión de contenidos lesivos de
derechos, la que opera una vez que el agente de la Red fuera
fehacientemente intimado por dicho contenido ilícito o lesivo, y aquel no
procediera a bloquear la publicación.
Por todo lo expuesto, coincidimos con aquella doctrina jurídica
especializada en IA y robótica en que el

“El criterio de la ´culpa´ como criterio de imputación deja de

tener sentido, en mi opinión, en un mercado cuyos protagonistas
son los sistemas expertos y la situación de incumplimiento
proviene de ellos y no del humano que los ha empleado. De nuevo,
se trataría más bien de establecer criterios de reparto del riesgo
[313]
del incumplimiento” .

De tal manera, en caso de algoritmos sesgados y bugs, si aplicamos

estrictamente nuestra legislación interna y llevamos estos supuesto al
Derecho Argentino, no tenemos dudas que estamos en presencia de un
producto defectuoso, por lo que si se trata de una relación de consumo, cabe
[314]
la aplicación del artículo 40 de la Ley de Defensa del Consumo .
Sin embargo, no debe obviarse que existen cada vez más voces que
entienden que exonerar a los fabricantes de tecnologías robóticas de
responsabilidad por eventos que –aunque atribuibles a la acción de un
robot– quedan efectivamente fuera de su capacidad de control, se conecta
con la finalidad de favorecer el aumento de la industria del sector.
 “La prospectiva de afirmar una responsabilidad del fabricante,
normalmente el sujeto más solvente dentro de los legitimados
pasivos en la acción resarcitoria, tendría un efecto
desincentivante en el desarrollo de tecnologías innovativas, pero
no exentas de riesgos. Además, determinaría un aumento de los
costos de aplicación de tecnologías que tienen utilidad social,
tornándolas menos accesibles a todos los potenciales interesantes.
Por otro parte, el propietario o el usuario de estas nuevas
tecnologías debería recurrir a mecanismos asegurativos que de
nuevo podrían incidir negativamente en la accesibilidad a la
[315]
tecnología, en especial en la fase inicial de su difusión” .

Entonces, por las razones antes indicadas, ¿es también imaginable

atribuir una subjetividad jurídica parcial a los agentes inteligentes? ¿Deben
los robots, por consiguiente, responder por sí mismos? De hecho, si bien de
forma aislada, ya han sido formuladas propuestas radicales en este sentido.
Parece que el reconocimiento de una capacidad jurídica parcial es necesario
para establecer una imputación diferenciada de derechos y obligaciones a
los agentes autónomos y para delimitar esferas de responsabilidad jurídica
de uno y otro.
En este marco, se ha empezado a elaborar un status legal de la “persona
electrónica”, y en este sentido ya se está tratando de un nuevo derecho: el
“estatuto civil de los robots” dotados de inteligencia artificial, cuyo análisis
jurídico debe enmarcarse dentro de una nueva rama jurídica autónoma, el
“Derecho de los Robots” (Robot Law), para dar respuesta a estos insólitos
desafíos y situaciones disruptivas, como en su momento sucedió con el
Derecho del Trabajo o el Derecho Ambiental. Además, –comenta
especialísima doctrina– es preciso no olvidar la importancia de intervenir
oportunamente y de manera proactiva a fin de orientar la evolución actual y
[316]
futura en esos ámbitos .
El dilema que se plantea hoy, ante las actividades que van realizando los
robots y los programas de IA, no es tanto analizar los límites físicos, sino,
[317]
en especial, los jurídicos . Así es que la Resolución del Parlamento
Europeo de fecha 16 de febrero de 2017, estableciendo una serie de
recomendaciones destinadas a la Comisión Europea para que presente una
propuesta de Directiva relativa a la legislación civil de los robots, señaló
que es crucial la cuestión de la responsabilidad jurídica por los daños que
puedan ocasionar, mediante seguros obligatorios respecto de ciertas
categorías, fondos de compensación, y número de matrícula individual
(punto 59).
En definitiva,

“La protección jurídica de la persona mecánica se construiría

mediante una representación procesal, pudiendo ser solucionadas
las cuestiones de responsabilidad a través de un fondo o un
sistema de seguro obligatorio. Lo verdaderamente ventajoso de
una responsabilidad propia del robot sería que, de esta manera,
las cuestiones de responsabilidad consideradas pueden ser
superadas posiblemente mejor. El agente podría, como sujeto
responsable independiente, ser interpelado, y, pensando en esta
eventualidad, ser dotado con un patrimonio, para, antes incluso
de ser objeto de una utilización proclive al riesgo, disponer en el
[318]
tráfico jurídico de un suficiente fondo de responsabilidad” .

Con todo, no obstante, debe decirse también que sigue siendo perjudicial
que el fondo de responsabilidad proporcionado al agente digital vincula un
patrimonio sin que haya daños concretos, pero lo que es peor aún, sólo
estaría disponible un fondo de responsabilidad limitado, de modo que los
“agentes inteligentes” podrían ser utilizados con el objetivo (muchas veces
fraudulento) de alcanzar el beneficio de la limitación de responsabilidad.
Sin perjuicio de todo lo expuesto, y pese la necesidad de una legislación
al respecto, parece claro que desde el punto de vista del Derecho de Daños
mientras no se desarrolle, en su caso, la categoría nueva a la que se refiere
la Resolución antes mencionada, avalando la existencia de una nueva “e–
persona”, las acciones de los robots o derivadas de actos en los que estén
implicadas diversas formas de IA que causen daño a terceros deberán ser
resueltas conforme la normativa general de responsabilidad civil, ya sea
[319]
contractual o, en su caso, extracontractual . Y si, particularmente, los
agentes inteligentes son utilizados por la Administración pública,
naturalmente debe estarse a las reglas de la responsabilidad del Estado.
8.– El principio de precaución e impacto social. Un “enfoque basado en
el riesgo”
Las tecnologías de IA pueden presentar nuevos riesgos de seguridad para
los usuarios cuando estén integradas en productos y servicios. Estos riesgos
pueden proceder de defectos en el diseño de la tecnología de IA, estar
relacionados con problemas de disponibilidad o calidad de los datos, u otros
derivados del aprendizaje de las máquinas.
Por lo tanto, debe evitarse justamente la consecución de daños que la IA
y algoritmos podrían provocar, lo que ha llevado a proponer a la
[320]
doctrina la aplicación jurídica del principio de precaución para
prevenir los graves riesgos con los que nos enfrentamos (máquinas
adoptando decisiones plenamente automatizadas con la posibilidad de
afectar derechos de humanos).
En este sentido, el ya citado Código de Conducta Ética para los
ingenieros en robótica anexo a la Resolución del Parlamento Europeo, de 16
de febrero de 2017, con recomendaciones destinadas a la Comisión sobre
normas de Derecho civil sobre robótica, incorpora –entre otros– el principio
de precaución según el cual

“Las actividades de investigación en el ámbito de la robótica

deben llevarse a cabo de conformidad con el principio de
precaución, anticipándose a los posibles impactos de sus
resultados sobre la seguridad y adoptando las precauciones
debidas, en función del nivel de protección, al tiempo que se
fomenta el progreso en beneficio de la sociedad y del medio
[321]
ambiente” .

El principio de precaución se ha venido conjugando hasta ahora,

fundamentalmente, en materias relativas al medio ambiente, la salud y la
propia persona humana, además de recibir no pocas críticas, en particular
por su naturaleza limitadora del progreso al justificar y articular
limitaciones (o suspensiones) a actividades o productos sobre los que recaen
sospechas fundadas de producir un daño futuro, tal como se dijo antes
respecto la responsabilidad de los agentes inteligentes. No obstante,
entendemos, que “siempre cabría la instrumentación de tal principio para
casos de identificación de riesgos muy graves y potencialmente efectivos, y
en especial al respecto de las personas (o de bienes de la máxima
[322]
relevancia constitucional)” .
Particularmente, estamos haciendo referencia al principio de precaución
social y a la necesidad de un estudio de impacto social (parafraseando con
lo ambiental) que señala que las obligaciones de debido cuidado o debida
diligencia asociadas al derecho a una buena administración exigen un
determinado comportamiento administrativo en el procedimiento de
adopción de decisiones administrativas.
Del que no parece irrazonable deducir la necesidad de requerir un
esfuerzo complementario de motivación de los actos estatales para explicar
las razones que llevan a la adopción de determinadas normativas que
inciden negativamente sobre los derechos sociales, y si lo correlacionamos
con el derecho a la buena administración, concluiremos con la procedencia
de observar un deber de cuidado en la adopción de las decisiones con la
debida ponderación de todos los intereses y hechos relevantes,
especialmente para aquellos sectores más vulnerables.
De tal manera, y en virtud de este principio de precaución social, somos
partidarios de establecer, como decimos, una reserva legal de ejercicio de
potestades discrecionales en favor de seres humanos, para garantizar la
“humanidad” en el caso concreto, y, por lo tanto, la buena administración.
Por su lado, en lo que refiere a las legislaciones concretas, la Unión
Europea ha dicho que los marcos reguladores en materia de IA deben ser
eficaces para alcanzar sus objetivos sin ser excesivamente prescriptivos, lo
que podría generar una carga desproporcionada, en especial para las pymes.
Para alcanzar este equilibrio, la Comisión Europea considera que debe
[323]
seguir un “enfoque basado en el riesgo” que resulta importante para
asegurar que la intervención reguladora sea proporcionada. Así se requiere
de criterios claros para establecer diferencias entre las distintas aplicaciones
de IA, en especial para determinar si entrañan un riesgo elevado o no.
Asimismo, la definición de qué es una aplicación de IA de riesgo elevado
debe ser clara y fácil de entender y de aplicar para todas las partes
interesadas.
La Comisión considera que, en general, una aplicación de IA determinada
debe considerarse de riesgo elevado en función de lo que esté en juego, y
considerando si tanto el sector como el uso previsto suponen riesgos
significativos, en especial desde la perspectiva de la protección de la
seguridad, los derechos de los consumidores y los derechos fundamentales.
De manera más específica, una aplicación de IA debe considerarse de riesgo
elevado cuando presente la suma de los dos criterios siguientes: 1)

“En primer lugar, que la aplicación de IA se emplee en un sector

en el que, por las características o actividades que se llevan a
cabo normalmente, es previsible que existan riesgos significativos.
El primer criterio vela por que la intervención reguladora se
centre en aquellas áreas en las que, de manera general, se
considere que hay más probabilidad de que surjan riesgos. En el
nuevo marco regulador deben detallarse de manera específica y
exhaustiva los sectores que englobe. Por ejemplo, la sanidad, el
transporte, la energía y determinados ámbitos del sector
[324]
público” y ; 2) “En segundo lugar, que la aplicación de IA en
el sector en cuestión se use, además, de manera que puedan surgir
riesgos significativos. Este segundo criterio refleja el
reconocimiento de que no toda utilización de la IA en los sectores
señalados implica necesariamente riesgos significativos. Por
ejemplo, si bien la atención sanitaria puede ser un sector
importante, un fallo en el sistema de asignación de citas de un
hospital no supondrá en principio un riesgo significativo que
justifique la intervención legislativa. La evaluación del nivel de
riesgo de un uso determinado puede basarse en las repercusiones
para las partes afectadas. Por ejemplo, el uso de aplicaciones de
IA con efectos jurídicos o similares en los derechos de un
particular o de una empresa; aplicaciones que presenten el riesgo
de causar lesiones, la muerte, o daños materiales o inmateriales
significativos; aplicaciones que produzcan efectos que las
personas físicas o jurídicas no puedan evitar
 [325]
razonablemente” . En suma, la aplicación de los dos criterios
debe garantizar que el ámbito del marco regulador se adapte a lo
necesario y ofrezca seguridad jurídica.
9.– AI y derecho a la buena administración
Para terminar con la opacidad y abrir estas diversas cajas negras, es preciso
encontrar el modo de hacer cumplir las reglas y principios jurídicos que se
derivan del derecho a una buena administración de los ciudadanos, y de los
demás derechos que de él emanan, también, claro está, en el ámbito de la
IA; reglas que incluyen el acceso a la información pública, la transparencia,
el respecto al debido proceso adjetivo, entre otros.
[326]
Para Ponce Solé , a quien seguimos en este apartado, las diversas
medidas que deberían desplegarse en garantía del derecho a una buena
administración de los ciudadanos, alcanzan la construcción de un
procedimiento debido administrativo para la aprobación de los algoritmos;
la reafirmación de un derecho a una explicación comprensible del
funcionamiento de los algoritmos basado en el derecho a comprender; el
uso de programario abierto, la publicidad activa y el derecho de acceso a los
algoritmos; la prevención y el control de los sesgos de los algoritmos y la
evaluación de impacto de protección de datos de los mismos. Y finalmente,
agregamos nosotros, el control administrativo y judicial.
Estos aspectos, en rigor de verdad, ya fueron analizados en forma
particular como condicionantes para la validez jurídica de las decisiones
administrativas automáticas. Ahora, volvamos sobre ellos respecto la
utilización de las IA en la Administración en general, bajo el tamiz del
derecho humano a la buena administración, y todos los derechos que este
supone y comprende.
1.– El procedimiento para la aprobación. A pesar de que no existan aún
procedimientos administrativos formalizados sectoriales de aprobación de
los programas informáticos administrativos, de cualquier manera, deben
aprobarse por la autoridad competentes reglas de aplicación para garantizar
el principio de legalidad. Ello, por la simple la aplicación del procedimiento
administrativo común a la actividad administrativa automatizada. De igual
modo, sería interesante, en nuestra opinión, que las leyes de procedimiento
administrativo y sus reglamentaciones, estableciesen algunas reglas y
principios esenciales, en la línea de lo expuesto, como recordatorio a los
instructores del procedimiento administrativo de sus obligaciones de buena
administración.
Y eventualmente, si los algoritmos fueran elaborados por contratistas de
la Administración, igualmente éstos deberían poner a disposición todos los
códigos y bases de datos, para su posterior aprobación.
2.– Derecho a una explicación comprensible. El derecho a una buena
administración incluye también la obligación de los gobiernos y las
Administraciones de actuar diligentemente para hacerse comprender y el
correlativo derecho del ciudadano a comprender la información que le
transmite la Administración de cualquier modo (mediante notificaciones o
publicaciones) y mediante cualquier soporte (páginas web, plafones
informativos, cartas), incluyendo, claro está, a los algoritmos y códigos
[327]
fuente utilizados, en su caso, para la adopción de decisiones .
En el caso de vulnerarse el estándar de debida diligencia en la
“comprensibilidad”, cosa que habrá que presumirse si el texto no es
inteligible para el hombre y mujer que a su vez despliegue una diligencia
razonable en la comprensión, podríamos preguntarnos si cabria alegar la
inobservancia del cumplimiento de la normativa que aprueba la IA ante la
ignorancia y desconocimiento de la tecnología aplicada. Dejamos planteada
la duda.
3.– Las administraciones deben utilizar programario abierto o declararlo
de fuentes abiertas. Las Administraciones deberán declarar como de fuentes
abiertas las aplicaciones, desarrolladas por sus servicios o que hayan sido
objeto de contratación y de cuyos derechos de propiedad intelectual sean
titulares, cuando de ello se derive una mayor transparencia en el
funcionamiento de la Administración Pública.
4.– Publicidad activa y derecho de acceso a los algoritmos y códigos
fuente.– Si entendemos, en sentido amplio, a la información pública como
toda aquella que el Estado elabore o tenga en su poder en ejercicio de sus
funciones, con independencia del lenguaje o forma en que se exprese,
entonces debe incluirse no solo aquella que se expresa en lenguaje natural
(en palabras, que es la más habitual), sino también la expresada mediante
fotografías, videos, planos, señales, etc. o mediante otros lenguajes, como el
[328]
matemático o, en este caso, el informático .
Esta exigencia, encuentra respaldo en la normativa de protección de datos
personales, ya que la IA opera –a través de algoritmos, redes neuronales, y
otros modos– información que, en definitiva, implican datos personales,
aunque no sean por naturaleza sensibles. Ahora bien, puede suceder que, a
los fines de garantizar la confiabilidad del sistema y evitar indebidas
intromisiones que pongan en riesgo la seguridad del sistema, no sean
conveniente difundir determinados códigos, lo que –en definitiva– debe ser
valorado en el caso concreto.
5. Prevención y control de los sesgos. Aunque, como hemos dicho, los
algoritmos tienen el potencial de promover la eficiencia, la consistencia y la
justicia, también pueden reforzar discriminaciones históricas u obscurecer
comportamientos indeseables. Existen datos de que clasificadores
algorítmicos de riesgo usados en algunos estados de los EEUU en el ámbito
de la justicia doblan la clasificación de personas negras como futuros
criminales en relación a las personas blancas de forma incorrecta.
6. Evaluación de impacto de protección de datos. Deberían también
desarrollarse evaluaciones de impacto de protección de datos cuando
estemos antes decisiones automatizadas o con intervención de IA en su
adopción. A este tipo de evaluación se refiere el artículo 35 del Reglamento
General de Datos de la UE y ahora también el artículo 28 de la Ley
Orgánica N° 3/2018 de española, de 5 de diciembre, de Protección de Datos
[329]
Personales y garantía de los derechos digitales .
7.– El control jurídico de los algoritmos. La existencia de un Estado de
Derecho en el ámbito de la IA ha de incluir, además del respeto al principio
de legalidad y a los derechos de los ciudadanos, incluyendo el derecho a
una buena administración y a no ser discriminado, un control administrativo
y también judicial efectivo de la actividad administrativo. Ya hemos tenido
ocasión de analizar la necesariedad del control de órganos judiciales y de
organismos administrativos que revisen las actuaciones administrativas
automatizadas, lo que es imprescindible desde la tutela administrativa
efectiva. El interrogante que surge ahora es si con los mecanismos
actualmente existentes ese control es suficiente, o si será preciso en el
[330]
futuro avanzar hacia organismos reguladores más especializados .
Ponce Solé entiende que es posible que la notable complejidad de este
ámbito demanda una progresiva especialización en la actividad de
regulación y control, que excede los aspectos de protección de datos y
[331]
derecho de acceso , lo que se torna aún más exigible ante la cada vez
mayor responsabilidad patrimonial de la Administración pública, por los
daños que se pueda causar por la actividad automatizada o con intervención
de la IA, a la que nos referiremos en el punto anterior.
10.– Una IA que humaniza
En materia de IA aplicada a la Administración pública, se ha hablado de
“automatización que humaniza”, ya que resuelve situaciones complejas en
un doble sentido: humaniza a los trabajadores y mejora los servicios.
Por un lado, decíamos, humaniza a los trabajadores públicos ya que
permite liberarlos de las tareas mecánicas, rutinarias, repetitivas o
previsibles, lo que posibilita destinar más capital humano a tareas más
[332]
creativas y productivas . Esto es posible a través de lo que se ha
denominado como “Enfoque basado en tareas”: un nuevo paradigma de
trabajo con un enfoque basado en la segmentación de tareas, gobernanza de
datos y automatización, por lo que trabajar con inteligencia artificial hace
que la búsqueda de soluciones y la forma de llegar a ellas, sea más nítida y
[333]
precisa .
Hay quienes piensan que a medida que los ordenadores mejoran sus
habilidades para la conducción, el entendimiento del habla y otras tareas,
pronto se podrían automatizar más empleos de los que la sociedad está
preparada para asumir. No creemos que las máquinas inteligentes terminen
reemplazando a los humanos. Es probable que la inteligencia artificial
elimine algunos puestos de trabajo, pero también va a crear nuevos empleos
[334]
algunos que ni siquiera existen a día de hoy .
Y, por el otro, señalábamos, aumenta la base de conocimiento para tomar
[335]
mejores decisiones en las organizaciones públicas , y con eso el
mejoramiento de todo tipo de servicios públicos hacía los ciudadanos, y
especialmente, aquellos sectores más vulnerables.
Particularmente, claro está, los trabajadores de áreas técnicas-jurídicas
que prestan funciones en la Administración pública no son una excepción a
los cambios que se avecinan, siendo la profesión de abogados –cualquiera
fuese el ámbito de actuación– una de los segmentos donde las
consecuencias de la implementación de la IA podrían generar nuevas
formas de prestar servicios, en este caso, jurídicos.
En primer lugar, puede certificarse en un futuro no muy lejano una suerte
de facilitación de la profesión, a través –también– de la desaparición de los
trabajos rutinarios, repetitivos o que siguen un proceso estandarizado. “El
trabajo del abogado, así como el de otros profesionales jurídicos, se irá
simplificando —y, por tanto, especializando—, progresivamente gracias a
[336]
la introducción de las tecnologías aplicadas a este tipo de tareas” . Por
supuesto que no serán todas las tereas, sino solo aquellas cuyas
características lo permitan y que sean susceptibles de automatización.
Por otro lado, en segundo lugar, la IA generará para la actividad abogadil
en general, y del abogado del Estado, en particular, la reconfiguración de las
áreas de especialización jurídica. La doctrina toma como ejemplo el
supuesto –no tan lejano– que

“si llegamos a la realidad de que los coches podrán conducirse de

forma autónoma mediante la utilización de las nuevas
tecnologías, deberá tenerse en cuenta que teóricamente un coche
regulado será incapaz de alcanzar velocidades no permitidas
legalmente o de realizar conductas que actualmente sea
tipificadas como delito. La realidad esperada es que en estos
ámbitos se reduzca radicalmente la criminalidad por tráfico,
haciendo innecesaria la especialización de los profesionales
[337]
jurídicos en este tipo de materias” .

De tal modo, la inteligencia artificial está al servicio de los derechos de

acceso de los ciudadanos a los múltiples trámites y servicios de la
Administración pública, pudiendo –de esta manera– optimizar el flujo de
datos y de información a disposiciones de las organizaciones públicas y los
particulares, para simplificar y resolver con mayor celeridad cuestiones que
antes requerían varias fases y procedimientos. Por eso decimos que la IA es
compatible con el Estado constitucional y con el derecho internacional de
los derechos humanos, ya que trasluce un enfoque de derechos humanos, en
este caso, vinculado a las nuevas tecnologías, por lo que debe partirse de “la
[338]
innovación inclusiva para el desarrollo sostenible” .
En este último sentido, no puede dejar de mencionarse que las TICS en la
gestión pública ha sido destacada como una de las variables a tener presente
en los “Objetivos de Desarrollo Sostenible” (ODS), lo que ha sido tratado
en numerosas resoluciones tanto de la Asamblea General de Naciones
Unidas, como de la Asamblea General de la Organización de Estados
[339]
Americanos .
En este sentido, debe remarcarse que la utilización de la IA y la
robotización en el ámbito de la Administración pública se enmarca en la
plena realización y efectivización del derecho al goce y beneficio del
progreso científico. El Pacto Internacional de los Derechos Económicos,
Sociales y Culturales establece en su artículo 15.c que toda persona humana
tiene el derecho a gozar de los beneficios del progreso científico y de sus
aplicaciones. La Declaración Americana de Derechos y Deberes del
Hombre en su artículo XIII sostiene que toda persona humana titulariza el
derecho a disfrutar de los beneficios que resulten de los progresos
intelectuales y especialmente de los descubrimientos científicos. Y el
Protocolo de San Salvador también reconoce el derecho de las personas
humanas a gozar de los beneficios del progreso científico y tecnológico. Y
en ese sentido, la Corte Interamericana de Derechos Humanos en el caso
“Artavia Murillo vs. Costa Rica I”, sostuvo que el acceso y goce a los
beneficios del progreso científico y de sus aplicaciones ha sido reconocido
internacionalmente como un derecho humano. Por su lado, la Constitución
argentina establece como facultad del Congreso proveer a la difusión y el
aprovechamiento del desarrollo científico y tecnológico (artículo 75, inc.
19, primer párrafo).
El desarrollo humano debe ser asimilado –por los servidores públicos,
pero principalmente por los operadores jurídicos– como lo que realmente
es: un verdadero derecho humano fundamental de imperdonable
postergación. El desarrollo humano es uno de los derechos fundamentales
de mayor actualidad, y prueba de ello, es que se vincula con todos los
[340]
derechos económicos, sociales y culturales (DESC) , o lo que es lo
mismo, todos esos se refunden y aúnan en uno solo (de mayor
abarcamiento): el “derecho al desarrollo humano”.
En esencia, “Desde la óptica de los tratados internacionales de los que
nuestro país es parte, resulta claro que nos encontramos ante un derecho
[341]
fundamental que requiere un obrar positivo del Estado” . En el marco
de la ONU, se organizó la II Conferencia Mundial sobre Derechos
Humanos que se celebró en VIENA en 1993, y en ese ámbito se dijo que
debe reafirmarse el derecho al desarrollo “según se proclama en la
Declaración sobre el Derecho al Desarrollo, como derecho universal e
inalienable y como parte integrante de los derechos humanos
fundamentales”. En realidad, su reconocimiento como derecho fundamental
comenzó a delinearse con especial énfasis a partir de mediados de la década
del 80 del siglo pasado, a raíz de la firma y ratificación en sede de las
[342]
Naciones Unidas de la Declaración sobre el Derecho Desarrollo . A
partir de entonces, el desarrollo humano se encuentra presente en forma
constante en los documentos que elabora ese organismo internacional,
especialmente en los informes presentados anualmente en su seno por el
[343]
Programa para el Desarrollo (PNUD) .
El derecho al desarrollo humano, por tal condición, además implica una
verdadera obligación del propio Estado –y así debe ser asumida e
interpretada– debiendo remover todos los obstáculos posibles de carácter
económico y social para transformar este derecho en una práctica concreta.
De esa misma manera lo ha entendido la Corte Suprema al afirmar que no
solo es facultad sino también un “deber” de legislar el contenido concreto
de una garantía constitucional, teniendo en cuenta que la Constitución en su
artículo 75 inc. 19 “impone” al Congreso proveer lo conducente al
[344]
desarrollo humano .
En definitiva, la AI promueve y facilita el derecho al desarrollo humano,
conectándose jurídicamente con el inc. 19 del artículo 75 de la Constitución
Nacional cuando se manifiesta por el “desarrollo científico y tecnológico”
como un objetivo inmediato a alcanzar en nuestro Estado Constitucional de
Derecho.

II. El futuro de la inteligencia artificial

Finalmente, también podemos preguntarnos sobre el futuro de la IA y es –
sin dudas– una pregunta muy interesante. La IA ya se utiliza para
automatizar y sustituir algunas funciones humanas con máquinas movidas
por ordenador. Estas máquinas pueden ver y oír, responder a preguntas,
aprender, extraer conclusiones, e incluso, resolver problemas. Durante los
últimos cinco años, el auge de la IA ha resultado ser verdaderamente
asombroso. Desde robots y coches sin conductor con un gran nivel de
sofisticación, hasta un amplio abanico de técnicas que utilizan la IA. Y se
considera que este mercado experimentará en los próximos años un
[345]
crecimiento exponencial .
Tal como se ha pronosticado, en un futuro no demasiado lejano, las
máquinas realizarán tareas que en el presente son llevadas adelante solo por
seres humanos. Sin embargo, hay un área en la cual los avances
tecnológicos todavía no nos han sorprendido con una solución: la de otorgar
a las máquinas, criterio y resolución de problemas, como tenemos los seres
humanos.
El desafío es mejorar la IA a niveles en los que todavía no ha estado. Con
ese objetivo, nuevos ordenadores y procesadores son diseñados para correr
sobre nuevos sistemas y nuevos programas. Surgen algoritmos cada vez
más optimizados que los que les precedieron, muchos de los cuales son
producto de la generación anterior de máquinas. En otras palabras, los
robots podrán reproducir información e identificar problemas, pero no
tendrán la capacidad de buscar una manera de resolverlos. Esta tarea seguirá
siendo, esencialmente, propiedad de los humanos, y es por esa razón que
abogados por una “reserva de humanidad”.
 CAPÍTULO. VII
Conclusiones

I. Palabras finales
Por sus beneficios, la IA podría convertirse en una inestimable herramienta
para la adopción de mejores decisiones y, más justificadas (evitando
actitudes arbitrarias, oscuras, irrazonables, etc.), sobre todo desde la
perspectiva del control –incluso preventivo– de la propia actividad
administrativa y, asimismo, de los particulares. Además, cuenta con un
enorme potencial analítico, y ofrece respuestas automatizadas ante
situaciones de futuro sustentadas en predicciones, por lo que resulta
esencial para la complejidad actual que atraviesa la Administración pública.
Y esto debe ser así, habida cuenta que el Estado Constitucional y
Convencional de Derecho que nos rige tiene la obligación de atender y
continuar sin interrupciones hacia la cada vez más y mejor operatividad de
los derechos humanos, a medida que se aceleran los cambios tecnológicos,
tanto en la actividad estatal como en la vida cotidiana de las personas.
Procuramos un concepto de IA desde Derecho Público, ya que no es
positivo que el Derecho se limite a actuar “corriendo de atrás” a la
tecnología, lo que, de darse, supone una posición de predominio de ésta
última, y la pérdida de la dimensión racional–normativa de aquel. La única
forma de romper esa lógica es, dentro de los márgenes técnicos que supone
siempre abarcar jurídicamente conceptos inicialmente tecnológicos y
mutables, alcanzar cierta concepción jurídica (no sólo técnica) de las nuevas
tecnologías y de la IA a partir del Derecho Constitucional y Administrativo,
aunque sea de manera provisional, genérica y apriorística.
Así, la literatura se plantea qué parámetros (de los no técnicos) habrían de
marcar el alcance de la IA desde el Derecho Constitucional:
 “En tal sentido, y al margen del clásico de las tres leyes de la
robótica de Asimov, conforme a las cuales los robots no pueden
hacer daño a un ser humano o por inacción permitir que un ser
humano sufra daño (además de: los robots deben obedecer las
órdenes de los humanos, salvo si ello entre en conflicto con la
primera ley; y los robots deben proteger su existencia siempre que
esto no entre en conflicto con la primera o la segunda ley), el
respeto y la garantía de la dignidad de las personas y el libre
desarrollo de la personalidad…debería ser un eje esencial de la
programación de cualquier manifestación de la inteligencia
artificial; no es sólo que las máquinas inteligentes no
puedan/deban dañar a los humanos (otra cosa son, claro, los
meros accidentes y cuál sea, entonces, el régimen de
responsabilidad correspondiente), sino que éstas, y desde una
dimensión más abierta y plural a lo humano (y por tanto,
superando también la idea misma de humanidad, en cuanto que
ley cero de la robótica), evite resultados que, abrazando cualquier
tipo de integrismo, protejan a los humanos (a la humanidad) más
allá de ellos mismos, y desencadenando así limitaciones para
éstos y sus derechos (no sólo la vida y la integridad física, claro,
sino otros derechos como la libertad física, la intimidad personal,
el secreto de las comunicaciones, la inviolabilidad del domicilio,
[346]
etc.)” .

Y desde el Derecho Administrativo, la Administración pública, previa

habilitación legal, debe intervenir en el sector, disciplinando los riesgos
inherentes a la actividad, a través de instituciones clásicas de la materia, sin
que puede el fenómeno dejarse en manos de la simple autorregulación. El
Big Data, la robotización, los algoritmos, las redes neuronales, entre otros,
van a impactar y están impactando, en la mejora del funcionamiento en la
actividad administrativa y en el Derecho Administrativo, pero también
plantean importantes retos en materia de resguardo de los derechos de los
[347]
ciudadanos .
Por esta razón, el Estado debe garantizar el derecho de acceso y la
educación tecnológica, evitar la implementación abrupta de los entornos
digitales lo que representaría un verdadero contrasentido con la tutela
administrativa efectiva, no desconocer el principio de informalismo a favor
del administrado, y más específicamente respecto la IA, el respeto a los
principios de transparencia, trazabilidad y máximo acceso algorítmico,
sumado especialmente el de “no discriminación algorítmica”, por lo que en
definitiva –entonces– en ningún supuesto las herramientas digitales o
electrónicas podrán erigirse como un valladar para el ejercicio de derechos
constitucionales y convencionales.
Si bien las comunidades y las costumbres son diferentes, y algunos
conceptos están cambiando, como el de la privacidad y el manejo de datos
personales, existen ciertos valores y parámetros comunes que deberían guiar
el desarrollo de la IA, así como la modificación de las leyes que resulten
necesarias para ello. Estos valores y parámetros son: la autonomía e
individualidad de las personas con respecto al uso de la IA, el respeto por la
justicia, la libertad, la vida privada, la transparencia de los algoritmos, la
democracia, la responsabilidad en el uso de datos y la IA, la equidad, la
inclusión y la seguridad y fiabilidad de los datos, entre otros tantos.
Suele decirse que por el “determinismo tecnológico”, los avances
tecnológicos no solo influyen, sino que determinan la Historia, como habría
sido el caso de la invención de algo tan sencillo como fue la máquina de
vapor en la sociedad industrial. Y dentro de ellos, están aquellos que
advierten que la tecnología tiene leyes y dinámica propia, más allá de la
voluntad del ser humano.
Pero hay otras personas que consideramos que, si bien es cierto que la
tecnología va creciendo con autonomía, existe la posibilidad y el deber de
dominarla jurídicamente, dado que puede responder a intereses
perjudiciales y generar implicaciones negativas en el mundo en el que
[348]
vivimos . Así es que el Estado debe propender a la existencia de un
orden jurídico que, por un lado, reconozca una serie de garantías y derechos
fundamentales por sobre las cuales no se puede avanzar ni aun bajo la
excusa del progreso tecnológico, y, por el otro, postule la premisa que todo
aquel que maneja riesgos sociales derivados de su actividad –
principalmente cuando se trata de tecnología– debe responder por los daños
que ocasione, y que el Estado, como garante del bien común, debe exigir su
cumplimiento.
II. Nuestras conclusiones
En resumen, nuestro estudio nos ha permitido arribar a las siguientes
conclusiones, las que –vale la pena aclarar– lejos están de ser reconocidas
como definitivas en un área jurídica que se presenta todavía naciente en
nuestro Derecho Público.
1.– Discurrir, en términos generales, respecto el impacto que las TICs
tienen sobre el ámbito de la Administración Pública y el “subsistema”
jurídico que la regula: el Derecho Administrativo, y más específicamente en
relación a los sistemas de IA, se presenta en estos tiempos una materia de
obligado análisis para los juristas y operadores del derecho.
Si exteriorizáramos cuales son los lazos que sientan las relaciones entre
los sistemas de IA y los derechos humanos de reconocimiento
constitucional y convencional de inmediata operatividad ante la
Administración pública, diríamos que aquellas se muestran como en una
“avenida de doble mano”: por un lado, los derechos humanos trazan los
límites en la utilización de los robots, bots, software, sistemas de expertos,
redes neuronales (y/o la IA que se prefiera) marcando el camino hacia
donde deben dirigirse las nuevas e innovadoras tecnologías, pero, por el
otro, éstas pueden servir como mecanismos de realización de derechos
humanos y su inmediata aplicabilidad, por ejemplo, haciendo la labor del
empleado público menos autómata, más rápida, con menos margen de error,
en definitiva, un tránsito hacia el mejoramiento de la eficacia y eficiencia de
los servicios públicos y toda otra prestación estatal.
Proponemos un “salto” del Derecho Administrativo “electrónico” al
Derecho Administrativo “inteligente”. En el primero, ya definitivamente en
proceso de implementación entre nosotros, lo electrónico sirve de “soporte”
para el expediente administrativo, o en el mejor de los casos, se basa en un
desarrollo rutinario computacional dentro de un sistema más cercano a un
proceso mecánico que razonado. En cambio, en el segundo, se abandona la
“linealidad analógica” del clásico expediente papel sobre el que se edifica el
electrónico, para pasar a un “expediente digital”, en donde la tecnología no
es un mero soporte, sino que crea un archivo nuevo que antes no existía a
través de IA y sistemas de conocimiento generado, razonado y “aprendido”,
como lo son las técnicas del “Machine Learning” y “Deep Learning”. Así,
los “expedientes administrativos inteligentes” podrían ser receptáculos de
información y datos a gran escala, auténticos epicentros de Big Data
jurídica administrativa (informes, dictámenes, memorándums, resoluciones,
etc.), lo que podría ofrecer –además– que mejoren sustancialmente los
servicios de asesoramiento permanente de la Administración pública.
En análisis debe iniciarse, entonces, respecto la utilización de las TICs en
la Administración pública y la categorización de las clásicas instituciones
jurídicas del Derecho Administrativo ahora bajo el aditamento
“electrónico”. Para después, centrarse en los avances tecnológicos más
profundos, donde lo electrónico y tecnológico, no es una mera forma de
expresión y calificación de la institución (una mera apoyatura instrumental),
sino en realidad, es la realización en sí misma de la voluntad administrativa.
Aquí la IA, la robótica, en algunos casos con la utilización incluso de
algoritmos, redes neurales, entre otros elementos, lleva a la automatización
y smartificación de la actividad decisoria de la Administración pública.
Esto evidencia objetivos que –en apariencia– se pueden presentar en
permanente tensión: el cumplimiento del fin público vs. el resguardo de los
derechos esenciales. Nuestra labor, fue entonces, dejar atrás ese mero
aspecto, para demostrar que –en rigor de verdad– el uso de la IA no opera
en oposición a los derechos.
2.– Hace un tiempo, el Estado Nacional viene dictando senda normativa,
principalmente de naturaleza administrativa, que en líneas generales buscan
alcanzar metas de transformación, desburocratización, modernización,
simplificación administrativa y reducción de cargas innecesarias al
administrado, pero en particular, la introducción de las TICs al ámbito de la
Administración pública, a través de los expedientes electrónicos, trámites a
distancia, notificaciones electrónicas, entre otros tantos instrumentos.
En este sentido cabe reflexionar que, sobre los conceptos de
simplificación administrativa, la gobernanza y la gobernanza “inteligente”,
el derecho a la buena administración, el gobierno abierto y digital, el
gobierno electrónico, Internet de las Cosas, la mejora continua de procesos
y la interoperabilidad, la “ciudad digital”, la “ciudad inteligente” (Smart
City), y el derecho humano “a la ciudad” y el “buen vivir urbano”, los
derechos del ciudadano digital en general, y en particular, los derechos a
relacionarse electrónicamente con la Administración y el derecho de acceso
a Internet, entre otros, se sientan las bases teóricas pero también de
indudable incidencia practica –a través de un obligado cumplimiento por
parte de la Administración pública– por donde se apoya y sostienen, no solo
el uso de las tecnologías, sino también la IA en el quehacer administrativo.
En otras palabras: como consecuencia de todo ese novedoso marco se
desprende el irrenunciable cometido estatal de incorporar a la
Administración pública las TICs primero, e la IA después.
3.– El nuevo escenario de agregación de las TICs en el Derecho en
general, pero en la Administración pública en particular, naturalmente
también demanda importantes respuestas del Derecho Administrativo. Se ha
explicado que el Derecho de las Nuevas Tecnologías, aplicado al ámbito de
la Administración pública, se informa por el principio de “la equivalencia
funcional” como vía de alcanzar la equiparación jurídica entre distintas
figuras, identificando la función de la instrumentación en el mundo físico y
sus requisitos a efectos de reproducirla en el dispositivo electrónico y
concederle los mismos efectos jurídicos. Cada “figura” jurídica clásica del
Derecho Administrativo, tiene su “contra figura” tecnológica, claro está,
ahora adaptada a las nuevas circunstancias.
Así las cosas, hemos presentado las instituciones acto administrativo,
notificaciones, procedimiento, organización, empleo público, contrataciones
administrativas, con el agregado de “electrónico” a cada una de ellas.
Inclusive, algunas instituciones –tal como están concebidas desde siempre–
no tienen razón de ser porque deben redefinirse (o buscar su “resiliencia”),
para no desaparecer del mundo jurídico. Por ejemplo, debe considerarse que
la descentralización de base territorial, debe ser revisada, para no caer en
absoluto abandono, toda vez que el “traslado físico” debe ser suplantando
por el “traslado digital” (salvo para el suministro de prestaciones de bienes
y servicios), en una suerte de “desterritorialización” material de la
Administración pública.
4.– También la Administración se fía de tecnologías más complejas, en
donde los sistemas digitales ya no solo meramente expresan la voluntad
decisoria, sino la definen y determinan, conforme algoritmos, redes
neuronales, técnicas de aprendizaje profundo, y cuanta otra IA pueda
utilizarse. Se ha definitivo a la IA como la rama de las ciencias de la
computación que estudia el software y hardware necesarios para simular el
comportamiento y comprensión humana. Se trata de emular las diversas
capacidades del cerebro humano para presentar comportamientos
inteligentes sintetizando y automatizando tareas intelectuales. De ahí que
sea potencialmente aplicable a cualquier ámbito de la actividad intelectual
humana, entre la que se encuentra naturalmente el Derecho.
En particular, la IA aplicada al Derecho, o también conocida como
“Artificial Legal Intelligence” (ALI), se centró fundamentalmente en el
estudio de la automatización del razonamiento jurídico y de la solución a
los problemas jurídicos. La capacidad de la IA para extraer, compilar y
aportar soluciones es infinitamente superior a la inteligencia humana en
todos los campos y específicamente en el ámbito jurídico, en el cual los
sistemas de cognitive computing aplicados al razonamiento jurídico
permiten que la IA extraiga el conocimiento del cuerpo compuesto por
leyes, fallos, artículos, comentarios, etc. proporcionando una solución que
explica y argumenta jurídicamente una o varias soluciones alternativas
respecto de casos concretos, o bien, realiza predicciones de resolución.
La Administración pública, por su lado, debe adoptar una estrategia
proactiva ante procesos de IA, smartificación y robotización, aprovechando
la “revolución tecnológica” no solo para renovar su capacidad técnica, sino
especialmente para solventar buena parte de sus problemas conceptuales y
organizativos. La IA y la robótica implican una enorme oportunidad para
implantar un nuevo modelo conceptual que erradique definitivamente el
clientelismo y la corrupción, que mejore la seguridad jurídica y el trato
equitativo, que sea más transparente y más inteligente y, finalmente, que sea
capaz de prestar más y mejores servicios públicos.
5.– Concretamente, la IA impacta en el Derecho Administrativo, por un
lado, a través de las denominadas decisiones administrativas automáticas, y,
por el otro, en la automatización del procedimiento, sin perjuicio que en
materia de registro y bases de datos, investigaciones con fines fiscales,
detección de fraude, operaciones de lavado, cumplimiento de políticas de
compliance, entre tantas acciones llevadas a cabo por órganos con
competencias públicas, también hacen uso de algoritmos, redes neuronales,
robotización y demás agentes inteligentes. En nuestra opinión, no tenemos
dudas que la automatización administrativa tendrá como consecuencia la
predicción de la conducta estatal, es decir, la tecnología anticipa al
administrado lo que sucederá, y la IA servirá –por lo tanto– para reducir la
arbitrariedad y mejorar el control y trasparencia sobre la actuación
administrativa.
Las complejidades se presentan, no solo a la hora de la imposibilidad de
llegar a todos los administrados con este tipo de nuevos “modos”, sino
también los riegos que para ellos generan en sus situaciones jurídicas
subjetivas. La disponibilidad de una enorme masa de información, sumado
a la cantidad de datos personales (inclusive sensibles), pone al ciudadano en
el riesgo de una absoluta indefensión ante la Administración pública. De allí
entonces, debe buscarse un equilibro entre los beneficios de las tecnologías
disruptivas y los derechos fundamentales.
Por eso, respecto el acto administrativo automático, proponemos una
“reserva de humanidad” a cargo de un funcionario de “carne y hueso”, ya
sea para aquellos supuestos en donde la parametrización y modelación no
pudo llegar o generaría una solución injusta reñida con los principios
vigentes, ya sea cuando a través de recursos e impugnaciones
administrativas deba revisarse la decisión primigeniamente tomada por el
sistema tecnológico. Y, en relación al procedimiento automatizado, nos
inclinamos por la conveniencia de la implementación de la figura del
“asistente”, que puede configurarse como un “agente conversacional” (los
famosos chatbots), o en su caso, y mientras tanto nos adaptemos a estas
nuevas realidades, un “asistente humano”, que efectivamente existe en
algunos sistemas comparados.
6.– La AI aplicada en el ámbito de la Administración pública, por
ejemplo, a través de las decisiones administrativas, se adecua al postulado
del Estado Convencional y Constitucional de Derecho, siempre y cuando
cumpla sus exigencias y no postergue sus principios fundantes. Y esta tarea
no está desprovista de notables dificultades, principalmente por las
complejidades que implica la utilización de innovadoras tecnologías (como
robots, redes neuronales, sistemas de expertos, etc.) que naturalmente
actúan sin voluntad, discernimiento y algunas de ellas sin conocimiento
cognitivo, pero que en algunos casos impactan negativamente sobre los
derechos fundamentales, incluso, produciendo daños y perjuicios.
Así las cosas, debe supeditarse la aplicación de la IA al ámbito de la
Administración pública en la medida que supere los “tests” que significan,
entre los más importantes, el respeto, garantía y promoción de los derechos
fundamentales, en particular, la intimidad, imagen y honor, la protección de
datos personales y el derecho a la autodeterminación informativa, el
derecho a la buena administración, la prohibición del dictado de decisiones
automatizadas basadas exclusivamente por valoraciones personales
digitales, el principio a la tutela administrativa efectiva, el principio de no
discriminación, el respecto al principio de precaución e impacto social, y en
su caso, a la indemnización por los daños generados, y la encomiable
obligación de respeto al principio de la dignidad humana.
En definitiva, pensamos que, ante supuestos negativos, la Administración
debe imponer reglamentaciones que prevengan y eviten tales consecuencias
a través de diversas regulaciones normativas, y una vez entonces superadas
tales eventos, no puede haber excusas para aplazar ni retrasar los beneficios
que las TICs y la IA pueden generar para el administrado, y más aún
cuando por su intermedio –en realidad– se potencian y amplifican los
derechos humanos y la dignidad de la persona.

[1]
https://www.bancomundial.org/es/news/feature/2018/07/03/el-internet-de-las-cosas-una-promesa-
para-el-desarrollo.
[2]
https://blogs.worldbank.org/es/voices/la-covid-19-coronavirus-refuerza-la-necesidad-de-
conectividad.
[3]
https://www.bancomundial.org/es/news/press-release/2018/09/23/united-nations-world-bank-
humanitarian-organizations-launch-innovative-partnership-to-end-famine.
[4]
ANDRUET (h.), Armando S., “Pensando la abogacía con más ética y eficacia”, en Suplemento
Especial La Ley La Abogacía en el Siglo XX, La Ley, 2-08-2018.
[5]
GOBBI, Marcelo, “El abogado que vendrá (rectius: que ya está viniendo) y su retribución”, en
Suplemento Especial La Ley La Abogacía en el Siglo XX, La Ley, 29-08-2018.
[6]
Ver también, PORCELLI, Adriana M., y MARTINEZ, Adriana N., “Diálogo entre la Informática
y el Ambiente. Las Tecnologías Verdes y las Redes Sociales como herramienta para el progreso de
los Objetivos de Desarrollo Sostenible. ¿En qué medida son verdes las Redes Sociales?”, elDial.com
- DC2944.
[7]
TOLOSA, Pamela, “Nuevas habilidades a desarrollar por quienes ejerzan la abogacía de cara al
futuro”, en Suplemento Especial La Ley La Abogacía en el Siglo XX, La Ley, 29-08-2018.
[8]
Resulta esclarecedora, en tal sentido, la distinción que ofrecía en el año 1984 el profesor
FROSINI, explicando que el interés de la Administración pública de las sociedades industriales
avanzadas por el nuevo sector de la tecnología electrónica y de sus aplicaciones se manifiesta en dos
direcciones: “la primera es la dirección externa, o sea, el interés de la Administración pública por el
nuevo sector productivo de la tecnología electrónica e informática, expresada jurídicamente con una
legislación destinada a establecer el control sobre la producción y la gestión de los ordenadores, que
se ejercita esencialmente sobre los «bancos de datos». La segunda dirección es la de la toma de
posesión, por parte de la Administración pública misma, de los métodos y de los instrumentos de la
tecnología informática actual en vista de una aplicación en la Administración pública, lo que lleva
justamente a la automatización administrativa” (FROSINI, Vittorio, “Informática y Administración
pública”, Revista de la Administración Pública, N° 105, septiembre- diciembre, 1984, Madrid, pág.
447 y ss., en part. pág. 447).
[9]
PONCE SOLÉ, Juli, “La prevención de riesgos de mala administración y corrupción, la
inteligencia artificial y el derecho a una buena administración”, Revista internacional de
transparencia e integridad , Número 6, enero-abril 2018,
https://revistainternacionaltransparencia.org/wp-content/uploads/2018/04/juli_ponce.pdf.
[10]
Sobre el paso del expediente electrónico al expediente inteligente, aconsejamos al respecto
FARÍAS, Raúl, “Documentos digitales. Hacia el Expediente Inteligente”, een Legaltech II, el
Derecho ante la Tecnología, Suplemento Especial, La Ley, octubre 2019, pág. 31 y ss.
[11]
Por ejemplo, y solo por nombrar uno, debe valorarse las técnicas de análisis de datos (big data)
llevadas a cabo por organismos tributarios para la detección de fraudes por parte de contribuyentes.
[12]
DOUZINAS, Costas, “The End(s) of Human Rights”, Melbourne University Law Review, 23
(2002) 445, citado por SANTOS, Estefanía, “La Inteligencia Artificial: Hacia un Derecho
Internacional de los Derechos Posthumanos”, elDial.com - DC2875.
[13]
GIL DOMÍNGUEZ, Andrés, Inteligencia artificial y derecho, Rubinzal-Culzoni Editores, Santa
Fe., 2019, pág. 9.
[14]
GIL DOMÍNGUEZ, Andrés, Inteligencia artificial y derecho, ob. cit., pág. 10.
[15]
CAMACHO CLAVIJO, Sandra, “La subjetividad “cyborg”, en NAVAS NAVARRO, Susana
(directora,) Inteligencia artificial. Tecnología. Derecho, Tirant lo Blanch, Valencia, 2017, pág. 213 y
ss., en part. pág. 232 a 234.
[16]
SANTOS, Estefanía, “La Inteligencia Artificial: Hacia un Derecho Internacional de los
Derechos Posthumanos”, elDial.com - DC2875.
[17]
HARARI, Yuval Noah, 21 lecciones para el siglo XXI, Debate, Bs. As., 2018, pág. 14.
[18]
HARARI, Yuval Noah, 21 lecciones para el siglo XXI, ob. cit., pág. 48, 49 y 50. Ponemos nota
en el informe presentado el 22 de enero de 2019 titulado “Trabajar para un futuro más prometedor”,
un gran documento de la OIT, que concluye la ardua labor de la Comisión Mundial, estableciendo
concretas propuestas para instaurar la Justicia Social en el Siglo XXI. La Comisión sostiene que los
avances tecnológicos –la inteligencia artificial, la automatización y la robótica- crearán nuevos
puestos de trabajo, pero quienes van a perder sus trabajos en esta transición podrían ser los menos
preparados para aprovechar las nuevas oportunidades (CAPÓN FILAS, Juan Pablo, “Conclusiones de
la Comisión Mundial sobre el Futuro del Trabajo “TRABAJAR PARA UN FUTURO MAS
PROMETEDOR”, elDial.com - DC26F4).
[19]
TRAVIESO, Juan Antonio, Derecho y Tecnología. Historias y dilemas, elDial.com, Bs. As.,
2019, pág. 267. Se ha dicho con razón que “A medida que las computadoras se comportan más como
los humanos, las ciencias sociales y las humanidades se volverán aún más importantes. Si
la Inteligencia Artificial quiere alcanzar su potencial para servir a los humanos, entonces cada
ingeniero tendrá que aprender más sobre las ciencias sociales y cada especialidad en las ciencias
sociales necesitará aprender más sobre ingeniería” (PORCELLI, Adriana Margarita, “Des) ventajas
de la primera legislación sobre internet de las cosas”, elDial.com - DC298F).

[20]
BYUNG-CHUL HAN es un filósofo y ensayista surcoreano que imparte clases en la
Universidad de las Artes de Berlín. Autor, entre otras obras, de ‘La sociedad del cansancio’.
[21]
https://www.infobae.com/economia/2020/03/20/yubal-harari-y-el-coronavirus-el-guru-futurista-
alerto-sobre-los-riesgos-de-un-mundo-que-sera-completamente-distinto-despues-de-la-pandemia/. Se
destaca en la nota que el uso masivo de esas técnicas permitirá en un futuro cercano que gobiernos y
corporaciones sepan si una persona está enferma, antes que la propia persona, y dónde y con quiénes
estuvo. En tiempos de crisis, reconoce, estas tecnologías acortan drásticamente el tiempo para
detectar cadenas infecciosas e incluso cortarlas de plano. Eso es maravilloso, reconoce, pero puede
legitimar un temible sistema de vigilancia en el que gobiernos y corporaciones no sólo podrán saber
las preferencias políticas de un ciudadano, sino también sus reacciones emocionales al mirar, por
ejemplo, un videoclip, lo que les permitirá vigilarlo y manipularlo mejor. También se referencia a
estos autos en, IBARLUCIA, Emilio, “Pandemia y garantías constitucionales”, en Asociación
Argentina de Derecho Constitucional, Constitución y Emergencia Sanitaria, Suplemento Especial,
Revista Digital, http://aadconst.org.ar/revistadigital/revista/es-1/.
[22]
BURA PERALTA, Javier “Ciberbullying versus momo challenge: la invisible espada de
Damocles que se cierne sobre nuestros niños”, Citar: elDial.com - DC2A00. Desarrolla el autor
citado: “Compartir fotos y vídeos es otro de los atractivos que encuentran los adolescentes para
utilizar las redes sociales. Internet seduce a los jóvenes por sus características peculiares: la
respuesta rápida, las recompensas inmediatas, la interactividad y las múltiples ventanas con
diferentes actividades. Los padres pueden quedar devaluados o infravalorados cuando dejan de ser
el único referente para los adolescentes, siempre y cuando los progenitores lo permitan. Internet
posibilita un contacto inmediato a cualquier hora del día: en cuanto se recibe un mensaje se espera
una respuesta inmediata. Los adolescentes, además, con frecuencia, ven en Internet un medio muy
natural para comunicarse, haciendo que las aplicaciones de sus celulares sean espacios que también
comparten con sus amigos y parejas, a menudo de forma excesiva. A esto se añade que las redes
sociales han normalizado entre los menores la sobreexposición, con la publicación masiva de
información personal (en su mayoría imágenes propias) y la puesta en común de rutinas, actividades
o lugares frecuentados. Por ello, es recomendable que padres, docentes o responsables directos
asuman una especie de ciber control: utilizar perfiles de redes sociales comunes para poder
controlar qué se publica o quiénes son sus amistades, examinar y criticar las actividades o la imagen
según sus publicaciones, o requerir la puesta en común de contraseñas. Estas actitudes, puestas en
cabeza de los progenitores o responsables de los adolescentes, no hacen más que develar la
preocupación que los adultos puedan tener (o no) por los menores a su cargo”.
[23]
Sobre un análisis legal de la legislación en épocas de pandemia, ver in extensu BOSSI, María
Florencia, “La protección de datos personales y la privacidad en tiempos de pandemia. Algunos
desafíos que el COVID-19 plantea en materia de protección de datos”, www.microjuris.com.ar, MJ-
DOC-15277-AR | MJD15277.
[24]
FROSINI, Vittorio, “Informática y Administración pública”, Revista de la Administración
Pública, ob. cit., pág. 453.
[25]
https://elpais.com/tecnologia/2020-03-03/coronavirus-codigo-verde-adelante-codigo-
rojocuarentena.html.
[26]
https://www.argentina.gob.ar/noticias/tratamiento-de-datos-personales-ante-el-coronavirus.
[27]
MASCIOTRA, Mario, “Protección de datos personales ante la pandemia del Coronavirus”, en
FALKE, Ignacio A. (director), La Tutela de la Salud Pública. El Derecho Procesal en Épocas de
Coronavirus, IJ Editores, cita: IJ-CMXV-266.
[28]
Lo aquí analizado, remite a un conjunto de disposiciones más recientes, que las actuales
autoridades han dictado en el marco del llamado “Plan de Modernización del Estado” trazado como
objetivo de gobierno, a saber: a) el decreto 434/2016 por el que éste último es aprobado; b) la propia
Ley de Ministerios N° 22.520 (t.o. decreto 438/92; decreto 2/2017; decreto 13/2015); c) decreto
561/2017 por el que se implementó el llamado “Sistema de Gestión Documental Electrónica” (GDE),
considerado como la plataforma de lanzamiento del expediente electrónico, por medio de la
racionalización y ordenamiento de los que hoy se llevan de otro modo; d) decreto 891/2017 de
“Buenas Prácticas en materia de simplificación aplicables para el funcionamiento del Sector Público
Nacional (SPN)”; e) decreto 87/2017 de “Simplificación Normativa — Mejora continua de Procesos”
que contempla lo relativo a la incorporación de nuevas tecnologías y herramientas informáticas, por
el que se creó la Plataforma Digital para el Sector Público Nacional; f) la Decisión Administrativa N°
85/2018 de la Jefatura de Gabinete de Ministros referida “Lineamientos de Buen Gobierno para
Empresas de Mayoría Estatal”; g) el Decreto 733/2018, que ordena la tramitación digital completa,
remota, simple automática e instantánea de toda actuación administrativa, poniendo fecha para tal
objetivo.
[29]
PERRINO, Pablo, “Las reformas al procedimiento administrativo nacional. Simplificación
administrativa y reducción de cargas a los administrados”, Diario La Ley, 5-03-2018.
[30]
SUNSTEIN, Cass, (más) Simple. El futuro del Gobierno, Marcial Pons, Madrid-Barcelona-
Buenos Aires-Sao Paulo, 2014, pág. 23, parte introductoria disponible en
http://www.elboomeran.com/upload/ficheros/obras/2210_mas_simple.pdf.
[31]
GALLI, BASUALDO, Martín, “Buena administración, simplificación de procedimientos y
desburocratización en Argentina”, en FERNANDEZ CARBALLAL, Almuneda (directora), Anuario
Iberoamericano de Derecho Urbanístico, N° 1, 2018, disponible en
https://ar.ijeditores.com/index.php?option=publicaciones. Para el autor citado, en lo concerniente al
procedimiento administrativo adecuado y la Administración Pública más eficiente, es menester tener
en cuenta lo que se conoce como better regulation, cuyas raíces parecen encontrarse en los trabajos
de la OCDE, a partir de 1995; el Gobierno laborista británico también la receptó en 1997, pasando de
la “desregulación” a la “mejor regulación”, y en Europa, haciéndose alusión a las expresiones “Smart
regulation” o “Regulatory fitness”.
[32]
TORNOS MAS, Joaquín, “La simplificación procedimental en el ordenamiento español”,
Revista de Administración Pública, n° 151, enero-abril, Madrid, 2000, pág. 39 y ss.
[33]
CERULLI IRELLI, Vincenzo, “La simplificación de la acción administrativa”, Documentación
Administrativa nro. 248-249 (mayo-diciembre 1997), Alfonso Arévalo Gutiérrez (trad.), pág. 337 y
ss., citado por PERRINO, Pablo, “Las reformas al procedimiento administrativo nacional.
Simplificación administrativa y reducción de cargas a los administrados”, Diario La Ley, 5-03-2018.
[34]
RETORTILLO BAQUER, Sebastián M., “De la simplificación de la administración pública”,
Revista de Administración Pública, n° 147, septiembre-diciembre 1998, pág. 7 y ss.
[35]
PERRINO, Pablo, “Las reformas al procedimiento administrativo nacional. Simplificación
administrativa y reducción de cargas a los administrados”, Diario La Ley, 5-03-2018.
[36]
CORVALÁN, Juan Gustavo, “¿Qué hay de nuevo, viejo? Reformas al procedimiento
administrativo nacional (Decretos nros. 891/17 y 894/17”, Diario DPI, Diario Administrativo, N°
176, 7-11-2017.
[37]
GALLI, BASUALDO, Martín, “Buena administración, simplificación de procedimientos y
desburocratización en Argentina”, en FERNANDEZ CARBALLAL, Almuneda (directora), Anuario
Iberoamericano de Derecho Urbanístico, N° 1, 2018, disponible en
https://ar.ijeditores.com/index.php?option=publicaciones.
GAMERO CASADO, Eduardo, “Hacia la simplificación de los procedimientos. El procedimiento
administrativo adecuado”, IX Congreso de la Asociación Española de Profesores de Derecho
Administrativo Santiago de Compostela, 7 y 8 de febrero de 2014, disponible en
https://pdfs.semanticscholar.org/ca25/921b62b94b16ec00a7efda6f240ccc3dfcf7.pdf?
_ga=2.72060307.186508363.1588427342-2040375859.1588427342.
[39]
AGUILAR, Luís F., El aporte de la Política Pública y de la Nueva Gestión Pública a la
gobernanza, publicada en la “Revista del CLAD Reforma y Democracia”, N° 39, Caracas, 2007. Ver
también, PRATS I CATALÁ, Joan, De la burocracia al Management y del Management a la
Gobernanza. Las transformaciones de las Administraciones públicas de nuestro tiempo, Madrid,
INAP, 2005, pág. 40 y ss.; IVANEGA, Miriam M., “Instrumentos de participación ciudadana en la
formación de los contratos administrativos”, en Revista de Derecho Público. Contratos
Administrativos II, Rubinzal-Culzoni, Santa Fe, 2007; MAYNTZ, Renate, “El Estado de la sociedad
civil en la gobernanza moderna”, en Revista de CLAD Reforma y Democracia, N° 21, 2001, Caracas.
[40]
BARNES, Javier, “Reforma e innovación del procedimiento administrativo”, en BARNES,
Javier (editor y coordinador), La transformación del procedimiento administrativo, Global Law
Press, Editorial Derecho Global, Sevilla, España, 2008, pág. 48.
[41]
CRIADO, J. Ignacio, “Las administraciones públicas en la era del gobierno abierto. Gobernanza
inteligente para un cambio de paradigma en la gestión pública”, en Revista de Estudios Políticos, N°
173, julio-septiembre, 2016, pág. 245 y ss., en artículo 248. Como gobierno o gobernanza inteligente
(en una Smart City) “nos referiremos al gobierno que debe tener como objetivo el mejoramiento de
los procesos y la interacción dentro de las autoridades locales y entre las autoridades locales y los
ciudadanos. En este gobierno se entiende que además hace uso adecuado de la tecnología para el
ejercicio del gobierno democrático, esto requiere el desarrollo de nuevas posibilidades para una
participación ciudadana más cercana y nuevas formas de participación ciudadana a través de
medios digitales” (MORALES ANDRADE, Marco Antonio, “Derecho a la Ciudad, Tecnología e
Inclusión” en FERNANDEZ CARBALLAL, Almuneda (directora), Anuario Iberoamericano de
Derecho Urbanístico, N° 2, 2019, disponible en https://ar.ijeditores.com/index.php?
option=publicaciones).
[42]
Sobre este punto profundizar en RODRIGUEZ- ARANA MUÑOZ, Jaime, El Buen Gobierno y
la Buena Administración de Instituciones Públicas; MARTIN-RETORTILLO BAQUER, Lorenzo,
“De los derechos humanos al derecho a una buena Administración”, en ÁVILA RODRIGUEZ,
Carmen María y GUTIÉRREZ RODRÍGUEZ, Francisco (coordinadores), El derecho a una buena
administración y la ética pública; PONCE SOLÉ, Juli, “Procedimiento administrativo, globalización
y buena administración”, Jurisprudencia Argentina, 2008-IV, pág. 1289; TOMAS MALLÉN,
Beatriz, El derecho fundamental a una buena administración.
[43]
RODRIGUEZ- ARANA MUÑOZ, Jaime, El Buen Gobierno y la Buena Administración de
Instituciones Públicas, Thomson Aranzadi, España, 2006, pág. 34. En una reciente sentencia del
Tribunal Supremo español, de fecha 5 de diciembre de 2016, y de la que es ponente el Sr. Suay
Rincón, se señala que “el derecho a la buena administración, contemplado en el artículo 41 de la
Carta Europea de Derechos Fundamentales…lleva también la procedencia de observar un deber de
cuidado en la adopción de las decisiones con la debida ponderación de todos los intereses y hechos
relevantes; y ello ha de encontrar adecuado reflejo en la memoria del análisis de impacto
normativo” (PONCE SOLÉ, Juli, “El derecho a una buena administración en la práctica: litigando en
vía administrativa contra la mala administración”,
https://fiaderechoadministrativo.blogspot.com/2017/11/el-derecho-una-buena-administracion-
en.html).
[44]
MOSCARIELLO, Agustín, “El principio de buena administración”, El Derecho Administrativo,
28-02-2013. Ver también, IVANEGA, Miriam M., “La Administración pública del siglo XXI: entre la
utopía y la realidad”, Diario La Ley, 2-03-2011.
[45]
IVANEGA, Miriam M., “La Administración pública del siglo XXI: entre la utopía y la realidad”,
Diario La Ley, 2-03-2011.
[46]
MARQUEZ, Daniel, "El derecho humano a la no corrupción", en Derechos Humanos en Ibero-
América (coord. José R. Olivos Campos), Centro de Investigación y Desarrollo del Estado de
Michoacán, México 2010, pág. 189 y ss., citado por IVANEGA, Miriam, “La administración pública
del siglo XXI: Entre la utopía y la realidad”, Diario La Ley, 02-03-2011. En igual sentido,
CARELLO, Luis, “La Convención Interamericana contra la Corrupción y el ‘derecho a la no
corrupción’”, en AAVV, Defensoría del Pueblo. 50 años de Derechos Humanos, Santa Fe, 1998, pág.
25 y ss., citado por GORDILLO, Agustín, “Hacia la unidad del orden jurídico mundial”, en AAVV El
Nuevo Derecho Administrativo Global en América Latina, RAP, Buenos Aires, 2009, pág. 83 y ss.,
en part. pág. 99.
[47]
RODRIGUEZ- ARANA MUÑOZ, Jaime, Ética, Poder y Estado, Ediciones RAP, Bs. As., 2004,
pág. 153.
[48]
En una redacción similar, la “Carta Iberoamericana de Gobierno Electrónico” (CLAD, 2007)
establece que “El Gobierno Electrónico constituye la oportunidad de dar respuesta plena al reto de
conseguir una gestión pública más eficiente y de establecer pautas de colaboración entre
Administraciones Públicas. Por ello los Estados deberán tomar en consideración la necesaria
interoperabilidad de las comunicaciones y servicios que hacen posible el Gobierno Electrónico. A
esos efectos dispondrán las medidas necesarias, para que todas las Administraciones Públicas,
cualquiera que sea su nivel y con independencia del respeto a su autonomía, establezcan sistemas que
sean interoperables”.
[49]
LEIVA, Renato y TÉLLES VALDÉS, Julio, “Gobierno electrónico, sociedad y Derecho: ¿una
necesaria modernización normativa para las democracias del Siglo XXI?”, Jurisprudencia
Argentina, 2005-II-1334.
[50]
MOLINA DEL PAZO, Carlos Francisco, “El camino hacia la implementación de una
administración electrónica efectiva y real: el principio de interoperabilidad”, en DEL GUAYO
CASTIELLA, Iñigo, y FERNÁNDEZ CARBALLAL, Almudena (directores), Los desafíos del
derecho público en el siglo XXI. Libro conmemoratorio del XXV Aniversario del acceso a la Cátedra
del Profesor Jaime Rodríguez-Arana Muñoz, INAP, Madrid, 2019, pág. 580 y ss.
[51]
MOLINA DEL PAZO, Carlos Francisco, “El camino hacia la implementación de una
administración electrónica efectiva y real: el principio de interoperabilidad”, en DEL GUAYO
CASTIELLA, Iñigo, y FERNÁNDEZ CARBALLAL, Almudena, Los desafíos del derecho público
en el siglo XXI. Libro conmemoratorio del XXV Aniversario del acceso a la Cátedra del Profesor
Jaime Rodríguez-Arana Muñoz, INAP, Madrid, 2019, pág. 580 y ss.
[52]
“Internet de las cosas”, denota un concepto que se refiere a la conexión de objetivos cotidianos a
Internet. La base de aquello es dotar a los dispositivos la capacidad de observar, identificar y entender
el mundo real sin la participación (ni la limitación) de una persona. Se trata, en definitiva, de
protocolos, sistemas y dispositivos interconectados con la capacidad de observar el mundo, generar
información y de hablarse entre sí sin la intervención de una persona (SEGURA, Pablo, “Internet de
las cosas”, en TRAVIESO, Juan Francisco, (director), Régimen jurídico de los datos personales,
Thomson, Reuters, Bs. As., 2014, pág. 521)
[53]
NAVAS NAVARRO, Susana y CAMACHO CLAVIJO, Sandra, Mercado digital. Principios y
reglas jurídicas, Tirant lo Blanch, España, 2016, pág. 22.
[54]
Las cifras hablan por sí mismas. En 2013 había más de un billón de cosas inteligentes
conectadas a internet “comunicándose entre ellas”. Se ha estimado que, para 2020, habrá más de 27
billones de cosas conectadas directamente a internet mediante sensores Wireless. Y esta cifra se
doblará cada cinco años. Hay que tener en cuenta que las personas, en las economías desarrolladas,
poseen entre 1000 y 5000 cosas. Luego, no es descabellado pensar que habrá, en un tiempo no muy
lejano, más objetos, en el planeta Tierra, que personas. En términos monetarios, en EU28, en 2013, el
internet de las cosas representaba 307 billones de euros. Se prevé, sin embargo, que para el 2020,
supondrá 1.181 billones de euros.
[55]
PULVIRENTI, Orlando y LERNER, Laura, “Reflexiones sobre las modificaciones al
procedimiento administrativo: Comentarios a los Decretos 891/17 y 894/17”,
www.microjuris.com.ar, MJ-DOC-12326-AR | MJD12326.
[56]
GASCÓ HERNANDEZ, Mila, “No es oro todo lo que reluce: ¿qué hay detrás de las promesas
de gobierno abierto en Iberoamérica?” Ponencia en el XVIII Congreso Internacional del CLAD sobre
la Reforma del Estado y de la Administración Pública, Montevideo, Uruguay, noviembre, 2013.
[57]
IVANEGA, Miriam M., Control Público, ASTREA-Ediciones Rap, Bs. As., 2016, pág. 204.
TRAVIESO se plantea una pregunta ineludible –según su parecer-: “¿Puede la tecnología ayudar a
combatir la corrupción? Casi todo lo que se relaciona con la tecnología tiene que ver con datos, y
ciertamente, los datos abiertos constituyen un primer paso para poner en marcha la transparencia,
la rendición de cuentas y la integridad. Pero, lamentablemente, los datos por sí mismos no
solucionan nada. La tecnología por sí misma tampoco. La clave es el gobierno abierto, transparente,
con softwares eficaces y herramientas tecnológicas que desarrollen la confianza institucional y
operen en un marco de prevención” (TRAVIESO, Juan Antonio, Derecho y Tecnología. Historias y
dilemas, ob. cit., pág. 50).
[58]
HERNÁNDEZ, Patricia, “Tendencias y primeros resultados de países a la vanguardia”, en
AA.VV., El desafío hacia el gobierno abierto en la hora de la igualdad, Concha, Gastón y Naser,
Alejandra (eds.), Naciones Unidas, Santiago de Chile, 2012, pág. 53.
[59]
En este punto reflexiona GENTILE que “La política agonal se ha actualizado más rápidamente
que la arquitectónica en la incorporación de estas innovaciones tecnología. Un ejemplo de ello son
las campañas electorales donde la comunicación y la digitalidad han cambiado el perfil de los líderes
y la forma de comunicarse con sus potenciales electores, poniendo en crisis a los partidos políticos,
convirtiéndolos en lo que ahora se denominan “espacios”, donde se disputan más las diferencias entre
personas que las doctrinales o programáticas” (GENTILE, Jorge H., “Proceso legislativo y uso de
nueva tecnología”, El Derecho Constitucional, diciembre, 2019).
[60]
GARCÍA MEXÍA, Pablo, Derechos y libertades, internet y tics, Tirant lo Blanch, Valencia,
2014, pág. 66.
[61]
OSZLAK, Oscar y KAUFMAN, Ester, Teoría y práctica del gobierno abierto: lecciones de la
experiencia internacional, https://redinpae.org/recursos/kaufman-oszlak.pdf, pág. 7. La participación
pone énfasis particular en la capacidad real de intervención en la materia de opiniones y decisiones
en los más diversos terrenos de la vida pública, por ejemplo, en la política, para lo cual se requiere
desarrollar destrezas comunicativas. Entonces, para afirmar la participación, tres derechos humanos
son vitales: la libertad de expresión, el derecho de información y el derecho de acceso a los medios y
a las tecnologías que permiten comunicar (GRECO, Silvana y VECCHI, Silvia, “Acciones
participantes en el campo de la administración de justicia y Tecnologías de la Información y
Comunicación (TIC)”, en GREGORIO, Carlos G. y NAVARRO SOLANO, Sonia, (coordinadores),
Internet y sistema judicial en América Latina. Reglas de Heredia, Ad-Hoc, 2004, pág. 50).
[62]
SANCHEZ BLANCO, Ángel, “Las Administraciones públicas e Internet”, Separata del Boletín
Informativo del Instituto Nacional de Administración Pública, N° 4, Madrid, 2001, pág. 7.
[63]
DELPIAZZO, Carlos E., “Procedimiento administrativo y derecho informático”, en POZO
GOWLAND, Héctor, HALPERIN, David, AGUILLAR VALDEZ, Oscar, LIMA, Fernando Juan,
CANOSA, Armando (directores), Procedimiento Administrativo, T. I, La Ley, 2012, pág. 1331.
[64]
TRAVIESO, Juan Antonio, Derecho y Tecnología. Historias y dilemas, ob. cit., pág. 88.
[65]
Otra definición, entiende a una ciudad digital como “aquel entorno de ámbito local en el que
exista una considerable implantación de la sociedad de la información, tanto en el conjunto de los
ciudadanos en su ámbito residencial, de trabajo o en la utilización de servicios públicos, como de las
empresas e instituciones en temas tales como la teleadministración, el teletrabajo, teleformación,
telemedicina, gestión de servicios de uso público, entre otras, y donde la administración pública
constituye el motor integrador del resto de la iniciativa. Todo ello basado en redes de alta velocidad
y a partir de que una considerable parte de la población está formada en aplicaciones telemáticas y,
en particular, en el uso de Internet.”
[66]
MARCHIARO, Enrique José, “Ciudad inteligente y Derecho Municipal”, en Revista de Derecho
Público, 2018-2, Derechos humanos y nuevas tecnologías –II, Rubinzal- Culzoni, Santa Fe, 2018,
pág. 94.
[67]
Encuentra su principal fundamentación es el Objetivo N° 11 (Ciudades y Comunidades
Sostenibles”) de los “17 Objetivos de Desarrollo Sostenible” (ODS) elaboradas por la ONU, los que
forman un llamado universal a la adopción de medidas para poner fin a la pobreza, proteger el
planeta y garantizar que todas las personas gocen de paz y prosperidad.
[68]
BANCO INTERAMERICANO DE DESARROLLO, La ruta hacia las smarts cities, 2016.
[69]
Carta Mundial por el Derecho a la Ciudad, disponible en http://www.hic-
gs.org/content/cartaderechociudad.pdf. Ver in extenso, MORALES ANDRADE, Marco Antonio,
“Derecho a la Ciudad, Tecnología e Inclusión” en FERNANDEZ CARBALLAL, Almuneda
(directora), Anuario Iberoamericano de Derecho Urbanístico, N° 2, 2019, disponible en
https://ar.ijeditores.com/index.php?option=publicaciones.
[70]
Explica María José LUBERTNO que “Un paso fundamental en la construcción del derecho a la
ciudad, de la teoría a la acción, fue la elaboración participativa de la “Carta Mundial por el Derecho a
la Ciudad”, por la sociedad civil global, articulada entre otras por Habitat International Coalition
(HIC). En forma paralela a las iniciativas de la sociedad civil, algunos gobiernos, tanto a nivel
regional como nacional y local, han venido generando instrumentos jurídicos que buscan normar los
derechos humanos en el contexto urbano. Destacan, entre los más avanzados, la Carta Europea de
Salvaguarda de los Derechos Humanos en la Ciudad, firmada por más de 400 ciudades; el Estatuto de
la Ciudad de Brasil, la Carta de Montreal y la Carta de México D.F. por el derecho a la ciudad. Cabe
destacar también la inclusión del derecho a la ciudad en las constituciones de Ecuador y de Bolivia.
Desde 2006 se comenzó la elaboración de una Carta-Agenda Mundial de Derechos Humanos en la
Ciudad, que se aprobó en 2011, en Florencia. Paralelamente, desde el Foro Urbano Mundial de
Naciones Unidas en Estambul (1996) pudo recogerse el concepto integrador de "derecho a la
ciudad". En 2010 se realizó el Foro Urbano Mundial de Naciones Unidas en Río de Janeiro con el
lema "El Derecho a la Ciudad: Uniendo lo urbano dividido". Resultó fundamental su reconocimiento
a nivel regional en la Declaración de Toluca, en abril de 2016, en el marco de la Reunión
Preparatoria regional de Habitat III y finalmente en la Nueva Agenda Urbana, aprobada en la
Conferencia Mundial de Habitat III, en Quito, en octubre de 2016 (“El derecho a la ciudad y al buen
vivir urbano”, https://www.infobae.com/opinion/2019/05/10/el-derecho-a-la-ciudad-y-el-buen-vivir-
urbano/).
[71]
Uno de los postulados esenciales de este derecho-deber, es un “plan de convivencia”, a través
del cual la organización de la Ciudad, el Estado municipio, debe ofrecer “un programa de vida”, para
ser y crecer en sanidad, seguridad, moralidad, cultura, educación, protección, conservación, calidad
de servicios, espacios verdes.
[72]
DROMI, Roberto, Ciudad y Municipio, Gerenciamiento y Gobernabilidad Local, Ciudad
Argentina, Editores de Ciencia y Cultura, Bs. As., 2007, pág. 301.
[73]
Lo alegado puede ser perfectamente graficado, a través de diversos ejemplos donde las
administraciones locales concretan esfuerzos de conectividad de Internet en espacios públicos,
asegurando a la par del disfrute al aire libre y las condiciones naturales, la accesibilidad a la Red para
la comunicación en forma masiva.
[74]
En este sentido, puede citarse el Decreto 93/2018 que atacando al “nepotismo”, prohíbe la
designación de personas que tengan parentesco con altos funcionarios.
[75]
VIVANT, “Derecho de la información. Un derecho de acceso: ¿hasta dónde?”, en Derecho de
Alta Tecnología, Año V, N° 55, 1993, pág. 1, citado por CONSENTINO, “La información judicial es
pública, pero contiene datos privados. Como enfocar esta dualidad”, en GREGORIO, Carlos G. y
NAVARRO SOLANO, Sonia, (coordinadores), Internet y sistema judicial en América Latina. Reglas
de Heredia, Ad-Hoc, 2004, pág. 216.
[76]
PÉREZ DEL VISO, El modelo TPACK del proceso judicial electrónico”, www.microjuris.com,
MJ-DOC-12375-AR | MJD12375.
[77]
CORVALÁN, Juan Gustavo, GIMBATTI, Silvia, “Historias clínicas digitales. La consolidación
del Big Data sanitario”, Diario La Ley, 18-08-2017.
[78]
Se han diferenciado los conceptos de “gobierno digital” y “gobierno electrónico”. Mientras el
primero hace referencia a la aplicación intensiva y estratégica de las nuevas tecnologías de la
información, las telecomunicaciones e Internet en las actividades del Estado, el segundo implica el
uso de las TIC para mejorar los servicios e información ofrecidos a ciudadanos y habitantes,
aumentar la eficiencia y eficacia de la gestión pública e incrementar la transparencia del sector
público y la participación ciudadana (Decreto 512/2009).
[79]
FERNANDEZ SUAREZ, Edgar, “Gobierno electrónico y ciberciudadanía en el marco de la
democracia digital”, FERNANDEZ SUAREZ, Edgar G. (compilador), Democracia Digital y
ciberciudadanía: gobierno y participación en tiempos de revolución tecnológica, Ediciones
Esmeralda, Córdoba, 2015, pág. 9. Se ha explicado al “gobierno electrónico” como la aplicación de
tecnologías de comunicación al proceso administrativo, mejorando la manera de operar internamente
como el modo en que presta servicios a sus administrados, buscando con estas iniciativas mejorar el
acceso y la calidad de las interacciones con los ciudadanos y empresas y simultáneamente mejorar el
flujo de información y los procesos dentro del gobierno para optimizar la velocidad y calidad del
desarrollo, la coordinación y la imposición de políticas públicas (MARTÍNEZ FAZZALARI, Raúl,
Régimen Público de Internet, Ad-Hoc, Bs. As., 1999, pág. 18).
[80]
GRECO, Silvana y VECCHI, Silvia, “Acciones participantes en el campo de la administración
de justicia y Tecnologías de la Información y Comunicación (TIC)”, en GREGORIO, Carlos G. y
NAVARRO SOLANO, Sonia, (coordinadores), Internet y sistema judicial en América Latina. Reglas
de Heredia, Ad-Hoc, 2004, pág. 63. Para las autoras, el “gobierno electrónico” presenta la nueva gran
oportunidad de aprovechar las tecnologías de la información para maximizar el servicio del Estado al
ciudadano, para lograr que el ciudadano sea más escuchado por los administradores y obtenga una
máxima satisfacción. “Estas tecnologías no sólo crearon nuevas herramientas, sino también espacios
en los que podemos residir y trabajar, lo que podemos ver es que la incorporación de esta poderosa
herramienta puede ayudar de manera formidable a recrear solidaridad, fortalecer los vínculos
sociales e inaugurar nuevas formas de ciudadanía o al menos ejercer las que existen”. Se ha
explicado con gran atino que, como todo fenómeno social, el proceso de incorporación de nuevas
tecnologías a la actividad administrativa, sobre todo, mediante la digitalización administrativa posee
aspectos favorables y desfavorables. Entre las ventajas de la administración pública digital podemos
mencionar que facilita enormemente las gestiones de los ciudadanos, agiliza la tramitación de los
expedientes administrativos, implica ahorro de costos, suprime las barreras territoriales, promueve la
transparencia, facilita el acceso a la información pública, entre otras. Pero, como posibles riesgos de
ello, puede citarse la despersonalización del administrado, o la violación a la intimidad y de los datos
personales de los administrados (BUTELER, Alfonso, “Nuevas tecnologías e innovación
administrativa”, en Revista de Derecho Público, 2018-2, Derechos humanos y nuevas tecnologías –
II, Rubinzal- Culzoni, Santa Fe, 2018, pág. 181).
[81]
DELPIAZZO, Carlos, “Noción y regulación del procedimiento y del acto administrativo
electrónico”, en Estudios de Derecho Administrativo, 79-108, citado por SCHIAVI, Pablo, Acto
administrativo electrónico y nuevas tecnologías. ¿Evolución o disrupción?, en “Estudios de Derecho
Administrativo”, Año 2018, N° 18, La Ley Uruguay, Montevideo, pág. 271.
[82]
Se ha criticado a este decreto, pues si se proyecta un plan de tamaña magnitud como una
verdadera política de Estado o plan estratégico, de largo plazo, éste debió ser creado por una ley
dictada por el Congreso de la Nación conforme los incisos 18 y 19 del artículo 75 de la Constitución
Nacional (VANINETTI, Hugo Alfredo, Aspectos jurídicos de Internet, Librería Editora platense, La
Plata, 2014, pág. 714).
[83]
El texto en su Preámbulo señala que “Los esfuerzos de los gobiernos de la Región en el
desarrollo de Gobierno Electrónico conllevan su deber de involucrarse en el debate global sobre la
gobernanza de Internet. A tal efecto la participación en los foros y reuniones sobre gobernanza de
Internet (IGF - Internet Governance Forums) es clave. Los signatarios de la Carta deberán realizar
los esfuerzos necesarios para garantizar que los principios democráticos de esta carta se traduzcan
en acciones concretas, dirigidas a que en el desarrollo de Internet se respeten los derechos de
participación de todos los actores involucrados en el tema (Gobiernos, Sociedad Civil, organismos
multilaterales y agentes económicos) en las decisiones sobre las políticas públicas que se relacionen
con el uso de la red”.
[84]
Sala Constitucional de la Corte Suprema de Justicia de Costa Rica, “Javier Gerardo Martínez
Burgos”, 06/06/2014, consid. VI, disponible en http://jurisprudencia.poder
judicial.go.cr/SCIJ_PJ/busqueda/jurisprudencia/jur_Documento.aspx?
param1=Ficha_Sentencia¶m2=1&nValor1=1&nValor2=647532&tem1=¶m7=&strTipM=T&lResulta
do=2 [consultado 04/07/2017]).
[85]
Por lo demás, este ha sido el nombre que la Provincia de Córdoba (Ciudadano Digital –CIDI) ha
nominado a los programas de trámites de la más variada índole que vinculan a la Administración
pública provincial con el administrado.
[86]
Para un profundo análisis de los derechos del ciudadano digital, puede consultarse a COTINO
HUESO, Lorenzo, “El derecho a relacionarse electrónicamente con las Administraciones y el estatuto
del ciudadano e-administrado en la Ley N° 11/2007”, en GAMERO CASADO-VALERO
TORRIJOS, (coordinadores), La ley de administración electrónica: comentario sistemático a la Ley
N° 11/2007, de 22 de junio, de Acceso Electrónico de los Ciudadanos a los Servicios Públicos, pág.
177 a 354.
[87]
URIOS APARISI, Xavier, “Consideraciones generales sobre la reforma de la Administración
electrónica”, en MARTÍN DELGADO, Issac, (director), La reforma de la administración
electrónica: una oportunidad para la innovación desde el derecho, pág. 197.
[88]
Se ha manifestado con preocupación que “a pesar de que la era digital prometía una red de
comunicación igualitaria, en muchos de los países de habla hispana la población no puede acceder
el acceso, al punto que hoy la asimetría se considera una tendencia natural de Internet. Es necesario
que se ofrezca disponibilidad de conectarse, así como capacitación y educación básica adecuada a
precios razonables, para que más personas puedan utilizarlas más allá de su sexo, clase social,
lengua, grupo étnico y otros factores” (GRECO, Silvana y VECCHI, Silvia, “Acciones participantes
en el campo de la administración de justicia y Tecnologías de la Información y Comunicación
(TIC)”, en GREGORIO, Carlos G., y NAVARRO SOLANO, Sonia, (coordinadores), Internet y
sistema judicial en América Latina. Reglas de Heredia, ob. cit. 67).
[89]
BARRIO ANDRÉS, Moisés, Derecho Público e Internet: La actividad administrativa de
regulación de la Red, Centro de Estudios Políticos y Constitucionales, Madrid, 2017.
[90]
BARRIO ANDRÉS, Moisés, Derecho Público e Internet: La actividad administrativa de
regulación de la Red, ob. cit., pág. 171.
[91]
UNESCO, Universalidad de Internet: un medio para crear sociedades del conocimiento y la
agenda de desarrollo sostenible después de 2015, del 2/09/2013. La realidad revela que existe una
brecha insalvable entre países ricos y el resto de los habitantes del planeta. Esta situación lleva a
cuestionarse si puede disminuir la desigualdad en el ámbito de la tecnología digital, si el progreso
económico depende de las TICs y si la “desigualdad digital”, cada vez mayor agrava la división
socioeconómica existente entre los países industrializados y los países en desarrollo. Por otra parte,
algunos autores se refieren a “países infopobres e inforicos” presentándose una desigualdad
tecnológica digital, también llamada “divisoria digital” o “brecha digital” (TRAVIESO, Juan
Antonio, Derecho y Tecnología. Historias y dilemas, ob. cit., pág. 137).
[92]
CORVALÁN, Juan Gustavo, “¿Qué hay de nuevo, viejo? Reformas al procedimiento
administrativo nacional (Decretos nros. 891/17 y 894/17)”, Diario DPI, Diario Administrativo, N°
176, 7-11-2017.
[93]
El Servicio Universal comprende “al conjunto de servicios y programas, variables en el tiempo,
destinados a la población en general, con una determinada calidad y a precios accesibles, a los que
deberá tener acceso con independencia de su localización geográfica y sus condiciones sociales,
económicas y las referidas a impedimentos físicos” (Decreto 558/2008, Anexo, Artículo 2).
[94]
SUÁREZ, Enrique L., Inclusión y brecha digital, acceso a internet y bienestar general. Primera
parte, en www.microjuris.com, MJ-DOC-13772-AR.
[95]
Los derechos económico-sociales y las demandas públicas insatisfechas por el Estado -en
materia por ejemplo de agua potable, alimentación, educación, salud, vivienda, seguridad social,
derechos de los trabajadores, etc.- van generando cada vez más peticiones colectivas judiciales (Ver
al respecto, LORENZETTI, Ricardo, La Justicia Colectiva, Rubinzal- Culzoni, Santa Fe, 2010, pág.
197). Por ejemplo, puede recordarse en materia de derechos sociales, el conocido caso “Asociación
Benghalensis” fallado por la Corte Suprema de Justicia el día 1-06-2000.
[96]
Hemos opinado en otra oportunidad que de estas razones, no solo se deriva su suministro a toda
la población sin discriminación, bajo los principios constitucionales de eficiencia, eficacia, igualdad,
continuidad y adaptabilidad, sino también puede jurídicamente inferirse –sin duda alguna– la
imposibilidad de su interrupción, aun por falta de pago, y más aún, en un contexto de extrema
necesidad, donde las urgencias son aún mayores, incluso para el sostenimiento de la salud pública y
la vida misma (MUÑOZ, Ricardo, “El acceso a Internet como derecho humano”, Diario Puntal,
Ciudad de Rio Cuarto, 25 de marzo de 2020).

[97]
PORTO, Ricardo “Entre Silicon Valley y Pekín. Últimas tendencias regulatorias en
comunicaciones”, elDial.com –DC28B9.
[98]
ADET CALDELARI, Fernando Luis, “El Derecho Procesal Electrónico en la Provincia de
Catamarca”, en CAMPS, Carlos Enrique (director), Tratado de Derecho Procesal Electrónico,
Abeledo-Perrot, Bs. As., 2015, pág. 205.
[99]
BELLOCCHIO, Lucía y SANTIAGO, Alfonso, “Estado Digital de Derecho”, en
MARANIELLO, Patricio (director), Revista Argentina de Justicia Constitucional, N° 8, 2019,
https://ar.ijeditores.com/index.php?option=publicaciones.
[100]
BELLOCCHIO, Lucía y SANTIAGO, Alfonso, “Estado Digital de Derecho”, en
MARANIELLO, Patricio (director), Revista Argentina de Justicia Constitucional, N° 8, 2019,
https://ar.ijeditores.com/index.php?option=publicaciones.
[101]
Como se verá infra, la IA se sustenta en algoritmos inteligentes o en algoritmos de aprendizaje
que, entre muchos otros fines, se utilizan para identificar tendencias económicas, predecir delitos,
diagnosticar enfermedades, predecir nuestros comportamientos digitales, etc. Por su lado, un
algoritmo puede ser definido como un conjunto preciso de instrucciones o reglas, o como una serie
metódica de pasos que puede utilizarse para hacer cálculos, resolver problemas y tomar decisiones, es
decir, el algoritmo es una fórmula que se utiliza para hacer un cálculo (CORVALÁN, Juan Gustavo,
“Inteligencia artificial: retos, desafíos, y oportunidades. Prometea: la primera inteligencia artificial al
servicio de Latinoamérica al servicio de la Justicia”, Revista de Investigações Constitucionais,
Curitiba, 2018, V. 5, pág. 299).
[102]
CORVALÁN, Juan Gustavo, “Hacia una Administración Pública 4.0: digital y basada en
inteligencia artificial. Decreto de “Tramitación digital completa”, en Diario La Ley, 17–08–2018.
[103]
CORVALÁN, Juan Gustavo, “Hacia una óptima Administración digital inteligente”, en La Ley.
Edición Especial. El Derecho en Transformación, 19–10–2017, en pág. 5.
[104]
BARNES, Javier, “Una reflexión introductoria sobre el Derecho Administrativo y la
Administración Pública de la Sociedad de Información y del Conocimiento”, en Revista Andaluza de
Administración Pública, Nº 40, octubre– noviembre (2000), pág. 69.
[105]
El dilema es, en definitiva, quien tiene la propiedad de los datos: o el Estado a través de sus
diferentes variantes, o la propiedad privada, en manos de pocas corporaciones. El historiador
HARARI, muy referenciado en estos tiempos, advierte que “Si queremos evitar la concentración de
toda la riqueza y el poder en manos de una pequeña élite, la clave es regular la propiedad de los
datos. En tiempos antiguos, la tierra era el bien más importante del mundo, la política era una lucha
para controlar la tierra y evitar que se concentrara demasiada en unas pocas manos, la sociedad se
dividía en aristócratas y plebeyos. En la época moderna, las máquinas y fábricas resultaron más
importantes que la tierra, y las luchas políticas se concentraron en controlar estos medios vitales de
producción. Si demasiadas máquinas se concentraban en unas pocas manos, la sociedad se dividía
en capitalistas y proletariados. En el siglo XXI, sin embargo, lo datos eclipsarán a la vez la tierra y
la maquinaria como los bienes más importantes, y la política será una lucha para controlar el flujo
de datos. Si los datos se concentran en unas pocas manos, la humanidad se dividirá en diferentes
especies”. (HARARI, Yuval Noah, 21 lecciones para el siglo XXI, ob. cit., pág. 100). Y continúa:
“Permitir a los gobiernos que nacionalicen los datos frenará probablemente el poder de las grandes
empresas, pero también podría desembocar en espeluznantes dictaduras digitales…” “..no tenemos
mucha experiencia en regular la propiedad de los datos, que es en sí misma una tarea mucho más
difícil, porque a diferencia de la tierra y las maquinas, los datos están por todas partes y en ningún
lugar al mismo tiempo, pueden desplegarse a la velocidad de la luz y podemos crear tantas copias de
ellos como queramos” (pág. 102).
[106]
DELPIAZZO, Carlos E., “Procedimiento administrativo y derecho informático”, en POZO
GOWLAND, Héctor, HALPERIN, David, AGUILLAR VALDEZ, Oscar, LIMA, Fernando Juan,
CANOSA, Armando (directores), Procedimiento Administrativo, ob. cit., pág. 1324.
[107]
CORREA, Carlos M., BATTO, Hilda N., CZAR DE ZALDUENDO, Susana y NAZAR
ESPECHE, Félix A., Derecho Informático, Ediciones Depalma, Bs. As., 1987. pág. 303.
[108]
Por ejemplo, en España, se ha dicho que “el artículo 3.4 LFE ordena la equiparación de los
efectos jurídicos de la firma manuscrita y la firma electrónica reconocida. Se identifica que la firma
manuscrita tiene la función de ser signo personal distintivo que informa sobre la identidad del autor
del documento y manifiesta la conformidad con el contenido. Según el artículo 3.4 LFE estas
funciones se entienden ejercidas por la firma electrónica reconocida y se le reconoce el mismo valor
jurídico que la firma manuscrita” (Camacho Clavijo, S., “Documentos y firma electrónica” en Navas
Navarro, S., / Camacho Clavijo, S., Mercado Digital. Principios y reglas jurídicas, Tirant lo Blanch,
Valencia, 2016, pág. 214). Otro ejemplo lo encontramos en el artículo 23 de la LSSICE que recoge la
equivalencia funcional entre documento escrito y documento electrónico en la contratación
electrónica “siempre que la Ley exija que el contrato o cualquier información relacionada con el
mismo conste por escrito, este requisito se entenderá satisfecho si el contrato o la información se
contiene en un soporte electrónico” (CAMACHO CLAVIJO, Sandra, “La subjetividad “cyborg”, en
NAVAS NAVARRO, Susana (directora), Inteligencia artificial. Tecnología. Derecho., tirant lo
blanch, Valencia, 2017, pág. 213 y ss., en part. pág. 240).
[109]
DELPIAZZO, Carlos E., “Procedimiento administrativo y derecho informático”, en POZO
GOWLAND, Héctor, HALPERIN, David, AGUILLAR VALDEZ, Oscar, LIMA, Fernando Juan,
CANOSA, Armando (directores), Procedimiento Administrativo, ob. cit., pág. 1331.
[110]
LACAVA, Federico J., “Decisiones administrativas automáticas y derechos”, en Revista de
Derecho Público, 2018–1, Derechos humanos y nuevas tecnologías –I, Rubinzal– Culzoni, Santa Fe,
2018, pág. 235. LAVACA, Federico J., “Acto administrativo automático en el marco del Estado
constitucional de derecho”, El Derecho Administrativo, 3 de diciembre de 2019, pág. 5. Piénsese por
ejemplo en sistemas de aplicación de multas por exceso de velocidad, o procesos de selección de
acceso al empleo público para la verificación de antecedentes.
[111]
Se funda la norma en la necesidad de ampliar el alcance de la Ley N° 25.506 los fines de
extender el uso del documento electrónico, la firma electrónica y la firma digital a la totalidad de
actos jurídicos y administrativos, actualizando su contenido en función de los avances tecnológicos y
la experiencia de implementación de la Infraestructura de Firma Digital de la República Argentina. Y
en ese sentido, el inciso e) del artículo 15 del Reglamento de Procedimientos Administrativos
Decreto 1759/72 – T.O. 2017 reconoce que todo documento electrónico firmado digitalmente en el
Sistema Electrónico de Gestión Documental tendrá carácter de original, y los reproducidos en soporte
electrónico a partir de originales de primera generación en cualquier otro soporte, digitalizados de
acuerdo al procedimiento que establezca la normativa aplicable, serán considerados originales y
tendrán idéntica eficacia y valor probatorio que sus equivalentes en soporte papel.
[112]
THOMAS, Gustavo J., Régimen Nacional de Procedimiento Administrativo. Incorporación de
la Gestión Electrónica, Nova Tesis Editorial Jurídica, Rosario, 2018, pág. 657.
[113]
COMADIRA, Guillermo, “Nuevas tecnologías en el procedimiento administrativo”, en AAVV,
Procedimiento administrativo. A 20 años de la reforma constitucional, Jornadas organizadas por la
Universidad Austral. Facultad de Derecho, Edic. RAP, Bs. As., 2015, pág. 461 y ss., en part. pág.
483.
[114]
Generalmente, se establece que la notificación se produce desde el momento que ésta se
encuentra a disposición del destinatario en el sistema, o se recepta el mail –según el modelo–, aunque
el particular no haya efectivamente tomado conocimiento de ella. No obstante, y para reducir riesgos
que pudieran redundar en perjuicios para el administrado, también se establece plazos por los cuales
una vez expirado se da por efectivizada la notificación.
[115]
DELPIAZZO, Carlos E., “Procedimiento administrativo y derecho informático”, en POZO
GOWLAND, Héctor, HALPERIN, David, AGUILLAR VALDEZ, Oscar, LIMA, Fernando Juan,
CANOSA, Armando (directores), Procedimiento Administrativo, ob. cit., pág. 1324.
[116]
THOMAS, Gustavo, Régimen Nacional de Procedimiento Administrativo. Incorporación de la
Gestión Electrónica, ob. cit., pág. 390.
[117]
THOMAS, Gustavo, Régimen Nacional de Procedimiento Administrativo. Incorporación de la
Gestión Electrónica, ob. cit., 391.
[118]
COMADIRA, Guillermo, “Nuevas tecnologías en el procedimiento administrativo”, en AAVV,
Procedimiento administrativo. A 20 años de la reforma constitucional, Jornadas organizadas por la
Universidad Austral. Facultad de Derecho, Edic. RAP, Bs. As., 2015, pág. 461, en part. pág. 464.
[119]
Nos estamos difiriendo, por ejemplo, a la protección de la propiedad intelectual sobre
programas de computación (Ley N° 25.036), la protección de datos personales (Ley N° 25.236), la
libertad de expresión a través de Internet (Ley N° 26–032), la accesibilidad a personas con
discapacidad (Ley N° 26.653), la tipificación de delitos informáticos (Ley N° 26.388), entre otros.
[120]
Para DELPIAZZO “el procedimiento electrónico posibilita la “gobernanza electrónica”,
dejando atrás los estadios de Administraciones paternalistas y propiciando una nueva vinculación de
cada Administración con la sociedad y de todos con el inmenso contexto de la globalidad y
promoviendo el buen gobierno” (DELPIAZZO, Carlos E., “Procedimiento administrativo y derecho
informático”, ob. cit. 1338).
[121]
PERRINO, Pablo, “Las reformas al procedimiento administrativo nacional. Simplificación
administrativa y reducción de cargas a los administrados”, Diario La Ley, 5–03–2018.
[122]
Otra actualización normativa, en este caso terminológica, lo es cuando el artículo 3° del decreto
cambia el término “persona física” por “persona humana” según el nuevo Código Civil y Comercial.
[123]
FLORES, Álvaro Bautista, “Las transformaciones del expediente administrativo. El impacto de
las TICs en los procesos administrativos”, en Revista de Derecho Público, 2018–2, Derechos
humanos y nuevas tecnologías –II, Rubinzal– Culzoni, Santa Fe, 2018, pág. 238. Para el autor citado,
“es necesario distinguir dos cuestiones básicas: por un lado, ésta el derecho o el deber de
relacionarse con la Administración de forma, en su caso, electrónica, y de otra parte, y al margen de
cómo se desarrollen dichas comunicaciones con la Administración o el sector público, el modo en
que ésta transita el procedimiento en cuestión, que según la normativa comentada habrá de ser
siempre electrónico”.
[124]
FLORES, Álvaro Bautista, “Las transformaciones del expediente administrativo. El impacto de
las TICs en los procesos administrativos”, en Revista de Derecho Público, 2018–2, Derechos
humanos y nuevas tecnologías –II, ob. cit., pág. 239.
[125]
THOMAS, Gustavo J., Régimen Nacional de Procedimiento Administrativo. Incorporación de
la Gestión Electrónica, ob. cit., 45y 46.
[126]
BUTELER, Alfonso, “Nuevas tecnologías e innovación administrativa” en Revista de
Derecho Público, 2018–2, Derechos humanos y nuevas tecnologías –II, Rubinzal– Culzoni, Santa Fe,
2018, pág. 182. Para Pablo SCHIAVI “Una nueva Ciudadanía más participativa, más
hiperconectada e hiperinformada a través de las nuevas tecnologías y las comunicaciones impone
nuevos desafíos y nuevas exigencias no solo al Derecho Administrativo de siempre, sino a todo el
Derecho. Sin perjuicio de todo lo cual, la tradicional servicialidad administrativa centrada en la
persona humana debe mantenerse más vigente que nunca. En este punto no se puede ceder ni un solo
casillero” (SCHIAVI, Pablo, “Acto administrativo electrónico y nuevas tecnologías. ¿Evolución o
disrupción?”, Revista de Derecho Administrativo, Cita Online: AR/DOC/4133/2019).
[127]
DE VIGENTE DOMINGO, Ricardo, “El procedimiento administrativo electrónico y su
afectación a los derechos e intereses legítimos de los ciudadanos”, en DEL GUAYO CASTIELLA,
Iñigo, y FERNÁNDEZ CARBALLAL, Almudena, Los desafíos del derecho público en el siglo XXI.
Libro conmemoratorio del XXV Aniversario del acceso a la Cátedra del Profesor Jaime Rodríguez–
Arana Muñoz, INAP, Madrid, 2019, pág., 252 y ss.
[128]
THOMAS, Gustavo, Régimen Nacional de Procedimiento Administrativo. Incorporación de la
Gestión Electrónica, ob. cit., pág. 263.
[129]
Se establece así, el silencio positivo digital en favor del ciudadano, habida cuenta que frente a
una petición iniciada por un particular para la cual se requiera información que ya obra en la propia
Administración, “el silencio del organismo que dispone de la información, no obstará a la
continuación del trámite”. A partir de esta regulación se configura un silencio en sentido positivo, al
menos en lo que hace al carácter instrumental de la petición planteada por el ciudadano. De ese
modo, la normativa en comentario tiende a eliminar obstáculos burocráticos, dilaciones injustificadas
y procura agilizar los trámites de los expedientes.
[130]
MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación
administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–
diciembre 2009, pág. 355.
[131]
MATA, Ismael, “Las nuevas tecnologías en la organización administrativa”, en AAVV,
Cuestiones de Organización Estatal, Función Pública y Dominio Público, Edic. RAP, Bs. As., 2012,
pág. 31 y ss., en part. pág.31.
[132]
MATA no cree que los conceptos de Administración electrónica (e–Administración) sea igual
al de Gobierno electrónico (e–Gobierno), ya que el segundo tiene mayor amplitud al incluir la gestión
del Estado en su totalidad (pág. 343).
[133]
CORVALÁN, Juan Gustavo, “Hacia una óptima Administración digital inteligente”, en La
Ley. Edición Especial. El Derecho en Transformación, 19–10–2017, pág. 5. En otra publicación, el
autor mencionado pone un ejemplo: “Si pretendemos expandir la atención en el otorgamiento de
turnos en oficinas públicas, en formatos 1.0 y 2.0, la clave era desconcentrar esa actividad sumando
oficinas, personas, computadoras, etc. En el mundo digital, expandir la oferta de un servicio
totalmente digital depende esencialmente del diseño algorítmico, de la calidad de la conectividad,
entre otros aspectos. Y si a eso le sumamos automatización o capas de innovación a través de
inteligencia artificial, podríamos optimizar de manera exponencial el otorgamiento de turnos. En
palabras simples, la organización digital o algorítmica no pasa por ´abrir oficinas´, sino por
expandir o ajustar diversos algoritmos. En síntesis, debemos alejarnos de una lógica que concibe a
las nuevas TIC como si se tratara de sustituir una máquina de escribir por un ordenador básico en
las oficinas estatales. ¡Ajustar el derecho administrativo a la transformación de la dualidad
tiempo/espacio! Este es, sin dudas, el mayor desafío en un mundo digital que se vuelve un ´universo
de inmediatos´, en donde el tiempo secuencial o cronológico comienza a diluirse. Y algo similar
ocurre a partir de la profunda mutación espacial, ya que en muchos casos es irrelevante un lugar
físico concreto o hablar de presencia y ausencia en los mismos términos que en otras épocas”
(CORVALÁN, Juan Gustavo, “Hacia una Administración Pública 4.0: digital y basada en inteligencia
artificial. Decreto de “Tramitación digital completa”, en Diario La Ley, 17–08–2018).
[134]
CORVALÁN, Juan Gustavo, Prometea. Inteligencia Artificial para transformar organizaciones
públicas, Bs. As., Editorial Astrea SRL, Editorial Universidad del Rosario, Derecho Para Innovar,
IMODEV, 2019, pág. 23.
[135]
SCOTTI, Luciana, Contratos electrónicos. Un estudio desde el Derecho Internacional Privado
Argentino, Eudeba, Bs. As., 2012, pág. 31 y 34. Para la autora citada, “Internet ha erosionado, en los
hechos, los límites geográficos. Esta suerte de ´desterritorialización´, de ´deslocalización´ trae como
consecuencia la imposibilidad, o al menos la seria dificultad, de los Estados para regular del modo
independiente este fenómeno. Algunos autores hablan de la crisis de monopolio del Estado en la
reglamentación de las relaciones entre personas de derecho privado como consecuencia de la
globalización” (pág. 25).
[136]
TORRES ZAGAL, Oscar, “La nueva tecnología del comercio electrónico. El cambio del
derecho documental al derecho electrónico”, en FILIPPI, Laura y JUARÉZ, María Laura (directoras),
Derechos patrimoniales. Libro en Homenaje a Efraín Hugo Richard, T. I, Edit. AD–HOC, As. As.,
pág. 125 y ss., en part. pág. 125.
[137]
NAHIRÑAK, Paula, JONES, Carola, JUANES, Norma, BUTLER, Inés y MINHOT, Leticia,
Comercio Electrónico en Argentina. Capacidades y Desafíos en la Construcción de la Sociedad de la
Información, IERAL de Fundación Mediterránea, Universidad Nacional de Córdoba, Córdoba, 2007,
pág. 23.
[138]
VANINETTI, Hugo, Uso de los medios informáticos en la Administración Pública. Internet.
Correo electrónico. Régimen de la Provincia de Buenos Aires. Decreto 2442/05. Comparación en el
ámbito privado, El Derecho, 216–812.
[139]
FERNÁNDEZ DELPECH, Horacio, Manual de Derecho Informático, Abeledo–Perrot, Bs.
As., 2014, pág. 391; ALTMARK, Daniel R. y MOLINA QUIROGA, Eduardo, Tratado de Derecho
Informático, La Ley, Bs. As., 2012, pág. 966.
[140]
VANINETTI, Hugo, Aspectos jurídicos de Internet, ob. cit., pág. 533.
[141]
Valga la aclaración, ya que distinta sería la situación respecto de una casilla particular del
agente público, en donde en ese caso, al tenerse la protección constitucional a la intimidad, el
monitoreo solo es posible previa orden judicial.
[142]
Suprema Corte de EE.UU., “Pickering v. Board of Education”, 391 US 563 (1968), citado por
OYHANARTE, Martín, Libertad de expresión y sanción administrativa. El caso de los funcionarios
públicos y los jueces frente al uso de las redes sociales, www.microjuris.com, MJ–DOC–13746–AR |
MJD13746.
[143]
Suprema Corte de EE.UU., “Connick v. Myers”, 461 US 138 (1983), citado por
OYHANARTE, Martín, Libertad de expresión y sanción administrativa. El caso de los funcionarios
públicos y los jueces frente al uso de las redes sociales, www.microjuris.com, MJ–DOC–13746–AR |
MJD13746.
[144]
OYHANARTE, Martín, Libertad de expresión y sanción administrativa. El caso de los
funcionarios públicos y los jueces frente al uso de las redes sociales, www.microjuris.com, MJ–
DOC–13746–AR | MJD13746. Explica el autor citado que, en tal con texto, “el grado de restricción
a las manifestaciones depende, en definitiva, de cuál es el ámbito de gestión, servicio o función
pública de que se trate. Como es obvio, no están sujetas a la misma limitación un militar de alto
rango, un docente universitario o un empleado administrativo”.
[145]
El juez debe evaluar la significación del propósito que persigue al ingresar a una red social y su
posibilidad de mantener las comunicaciones dentro de lo permitido por el Código de Ética, el
significado que tiene admitir o no admitir a una persona a su universo de contactos en el marco de
una red social, restringiendo de manera absoluta cualquier comunicación con aquellas personas que
como partes o como abogados y otros profesionales de la justicia litiguen en un asunto del que en ese
momento esté conociendo el juez. Ver en profundidad, D' ANGELO, Romina L., “La ética judicial en
las redes sociales. Segunda parte”, www.microjuris.com.ar, Cita: MJ–DOC–15189–AR | MJD15189.
[146]
Cam. Nac. del Trabajo, Sala X, 13–02–2015, “A., S.J. c/International Health Service Argentina
S.A. s/ despedido”, citado por ABARRATEGUI FERNÁNDEZ, “Controversias derivadas del uso de
las nuevas tecnologías en el ámbito laboral. ¿Qué respuestas nos brinda la jurisprudencia?”, en
GRANERO, Horacio R. (director) y STECKBANER, María Rosa, (coordinación), E–mails, chats,
WhatsApp, SMS, Facebook, filmaciones con teléfonos móviles y otras tecnologías. Validez probatoria
en el proceso civil, comercial, penal y laboral, elDial.com, Bs. As., 2019, pág. 253. Si bien este fallo
se refiere al ámbito laboral privado regulado por la LCT, nada impide que se lleguen a las mismas
conclusiones en el ámbito del empleo y los sistemas de salud público.
[147]
Refiriéndose al ámbito de la magistratura se ha dicho que “las redes sociales se conforman
como un verdadero desafío, máxime en la época actual donde es necesario mostrar todo: qué hago,
cómo, dónde voy, cómo me divierto, con quién me relaciono, entre muchas otras cosas, y esta
tendencia –sobre la cual no emitiré juicio– alcanza también a los jueces, engendrando el riesgo de
que por el afán de mostrar, el Magistrado cometa graves infracciones a sus deberes e inclusive pueda
comprometer su Investidura” (PANDULLO, Ignacio, Desafíos del siglo XXI: Jueces y redes sociales,
en www.microjuris.com.ar, MJ–DOC–14830–AR | MJD14830).
[148]
FARABOLLINI, Gustavo, “Gobierno Electrónico: una oportunidad para el cambio en la
Administración Pública”, Segundo Congreso Argentino de Administración Pública. Sociedad, Estado
y Administración, Córdoba, noviembre de 2003, disponible en www.aaeap.org.ar.
[149]
El e– Government consiste, básicamente, en la modalidad de gestión pública que incorpora el
uso masivo de las TICs, tanto para la organización interna como para la interacción del Gobierno con
los demás actores sociales y los ciudadanos. La Comunidad Europa define al e– Government o
administración electrónica “como la utilización de las tecnologías de la información y la
comunicación (TIC) en las Administraciones públicas, asociada a cambios en la organización y
nuevas aptitudes del personal. El objetivo es mejorar los servicios públicos, reforzar los procesos
democráticos y apoyar a las políticas públicas”. Ampliar en CASARINI, Luis E., “E–Government.
Hacia la ineludible “reinvención” del Estado moderno”, La Ley, 2005–D–1478.
[150]
GIMENO FELIÚ, José María, “Documento de Trabajo 2004–03– La utilización de las Nuevas
Tecnologías en la Contratación Pública”, Facultad de Ciencias Económicas y Empresariales,
Universidad de Zaragoza, 2004, pág. 18 y 20, disponible en www.unizar.es.
[151]
CORRÁ, María Inés, “La contratación pública electrónica”, en AAVV, Cuestiones de
Contratos Administrativos. En Homenaje a Julio Rodolfo Comadira, Edic. RAP, Bs. As., 2007, pág.
281 y ss., en part. pág. 283.
[152]
Capitulo II, Contrataciones públicas electrónicas. Artículo 21. Contrataciones en formato
digital. Las contrataciones comprendidas en este régimen podrán realizarse en formato digital
firmado digitalmente, utilizando los procedimientos de selección y las modalidades que
correspondan. También podrán realizarse en formato digital firmado digitalmente los contratos
previstos en el artículo 5° del presente. Las jurisdicciones y entidades comprendidas en el artículo 2°
estarán obligadas a aceptar el envío de ofertas, la presentación de informes, documentos,
comunicaciones, impugnaciones y recursos relativos a los procedimientos de contratación
establecidos en este régimen, en formato digital firmado digitalmente, conforme lo establezca la
reglamentación. Se considerarán válidas las notificaciones en formato digital firmado digitalmente,
en los procedimientos regulados por el presente. Deberá considerarse que los actos realizados en
formato digital firmados digitalmente cumplen con los requisitos del artículo 8° de la Ley N° 19.549,
su modificatoria y normas reglamentarias, en los términos establecidos en las disposiciones referentes
al empleo de la firma digital en el Sector Público Nacional, las que se aplicarán, en el caso de las
contrataciones incluidas en los artículos 4° y 5° de este régimen, aun a aquellos actos que produzcan
efectos individuales en forma directa. Los documentos digitales firmados digitalmente tendrán el
mismo valor legal que los documentos en soporte papel con firma manuscrita, y serán considerados
como medio de prueba de la información contenida en ellos. Artículo 22. Regulación. La
reglamentación establecerá la regulación integral de las contrataciones públicas electrónicas, en
particular el régimen de publicidad y difusión, lo referente al proceso electrónico de gestión de las
contrataciones, los procedimientos de pago por medios electrónicos, las notificaciones por vía
electrónica, la automatización de los procedimientos, la digitalización de la documentación y el
expediente digital.
[153]
CORRÁ, María Inés, “La contratación pública electrónica”, en AAVV, Cuestiones de
Contratos Administrativos. En Homenaje a Julio Rodolfo Comadira, Edic. RAP, Bs. As., 2007, pág.
281 y ss., en part. pág. 294 a 296.
[154]
UEZ, Román A., La globalización y los problemas regulatorios, Edic. RAP, Bs. As., 2007, pág.
69.
[155]
GAGO, Fernando, “Exteriorización de la voluntad por Internet. Aspectos extrínsecos de un
contrato celebrado en Internet”, El Derecho, 187–1545.
[156]
UEZ, Román A., La globalización y los problemas regulatorios, ob. cit., pág. 70.
[157]
Como se sabe, la Corte ha dicho que la validez y eficacia de los contratos administrativos se
supedita al cumplimiento de las formalidades exigidas por las disposiciones legales correspondientes,
en cuanto a la forma y procedimientos de contratación (CSJN, 10–02–2004, “Indicom S.A. c/Buenos
Aires, Provincia de s/ cobro de pesos”, Fallos: 327:84; “Laser Disc Argentina S.A. c/ Mendoza,
Provincia de– Instituto Provincial de la Cultura s/ cobro de pesos”, 01–09–2009, Fallos. 326:3206).
En este horizonte, el Máximo Tribunal Federal ha determinado en reiteradas oportunidades que la
prueba de la existencia de un contrato administrativo se halla íntimamente vinculada a la forma en
que dicho contrato queda legalmente perfeccionado. Cuando la legislación aplicable determina una
forma específica para la conclusión de un contrato, dicha forma debe ser respetada, pues se trata de
un requisito esencial de su existencia (“Mas Consultores” (2000, Fallos: 323:1515), “Servicios
Empresarios Wallabies” (2000, Fallos: 323:1841), “Ingeniería Omega” (2000, Fallos: 323:3924),
“Carl Chung Ching Kao” (2001, Fallos: 324:3019), “Magnarelli” (2003, Fallos: 326:1280), “Laser
Disc” (2003, Fallos: 326:3206), “Indicom” (2004, Fallos: 327:84), “Punte” (2006, Fallos: 329:809),
“Lix Klett” (31/07/2012).
[158]
En el artículo 32 del Decreto 1023/2001, ya podía encontrarse un antecedente de esta
regulación. Profundizar en MOLINA QUIROGA, Eduardo, “Equiparación de un web side de internet
a la publicidad oficial. A propósito de la Res. 97/2005 de PGN”, Derecho Administrativo. Revista de
doctrina, jurisprudencia, legislación y práctica, N° 55, Lexis Nexis, Bs. As., 2005, pág. 202.
[159]
MORENO MOLINA, José Antonio, “Las nuevas directivas de la Unión Europea sobre
contratación pública”, El Derecho Administrativo, 2014, pág. 535.
[160]
MORENO MOLINA, José Antonio, “Las nuevas directivas de la Unión Europea sobre
contratación pública”, El Derecho Administrativo, 2014, pág. 535.
[161]
HOCSMAN, Heriberto S., Negocios en Internet, Astrea, Bs. As., 2005, pág. 81.
[162]
HEREDERO, Manuel, Manual de Contratos Públicos de Informática, Ministerio de
Administración Pública, INAP, Madrid, 1989, pág. 27.
[163]
HEREDERO, Manuel, Manual de Contratos Públicos de Informática, ob. cit., pág. 31.
[164]
TORRES MANRIQUE, Jorge I., “Análisis de la relación entre la inteligencia artificial y el
derecho. Hacia el arribo del derecho de los robots”, en www.microjuris.com.ar, MJ-DOC-15194-AR |
MJD15194.
[165]
NAVAS NAVARRO, Susana, “Derecho e inteligencia artificial dese el diseño.
Aproximaciones”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología.
Derecho, ob. cit., pág. 24.
[166]
GIL DOMÍNGUEZ, ANDRÉS, Inteligencia artificial y derecho, ob. cit., pág. 18. La IA “es
una combinación de tecnologías que agrupa datos, algoritmos y capacidad informática” (UE,
Comisión Europea, Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la
excelencia y la confianza, COM, (2020) 65).
[167]
NAVAS NAVARRO, Susana, “Derecho e inteligencia artificial dese el diseño.
Aproximaciones”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología.
Derecho, ob. cit., pág. 24.
[168]
CORVALÁN, Juan Gustavo, “Inteligencia artificial: retos, desafíos, y oportunidades. Prometea:
la primera inteligencia artificial al servicio de Latinoamérica al servicio de la Justicia”, ob. cit., pág.
299.
[169]
REYES OLMEDIO, Patricia, “De la informática jurídica a la algoritmocracia”, elDial.com -
DC2943.
[170]
PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad:
algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho
Administrativo, N° 52, enero, 2019, España, http://laadministracionaldia.inap.es/noticia.asp?
id=1509505.
[171]
FALIERO, Johanna C., EL derecho al anonimato: revolucionando el paradigma de la
protección en tiempos de posprivacidad, Bs. As, Ad-Hoc, 2019, pág. 120.
[172]
https://www.ticbeat.com/tecnologias/que-diferencia-hay-entre-deep-learning-inteligencia-
artificial-y-machine-learning/.
[173]
Ver al respecto, en https://inteligenciaartificial.science/diferencias-entre-la-inteligencia-
artificial-y-las-redes-neuronales-artificiales/.
[174]
https://blog.adext.com/tecnologias-inteligencia-artificial-2019/.
[175]
Téngase en cuenta, por ejemplo, el artículo 24 de la Ley Orgánica N° 3/2018, de 5 de
diciembre, de “Protección de Datos Personales y garantía de los derechos digitales” de España, que
establece que: “Artículo 24. Sistemas de información de denuncias internas. 1. Será lícita la
creación y mantenimiento de sistemas de información a través de los cuales pueda ponerse en
conocimiento de una entidad de Derecho privado, incluso anónimamente, la comisión en el seno de
la misma o en la actuación de terceros que contratasen con ella, de actos o conductas que pudieran
resultar contrarios a la normativa general o sectorial que le fuera aplicable. Los empleados y
terceros deberán ser informados acerca de la existencia de estos sistemas de información. 2. El
acceso a los datos contenidos en estos sistemas quedará limitado exclusivamente a quienes,
incardinados o no en el seno de la entidad, desarrollen las funciones de control interno y de
cumplimiento, o a los encargados del tratamiento que eventualmente se designen a tal efecto. No
obstante, será lícito su acceso por otras personas, o incluso su comunicación a terceros, cuando
resulte necesario para la adopción de medidas disciplinarias o para la tramitación de los
procedimientos judiciales que, en su caso, procedan. Sin perjuicio de la notificación a la autoridad
competente de hechos constitutivos de ilícito penal o administrativo, solo cuando pudiera proceder la
adopción de medidas disciplinarias contra un trabajador, dicho acceso se permitirá al personal con
funciones de gestión y control de recursos humanos. 3.Deberán adoptarse las medidas necesarias
para preservar la identidad y garantizar la confidencialidad de los datos correspondientes a las
personas afectadas por la información suministrada, especialmente la de la persona que hubiera
puesto los hechos en conocimiento de la entidad, en caso de que se hubiera identificado. 4. Los
datos de quien formule la comunicación y de los empleados y terceros deberán conservarse en el
sistema de denuncias únicamente durante el tiempo imprescindible para decidir sobre la procedencia
de iniciar una investigación sobre los hechos denunciados. En todo caso, transcurridos tres meses
desde la introducción de los datos, deberá procederse a su supresión del sistema de denuncias, salvo
que la finalidad de la conservación sea dejar evidencia del funcionamiento del modelo de prevención
de la comisión de delitos por la persona jurídica. Las denuncias a las que no se haya dado curso
solamente podrán constar de forma anonimizada, sin que sea de aplicación la obligación de bloqueo
prevista en el artículo 32 de esta ley orgánica. Transcurrido el plazo mencionado en el párrafo
anterior, los datos podrán seguir siendo tratados, por el órgano al que corresponda, conforme al
apartado 2 de este artículo, la investigación de los hechos denunciados, no conservándose en el
propio sistema de información de denuncias internas. 5. Los principios de los apartados anteriores
serán aplicables a los sistemas de denuncias internas que pudieran crearse en las administraciones
públicas”.
[176]
Ver al respecto, https://www.ticbeat.com/innovacion/la-historia-de-la-inteligencia-artificial-
desde-los-origenes-hasta-hoy/.
[177]
Ver al respecto, https://www.thinkingheads.com/tendencia-global/robotica-inteligencia-
artificial-etica-debate/.
[178]
REYES OLMEDIO, Patricia, “De la informática jurídica a la algoritmocracia”, elDial.com -
DC2943.
[179]
RAMIÓ MATAS, Carles, “inteligencia artificial, robótica y modelos de administración
pública”, Revista del CLAD Reforma y Democracia, N° 72, oct. 2018, pág. 5 y ss., en part. pág. 10.
[180]
UE, Comisión Europea, Libro Blanco sobre la inteligencia artificial: un enfoque europeo
orientado a la excelencia y la confianza, COM, (2020) 65.
[181]
VALERO TORRIJOS, Julián, “Las garantías jurídicas de la inteligencia artificial en la
actividad administrativa desde la perspectiva de la buena administración”, Revista Catalana de Dret
Públic, N° 58, Año 2019, pág. 82 a 96, publicado en
file:///C:/Users/Usuario/Documents/LIBRO/357195-515152-2-PB.pdf.
[182]
RAMIÓ MATAS, Carles, “inteligencia artificial, robótica y modelos de administración
pública”, Revista del CLAD Reforma y Democracia, N° 72, ob. cit., pág. 23 a 27.
[183]
No obstante, se han manifestado voces en contra de la IA. Ante el interrogante si será factible
aplicar estas tecnologías en los procesos judiciales, tanto por parte del juzgador como de los
abogados litigantes, prescindiendo de la subjetividad, la respuesta es negativa “fundada en que no es
posible encontrar soluciones a los conflictos que el derecho presenta sin el discernimiento humano
de la cuestión… los algoritmos nos ayudaran, a través de los sistemas y los softwares, a afrontar el
desafío del Big Data, pero nunca podrán sustituir al magistrado ni al letrado en la interpretación y
en la aplicación del derecho” (ASOREY, RUBÉN, “La inteligencia artificial en el Derecho”, en
Legaltech II, el Derecho ante la Tecnología, Suplemento Especial, La Ley, octubre 2019, pág. 93).
[184]
NAVAS NAVARRO, Susana, “Derecho e inteligencia artificial dese el diseño.
Aproximaciones”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología.
Derecho, ob. cit., pág. 26.
[185]
CASANOVAS, Pompeu, “Derecho, Tecnología, Inteligencia artificial y web semántica. Un
mundo para todos y para cada uno”, en
https://archivos.juridicas.unam.mx/www/bjv/libros/8/3875/26.pdf. Fecha de la consulta: marzo de
2020.
[186]
REYES OLMEDIO, Patricia, “De la informática jurídica a la algoritmocracia”, elDial.com -
DC2943.
[187]
REYES OLMEDIO, Patricia, “De la informática jurídica a la algoritmocracia”, elDial.com -
DC2943.
[188]
REYES OLMEDIO, Patricia, “De la informática jurídica a la algoritmocracia”, elDial.com -
DC2943.
[189]
Más adelante, comenta la autora citada- se ocupó del estudio, desarrollo y promoción del uso
de las TICs en el ámbito jurídico, distinguiendo 3 áreas de acción: a) Informática jurídica
documental, que crea y procesa la documentación jurídica, tales como las bases de datos legales,
jurisprudenciales, etc.; b) Informática jurídica de gestión, que se ocupa de apoyar la actividad del
jurista a través de sistemas de gestión automatizados, como por ejemplo son sistema de tramitación
judicial, de información legislativa, etc.; c) Informática jurídica decisional, en que las TIC apoyan a
los operadores jurídicos (jueces, abogados, mediadores) recogiendo, sistematizando y procesando
información y ofreciendo alternativas de decisión en base a reglas predefinidas.
[190]
FROSINI, Vittorio, “Informática y Administración pública”, Revista de la Administración
Pública, N° 105, septiembre- diciembre, 1984, Madrid, pág. 447 y ss., en part. pág. 455.
[191]
CASANOVAS, Pompeu, “Derecho, tecnología, inteligencia artificial y web semántica. Un
mundo para todos y para cada uno”, Enciclopedia de Filosofía y Teoría del Derecho, vol. 1,
https://archivos.juridicas. Para la doctrina, es cierto que se ha debatido mucho sobre el juez artificial,
la posibilidad de que sea un programa y no una persona humana, quien dicte sentencia. Pero también
lo es que este tipo de programas sobre el “juez autómata”, que tanta literatura ha generado, están ya
fuera de discusión cuando nació la “International Association for Artificial Inteligence and Law”.
[192]
GRANERO, Horacio Roberto, “Los sistemas inteligentes de medición del caos como elemento
de ayuda para mejorar la actividad jurídica”, elDial.com - DCB38.
[193]
Debe aclararse que las lenguas naturales pueden expresarse en tres formas: oral (mediante la
voz), escrita (un texto) o por signos. De más está decir que la expresión escrita se encuentra mucho
más documentada y es más fácil de conseguir y analizar que la oral o el lenguaje de signos. Por ello,
el Procesamiento del Lenguaje Natural está mucho más avanzado en el tratamiento de textos escritos.
[194]
TORRES MANRIQUE, Jorge I., “Análisis de la relación entre la inteligencia artificial y el
derecho. Hacia el arribo del derecho de los robots”, en www.microjuris.com.ar, Cita: MJ-DOC-
15194-AR | MJD15194.
[195]
SARRA, Andrea, “La inteligencia artificial en el derecho”, en www.microjuris.com.ar, MJ-
DOC-6591-AR | MJD6591.
[196]
SARRA, Andrea, “La inteligencia artificial en el derecho”, en www.microjuris.com.ar, MJ-
DOC-6591-AR | MJD6591.
[197]
NAVAS NAVARRO, Susana, “Derecho e inteligencia artificial dese el diseño.
Aproximaciones”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología.
Derecho, ob. cit., pág. 39.
[198]
NAVAS NAVARRO, Susana, “Derecho e inteligencia artificial dese el diseño.
Aproximaciones”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología.
Derecho, ob. cit., pág. 40. La autora cita, como ejemplo, legislación del Reino Unido, Irlanda, Nueva
Zelanda, Australia, etc.
[199]
FERNANDEZ, Tomás R., “Jurisprudencia y computadores”, en Revista de la Administración
Pública, N° 64, enero abril, 1971, Madrid, pág. 327 y ss.
[200]
“Recensiones y notificas de libros”, Revista de la Administración Pública, N° 60, septiembre–
octubre, 1969, Madrid, pág. 525, en part. pág. 546.
[201]
FROSINI, Vittorio, “Informática y Administración pública”, Revista de la Administración
Pública, N° 105, septiembre– diciembre, 1984, Madrid, pág. 447 y ss., en part. pág. 447 y 449.
[202]
Véase, por ejemplo, CORVALÁN, Juan Gustavo y SÁ ZEICHEN, Gustavo, “Justicia 4.0: el
uso de inteligencia artificial para acercar la justicia a los ciudadanos”, Ediciones SAIJ, Id SAIJ:
DACF190020.
[203]
CORVALÁN, Juan Gustavo y SÁ ZEICHEN, Gustavo, “Justicia 4.0: el uso de inteligencia
artificial para acercar la justicia a los ciudadanos”, Ediciones SAIJ, Id SAIJ: DACF190020.
[204]
Esta Ley fue derogada por la Ley N° 39/2015, de 1 de octubre, del Procedimiento
Administrativo Común de las Administraciones Públicas. Solo se contempla que “Los sistemas
normalizados de solicitud podrán incluir comprobaciones automáticas de la información aportada
respecto de datos almacenados en sistemas propios o pertenecientes a otras Administraciones u
ofrecer el formulario cumplimentado, en todo o en parte, con objeto de que el interesado verifique la
información y, en su caso, la modifique y complete”.
[205]
La mecanización y automatización, como principios, no son nuevos en los sistemas jurídicos
normativos, por cuanto ya en la exposición de motivos de la Ley Procedimientos Administrativos
española de 1958 se señaló que “Por lo demás, las aludidas directrices no se conciben como simples
enunciados programáticos, sino como verdaderas normas jurídicas, al habilitar a la Administración
de una vez para siempre para adoptar cuantas medidas repercutan en la economía, celeridad y
eficacia de los servicios; a estos fines responden los preceptos relativos a la normalización de
documentos, racionalización, mecanización y automatización de los trabajos en las oficinas
públicas, creación de oficinas de información y reclamaciones y fijación de horarios adecuados para
el mejor servicio de los administrados”.
[206]
MARTÍN DELGADO, Isaac, Naturaleza, concepto y régimen jurídico de la actuación
administrativa automatizada, en “Revista de la Administración Pública”, N° 180, Madrid,
septiembre–diciembre 2009, pág. 365.
[207]
Artículo 41. 1. Y agrega que “En caso de actuación administrativa automatizada deberá
establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las
especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso,
auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe
ser considerado responsable a efectos de impugnación”. Finalmente, en el artículo 42 se establece
que “En el ejercicio de la competencia en la actuación administrativa automatizada, cada
Administración Pública podrá determinar los supuestos de utilización de los siguientes sistemas de
firma electrónica: a) Sello electrónico de Administración Pública, órgano, organismo público o
entidad de derecho público, basado en certificado electrónico reconocido o cualificado que reúna los
requisitos exigidos por la legislación de firma electrónica. b) Código seguro de verificación
vinculado a la Administración Pública, órgano, organismo público o entidad de Derecho Público, en
los términos y condiciones establecidos, permitiéndose en todo caso la comprobación de la
integridad del documento mediante el acceso a la sede electrónica correspondiente”.
[208]
Para Vincenzo AQUARO (Director de Gobierno Digital de la ONU): “los sistemas de
Inteligencia Artificial no pueden reemplazar completamente las competencias de los seres humanos.
Pueden colocar a los humanos en una posición ventajosa y ayudar a organizar mejor nuestra
sociedad, pero al final, los humanos son, o al menos deberían ser, los que siempre toman las
decisiones finales. Esta es la razón por la que prefiero deletrear la IA como “Inteligencia (humana)
Aumentada” en lugar de Inteligencia Artificial” (AQUARO, “Prologo”, en CORVALÁN, Juan
Gustavo, Prometea. Inteligencia Artificial para transformar organizaciones públicas, ob. cit., pág.
7).
[209]
Tal como se verá seguidamente, estas herramientas tienen gran tradición en materia tributaria,
aun antes de la implementación de un régimen general. Por ejemplo, en España la Ley N° 58/2003,
de 17 de diciembre, General Tributaria, contempla el empleo por parte de la Administración tributaria
de las nuevas tecnologías en el desarrollo de su actividad y para el ejercicio de sus competencias.
Concretamente hace una mención directa a la posibilidad de adopción de decisiones de forma
automatizada, al precisar que “cuando la Administración tributaria actúe de forma automatizada se
garantizará la identificación de los órganos competentes para la programación y supervisión del
sistema de información y de los órganos competentes para resolver los recursos que puedan
interponerse”. Imagínese el lector, por ejemplo, sistemas de declaración jurada informativa donde en
forma automatizada, el programa –previa verificación de datos– brinda la determinación y
liquidación del monto a abonar.
[210]
DELPIAZZO, Carlos, “Noción y regulación del procedimiento y del acto administrativo
electrónico”, en Estudios de Derecho Administrativo, 79–108, citado por SCHIAVI, Pablo, “Acto
administrativo electrónico y nuevas tecnologías. ¿Evolución o disrupción?”, Revista de Derecho
Administrativo, Cita Online: AR/DOC/4133/2019.
[211]
DELPIAZZO, Carlos, “Noción y regulación del procedimiento y del acto administrativo
electrónico”, en Estudios de Derecho Administrativo, 79–108, citado por SCHIAVI, Pablo, “Acto
administrativo electrónico y nuevas tecnologías. ¿Evolución o disrupción?”, Revista de Derecho
Administrativo, Cita Online: AR/DOC/4133/2019.
[212]
CALDERON CARRERO, José Manuel, “Algoritmos de inteligencia artificial con fines de
control fiscal: ¿puede el derecho embridar a las nuevas tecnologías?”, El Derecho Tributario, marzo,
2010.

[213]
RIQUERT, Marcelo A. y SUEIRO, Carlos Cristian, Sistema penal e informática, Ciberdelitos,
evidencia digital, TCS, Nº 2, “Selección de jurisprudencia”, Hammurabi, Bs. As., 2019, pág. 324.
[214]
Lo que incluso tiene recepción legal con el artículo 108 del Reglamento de la Ley de
Procedimiento Administrativo (Decreto 1759/72, T.O. Decreto 894/2017), en cuanto expresa que “los
interesados que interactúen con la Administración deberán aportar al procedimiento administrativo
los datos y documentos exigidos de acuerdo con lo dispuesto en la normativa aplicable. Asimismo,
podrán aportar cualquier otro documento que estimen conveniente”.
[215]
PARADA, Ramón, Régimen jurídico de las Administraciones Públicas y Procedimiento
Administrativo Común, Marcial Pons, Madrid, 2009, citado por PONCE SOLÉ, Juli, “Inteligencia
artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo
debido tecnológico”, en Revista General de Derecho Administrativo, N° 52, enero, 2019, España.
[216]
URÍOS APARISI –ALAMILLO DOMINGO, “Los límites a la utilización del sello del órgano
por parte de las Administraciones Públicas en la Ley N° 11/2007”, Comunicación presentada a las
Jornadas Tecnimap, celebradas en Gijón del 27 al 30 de noviembre de 2007, pág. 4, disponible en
www.tecnimap.es.
[217]
DELGADO GARCÍA– OLIVER CUELLO “Regulación de la informática decisional en la
Administración electrónica tributaria”, Comunicación presentada en las Jornadas Tecnimap,
celebradas en Sevilla del 30 de mayo al 2 de junio de 2006, p 7, disponible en
www.csi.map.es/csi/tecnimap/tecnimap_2006/01T_
PDF/regulacion%20de%20la%20informatica.pdf.
[218]
LACAVA, Federico J., “Decisiones administrativas automáticas y derechos”, ob. cit., pág. 255.
[219]
MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación
administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–
diciembre 2009, pág. 360. Para el autor citado, a lo que coincidimos, “No es difícil imaginar un
Registro administrativo completamente electrónico, en el que la entrada, salida, archivo y
organización de comunicaciones electrónicas estén completamente automatizadas. Tampoco un
centro informático específicamente encargado de la producción de un concreto tipo de actos
administrativos (pensemos en certificaciones del padrón municipal, concesión de licencias regladas
o adjudicaciones en subastas electrónicas)” (pág. 361).
[220]
MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación
administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–
diciembre 2009, pág. 363.
[221]
MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación
administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–
diciembre 2009, pág. 364. Por ende “del mismo modo que ocurre con la atribución de la voluntad de
los funcionarios físicos de la Administración, se puede recurrir a la ficción jurídica de atribuir a la
Administración el proceso intelectivo del ordenador, sobre la base de una decisión asumida
precedentemente por una o más personas físicas que componen sus órganos, superando así la
objeción sobre la imposibilidad de considerar acto administrativo a la decisión automatizada por la
imposibilidad de calificar a ésta como declaración de voluntad” (LACAVA, Federico J., “Decisiones
administrativas automáticas y derechos”, ob. cit., pág. 255).

[223]
PONCE SOLÉ, si bien admite que “tecnológicamente, podría producir también disposiciones
generales” aunque la “normativa existente calla sobre este aspecto”, recomienda “la prohibición del
uso de la IA en relación con ejercicio de potestades discrecionales, incluidas, claro está, las
planificadoras o reglamentarias” (PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho
administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido
tecnológico”, en Revista General de Derecho Administrativo, N° 52, enero, 2019, España,
http://laadministracionaldia.inap.es/noticia.asp?id=1509505).
[224]
GARCÍA DE ENTERRÍA, Eduardo. y FERNÁNDEZ, Tomás R, Curso de Derecho
Administrativo, vol. I, 11ªed., España, 2000, pág. 454 y ss.
[225]
Para el ámbito de la Justicia es exactamente lo mismo. Así podrá utilizarse en las causas de
ejecuciones civiles y comerciales, donde solo se discute el título ejecutivo, como en reclamos de
multas, tributos o impuestos, o inclusive en las causas de accidentes laborales. Pero hasta cierto
punto, porque esa velocidad meteórica de la IA puede convertirse en peligrosa para los ciudadanos
que ven vulnerados sus derechos por el Estado (causas sobre libertad de personas, delitos de lesa
humanidad, entre otras) (RAFFAGHELLI, Luis, “Desafíos presentes y futuros del trabajo, tal como
se presenta en la era actual”, elDial.com – DC2626).
[226]
GARCÍA DE ENTERRÍA, Eduardo y Fernández, Tomás Ramón, Curso de Derecho
Administrativo, vol. I, 11ªed., España, 2000, pág. 454 y ss.
[227]
URÍOS APARISI –ALAMILLO DOMINGO, “Los límites a la utilización del sello del órgano
por parte de las Administraciones Públicas en la Ley N° 11/2007”, Comunicación presentada a las
Jornadas Tecnimap, celebradas en Gijón del 27 al 30 de noviembre de 2007, pág. 4, disponible en
www.tecnimap.es.
[228]
DELGADO GARCÍA –OLIVER CUELLO, “Regulación de la informática decisional en la
Administración electrónica tributaria”, Comunicación presentada en las Jornadas Tecnimap,
celebradas en Sevilla del 30 de mayo al 2 de junio de 2006, pág. 7, disponible en
www.csi.map.es/csi/tecnimap/tecnimap_2006/01T_
PDF/regulacion%20de%20la%20informatica.pdf.
[229]
Para el autor, “No es difícil parametrizar en estos casos. Los méritos que reúne el aspirante a
una plaza de funcionario público o la puntuación que debe obtener una oferta para la adjudicación
de un contrato administrativo, aun cuando son susceptibles de valoración por el órgano llamado a
concretarlos, tal valoración, técnicamente hablando, puede ser llevada a cabo por una máquina en
uso de una aplicación informática debidamente configurada. En consecuencia, también cabría la
automatización de la decisión en el ejercicio de una potestad administrativa discrecional cuando la
libertad decisoria se concreta en criterios técnicos y no políticos” (MARTÍN DELGADO, Isaac,
“Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de
la Administración Pública, N° 180, Madrid, septiembre–diciembre 2009, pág.370).
[230]
MARTINO, Antonio, “Sistemas expertos legales”, en Informática y Derecho, V.1, Depalma,
Bs. As., 1987, pág. 136; PEREZ LUÑO, Antonio, “Sistemas expertos jurídicos: premisas para un
balance”, en Informática y Derecho, V.5, Depalma, Bs. As., 1996, pág. 97.
[231]
En el ámbito judicial existen proyectos para aplicar inteligencia artificial a los efectos de
automatizar algunas tareas jurídicas, que consiste en cargar resoluciones simples, para después ser
buscadas y luego vinculadas en documentos legales pre–configurados, los que se firmaran
digitalmente. Respecto el modelo utilizado por el Ministerio Público Fiscal de la Ciudad Autónoma
de Buenos Aires, ver CEVASCO, Luis y CORVALÁN, Juan Gustavo, ¿Desempleo tecnológico? El
impacto de la inteligencia artificial y la robótica en el trabajo, en Diario La Ley, 11–07–2018.
[232]
En una postura crítica, LACAVA entiende que, si bien la eliminación de la discrecionalidad
“parece consustanciarse con los principios vectores del Estado constitucional, a poco que se aprecie,
tales decisiones eliminan la posibilidad de flexibilizar o adaptar las decisiones a las circunstancias,
por lo que el sistema impide ponderar los intereses los intereses en conflicto o evaluar el contexto.
Píense en la hipótesis de acordar una determinada subvención, o la no admisión a un concurso
público como resultado de la brecha digital, por ejemplo, porque determinado aspirante carece del
sistema informático adecuado. O la imposición de una multa a quien no produjo la infracción de
tránsito y no tuvo derecho a defenderse en modo previo a su aplicación” (LAVACA, Federico J.,
“Acto administrativo automático en el marco del Estado constitucional de derecho”, El Derecho
Administrativo, 3 de diciembre de 2019, pág. 5).
[233]
GRANERO, Horacio R., La inteligencia artificial entiende el lenguaje “talcahuanensis”
(Impacto de los lenguajes de procesamiento de lenguaje natural (NLP) en la recuperación de
información legal)”, elDial.com – DC2991.
[234]
RAMIÓ MATAS, Carles, “inteligencia artificial, robótica y modelos de administración
pública”, Revista del CLAD Reforma y Democracia, N° 72, oct. 2018, pág. 5 y ss., citando a
CAMPOS, Concepción (2018), 5 Ejemplos de Inteligencia Artifical (IA) en la administración
pública: ¿presente o futuro?, http:// concepcioncampos. org/5–ejemplos–deinteligencia–artificial–ia–
enla–administracion–publicapresente–o–futuro. Por el contrario, BARRAZA se han manifestado con
una posición escéptica al respecto, entendiendo que la corrupción preexistente muchas veces es
potenciada por la tecnología. Cito textual “En segundo término, se habla de que mediante la
inteligencia artificial los miles de conflictos que se debaten en el fuero previsional o los
procedimientos administrativos se solucionarán rápidamente. En realidad, de lo que se trata es de
modificar un sistema corrupto, en el que los órganos administrativos no realizan adecuadamente la
liquidación de haberes de un agente. ¿Cómo funciona el sistema? Si a un agente de la
Administración Pública no se le practica adecuadamente esa reliquidación, eso debería dirimirse en
el ámbito administrativo y no crear un sistema informático, para potenciar esa corrupción. Tal vez
deberíamos pensar en un sistema para sancionar la omisión y la corrupción. ¿Cómo es posible que
dos personas que despliegan la misma actividad deban percibir emolumentos distintos? ¿Para eso
crearemos inteligencia artificial? ¿Para que una persona haga juicio? En fin, debemos avanzar
hacia la inteligencia artificial, pero antes debemos analizar cada uno de los sistemas corruptos que
existen, y no potenciarlos mediante la tecnología” (BARRAZA, Javier Indalecio, “Derechos
humanos, nuevas tecnologías y los órganos de gobierno”, en Revista de Derecho Público. Derechos
humanos y nuevas tecnologías–II, Rubinzal–Culzoni, Santa Fe, 2018, pág. 77 y ss., en part. pág. 86).
[235]
Ampliar en, PONCE, SOLÉ, Juli, “La prevención de riesgos de mala administración y
corrupción, la inteligencia artificial y el derecho a una buena administración”, Revista internacional
de transparencia e integridad , Número 6, enero–abril 2018,
https://revistainternacionaltransparencia.org/wp–content/uploads/2018/04/juli_ponce.pdf.
[236]
PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad:
algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho
Administrativo, N° 52, enero, 2019, España, http://laadministracionaldia.inap.es/noticia.asp?
id=1509505.
[237]
PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad:
algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho
Administrativo, N° 52, enero, 2019, España, http://laadministracionaldia.inap.es/noticia.asp?
id=1509505. Aclara el autor citado que: “No debe, sin embargo, confundirse esa empatía con
la simpatía, prohibida por los deberes de imparcialidad y el derecho a la igualdad. La empatía a la
que nos referimos es diferente y forma parte de una característica que parece ser específicamente
humana, vinculada con la capacidad de ponerse en el lugar del otro, entrar en resonancia con los
sentimientos del otro (tanto alegría como sufrimiento), no sólo de forma cognitiva sino también
emocional, para dar lugar a la compasión y al altruismo. Esa capacidad empática, está basada en
parte en las neuronas espejo, pero no únicamente, pues implica aspectos emocionales y cognitivos y
a numerosas áreas del cerebro”.
[238]
LUSKI, Gisela M., “Por qué todavía somos más inteligentes que la inteligencia artificial... y
cómo seguir siéndolo”, El Derecho, T. 285.
[239]
MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación
administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–
diciembre 2009, pág.366.
[240]
VALERO TORRIJOS, Julián, “Las garantías jurídicas de la inteligencia artificial en la
actividad administrativa desde la perspectiva de la buena administración”, Revista Catalana de Dret
Públic, N° 58, Año 2019, pág. 82 a 96.
[241]
En este sentido, la efectividad de las garantías jurídicas pasa necesariamente por extender la
transparencia y el derecho de acceso a la información pública lo más amplio posible, que incluya no
solo el conocimiento del resultado de la aplicación o del sistema informativo sino, además y sobre
todo en materia de inteligencia artificial, el origen de los datos empleados y la naturaleza y el alcance
del tratamiento realizado.
[242]
CALDERON CARRERO, José Manuel, “Algoritmos de inteligencia artificial con fines de
control fiscal: ¿puede el derecho embridar a las nuevas tecnologías?”, El Derecho Tributario, marzo,
2010.
[243]
MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación
administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–
diciembre 2009, pág. 374.
[244]
MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación
administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–
diciembre 2009, pág. 384.
[245]
MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación
administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–
diciembre 2009, pág. 386.
[246]
FERNANDO PABLO, Marcos M. y TERRÓN SANTOS, Daniel, “Sobre la gobernanza de la
inteligencia artificial”, en DEL GUAYO CASTIELLA, Iñigo, y FERNÁNDEZ CARBALLAL,
Almudena, Los desafíos del derecho público en el siglo XXI. Libro conmemoratorio del XXV
Aniversario del acceso a la Cátedra del Profesor Jaime Rodríguez–Arana Muñoz, INAP, Madrid,
2019, pág, pág. 384 y ss.
[247]
FROSINI, Vittorio, “Informática y Administración pública”, Revista de la Administración
Pública, N° 105, septiembre– diciembre, 1984, Madrid, pág. 447 y ss., en part. pág. 453.
Reflexionaba el autor citado que, habiendo pasado tantos años “de experiencia desde el principio de
la transformación de la Administración pública tradicional (basada en el binomio hombre–papel)
hasta la nueva fase de la Administración automatizada, en la que el ordenador sustituye (aunque
parcialmente) ya sea el elemento humano, efectuando directamente los cálculos y las comparaciones
exigidos por un acto administrativo, así como el elemento papel, ya que la memoria magnética
sustituye los archivos y el medio de comunicación es el impulso eléctrico. Sin embargo, dado que se
ha demostrado que el ordenador actúa siempre de modo mimético, o sea imitativo, y no creativo
respecto a la inteligencia humana, se le ha definido simia hominis (V. FROSINI, Cibernética, diriito
e societá, IV ed. Milán, 1978, págs. 104–105)”.
[248]
CORVALÁN, Juan Gustavo, “Hacia una Administración Pública 4.0: digital y basada en
inteligencia artificial. Decreto de “Tramitación digital completa”, en Diario La Ley, 17–08–2018.
[249]
CORVALÁN, Juan Gustavo, “Hacia una Administración Pública 4.0: digital y basada en
inteligencia artificial. Decreto de “Tramitación digital completa”, en Diario La Ley, 17–08–2018.
[250]
MASUCCI, Alfonso, “Formación y evolución del acto administrativo en Francia y Alemania”,
en Revista de la Administración Pública, N° 184, enero–abril– 2011, Madrid, pág. 9 ss., en part. pág.
32
[251]
LACAVA, Federico J., “Decisiones administrativas automáticas y derechos”, ob. cit., pág. 231.
[252]
Recordemos que por actuación administrativa automatizada entendemos al ejercicio, por parte
de la Administración pública, de una potestad pública por medio de un sistema de información
programado y no de una persona física (MARTÍN DELGADO, Isaac, “Naturaleza, concepto y
régimen jurídico de la actuación administrativa automatizada”, ob. cit., pág. 367).
[253]
CORVALÁN, Juan Gustavo, “Hacia una Administración Pública 4.0: digital y basada en
inteligencia artificial. Decreto de “Tramitación digital completa”, en Diario La Ley, 17–08–2018.
[254]
CORVALÁN, Juan Gustavo y SÁ ZEICHEN, Gustavo, “Justicia 4.0: el uso de inteligencia
artificial para acercar la justicia a los ciudadanos”, Ediciones SAIJ, Id SAIJ: DACF190020.
[255]
GALETTA, Diana–Uriana, “Transparencia y buen gobierno. Evaluaciones y propuestas a partir
de la experiencia en la Unión Europea e Italia”, ILEMATA, Revista Internacional de Eticas Aplicada,
N° 27, pág. 131 y ss., en part. pág. 143, file:///C:/Users/Usuario/Downloads/412000218–
Texto%20del%20art%C3%ADculo–2339–3–10–20180601.pdf.
[256]
El artículo 12 de la Ley N° 39/2015 del Procedimiento Administrativo Común de las
Administraciones Públicas: “Artículo 12. Asistencia en el uso de medios electrónicos a los
interesados. 1. Las Administraciones Públicas deberán garantizar que los interesados pueden
relacionarse con la Administración a través de medios electrónicos, para lo que pondrán a su
disposición los canales de acceso que sean necesarios así como los sistemas y aplicaciones que en
cada caso se determinen. 2. Las Administraciones Públicas asistirán en el uso de medios
electrónicos a los interesados no incluidos en los apartados 2 y 3 del artículo 14 que así lo soliciten,
especialmente en lo referente a la identificación y firma electrónica, presentación de solicitudes a
través del registro electrónico general y obtención de copias auténticas. Asimismo, si alguno de estos
interesados no dispone de los medios electrónicos necesarios, su identificación o firma electrónica
en el procedimiento administrativo podrá ser válidamente realizada por un funcionario público
mediante el uso del sistema de firma electrónica del que esté dotado para ello. En este caso, será
necesario que el interesado que carezca de los medios electrónicos necesarios se identifique ante el
funcionario y preste su consentimiento expreso para esta actuación, de lo que deberá quedar
constancia para los casos de discrepancia o litigio. 3. La Administración General del Estado, las
Comunidades Autónomas y las Entidades Locales mantendrán actualizado un registro, u otro sistema
equivalente, donde constarán los funcionarios habilitados para la identificación o firma regulada en
este artículo. Estos registros o sistemas deberán ser plenamente interoperables y estar
interconectados con los de las restantes Administraciones Públicas, a los efectos de comprobar la
validez de las citadas habilitaciones. En este registro o sistema equivalente, al menos, constarán los
funcionarios que presten servicios en las oficinas de asistencia en materia de registros”.
[257]
MUÑOZ, Ricardo Alberto, “Políticas públicas y derechos fundamentales”, el Derecho
Administrativo, 2017, pág. 712.
[258][258]
SANTIAGO, Alfonso, “El Derecho Constitucional de las Políticas Públicas”, La Ley,
2015-F-699.
[259]
MARTINEZ de PISON, José. “Los derechos sociales: unos derechos controvertidos”, en Los
derechos sociales como una exigencia de la justicia (Virgilio Zapatero, M. Isabel Garrido Gómez,
editores). Cuadernos “Democracia y Derechos Humanos” Universidad de Alcalá. Madrid 2009.
[260]
ABRAMOVICH, Víctor, “Una aproximación al enfoque de derechos en las estrategias y
políticas de desarrollo “, Revista de la CEPAL 88, abril de 2006.
[261]
ALZA BARCO, Carlos, “El enfoque basado en derechos ¿qué es y cómo se aplica a las
políticas públicas?)” en “Derechos Humanos y Políticas Públicas. Manual” (L. Burgorgue-Larsen, A.
Maués; B. Sánchez Mojío) Universidad Pompeu Fabra. Red de Derechos Humanos y Educación
Superior. Barcelona 2014, pág. 54 a 58.
[262]
La doctrina española cita ejemplos, tales como la imprevisión del sistema de un derecho de
subsanar o mejorar una solicitud, la imposibilidad de avanzar en una solicitud cuando falte un dato, el
convencimiento que un trámite está concluido cuando no es así, la falta de claridad y precisión en las
instrucciones que faciliten el manejo del sistema, la imposibilidad de acreditar que se ha intentado
hacer el trámite, Así, “la regulación no debe ahondar en la brecha digital con exigencias
desmesuradas en la introducción de datos o en el avance del procedimiento; debe generar confianza
en el usuario alejando la amenaza de perjuicio ante el tramite fallido” (DE VIGENTE DOMINGO,
Ricardo, “El procedimiento administrativo electrónico y su afectación a los derechos e intereses
legítimos de los ciudadanos”, en DEL GUAYO CASTIELLA, Iñigo, y FERNÁNDEZ
CARBALLAL, Almudena, Los desafíos del derecho público en el siglo XXI. Libro conmemoratorio
del XXV Aniversario del acceso a la Cátedra del Profesor Jaime Rodríguez-Arana Muñoz, INAP,
Madrid, 2019, pág., 252 y ss.)
[263]
CORVALÁN, Juan Gustavo y SÁ ZEICHEN, Gustavo, “Justicia 4.0: el uso de inteligencia
artificial para acercar la justicia a los ciudadanos”, Ediciones SAIJ, cita: Id SAIJ: DACF190020.
Puntualizan los autores que este concepto incluye la noción de “Justicia 4.0” que “presupone adoptar
un nuevo paradigma: la transición progresiva de un modelo digital hacia uno de inteligencia
híbrida, que combine inteligencia humana con inteligencia artificial. Esto implica un doble desafío,
vinculado a una doble transición para los Estados. Mientras se va hacia un gobierno integrado y
digital, hay que repensar las estrategias para vincular los datos, el conocimiento y los patrones de
información con los sistemas de IA, y la de estos con la inteligencia humana. La clave de esta última
transición hacia Estados inteligentes y, particularmente a los poderes judiciales inteligentes, viene
dada por la gobernanza de los datos y de la información”.
[264]
PUCHETA, Leonardo, “Robótica e inteligencia artificial: nuevos horizontes de reflexión”, El
Derecho, T. 283.
[265]
TRAVIESO, Juan Antonio, Derecho y Tecnología. Historias y dilemas, ob. cit. pág. 114.
[266]
WERNER, Braian Matías, “El allanamiento de dispositivos como un nuevo allanamiento de
domicilio en la era digital”, RIQUERT, Marcelo A. (dirección) y SUEIRO, Carlos Cristian
(coordinación), Sistema penal e informática, Ciberdelitos, evidencia digital, TCS, Nº 2, Hammurabi,
Bs. As., 2019, pág. 191 y ss., en part. pág. 205.
[267]
Comisión Europea, Comunicación de la Comisión al Parlamento Europeo, al Consejo, al
Comité Económico y Social Europeo y al Comité de las Regiones https://ec.europa.eu/digital-single-
market/en/news/draft-ethics-guidelines-trustworthy-ai.
[268]
ÁLVAREZ ECHAZÚ, María Belén, “Cuarenta y dos países adoptan los Principios OCDE
sobre inteligencia artificial”, http://laley.thomsonreuters.com/nota/2196?cid=743941e0-3952-4f80-
ba55-65e195e3e3ef&chl=soc.
[269]
TORRES BADÍA, Agustina, “¿Puede ayudar la inteligencia artificial a conseguir una mejor
justicia?, elDial.com - DC27F0.
[270]
El lector podrá advertir que hemos utilizado a los términos “privacidad” e “intimidad” muchas
veces como sinónimos. No obstante, en rigor de verdad, y para ser más precisos, existe entre los
conceptos de privacidad e intimidad, una relación de género a especie, es decir, lo íntimo es más
íntimo que lo privado. El concepto de vida privada es de mayor amplitud que el de intimidad, ya que
comprende todos los elementos que no se desea exponer al conocimiento de los demás, pretendiendo
que se mantengan en el fuero íntimo de cada persona. Y dentro de esas acciones privadas, existe un
ámbito de mayor reserva, que hace a una parte esencial de la configuración subjetiva de cada
individuo, que es lo que comúnmente se denomina “intimidad”, y, por lo tanto, requiere de una
mayor protección.
[271]
ALVAREZ –CIENFUEGOS SUAREZ, José María, La Defensa de la Intimidad de los
Ciudadanos y la Tecnología Informática, Aranzadi Editorial, Pamplona, 1999, pág. 22.
[272]
BASTERRA, Marcela, “La responsabilidad de los motores de búsqueda de Internet en el centro
del debate jurídico”, La Ley, 2014-F-145.
[273]
RIVERA, Julio, Instituciones de Derecho Civil, Abeledo Perrot, pág. 83.
[274]
VANINETTI, Hugo, Aspectos jurídicos de Internet, ob. cit., pág. 194.
[275]
A diferencia de lo sucedido en otros países (a modo de ejemplo, la Constitución de España en
el artículo 18 inc. 4° establece que “la ley limitará el uso de la informática para garantizar el honor
y la intimidad personal y familiar de los ciudadanos y el pleno ejercicio de sus derechos”), e incluso,
en el esferas del Derecho Público Provincial (por ejemplo, en el artículo 50 de la Constitución de
Córdoba se dice que “la ley reglamentará el uso de la informática para que no se vulneren el honor,
la intimidad personal y familiar y el pleno ejercicio de los derechos”), que han modificado normas
constitucionales atendiendo a las implicancias de las nuevas tecnologías, la Constitución Nacional
mantiene un marco general de protección sin referencias específicas a la tecnología informática más
allá de la previsión general (no referida exclusivamente a la tecnología informática, aunque sí la
incluye) del habeas data introducida con la Reforma Constitucional de 1994. Ello obliga a que el
análisis jurídico respecto del resguardo de los derechos humanos en la Administración pública ante la
utilización de IA, sea respetuoso de las garantías fundamentales en un marco de razonabilidad ante
cualquier tipo de ejercicio del poder de injerencia estatal en la materia.
[276]
Cuando se habla de intromisiones al derecho a la propia imagen por sistemas de IA, se refiere
en primer lugar a la vulneración de los derechos fundamentales o de una transgresión a los atributos
de la personalidad, y, en segundo lugar, al patrimonio de la persona por la reproducción de la imagen
ante la apropiación indebida de la misma.
[277]
LASTIRI SANTIAGO, “El derecho a la propia imagen frente al uso de las nuevas
tecnologías”, en RICO CARRILLO, Marilina (coordinadora), Derecho de las nuevas tecnologías,
Ediciones La Rocca, Bs. As., 2007, pág. 179.
[278]
GRANERO, Horacio, El orden público tecnológico, EDUCA, Colección Prudencia Iuris, Bs.
As., 2003, pág. 48.
[279]
CIFUENTES, Santos, “Ilegal control que pone en jaque un derecho fundamental”, La Ley,
2005-D-44; GREGORINI CLUSELLAS, Eduardo, “La violación del derecho a la propia imagen y su
reparación”, La Ley, 1996-D-136; SALVADORES DE ARZUAGA, Carlos, “Dignidad, intimidad e
imagen. La cuestión constitucional”, La Ley, 1998-D-39.
[280]
SLAIBE, María Eugenia, “La fotografía y la protección de datos personales”, La Ley.
Suplemento de Derecho Constitucional, 2005 (octubre), pág. 64.
[281]
TOMEO, Fernando, Redes sociales y tecnología 2.0, Astrea, Bs. As., 2014, pág. 77.
[282]
ZANNONI, Eduardo, El daño en la responsabilidad civil, pág. 353.
[283]
Explica LUCENA CID que los avances tecnológicos de las últimas décadas han incidido
considerablemente en la evolución del concepto y la protección jurídica de la intimidad. La noción de
privacidad, como hemos visto, es difícil de precisar dada la influencia de distintos factores
contextuales: sociales, circunstanciales y en nuestros días, tecnológicos. Tradicionalmente se ha
formulado la intimidad en términos de autonomía, secreto, libertad, desarrollo de la personalidad,
sustrato inviolable de la dignidad personal, etc., en la actualidad se reivindica como derecho del
control de la información personal. Por eso “ante las eventuales invasiones de la privacidad por
parte de los nuevos mecanismos la información durante las décadas de los sesenta y setenta en los
Estados Unidos, comenzaron a surgir algunas contribuciones doctrinales que definían el concepto de
privacidad considerando el aspecto informacional como un factor relevante en una sociedad cada
vez más informatizada” (LUCENA CID, Isabel Victoria, “El concepto de la intimidad en los nuevos
contextos tecnológicos”, en GALÁN MUÑOZ, Alfonso, (coordinador), La protección jurídica de la
intimidad y de los datos de carácter personal frente a las nuevas tecnologías de la información y
comunicación, Tirant lo Blanch, Sevilla, 2014, pág. 32).
[284]
BIDART CAMPOS, German J., Tratado Elemental de Derecho Constitucional Argentino,
edición 2000-2001, Tomo 1-B, pág. 69. Acertadamente se ha expuesto que “ya no basta con otorgar
un poder de control sobre los datos personales frente a la Administración o frente a las empresas. El
nuevo reto consiste en integrar en el derecho a la protección de datos facultades y derechos que
garanticen a los sujetos que intervienen en las redes sociales el poder de control y disposición sobre
los amplios perfiles personales publicados por ellos voluntariamente. Para ello, deberían
incorporarse instrumentos y mecanismos de defensa suficientes frente a la utilización indebida
realizada por cualquier tercero, e incluir un régimen normativo sancionador de infracciones de
derechos fundamentales por particulares” (BARRIO ANDRÉS, Moisés, Fundamentos del Derecho
de Internet, Centro de Estudios Políticos y Constitucionales, Madrid, 2017, pág. 408).
[285]
PINOCHET CANTWELL, Francisco José, El Derecho de Internet, Editorial de Derecho de
Chile, Santiago, 2006, pág. 309. Para el autor citado, “esta es una nueva concepción del derecho a la
libertad personal: así como existe un derecho de libre expresión de los pensamientos, hay un derecho
de controlar las informaciones referentes a la propia persona, conocido como el derecho de habeas
data”.
[286]
ALVAREZ –CIENFUEGOS SUAREZ, José María, La Defensa de la Intimidad de los
Ciudadanos y la Tecnología Informática, ob. cit., pág. 20. Entre los primeros autores que
describieron el tema, puede citarse a PÉREZ LUÑO, “La protección de la intimidad frente a la
informática en la Constitución española de 1978”, en Revista de Estudios Políticos, N° 9, Madrid,
1979, pág. 59 del mismo autor, “Informática y libertad: comentario al artículo 18.4 de la
Constitución”, en Revista de Estudios Políticos, N° 24, Madrid, 1981, pág. 31; ROVIRA VIÑAS,
“Reflexiones sobre el derecho a la intimidad en relación a la informática, la medicina y los medios de
comunicación”, en. Revista de Estudios Políticos, N° 77, Madrid, 1992, pág. 269.
[287]
FERNÁNDEZ DELPECH, Horacio, Manual de Derecho Informático, Abeledo-Perrot, Bs. As.,
2014, pág. 330.
[288]
Se ha explicado que, dado que el consentimiento brinda una limitada protección al titular de los
datos personales, se han adoptado ciertos correctivos. Una de estas medidas es que el tratamiento de
la información personal debe verificarse de acuerdo con la finalidad que justificó su colecta, aquella
que en su momento fue informada al titular y respecto de la cual este consintió. Así, el uso de datos
personales en un proceso de reclutamiento laboral debe extenderse a información pertinente, a
efectos de establecer la idoneidad laboral del candidato; requerir datos que excedan dicha finalidad,
aun cuando sea consentido, implica un tratamiento ilícito de datos personales. Parafraseando las ya
mencionadas recomendaciones de las Naciones Unidas en la materia, el tratamiento de datos
personales debe ser adecuado, pertinente y no excesivo en relación con una finalidad legítima. “En
suma, salvo las excepciones previstas en la ley, el consentimiento de la persona concernida por la
información es necesario para su tratamiento legítimo, pero no es suficiente. El tratamiento de datos
personales debe cumplir con los demás preceptos de la ley sobre su protección, pero especialmente
debe ser adecuado, pertinente y no excesivo en relación con una finalidad legítima” (VILLEGAS
CARRASQUILLA, Lorenzo, “Protección de datos personales en América Latina: retención y
tratamiento de datos personales en el mundo de Internet”, en BERTONI, Eduardo (compilador),
Hacia una Internet libre de censura. Propuestas para América latina, Universidad de Palermo, 2012,
pág. 176).
[289]
UICICH, Rodolfo D., El derecho a la intimidad en Internet y en las comunicaciones
electrónicas, Ad-Hoc, Bs. As., 2009, pág. 80.
[290]
El avance de la informática en el campo del almacenamiento de la información implicaba un
grave peligro, por lo que uno de los remedios jurídicos diseñados para combatir esa proliferación
irrestricta de datos computarizados fue el habeas data (BELTRAMONE, Guillermo, y ZABALE,
Ezequiel, El Derecho en la Era Digital. Derecho Informático de fin de siglo, Editorial Juris, Rosario,
2000, pág. 64). Para la más reconocida doctrina, el “habeas data”, salvaguarda “una especie” de
intimidad: el derecho a la intimidad informática (BASTERRA, Marcela, El derecho a la información
vs. Derecho a la intimidad, Rubinzal-Culzoni, Santa Fe, 2012, pág. 176). Esto explica que en un
principio se haya denominado al habeas data como “amparo informático” (SAGUES, Héctor, Acción
de amparo, pág. 678; PIZZOLO (h), Aspectos procesales del hábeas data. Acerca del amparo
informático, El Derecho, 167-919).
[291]
El Reglamento Europeo de Protección de Datos Personales (Reglamento 679/2016), ordena que
la evaluación de impacto relativa a la protección de los datos se requerirá en particular en caso de:
“evaluación sistemática y exhaustiva de aspectos personales de personas físicas que se base en un
tratamiento automatizado, como la elaboración de perfiles, y sobre cuya base se tomen decisiones
que produzcan efectos jurídicos para las personas físicas o que les afecten significativamente de
modo similar”.
[292]
NAVAS NAVARRO, Susana, “Derecho e inteligencia artificial dese el diseño.
Aproximaciones”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología.
Derecho, tirant lo blanch, Valencia, 2017, pág. 53.
[293]
CALDERON CARRERO, José Manuel, “Algoritmos de inteligencia artificial con fines de
control fiscal: ¿puede el derecho embridar a las nuevas tecnologías?”, El Derecho Tributario, marzo,
2010.
[294]
FALIERO, Johanna Caterina, “Los desafíos jurídicos del big data. Tensiones de derechos ante
la parametrización analítica, la toma automatizada de decisiones, el targetting y el perfilamiento”, en
Legaltech II, el Derecho ante la Tecnología, Suplemento Especial, La Ley, octubre 2019, pág. 71 y
ss., en part. pág. 72.
[295]
Como se sabe, el concepto de tutela administrativa efectiva ha sido introducido entre nosotros
por la Corte Suprema de Justicia Nación en la ya conocida causa “Astorga Bracht” (Corte Suprema
de Justicia de la Nación, 14/10/2008, “Astorga Bracht, Sergio y otro c/ COMFER – Decreto N°
310/98 s/ amparo Ley N° 16.986”).
[296]
MUÑOZ (h), RICARDO, “La tutela administrativa efectiva”, La Ley, 2012-B-919.
[297]
URRUTIGOITY, JAVIER, “El principio de tutela administrativa efectiva”, Lexis N°
0003/012321.
[298]
El Tribunal Europeo de Derechos Humanos, en la causa “Kraska c/ Suiza, del 19 de abril de
1993, interpretando el artículo 6.1 del Convenio Europeo de Derechos Humanos (similar al artículo 8
de la Convención Americana de Derechos Humanos), estableció el principio de igualdad de armas
del ciudadano y la Administración, tanto en el procedimiento administrativo como en los procesos
jurisdiccionales (SALOMONI, Jorge Luis, “Procedimiento Administrativo y Mercosur. Una
aproximación a los principios emergentes de los distintos ordenamientos aplicables”, en Actualidad
en el Derecho Público, N° 8, Bs. As., 1998, pág. 95 y ss., en part. pág. 115).
[299]
Cámara Federal de Apelaciones de Córdoba, 28/02/2011, “M.A.E.A. c/ Estado Nacional
(A.F.I.P.)- Ordinario”, La Ley Online, AR/JUR/1213/2011.
[300]
Algunos autores se inclinan por un régimen facultativo (JESÚS GONZALEZ PEREZ,
EDUARDO GARCÍA DE ENTERRIA, FERNANDO GARRIDO FALLA, JOSÉ LUÍS RIVERO
ISERN, citados por CANOSA, ARMANDO, “Alcance de la denominada tutela administrativa
efectiva”), otros por un sistema excepcional (URRUTIGOITY, JAVIER, “El principio de tutela
administrativa efectiva”, Lexis N° 0003/012321).
[301]
MUÑOZ (h), Ricardo, “El procedimiento administrativo de “tercera generación” a la luz del
sistema protectorio internacional de derechos humanos”, en obra colectiva “El Procedimiento
Administrativo a 20 años de la Reforma Constitucional”, Jornadas organizadas por la Facultad de
Derecho de la Universidad Austral, Ediciones RAP, Bs. As., 2015.
[302]
BIELSA, Rafael, Derecho Administrativo, T. I, 6° edición, Bs. As., pág. 144.
[303]
CORVALÁN, Juan Gustavo, Inteligencia artificial: retos, desafíos, y oportunidades. Prometea:
la primera inteligencia artificial al servicio de Latinoamérica al servicio de la Justicia, “Revista de
Investigações Constitucionais”, Curitiba, 2018, V. 5,; del mismo autor, Prometea. Inteligencia
Artificial para transformar organizaciones públicas, Bs. As., Editorial Astrea SRL, Editorial
Universidad del Rosario, Derecho Para Innovar, IMODEV, 2019.
[304]
Así, por ejemplo, “las redes neuronales que están formados por múltiples nodos cada uno de
los cuales representa un paquete concreto de funciones que interactúan en una estructura multinivel
con capacidad de aprendizaje y adoptando decisiones de forma autónoma la lógica interna se
muestra, en muchas ocasiones, “elusiva” sin poder derivar una lógica computacional clara” (NAVAS
NAVARRO, Susana, “Derecho e inteligencia artificial dese el diseño. Aproximaciones”, en NAVAS
NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología. Derecho, tirant lo blanch,
Valencia, 2017, pág. 52).
[305]
NAVAS NAVARRO, Susana, “Derecho e inteligencia artificial dese el diseño.
Aproximaciones”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología.
Derecho, tirant lo blanch, Valencia, 2017, pág. 49 a 51.
[306]
GIL DOMINGUEZ, Andrés, Inteligencia artificial y derecho, ob. cit., pág. 45.
[307]
HARARI, Yuval Noah, 21 lecciones para el siglo XXI, Debate, Bs. As., 2018, pág. 84 y 85. Y
aclara más adelante que “...no hay razón para suponer que la inteligencia artificial adquiera
conciencia, porque inteligencia y conciencia son cosas muy distintas. La inteligencia es la capacidad
de resolver problemas. La conciencia es la capacidad de sentir dolor, alegría, amor e ira. Tendemos
a confundir ambas cosas porque en los humanos y otros mamíferos la inteligencia va de la mano de
la conciencia…” (pág. 92).
[308]
COLOMBO, María Celeste, “La utilización de algoritmos es una actividad riesgosa”, La
Ley, 8-11-2019.
[309]
Estos casos se dan cuando por ejemplo en una selección laboral se discriminan y descarta el
perfil de un candidato debido a que se incluyen en los datos anexados al algoritmo aquellos que
categorizan a la etnia de un postulante como una de las que estadísticamente tiene los peores
resultados en las pruebas de oposición, en comparación con los integrantes de otros grupos étnicos.
[310]
EBERS, Martin, “La utilización de agentes electrónicos inteligentes en el tráfico jurídico:
¿Necesitamos reglas especiales en el Derecho de la responsabilidad civil?”, InDret: Revista para el
análisis del Derecho, núm. 3, 2016. Para el autor citado, “En esta constatación es correcto que los
agentes de software y robots hasta el momento no están en situación, en efecto, de determinar las
condiciones de sus actos, y, especialmente, no pueden modificar la arquitectura de control, la cual
garantiza que su actuar permanece dentro de ´guardarraíles´ predefinidos. Aparte de esto ocurre
que, igualmente, los procesos de aprendizaje implementados hasta el momento no se corresponden
con el aprendizaje natural, biológico, autónomo. Aunque se trate de un aprendizaje mecánico, en
última instancia debe ser un experto humano quien ha de escoger los ejemplos de entrenamiento,
determinar la representación de los datos, fijar objetivos parciales y establecer la estructura de
determinadas representaciones del sistema”.
[311]
Adhiriendo a esta postura, la doctrina manifiesta que “se está masificado el conocimiento de la
Inteligencia Artificial y el denominado machine learning –aprendizaje automático–, que es una
forma de hacer cosas y procedimientos según la cual el software ´aprende´ y tiene un cierto ámbito
de decisión propia. Y resulta altamente riesgosa esta masividad en la medida que nos encontramos
frente a sujetos que manejan los algoritmos más básicos de la herramienta, pero que podría generar
daños importantes (como ser el denominado sesgo de la información, que sería una nueva y variada
forma de discriminación)” (VELTANI, Darío y ATTA, Gustavo Ariel, “La responsabilidad civil en la
Revolución Industrial 4.0. Apuntes a considerar en el ámbito de un programa de investigación
aplicado”, El Derecho, 5-11-2019).
[312]
COLOMBO, María Celeste, “La utilización de algoritmos es una actividad riesgosa”, LL, 8-11-
2019. En este sentido, se ha recordado que las XXVII Jornadas Nacionales de Derecho Civil (2019),
celebradas en la provincia argentina de Santa Fe, se incluyó como actividad riesgosa (enumeración
ejemplificativa) la actividad informática en las expresiones que se detallan más abajo. No taxativa,
por lo que en el futuro se podrían incluir otras. Las que se declararon como tales fueron: la utilización
de algoritmos, las actividades cibernéticas, las plataformas digitales y los sistemas operados por
inteligencia artificial. Fue votado por unanimidad (LAMANNA GUIÑAZU, Emiliano y
FOSSACECA, (h), Carlos A. “Responsabilidad civil en la Revolución Industrial 4.0. Conclusiones
básicas en torno al riesgo y peligrosidad de las actividades informáticas Normativa emergente del
Código Civil y Comercial de la Nación en la Argentina digital 4.0”, El Derecho, 5-11-2019).
[313]
NAVAS NAVARRO, Susana, “Derecho e inteligencia artificial dese el diseño.
Aproximaciones”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología.
Derecho, ob. cit., pág. 44.
[314]
Así, en el caso de que la utilización del algoritmo se enmarque en una relación de consumo en
los términos de los artículos 1092 y 1093 del Código Civil y Comercial y los artículos 1 y 2 de la Ley
de Defensa del Consumidor, la responsabilidad será necesariamente objetiva en atención de lo
dispuesto por el artículo 40 de la ley consumeril.
[315]
MELO, Verónica E., “El derecho ante la inteligencia artificial y la robótica”, El Derecho, 6-02-
2018.
[316]
BARRIO ANDRÉS, Moisés: Robótica, inteligencia artificial y derecho,
www.realinstitutoelcano.org/wps/portal/rielcano_es/contenido?
WCM_GLOBAL_CONTEXT=/elcano/elcano_es/zonas_es/ar 103-2018-barrioandres-
roboticainteligencia-artificial-derecho, 2018.
[317]
TRAVIESO, Juan Antonio, “Las personas jurídicas en el nuevo derecho y tecnología.
Bienvenido los robots”, en Legaltech II, el Derecho ante la Tecnología, Suplemento Especial, La
Ley, octubre 2019, pág. 79 y ss., en part. pág. 81.
[318]
EBERS, Martin, “La utilización de agentes electrónicos inteligentes en el tráfico jurídico:
¿Necesitamos reglas especiales en el Derecho de la responsabilidad civil?”, InDret: Revista para el
análisis del Derecho, núm. 3, 2016.
[319]
MATEO BORGE, Iván, “La robótica y la inteligencia artificial en la prestación de servicios
jurídicos”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología. Derecho,
ob. cit., pág. 123 y ss.
[320]
PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad:
algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho
Administrativo, N° 52, enero, 2019, España, http://laadministracionaldia.inap.es/noticia.asp?
id=1509505.
[321]
http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-
0051+0+DOC+XML+V0//ES.
[322]
SANCHEZ BARRILAO, Juan Francisco, “El Derecho Constitucional ante la era de Ultrón: la
informática y la inteligencia artificial como objeto constitucional”, Revista Estudios de Deusto, V.
64/2, julio-diciembre, 2016, pág. 225 y ss., en part. pág. 233. La disminución de riesgos es lo que
define, en esencial, al encuadramiento jurídico de los algoritmos. Así es que se ha definido al ius
algoritmia como aquel campo que busca “conseguir aminorar los riesgos de la existencia de tales
mecanismos de decisión y conseguir que su utilización responda a la dignidad de la persona”
(FERNANDO PABLO, Marcos M. y TERRÓN SANTOS, Daniel, “Sobre la gobernanza de la
inteligencia artificial”, en DEL GUAYO CASTIELLA, Iñigo, y FERNÁNDEZ CARBALLAL,
Almudena, Los desafíos del derecho público en el siglo XXI. Libro conmemoratorio del XXV
Aniversario del acceso a la Cátedra del Profesor Jaime Rodríguez-Arana Muñoz, INAP, Madrid,
2019, pág. 384 y ss.).
[323]
UE, Comisión Europea, Libro Blanco sobre la inteligencia artificial: un enfoque europeo
orientado a la excelencia y la confianza, COM, (2020) 65.
[324]
UE, Comisión Europea, Libro Blanco sobre la inteligencia artificial: un enfoque europeo
orientado a la excelencia y la confianza, COM, (2020) 65.
[325]
UE, Comisión Europea, Libro Blanco sobre la inteligencia artificial: un enfoque europeo
orientado a la excelencia y la confianza, COM, (2020) 65.
[326]
PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad:
algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho
Administrativo, N° 52, enero, 2019, España, http://laadministracionaldia.inap.es/noticia.asp?
id=1509505.
[327]
La Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones
destinadas a la Comisión sobre normas de Derecho civil sobre robótica, ya citada, expone el principio
de transparencia: “consiste en que siempre ha de ser posible justificar cualquier decisión que se haya
adoptado con ayuda de la inteligencia artificial y que pueda tener un impacto significativo sobre la
vida de una o varias personas; considera que siempre debe ser posible reducir los cálculos del
sistema de inteligencia artificial a una forma comprensible para los humanos”.
[328]
El autor citado menciona el caso del año 2015 por el cual la Comisión francesa d’accès aux
documents administratifs obligó a la Direction générale des finances publiques a hacer público el
código fuente del programa de ordenador usado para calcular o el impuesto sobre los ingresos de las
personas físicas y en 2018 a hacer accesible los códigos fuente de tres programas que desarrollan
modelos con datos económicos usados por el Ministerio de Economía. También referencia la decisión
del Tribunal Administrativo Regional de Lazio-Roma mediante la cual declara que un algoritmo, que
servía para la toma de decisiones automatizadas sobre movilidad de docentes por la Administración
pública italiana, es un acto administrativo digital y, por tanto, bajo la legislación de acceso a la
información, los ciudadanos tienen el derecho a su acceso. En España, se remite a resoluciones por la
cual se reconoce el derecho de la persona reclamante a acceder al código fuente del programa
informático empleado por el Consejo Interuniversitario en la designación de los miembros de los
tribunales correctores de exámenes docentes. En nuestro país, un ejemplo puede ser conocer el
sistema informático por el cual se sortean las causas en distintos tribunales de justicia.
[329]
“Artículo 28. Obligaciones generales del responsable y encargado del tratamiento.
1. Los responsables y encargados, teniendo en cuenta los elementos enumerados en los artículos 24 y
25 del Reglamento (UE) 2016/679, determinarán las medidas técnicas y organizativas apropiadas que
deben aplicar a fin de garantizar y acreditar que el tratamiento es conforme con el citado reglamento,
con la presente ley orgánica, sus normas de desarrollo y la legislación sectorial aplicable. En
particular valorarán si procede la realización de la evaluación de impacto en la protección de datos y
la consulta previa a que se refiere la Sección 3 del Capítulo IV del citado reglamento.
[330]
En su resolución de 2017, el Parlamento europeo ha sugerido a la comisión que: “estudie la
posibilidad de designar una agencia europea para la robótica y la inteligencia artificial que
proporcione los conocimientos técnicos, éticos y normativos necesarios para apoyar la labor de los
actores públicos pertinentes, tanto a nivel de la Unión como a nivel de los Estados miembros, en su
labor de garantizar una respuesta rápida, ética y fundada ante las nuevas oportunidades y retos —
sobre todo los de carácter transfronterizo— que plantea el desarrollo tecnológico de la robótica, por
ejemplo en el sector del transporte”.
[331]
PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad:
algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho
Administrativo, N° 52, enero, 2019, España, http://laadministracionaldia.inap.es/noticia.asp?
id=1509505. El autor menciona como ejemplos al Oxford Internet Institute o al Centre for Data
Ethics and Innovation Consultation del Reino Unido.
[332]
CEVASCO, Luis, CORVALÁN, Juan Gustavo y LE FEVRE CERVINI, Enzo María,
Inteligencia Artificial y trabajo, Bs. As., Editorial Astrea SRL, Editorial Universidad del Rosario,
Derecho Para Innovar, IMODEV, 2019, pág. 10. Para los autores citados, “resulta evidente que la
combinación entre la fuerza laboral humana y sistemas de IA o robots, bajo un enfoque inclusivo,
produce en fenómeno que hemos llamado “automatización que humaniza”. La reducción de sesgos,
errores y tiempos toma más eficiente las actividades, permite redirigir las capacidades cognitivas
biológicas a tareas más sofisticadas, o que requieren empatía y creatividad” (pág. 45).
[333]
CEVASCO, Luis, CORVALÁN, Juan Gustavo y LE FEVRE CERVINI, Enzo María,
Inteligencia Artificial y trabajo, ob. cit., pág. 13. Para Juan Antonio TRAVIESO en la actualidad “se
producen nuevos contratos sociales y el progreso tecnológico irrumpe en progreso social. Esos
cambios, no están en oposición, sino en conjunción para potenciarlos. Un ejemplo elocuente, es el del
mundo de los robots, que como lo expresamos, podrán sustituir trabajadores en una relación
aparentemente opuesta entre el trabajo y la tecnología y quizás esa hipotética sustitución, puede
devenir virtuosa, al mejorar la calidad de vida (TRAVIESO, Juan Antonio, Derecho y Tecnología.
Historias y dilemas, ob. cit., pág. 31).
[334]
Ver al respecto, https://www.abc.es/tecnologia/consultorio/abci-inteligencia-artificial-y-
deberia-interesar-201807030216_noticia.html.
[335]
CORVALÁN, Juan Gustavo, Prometea. Inteligencia Artificial para transformar organizaciones
públicas, ob. cit., pág. 17.
[336]
MATEO BORGE, Iván, “La robótica y la inteligencia artificial en la prestación de servicios
jurídicos”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología. Derecho,
ob. cit. pág. 140.
[337]
MATEO BORGE, Iván, “La robótica y la inteligencia artificial en la prestación de servicios
jurídicos”, en NAVAS NAVARRO, Susana (directora,) Inteligencia artificial. Tecnología. Derecho,
ob. cit., pág. 141. Todo ha llevado a afirmar que la clave del éxito del abogado del futuro residirá en
su habilidad para identificar qué áreas de actividad pueden ser sustituidas por un software o un
algoritmo y cuáles no pueden serlo. Las áreas de práctica más rentables dentro de unos años serán
aquellas que sepan ajustar su modelo de negocio a la combinación del uso de herramientas de
robótica e inteligencia artificial con aquellos otros servicios que las máquinas no puedan facilitar
(GARCÍA DIEZ, F., “El impacto de la inteligencia artificial en el ejercicio del derecho”,
www.lawandtrends.com, 22/02/2017).
[338]
CORVALÁN, Juan Gustavo, “Inteligencia artificial: retos, desafíos, y oportunidades. Prometea:
la primera inteligencia artificial al servicio de Latinoamérica al servicio de la Justicia”, Revista de
Investigações Constitucionais, pág. 309. Desde la óptica de la ONU, recuerda el autor citado, “…
todos deben aprovechar los beneficios de las nuevas tecnologías, en particular de las tecnologías de
la información y de las comunicaciones, conforme a las recomendaciones formuladas en la
Declaración Ministerial 2000 del Consejo Económico y Social” (de la Resolución aprobada por la
Asamblea General 55/2, Declaración del Milenio, apartado III, punto 20, ítem quinto).
[339]
Por ejemplo, en la Resolución 2095 del 20 de junio de 2017, la Asamblea General de la OEA
resolvió: “Reafirmar la importancia que representa para los Gobiernos de la región de América
Latina y el Caribe el uso de las tecnologías digitales como uno de los factores más transformadores
de nuestro tiempo, por su impacto para la gestión pública efectiva, la democratización de los
servicios públicos, la apertura gubernamental, la organización, sistematización y disponibilidad de
la información pública, el empoderamiento ciudadano y para potenciar el desarrollo económico,
reducir las brechas sociales, alcanzar la inclusión digital y avanzar así hacia una sociedad y
economía basada cada vez más en el conocimiento”.
[340]
En vinculación con ello, el numeral 166 de la Doctrina Social de la Iglesia expresa que “Las
exigencias del bien común derivan de las condiciones sociales de cada época y están estrechamente
vinculadas al respeto y a la promoción integral de la persona y de sus derechos fundamentales. Tales
exigencias atañen, ante todo, al compromiso por la paz, a la correcta organización de los poderes
del Estado, a un sólido ordenamiento jurídico, a la salvaguardia del ambiente, a la prestación de los
servicios esenciales para las personas, algunos de los cuales son, al mismo tiempo, derechos del
hombre: alimentación, habitación, trabajo, educación y acceso a la cultura, transporte, salud, libre
circulación de las informaciones y tutela de la libertad religiosa”.
[341]
RECALDE, María Cecilia, El desarrollo como derecho humano, Astrea, Bs., As., 2019, pág.
217.
[342]
Si bien, varios años antes, en 1965, fue creado (en español) el Programa de Naciones Unidas
para el Desarrollo (PNUD), bajo el lema “Sirviendo al progreso”.
[343]
Desde el año 1990, en el marco de este Programa, se han elaborado Informes anuales sobre el
estado y calidad del desarrollo humano, el primero de los cuales trató sobre Concepto y medición del
desarrollo humano, correspondiendo el del año 2004 a La Democracia en América Latina. Hacia una
democracia de ciudadanas y ciudadanos. Tales informes constituyen un valioso aporte al tornar
visibles el grado de desarrollo de cada país, lo que promueve intensos debates sobre las políticas
públicas a adoptar para lograrlo y luego darle sustento en el tiempo. Entre otros indicadores, suele
emplearse el denominado Índice de Desarrollo Humano (IDH) sobre la base de componentes, tales
los índices de longevidad, educación e ingreso per cápita. Para María Angélica GELLI los informes
del PNUD constituyen una importante fuente interpretativa de lo que significa desarrollo humano
(“Desarrollo humano, igualdad y constitución”, La Ley, 1996-B, 1096).
[344]
Del conocido caso “Badaro c/ ANSES”, Fallos: 329:3089. En síntesis, concluye María Cecilia
RECALDE, “como consecuencia de las previsiones normativas vigente en diversos países y en
especial en la Argentina, dadas las reformas constitucionales de 1994, el promover y proteger la
dignidad del hombre –de todos los hombres- y su consiguiente desarrollo integral es un imperativo
nacional e internacional dirigido a todos los seres humanos, pero en especial, a los Estados, y dentro
de ellos, al poder legislador, quien debe actuar en consecuencia” (RECALDE, María Cecilia, El
desarrollo como derecho humano, ob. cit., pág. 256).
[345]
Ver al respecto, https://www.bbvaopenmind.com/ciencia/investigacion/inteligencia-artificial-3-
el-futuro/.

[346]
SANCHEZ BARRILAO, Juan Francisco, “El Derecho Constitucional ante la era de Ultrón: la
informática y la inteligencia artificial como objeto constitucional”, Revista Estudios de Deusto, V.
64/2, julio-diciembre, 2016, pág. 225 y ss., en part. pág. 251.
[347]
PONCE SOLÉ, Juli, “El Derecho Administrativo en el Siglo XXI”, en Revista General de
Derecho Administrativo, N° 52, octubre, 2019, España, pág. 38.
[348]
GRANERO, Horacio R., “Un futuro de participación entre humanos y algoritmos inteligentes”,
elDial.com - DC2799.