UNIVERSIDAD COOPERATIVA DE COLOMBIA

CENTRO DE INVESTIGACIONES
PROGRAMA DE DERECHO
CALI

INTELIGENCIA ARTIFICIAL, ÉTICA Y REGULACIÓN JURÍDICA: UNA MIRADA DESDE EL DERECHO

CONSTITUCIONAL COLOMBIANO.

CRISTIAN DANIEL BARCO MORENO

LAINIVER MENDOZA MUNAR

MARIA KAROLINA URBANO

CALI, 2023

1
 Tabla de contenido:

Contenido
Palabras claves .......................................................................................... 3
Resumen .................................................................................................... 4
ABSTRACT:............................................................................................. 4
Introducción .............................................................................................. 5
Tema: Inteligencia artificial, ética y regulación jurídica. ......................... 7
Planteamiento del problema:..................................................................... 7
Objetivos de la Investigación.. .................................................................. 9
Marco Teórico. ........................................................................................ 10
MOMENTO HISTORICO: .................................................................... 10
CONCEPTO DE INTELIGENCIA ARTIFICIAL (IA) Y EL DERECHO:
...................................................................................................................... 11
LA IA EN COLOMBIA: ........................................................................ 12
RETOS NORMATIVOS DE LA INTELIGENCIA ARTIFICIAL: ...... 13
Marco jurídico ......................................................................................... 14
Resultados: .............................................................................................. 16
Capítulo 1: Lineamientos jurídicos relevantes de la inteligencia artificial.
...................................................................................................................... 17
- ¿Qué es la inteligencia artificial? ...................................................... 17
o Características de la inteligencia artificial .................................. 18
o Aspectos históricos de la IA: ...................................................... 19
o Primera revolución industrial:..................................................... 20
o Segunda revolución industrial: ................................................... 21
o Tercera y cuarta revolución industrial: ....................................... 21
- Evolución de la inteligencia artificial en las Naciones Unidas. ........ 22
- La IA y su evolución desde el Banco interamericano de desarrollo.
..................................................................................................... 26
- Acuerdos internacionales sobre la inteligencia artificial. ........... 26
- Ventajas y riesgos de la inteligencia artificial en materia jurídica.
..................................................................................................... 27
o Ventajas de la inteligencia artificial: ..................................... 28
o Desventajas o riesgos de la inteligencia artificial: ................ 29
- Desarrollo de la inteligencia artificial en la Unión Europea (UE).
..................................................................................................... 31
- Desarrollo de la inteligencia artificial en la Comunidad Andina. 33
Capítulo 2: Características que debe contener un marco normativo de la
IA en Colombia............................................................................................. 34

2
 - Inteligencia artificial y su implementación en el derecho colombiano. ....... 34
Análisis normativo de la implementación de la inteligencia artificial, desde
un enfoque positivista. .................................................................................. 37
- Normas relacionadas con la IA en Colombia ................................... 42
o Acuerdos internacionales adheridos por Colombia en materia de la
IA ................................................................................................ 44
o Principios éticos de la inteligencia artificial en Colombia.......... 46
- Problemas que puede ayudar a resolver la IA en Colombia. ............ 46
- Retos de la inteligencia artificial en Colombia desde el ámbito
normativo. ......................................................................................... 48
Conclusiones. .......................................................................................... 49
Referencias Bibliográficas. ..................................................................... 50

Palabras claves.

1. Big Data: Término que hace referencia a conjuntos de datos masivos y

complejos que requieren de técnicas avanzadas de procesamiento y análisis, y
que pueden proporcionar información valiosa para la toma de decisiones en el
contexto de la IA.
2. Inteligencia Artificial: Campo de estudio y desarrollo de sistemas y tecnologías
que permiten a las máquinas simular capacidades y comportamientos humanos,
como el aprendizaje, la percepción y la toma de decisiones, con el fin de realizar
tareas de manera autónoma.
3. Derecho a la no discriminación: Principio jurídico que garantiza a todas las
personas igualdad de trato y protección contra cualquier forma de
discriminación, incluyendo aquella derivada de decisiones automatizadas de IA,
asegurando que los sistemas de IA sean imparciales y justos.
4. Dignidad humana: Concepto fundamental de los derechos humanos que
reconoce el valor inherente y la dignidad de cada persona, y que debe ser
respetado y protegido en el marco jurídico de la IA, evitando usos que
menoscaben la autonomía y los derechos fundamentales de las personas.
5. Ética de la IA: Conjunto de principios y normas éticas que guían el diseño,
desarrollo y uso de la IA, asegurando que los sistemas sean responsables,
transparentes, seguros y respeten los valores y derechos fundamentales de las
personas.
6. MinTic: Ministerio de Tecnologías de la Información y las Comunicaciones en
Colombia, entidad encargada de formular políticas y promover el desarrollo
tecnológico en el país, incluyendo la regulación de la IA y la protección de los
derechos de los ciudadanos.
7. Uso Responsable: En el contexto de la IA, se refiere a la utilización adecuada y
ética de los sistemas y aplicaciones de IA, teniendo en cuenta los impactos

3
 sociales, económicos, legales y éticos, así como la mitigación de riesgos y la
protección de los derechos de las personas.
8. Eficacia: Capacidad de los sistemas de IA para lograr los resultados deseados de
manera efectiva y eficiente, cumpliendo con los objetivos y requisitos
establecidos, sin comprometer la calidad, la seguridad ni la ética.
9. Protección de datos: Conjunto de medidas y normativas destinadas a garantizar
la seguridad, confidencialidad y buen uso de los datos personales recolectados y
procesados por sistemas de IA, asegurando la privacidad y el respeto a los
derechos de las personas.
10. Recomendaciones internacionales: Directrices y principios desarrollados por
organismos internacionales, como la UNESCO, la OCDE o la Unión Europea, que
establecen estándares y buenas prácticas para la regulación y el uso ético de la
IA, y que pueden servir como referencia en la formulación de un marco jurídico
en Colombia.

Resumen (Español e Inglés):

La inteligencia artificial es una tecnología, que normalmente con su uso y desarrollo

tiende a comprometer diferentes derechos fundamentales como la no discriminación y
la dignidad humana en sí. No obstante las entidades internacionales han sostenido la
postura que hay que ver esta tecnología como una herramienta que es posible de ayudar
a solucionar las diferentes problemáticas de la vida cotidiana del ser humano. Desde esta
idea Colombia desde lo predispuesto por la Comunidad Andina, ha empezado con la
adhesión de algunas normas internacionales para sostener un uso y desarrollo de la IA
responsable en su territorio, sin embargo, esto no deja de evidenciar que se siguen
vulnerando y comprometiendo derechos y libertades de sus ciudadanos.

Es por ello, que desde el análisis del movimiento social para con la IA (Investigación socio-
jurídica) y desde la impetración del estudio de las diferentes normas internacionales
(inductivo-deductivo), se logran establecer las bases fundamentales que Colombia debe
considerar al momento de realizar su propia norma integra en temas de inteligencia
artificial. Así pues, desde el entendimiento de los diferentes derechos comprometidos en
Colombia con el uso y desarrollo de la IA, como también con el análisis constitucional que
se realizó con respecto a los valores, principios y dogmas con respecto a la IA. Se llega a
concluir que Colombia tiene que fundar su futuro marco jurídico de la IA en los principios
establecidos por la OCDE y adheridos por el Estado Colombiano por medio del Conpes
3975, pero a su vez debe enmarca su comprendido normativo en la búsqueda de la
protección de derechos fundamentales como la intimidad, no discriminación, dignidad
humana, protección de datos, etc.; donde a su vez debe crear un ente de control capaz
de buscar la adhesión de normas internacionales que apoyen la postura en mención,
pero a su vez que tengan una fiscalización con respecto al desarrollo de la IA y en que
espacios se debe de brindar su utilización.

ABSTRACT:

Artificial intelligence is a technology, which normally with its use and development
tends to compromise different fundamental rights such as non-discrimination and
human dignity itself. However, international entities have supported the position that

4
 this technology must be seen as a tool that is possible to help solve the different
problems of the daily life of the human being. From this idea, Colombia, from the
predisposition of the Andean Community, has begun with the adhesion of some
international norms to support a responsible use and development of AI in its territory,
however this does not fail to show that rights and freedoms of its citizens.

That is why, from the analysis of the social movement towards AI (Socio-legal Research)
and from the impetration of the study of the different international standards
(inductive-deductive), the fundamental bases that Colombia must consider now are
established. to carry out its own standard integrates in artificial intelligence issues.
Thus, from the understanding of the different rights committed in Colombia with the
use and development of AI, as well as with the constitutional analysis that was carried
out regarding the values, principles and dogmas regarding AI. It is concluded that
Colombia has to base its future legal framework for AI on the principles established by
the OECD and adhered to by the Colombian State through Conpes 3975, but at the
same time it must frame its regulatory understanding in the search for protection
fundamental rights such as privacy, non-discrimination, human dignity, data protection,
etc.; where in turn it must create a control entity capable of seeking adherence to
international standards that support the position in question, but in turn have an audit
regarding the development of AI and in which spaces its use should be provided .

Introducción:

La inteligencia artificial desde el año 2011 que se declara la cuarta revolución industrial,
ha sido la tecnología auge que al hoy sigue siendo una incógnita desde la perspectiva
normativa. Asimismo, la IA se considera como un resultado evolutivo que se desprende
de lo que nos dejó cada revolución industrial vivida en el planeta tierra. Es así, como el
concepto revolución se empieza a considerar como un término de avance desde el
enfoque de rompimiento de ideas, nuevas tecnologías y cambios sociales que nos
adentran a una nueva etapa en el mundo.

Es por ello, que decimos que a partir del 2011 el mundo se rompió y pasó a una nueva
etapa donde la tecnología IA paso a dominar al mundo y a ser un aspecto a regular por
todos los países del mundo incluyendo a Colombia. Por esta razón, las organizaciones
internacionales como la ONU, OCDE, UE y Comunidad Andina han visto la necesidad no
solo de regular la inteligencia artificial sino también de promover un desarrollo y uso
responsable de la misma.

Ante lo anterior, la ONU ha sido en el transcurso histórico el ente internacional en decir

que a la IA no hay que verla como un enemigo si no como una herramienta beneficiosa
para la humanidad, que desde su desarrollo y uso puede ayudarnos a solucionar las
diferentes problemáticas de la sociedad. Sin embargo, desde el apadrinamiento de la
ONU con la IA, está siempre ha sido clara en decirle a los países del mundo que si
quieren usar y desarrollar la inteligencia artificial, es necesario que cada país e incluso
Comunidades internacionales Continentales creen regulaciones en materia de IA.

De lo anterior se desprende nuestro tema de investigación, donde desde un enfoque

socio jurídico, es decir desde el movimiento de la sociedad con la IA, entendiendo que
desde su avance tecnológico y uso puede llegar a comprometer diferentes derechos
fundamentales y sociales del ser humano, se debe de crear una base normativa que si
bien proteja estos derechos no prohíba el uso y desarrollo de la inteligencia artificial en

5
territorio colombiano. Asimismo, es importante resaltar el método inductivo-deductivo
de nuestra investigación, el cual gracias a este los juristas encargados de generar el
futuro marco normativo en materia de inteligencia artificial deberán apoyarse o mejor
adentrar normas internacionales para poder generar las propias.
Es así, que nuestra investigación comienza por identificar primeramente los
lineamientos relevantes en materia jurídica de la IA, por esta razón se parte por
entender la postura de la ONU con la IA y como ha ido evolucionando, luego se analizan
los acuerdos internacionales pactados en el mundo donde se destacan los principios
éticos de la IA, la convención de Montecarlo y el acuerdo de París que si bien no es
100% en temas de IA es el primer paso donde se destaca esta tecnología como un
elemento de ayuda que en este caso es en temas de cambio climático. Para después,
entender el desarrollo normativo de la inteligencia artificial en la Unión Europea, donde
se destaca la adhesión de los principios éticos en materia de IA y la creación de la
primera norma de esta tecnología que tiene como objetivo la regulación del uso y la
transparencia del desarrollo de esta.

Lo anterior es la puntada para entender como en la Comunidad Andina se ha venido

desarrollando el marco internacional de la IA, donde evidenciamos que ha comparación
con la UE el desarrollo es casi nulo, donde solo se destaca el Plan de Desarrollo Digital
(2018-2025) donde los países que conforman esta comunidad destacan la importancia
de adentrar esta normativa y de desarrollar un marco normativo con la ayuda de lo ya
planteado internacionalmente por organizaciones como la OCDE, Banco Interamericano
de Desarrollo, UE, ONU, OIT, etc.

Ante esta recomendación de la Comunidad Andina, donde Colombia tiene gran

importancia, el Estado Colombiano toma las riendas en Latinoamérica para ser el primer
país en adherir los principios éticos para el uso y desarrollo de la IA en Suramérica,
generados por la OCDE y la UE, con el objetivo de promover el desarrollo y el uso de la
IA en su territorio, y a su vez comenzar a ser un pilar importante a seguir para los demás
países cercanos.

No obstante, lo anterior es el paso donde se evidencia que cada uso diferente que se le
da a la IA en Colombia por medio de analogía normativa, como lo ha hecho los jueces
de la rama judicial o incluso los diferentes profesores en el ámbito académico
acrecienta la vulneración de derechos fundamentales como la no discriminación y la
dignidad humana.

Finalmente, para proponer las principales características de un marco normativo de la

inteligencia artificial es necesario adentrarnos al uso que Colombia le ha dado a esta
tecnología, que problemas puede ayudar a solucionar en territorio colombiano, que
normas tiene Colombia relacionadas con la IA y que derechos se comprometen con el
uso y desarrollo de la IA. Además, es importante resaltar que gracias a un análisis
constitucional desde los principios, valores y dogmas se llega a entender que la
constitución política colombiana permite el desarrollo de un marco normativo pero
acorde a una protección de dogmas y serie de derechos que hacen que el Estado
colombiano sea un garante con sus ciudadanos. Asimismo, se llega a concluir que
Colombia no tiene una norma clara y expresa en materia de IA, pero que si tiene una
normatividad que regulas aspectos importantes de la inteligencia artificial como la
protección de datos, no obstante esto es casi nulo o mejor son pañitos de agua tibia
para la magnitud que debe sostener un marco normativo de la IA en Colombia, el cual
no solo tiene que regular su uso y desarrollo, si no también crear un ente encargado de

6
 analizar la adhesión de normas internacionales que apoyen le ley de inteligencia
artificial.

Tema de Investigación y planteamiento del problema.

Tema: Inteligencia artificial, ética y regulación jurídica.

Planteamiento del problema:

Para dimensionar lo que al hoy en nuestra sociedad es la inteligencia artificial (IA), es

importante adentrarnos no solamente en su definición, sino también en como esta se ha
vuelto necesaria para la humanidad e incluso como ha venido supliendo oficios o tareas
que antes podía realizar el ser humano.

Cuando estamos hablando de inteligencia artificial hacemos referencia a una solución

que se ha convertido en problemática en algunos aspectos que ha traído la globalización.
Así mismo, Kaplan en su libro “La inteligencia Artificial”, comenta que definir este
concepto es de gran complejidad por los diferentes inequívocos términos que de esta se
desprenden.

Sin embargo, como seres humanos que nos mantenemos moviendo en una sociedad que
en la actualidad está inmersa o vive para la tecnología, es importante entender a esta
como una habilidad que adquieren algunas maquinas por medio de algoritmos para
adquirir capacidades propias del ser humano como el razonamiento, aprendizaje,
creatividad y planeación.

Debido al movimiento social, como también a lo dispuesto por la ONU y el Banco Mundial
de Desarrollo que en temas normativos han desarrollado acuerdos y principios éticos
para que un Estado incluya desde su bloque de constitucionalidad la implementación de
la inteligencia artificial, se ha logrado reflejar que en la actualidad muchos países
incluyendo el nuestro se han puesto en la tarea de evolucionar a como el medio ambiente
(mundo) avanza, adjudicando nuevas tecnologías en materia de las actividades cotidianas
del hombre, incluyendo fuentes de empleo que han sido sustituidas por inteligencia
artificial.

Ahora bien, en el ir y devenir de sed de avance en nuestro país, es importante resaltar

que este ha sido uno de los pioneros en materia de tratar de constituir un marco
normativo que regule con mayor fuerza la temática que se está planteando tal cual como
lo menciono la ex ministra de las TICS del Gobierno Duque en su momento expresando
lo siguiente:

“Colombia es un país que está llevando la delantera en materia de Inteligencia Artificial

en América Latina. Tenemos avances, no solo con el Conpes de Transformación Digital,
sino que además estamos implementando políticas que son una realidad, entre ellas las
regulaciones en Infraestructura de Datos y en seguridad digital. Estamos dejando
implementadas políticas que esperamos tengan continuidad” (Valderrama C (Exministra
de la TICS), 2022)

7
 Es importante resaltar que el esfuerzo de los países latinoamericanos o mejor de la
Comunidad Andina en implementar este tipo de tecnología ha sido lento a comparación
con la Unión Europea que desde hace más de una década ha ido implementando la IA y
dándole poco a poco un marco jurídico que la regule.

De lo anterior se desprende que Colombia en los últimos años ha comenzado a seguir las
diferentes recomendaciones que la Unesco, ONU, Banco Interamericano de Desarrollo y
los diferentes organismos internacionales han realizado con respecto al tema de la
inteligencia artificial (IA) y el avance que ha tenido en nuestro territorio.

Aunque, es cierto y es comprobable que desde el año 2019 en específico con la

aprobación del documento Conpes de transformación digital se comienzan a dar pasos
gigantes con respecto a adaptar políticas en temas de inteligencia artificial, con la
finalidad de enfrentar los retos que propone la cuarta revolución industrial. Es
evidenciable, que al hoy aún no existe una regulación seria, jurídica e incluso
constitucional con respecto a este tema, lo cual hace que no se comprenda hasta donde
es el alcance jurídico de los actos de la IA, teniendo en cuenta que en el hoy los modelos
de esta inteligencia interactúan con los humanos teniendo una autonomía relativa que
en momentos parece ser absoluta.

En la actualidad, en nuestro país con respecto a la IA y su marco normativo, solo existe la

adhesión de principios éticos, pero se carece de una norma seria que logre atender todo
lo concerniente con la inteligencia artificial.

A pesar de estos vacíos normativos que existen con respecto al tema de debate,
diferentes empresas tanto del sector público y privado e incluso la misma rama judicial
han venido utilizando esta tecnología aferrándose a principios, postulados y derechos
constitucionales que la Carta Magna brinda. Dentro de estos aspectos constitucionales
con los que defienden su utilización, se destacan el respeto de la propiedad privada, la
autonomía empresarial y la libre unión de realizar empresa como también el
cumplimiento de los fines del Estado que se encuentran en el segundo artículo
constitucional.

Un gran reciente ejemplo sobre la utilización de este tipo de tecnología en nuestro país,
lo dio el Juez Primero Laboral Del Circuito de la ciudad de Cartagena, donde utilizo el
aplicativo https://chat.openai.com/auth/login el cual es un chatbot de inteligencia
artificial que da conceptos jurídicos con respecto a situaciones de la vida real, para
brindar sentencia de tutela del proceso bajo radicado 2022-00459-011. Frente a esta
situación el juez que profirió la sentencia, respaldo la utilización de la IA desde lo
promulgado en la ley 2213 del año 2022, debido a que esta tiene por objeto la utilización
de las TICS en los procesos judiciales.

Con lo expuesto anteriormente, se evidencia que existen diferentes razones que llevan a
que los doctrinantes del derecho e incluso el legislador comiencen a dar pequeños pasos
que ayuden a determinar la principales características que debe contener un marco
normativo de la inteligencia artificial en Colombia, debido a que esta no se puede regular
solo por principios éticos brindados por entidades internacionales como el Banco
Mundial de Desarrollo o por analogías que se brindan con postulados constitucionales o

1
Sentencia de Tutela, Referencia Rad: 2022-0045-901. Accionante: Salvador Espitia Chávez. Accionado:
Salud Total EPS. M.P: Juan Manuel Padilla Garcia.

8
 normas que en pocas palabras comienzan a ver viable la utilización de la IA, pero que en
realidad no brindan parámetros estrictos y serios en la materia de debate.

Por lo cual, se desprende la importancia de desarrollar un marco normativo el cual se

debe desprender desde el pensamiento Kelsiano o positivista, el cual permita en su
momento dado prevenir y mitigar conflictos legales e incluso sociales con la IA, donde
este mismo se debe de encargar de delimitar su personalidad jurídica si fuera el caso,
atributos de personalidad en caso de considerarla persona desde el marco civil y
comercial, todo lo relacionado con temas de riesgo, protección de datos y el régimen de
responsabilidades que se le deben de aplicar a la misma.

Objetivos de la Investigación.

General: Determinar las principales características que debe contener un marco

normativo de la inteligencia artificial en Colombia.

Específicos:
- Identificar los lineamientos jurídicos relevantes en materia de inteligencia
artificial (IA) para el desarrollo de la misma en Colombia.
- Proponer las principales características que debe contener el marco normativo
de la inteligencia artificial en Colombia.

Metodología.

El derecho como ciencia social es menester precisarla desde la perspectiva evolutiva del
avance social y los acontecimientos que suceden dentro de ella, es decir, que es la
sociedad la que va a determinar en qué momento el derecho debe evolucionar o mejor
comenzar a regular los nuevos comportamientos que el ser humano dentro de su
movimiento social ha empezado a realizar. Es por ello por lo que inicialmente se plantea
una metodología de tipo socio jurídica, la cual desde el pensamiento de (Arango, Pajón
2013) tiene como objeto el estudio de la realidad de la sociedad en la medida en que se
analiza los diferentes acontecimientos sociales con la incorporación del método
científico, en el caso de esta investigación los acontecimientos sociales que son de
importancia para el derecho en materia de regulación, se vienen dando más o menos 10
años con respecto al uso de la inteligencia artificial todo puesto que esta se ha venido
implementando tanto en el ámbito público como privado dando como consecuencia una
respuesta de la ciencia social del derecho en materia de regulación de su uso, privacidad,
libertada personal y de expresión, igualdad ante la ley y libertad de trabajo, ya que la IA
se ha venido utilizando en el ámbito financiero, de seguridad nacional, resolución de
problemas de alta complejidad y en oficios que realizaba el ser humano, etc.. Por otro
lado, desde un pensamiento menos amplio desde la perspectiva de Sensu, este tipo de
investigación se centra en el estudio del comportamiento del ser humano con respecto a
las normas con la finalidad de verificar su aplicabilidad en el derecho.

Por otro lado, desde la perspectiva de (Giraldo, Ángel 2012) se habla de la investigación
socio jurídica cuando el tipo “de problema debe definirse y se entiende que la solución al
problema se encuentra en las fuentes formales del derecho; por el contrario, si la solución
al problema se pudiera encontrar fuera del ordenamiento jurídico mismo, como desde una
perspectiva filosófica, por ejemplo, la referencia sería investigación socio jurídica”.

9
 Asimismo, es importante adentrarnos a que nos encontramos frente a una modalidad
inductivo-deductivo, el cual según (Dávila 2006) con este se busca desde la observancia
de la naturaleza, reunir datos y realizar generalizaciones a partir de lo analizado, donde
para este caso es importante observar los ámbitos de aplicabilidad de la IA, sus
consecuencias de uso y que problemas genera su utilización con respecto a la
ponderación con los derechos de la sociedad. Desde el pensamiento de (Bacon 1561-
1626) las observaciones que se realizan en este tipo de investigación se hacen a partir de
fenómenos que se reflejan en el mundo exterior o mejor en el que el ser humano
interactúa, para después realizar inferencias de estos. Desde la perspectiva de (Charmaz,
2006) el método deductivo se centra en realizar análisis desde afirmaciones generales
para llegar a afirmaciones particulares desde la utilización de la lógica, es decir, que en
este tipo de metodología consiste en “inferir soluciones o características concretas a
partir de generalizaciones, principios, leyes o definiciones universales. Se trata de
encontrar principios desconocidos, a partir de los conocidos o descubrir consecuencias
desconocidas, de principios conocidos”. Como se logra evidenciar, este método nos
permitirá que, desde un análisis positivista, busquemos dentro de la constitución, la ley,
principios, bloque de constitucionalidad y jurisprudencia caracteres que nos permitan
brindar las principales características que debe de contener un marco normativo de la IA
teniendo en cuenta una ponderación o mejor conflicto de derechos.

Los métodos inductivos-deductivos son un complemento, desde la perspectiva que desde

el análisis de los diferentes fenómenos sociales que en el ser humano vive en la actualidad
como para este caso es la búsqueda de características para la implementación o una
posible creación de un marco jurídico en materia de la inteligencia artificial, este tipo de
metodología desde la deducción de la lógica ayuda a la posible creación, regulación,
principios y valores que puede contener un marco normativo.

Marco Teórico.

MOMENTO HISTORICO:
El avance social es fundamental para que el derecho subsista o mejor aún entienda el
comportamiento en el que se centra la sociedad en un momento histórico determinado.
En la actualidad, el momento histórico en el que nos encontramos es un debate donde
para algunos es la tercera revolución industrial y para otros es la cuarta revolución
industrial.

Así pues, tomaremos la inferencia de algunos autores y vamos a partir desde la premisa
que el momento actual en que se mueve la sociedad es la cuarta revolución industrial, tal
cual como lo ha mencionado (Granell 2016) donde afirma que nuestro momento
histórico es la cuarta revolución historial debido a que la internet, la IA y la robótica son
aquellos componentes que están modificando el comportamiento humano desde sus
rutinas y ejercicios que realiza en su vivir diario. En pocas palabras estamos en el punto
de la historia de la humanidad que nos reflejaban películas de hace más de 15 años donde
se logra evidenciar que poco a poco el ser humano está conviviendo con los robots y la
IA.

La cuarta revolución industrial, con sus innovaciones ha traído en su sed de avance la

automatización e incluso algo que llamamos inteligencia artificial, la cual se puede
denominar como aquel conjunto de algoritmos que permiten que un robot pueda realizar

10
 tareas predispuestas o que realizaba antes el hombre, sin embargo, Santos (2017) la
define como un proceso cognoscitivo determinado por el hombre y dirigido por este
mismo. Por otro lado, Kaplan (s. f) la determina como un sistema informático de
interpretación y aprendizaje de datos para realizar tareas o conseguir metas concretas.

CONCEPTO DE INTELIGENCIA ARTIFICIAL (IA) Y EL DERECHO:

El concepto de la IA presupone o tiene inmersamente en él, la determinación inteligencia,

esta desde la concepción de la Real academia que es citada por Santos (2017) la define
como: 1. Capacidad de entender o comprender; 2 Capacidad de resolver problemas; 3
Conocimiento, comprensión, acto de entender; 4. Habilidad, destreza y experiencia. Esto
supone, que del ejercicio de esta se pueden producir diferentes actos jurídicos que
conllevan el ejercicio de la capacidad, excesos de vicios que pueden llevarnos o llevar al
jurista a realizarse las siguientes preguntas:

1. ¿Qué consecuencias jurídicas tiene los actos de la inteligencia artificial cuando son
contra legem?
2. ¿Los actos que realizan la IA (inteligencia artificial) son actos jurídicos que producen
efectos jurídicos?
3. ¿La inteligencia artificial goza de autonomía de voluntad y su mal actuar genera
responsabilidad civil contractual y extracontractual?
4. ¿Quién es el titular del derecho de la inteligencia artificial y de sus productos?
5. ¿Quién responde penal o civilmente por el mal actuar de la inteligencia artificial?

De la misma manera, es importante adentrarnos a entender que el debate que se plantea

sobre la necesidad de construir un marco jurídico de la IA en nuestro territorio, surge
como una consecuencia del internet, debido a que es este el que ha facilitado que el
hombre interactúe con este tipo de inteligencia como por ejemplo desde la utilización de
Chatbot, los cuales son utilizados por la mayoría de las empresas con la finalidad de
agilizar y tener un mejoramiento en la atención al cliente. Con respecto a este punto,
(García 2012) menciona lo siguiente:

“Mucha culpa de todo esto la tiene internet, cuya gran cantidad de información facilita el
acceso a grandes cantidades de datos analizables y a su vez demanda de nuevas técnicas
que permitan manejar tales cantidades de información. Google es un ejemplo claro, cuyo
buscador es capaz de ir aprendiendo de los clics de los usuarios para mejorar los
resultados de las búsquedas (p.7).”

Lo anterior, refleja que dentro de la IA y en el manejo de ella se procesan demasiados

datos e incluso están en juegos estos mismos, pero este solo es uno de los retos que tiene
el derecho en temas de regulación para una protección de datos y una buena utilización
de la IA. Sin embargo, el foco del problema se refleja en mayor sentido desde el punto de
vista del hecho que la tecnología, la inteligencia artificial se encuentran en constante
avance, evolución y la sociedad la está acogiendo de una manera tan rápida que en una
analogía o mejor en una realidad es un estado de consumismo donde el hombre quiere
cada vez más utilizar este tipo de tecnología para sentirse en el movimiento actual de la
sociedad, es por ello que al derecho no le ha quedado otra opción que incorporarse con
políticas para tratar de regular los actos y los derechos que se encuentran en juego al
momento de utilizar la IA, (González, 2018) menciona que:

11
 “Al derecho no le queda otra opción que incorporarlo también, pero como todo esto
es tan cambiante se va quedando obsoleto y va dejando vacíos jurídicos que más
tarde se convierten en problemas graves para la sociedad, como por ejemplo el tema
de la privacidad y el uso de los Drones, de la propiedad intelectual de libros, canciones y
demás que están colgadas en internet, el tráfico de datos personales en las redes sociales,
incluso contratos que las personas aceptan sin saber a cabalidad las consecuencias de los
mismos.” (González, 2018 pág. 4 y 5)

Es evidente, que en temas de regulación el derecho se está quedando corto y se evidencia

que la sociedad está en un momento donde necesita que esta ciencia social se adentre
en un debate de formular políticas públicas que promuevan y que regulen la forma de
utilización de la IA. Entendiendo por ejemplo que en Colombia desde hace más o menos
10 años se ha venido utilizando este tipo de tecnología en el sector comercial real y
financiero.

Ahora bien, desde la preocupación de organismos internacionales como a la vez de los

juristas del mundo, desde la Unión Europea se ha venido debatiendo que los diferentes
países del mundo se encuentran en la necesidad de comenzar a proyectar reglas en
materias de la IA, la robótica y de los aparatos pilotos manejados a distancia con el
objetivo de evitar conflictos futuros.

LA IA EN COLOMBIA:

En Colombia, desde hace más o menos 20 años ha comenzado a barajar e incluso utilizar
la IA como una forma de desarrollo para preparar a lo que es y seria la cuarta revolución
industrial. De la misma manera, el legislador no se ha preocupado por generar políticas
pertinentes al manejo de la IA y las diferentes o posibles regulaciones a problemas que
esta pueda generar. Aun así, con respecto a una de las problemáticas que genera la IA
que es el tema de datos, Colombia por medio de la ley Estatutaria 1266 de 2008, Ley
Estatutaria 1581 de 2012 y el Decreto 1377 de 2013 ha dado los primeros pasos con
respecto a protección y manejo de datos.

Lo anterior, son pasos pequeños con respecto al tema de la inteligencia artificial y su

regulación debido a que el ordenamiento jurídico no solo debe encerrarse con el tema
de la protección y manejo de datos, regulación de propiedad industrial y derechos de
autor el cual es regulado por medio del Decreto 1474 de 2002. Por el cual se promulga el
Tratado de la OMPI, Organización Mundial de la Propiedad Intelectual, sobre Derechos
de Autor; sino que debe importarle también hasta qué punto los actos jurídicos de la IA
son éticos, en qué momento generan consecuencias jurídicas, quien responde a estos
actos y hasta qué punto habrá un equilibrio en la mano del trabajador humano y la mano
del trabajo artificial para que no existan problemas sociales sin negarnos al avance.

De lo anterior se desprende que, la única política seria de inteligencia artificial en nuestro

país es en el 2019 tal cual como lo señala Para Armando Guio, investigador afiliado del
Berkman Klein Center de la Universidad de Harvard, donde comenta lo siguiente: “con
esto ojalá pasemos a un punto de ser consumidor y empecemos a desarrollar tecnología”
incitando que no solo ahora el reto del legislador es regular el consumo de esta si no
también comenzar a buscar ideas de fomentar el desarrollo de esta y bajo que
parámetros legales se hará.

12
 Asimismo, Santiago Pinzón, vicepresidente de transformación digital de la ANDI señala
“estas nuevas tecnologías ayudan a que se tomen mejores decisiones, mejores políticas y
con mayor eficiencia.”

Por lo cual, ahora la pregunta es ¿Hasta qué punto se encuentra el marco normativo de
la IA en Colombia? ¿Cuáles son sus características? Ante estas dos preguntas podemos
indicar que en este tema hace falta mucha tela por cortar, ya que incluso la exministra de
las TICS en estas palabras da a relucir lo que tenemos normativamente frente a este tema:

“Colombia es un país que está llevando la delantera en materia de Inteligencia Artificial

en América Latina. Tenemos avances, no solo con el Conpes de Transformación Digital,
sino que además estamos implementando políticas que son una realidad, entre ellas las
regulaciones en Infraestructura de Datos y en seguridad digital. Estamos dejando
implementadas políticas que esperamos tengan continuidad” (Valderrama C (Exministra
de la TICS), 2022)

RETOS NORMATIVOS DE LA INTELIGENCIA ARTIFICIAL:

Es importante delimitar cuales son los retos normativos que se pueden o mejor que se
avecinan con la utilización de este tipo de tecnología, donde encontramos los siguientes:

1. En primer lugar, podes encontrar que el primer reto que se tiene ante este tipo de
tecnología es desde la utilización de robots inteligentes, debido a que estos en la
actualidad operan bajo instrucciones humanas para realizar tareas automáticas y con
grados de complejidad altos (Santos 2017). Este reto normativo se centra más que
todo es en que se debe llegar a una definición de robot, desde el precepto o mejor
desde la polémica si estos pueden llegar a ser conscientes y generar sentimientos.
2. El segundo reto que se tiene con la IA es en los temad de ciberseguridad ya que esto
desde hace unos años se ha venido viendo como un derecho que tiene todo
ciudadano y de una obligación por brindarlo. Desde la perspectiva de (Santos 2017)
el tema de la ciberseguridad gira en torno a la confidencialidad, integridad y la
disponibilidad.
3. El tercer desafío surge con respecto a la responsabilidad de las decisiones, actos u
omisiones donde (Tamayo 2006) menciona que: “El alcance de esta responsabilidad
incluye el cumplimiento de obligaciones concretas, ya sea que se hayan adquirido de
manera voluntaria, o que sean impuestas por norma legal; quien incumple este deber
general, incurre en la obligación de indemnizar los daños causados”
4. El cuarto y último desafío gira en torno a la naturaleza jurídica con los robots, desde
la perspectiva que no se sabe si estos se pueden vincular a las categorías de tipo de
personas de nuestro ordenamiento jurídico los cuales son: Natural o jurídica o en su
defecto si estos son considerados mejor objetos o animales. Con respecto a esto
(Puyol 2018) ha afirmado que “que se está aportas de una nueva figura llamada
“persona electrónica” que se encuentra en un punto intermedio entre las físicas y las
cosas”

Por otro lado, es importante recalcar que a pesar de que ya definimos cuatro puntos importantes
con respecto a los retos del derecho con la inteligencia artificial. Se debe aclarar, que la utilización
de este tipo de tecnología trae consigo unos riesgos con respecto a la privacidad, la libertad
personal, la libertad de trabajo y la seguridad nacional.

13
IA Y PRIVACIDAD DE LIBERTAD PERSONAL: Los usos que en los últimos tiempos de IA tiene la gran
posibilidad de afectar la privacidad y la libertad personal, donde como ejemplo podemos colocar
la utilización de esta tecnología en la solución de problemas de alta complejidad, ciudades
inteligentes y temas de automatización (García Gómez). En el sector público, más que todo la IA
se utiliza en el ámbito de los organismos de inteligencia y de justicia para combatir el crimen
desde lo que se llama reconocimiento facial. Este último uso que se menciona es una caminata al
borde del filo de un abismo, debido a que esta situación pone en riesgos los derechos humanos
y las libertades civiles.

LA IA Y LIBERTAD DE TRABAJO: En este ámbito, las aplicaciones de la IA se relacionan con la

automatización de diferentes oficios que normalmente realizaba el ser humando, debido a que
esta situación está cambiando la naturaleza del empleo y las condiciones de trabajo en diferentes
sectores o gremios. Menciona (García Gómez) que el temor que se tiene con los procesos de
automatización de labores de empleo en ciertas áreas los cuales serían reemplazados por robots
inteligentes siempre será un tema de debate con respecto a la IA.

Marco jurídico

Para comenzar a determinar un marco normativo que permita la creación o el desprendimiento

de normas que tengan como finalidad la regulación de la IA, desde el pensamiento positivista que
es el que tomaremos como referencia, es importante determinar desde la constitución, le ley,
decretos, tratados y principios las normas que nos permitan crear un compilado jurídico en el
tema de debate.

Desde el marco constitucional, entendiendo que la constitución como lo expresa su art. 4 es la

norma de normas y como principio la ley no puede ir en contra de ella. Dentro de nuestra carta
magna se logra evidenciar diferentes artículos que, desde el punto analógico y analítico,
permiten la creación de una normatividad que sea capaz de regular la inteligencia artificial
entendiendo además los retos que se desprenden de esta, al momento de intentar regular un
avance tecnológico que para la ciencia social del derecho va con una ventaja considerable con
respecto al avance normativo en nuestro Estado.

Desde la constitución política Colombiana del año de 1991 (C.P), se logra determinar que
Colombia tiene unos fines esenciales como Estado, los cuales están determinados en el artículo
2 de su Carta magna donde se hace referencia a “servir a la comunidad, promover la
prosperidad general y garantizar la efectividad de los principios, derechos y deberes consagrados
en la Constitución; facilitar la participación de todos en las decisiones que los afectan y en la vida
económica, política, administrativa y cultural de la Nación; defender la independencia nacional,
mantener la integridad territorial y asegurar la convivencia pacífica y la vigencia de un orden
justo” es decir, que Colombia como estado tiene un fin de desarrollo de economía,
administración y orden que permiten desde estos tres elementos señalados inferir que la IA en
cierto modo es un fin que el Estado debe regular para que esta en su sed de avance y utilización
no pueda llegar a colocar en riesgo el Bienestar de su sociedad, ya que desde el pensamiento
Kelsiano y doctrinal el artículo 2 de la C.P se puede resumir con la búsqueda del bienestar.

Por otro lado, desde nuestra norma suprema se protege como derecho de primera generación
o fundamental desde su art. 15 la intimidad personal, familiar e incluso al buen nombre y este
mismo mandato constitucional obliga al Estado al respeto de este derecho y a hacer respetar
esta situación innata del hombre, la cual con la utilización de la IA corre riesgo desde la filtración
de Datos. De la misma manera, es importante mencionar que desde diferentes instituciones
educativas en los últimos años se ha venido enseñando y atrayendo el entendimiento de la

14
inteligencia artificial con el objetivo de estar al avance paralelo con la cuarta revolución
industrial, es por esta razón que se ve inmerso el art 27 de la norma de normas, puesto que es
necesario que el Gobierno desde sus rama legislativa se adentre a crear normas que permitan
determinar el alcance de enseñanza de la IA, pero a su vez que proteja la investigación de esta
para futuros desarrollos en nuestra sociedad.

Asimismo, desde los derechos que se encuentran consagrados en la C.P, el art 38 menciona que
“Se garantiza el derecho de libre asociación para el desarrollo de las distintas actividades que las
personas realizan en sociedad.” Donde la investigación, el uso y el desarrollo de este tipo
tecnología se encuentra protegido debido a que es una actividad que realiza un conjunto de
personas, la cuales se encargan de crear, utilizar, modificar, investigar en incluso demostrarnos
los riesgos que se evidencian con este tema que para el ser humano cada vez es más común en
su vivir diario.

Con respecto a la protección de derechos de las personas que en nuestro territorio han llegado
a desarrollar o a crear modelos de inteligencia artificial, estas se encuentran amparadas por el
art 61 de la C.P, donde este menciona que “El Estado protegerá la propiedad intelectual por el
tiempo y mediante las formalidades que establezca la ley”, pero a su vez desde el campo legal
no se logra evidencia una norma con carácter de ley que permita la facilidad de protección y
creación desde el concepto de “invención” de este tipo de tecnología.

En la búsqueda de fomentar el desarrollo científico como lo menciona el art 71 de la C.P con el

cual se puede hablar de la igualdad de la IA con la sociedad, es importante mencionar que el
Estado debe ponerse en la búsqueda desde el campo legal de encontrar que el avance de la IA e
incluso de la tecnología en general, no sea una constante de desigualdad con las personas que
se encuentran en su territorio desde la constante de vulneración de derechos que este
desarrollo pueda acarrear.

Entendiendo que el mandato constitucional desde su art 150 le brinda la facultad al congreso
de la república de hacer las leyes y que por medio de leyes estatuarias este debe de crear
normativas que permitan regular los derechos y deberes fundamentales de las personas como
lo avecina su art 152, esto refleja que debido a que la inteligencia artificial en algunos
momentos puede llegar a ser una constante de vulneración de derechos es obligación de una
rama del poder público ponerse a la búsqueda de cómo crear normativas para evitar que
suceda una vulneración de derechos tanto de las personas afectadas de la IA como para sus
creadores y individuos que utilizan este tipo de tecnología. Continuando con la búsqueda de
obligatoriedad del Estado en la búsqueda de una marco normativo de la IA, encontramos que el
art 200 núm. 1 sostiene que: “Corresponde al Gobierno, en relación con el Congreso: 1. Concurrir
a la formación de las leyes, presentando proyectos por intermedio de los ministros, ejerciendo el
derecho de objetarlos y cumpliendo el deber de sancionarlos con arreglo a la Constitución” lo
cual en pocas palabras determina que el ministros de las TICS como autoridad del ministerio de
las TICS, se encuentra en la obligatoriedad de presentar proyectos en pocas palabras que
ayuden a la utilización, creación y delimitación de las tecnologías como la IA.
No obstante, como se ha mencionado que la utilización de esta tecnología se da por medio de
analogía de mandatos que brinda nuestra constitución, diferentes empresas fundamentan su
utilización en el art 333 del mandato constitucional que menciona: “La actividad económica y la
iniciativa privada son libres, dentro de los límites del bien común. Para su ejercicio, nadie podrá
exigir permisos previos ni requisitos, sin autorización de la ley”, sin embargo, como no existe una
normatividad seria en temas de la IA y entendiendo que la actividad económica va en busca del
bien común, las empresas privadas de la sociedad colombiana justifican su utilización desde lo
postulado en al artículo en mención.

15
Siguiendo con el pensamiento positivista, después de evidenciar que mandatos constitucionales
permiten o justifican la creación de normas con respecto a la IA, las leyes que podemos
encontrar en nuestro Estado con respecto a este tipo de tecnología son:

1. Ley 1581 de 2012, la cual tiene como objetivo la protección de datos personales,
situación que en cierto modo la utilización de la IA pone en peligro y es un reto el cual
debe afrontarse con una nueva ley que mencione hasta qué punto la utilización de
datos de las personas está permitido.
2. Ley 2213 del 2022, la cual da los primeros pasos para que las TICS se puedan utilizar
dentro de los procesos judiciales y que ha sido pilar para que los jueces de la república
empiecen a utilizar chatbots para ayudarse a dictar sentencias o revolver problemas
como a su vez la utilización del metaverso en la realización de audiencias.
3. Ley 1341 del 2009, por la cual el Estado colombiano determino el marco general para la
creación y formulación de políticas públicas que ayudaran a regir el sector de las TICS,
como a su vez “su ordenamiento general, el régimen de competencia, la protección al
usuario, así como lo concerniente a la cobertura, la calidad del servicio, la promoción de
la inversión en el sector y el desarrollo de estas tecnologías, el uso eficiente de las redes
y del espectro radioeléctrico, así como las potestades del Estado en relación con la
planeación, la gestión, la administración adecuada y eficiente de los recursos,
regulación, control y vigilancia del mismo y facilitando el libre acceso y sin
discriminación de los habitantes del territorio nacional a la Sociedad de la
Información”(Art. 1, ley 1431 del 2009)

Asimismo es importante hacer referencia, que como se refleja el campo legal con respecto
al tema de investigación es poco, de ahí nace la necesidad de investigar cómo se puede
desprender un marco normativo de la IA, sin embargo es importante mencionar que en
estos momentos se encuentra en debate el proyecto de ley 354 de 2021 el cual fue
presentado el día 26 de octubre del año en mención, el cual tiene como objetivo establecer
los lineamientos de una política pública para el desarrollo, uso e implementación de la
inteligencia artificial.

Desde otro perspectiva, existe en nuestro país la aprobación de Conpes que permitan o
mejor que ayuden con la formulación de una política que permita la transformación digital e
inteligencia artificial, pero el único que existe es el número 3975, donde en pocas palabras
este es como el inicio para poder implementar políticas en el tema de la referencia y como
mencionó en su momento la ministra de las TICS del Gobierno del expresidente de la
república Ivan Duque Márquez este es el punto de partida para el inicio de una verdadera
transformación digital para el avance que requiere la cuarta revolución industrial en nuestro
territorio con respecto al mundo.

Para dar cumplimiento a lo firmado anteriormente, Colombia en la adopción de

recomendaciones por la Organización de las Naciones Unidas (ONU), se permitió crear un
marco ético para la inteligencia artificial que como lo dije el presidente Duque, el día que
brindó el anuncio de este es que “Colombia no se quede atrás y juegue un papel importante
o mejor protagónico en tecnologías como internet de las cosas, ciberseguridad, datos en la
nube e ingeniería genética. Queremos transitar ese camino y consolidarnos como el Silicon
Valley de América Latina" (Ivan Duque Márquez, 2021)

Resultados:

16
Capítulo 1: Lineamientos jurídicos relevantes de la inteligencia artificial.

¿Qué es la inteligencia artificial?

La inteligencia artificial, es uno de los grandes avances en el entorno tecnológico que ha

sido una consecuencia de las revoluciones industriales que se han vivido en la
humanidad. Específicamente este tipo de tecnología se descubre en la cuarta revolución
industrial, la cual se viene viviendo desde el año 2011.

Ahora bien, cuando hablamos de este concepto hay que verlo desde la perspectiva de
combinación de la creación de programas con autoconocimiento que son capaces de
obtener capacidades humanas para la solución de problemas o realización de oficios.

La real academia española, define la IA como: “Disciplina científica que se ocupa de crear
programas informáticos que ejecutan operaciones comparables a las que realiza la mente
humana, como el aprendizaje o el razonamiento lógico” 

Es por ello, que cuando nos encontramos hablando de la inteligencia artificial nos
estamos adentro a sistemas de cómputo o programas desarrollados por el hombre, que
tienen como finalidad la realización de operaciones lógicas complejas desde la obtención
de capacidades humanas con el fin de ejecutar y dar soluciones a situaciones del vivir
diario del ser humano donde se destaca el autoconocimiento.

El elemento del autoconocimiento de la IA es el más importante y es como el plus que

tiene esta tecnología a comparación de los sistemas simples que tienen capacidades que
puede realizar el hombre como EXCEL.

Cuando se hace referencia a este término, estamos evidenciando que a medida que la IA
realice una búsqueda sobre un conocimiento del hombre lo impetrara a su sistema y lo
utilizará cuando sea necesario.

La inteligencia artificial desde lo descrito anteriormente se puede intuir que esta tiene
tres elementos los cuales son:

1. Aprendizaje automático.
2. Aprendizaje profundo.
3. Aprendizaje por refuerzo.

Aprendizaje automático: Es la capacidad que tiene la IA de aprender desde datos y

acciones anteriores lo cual se da mediante algoritmos. Lo cual desde la observación y
profundización datos con el fin de buscar patrones que le permitan tomar las mejores
decisiones para la solución de una situación compleja del ser humano.

Aprendizaje profundo: Se puede tomar como un pequeño subconjunto que combina la

IA con el Machine Learning (ML) el cual se inspira con la estructura y función del cerebro
humano con las redes neuronales que se conectan entre si como una red.

Aprendizaje por refuerzo: Consiste en la toma de decisiones de manera secuencial

cumpliendo con objetivos.

17
 Los elementos de la IA contemplan diferentes formas de aprendizaje donde se evidencia
el automático el cual hace que este tipo de tecnología adquiera más conocimientos desde
su experiencia, pero a su vez nos determina que la inteligencia artificial esta
supremamente capacitada también para cumplir objetivos e ir adentrando aprendizaje
mientras se encuentra en el desarrollo del cumplimiento de diferentes metas que el
hombre le ha propiciado.

El concepto de inteligencia artificial comprende la combinación de dos términos que son

esenciales en el hombre que son el de “inteligencia” y “artificial”, el primero comprende
desde lo dispuesto de Vygotsky como una habilidad innata que tiene el hombre para
adquirir conocimientos, pensar y razonar sobre el medio en el que vive. Por otro lado, la
segunda noción que comprende la IA hace referencia a lo creado por el ser humano y no
algo natural que la naturaleza acarrea en el mundo.

Es por ello, que cuando hablamos de esta tecnología hacemos referencia a la inteligencia
que crea el ser humano por medio de algoritmos y programas informáticos que tiene la
capacidad de ayudar al ser humano en sus quehaceres diarios. Desde el pensamiento de
John McCarthy2 la IA era “la ciencia y la ingeniería de crear máquinas inteligentes,
especialmente programadas por computación inteligente”. Dicha computación
inteligente se origina por medio de algoritmos que le proporcionan la capacidad de
interpretación, decisión y resolución de problemas de forma autónoma ante las señales
que recibe.

Por lo tanto, la inteligencia artificial, se puede denominar como aquel conjunto de

algoritmos que permiten que un robot pueda realizar tareas predispuestas o que
realizaba antes el hombre, sin embargo, Santos (2017) la define como un proceso
cognoscitivo determinado por el hombre y dirigido por este mismo.

Características de la inteligencia artificial: Las características de la inteligencia artificial

desde los descrito por Santos (2017) son:

1. Imitación de la cognición humana: Una de las principales características de la IA es su

relación con la imitación al modo de pensar del hombre, ya que esta posee su propio
campo de estudio el cual es conocido como “Computación cognitiva”, el cual consiste
en el reconocimiento de patrones, la minería de datos y en el procesado del lenguaje
natural para simular el cerebro humano.
2. Automatización de procesos: Es una de las grandes cualidades que trae la inteligencia
artificial, ya que este tipo de tecnología permite que diferentes actividades
redundantes, largas y exhaustivas sean ejecutadas por máquinas o programas, en vez
de personas. Lo cual se brinda por medio de la automatización inteligente la cual
surge de la mezcla de la automatización robótica de procesos (RPA) y la inteligencia
artificial.
3. Nunca descansan: Esta característica que básicamente consiste en que la IA puede
funcionar las 24 horas de los 365 días del año, demuestra que este tipo de tecnología
no descansa y mucho menos se detiene; es por ello por lo que los programas
desarrollados por la IA o mejor denominado inteligentes, tienen la capacidad de
encontrarse en un constante avance de forma descomunal sin interrupciones.

2
John McCarthy, fue el primero en acuñar el concepto de Inteligencia Artificial, lo cual sucedió en la
Conferencia de Dartmouth celebrada en 1956.

18
 4. Es precisa: Desde lo escrito por Kaplan (s. f) sobre la IA, uno de los grandes auges
sobre esta tecnología se debe a la gran precisión que tiene para ejecutar tareas
indicadas por el hombre donde estudios del Banco Interamericano de Desarrollo han
indicado que su presión oscila entre el 95 y 99% lo cual dependerá del software que
utilice la IA.
5. Gestiona una enorme cantidad de datos: En este punto es importante hacer
referencia a lo que se conoce como el Big Data ya que, este es el que hace referencia
a la cantidad de volumen de datos. Es importante debido a que la IA es la encargada
de manejar los datos que propicia el Big Data, en pocas palabras el Big Data hace
referencia al combustible y la inteligencia artificial a la máquina que lo aprovecha.

Aspectos históricos de la IA:

Comenzar a desarrollar o mejor entender la historia de la inteligencia artificial, es importante

hacer un bosquejo de las cuatro revoluciones industriales que ha tenido el mundo alrededor de
su historia, debido a que los avances que atrajo cada uno de estos fenómenos es consecuente
con el acontecimiento que se encontraba finalizando. Es por ello por lo que se menciona que la
primera revolución dio al mundo la máquina de vapor, la segunda la electricidad y la masificación
de producción, la tercera el internet y la cuarta que es el periodo que estamos viviendo, está
desarrollando un tipo de tecnología capaz de suplir necesidades del hombre y de suplirlo en
algunos oficios donde la IA tiene menos margen de error que el ser humano.

Miremos antes que todo, que significa la concepción de “revolución industrial” la cual se
desprende básicamente del término “revolución”, que significa en pocas palabras o desde lo
expuesto por la Real Academia Española (RAE) “Cambio profundo, generalmente violento, en las
estructuras políticas y socioeconómicas de una comunidad nacional”3, por lo cual este se debe
entender desde la perspectiva de “Cambio “ya que esta terminología se asocia a la ruptura desde
la enmarcación de un antes y después de la historia de alguien, algo o de la humanidad en sí
misma. Este concepto desde sus inicios se implementó primeramente por Nicolas Copérnico en
la obra donde expuso el modelo heliocéntrico, que al hoy es un fundamento importante en la
astronomía.

Pero el uso de este concepto como lo definimos en las líneas iniciales del precepto anterior nos
lleva específicamente al ámbito de movilidad de las épocas del siglo XVII y XIX, donde son los
franceses los primeros en ilustrarnos que el concepto de revolución hace referencia al
rompimiento de lo común para generar nuevas ideas o cambios dentro del mundo, lo cual se da
cuando los burgueses se levantan contra las inclinaciones absolutistas en lo que se denominó la
“Revolución Gloriosa”. Esta nueva forma de ver este concepto en el momento histórico que
estamos describiendo solo era utilizado por grupos minoritarios o por círculos políticos e
intelectuales europeos que veían de una manera diferente la sociedad.

Aunque la historia de la humanidad nos menciona normalmente a las grandes potencias en sus
libros, es importante aclarar que Francia en las condiciones ideológicas y sociales que se
mantienen en la actualidad en algunos Estados del mundo es la autora intelectual. Es que fueron
los franceses como grupo social los primeros en popularizar la concepción de revolución, desde
la perspectiva de fomentar un movimiento social que demostrara grandes cambios sociales,
políticos e incluso culturares donde el fundamento neutral era presentar un mundo visto desde
la razón y de los saberes que se encontraban en desarrollo y desarrollados para el siglo XVIII. Es

3
Real academia Española (2023)

19
desde este punto de la historia, que se dejó de ver al este término como un simple sinónimo de
cambio sino desde la perspectiva política que motivo y que utilizaron los burgueses americanos
en sus revoluciones (1175-1783) y de los franceses en la revolución más determinante para el
mundo desde el ámbito sociológico y jurídico que fue la francesa (1789-1799)

Es así, como logramos brindar la evolución de un concepto que en el medioevo se utilizaba para
asimilar cambios en las diferentes disciplinas que conviven en el hombre, para entenderlo en un
sentido más amplio en la época moderna e incluso en la actualidad como un término político,
sociólogo e incluso jurídico que va a indicar un cambio irreversible de carácter social, cultural,
político, tecnológico y económico que imparten una ruptura entre el pasado, presente y futuro
que en la mayoría de las veces puede traer consigo actos violentos y traumáticos que marcan la
historia del hombre.

Primera revolución industrial:

La primera revolución industrial, en términos de espacio-tiempo se brinda en el siglo XIX

específicamente entre 1760-1840. Específicamente se desarrolló en primera medida en el
territorio inglés, debido a que para ese momento histórico Inglaterra se podía denominar como
la gran potencia mundial, todo puesto que en términos de industrialización, gobierno, producción
y desarrollo eran los más estables.

Así como este momento histórico tuvo diferentes historiadores y filósofos que defendieron este
proceso de avance de la sociedad, encontramos a su vez retractores o mejor estudiosos que veían
este proceso como un fomento de las desigualdades. Dentro de esta última categoría que
mencionamos encontramos dos personajes, que dentro del periodo de historia y pensamiento
han sido influyentes no solo en los modelos sociales sino de gobierno y de Estado dentro del
mundo actual, estos son Federico Engels y Karl Marx. Para estos dos, este periodo el cual fue tan
corto, pero a su vez generó un revolcón en el ámbito de vivir de las personas e incluso en las
relaciones laborales, para este par que hablan de lo que hoy se conoce como comunismo este
avance fue el crecimiento de la desigualdad de las personas en la sociedad y el generador de lo
que hoy conocemos como clases sociales fijadas o clasificadas dependiendo el capital que
manejaba o tenía el ser humano. Es por ello por lo que estos autores, además de mencionar que
la primera revolución industrial es la apertura de las desigualdades en el mundo, la otra lucha gira
en torno en el reemplazo de la mano obrera por maquinas industriales que además de aumentar
la producción, ayudaban a reducir costos al empleador, pero a su vez ayudaban a que la
explotación laboral se aumentara. Peemans, Jean- Philippe (1985) menciona que los
pensamientos de Marx y Engels se brindan debido a que estos consideraban a la fábrica moderna
como aquella que constituye un lugar privilegiado para la transformación de las relaciones de
explotación del trabajo, las cuales en su conjunto dentro de su término otras formas de
producción que permanecen vinculadas a la fábrica o coexisten con ella, pero no son eliminadas.

Ahora bien, aunque este periodo histórico tuvo dos retractores que en cierto modo ayudaron a
la creación de la clase social del proletariado al finalizar esta revolución industrial, es importante
recalcar que esta fue la cúspide para comenzar a mirar el mundo desde el ámbito de desarrollo
como lo es en la actualidad. Esta primera revolución, tiene como auge la creación de la máquina
de Vapor, pero esta trajo como consecuencias el desplazamiento de las personas a la ciudad,
creación de las clases sociales donde entre ella se destaca el proletariado, se da la finalización del
sistema feudal y se comienza la masificación de producción por medio de la implantación de
fábricas en las cuales la mano de obra era poco valorada e incluso el hombre se podía ver
explotado por los grandes capitalistas que eran y son dueños de las grandes industrias.

20
Segunda revolución industrial:

La segunda revolución industrial la cual se brinda en el periodo histórico de 1850 hasta el inicio
de la primera guerra mundial lo es el año de 1914. Muchos historiadores como Santos (2017) la
consideran como la segunda fase de la primera revolución industrial vivida en el mundo. Donde
de nuevo se tuvo como protagonista al Reino Unido, pero esta logró a expandirse en países como
Francia, Alemania, Bélgica, Japón y Estados Unidos.

Esta surge o se brinda gracias al gran invento que nos dejó la primera revolución industrial, lo cual
fue la máquina de vapor donde esta permitió la mejora de fuentes de energía, mejoras en la
fabricación y el transporte. Así pues, desde esta revolución es importante que comencemos a
determinar al mundo desde el concepto de potencias, donde las que surgen con este cambio
social y tecnológico son: Reino unido, Japón, Alemania y Estados Unidos. A su vez, para este
periodo se comienza a ver la explotación de recursos no renovables para obtener energía como
lo fueron el petróleo e incluso la implementación del gas; (Selva, Belén 2016) menciona que este
acontecimiento que termina con el inicio de la Gran Guerra se puede denominar como el
complemento de la primera revolución industrial, ya que este solo se basó en la masificación de
producción y en la mejora de tecnología descubierta.

Tercera y cuarta revolución industrial:

Adentrarnos a estas dos revoluciones industriales, es entrar a un mundo de lo desconocido donde

expertos incluso aun confunden cual es la revolución que estamos viviendo en la actualidad. Para
muchos, estamos en el punto de auge máximo de la tercera revolución tecnología que ha podido
apreciar la humanidad. Sin embargo, Klaus Schwab en el foro de economía mundial por allá en el
año 2011 fue el primero en atreverse a mencionar que ya nos encontrábamos viviendo la cuarta
revolución industrial.

Ahora bien, existe un camino delgado en lo que ha sido la tercera y cuarta revolución industrial.
Sin embargo, empezamos a hablar de la tercera revolución tecnológica, cuando el mundo
empieza a conceptualizar el concepto de “globalización”, que es en pocas palabras una apertura
de mercado, tecnología y un avance a la par del mundo en sí mismo. Se menciona que el periodo
o tiempo donde nos debemos ubicar para hablar de esta revolución es a mediados del siglo XX
donde esta se conocerá normalmente por el nombre de “Sociedad de la información” debido a
que el producto de esta es la mezcla de las nuevas tecnologías de la información y la energía
(López, Francisco 2016). Las bases en las que se funda este acontecimiento son en el desarrollo
de nuevas tecnologías de información y comunicación como a su vez la búsqueda del desarrollo
de energías renovables, es decir, que el objetivo es la comunicación de la sociedad y la protección
del medio ambiente. Es por ello por lo que podemos evidenciar diferentes invenciones como el
internet, la electricidad ecológica y las impresoras 3D (Rifkin, Jeremy 2017), lo cual genera que
esta gire en torno a cinco pilares los cuales desde lo dispuesto por (López, Francisco 2016) son:

“1. La transformación de las energías renovables; 2. Utilizar los edificios de cada continente en
microcentrales para generar energía renovable; 3. Expandir el hidrógeno y otras tecnologías de
almacenamiento en cada edificio, así como en toda la infraestructura para almacenar energía; 4.
Utilizar internet para transformar la red eléctrica a nivel mundial en una red de energía que actúe
como la conexión a internet y 5. Transición de los vehículos que utilizan combustibles fósiles hacia
los vehículos eléctricos enchufables y de celdas de combustible que pueden comprar y vender
electricidad ecológica mediante un sistema de red eléctrica inteligente, continental e interactivo”
(López, Francisco 2016)

21
Por otro lado, como un desprendimiento de lo que denominamos internet es importante
mencionar que la tercera revolución industrial trajo consigo los sistemas de programación
(microchip), la robótica y la nanotecnología, los cuales son los fundamentos o mejor son las
razones que dan como consecuencia el periodo actual que vivimos, el cual es la cuarta revolución
industrial.

Esta es el resultado de lo descrito de las tres grandes revoluciones industriales que hemos
explicado en acápites anteriores, ya que podemos definir a esta como el resultado del dinamismo
de las tecnologías y de la combinación de los diferentes sistemas digitales que han tenido como
objetivo la mejora de la calidad de vida del ser humano (López, Wilmer 2016). Es importante, que
dentro los grandes objetivos que se ha trasado el avance de esta tecnología “Estamos al borde de
una revolución tecnológica que modificará fundamentalmente la forma en que vivimos,
trabajamos y nos relacionamos. En su escala, alcance y complejidad, la transformación será
distinta a cualquier cosa que el género humano haya experimentado antes” (Klaus, Schwab)

Es por ello, que cuando nos centramos a hablar de esta revolución es importante tener en cuenta
cinco claves para entender un poco más este avance que con el pasar de los días va más rápido:

1. Alemania fue el primer país en establecer el desarrollo de este tipo de tecnología como
agenda en su gobierno.
2. Esta se basa en sistemas ciber físicos capaces de combinar infraestructura física con
software, sensores, nanotecnología y tecnología digital de las cosas.
3. El rol fundamental de esta revolución se basa en el internet de las cosas.
4. Los avances en temas económicos serán ampliamente beneficiosos, ya que, permitirá
agregar a la economía 14,2 billones de dólares en un periodo no mayor a 15 años.
5. Cambiará el mundo del empleo por completo y afectará las industrias por completo
(WEF, 2016)

Aunque, en cierto modo esto que mencionamos de la revolución actual se puede acercar como
a una extensión de la tercera revolución industrial, la aclaración de distinción para hablar de una
cuarta revolución industrial se da por “tres razones por las que las transformaciones actuales no
representan una prolongación de la tercera revolución industrial, sino la llegada de una distinta:
la velocidad, el alcance y el impacto en los sistemas. La velocidad de los avances actuales no tiene
precedentes en la historia… Y está interfiriendo en casi todas las industrias de todos los países"
(Klaus, Schwab). Como hemos venido mencionando, la diferencia entre la revolución 3.0 y la 4.0
se enmarca principalmente por la transición hacia nuevos sistemas que están construidos sobre
la infraestructura de la revolución digital (anterior) (Schwab), donde las tecnologías a relucir son:
la inteligencia artificial (IA), realidad aumentada, Blockchain, Big data, Machine Learning y la
robótica.

o Evolución de la inteligencia artificial en las Naciones Unidas.

El avance tecnológico que se brinda en occidente, se da gracias a la fomentación de las

invenciones que nos ha brindado las diferentes revoluciones industriales que han ido permeando
no solo el pensamiento del hombre, sino también su forma de vivir y ver la vida. Es importante
mencionar que comúnmente el desarrollo primordial se brinda en Europa y este normalmente
comienza a pasar fronteras con el pasar de los años no solo a América sino también a Oriente.
Como hemos evidenciado dentro de cada revolución industrial internamente con ella nacieron o
sucedieron en medio de sus periodos acontecimientos importantes como las dos guerras
mundiales, la revolución francesa, el desarrollo del derecho laboral y la seguridad social, etc.

22
Con los diferentes acontecimientos sociales que sucedieron en el mundo durante el espacio-
tiempo de finales de la primera y segunda revolución industrial, con la finalidad de mantener
mancomunidades de amistad entre la mayoría de los países del mundo, finalizando la segunda
guerra mundial por allá en el año de 1945 surge como una consecuencia de la más atroz y terrible
guerra de la humanidad la creación de la ORGANIZACIÓN DE LAS NACIONES UNIDAS (ONU).

Como hemos manifestado esta organización que en la actualidad aún persiste y ha sido la de
mayor influencia en la toma de decisiones de muchos países subdesarrollados en su forma de
gobernar y ver el mundo, se puede definir como: “Organización comprometida a mantener la paz
y la seguridad internacional, fomentar entre las naciones relaciones de amistad y promover el
progreso social, la mejora del nivel de vida y los Derechos Humanos” (Nieto, María)

Entendiendo que en la actualidad nos encontramos sumergidos en lo que denominamos el

mundo globalizado, lo cual ha permitido ha permitido que los avances tecnológicos de la tercera
y cuarta revolución industrial sean de una manera más rápida y que la mayoría del mundo
conozca, implemente y los adquiera por los diferentes mercados abiertos que se sostienen por
las relaciones que fomenta la ONU. Es importante también identificar que existen dentro de esta
organización que se ha dedicado desde su creación a fomentar la paz, proteger los derechos
sociales y el de fomentar la vida e incluso el progreso social, diferentes problemáticas que en
cierto modo no ha podido regular de la manera más oportuna posible.

Dentro de esas problemáticas, encontramos la transnacionalización, la multiplicidad de redes

transfronterizas no reguladas, el incremento del uso de la IA en el ámbito público y privado
nacional, internacional y transnacional (Drnas de Clément, 2022). La primera impresión que se
puede sostener sobre la relación de la inteligencia artificial y la ONU es que en pocas palabras por
los constantes avances que esta tiene constantemente en el movimiento social y tecnológico en
el que vivimos esta organización se está quedando corta desde el ámbito normativo y regulativo
de la utilización de este tipo de tecnología. Sin embargo, la realidad que refleja esta organización
desde su actuar es totalmente diferente, ya que, desde los diferentes desafíos que se están
presentando con respecto a la IA esta ha buscado mantenerse activa logrando destacarse en la
fomentación de la utilización de este tipo de tecnología gracias al Grupo de Expertos ad hoc de la
UNESCO sobre Ética de la IA y el Panel de alto nivel sobre cooperación digital de la Secretaría
General de la Organización. Esto en pocas palabras logra demostrar, que la organización de
naciones unidad tiene como objetivo primordial, aprovechar las diferentes iniciativas
tecnológicas que brinda el mundo ofreciendo una vía regulativa hacia los usos éticos de la IA en
el ser humano y en la preservación de la paz.

Ante lo dispuesto anteriormente, el secretario de la ONU António Guterres en diferentes

discursos ha mencionado que existe la necesidad de poder garantizar que la inteligencia artificial
en vez de verla como un enemigo que hay que atajar, debe volverse una fuerza benefactora que
ayude al desarrollo a países que se encuentren en vía de desarrollo o que tengan dificultades
complejas por sobrepasar en la actualidad, es decir, que aprendamos a convivir con ella y que a
su vez busquemos una regulación armoniosa para que el avance social no se atasque, pero que
este a su vez no sea un vulnerador de derechos humanos.

Dentro de esta gran organización, que en la actualidad la componen 193 Estados miembros en el
año 2015 se dio la creación el Mecanismo de Facilitación de Tecnología de las Naciones Unidas
(TFM) el cual fue creado en Addis Abeda con la finalidad de ser un apoyo de la implementación
de los objetivos de desarrollo sostenible (ODS) donde su función principal se ha basado en la
movilización de expertos dentro y fuera de las naciones unidas para promover los ODS a través
del pilar de la ciencia tecnología e innovación para los ODS (Foro CTI); y la Plataforma en línea
TFM como puerta de entrada a la información sobre iniciativas, mecanismos y programas de CTI

23
existentes, sirviendo como una “ventanilla única” de información sobre ciencia, tecnología e
innovación que puede contribuir a alcanzar los ODS, creando asociaciones y emparejamiento.
(Drnas de Clément, 2022)

El TFM ha sido un pilar para facilitar no solo desde el punto de vista de la fomentación de la
innovación y la tecnología en la búsqueda en pocas de palabras de que los países miembros
empiecen a dar un paso para comenzar a utilizar la IA. Si no, que a su vez ha sido una sub-
organización que se desprende de la ONU, que ha permitido la facilitación de colaboración e
incluso intercambio e información, experiencias, mejores prácticas, actividades conjuntas a nivel
de país y asesoramiento sobre políticas para y entre los Estados miembros, la sociedad civil, el
sector privado, la comunidad científica, las entidades de las Naciones Unidas y otras partes
interesadas. Lo mencionado anteriormente, desde el año 2015 hasta la actualidad han sido
coordinados y apoyados por DESA / DSDG (2015-presente), PNUMA (2016-17) y UNCTAD (2018-
presente)

Dentro de este desarrollo de la ONU con respecto a la inteligencia artificial, es importante hacer
referencia que desde que se brindó la convención de las naciones unidas sobre la utilización de
la tecnología electrónica en los diferentes contratos internacionales que se brindan, lo cual nos
coloca en la postura del derecho internacional privado. Esta convención en su art. 12 menciona
“No se negará validez ni fuerza ejecutoria a un contrato que se haya formado por la interacción
entre un sistema automatizado de mensajes y una persona física, o por la interacción entre
sistemas automatizados de mensajes, por la simple razón de que ninguna persona física haya
revisado cada uno de los distintos actos realizados a través de los sistemas o el contrato resultante
de tales actos ni haya intervenido en ellos”. En el espacio de las naciones unidas, en el desarrollo
de los años 2015 en la actualidad, donde en pocas palabras podemos denominarlo como el
periodo del auge de la inteligencia artificial se ha logrado determinar que numerosos organismos
y agencias están trabajando sobre la aplicación de la IA en diferentes sectores donde esta a su
vez convivirá con el quehacer diario del hombre.

Pero a su vez, este grupo de organismos ha comenzado a ir de poco a poco con la generación de
marcos normativos específicos que no ayuden solo con la regulación de la IA, sino también con el
avance de esta. Para este último punto, la ONU ha venido trabajando con la plataforma AI for
Good.23. Dicha plataforma, es liderada por la Unión Internacional de Telecomunicaciones (UIT),
donde en pocas palabras ha sido está el buque insignia para la ONU tome en consideración la IA
no solo como una tecnología que debe ser regulada sino también como una ayuda para cumplir
el objetivo de avance social que predomina en la Organización de las Naciones Unidas.

Para adentrarnos de la plataforma anteriormente mencionada, es importante mencionar que

dentro de esta participan más de 37 agencias y organismos de la ONU y se promueve un diálogo
global e inclusivo sobre IA, en especial, en conexión con los ODS (Klaus, Schwab)

Para el año 2016, siguiendo las indicaciones en que la ONU ha comenzado a ver la IA dentro de
esta organización se ha creó el Centro de Inteligencia Artificial y Robótica de Naciones Unidas el
cual tiene como objetivo dentro del marco de Instituto Interregional de las Naciones Unidas
adelantar investigaciones sobre cómo se puede utilizar este tipo de tecnología desde el ámbito
de poder mitigar la delincuencia y buscar formas de ayuda para la justicia.

Dentro de este recorrido es importante hacer enfatizaciones a tres cumbres importantes que se
hicieron en materia dentro de la plataforma AI for Good. y la ONU, que siempre se mantuvo desde
el punto de vista de la conexión entre la IA y los ODS, donde las cumbres del año 2017,2018 y
2019 siempre se centraron en la acción, implementación y a la creación de proyectos como el "AI
for Good" el cual ha tenido como objetivo el desarrollo de la IA, desde la mirada del desarrollo de

24
esta en el ámbito de la salud; este proyecto estuvo siempre influido por la UIT y la Organización
Mundial de la Salud, un Grupo Temático de la UIT sobre IA para la conducción autónoma y
asistida, y un marco abierto para la colaboración en "AI Commons". Asimismo, en la convención
que tuvieron los países miembros el día 29 de mayo se logra actualizar el Compendio sobre
Activities on Artificial Intelligence en el que se recogen pormenorizadamente las actividades
realizadas en 36 ámbitos normativos o institucionales concretos para mejorar la respuesta a los
desafíos globales, siguiendo así la Resolución de la Asamblea General de Naciones Unidas sobre
el impacto del cambio tecnológico rápido en la consecución de los ODS y sus metas y la estrategia
del Secretario General de las Naciones Unidas en materia de nuevas tecnologías. En 2020 se
centró en las vías necesarias para alcanzar el involucramiento a escala global. En 2021 “Al for
Good” abordó una serie de cuestiones sectoriales como educación, salud, ecosistemas,
aprendizaje automático, entre otras. (Drnas de Clément, 2022)

De la misma manera, el informe de la ONU denominado United Nations system-wide strategic

approach and road map for supporting capacity development on artificial intelligence fue de gran
incidencia de la política que se encontraba implementando la ONU con respecto a los ODS y la IA,
donde se presentó la propuesta de gobernanza anímica donde la inteligencia artificial debe de
convivir con el hombre en su movimiento social. Es decir que lo que se quiere desde las naciones
unidas es tener un programa de gobernanza que debe ser inclusivo de múltiples partes
interesadas, “anticipatoria” de tecnologías e impactos de IA de rápido progreso, “receptiva” a la
tecnología en rápida evolución y sus usos, y “reflexiva”, es decir, con revisión crítica y actualizada
de sus principios de política (Drnas de Clément, 2022).

No obstante, a pesar de las diferentes estrategias de las instituciones y cumbres que se han
creado y organizado dentro de la ONU, los logros de las Naciones Unidas han sido pequeños pasos
o simplemente parciales, ya que con el pasar del tiempo y el avance de esta tecnología se ha
vuelto menos precisa al momento de fijar programas y vías de acceso en materia de la IA. Esta
dificultad ha venido surgiendo después de que la ONU adoptara la adopción de la agenda 2030
con los ODS, ya que aquí se critica que:

“La IA de ser instrumento de vigilancia de los pobres y excluidos para marginarlos, perseguirlos y
engendrar mayores desigualdades, poniendo el acento en los aspectos negativos de la IA, sin
considerar las ventajas que derivan para bienestar digital y sus potencialidades para los más
postergados. Esa visión nebulosa que busca una igualdad e inclusión ajena a la idea de
responsabilidad y propio esfuerzo -inexistente en el mundo de la naturaleza y no lograda en
ninguna sociedad humana hasta la fecha- retarda y empobrece los aportes de las Naciones Unidas
a la comprensión amplia de la IA y las posibilidades de una regulación universal general.” (Drnas
de Clément, 2022)

Desde noviembre del año 2021 la Conferencia General de la UNESCO se dio la tarea de adoptar
la declaración Universal sobre la Ética de la Inteligencia Artificial, el cual no es un documento
netamente vinculante pero la UNESCO, pero desde lo predispuesto por entidad en el trasfondo
de la entidad es que esta declaración sea el pilar para el desarrollo y el uso ético de la Inteligencia
Artificial. Es por ello que la directora de la UNESCO les ha solicitado a los 193 países miembros de
la ONU que tomen las medidas necesarias para comenzar a implementar e incluso aplicar este
marco ético. Este documento que adoptó hace poco la UNESCO en pocas palabras les exige a los
gobiernos propiciar políticas públicas y una concientización desde la educación de sus ciudadanos
en el tema de los derechos digitales. Es por ello que la directora de la UNESCO menciona lo
siguiente: “Si educamos a una nueva generación de consumidores digitales conscientes de sus
derechos y con las habilidades de pensamiento crítico necesarias para navegar la esfera digital,
estaremos empoderándolos para que exijan a las grandes tecnológicas a rendir cuentas y

25
estaremos exigiendo que la IA sea desarrollada de forma humana y ética”. (Audrey Azoulay,
2021).

Por último, hablando de lo que puede ser un futuro la inteligencia artificial desde el ámbito de
vista de la ONU, el secretario general de esta entidad ha mencionado en reiteradas ocasiones,
que se debe de crear una organización solamente centrada en el tema de la IA para lo cual se ha
hablado de la creación de una posible “Organización Internacional de Inteligencia Artificial”
(IAIO), pero esto dentro de los estados miembros no parece ser una posibilidad a corto plazo,
pero si a largo plazo. De la misma manera, se habla también la creación de una “agencia
especializada” de la ONU o un “órgano subsidiario” de la Asamblea General.

o La IA y su evolución desde el Banco interamericano de desarrollo.

El Banco Interamericano de Desarrollo (BID) ha estado adoptando gradualmente la inteligencia

artificial (IA) en sus operaciones y ha estado explorando cómo la IA puede ayudar a resolver
problemas en el desarrollo y mejorar los resultados de sus proyectos. En 2018, el BID lanzó un
programa piloto para utilizar la IA en la evaluación de proyectos, lo que les permitió mejorar la
eficiencia y precisión de sus evaluaciones de impacto. Desde entonces, el BID ha ampliado su uso
de la IA en áreas como la identificación de fraudes en los proyectos, la predicción de riesgos y la
optimización de la gestión de proyectos. Además, el BID ha estado colaborando con otras
organizaciones y empresas para explorar el potencial de la IA en el desarrollo y ha establecido
alianzas con líderes de tecnología y expertos en IA para explorar nuevas aplicaciones. En general,
el BID está adoptando gradualmente la IA y explorando cómo puede utilizarla para mejorar su
eficacia y contribuir al desarrollo en la región.

o Acuerdos internacionales sobre la inteligencia artificial.

La inteligencia artificial (IA) es una tecnología en constante evolución y su uso se extiende cada
vez más en nuestra sociedad. Dada su complejidad y su potencial para transformar nuestra vida
cotidiana, es necesario establecer principios éticos y regulaciones específicas para su desarrollo
y uso responsable. En este sentido, existen varios acuerdos internacionales relacionados con la
IA que buscan regular su uso y establecer principios éticos para su desarrollo.

Uno de los acuerdos más importantes es la "Recomendaciones sobre Inteligencia Artificial"

publicada en 2019 por la Organización para la Cooperación y el Desarrollo Económicos (OCDE).
Estas recomendaciones establecen principios éticos y de responsabilidad para el diseño y uso de
sistemas de IA, y buscan garantizar que estos sistemas respeten los derechos humanos y sean
transparentes y responsables.

La Unión Europea también ha tomado medidas para regular el uso de la IA. En 2020, presentó la
"Ley de Servicios Digitales" y la "Ley de Mercados Digitales", que incluyen disposiciones
específicas sobre la IA. Estas leyes buscan regular el uso de la IA en la Unión Europea y establecer
requisitos para la transparencia y responsabilidad de los sistemas de IA.

Otro importante acuerdo es la "Declaración de Ética y Seguridad de la Inteligencia Artificial",

adoptada en 2018 por la Asamblea General de las Naciones Unidas. Esta declaración establece
principios éticos y de derechos humanos para el desarrollo y uso de la IA, con el objetivo de
garantizar que la IA se utilice de manera responsable y se respeten los derechos humanos.

26
Además, el Acuerdo de París sobre el cambio climático incluye disposiciones sobre la utilización
de tecnologías como la IA para abordar el cambio climático y promover la sostenibilidad
ambiental. La "Declaración de Vancouver sobre Inteligencia Artificial" establece principios para el
uso responsable y ético de la IA en la sociedad. Asimismo, la "Declaración de Montreal para una
IA responsable" y la "Declaración de Beijing sobre la IA ética y la gobernanza" establecen
principios éticos para el desarrollo y uso de la IA.

La "Declaración de Osaka sobre la economía digital" reconoce la importancia de la IA en la

economía digital y la necesidad de colaboración internacional en su desarrollo y uso responsable.
El Acuerdo Mundial sobre la IA, liderado por Francia y Canadá, tiene como objetivo establecer un
marco ético y legal para la IA a nivel mundial. Por su parte, el Marco Ético para la IA de la Unión
Europea establece principios éticos para el desarrollo y uso de la IA en la UE.

Además de estos acuerdos, existen otros esfuerzos internacionales para promover el desarrollo
responsable y ético de la IA. La "Declaración de Montreal para el Desarrollo Responsable de la IA"
busca promover el desarrollo responsable de la IA a nivel mundial, fomentando la colaboración
entre los gobiernos, la sociedad civil, el sector privado y los expertos en la materia. La Alianza
Global de IA y Robótica (GAIR) fomenta la colaboración internacional en el desarrollo de la IA y la
robótica

Es por ello, que, en el año 2019, durante el Foro de Desarrollo de la IA de China, se adoptó la
Declaración de Beijing sobre la IA ética y la gobernanza, que establece principios éticos para el
desarrollo y uso de la IA.

Otras iniciativas importantes incluyen el Acuerdo Mundial sobre la IA liderado por Francia y
Canadá, el Marco Ético para la IA de la Unión Europea, la Declaración de Montreal para el
Desarrollo Responsable de la IA y la Alianza Global de IA y Robótica (GAIR) creada por la Comisión
Europea.

Además, Singapur presentó el Acuerdo de Singapur sobre Inteligencia Artificial y Ética de Datos
en 2020, que establece un marco ético para el uso de la IA y los datos basados en cinco principios:
transparencia, justicia e imparcialidad, responsabilidad, inclusión y ética. También en 2020, el
Foro Económico Mundial creó el Acuerdo Internacional de Ética de la IA, un llamado a la acción
para establecer un marco ético global para el desarrollo y uso de la IA.

En conjunto, estas iniciativas buscan promover un desarrollo de la IA responsable y ético a nivel

mundial, fomentando la colaboración entre los gobiernos, la sociedad civil, el sector privado y los
expertos en la materia. La ética y la gobernanza adecuada de la IA son fundamentales para
garantizar su beneficio y minimizar sus riesgos, y estas iniciativas son un paso importante en esta
dirección.

Ventajas y riesgos de la inteligencia artificial en materia jurídica.

Dentro del desarrollo de la inteligencia artificial, no solo dentro del ámbito de aplicabilidad sino
también desde el escenario de creación de esta, se logan evidenciar que existen diferentes
ventajas con respecto al tema de producción en masa y de la optimización de tiempo para la
realización de diferentes actividades que realiza el ser humano como la búsqueda de información.
Sin embargo, dentro de esas grandes ventajas que nos brinda la utilización de la IA, lo que hoy
por hoy denominamos desventajas de este tipo de tecnología, ha pasado a convertirse en
problemas que, vistos desde la materia jurídica, es la ciencia social del derecho la que debe de
comenzar a delimitar tanto su uso como la manera en que se está desarrollando este tipo de

27
tecnología, ya que, dentro de las grandes controversias que genera la IA se encuentra por ejemplo
los sesgos y la discriminación.

Ventajas de la inteligencia artificial:

Las ventajas que impone este tipo de tecnología son amplias, pero estas se concentran desde el
ámbito de movilidad de los beneficios que esta presenta con respecto a su utilización, es por ello
que Lasse, Rouhiainen (2018) menciona que son las siguientes:

1. Ahorro de tiempo: Como hemos logrado evidenciar dentro de los últimos años,
diferentes empresas se han atrevido a implementar el uso de Chatbots con la finalidad
de que este sea el encargado de responder preguntas repetitivas. Esto es solo un uso que
tiene la IA para que hablemos de un ahorro de tiempo, ya que entendiendo que esta
puede funcionar las 24 horas del día es importante hablar de la automatización de
algunas funciones relacionadas a algunos oficios que tenía el ser humano. Asimismo, al
hoy existen diferentes algoritmos implementados en inteligencia artificial que permiten
que esta sea un mecanismo de ayuda para realizar investigaciones en poco tiempo y con
mayor precisión, donde un gran ejemplo de ello en la actualidad es el uso que la sociedad
le ha dado al ChatGTP.

2. Mayor eficiencia: La inteligencia artificial, desde su creación e implementación siempre

ha brindado esa sensación de mayor eficiencia o precisión en las funciones que esta
realiza o dentro de las actividades que desde los algoritmos impetrados en ella, el hombre
le ha solicitado que brinde una respuesta oportuna. Se logra evidenciar, que el margen
de error de esta tecnología máximo es del 4% teniendo el 96% de efectividad al momento
de realizar una actividad o de responder una consulta. Sin embargo, esta ventaja se logra
gracias a la automatización de procesos. Por ejemplo: los sistemas de gestión de
inventarios pueden optimizar la cadena de suministro y los robots pueden realizar tareas
en fábricas sin fatigarse.

3. Mejoras en salud: Cuando hacemos referencia a las mejoras en salud, es importante

hacer hincapié en la utilización de tecnologías elaboradas por la tercera y cuarta
revolución industrial en este sector. Para entender estos beneficios, se debe mencionar
a la bioinformática, la cual se puede definir como la aplicación de la informática, de la
tecnología digital en el campo de los servicios de la salud, de la investigación médica y
biotecnología en las industrias de la farmacéutica y alimentaria. (Gómez, Fernanda)

En el área de la salud la IA se ha encargado de mejorar o mejor de ayudar en materia de

prestación de servicios de Salud y médicos desde el aspecto administrativo, en la
interacción médico-paciente y en la creación y desarrollo de modelos tecnológicos
capaces de brindar diagnósticos y posibles tratamientos médicos.

Por ejemplo, en temas administrativos la inteligencia artificial ha comenzado a utilizarse

en sistemas de facturación, pagos y reclamaciones tanto en instituciones de salud
públicas y privadas. Por otro lado, la IA se ha venido utilizando con la finalidad de
simplificar la interacción entre médico-paciente, gracias a los diferentes sistemas
automatizados de agendamiento de horas de atención médica (triage), búsqueda de
historiales médicos y la atención virtual de pacientes mediante de la telemedicina la cual
tuvo su punto de auge con la pandemia del covid-19.

28
 Sin embargo, a pesar de que la implementación de estas tecnologías ha traído muchos
beneficios facilitando el acceso al servicio y ayudando a optimizar tiempo con respecto a
algunas funciones de las personas que trabajan en el sector salud, se logra evidenciar una
problemática con respecto al acervo de información y registro de datos, los cuales son
de carácter sensible para sus titulares, adentran diferentes problemas éticos y jurídicos
que deslazan entre el derecho a la privacidad de pacientes y posibles actos de
discriminación ante sujetos posibles a tener una candidatura en investigaciones médicas
sobre tratamientos a posible curas de enfermedades. Esta última problemática que
genera el uso de la IA en este ámbito se desprende del intercambio de datos personales
de salud, con respecto a los diferentes sistemas de automatización de conteo, rastreo y
secuenciación de información molecular y celular. (Gómez, Fernanda)

4. Utilización en el ámbito judicial: Como hemos evidenciado la inteligencia artificial tiene

diferentes ámbitos de aplicabilidad los cuales dependerán, primordialmente del creador
de software o de directrices que le ha soportada a un sistema de inteligencia artificial.
En el ámbito del sector público muchos Estados han venido implementando la tecnología
de reconocimiento facial (TFR) por los diferentes organismos de inteligencia y de justicia,
para hacer frente o mejor como una ayuda que facilita combatir el terrorismo con mayor
eficacia. De la misma manera, el uso que se le brinda a los sistemas de IA de TFR es la
eficiencia y rapidez que este sistema tiene con relación a la identificación de manera
rápida a autores de suplantaciones y otros fraudes de identidad o para la búsqueda de
personas desaparecidas. No obstante, la utilización de sistemas de TFR, los cuales no solo
se utilizan en el ámbito judicial, sino también en esferas de industrias y salud desprende
un potencial riesgo con respecto a una vulneración efectiva de derechos humanos y
libertades civiles.

Aunque, dentro de nuestro análisis sostenemos cuatro ventajas relevantes que tiene la
inteligencia artificial con su uso que contiene optimalización de tiempo, eficiencia y mayor
precisión al momento de realizar diferentes actividades que normalmente antes realizaba el
hombre o que ahora no hace con tanta frecuencia, las dos últimas ventajas descritas se enfocaron
en dos ámbitos donde la IA en su implementación sigue evolucionando, es importante hacer
mención que no solo en estos dos sectores se utiliza esta tecnología sino también en el sector
financiero e incluso en el jurídico, donde la IA no solo se ha utilizado para ahorro tiempo.

Por ejemplo, en el ámbito jurídico en los Estados Unidos tenemos un modelo de IA que es capaz
no solo de brindar conceptos jurídicos, sino que también es contratada por diferentes ciudadanos
para que esta los defienda con respecto a multas de tránsito. No obstante, en Colombia la
inteligencia artificial en este sector se ha visto como un apoyo para la sustentación normativa de
los funcionarios judiciales con respecto a diferentes casos, como ocurrió con un juez que utilizó
el ChatGTP para dictar sentencia de tutela.

Ahora bien, al hablar de las ventajas que tiene esta tecnología nos encontramos primeramente
con muchas e incluso con múltiples usos en diferentes sectores, no obstante, las ventajas las
podremos encerrar siempre en rapidez, automatización de actividades, eficiencia,
autoconocimiento y disminución del error humano.

Desventajas o riesgos de la inteligencia artificial:

Hablar de desventajas de un tipo de tecnología que ha sido el pilar para comenzar una
trasformación digital y una ayuda para solucionar diferentes problemas que acarrea la humanidad
no sería lo más prudente. Sin embargo, tampoco es innegable que encada ámbito de aplicabilidad

29
de la inteligencia artificial se ven dos caras de la moneda. Es por ello, que en vez de hablar de
desventajas lo prudente y razonables es hablar de los riesgos y retos que tiene la IA con respecto
a sus formas de uso.

Como menciona Gómez Fernanda en su escrito “Derecho y tecnología” en su recorrido con

respecto a los usos importantes de la inteligencia artificial, está por cada implementación desde
el sector público, salud, judicial, jurídico, etc; menciona los riesgos que se pueden denominar
como desventajas de la IA.

Es por ello, que desde el punto de vista de la ciencia social del derecho las desventajas de la IA se
centran en la protección de datos personales, derecho a la privacidad, uso de la IA con respecto
a la pérdida de empleos e incluso con la misma transparencia, etc.

Desde nuestro punto de vista apoyándonos en lo escrito por (Gómez, Fernanda) centraremos las
desventajas de la IA de la siguiente manera:

1. IA vs Mano de obra humana: Uno de los mayores inconvenientes que tiene la IA se

relaciona con la gran pérdida de empleos que esta genera, pues la automatización y
robotización que se brinda por la inteligencia artificial a eliminado algunos trabajos que
en su momento dado eran realizados por humanos. Lo cual brinda una identificación en
cierto modo de una posible desigualdad entre la IA y el ser humano.

2. Sesgo y discriminación: Como mencionamos anteriormente la inteligencia artificial por

medio de la función TFR es capaza de realizar un escaneo e identificar si una persona es
tiene antecedentes penales o algún problema por resolver con la justicia de un país
determinado, pero normalmente este tipo de tecnología discrimina a personas negras en
la manera en que al realizar el escaneo si identifica que la persona es de color oscuro
automáticamente la identifica como delincuente. Es por ello, que algunos expertos como
Andrew NG profesor de informática de la Universidad de Stanford y fundador de uno de
los grandes ambiciosos proyectos de Google denominado “Google Brain” ha mencionado
en reiteradas ocasiones que la IA debido a su autoconocimiento es capaza de aprender
datos sesgados y discriminatorias que normalmente la sociedad y humanidad ha utilizado
en su historia, lo que en materia de lógica daría para inferir que la IA en algunos
momentos llegue a tomar decisiones y resultados también sesgados y discriminatorios.
Normalmente estos inconvenientes suelen brindarse cuando esta tecnología se utiliza en
el ámbito de la justicia, selección de personal o concesión de créditos.

3. Transparencia: Andrew NG profesor de informática de la Universidad de Stanford y

fundador de uno de los grandes ambiciosos proyectos de Google denominado “Google
Brain” sostiene que en algunos momentos la inteligencia artificial brinda respuestas
difíciles de comprender o explicar, lo cual en pocas palabras estos déficits logran
comprobar que se evidencia una falta de transparencia en su uso y decisiones.

4. Manipulación: Esta desventaja no se puede tomar como si la inteligencia artificial fuera a

manipular a la humanidad. Pero, entendiendo que la IA es una creación del hombre y que
como creación del “Homo Sapiens” está en su momento dado puede llegar a utilizarse
como un arma que atente ante un grupo o la humanidad en sí. Es importante mencionar
que, debido a las falencias de protección de la IA, estas en cualquier momento pueden
ser manipuladas y engañadas con la finalidad de brindar resultados peligrosos o dañinos.
(Santos 2017)

30
 5. Dependencia: La dependencia de la IA gira en torno a su cerebro que son los datos, ya
que debemos comprender que la inteligencia artificial para poder funcionar requiere
unas grandes cantidades de datos, por lo que desde la perspectiva de (Santos 2017) la IA
tiene una gran dependencia de los datos y problemas de privacidad y seguridad en la
gestión de estos.

Desarrollo de la inteligencia artificial en la Unión Europea (UE).

En el subtema pretendemos ilustrar como ha sido el desarrollo de la IA en la unión europea, ya

que es de vital importancia vislumbrar cual ha sido su desarrollo en esa parte de la cultura
occidental, sabemos que la IA trae consigo diferentes factores que se deben tomar en cuenta a
la hora de hablar de ellos como el tema ético a la hora de emplearla, quizás este aspecto por sí
solo haya logrado trastocar muchos aspectos claves en el mundo actual a la hora de darle manejo
a las IA, es de dominio general que las IA se han vuelto también un medio de manipulación a las
masas, ya que por medio de ellas se puede propagar ideas, posiciones políticas entre otras,
manipulando el pensar colectivo de acuerdo a las ideas del grupo que decidió difundir cierta
información, y ese fenómeno ya se ha podido evidenciar en diferentes ocasiones en los últimos
años, un claro ejemplo de ello son las elecciones presidenciales del 2016 en Estados Unidos,
habiendo ya hablado del aspecto ético que siempre está inmerso en el manejo de estas
tecnologías también se debe tener en cuenta la brecha tecnológica que forma el uso de este tipo
de tecnologías, ya que no todas las personas dependiendo del contexto social en que se
encuentren en cada país, tiene acceso a este tipo de tecnologías, ya que va depender de ciertos
factores socioeconómicos que una persona pueda tener acceso a ciertas tecnologías, lo cual crea
una brecha en todos los aspectos de la vida social.

Si tenemos en cuenta lo mencionado anteriormente es bien sabido que los países

tercermundistas han tenido un desarrollo menos avanzado en cuanto al manejo y control que se
debe tener respecto a las IA, ya que no son países que no son el centro principal para el desarrollo
de dichas tecnologías, sino más bien son quienes las adquieren por otros medios, como la
importación, por medio de la inversión extranjera u otros medios, por lo cual, no se le ha dado
mayor importancia a la regulación y el manejo que se le debe dar desde el marco legal a las IA,
no ha sido sino hasta la pandemia surgida desde el COVID 19, que las IA empezaron a ser tomadas
como un aspecto mucho más relevante en el mundo, y fue a partir de ahí que los diferentes países
comenzaron a ver maneras de limitarlas y darles uso controlado desde una vista legal, sim
embargo a pesar de todo esto la Unión Europea ya venía presentando precedentes al respecto,
muestra de esto es la comunicación “Inteligencia artificial para Europa”, presentada en el año
2018, la cual ya establecía dentro de sus postulados más importantes los siguientes lineamientos:

1. Impulsar la capacidad tecnológica e industrial de la UE y la adopción de la IA en la economía de

los sectores público y privado.
2.Prepararse para los cambios socioeconómicos provocados por la IA.
3.Asegurar un marco ético y legal adecuado.

Para una mejor ilustración vamos a analizar cada uno de los anteriores aspectos, y su importancia
en el mundo actual, las IA han sido generadoras de una gran revolución tanto en temas
tecnológicos, como industriales y han ayudado a perfeccionar y maximizar diferentes campos de
la vida en sociedad, sin embargo, también es cierto que la falta de adaptación a las mismas puede
generar verdaderos problemas, sobre todo como lo recalca el primer aspecto en el sector
económico, es claro que las IA son capaces de reemplazar la mano de obra o de simplificarla en
algunos sectores económicos, por lo cual es importante e indispensable un proceso de
adaptación a esta en los diferentes sectores económicos, tanto para potencializar más el

31
rendimiento de ciertas actividades, como para adaptar de manera más acorde la mano de obra a
las IA y hacer de estas una herramienta mucho más provechosa.

El segundo aspecto va mucho de la mano con lo primero y ya lo hemos venido evidenciando con
mucha más fuerza los últimos años, la revolución que ha traído las IA ha sido de mucha influencia,
al punto que ha cambiado como se desarrollan algunas cosas en el entorno social, ha cambiado
la economía y muchas formas de mercado que anteriormente eran clásicas han sido reformadas
por las IA incorporando los mercados digitales y las compras en línea, así como también la manera
de ejecutar ciertas actividades en los diferentes sectores económicos, por lo tanto era de vital
importancia proveer y prepararse para los grandes cambios que se avecinan con la inmersión de
las IA en la economía mundial.

Respecto al tercer aspecto no se puede negar que las IA han traído planteamientos respecto a su
uso en materia ética y legal, ya que se han presentado conflictos respecto al manejo de datos de
los usuarios de diferentes plataformas, se han utilizado para cometer delitos y filtrar información
de manera indebida sobre los usuarios o cualquier tipo de información en general, por lo cual es
de importancia con antelación hacer estos planteamientos y enmarcar el uso de las IA desde un
marco legal y ético.

Con base a lo anterior podemos deducir que ya incluso antes de la pandemia ocasionada por el
COVID – 19, la Unión Europea venía desarrollando de manera anticipada la regulación y
potencialización de la IA, planteando aspectos de desarrollo para la región en esa materia, como
el aporte que puede hacer esta en el futuro a la seguridad, el desarrollo económico en industrias
como la agricultura y otros sectores, además de lograr que el sector de la salud sea más eficiente,
logrando dar diagnósticos precisos sobre diferentes sintomatologías, aparte de ayudar en la
prevención de enfermedades y la detección de estas a tiempo, por lo cual también la Unión
Europea promociono acciones para impulsar estrategias que ayuden a ese mismo objetivo y a
que el usuario sienta una mayor confianza a la hora de utilizar una IA, ya que se presentaba
mayoritariamente en las generaciones anteriores un grado de desconfianza a la hora de
emplearla, por lo cual la unión europea desarrollo diferentes programas de inversión y estrategia
que ayudaron a la potencialización de las IA en Europa, con el objetivo de convertir Europa en
uno de los centros del desarrollo de las IA, por lo cual se comenzó a implementar la
transformación digital en empresas, la digitalización de servicios públicos, volviendo de estos un
servicio más eficiente a la hora de resolver dificultades que presenten los usuarios, además de
que se propusieron los derecho digitales y los principios que debe de garantizar la IA, esto con el
fin de defender la libertad de los usuarios y el buen manejo de sus datos, proponiendo de acuerdo
a lo anterior los grados de riesgo mínimos e inaceptables que debe tener una IA para que su uso
sea aceptado, garantizando así que las IA comercializadas dentro de los países pertenecientes a
la unión europea garanticen seguridad, respeten los medios de vida y los derechos de las
personas que las utilicen.

De acuerdo con todo el desarrollo presentado en la unión europea en cuanto a tratados y políticas
de manejo de las IA, el grupo de ética en ciencia y nuevas tecnologías, realizo una declaración
sobre inteligencia artificial, robótica y sistemas “autónomos”.

De lo expuesto anteriormente, se ha logrado evidencia que la UE durante su recorrido de la cuarta

revolución industrial específicamente en el tema de la inteligencia artificial ha venido trabajando
en el desarrollo de un marco jurídico que sea capaz de regular la IA donde el objetivo primordial
de este es la promoción de su uso responsable y ético, pero a su vez fomentar la innovación y
competitividad del sector. (Comisión Europea)

32
Asimismo, en abril del año 2021 la Comisión Europea presento ante los países que conforma la
UE un reglamento sobre inteligencia artificial el cual se realizó con el propósito de “Establecer un
marco de regulación claro y coherente para la IA en la UE, en línea con los valores y derechos
fundamentales de la UE” (Comisión Europea). De la misma manera, el reglamento mencionado
anteriormente en su cuerpo normativo contiene un sistema de evaluación de riesgos para las
aplicaciones de IA consideradas de alto riesgo como también los requisitos y prohibiciones
específicas para ciertas aplicaciones de IA.

No obstante, la UE por medio de su programa Horizonte el cual fue en el año 2020 es una gran
muestra de la inversión significativa que está realizando esta comunidad con respecto a la
investigación y desarrollo en materia de la IA, donde gracias a este programa la comunidad ha
financiado proyectos en áreas como la robótica, la automatización y la inteligencia artificial. De la
misma manera, la UE en su compromiso y siguiendo las recomendaciones de la ONU con respecto
a la inteligencia artificial ha desarrollado estrategias como la Estrategia Europea de Datos, la
Estrategia Europea de Inteligencia Artificial y la iniciativa europea de inteligencia artificial.
(Comisión Europea)

En síntesis, como se ha comentado podemos afirmar que la Unión Europea ha venido en los
últimos años realizando un gran desarrollo en materia de regulación y desarrollo de la inteligencia
artificial en su comunidad, con el objetivo principal de promover su uso responsable y ético, y
fomentar la innovación y competitividad en el sector.

Desarrollo de la inteligencia artificial en la Comunidad Andina.

Si bien la Comunidad Andina (CA), la cual se encuentra conformada por países latinoamericanos
como Colombia, Bolivia, Ecuador y Perú no ha tenido la gran evolución que ha sostenido la Unión
europea con respecto al desarrollo de la regulación, utilización y fomentación del desarrollo de
la inteligencia artificial, esta al seguir las recomendaciones de la ONU con respecto a esta
tecnología durante los últimos años ha venido trabajando en el desarrollo y aplicación de la IA en
las regiones de los diferentes países que conforman la comunidad donde Colombia parece tener
delantera o mejor busca ser un pilar en normatividad y fomentación del uso de la IA en América
Latina.

Es por ello, que en el año 2018 dentro de la presentación del Plan Estratégico de la CA que
abarcaría los años 2018-2022 para el Desarrollo de la Sociedad de la Información en la Comunidad
Andina dentro de los objetivos del plan se incluye por primera vez el fomento de la IA y otras
tecnologías emergentes en la región.

La Comunidad Andina ha llevado a cabo diferentes eventos y actividades para cumplir con su
objetivo de fomentar el desarrollo de la inteligencia artificial en la región. Entre las acciones
destacadas se encuentran: el establecimiento del Plan de Acción Subregional de Inteligencia
Artificial para promover la adopción de esta tecnología; la creación del Centro Andino de
Excelencia en Inteligencia Artificial para brindar servicios de capacitación, investigación y
asesoramiento; la organización de la Conferencia Internacional sobre Inteligencia Artificial para
promover el diálogo y el intercambio de conocimientos; y el trabajo en la armonización de
políticas relacionadas con la IA en los países miembros para establecer un marco regulatorio
común que fomente el desarrollo de esta tecnología en la región.

De la misma manera, la comunidad andina ha establecido varios programas con el objetivo de

promover el desarrollo de la inteligencia artificial en la región y aprovechar su potencial para
impulsar el crecimiento económico y social. Entre estos programas se encuentran: el Plan de

33
Acción Subregional de Inteligencia Artificial, que incluye medidas para fomentar la investigación
y desarrollo de la IA, la capacitación de profesionales y la armonización de políticas y regulaciones;
el Centro Andino de Excelencia en Inteligencia Artificial, que ofrece servicios de capacitación,
investigación y asesoramiento; el Observatorio Andino de Inteligencia Artificial, que monitorea y
analiza el desarrollo de la IA en la región y brinda asesoramiento; y la Alianza para el Desarrollo
de la Inteligencia Artificial, una red de colaboración entre empresas, universidades y centros de
investigación en diferentes áreas, como la salud, la agricultura, el transporte y la energía.

En resumen, a pesar de que la Comunidad Andina todavía tiene mucho camino por recorrer en
términos de regulación y desarrollo de la inteligencia artificial en comparación con la Unión
Europea, ha demostrado un compromiso constante en la implementación de esta tecnología en
la región. La CA ha establecido diversos planes, centros y alianzas con el objetivo de fomentar la
IA y aprovechar su potencial para impulsar el crecimiento económico y social en los países
miembros. Colombia, en particular, ha demostrado ser un líder en la normatividad y fomentación
del uso de la IA en América Latina. La CA está trabajando activamente en la armonización de
políticas y regulaciones, en la capacitación de profesionales y en la investigación y desarrollo de
la IA para asegurar un marco regulatorio común que promueva el desarrollo de esta tecnología
en la región.

Capítulo 2: Características que debe contener un marco normativo de la IA en

Colombia.

- Inteligencia artificial y su implementación en el derecho colombiano.

Desde el ámbito de las Naciones Unidas y de la Comunidad Andina desde lo preceptuado

en su palan de desarrollo digital, siempre se ha mantenido la postura de que los
diferentes Estados miembros donde se incluye a Colombia, deben de promover
normativas que tengan como finalidad el desarrollo y utilización de la IA en los diferentes
escenarios de la vida cotidiana de sus ciudadanos, pero a su vez esta debe de utilizarse
como una herramienta en el ámbito público, desde la postura de que esta vaya en
concordancia con el cumplimiento de los fines del Estado. No obstante, es importante
que Colombia como Estado soberano y globalizado comience a mirar el desarrollo
normativo internacional de este tipo de tecnología con la finalidad de empezar a adherir
acuerdos internacionales que desde el bloque de constitucionalidad empiecen a reglar el
desarrollo y utilización saludable o responsable de la IA.

La implementación de la inteligencia artificial en nuestro Estado se empieza con la

adhesión del Conpes 3975 desde el ámbito normativo, ya que este es la hoja de ruta que
trae como adhesión a nuestro país el marco ético de la IA promulgado por OCDE y la
misma ONU, con la finalidad de promover un uso responsable y motivar al desarrollo e
investigación de la IA en Colombia. De la misma manera, es importante resaltar que en
el año 2018 con el lanzamiento del Conpes 3920 el gobierno Duque estableció de manera
prioritaria en temas tecnológico y dándole una ruta al Ministerio de la TICS la “Política
Nacional de Inteligencia Artificial”, con el cual se pretende impulsar el desarrollo y la
aplicación de la IA en el país desde el ámbito público y privado.

El ultimo Conpes mencionado se trazó o mejor gira en cinco ejes importantes los cuales
son:

34
1. Fortalecimiento de la investigación e innovación en materia de Inteligencia Artificial.
2. Búsqueda de la promoción desde el ámbito formativo y capacitivo en el campo de la
IA con el objetivo de comenzar a formar ciudadanos capaces de desarrollar
habilidades y competencias para liderar diferentes proyectos de Inteligencia
Artificial.
3. Fomento de la aplicación de la Inteligencia Artificial en distintos sectores como salud,
educación, transporte, seguridad, etc. Desde la perspectiva de mejora en eficiencia,
productividad (automatización de procesos) y mejora en la calidad de vida de las
personas.
4. Fortalecimiento de infraestructura tecnológica y de datos con el objetivo de
fomentar los índices de calidad y disponibilidad de los datos que necesita este tipo
de tecnología para su funcionamiento.
5. Promoción de una aplicación de la inteligencia artificial responsable y ética, donde se
busca la proyección o adhesión principios éticos y buenas prácticas en el desarrollo
y aplicación de la IA, con el fin de garantizar su uso responsable y sostenible.

Asimismo, en el año 2021 con la presentación del documento Conpes 4026 el cual
establece definitivamente la “Estrategia Nacional de Inteligencia Artificial para el período
2021-2031” se traza el objetivo de consolidar a Colombia como una líder natural en
Latinoamérica y la Comunidad Andina en temas de desarrollo, fomentación y utilización
de la IA en distintos ámbitos de aplicabilidad en sectores como la salud, la educación, la
seguridad, la industria, el comercio y los servicios.

Es por ello, que en el territorio colombiano en los últimos años la inteligencia artificial
(IA) ha ganado protagonismo en diversos sectores con el objetivo de cumplir lo trazado
en los diferentes CONPES mencionados; que en pocas palabras adhieren la utilización de
esta tecnología en el territorio Nacional y buscan mostrar como pilar de desarrollo a
Colombia en materia de IA.

Así pues, desde la fomentación y objetivo por el Gobierno Duque y el hoy primer
Gobierno de izquierda en Colombia que es el del señor Gustavo Petro Urrego donde se
está fomentando la utilización de la IA en sectores o ámbitos como a la salud, educación,
seguridad, industria, comercio e incluso el campo del derecho y se enfatiza en poner a
nuestro país como un líder en fomentación y regulación en temas de IA.

En Colombia, la implementación de la IA en el ámbito legal se ha centrado o tomado

como objetivo la búsqueda la mejora en temes que son principios de la administración
de justicia como la eficiencia, la transparencia y el acceso a la justicia.

La implementación de la IA en el derecho colombiano al hoy se encuentra en desarrollo

o mejor en una etapa prematura o tempranera que se ha centrado específicamente en
temas como la automatización de procesos legales, el asesoramiento jurídico basado en
IA y el análisis de datos legales. Lo cual al hoy se encuentra en implementación no solo
porque la ley 2213 del año 2022 que adhiere la implementación duradera del decreto
806 del 2020 lo permite desde la perspectiva de la utilización de las tecnologías de las
TICS en los procesos judiciales, sino también porque diferentes estudios académicos han
abordado el impacto de las tecnologías de la información y comunicación (TIC),
incluyendo la IA, en el sistema de justicia colombiano.

Para toma o mejor demostración de lo anteriormente expuesto, tomaremos como

ejemplo el estudio de "Tecnologías de la Información y Comunicación (TIC) y justicia:
impacto y desafíos en Colombia" publicado en la Revista Derecho del Estado (2017), en

35
el cual los artífices de esta investigación se enfocaron en analizar la IA desde el punto de
vista de mejora de la eficiencia que puede llegar a tener la administración de justicia si
esta se implementa, como también estudiaron como la IA mejor el acceso a la justicia
para comunidades remotas o marginadas. Asimismo, como verifican ventajas dentro de
su investigación, estos autores remiten o mejor exponen diferentes desafíos y
preocupaciones éticas relacionadas con la implementación de la IA en el derecho
colombiano. Por otro lado, el articulo "Uso de tecnologías de la información y
comunicación en el sector justicia en Colombia" publicado en la Revista de Derecho del
Estado (2016) se encargó de ilustrarnos una examinación de una posible adopción de
tecnologías de la información y comunicación en el sistema de justicia colombiano,
incluyendo el uso de la IA en la gestión de procesos judiciales y la modernización del
sistema legal, donde se logra destacar la inteligencia artificial como una ayuda en la
reducción de tiempos de espera en los procesos judiciales y la mejora en la toma de
decisiones.

Por otra parte, es importante resaltar que, desde la anterioridad a la aprobación y

creación de los CONPES en relación al desarrollo tecnológico, algunas universidades y
centros de investigación en Colombia, como la Universidad de los Andes y el Centro de
Estudios de Derecho, Justicia y Sociedad (Dejusticia), han realizado diferentes
investigaciones sobre la utilización de la IA como un apoyo o mejor para brindar asesoría
jurídica. A lo cual, el estudio "Desarrollo de un sistema de asesoramiento jurídico basado
en IA para el acceso a la justicia en Colombia" realizado por investigadores de la
Universidad de los Andes propuso la creación de un sistema de asesoramiento jurídico
basado en IA para mejorar el acceso a la justicia en Colombia, donde el objetivo
primordial de este estudio es la exploración de la inteligencia artificial desde la orden de
brindar información y orientación legal a personas que no tienen acceso a servicios
legales tradicionales, con la finalidad de promover la justicia inclusiva.

De ahí, se puede desprender como una consecuencia del movimiento social de la IA y de

la pandemia del Covid-19 la creación de una norma en específico que desde al año 2022
ha venido regulando todo lo concerniente a la utilización de las TICS en materia judicial.
Dicha norma, que es la ley 2213 del año 2022 ha permitido no solo la virtualidad de la
rama judicial brindando una mejora en el servicio, sino que también ha permitido
mediante la analogía, que los jueces de la república comiencen a utilizar como una
herramienta de apoyo para el cumplimiento de sus funciones; sistemas de inteligencia
artificial como el “metaverso” y el “Chat GPT”, este último aunque su implementación se
dio en el escenario de apoyo para que un juez de la república dictara sentencia de tutela,
donde este lo utilizo desde la consulta de ciertas preguntas las cuales coloca en la parte
considerativa de la sentencia, dentro de la perspectiva el aplicativo de IA no brindó el
fallo pero sirvió como un gran apoyo para la toma de decisiones..

Es por ello, que la implementación de la IA en el derecho colombiano se encuentra en

una etapa temprana y se ha centrado principalmente en áreas como la automatización
de procesos legales, el asesoramiento jurídico basado en IA y el análisis de datos legales.
Aunque, existen investigaciones académicas que han abordado el impacto de las TIC,
incluyendo la IA, en el sistema de justicia colombiano, destacando los beneficios
potenciales en términos de eficiencia y acceso a la justicia. Sin embargo, también se han
identificado preocupaciones y desafíos éticos que deben ser abordados en la
implementación de la IA en el derecho colombiano.

Aunque, nos centramos en este acápite en el desarrollo del uso de la IA en la

implementación de esta en el derecho colombiano desde el punto de vista del acceso a

36
 justicia, apoyo jurídico, celeridad, eficiencia, etc. Es importante hacer mención que
Colombia en los último dos años ha mostrado un avance considerable de implementación
los siguientes 3 ámbitos los cuales son:

A. Educación: La implementación de la inteligencia en este sector se ha desarrollado en

la búsqueda de la mejora, calidad y enseñanza que se les brinda a los estudiantes
desde la primera infancia hasta universitarios, dicho avance se ha logrado evidencia
por la utilización de chatbots educativos que son capaces de brindar información
sobre diferentes temáticas y modelos de IA que pueden adaptarse a las necesidades
de los estudiantes y programas de aprendizaje automático que analizan datos para
mejorar la eficacia de la enseñanza.

B. Salud: Su implementación más que todo se ha centrado para el análisis de grandes

magnitudes de datos utilizados en la medicina y para la detección temprana de
enfermedades, gracias al adentramiento de modelos de IA que pueden ayudar a
detectar enfermedades en etapas tempranas y mejorar los resultados del
tratamiento y chatbots capaces de brindar información sobre síntomas y prevención
de diferentes enfermedades comunes en nuestro territorio.

C. Mercado y Comercio: En este ámbito la aplicación de la IA ha girado en torno al

desarrollo de sistemas enfocados en la recomendación y análisis de datos que sean
capaces de tomar decisiones y experiencias con respecto a los clientes.

Como se ha desarrollado, Colombia ha sido un pilar en la Comunidad Andina e incluso en

Latinoamérica brindando una adhesión temprana y consciente en temas de inteligencia artificial
por medio de lo que se denomina en nuestro territorio CONPES, con los cuales se ha búsqueda la
fomentación del uso y desarrollo de esta tecnología en nuestro país desde los principios del uso
responsable y ético. De la misma manera, gracias a la adhesión del marco ético para la inteligencia
artificial que se brinda con el CONPES 3975 diferentes sectores como la salud, educación,
mercado y el derecho han comenzado a buscar no solo formas, sino que se han puesto en la tarea
por medio de diferentes analogías legales y normas internacionales la utilización de la IA para
mejorar la eficiencia de estos servicios que son fines esenciales de nuestro estado, lo cuales son
considerado en al art.2 de nuestra Carta Magna o mandato Constitucional.

Análisis normativo de la implementación de la inteligencia artificial, desde un

enfoque positivista.

o Análisis constitucional.

Desde el ámbito constitucional podemos mencionar que la inteligencia artificial debe de

someterse a algunos principios, valores y dogmas para que su implementación y desarrollo se
enmarque o se encierre en una legalidad. Aunque, es cierto que nuestro engranaje constitucional,
es decir, nuestra Carta magna de 1991 no hace una relación directa a la IA es importante que un
futuro marco normativo se funda en los siguientes principios constitucionales:

En primer lugar, se debe resaltar en la relación de la IA y el principio de la dignidad humana, la

cual se aplica a todos los individuos pertenecientes a la especie homo sapiens y que es importante
o fundamental para garantizar el respeto de los derechos humanos. En pocas palabras, la relación
de la IA con este concepto y principio se centra en que cualquier uso y desarrollo de la IA debe ir

37
entrelazado con la protección de los derechos humanos, incluyendo los derechos a la privacidad,
la no discriminación y la igualdad ante la ley.

De la misma manera, la IA debe ir en concordancia con la democracia participativa el cual es el

principio que permite que todos los ciudadanos de nuestro territorio tengan un activismo en la
toma de decisiones del Gobierno de turno. Pero, al contextualizar este precepto con la
inteligencia artificial le damos el significado o punto de vista donde la ciudadanía activamente
debe estar involucrada en los debates sobre el uso, regulación y desarrollo de la IA.

En tercer lugar, es importante mencionar que nuestra Constitución establece el principio de

transparencia que implica en pocas palabras a que el gobierno y las empresas del territorio
Nacional sean abiertas y accesibles con la sociedad en su rendición de cuentas; donde en pocas
palabras aplicando este principio constitucional a la IA, estamos hablando o mejor estamos
haciendo referencia a que los algoritmos y sistemas que componen la inteligencia artificial deben
fundarse en la transparencia para garantizar la responsabilidad y evitar la opacidad en el uso de
la IA.

Por otro lado, es importante que un futuro marco jurídico de la IA vaya en concordancia con la
justicia social entendiendo a esta como el principio que le ordena al Estado trabajar para
garantizar la igualdad de oportunidades y la justicia en todas las áreas de la sociedad. A lo cual,
implica en el contexto de la IA a que el desarrollo y uso de esta tecnología se funda o vaya dirigido
a garantizar diferentes beneficios equitativos para la población del Estado, evitando la exclusión
de grupos vulnerables y la perpetuación de desigualdades.

Por último, entendiendo el movimiento social que estamos viviendo donde la crisis climática es
uno de los puntos de la agenda de cualquier gobierno en el mundo y aludiendo a que Colombia
desde su carta magna funde en principio constitucional la protección del medio ambiente con el
objetivo de garantizar la conservación de los recursos naturales y la biodiversidad, es importante
que el marco jurídico de la IA en nuestro Estado se dirija a promulgar un desarrollo de esta
tecnología y su uso además de que sea amigable con el medio ambiente, vaya encaminado a la
búsqueda de la protección, conservación y reparación de este.

Ante lo descrito anteriormente, donde fundamos la relación de un marco jurídico de la IA en

Colombia fundado en cinco principios constitucionales fundamentales, es importante aclarar que
esto se desprende de estudios de expertos en el tema como: Alejandra Navarro donde en su
artículo denominado “"Inteligencia artificial y el respeto a la dignidad humana en Colombia"
destaca que: “la IA puede afectar la dignidad humana al generar perfiles discriminatorios o al
utilizarse para la vigilancia masiva de la población”. No obstante, Natalia Enciso, en su artículo
"La inteligencia artificial y los derechos humanos en Colombia" brinda la importancia en que la IA
se utilice de manera transparente y responsable para evitar que se reproduzcan prejuicios o
discriminaciones.

Asimismo, Juan Carlos Rodríguez en su libro "La inteligencia artificial y la ética: reflexiones sobre
el impacto de la IA en el ámbito empresarial", nos brinda un análisis donde este destaca la
importancia de la IA desde la postura en que su desarrollo y uso debe ser ético y responsable,
garantizando la protección de los derechos humanos y la justicia social. Con respecto a la
protección de los datos personales la profesora María Claudia Garavito, en su artículo "La
inteligencia artificial y la protección de datos personales en Colombia", menciona que: “la IA
puede ser utilizada de manera responsable y sostenible si se garantiza la protección de los datos
personales y se respetan los derechos de privacidad de las personas.”

38
Como se evidencia, es fundamental que Colombia en su marco jurídico sobre la IA tenga en
cuenta los principios y valores constitucionales mencionados, para que la IA respete bases
fundamentales (Derechos) de sus ciudadanos y dirija su desarrollo a la satisfacción de
necesidades primordiales de su sociedad, es por ello por lo que hablamos de participación
ciudadana, justicia social, transparencia, protección ambiental y dignidad humana. De la misma
manera, para fortalecer un futuro marco jurídico en IA Colombia tiene priorizar a que su
regulación sea coherente con los estándares internacionales de derechos humanos, incluyendo
el respeto a la privacidad y la no discriminación.

o Principales derechos comprometidos.

El uso, desarrollo, promulgación e integración de la inteligencia artificial a medida que se integra

en una sociedad y se instala en ella va generando en su andar la transgresión de diferentes
derechos fundamentales y libertades civiles en la población con la que comparte. Aunque, en el
desarrollo histórico de la IA en el marco internacional desde diferentes organizaciones como la
ONU y la UE siempre se ha hecho hincapié en que la inteligencia artificial no es un enemigo, sino
que es una herramienta que utilizando éticamente y responsable ayuda a la satisfacción no solo
de necesidades sino también a los fines esenciales de un Estado.

Entendiendo la postura de los entes internacionales, que han basado los últimos 10 años no solo
en un desarrollo de esta tecnología, sino también en la priorización de que cada país del mundo
se centre en el uso y realización de un marco jurídico, desde el año 2018 la Comunidad Andina
ha estado hablando de la implementación de la IA en sus países miembros donde en su plan de
Acción Digital ha resaltado que los Estados que componen esta organización de acuerdo a las
posturas y adhesión de acuerdos y normas internacionales, fortalezcan o lleven a creación su
marco jurídico con respecto a la inteligencia artificial.

Como hemos desarrollado anteriormente, Colombia ha sido la pionera en comenzar con la

interiorización de normas internacionales que permitan el desarrollo y uso de la IA en su territorio
como por el ejemplo, la adhesión del marco ético para la inteligencia artificial el cual fue brindado
por la OCDE y el Banco Interamericano de Desarrollo. Pero, así como el Estado Colombiano ha
comenzado a seguir las recomendaciones internacionales, a medida que avanza la
implementación de esta tecnología en ámbitos como el de la educación, salud y el judicial
(Derecho) se ven diferentes derechos comprometidos que van desde la vulneración de la
dignidad humana hasta la discriminación, vulneración de la intimidad y protección de datos.

Aunque, específicamente podemos decir que con el avance de uso de la IA en Colombia se ven
en riesgo o son comprometidos los siguientes derechos: Derecho a la privacidad, no
discriminación, transparencia y explicabilidad, seguridad y protección contra el mal uso, la
participación y toma de decisiones informada, responsabilidad y rendición de cuentas, igual dad
y equidad, Derecho a la protección de la propiedad intelectual y protección de Datos. Para esta
ocasión nos centraremos específicamente en dos derechos, para los cuales vamos a brindar una
explicación detallada.
Derecho a la no discriminación:

Empezando con el derecho a la no discriminación el cual es uno de los más comprometidos con
el uso y desarrollo de la IA, se debe entender que la naturaleza de este precepto constitucional
es un pilar fundamental en cualquier sociedad que promulga una democracia en su modelo de
Gobierno, todo puesto que con la defensa de este se busca garantizar la igualdad. Arriaza y Blum

39
(2019) mencionan que: “el derecho a la no discriminación es una garantía fundamental que se
encuentra protegida en diversos tratados y convenciones internacionales de derechos humanos”,
es decir, que a nivel internacional este derecho es uno de los más protegidos no solo por las
diferentes organizaciones internacionales, sino que desde tratados y convenciones
internacionales se brinda su protección.

Así pues, entendiendo que uno de los riesgos del uso de la IA es la discriminación que tienen estas
máquinas como por el ejemplo con el TFR, es esencial que cada Estado o país que está en pro de
su uso y desarrollo tenga en cuenta que la aplicación de la IA en cualquier ámbito tiene un impacto
negativo con respecto a la vulneración de derechos fundamentales, incluyendo al de la no
discriminación, para lo cual cada Estado que impetre la tecnología de la inteligencia artificial debe
adentrar también un reto normativo y jurídico para un equilibrio entre avance, desarrollo y
sociedad.

La IA como hemos desarrollado se basa en el análisis y procesamiento de una gran magnitud de

datos (Big Data) con los cuales desde su programación con respecto a respuestas ante el medio
toma decisiones e incluso realiza predicciones. Sin embargo, desde lo predispuesto por Barocas
y Selbst “Si los datos que componen a la IA están sesgados, la inteligencia artificial puede
perpetuar estos patrones y, en algunos casos, incluso amplificarlos", lo anterior nos da uno de los
aspectos a regular en materia de relación de la IA vs No Discriminación, desde la postura de la
transparencia y explicabilidad en la programación de los algoritmos de IA para evitar la
discriminación. Adicionalmente a esta postura es importante la afirmación que hace Kroll (2017)
con respecto a que la discriminación de la IA puede ser ya sea intencional o no intencional, es
decir que la vulneración de este derecho fundamental puede surgir de las decisiones de diseño o
de las decisiones de uso de la IA.

En materia de regulación con respecto a este derecho comprometido la Comisión Europea en su

desarrollo en materia de regulación ha brindado a los países del mundo para que estos se apoyen
para una futura regulación en su territorio, diferentes directrices éticas para el uso y desarrollo
de la IA que se componen de diferentes principios como: la transparencia, la explicabilidad, la
responsabilidad, la privacidad y la inclusión, que en pocas palabras pueden servir como un
modelo a seguir para regulaciones similares de la IA en Colombia. Esto gira entorno a lo
mencionado por Friedler (2019) que indica que “se deben implementar mecanismos de
supervisión y regulación para garantizar que la IA se utilice de manera justa y no discriminatoria”

La necesidad de una reglamentación seria de la IA con respecto a la no discriminación se

desprende del mandato constitucional que establece que “todas las personas son iguales ante la
ley y que no se permitirá discriminación alguna por razones de sexo, raza, origen nacional o
familiar, lengua, religión, opinión política o filosófica” es por ello, que resulta necesario o se ve la
necesidad de que las regulaciones de la IA que se dicten en nuestro país incluyan principios y
medidas que promuevan la no discriminación, la transparencia, la explicabilidad y la supervisión.

Finalmente,Buolamwini (2018), menciona que "es importante promover la diversidad y la

inclusión en el desarrollo de la IA para minimizar los sesgos y la discriminación y garantizar que la
IA tenga en cuenta las perspectivas y necesidades de todas las personas". Por lo cual, también es
importante que Colombia desde el aspecto de desarrollo de esta tecnología fomente la diversidad
en los equipos de desarrollo de la IA, así como en las fuentes de datos utilizadas para entrenar y
programar los algoritmos de IA. De la misma manera, es importante que la regulación de la IA no
solo se centre en la protección de derechos fundamentales, si no que su regulación debe girar en

40
torno a la diversidad cultural y lingüística para la construcción de sociedades justas y
democráticas.

Derecho a la dignidad humana:

La concepción de dignidad humana se compone de diferentes aspectos como el de valor natural

y el de principio rector de toda norma que abarca la protección de garantías fundamentales al ser
humano solo por pertenecer a la especie animal “Homo-Sapiens”. Asimismo, este se considera
un principio fundamental que es reconocido en distintos tratados internacionales como por
ejemplo la Declaración Universal de Derechos Humanos de las Naciones Unidas y el Pacto
Internacional de Derechos Civiles y Políticos; donde se tomó a la dignidad humana como un valor
intrínseco e inherente que debe ser protegido y respetado.

Ahora bien, debido a los diferentes usos de esta tecnología en nuestra sociedad esta puede tener
un impacto significativo en este derecho. Por ejemplo, los sistemas de TFR y de vigilancia
normalmente amenazan la privacidad y la libertad de expresión, donde al vulnerar estas
libertades del hombre se está transgrediendo el derecho a la dignidad humana.

Normalmente los desafíos que se tornan a este derecho se pueden dar en tres escenarios los
cuales son:
1. La A vs la discriminación y toma de decisiones basada en sesgos que reflejan las
desigualdades y prejuicios de la sociedad.
2. La inteligencia artificial como un instrumento de vigilancia masiva, que transgrede la
libertad individual y la dignidad de las personas.
3. La IA como una tecnología capaz de deshumanizar las interacciones humanas desde la
poca empatía y compasión.

Normalmente, en la mayoría de los países incluyendo al nuestro se aborda la vulneración de la

dignidad humana desde estas tres perspectivas o escenarios, a lo cual se han brindado diferentes
soluciones o recomendaciones a realizar donde se destacan, primeramente, el enfoque
regulativo el cual tiene como por objetivo crear leyes y políticas públicas para que a treves de
estas se logren establecer los parámetros sobre el uso y promoción de la transparencia y
responsabilidad en el desarrollo y utilización de la IA. Desde el pensamiento de Solon Barocas y
Andrew Selbst se afianza este pensar, ya que estos sostienen o argumentan que la regulación en
materia de inteligencia artificial que debe crear una Nación debe tener en cuenta la equidad y la
justicia en la toma de decisiones automatizadas, con la implementación de medidas para la
corrección y eliminación de sesgos y discriminación en los datos utilizados para entrenar a los
sistemas de IA.
Otro enfoque es el que nos brinda Wendell Wallach y Colin Allen los cuales argumentan la
necesidad que tiene el mundo en establecer un código de ética para la inteligencia artificial que
promocione los principios de la transparencia, la rendición de cuentas, la privacidad y la
seguridad, es decir, que esta postura se relaciona con el derecho a la ética, desde la promoción
de recomendaciones o estándares éticos para el desarrollo y uso de la IA en Colombia.

Por último, para mitigar la vulneración de este derecho con la IA algunos autores han propuesto
el enfoque de la responsabilidad social corporativa; el cual consiste en que las diferentes
empresas que desarrollen y utilicen la inteligencia artificial se encuentre en la responsabilidad de

41
garantizar que sus sistemas se utilicen de manera responsable y ética. En este sentido, Vanessa
Rampton argumenta que: “las empresas deben implementar prácticas responsables de
recopilación y uso de datos, y deben ser transparentes en relación con la forma en que se utilizan
los datos recopilados”

Como hemos visto, el impacto que genera que el derecho a la dignidad humana se vea
comprometido con el uso y desarrollo de la IA se toma desde tres enfoques que inmersamente
contienen en su actuar la vulneración de otros derechos fundamentales como la no
discriminación, libertad, protección de datos, etc. Lo cual hace que, en temas de vulneración a
este derecho, se torne un escenario complejo que requiere el punto de vista interdisciplinario y
un compromiso por parte de los profesionales en tecnología y derecho para garantizar que la IA
se desarrolle y se utilice de manera responsable y ética. Así pues, desde la perspectiva del derecho
se han propuesto una serie de soluciones para abordar los desafíos asociados con la IA,
incluyendo la regulación, la ética y la responsabilidad social corporativa.

En este sentido, es importante señalar que la tangente de regular la IA es un tema crucial en el

debate sobre su impacto en los derechos humanos y más en el respeto de la dignidad humana de
los individuos de una sociedad donde se implemente la IA. Donde para dar cumplimiento a este
precepto autores como Solon Barocas y Andrew Selbst se han encargado desde sus estudios e
investigaciones proponer la implementación de medidas de equidad y justicia en la toma de
decisiones automatizadas, lo que en pocas palabras implica la eliminación de sesgos y
discriminación en los datos utilizados para entrenar a los sistemas de inteligencia artificial.
Asimismo, estos argumentan que se debe garantizar la transparencia y la responsabilidad en el
uso de la IA, a través de políticas públicas que establezcan límites claros sobre su uso.

Por otro lado, autores como Wendell Wallach y Colin Allen se han encargado de sostener en sus
estudios que la ética es una dimensión importante en el desarrollo y uso de la IA, ya que es
importante en el mundo establecer estándares éticos para la IA que incluyan principios como la
transparencia, la rendición de cuentas, la privacidad y la seguridad. De esta misma manera, estos
autores plantean la propuesta en que se debe fomentar una discusión ética amplia y participativa
sobre el impacto de la IA en la sociedad.

Finalmente, al analizar la perspectiva jurídica de como la IA compromete el derecho a la dignidad

humana se logra evidenciar que desde el campo global existe un consenso generalizado en la
necesidad de regular la IA, con el objetivo de establecer estándares éticos para su desarrollo y
uso, y promover una responsabilidad social corporativa en su aplicación, para así garantizar que
la IA se desarrolle y se utilice de manera responsable y ética, y a proteger el derecho fundamental
a la dignidad humana.

o Normas relacionadas con la IA en Colombia

La inteligencia artificial en nuestro ordenamiento jurídico, si bien ha tenido un avance

que demuestra una postura de nuestro Estado por mantenerse en una constante
evolución, es el momento oportuno para precisar nuevamente que al hoy en Colombia
no existe una norma clara que regula la IA; sin embargo, el marco normativo colombiano
contiene normas que ayudan a regular aspectos especificos de la misma o temas

42
relacionados con la IA como: incluyendo la protección de datos, la ética en el uso de
algoritmos, la transparencia y explicabilidad de los sistemas de IA, la seguridad y
privacidad de los datos, y la capacitación y formación en el uso de la IA.

Dentro del complejo normativo que tiene Colombia con respecto a aspectos relevantes
de la inteligencia artificial encontramos los siguientes:

A. Ley 1581 de 2012: Denominada por el Estado Colobiano como “Ley de Protección
de Datos Personales” es la norma que se encargó de establecer las reglas para la
protección de los datos personales en Colombia, incluyendo aquellos datos que son
utilizados en sistemas de IA. Dicha ley regula la recolección, almacenamiento, uso,
circulación y supresión de datos personales. Pero a su vez, establece los derechos y
deberes de los titulares de los datos y de los responsables del tratamiento de los
mismos.

B. Ley 527 de 1999: Conocida coloquialmente como la “Ley de Comercio Electrónico”

ha sido la encargada de establecer las reglas para el uso de tecnologías de la
información y comunicación, incluyendo la IA, en transacciones electrónicas en
Colombia. Regulando la validez y eficacia de los mensajes de datos, la firma
electrónica, la formación y prueba de los contratos electrónicos, y la responsabilidad
de los intermediarios de servicios en línea.

C. Resolución 3078 de 2017 del Ministerio de Tecnologías de la Información y las

Comunicaciones (MINTIC). Establece los primeros lineamientos en temas
estrategiscas del Gobierno Santos para la implementación de la Estrategia de
Gobierno Digital en Colombia, con la cual ha comenzado a promover el uso de la
tecnología y la transformación digital en el sector público. Dicha estrategia incluye el
uso de tecnologías emergentes, como la IA, para mejorar la eficiencia, transparencia
y calidad de los servicios públicos.

D. Guía de Gobierno Digital del Departamento Administrativo de la Función Pública

(DAFP): Esta guía brinda orientaciones y mejores prácticas para la implementación
de proyectos de gobierno digital en Colombia, incluyendo aquellos que involucran el
uso de la IA. Esta guia aborda aspectos como la identificación de oportunidades de
uso de la IA en el sector público, la gestión de datos en proyectos de IA, la
transparencia y ética en el uso de algoritmos, la seguridad y privacidad de los datos,
y la capacitación y formación en el uso de la IA por parte de los funcionarios públicos.
E. Decreto 1081 de 2015 “Decreto Único Reglamentario del Sector TIC”: Este decreto
regula la gestión de las tecnologías de la información y las comunicaciones en
Colombia, incluyendo el uso de la IA en el sector público. En esta norma se establecen
los pasos para la adopción de tecnologías digitales en el gobierno, incluyendo la
definición de políticas de seguridad de la información, la gestión de datos, la
interoperabilidad de los sistemas de información y la implementación de proyectos
de tecnología en el sector público.

F. Proyecto de Ley "Por la cual se establecen los principios, reglas y procedimientos para
la regulación y uso de la inteligencia artificial en Colombia": Este proyecto de ley, el
cual fue radicado en el Congreso de la República de Colombia en 2021, tiene como
objetivo la búsqueda de un marco normativo integral para la regulación y uso de la

43
 IA en Colombia. En este proyecto de ley se proponen los diferentes principios éticos
y técnicos para la implementación de la IA, así como reglas y procedimientos para la
transparencia, explicabilidad y responsabilidad de los sistemas de IA. Asimiso este
proyecto normativo, tiende a abordar temas como la protección de datos, la toma
de decisiones automatizadas, la responsabilidad civil y administrativa, y la
capacitación y formación en el uso de la IA.

G. Normas internacionales: Además de las normas locales, Colombia también ha

adoptado normas internacionales relacionadas con la IA. Por ejemplo, la Comisión de
las Naciones Unidas para el Derecho Mercantil Internacional (UNCITRAL) la cual ha
brindado un desarrollado bastante interesantes principios éticos para los contratos
autónomos y la toma de decisiones automatizadas, los cuales pueden ser aplicables
en el contexto de la IA en Colombia. Por otro lado, la Comisión Europea ha publicado
diferentes directrices éticas para el desarrollo y uso de la IA, las cuales pueden ser
una guía importante con respecto a la futura normativa de la IA en nuestro país.

Ahora bien, la implementación de la IA en el derecho colombiano ha sido un tema

relevante en los últimos años, y se han adoptado diversas normas y regulaciones para
abordar los desafíos legales y éticos asociados con la IA. Dichas normas incluyen la
protección de datos, la ética en el uso de algoritmos, la transparencia y explicabilidad de
los sistemas de IA, la seguridad y privacidad de los datos, y la capacitación y formación
en el uso de la IA.

De esta manera, podemos decir que Colombia ha adoptado normas internacionales y

está en proceso de discusión de un proyecto de ley integral que busca regular la IA de
manera integral en el país. Sin embargo, hay que tener en cuenta que la regulación de la
IA es un campo en constante evolución, y es necesario que los juristas encargados de la
creación normativa de un Estado se mantengan actualizados con las normas y
regulaciones vigentes en el país, así como con los avances y debates en el ámbito
internacional.

Es por ello, que se vuelve fundamental que las autoridades, empresas y ciudadanos en
general sean conscientes de los desafíos éticos y legales que la IA plantea, y se
comprometan a implementarla de manera responsable, garantizando la protección de
los derechos de las personas, la transparencia en su funcionamiento y la toma de
decisiones informadas.

En este contexto, es esencial que las normas y regulaciones en Colombia aborden

aspectos relevantes como la protección de datos, la ética en el uso de algoritmos, la
transparencia y explicabilidad de los sistemas de IA, la seguridad y privacidad de los datos,
y la capacitación y formación en el uso de la IA. Estos aspectos son esenciales para
garantizar una implementación responsable y ética de la IA en el gobierno, empresas y
sociedad en general.

o Acuerdos internacionales adheridos por Colombia en materia de la IA

Colombia como hemos centrado en nuestro análisis, es el pilar en Suramérica con

respecto a implementar las recomendaciones de la ONU, UE, OCDE y la Comunidad

44
Andina en pro de mantenerse no solo en un desarrollo globalizado sino para entrar en la
dinámica en la que hoy el mundo se encuentra. Así pues, la Comunidad Andina en su plan
de Acción Digital, deja propuesto o mejor recomienda que todos los países de la
comunidad que implementen el uso y desarrollo de la IA se encuentran en la obligación
de crear un marco normativo que permita la inclusión de la IA con la sociedad, para lo
cual se debe apoyar de los acuerdos y recomendaciones internacionales.

Para ello, Colombia ha adherido diferentes recomendaciones internacionales en pro del

uso y desarrollo de la IA en su territorio. Primeramente, nuestro Estado incorpora la
Declaración de la OCDE sobre inteligencia artificial, la cual fue adoptada por Colombia en
el año 2019, la cual tiene como objetivo fomentar el desarrollo y uso responsable de la
IA, a través de principios como la transparencia, la privacidad, la responsabilidad y la
justicia, esta adopción se logra todo puesto que desde la perspectiva de la OCDE estos
preceptos son los encargados de guiar el desarrollo, diseño y aplicación de la IA, y deben
ser adoptados por los países miembros para garantizar una aplicación ética y responsable
de esta tecnología. Es decir, que con esto el Estado Colombiano acato los principios éticos
de la inteligencia artificial los cuales deben ser impetrados en futuras normas.

Por otro lado, aunque este acuerdo no se centra específicamente en la IA Colombia

adherio el Convenio del Consejo de Europa sobre la manipulación de competiciones
deportivas, conocido como Convenio de Macolin, donde se abordan temas relacionados
con la integridad en el deporte, los cuales se han visto afectados por el uso de la IA en
algunas disciplinas deportivas. Donde, el articulo 1 del Convenio, el plantea su objetivo
informa que es es: "prevenir, detectar y sancionar la manipulación de competiciones
deportivas y establecer un marco de cooperación internacional para lograr este objetivo”

Es evidenciable con lo anterior que Colombia incluso en la adhesión de normas

internacionales como apoyo para asegurar un uso y desarrollo responsable de la IA se
encuentra como un bebe apenas aprendiendo a caminar, donde verdaderamente el
acuerdo internacional serio que tiene adherido en su campo normativo es la “Declaración
de la OCDE sobre inteligencia artificial”. Sin embargo, desde su actuar Colombia se ha
posicionado como uno de los países más activos en la discusión de la regulación de la IA
en el marco de las Naciones Unidas. Esto es comprobable ya que, en el año 2021 el país
apoyó la adopción de la Resolución 75/173 de la Asamblea General de las Naciones
Unidas, la cual establece un marco para la cooperación internacional en el desarrollo y
uso de la IA. Dicha resolución demuestra la importancia de la inteligencia artificial en el
desarrollo sostenible y establece principios para su uso responsable y ético, como la
protección de los derechos humanos y la privacidad.

Ahora bien, con respecto a la postura que en la actualidad asume Colombia frente a la
regulación de la IA, es importante destacar que nuestro país ha asumido una postura
proactiva y comprometida en la promoción de un uso responsable y ético de la IA. Dicha
postura se logra, cuando el Ministerio de Tecnologías de la Información y las
Comunicaciones de Colombia, planteó un plan de estrategias para el uso y desarrollo de
la IA en su territorio el cual se funda desde el pensamiento de mejora en la calidad de
vida de sus ciudadanos, pero a su vez reconoce los riesgos y retos que trae la
implementación de la inteligencia artificial.

En síntesis, Colombia en materia de IA con respecto al soft law internacional ha adoptado

una postura proactiva en la promoción de un uso responsable y ético de esta tecnología,
el cual se refleja con la adopción de los “Principio éticos de la IA” generado por la OCDE.

45
 De la misma manera, nuestro país al interiorizar la IA ha adquirido el compromiso de
garantizar la protección de los derechos humanos y a promover el desarrollo sostenible
a través de la IA, lo cual demuestra que nuestro Estado está dando grandes pasos en
materia jurídica con respecto a la inteligencia artificial.

- Principios éticos de la inteligencia artificial en Colombia.

En Colombia, los principios éticos de la IA han sido definidos en la Estrategia de

Inteligencia Artificial del Ministerio de Tecnologías de la Información y las
Comunicaciones (MINTIC), la cual se enfoca en cinco principios:

• Transparencia: Los sistemas de IA deben ser transparentes y explicables. Esto

significa que las decisiones tomadas por los sistemas de IA deben ser
comprensibles para los usuarios y las personas afectadas por ellas.
• No discriminación: La IA no debe discriminar a ninguna persona o grupo. Esto
incluye la eliminación de sesgos y prejuicios que puedan estar presentes en los
datos que se utilizan para entrenar a los sistemas de IA.
• Responsabilidad: Los desarrolladores y usuarios de la IA deben ser responsables
por las consecuencias de su uso. Esto implica que se deben tomar medidas para
prevenir y reparar cualquier daño que pueda ser causado por la IA.
• Seguridad y privacidad: Se deben garantizar la seguridad y privacidad de los datos
que se manejan con la IA. Esto incluye la protección de los datos personales y la
prevención de la vulneración de los sistemas de IA.
• Bienestar social: La IA debe tener un impacto positivo en la sociedad. Esto
significa que se deben tomar en cuenta los intereses y necesidades de las
personas afectadas por la IA, y que se deben prevenir los efectos negativos en la
calidad de vida de las personas.

Estos principios éticos de la IA en Colombia se alinean con los establecidos por la

Organización para la Cooperación y el Desarrollo Económicos (OCDE) y la Declaración de
Montreal para una IA responsable. Donde el objetivo de estos acuerdos internacionales
es la búsqueda en establecer un marco ético global para la IA

Desde una perspectiva jurídica, estos principios éticos tienen un papel importante en la
regulación de la IA en Colombia. Así pues, la implementación de los principios éticos de
la IA también puede requerir la adopción de nuevas normas y regulaciones. En este
sentido, el MINTIC ha establecido una hoja de ruta para el desarrollo de una política
pública de IA en Colombia, la cual incluye la creación de un marco regulatorio y de
estándares éticos para la IA.

- Problemas que puede ayudar a resolver la IA en Colombia.

La inteligencia artificial como hemos venido demostrando es capaz de actuar en

diferentes ámbitos de la vida cotidiana. De la misma manera, desde lo dispuesto por
Santos esta tecnología se creó con la finalidad de ayudar al hombre no solo a hacer su
vida más fácil sino para ayudar en la solución de problemáticas desde la busque e
implementación de planes que ayuden a solucionar dichas dificultades. Ahora bien, en
Colombia, desde la postura de diferentes autores que se han atrevido a hablar sobre el
impacto de la IA como un objeto que puede ayudar a resolver diferentes problemas en

46
Colombia, encontramos al profesor de la Universidad de París Panthéon-Sorbonne Carlos
Moreno que índica lo siguiente: "La IA puede mejorar la eficiencia del transporte en
Colombia y reducir el impacto ambiental de la movilidad en las ciudades".

Por otro lado, Camilo Andrés Jiménez Rodríguez profesor de la Universidad de los Andes
menciona que “La IA puede ser una herramienta valiosa para mejorar la seguridad en
Colombia, pero es importante que se utilice de manera responsable y ética para evitar la
discriminación y el sesgo en la toma de decisiones”. Asimismo, Miguel Luengo-Oroz,
director de Data Science de UN Global Pulse, menciona que "La inteligencia artificial
puede ayudar a resolver problemas complejos en áreas como la salud, la agricultura y la
seguridad en Colombia, lo que puede mejorar significativamente la calidad de vida de las
personas"

Aunque la implementación de la IA ha sido hasta el hoy poca y se ha centrado en el ámbito

judicial, mercado electrónico y educación de la forma como lo expusimos iniciando este
capítulo. Es importante manifestar que esta tecnología sería de gran ayuda para resolver
o mejor para ayudar en dos situaciones las cuales son: El medio ambiente y la seguridad
pública.

Cuando hacemos referencia al medio ambiente hay que adentrarnos no solo a la

protección sino también a la recuperación de este, es importante resaltar que, desde lo
predispuesto por la ONU con el futuro de la IA, es que esta sea una herramienta de gran
ayuda para disminuir el impacto ambiental que nos puede llevar a la destrucción.

Es por ello, que la IA puede ser considerada como un medio para fortalecer la
protección ambiental, así como una herramienta para abordar los desafíos ambientales
de manera más eficiente y efectiva.

Por ejemplo, esta puede ser una gran herramienta para la ayuda en gestión de residuos,
mediante la clasificación automática de los mismos en centros de reciclaje, lo que facilita
su gestión y promueve la reducción de residuos. Asimismo, esta también puede ser de
gran ayuda en la prevención y monitoreo de incendios forestales, desde el punto de vista
de detección en tiempo real y envio de alertas para su oportuna atención.

Por otro lado, la IA puede ser utilizada en la promoción de prácticas agrícolas sostenibles,
mediante el análisis de datos climáticos y de suelos, lo que permite a los agricultores
tomar decisiones informadas sobre cuándo sembrar, fertilizar y regar.

No obstante, para que se brinde una implementación correcta de la IA en este ámbito

con respecto a la protección del medio ambiente y recuperación de este, se debe
optar por una utilización ética y responsable, con el objetivo de evitar riesgos y posibles
efectos negativos. Pero también es importante, que al momento del uso de la IA en este
ámbito se considere el contexto social y cultural de Colombia, y que se garantice la
protección de los derechos humanos y ambientales en todas las etapas del uso de la IA.

Por último, otra de las grandes problemáticas que puede llegar a solucionar la IA es el
tema de la seguridad gracias a la tecnología TFR (Reconocimiento facial) desde la
perspectiva de análisis de datos y escaneo de antecedentes de las diferentes personas
del territorio colombiano. Asimismo, sería una herramienta vital para análisis de
comportamientos anormales, lo cual permitiría que las autoridades logren detectar
conductas sospechosas y así evitar futuras consumaciones de actos delictivos.

47
 Sin embargo, como se ha mencionado este uso especifico de la IA promueve la
transgredación del derecho a la no discriminación, todo puesto que estás tecnologías
dentro de su desarrollo vienen incluidas y por su autoconocimiento toman posturas
racistas contra personas de color, lo cual hasta el derecho a la dignidad humana se ve
transgredido. Lo cual hace más importante no solo la búsqueda de una implementación
ética de la IA, si no también refleja la necesidad de crear una ley que demuestre el alcance
de uso de la inteligencia artificial.

- Retos de la inteligencia artificial en Colombia desde el ámbito normativo.

Desde el desarrollo de la IA, donde se define como una creación humana capaz de realizar
acciones cognoscitivas que comúnmente realiza el hombre. La cual se desprende del
desarrollo de cuatro revoluciones industriales por las cuales ha pasado la humanidad. Se
ha logra establecer primeramente que el objetivo de esta tecnología desde la ONU es
verla como una herramienta de ayuda y no como un enemigo constante.

Por esta razón, los diferentes entes internacionales se han puesto en la tarea no solo de
desarrollar esta tecnología la cual facilita la vida del hombre, sino que han visto la
necesidad de regular el uso e implementación de la IA para que esta no entre en conflicto
con una sociedad que si bien se asombra por el avance tas descomunal de la tecnología
le teme cada vez más, porque en cierto modo ven la extinción del razonamiento humano
donde esté en un futuro posible puede ser cambiado por el razonamiento tecnológico.

Así pues, siguiendo la recomendación de la ONU diferentes países donde se destacaron

primeramente los europeos comenzaron a llevar a las Naciones Unidas el tema de la IA y
la firma de acuerdos para un uso ético y responsable, pero también para un desarrollo
beneficioso para la humanidad. Siguiendo esta línea la UE (Unión Europea) toma las
riendas del camino y es la primera comunidad internacional en dar un paso a l frente y
brinda su primer convenio de principios para el uso y desarrollo de la IA y firmar en el año
2021 su propia norma sobre inteligencia artificial.

No obstante, los países latinoamericanos al ver este avance tan abrupto en temas
normativos desde la Comunidad Andina siendo esta una de las representativas en el
continente americano y más en Suramérica, desde el año 2015 comenzó con la idea de
adentrar la IA en su territorio para lo cual junto con sus países miembros procedió a
acordar el Plan de Desarrollo Digital donde indica la necesidad de la implementación de
la IA, pero también de la búsqueda de un uso ético y legal de la misma.

Siguiendo esta idea, Colombia ha sido la pionera en comenzar a implementar y promover

el uso de la IA, si no de adentrar el marco ético para el uso y desarrollo de esta tecnología
en este territorio. Pero como se ha hablado el uso que se ha brindado en Colombia se da
gracias a las analogías y el desprendimiento constitucional que permite su uso porque no
existe una norma Clara.

De aquí parte el gran reto de Colombia con respecto a la IA y es la búsqueda de la creación

de un marco jurídico flexible y serio en la búsqueda de tomar los diferentes derechos
comprometidos como la no discriminación y la dignidad humana y acobijarlos en una
protección superflua. Pero que, en la búsqueda de dicha protección, no se adentre en
prohibir el uso de una tecnología que como hemos visto es capaz de brindar diferentes
soluciones a problemáticas no solo de Colombia sino del mundo.

48
 Así pues, Colombia dentro de su reto normativo de protección de derechos
fundamentales con el uso y desarrollo de la IA, debe de plantearse la creación de una
entidad que sea capaz de hacer un control técnico y legal con respecto a los algoritmos y
protección de los datos que se utilizan en el big data de la IA en su desarrollo.

Por otro lado, es importante que Colombia en su comprendido normativo establezca en

que ámbitos se brinda el uso de la IA y ante que situaciones y no dejarlo como lo tiene al
hoy donde con solo donde exista una ley que permita el uso de las TICS en un ámbito de
la vida del hombre, ya sea un indicio para empezar el uso de la IA.

Finalmente, el Estado colombiano deberá de afianzar sus normas ya establecidas que

ayudan a reglar algunos ámbitos de la IA desde la colaboración de entes internacionales,
derecho comparado y adhesión de normas y acuerdos internacionales para la búsqueda
de una ley que explique el alcance de la IA, su responsabilidad, desarrollo, uso,
fiscalización y sanciones cuando se incurra en faltas por un uso desproporcional o
inadecuado de esta tecnología.

Conclusiones.

1. La inteligencia artificial es el resultado final de las revoluciones industriales vividas

en el mundo, donde se destaca la simulación de la cognición humana por medio de
máquinas capaces de brindar soluciones a problemáticas actuales de la humanidad.

2. La ONU como el ente internacional más importante del mundo ha considerado la

inteligencia artificial desde su aparición como una tecnología de ayuda para
solucionar las diferentes problemáticas que atraviesa el mundo como el cambio
climático. Sin embargo, siempre ha sido clara en motivar a entes internacionales
continentales como la Unión Europea y la Comunidad Andina para que logren crear
sus propias normas con respecto al uso y desarrollo responsable de la IA en los
diferentes países que los conforman y en los demás países del mundo.

3. La Unión Europea ha sido el pilar en el mundo con respecto a la búsqueda de crear

una normativa seria con respecto a la inteligencia artificial. Así pues, junto con la
OCDE han sido las primeras organizaciones internacionales en generar o crear los
principios éticos para el desarrollo y uso de la IA.

4. La Unión Europea ha sido la primera organización internacional en crear su propia

norma de inteligencia artificial, la cual es la ruta para que sus países miembros usen
y desarrollen la IA, pero a su vez, es el pilar para que comunidades como la
“Comunidad Andina” y los demás países del mundo tomen como guía para una
futura creación de un marco normativo con respecto a la IA.

5. La Comunidad Andina gracias a su Plan de Desarrollo Tecnológico, ha priorizado en

sus países miembros la adhesión del uso de esta tecnología, pero también ha
enfatizado en que cada país tiene la necesidad de crear un marco normativo para
un uso y desarrollo responsable de la IA, para lo cual sostiene que deben seguir las
ideas plasmadas en las normas internacionales con respecto a la inteligencia
artificial.

49
 6. Colombia en materia de adhesión de normas internacionales con respecto a la
inteligencia artificial solo ha adherido los “Principios éticos para el uso y desarrollo
de la Inteligencia artificial” creados por la UE y la OCDE.

7. Colombia no tiene en la actualidad una norma clara y seria que ayude a la

regulación del uso y desarrollo de la IA. Sin embargo, tiene una base normativa que
solo regula aspectos de la inteligencia artificial como la protección de datos.

8. Colombia en la búsqueda por mantenerse en el mundo globalizado, desde la

analogía normativa ha adentrado el uso de la IA, en el cual se reflejan diferentes
derechos comprometidos como la no discriminación y la dignidad humana.

9. El Estado Colombiano debe fundar la creación de un marco normativo en materia

de IA en la búsqueda de protección de los derechos fundamentales
comprometidos, pero a su vez, del fomento de la protección de los principios éticos
de la IA.

10. Colombia debe de crear un ente de control que realice el análisis de la adhesión de
las normas internacionales y que se encargue de supervisar el desarrollo del
software que utilice la IA.

Referencias Bibliográficas.

1. Ríos, W. (2017). La regulación legal de la robótica y la inteligencia artificial.

Ambito Jurídico. https://www.ambitojuridico.com/noticias/analisis/tic/la-
regulacion-legal-de-la-robotica-y-la-inteligencia-artificial

2. Rua, M. (2021). Cecilia Danesi: La inteligencia artificial tiene que ser una
política pública. La Nación.
https://www.lanacion.com.ar/economia/negocios/cecilia-danesi-la-inteligencia-
artificial-tiene-que-ser-una-politica-publicanid18122021/

3. Urbano, M.K. (2021). ¿Pueden discriminar las máquinas? Artículo resultado de

investigación, inédito.

4. Santos, M. (2017). Regulación Legal de la Robótica y la Inteligencia Artificial:

Retos de Futuro. Revista Jurídica de la Universidad de León, (4): 25-50, 2017.
https://revistas.urosario.edu.co/xml/733/73355497005/html/index.html#:~:text=
La%20investigaci%C3%B3n%20sociojur%C3%ADdica%20tiene%20como,Ara
ngo%20Paj%C3%B3n%2C%202013%2C%20p .

5. Constitución Política de Colombia (1991).

https://www.mintic.gov.co/portal/inicio/Sala-de-
prensa/Noticias/208109:Colombia-adopta-de-forma-temprana-recomendaciones-
de-etica-en-Inteligencia-Artificial-de-la-Unesco-para-la-region

6. Marco ético de inteligencia artificial en Colombia. (2021). Ministerio de

Ciencia, Tecnología e Innovación.
https://minciencias.gov.co/sites/default/files/marco-etico-ia-colombia-2021.pdf

50
7. Comisión Europea. (n.d.). Artificial intelligence. https://ec.europa.eu/digital-
single-market/en/artificial-intelligence

8. Comunidad Andina. (n.d.). Normativa en materia de inteligencia artificial.

https://www.comunidadandina.org/Seccion/Index?Categoria=102

9. Comisión de Regulación de Comunicaciones de Colombia (CRC). (2020).

Inteligencia Artificial en el sector de las Tecnologías de la Información y las
Comunicaciones.
https://www.crcom.gov.co/documents/20143/46636/Informe+Inteligencia+Artifi
cial/18350e76-5b8d-3c1a-5c5d-258d8bc1cc7b

10. Procuraduría General de la Nación. (2020). Inteligencia Artificial y Derechos

Humanos en Colombia.
https://www.procuraduria.gov.co/portal/media/file/INTELIGENCIA%20ARTIF
ICIAL%20Y%20DERECHOS%20HUMANOS.pdf

11. Superintendencia de Industria y Comercio (SIC). (2020). Guía sobre ética y uso
responsable de la Inteligencia Artificial en Colombia.
https://www.sic.gov.co/sites/default/files/files/2020-11/GuiaEticaIA.pdf

12. Ministerio de Tecnologías de la Información y las Comunicaciones de Colombia

(MinTIC). (2020). Plan Nacional de Inteligencia Artificial.
https://revistas.urosario.edu.co/xml/733/73355497005/html/index.html#:~:text=
La%20investigaci%C3%B3n%20sociojur%C3%ADdica%20tiene%20como,Ara
ngo%20Paj%C3%B3n%2C%202013%2C%20p.
13. Ley 1581 de 2012, por la cual se dictan disposiciones generales para la
protección de datos personales en Colombia. Recuperado de:
https://www.funcionpublica.gov.co/documents/10157/32952/Ley+1581+de+201
2.pdf/03836c5e-67ca-423f-bb84-5d5bf0df76e1

14. CONPES 3920. (2018). Política Nacional de Inteligencia Artificial.

Departamento Nacional de Planeación.
https://colaboracion.dnp.gov.co/CDT/Conpes/Econ%C3%B3micos/3920.pdf

15. CONPES 4026. (2021). Estrategia Nacional de Inteligencia Artificial para el

periodo 2021-2031. Departamento Nacional de Planeación.
https://colaboracion.dnp.gov.co/CDT/Conpes/Econ%C3%B3micos/4026.pdf

16. García-González, G., García-Sánchez, E., & Alor-Hernández, G. (2021). An

Analysis of Artificial Intelligence in Education in Latin America. International
Journal of Emerging Technologies in Learning, 16(9), 84-102. Recuperado de:
http://www.scielo.org.co/scielo.php?script=sci_arttext&pid=S0122-
82852021000302431

17. Mendoza-Castillo, D. I., & Cáceres-Acosta, C. M. (2021). Análisis de la

aplicación de la inteligencia artificial en el sector salud de Colombia. Revista
Científica de Administración, 9(1), 1-16. Recuperado de:
https://revistas.unicartagena.edu.co/index.php/marioalariodfilippo/article/view/2
501

51
18. Fajardo, A., Duque, J. C., & Acevedo, D. (2020). Impacto de la inteligencia
artificial en el comercio electrónico en Colombia. Scientia Et Technica, 25(3),
34-41. Recuperado de: https://gecti.uniandes.edu.co/wp-
content/uploads/2022/08/GECTI-El-impacto-de-herramientas-de-inteligencia-
artificial.pdf

19. Rodríguez, A. y Pérez, A. O. (2017). Métodos científicos de indagación y de

construcción del conocimiento. Revista EAN, 82, 179-200.
https://doi.org/10.21158/01208160.n82.2017.1647

20. Remeseiro, S., & Gómez, E. (2020). Inteligencia Artificial: un estudio de su

impacto en la sociedad. Universidad de la Coruña. Recuperado de
https://ruc.udc.es/dspace/bitstream/handle/2183/28479/PardinasRemeseiro_Sofi
a_TFG_2020.pdf?sequence=3

21. Valencia, A. (2018). Marco jurídico para la inteligencia artificial aplicada a los
robots como sistemas autónomos. Universidad Santo Tomas. Recuperado de
https://repository.usta.edu.co/handle/11634/31537

22. Ortiz, P y Zabala, T (2021). Los retos jurídicos de la inteligencia artificial en el

derecho en Colombia. Recuperado de:
https://revistascientificas.cuc.edu.co/juridicascuc/article/view/3141/3344#info

23. Ministerio de Ciencia, Tecnología e Innovación (2021). Marco Ético para la

Inteligencia Artificial en Colombia. Recuperado de
https://minciencias.gov.co/sites/default/files/marco-etico-ia-colombia-2021.pdf

24. Foro Consultivo Científico y Tecnológico (2018). Inteligencia artificial y sus

impactos sociales. México. Recuperado de
https://www.foroconsultivo.org.mx/INCyTU/documentos/Completa/INCYTU_1
8-012.pdf

25. Navarro, A. (2020). Inteligencia artificial y el respeto a la dignidad humana en

Colombia. Revista Derecho del Estado, (44), 107-128. Recuperado de:
https://ri.conicet.gov.ar/handle/11336/154869

26. Enciso, N. (2021). La inteligencia artificial y los derechos humanos en

Colombia. Revista de Derecho, (54), 87-114. Recuperado de:
https://www.upo.es/revistas/index.php/ripp/article/view/7430

27. Rodríguez, J. C. (2019). La inteligencia artificial y la ética: reflexiones sobre el

impacto de la IA en el ámbito empresarial. Revista Innovar Journal, 29(73), 89-
100. Recuperado de:
http://www.scielo.org.co/scielo.php?script=sci_arttext&pid=S0123-
31222021000202528

28. Garavito, M. C. (2021). La inteligencia artificial y la protección de datos

personales en Colombia. Revista de Derecho Privado, (41), 149-170.
Recuperado de: https://repository.usta.edu.co/handle/11634/31170?show=full

52