ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 1

ETICA Y TECNOLOGIA

Llamocca Cordova Alvaro Joel, [email protected]

Asesor: Ángela Nathaly Calisaya Gutiérrez, Magíster (MSc) en ciencias: Mención Psicología
clínica- Educativa, Infantil y Adolescencial.

Universidad Nacional de San Agustín

Facultad de Ingeniería, Producción y servicios

Desarrollo de Inteligencia Artificial

Arequipa-Perú

2020
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 2

INTRODUCCION

Me interesa hablar acerca del Desarrollo de la Inteligencia Artificial ya que me parece un tema
muy importante del cual debemos conversar en el aspecto de él que surgen muchas dudas acerca
de la creación de alguna forma de vida, si esto quizá llegue a mostrar alguna relación con la
humanidad, como nos hablan las fuentes bibliográficas estudiadas, sobre si la IA(Inteligencia
Artificial) puede tomar decisiones por encima de nosotros mismos como por ejemplo “¿Puede la
IA decidir acerca de la donación de órganos hacia una persona joven o hacia una persona mayor
de edad?”, “¿ debería un robot poder identificar y atacar personas sin supervisión humana?”, en lo
personal surgen dudas como que características deben de poseer las Inteligencia Artificial para no
dañar física ni moralmente a una persona, entre otras.

La inteligencia artificial (IA) y todas las aplicaciones y servicios basados en esta tecnología han
recibido una atención considerable por parte de la comunidad científica y por mi persona. Si bien
es cierto que los medios de comunicación y otras plataformas de divulgación han contribuido a
crear unas expectativas desmedidas respecto a las posibilidades de la IA, también lo es que dicha
tecnología se encuentra ya presente en muchas de nuestras actividades cotidianas: desde realizar
una búsqueda en Internet hasta escuchar música desde nuestros dispositivos o solicitar un préstamo
bancario.

Como nos indica las palabras de la Doctora María Jesús González Espejo, “utilizar la palabra
educar en ética para las máquinas me parece que puede confundir al profano, pues a la máquina no
hay que educarla, hay que programarla”. Palabras que me causan demasiada inquietud y aceptación
en lo que ella indica.

En el trabajo de David Álvaro Pascual nos habla en general de las consecuencias que podría traer
un desarrollo de tal magnitud, ya que todo esto traería problemas judiciales, como ordenanzas
nacionales e internacionales, si es que se desarrolla la tecnología de tal capacidad ¿La inteligencia
Artificial sería capaz de sentir, decidir, entre otras grandes interrogantes.
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 3

DESARROLLO Y ARGUMENTOS

Con respecto a las incógnitas planteadas anteriormente y junto con la información recadada se
darán respuestas a las mismas como: ¿Puede la IA decidir acerca de la donación de órganos hacia
una persona joven o hacia una persona mayor de edad?”, considero que es un tema un tanto
complejo de acuerdo la programación de la misma, ya que nosotros como ingenieros futuros y los
ya graduados somos y seremos los encargados de crear un futuro con facilidades para las personas,
pienso que el desarrollo de IA es imprescindible en el desarrollo de nuevas tecnologías, no solo
tendríamos “maquinas” sino compañeros q podrían acompañarnos en el desarrollo de avances
científicos y tecnológicos.

En la bibliografía [8] a cogí este nuevo archivo ya que nos ayuda a responder preguntas o incógnitas
como: “¿debería un robot poder identificar y atacar personas sin supervisión humana?”, los estudios
nos indican que los límites tecnológicos se establecen dinámicamente junto a los avances teóricos
de la ciencia, es decir desde mi perspectiva los límites de poder darle la capacidad de decidir a una
“máquina” estaría limitado por nosotros mismos, ya que en un software se le tendría que colocar
las diferentes posibilidades de estudio en diferentes situaciones y con algún tipo de algoritmo la
inteligencia artificial llegar a desarrollar esa capacidad de “decidir” por sí mismo, en pocas palabras
se tendría q crear un nuevo código ético para poder hacer que una máquina decida por encima o al
mismo nivel del entendimiento humano.

En la bibliografía [6] añadí esta revista ya que nos da a conocer diferentes puntos de vista de
especialista en los cuales estamos de acuerdo con algunos y en desacuerdo con otros, pero la
información brindada nos da una mejor idea de cómo es que se posiciona el rol de la ética en el
desarrollo de Inteligencia Artificial.

Es conveniente hacer una definición del concepto de inteligencia. El término inteligencia proviene
del latín “inteligere”, y se puede definir como “la facultad de comprender las relaciones entre los
hechos y las 𝑐𝑜𝑠𝑎𝑠"[2] Podemos afirmar, en consecuencia, que la comprensión y la capacidad de
comunicación de lo comprendido son los rasgos básicos de la inteligencia. Así, una persona con
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 4

más inteligencia que otra es capaz de relacionar más eficientemente los conocimientos que posee
para resolver un problema.

Son muchos los indicios que apuntan a que la IA estará presente en numerosos ámbitos de nuestras
vidas (Comisión Europea, 2018). A la espera de futuros avances y desarrollos, son ya bastante
numerosos los beneficios que las aplicaciones y sistemas inteligentes nos están proporcionando.
Los sistemas de reconocimiento de imagen se están empleando para identificar posibles anomalías
en las radiografías. “Esta tecnología ha demostrado ser, en concreto, entre un 62% y un 97% más
eficaz que un panel de radiólogos a la hora de identificar nódulos en los pulmones (Koo et al.,
2012). "[3]

En lo personal me parece fascinante como es que los videojuegos y/o películas transmiten un futuro
con inteligencias artificiales muy desarrolladas y como es que se les puede colocar “un lugar en la
sociedad” como parte de la misma en conjunto con la humanidad.

Partir de considerar las capacidades humanas como un criterio válido para valorar la IA puede
suponer un problema. Una máquina puede llegar a realizar una tarea en milisegundos, y una
persona no sería capaz de realizar una tarea parecida en tan poco tiempo; por eso, podríamos pensar
que la máquina parece dar muestras de inteligencia. Episodios de ese tipo van a ocurrir en las
próximas décadas en cientos de ámbitos, incluso en muchos ya se han producido, por lo que utilizar
el método comparativo entre la inteligencia humana y la IA es algo que puede conducir al absurdo,
ya que la inteligencia humana siempre saldría perdiendo. “Esto nos muestra, una vez más, que la
tarea de aportar una definición concreta de la IA no es nada fácil. "[4]

Muchos autores restringen el término “inteligencia artificial” a un conjunto limitado de tipos de

aplicaciones informáticas. Esto se debe a diversas causas: razones históricas, modas intelectuales;
prejuicios, sutilezas técnicas, ventajas comerciales, el estado actual de la tecnología, o simple
ignorancia. Los argumentos más respetables que se manejan para hacer esta distinción son de dos
tipos:
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 5

-La naturaleza del problema o tarea que se desea automatizar. Algunos ejemplos son la visión
artificial, el aprendizaje, algunos problemas complejos de control, el diagnóstico a partir de
síntomas, el diseño
“creativo”, y el procesamiento de lenguaje natural.

- La técnica (o tecnología) empleada. Por ejemplo, algunos tipos de lenguajes de programación, la

búsqueda heurística, las redes neuronales, la lógica borrosa, los sistemas expertos, y el
reconocimiento de patrones.

¿Pueden las máquinas ser inteligentes, o bien sólo parecerlo? Ésta es una cuestión que puede
suscitar discusiones interminables (y muy entretenidas), pero es irrelevante desde el punto de vista
práctico de la ingeniería. Si un sistema funciona como si fuera inteligente, ¿qué importa si
realmente lo es? Otra cuestión bien distinta es la responsabilidad. Una máquina no es libre, y por
tanto no es responsable de sus decisiones ni de sus actos. Libertad, responsabilidad y conciencia
son características propias de la condición humana, y estrechamente relacionada entre sí. Se
considera aquí que las decisiones problemáticas desde un punto de vista ético son sólo aquellas que
puedan perjudicar directa o indirectamente a las personas. Por lo tanto, se debe cuestionar si el
desarrollo y explotación de un sistema inteligente puede afectar a la vida, la salud (lo que incluye
el medio ambiente), la libertad, la intimidad, el puesto de trabajo o la dignidad de alguien, y en
general a su bienestar físico y mental.

A diferencia de otras especialidades de ingeniería, la materia prima de la inteligencia artificial es

la información, en la que se materializa algo más abstracto, que es el conocimiento. Hay cuatro
funciones básicas que se realizan en cualquier proceso o sistema complejo: almacenamiento,
transporte, proceso y control. En función de estas cuatro tareas básicas, identificamos los siguientes
tipos de aplicaciones informáticas:
-Gestión de información. La información se almacena físicamente en las memorias, y a más alto
nivel en las bases de datos. En estas aplicaciones, la función principal es el almacenamiento y
recuperación de información.
-Comunicación. La información se transporta mediante sistemas y redes de comunicaciones. En
estas aplicaciones, el transporte es la función más importante.
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 6

-Control. El control de los sistemas consiste en la sincronización de las tareas que realiza cada uno
de los subsistemas para garantizar la consecución de una tarea común más compleja. En estas
aplicaciones, la función de control es dominante.
- Razonamiento automático. El proceso o transformación de información corre a cargo de
procesadores (a nivel físico) y sistemas de cálculo automático en general. En este tipo de sistemas,
la función de proceso de información es la fundamental.

El problema ético más inmediato en un sistema de razonamiento automático es el mismo que en

otros tipos de sistemas: hasta qué punto el objetivo fundamental de la aplicación es ético. Ya se ha
comentado que hay áreas de trabajo éticamente delicadas, como el armamento, la genética o ciertos
tipos de aplicaciones industriales. En las aplicaciones de toma de decisiones, la definición y forma
de uso de la herramienta depende en gran medida de la labor del ingeniero de especificación y
diseño, frente a otros tipos de proyecto controlados más rígidamente por el cliente. Existe la
posibilidad de definir restricciones con flexibilidad, de hacer explícitos los criterios conflictivos y
de mostrar las posibilidades reales de la herramienta como ayuda, y no como elemento frío de
decisión. Los objetivos finales de la aplicación se pueden modificar parcialmente durante el
proyecto, y en algunos casos esta influencia puede considerarse un deber desde el punto de vista
ético. Una cuestión más general es hasta qué punto debe confiarse a una máquina la toma de
decisiones, cuando nunca puede ser responsable de las mismas. Antes de tratar este tema, vamos a
excluir de la discusión una gran cantidad de aplicaciones: todas aquellas en las que la solución de
un problema es única por naturaleza. Esto puede ocurrir porque las restricciones permitan sólo una
solución o porque no existen realmente atributos conflictivos entre sí

Son muchos los indicios que apuntan a que la IA estará presente en numerosos ámbitos de nuestras
vidas (Comisión Europea, 2018a). A la espera de futuros avances y desarrollos, son ya bastante
numerosos los beneficios que las aplicaciones y sistemas inteligentes nos están proporcionando.
La IA está permitiendo también a las empresas conocer mejor a sus clientes y desarrollar nuevas
estrategias de marketing y comunicación. El banco suizo SEB emplea un asistente virtual llamado
Aida para atender las llamadas de los clientes. El asistente es capaz de interactuar con ellos, de
acceder a toda su información y de gestionar peticiones como abrir una cuenta o realizar una
transferencia (Wilson y Daugherty, 2018), Con base en los datos almacenados, algunas compañías
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 7

están utilizando asistentes inteligentes que, en función del perfil y los datos almacenados de cada
cliente, aconsejan un determinado producto o servicio (Rosenberg, 2018). Asistentes virtuales
como Siri, Alexa o Google Home ofrecen al usuario la posibilidad de realizar infinidad de tareas
mediante un comando de voz: desde hacer la compra desde casa hasta organizar la agenda o enviar
un correo electrónico.

Junto con las ventajas que todas estas aplicaciones traen consigo, es bueno advertir también los
riesgos que el uso de la IA lleva aparejados. Para las mismas aplicaciones mencionadas arriba,
existen múltiples escenarios en los que el empleo de la IA da lugar a situaciones éticamente
problemáticas. Algunos de estos riesgos son comunes al uso de otros tipos de tecnología, mientras
que otros constituyen riesgos específicos del campo de la IA.

-Manipulación, seguridad y vulnerabilidad: al igual que otros sistemas informáticos o

aplicaciones tecnológicas, la IA se compone de elementos de software y hardware susceptibles de
funcionar erróneamente. A su vez, muchas de las aplicaciones provistas de IA operan mediante
algoritmos basados en modelos estadísticos y grandes cantidades de información, lo que también
puede llevar a decisiones sesgadas o conclusiones incompletas. Esta tecnología, además, puede ser
manipulada para distintos fines, como manipular unas elecciones (Polonski, 2017) o modificar el
precio de distintos productos y servicios (OCDE, 2017).
- Transformación de las relaciones humanas: existe ya un consenso en torno al perjuicio que el
uso prolongado de pantallas, dispositivos móviles y redes sociales produce sobre nuestras
habilidades cognitivas (Greenemeier, 2011), nuestra estabilidad emocional (Heid, 2018) y nuestra
salud física (Goldhill, 2015). La proliferación de dispositivos dotados de IA en los que delegar
muchas de nuestras interacciones y procesos sociales Toma de decisiones, comunicación,
planificación podría derivar en una pérdida significativa de habilidades personales (Groth, Nitzberg
y Esposito, 2018).
- Erosión de la sociedad civil: episodios recientes como el de Cambridge Analytica han
demostrado que los espacios de diálogo abiertos por los nuevos medios tecnológicos esconden, en
muchos casos, intereses políticos y económicos concretos. De forma similar, existe el riesgo de
que la introducción de sistemas inteligentes
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 8

CONCLUSIONES

En este trabajo hemos realizado una pequeña “introducción” acerca del gran mundo de la IA
(Inteligencia Artificial), resaltando aquellos elementos técnicos relevantes en el camp o de la
moralidad artificial, por ejemplo, los problemas de decisión en conflictos, confiar en aquello que
pueda otorgarnos como respuesta frente a diferentes situaciones que ya mostramos con
anterioridad.

Como se menciona en este trabajo, el problema de descripción de valores no se resuelve en los

diversos documentos que tratan explícitamente este tema como las directrices sobre Inteligencia
Artificial Ética propuesto por el grupo de expertos en IA.

Hemos visto que tanto el vacío entre el “ser” y el “deber ser” como el problema de la definición de
los valores están íntimamente ligados a la falacia naturalista. En la última sección hemos analizado
este tema en particular, sosteniendo que muchas de las discusiones que actualmente se dan en el
campo de la moralidad artificial se enraízan en la tensión existente entre diferentes concepciones
meta éticas subyacentes. En este trabajo hemos optado explícitamente por un tratamiento del
problema desde el punto de vista realista naturalista.

Otros campos que no hemos tratado explícitamente o únicamente de forma tangencial y que
merecería mucho la pena pensar son el concepto mismo de autonomía humana cuando
confrontamos una tecnología cada vez más autónoma y el concepto mismo de evolución
tecnológica. En este campo nos podríamos servir de pensadores como Langdon Winner o Wendell
Wallach. Aunque considerado por muchos un algo remotamente probable o imposible de predecir,
no podemos concluir este trabajo sin mencionar al elefante en la habitación: Inteligencia General
Artificial (IGA) y la súper-inteligencia, y su efecto en la humanidad con situaciones tan distócicas
como las descritas en ciencia ficción.
ETICA Y TECNOLOGIA-Desarrollo de Inteligencia Artificial 9

REFERENCIAS BIBLIOGRAFICAS DE INTERES

 [1] F. Miró Linares, “Inteligencia Artificial y Justicia Penal: Más allá de los resultados
Lesivos causados por Robots”, Revista de Derecho y Criminología, vol. 2, no. 20, pp. 87-
130, Julio 2018
 [2] D.A. Pascual, “Inteligencia Artificial: Un Panorama de Algunos de los Desafíos Éticos
y Jurídicos”, Universidad de Girona, Ensayo, Informe no. 4, marzo 2017.
 [3] S. Marín García, “Ética e inteligencia artificial”, Cuadernos de la Cátedra CaixaBank
de la Responsabilidad Social Corporativa, vol. 1, no. 42, pp. 1-30, septiembre 2019.
 [4] A.L. Terrones Rodríguez, “Inteligencia artificial y ética de la responsabilidad”,
Cuestiones de la Filosofía, Pontifica Universidad Católica del Ecuador, vol. 4, no. 22, pp.
141-170, junio 2018.
 [5] E. García Cuesta, “Inteligencia Artificial y Ciberseguridad: aplicaciones y ética”, Data
Science Lab, vol. 1, no. 1, pp. 1-43, 2015.
 [6] Anónimo, (2018, septiembre 28). El rol de la ética en la Inteligencia Artificial (1ra ed.)
[Online]. Visite: https://www.gmv.com
 [7] J.I del Valle Martínez, “Inteligencia Artificial, Ética”, presentado en Bruselas,
Convocatoria, Colombia, Bogotá, 2019.
 [8] F. de Cuadra García, “Límites éticos de la inteligencia artificial”, Revista
Hispanoamericana de Cultura “Razón y Fe”, vol. 1, no.1, pp. 1-6, mayo 2011.
 [9] G. Pimentel Ramírez, “La inteligencia Artificial y su Influencia en la Eficiencia Del
Comercio Internacional,2020” M.S tesis, Universidad San Ignacio de Loyola, Perú, Lima,
2020.
 [10] Anónimo, “Inteligencia Artificial: Pasado, presente y futuro.”, Vector, vol. 1, pp. 6-
77, febrero 2020.