Inteligencia Artificial: ¿Una amenaza para la sociedad?

Ing. Karen Irlanda Batres Flores (1), Ing. Brayan Jesús Hernández del Carmen,
[email protected] (2), Luís Eduardo Ortíz Trejo,
[email protected] (3), Carlo Magno Sánchez Ruiz,
[email protected] (4).

INSTITUCIÓN.
1. Facultad de Ingeniería Mecánica Eléctrica, estudiante.
2. Instituto Tecnológico Superior de Teziutlán, estudiante.
3. Instituto Tecnológico Superior de Teziutlán, estudiante.
4. Instituto Tecnológico Superior de Teziutlán, estudiante.

RESUMEN
Este artículo presenta una investigación exhaustiva sobre los riesgos asociados
con las inteligencias artificiales (IA) aplicadas a la generación de deepfakes.
Comienza con una descripción detallada de cómo funcionan las IA, en particular,
las Redes Generativas Adversarias (GAN), en el proceso de crear contenido falso
convincente.
La investigación destaca las aplicaciones negativas de los deepfakes, centrándose
en tres áreas principales: falsificación de identidad, fraude y extorsión. Se discuten
casos en los que los deepfakes han sido utilizados para engañar a individuos,
difamar a personalidades públicas y perjudicar la integridad de información visual y
auditiva.
También se abordan las medidas de seguridad actuales para mitigar los riesgos
asociados con los deepfakes, incluyendo técnicas de detección, verificación de
autenticidad, marcas de agua digitales y legislación específica. Se destaca la
importancia de la educación y concientización del público, así como la
colaboración entre plataformas tecnológicas y expertos en ciberseguridad.

Palabras clave: inteligencia artificial, amenaza, deepfake, GANs, robo de

identidad.
 Artificial Intelligence: A threat to society?
Ing. Karen Irlanda Batres Flores (1), Ing. Brayan Jesús Hernández del Carmen,
[email protected] (2), Luís Eduardo Ortíz Trejo,
[email protected] (3), Carlo Magno Sánchez Ruiz,
[email protected] (4).

INSTITUTION.
1. Faculty of Electrical Mechanical Engineering, student
2. Higher Technological Institute of Teziutlán, student.
3. Higher Technological Institute of Teziutlán, student.
4. Higher Technological Institute of Teziutlán, student.

SUMMARY
This article presents comprehensive research on the risks associated with artificial
intelligences (AI) applied to the generation of deepfakes. It begins with a detailed
description of how AIs, particularly Generative Adversarial Networks (GANs),
function in the process of creating convincingly false content.
The research highlights the negative applications of deepfakes, foscusing on three
main areas: indentity forgery, fraud, and exortion. Cases where deepfakes have
beed used to deceive individuals, defame public figures, and undermine the
inegrity of visual and auditory information are discussed.
The article addresses current security measures to mitigate risks associated with
deepfakes, including detection techniques, authenticity verifications, digital
watermarks, and specific legislation. The importance of public education and
awarness, as well as collaboration between technological plataforms and
cybersecurity experts, is emphasized.

Keywords: artificial intelligence, threat, deepfake, GANs, identity theft.

1. PLANTEAMIENTO DEL PROBLEMA

Hoy en día, la Inteligencia Artificial se ha consolidado como una fuerza
transformadora en la sociedad, generando un impacto significativo en diversos
aspectos en la vida cotidiana. Sin embargo, este avance tecnológico trae consigo
nuevos desafíos y amenazas que plantean riesgos importantes para la seguridad y
la privacidad personal.
En este contexto, amenazas como el robo de identidad, la proliferación de
deepfakes y el uso de tecnologías como el GAN destacan y plantean graves
amenazas a la integridad y confianza de los datos personales.
El robo de identidad, impulsado por algoritmos inteligentes, plantea un riesgo
inminente para la privacidad de los usuarios, ya que puede resultar en la
manipulación de información sensible con consecuencias perjudiciales a nivel
personal y financiero.
Además, la prevalencia de los deepfakes, que utilizan técnicas avanzadas de IA
para crear contenido audiovisual falso que no se puede distinguir de la realidad,
amenaza con socavar la credibilidad de los medios digitales, pone en peligro la
exactitud de la información y aumenta las probabilidades de que se difunda la
desinformación.
Las GANs, por su parte, presentan un desafío adicional al ser utilizadas para
generar contenido manipulado de manera realista, lo que dificulta la detección de
información falsa. Esta capacidad de las GANs para generar datos engañosos
plantea la cuestión de cómo contrarrestar eficazmente la propagación de
contenido malicioso en línea y proteger la integridad de la información. Ante este
panorama, es imperativo explorar y proponer soluciones y medidas preventivas
que permitan mitigar los riesgos asociados con estas amenazas de la IA.
En este artículo se propone analizar a fondo estos desafíos, identificar las posibles
implicaciones para la sociedad y proponer estrategias efectivas para contrarrestar
los impactos negativos de la IA en la seguridad y privacidad, garantizando un uso
ético y responsable de estas tecnologías en beneficio de la sociedad.

1.2 OBJETIVO GENERAL

El objetivo de este artículo es resaltar el creciente impacto de la Inteligencia
Artificial en la sociedad actual, con especial atención a las amenazas emergentes
como el robo de identidad, la creación y propagación de deepfakes y el uso de
tecnologías como las GANs (Redes Alternativas Adversarias), explorando posibles
soluciones y medidas preventivas para abordar estos desafíos.

1.3 OBJETIVOS ESPECÍFICOS

 Explorar y comparar métodos de detección de deepfakes y GANs.
 Identificar y analizar los desafíos técnicos y éticos asociados con el robo de
identidad.
 Investigar e identificar patrones y cambios en la forma en que estas
tecnologías son utilizadas con el tiempo relacionado con el robo de
identidad.

1.4 PREGUNTAS DE INVESTIGACIÓN

¿Cuáles son los posibles impactos negativos de la inteligencia artificial en la
privacidad individual?

¿Cuáles son los riesgos y desafíos éticos asociados con el desarrollo y difusión de
tecnologías de IA?

¿Cuáles son las percepciones y preocupaciones de la sociedad en torno al riesgo

de robo de identidad?

¿Cómo pueden los individuos protegerse en un mundo cada vez más impulsado
por la Inteligencia Artificial?
¿Cuáles son los métodos y algoritmos actuales para la detección de deep fakes y
cómo se comparan en términos de precisión y eficacia?

1.5 DELIMITACIÓN
El artículo quedó delimitado de la siguiente manera:
 La investigación estará limitada al ámbito digital y se centrará en las
implicaciones en línea del robo de identidad y la propagación de deepfakes.
 En la investigación se abordarán las consecuencias y riesgos asociados, el
énfasis principal será en las estrategías de prevención y detección de
deepfakes y el robo de identidad.

1.6 LIMITACIONES
Las limitaciones del estudio se perfilaron de la siguiente forma:
 El avance tecnológico de la Inteligencia artificial puede hacer que algunos
hallazgos del estudio queden obsoletos en poco tiempo.
 El uso de datos confidenciales relacionados con ciertos casos de robo de
identidad puede estar limitado por restricciones de privacidad y seguridad
afectando la capacidad para acceder a información detallada sobre
incidentes específicos.

1.7 HIPÓTESIS
Hipótesis alternativa: a medida que las tecnologías avanzan, la creación y
propagación de deepfakes pueden no sólo representar una amenaza para la
sociedad en términos de robo de identidad, sino también generar transformaciones
en la confianza pública y la seguridad digital.

Hipótesis nula: no hay diferencias significativas en los riesgos asociados con el

robo de identidad y la creación de deepfakes a medida que avanzan las
tecnologías de Inteligencia Artificial. Se espera que la sociedad sea capaz de
adaptarse y contrarrestar cualquier impacto negativo significativo.

2. MARCO TEÓRICO
En los últimos años, el avance tecnológico ha ido incrementado a pasos
gigantescos, hoy en día, la Inteligencia Artificial se encuentra en constante
evolución y transformación; el cual, está transformando radicalmente en la forma
en que vivimos, trabajamos e interactuamos con la tecnología.
Este fenómeno tecnológico ha trascendido fronteras lo que ha demostrado su
capacidad dando a avances innovadores y desafíos éticos sin precedentes. Sin
embargo, existe un fundamento teórico que sustenta lo anterior.

2.1 Inteligencia Artificial

De acuerdo con la definición de Meseguer Gonzalez, P. López de Mántaeas
Badia, R. (2017), mencionan que “la IA es la ciencia e ingeniería que permite
diseñar y programar ordenadores de forma que realicen tareas que requieran
inteligencia.” (p. 8).
El diseño de un sistema de inteligencia artificial normalmente requiere la utilización
de herramientas de disciplinas muy diferentes como el cálculo numérico, la
estadística, la informática, el procesado de señales, el control automático, la
robótica o la neurociencia (Benítez Iglésias, R., 2014).

2.2 Deepfake.
Un deepfake es un video, una imagen o un audio generado que imita la apariencia
y el sonido de una persona. También llamados “medios sintéticos”, son tan
convincentes a la hora de imitar lo real que puede engañar tanto a las personas
como a los algoritmos de seguridad.
Los deepfakes son generados por la IA en directo, y sus formas más comunes de
aplicación son en videos o como filtros de realidad aumentada.
Deepfake como término proviene de la combinación de las palabras Deep
Learning y Fake, para representar algo falso que es resultado de la tecnología de
aprendizaje profundo.

2.2.1 ¿Cómo funcionan los deepfakes?

Los deepfakes se generan mediante machine learning, más concretamente,
utilizando el aprendizaje profundo y las redes adversariales generales (GAN).
Las GAN son una tecnología pionera en el campo de la visualización por
computadora y tiene mucho éxito a la hora de generar imágenes que se parecen a
las humanas.
2.2.2 ¿Cómo funciona el fraude de deepfake?
Independientemente del tipo de deepfake utilizado (video, audio o imágenes), el
fraude de deepfake utiliza en gran medida la tecnología para permitir al estafador
hacerse pasar por otra persona.
De hecho, este tipo de fraude cuenta ya con varios ejemplos destacados. Por
ejemplo, el caso del director general que fue convencido por una voz falsa creada
mediante clonación de voz para que transfiriera 24.000 dólares a un proveedor
que no conocía, en un país diferente.
2.2.3 ¿Cómo está afectando el fraude de deepfake a las empresas?
Los deepfakes son esencialmente suplantaciones de identidad, por lo que son un
método popular de fraude a los directores generales utilizando voces sintéticas.
Los consumidores y empleador pueden verse afectados por los intentos de fraude
que utilizan deepfakes, y pueden ser víctimas de robo de identidad a través de
ellos, ya que un estafador puede tratar de utilizar esta tecnología para superar las
verificaciones de seguridad biométricas.
También se debe tener en cuenta que los delincuentes y estafadores siguen
ideando nuevas formas de utilizar las deepfakes, como la extorsión, el chantaje y
el espionaje industrial. Las empresas, las organizaciones y los particulares deben
permanecer atentos. (Peralta, 2021)

2.3 Redes Adversarias Generativas (GANs)

Las redes adversariales generativas son un método basado en el entrenamiento
de dos redes neuronales, una denominada generadora y otra discriminadora,
compitiendo entre sí para generar nuevas instancias que se asemejan a las de la
distribución de probabilidad de los datos de entrenamiento.
Las GANs tienen una amplia gama de aplicaciones en campos como la visión por
computadora, la segmentación semántica, la síntesis de series temporales, la
edición de imagen, el procesamiento del lenguaje natural y la generación de
imagen a partir de texto, entre otros. Los modelos generativos modelizan la
distribución de probabilidad, generan nuevas instancias cercanas a la distribución
original.

2.4 Generación de imagen a partir de texto.

Para generar imágenes a partir de textos, las GAN pueden utilizarse de la
siguiente manera:
 Generador de texto a imagen. El generador toma una descripción de texto
como entrada y la transforma en una imagen. El generador de la GAN
aprende a mapear el texto a representaciones visuales, generando
imágenes que coinciden con la descripción dada.
 Entrenamiento supervisado. Durante el entrenamiento, las GAN se
alimentan con pares de texto e imagen para aprender la correspondencia
entre ellos. El discriminador evalúa si la imagen generada a partir del texto
es coherente y realista. A medida que se entrena, el generador mejora su
capacidad para generar imágenes que se ajusten a las descripciones de
texto.

2.5 Edición de imagen

En la edición de imágenes, las GAN pueden usarse para alterar imágenes
existentes o generar versiones modificadas de ellas teniendo dos enfoques:
 Generación condicional (cGAN). Las GAN condicionales permiten la edición
de imágenes al proporcionar información adicional como una etiqueta, una
máscara de segmentación o una imagen de referencia. El generador puede,
por ejemplo, cambiar el color de un objeto en una imagen según las
especificaciones dadas.
 Estilo de transferencia. Las GAN pueden aprender a transferir el estilo de
una imagen de referencia a otra imagen, lo que permite cambiar la
apariencia artística de una imagen a partir de otra.

2.6 Visión por computadora.

En el campo de la visión por computadora, las GAN se utilizan para una variedad
de aplicaciones, como la mejora de imágenes, la generación de datos de
entrenamiento para modelos de aprendizaje automático, creación de contenido
realista como caras humanas sintéticas o paisajes y reconstrucción de imágenes.

3. METODOLOGÍA
Esta investigación tiene un enfoque cualitativo, se basa en la recopilación y
análisis de datos provenientes de fuentes diversas para obtener una comprensión
profunda del tema, además de la exploración de casos de estudio a través de
eventos específicos y las circunstancias relacionadas con la amenaza potencial de
la IA en la sociedad. El plan de estudio queda de la siguiente manera:
En la imagen anterior podemos apreciar los principios de la metodología seguidos
para el desarrollo de este proyecto, cada punto corresponde al modelo
metodológico empleado:

Contextualización: Se debe considerar las circunstancias, antecedentes y factores

relevantes que rodean un tema, permitiendo una interpretación más precisa y
profunda. Al contextualizar, se busca captar la complejidad y las conexiones que
influyen en la comprensión integral de un asunto.

Pregunta de investigación: son indagaciones formuladas con el propósito de guiar

y estructurar la investigación en un tema específico. Estas preguntas orientan la
exploración y ayudan a definir el alcance de un estudio, buscando respuestas que
contribuyan al conocimiento o resuelvan problemas. Son fundamentales para
enfocar la investigación, identificar objetivos y establecer el marco teórico,
proporcionando dirección y claridad en la indagación académica o científica.

Justificación: la explicación razonada y fundamentada de la relevancia y necesidad

de llevar a cabo un proyecto. En este proceso, se argumentan los motivos que
respaldan la iniciativa, demostrando su importancia, utilidad o contribución
potencial. La justificación proporciona una base lógica y convincente para
persuadir a otros sobre la validez y el valor del proyecto, estableciendo la conexión
entre los objetivos propuestos y las circunstancias existentes.

Revisión de la literatura: implica analizar, evaluar y resumir la investigación

existente y las publicaciones relevantes sobre un tema específico. Este proceso
proporciona una visión integral del estado actual del conocimiento, identificando
lagunas, tendencias y enfoques previos.
Selección de fuentes: elegir y decidir qué fuentes de información utilizar en un
proyecto, investigación o análisis. Implica la evaluación crítica de diversas fuentes,
como libros, artículos, informes y datos, para asegurar la fiabilidad, relevancia y
autoridad de la información recopilada.

Identificación de riesgos potenciales: proceso de identificar y analizar posibles

amenazas o eventos adversos que podrían afectar un proyecto, proceso o
sistema. Se busca anticipar y comprender factores que podrían obstaculizar el
logro de objetivos, afectar el rendimiento o causar daños.

Evaluación de impacto: es el seguimiento de los efectos y consecuencias de una

intervención, proyecto o acción a lo largo del tiempo. Implica evaluar cómo
cambian y se desarrollan los resultados y el impacto esperado a medida que se
implementa una iniciativa.

Ética en la IA: se centra en la consideración de principios morales y valores en el

desarrollo, implementación y uso de la inteligencia artificial. Implica abordar
cuestiones éticas relacionadas con la toma de decisiones autónoma, la privacidad,
la equidad, la transparencia y la responsabilidad.

Resultados y conclusiones: es el resumen de los hallazgos clave y responde a los

objetivos planteados, destacando las implicaciones más importantes. Los
resultados presentan datos y evidencias recopiladas durante el estudio. Ambas
secciones proporcionan una síntesis integral de los logros, permitiendo a los
lectores comprender las contribuciones del trabajo y su relevancia. Es crucial
vincular los resultados con los objetivos originales para cerrar el círculo del estudio
de manera significativa.

4. RESULTADOS
¿Cómo se pueden detectar los deepfakes?
Tanto si se trata de un video como de una imagen, hay algunas cosas a las que
hay que prestar atención para detectar un deepfake:
1. Incongruencias en la piel (demasiado lisa o demasiado arrugada, o su edad
parece desviada en comparación con el cabello).
2. Sombras apagadas alrededor de los ojos.
3. Errores de deslumbramiento en las gafas.
4. Vello facial de aspecto poco realista.
5. Lunares faciales poco realistas.
6. Demasiado o muy poco parpadeo.
7. Color de los labios fuera de lugar en comparación con la cara.
8. Movimiento poco realista y alrededor de la boca.
La mayoría de los deepfakes dejan la sensación de que algo está mal, y eso es
porque hay errores en el proceso que dejan residuos, pues las inteligencias
artificiales aún no son capaces de cubrir con la totalidad de los detalles. (Identidad
y biometría, 2023)
5. CONCLUSIONES
Como conclusión de la investigación propuesta, la hipótesis plantea que estos
avances tecnológicos representan una amenaza significativa, no sólo para la
seguridad digital, sino también para la confianza pública. Se espera que la
complejidad de los deepfakes supere las capacidades de detección actuales y los
riesgos asociados aumenten.
No obstante, en esta investigación se reconocen limitaciones, como la rápida
evolución de la tecnología puede que algunos hallazgos queden desactualizados y
la complejidad ética y legal de estas cuestiones puede resultar en limitaciones
para abordar todos los aspectos.
En última instancia, este estudio tiene como objetivo proporcionar información
crítica sobre la intersección de la IA, la suplantación de identidad y los deepfakes,
brindando prevención, detección y legislación que puedan mitigar los riesgos
asociados y promover un uso ético y responsable de estas tecnologías
emergentes.

6. REFERENCIAS

Meseguer González, P. & López de Mántaras Badia, R. (2017). Inteligencia artificial: ( ed.).
Editorial CSIC Consejo Superior de Investigaciones Científicas.
https://elibro.net/es/ereader/itsteziutlan/42319?page=8

Benítez Iglésias, R. (2014). Inteligencia artificial avanzada: ( ed.). Editorial UOC.

https://elibro.net/es/ereader/itsteziutlan/57582?page=14

Identidad y biometría. (3 de agosto de 2023). Deepfakes al Alza: Cómo protegerte frente a ellos.
Obtenido de VeriDas: https://veridas.com/es/deepfakes-al-alza-como-protegerte-frente-a-
ellos/

Peralta, L. A. (2021). Robos millonarios utilizando inteligencia artificial: ¿Pueden los 'deepfakes'
suplantar nuestra identidad? Obtenido de Retina:
https://retinatendencias.com/negocios/robos-millonarios-utilizando-inteligencia-artificial-
pueden-los-deepfakes-suplantar-nuestra-identidad/