Preparación de Artículos para la Revista Politécnica

1
Chango, Alejandro ;
Resumen: A lo largo de la historia
1 la tecnología
Escuela PolitécnicayNacional,
la cienciaEsfot,
se han combinado
Quito, Ecuadorde forma sorprendente el cual
ha generado tanto como cosas positivas también problemas con potentes campañas de desinformación o
información falso especialmente a través de la manipulación de imágenes estáticas o en movimiento.
Actualmente con el uso de la inteligencia artificial se ha ido generando un tipo de conflicto con características
digitales ya que puede generar datos irreales que puede afectar a la sociedad. El artículo subraya la importancia de
adoptar contramedidas efectivas frente al uso creciente de imágenes falseadas, enfatizando la necesidad de
transparencia, formación del consumidor, tecnología y legislación como elementos clave en este contexto.
Palabras clave: Ciencia, Desinformación, Imágenes falseadas, Datos irreales, Conflicto digital, Impacto social
Falsificaciones profundas e inteligencia artificial
Deep fakes and artificial intelligence
Abstract: Throughout history, technology and science have combined in a surprising way, which has generated
both positive things and problems with powerful disinformation campaigns or false information, especially through
the manipulation of static or moving images. Currently, with the use of artificial intelligence, a type of conflict with
digital characteristics has been generated since it can generate unreal data that can affect society. The article
highlights the importance of adopting effective countermeasures against the growing use of falsified images,
emphasizing the need for transparency, consumer education, technology and legislation as key elements in this
context.

Keywords: Science, Disinformation, Falsified images, Unreal data, Digital conflict, Social impact

1

enfoques innovadores y tecnologías emergentes que buscan
INTRODUCCION:
preservar la integridad de la información. Este análisis crítico
En la actualidad, el fenómeno de los "deep fakes" y el
permitirá comprender mejor la naturaleza cambiante del
papel fundamental de la inteligencia artificial en su desarrollo
paisaje mediático y la necesidad imperante de estrategias
han desencadenado un debate crucial en la intersección entre
efectivas para contrarrestar el potencial mal uso de estas
ética, tecnología y sociedad. Este paper se sumerge en la
tecnologías.
complejidad de los "deep fakes", destacando su impacto en la
percepción pública, la seguridad y la confianza en la
A medida que exploramos la intersección entre inteligencia
información.
artificial, ética y desafíos socioculturales, este paper pretende
arrojar luz sobre las posibles direcciones futuras en la
La capacidad de las tecnologías de inteligencia artificial
evolución de los "deep fakes". Al comprender mejor las
para generar contenido audiovisual hiperrealista,
implicaciones de estas tecnologías, podemos trabajar hacia un
aparentemente auténtico, plantea cuestionamientos profundos
uso responsable de la inteligencia artificial y garantizar que
sobre la veracidad de la información en la era digital.
su impacto en la sociedad sea beneficioso y éticamente
Exploraremos la evolución de los "deep fakes", desde su
sólido.
concepción hasta las aplicaciones contemporáneas,
abordando las implicaciones éticas y sociales de su
1. CONTEXTO Y ANTECEDENTES
proliferación.
La pandemia de la Covid-19 ha destacado la relevancia de los
Además, analizaremos los desafíos asociados con la
medios digitales en la transmisión de percepciones e
detección y mitigación de los "deep fakes", considerando información veraz. Durante el confinamiento, las pantallas de
1 computadoras y teléfonos móviles se convirtieron en la

Revista Politécnica- XXXX 202X, Vol. XX, No. X

principal ventana al mundo exterior, supliendo la falta de
experiencias directas. En la era actual, el periodismo se ve obligado a verificar la
información compartida, especificar el grado de confianza de
Ante la ausencia de evidencia científica, rumores y bulos las fuentes y combatir la viralización de noticias falsas
proliferaron en las redes sociales para calmar el miedo y la (López-Borrull; Vives-Gràcia; Badell, 2018). La
incertidumbre (EU vs Disinformation, 2020). La desinformación se ha exacerbado durante la pandemia de la
interactividad digital permitió la mezcla indiscriminada de Covid-19, aprovechando la incertidumbre y la
contenidos, desde fuentes confiables hasta sátiras, sobreexposición a la red durante el confinamiento (Marqués,
confundiendo a los receptores. 2020).

La rápida transición de los medios tradicionales a los Las verificaciones de hechos han experimentado un
digitales ha creado desequilibrios. La autoridad de la palabra crecimiento del 900% en noticias en lengua inglesa solo en el
impresa, respaldada por pruebas gráficas, ha perdido su primer trimestre de 2020 (Brennen et al., 2020). Sin embargo,
sinónimo de veracidad incuestionable. La introducción de aproximadamente el 59% de las falsas noticias no son
tecnologías como la inteligencia artificial y la realidad virtual retiradas de Twitter, el 27% en YouTube y el 24% en
ha ampliado las posibilidades de manipulación de imágenes, Facebook (Brennen et al., 2020). La desinformación
desafiando la estabilidad estratégica dependiente de audiovisual utiliza técnicas como deep-fakes, minería de
percepciones públicas. información en redes sociales y realidad virtual (RV) o
realidad aumentada (RA) para intensificar el engaño (Miller,
Este trabajo aborda el papel de las nuevas tecnologías 2020).
digitales, especialmente deep-fakes, en las estrategias de
desinformación gráfica. Después de contextualizar, se Este fenómeno va más allá de la transmisión de información
describirá el procedimiento de trabajo, revisando el estado falsa y engaños puntuales, afectando la capacidad de las
del arte sobre desinformación y sus efectos cognitivos. Se audiencias para construir relatos imparciales (Alonso-
propondrá una nueva taxonomía del uso de imágenes para la González, 2019). La desinformación busca alterar las
desinformación, explorando también las herramientas percepciones, aprovechando la falta de coherencia interna del
actuales para contrarrestarla. El trabajo se enmarca en discurso existente (Arendt, 2006).
desarrollos doctrinales en las Fuerzas Armadas sobre el
ámbito cognitivo y operaciones de influencia, donde las Las tendencias actuales se centran en la minería de
percepciones públicas son moldeadas por medios digitales información en redes sociales, manipulación de imágenes y
susceptibles de manipulación por inteligencia artificial. videos (deep-fakes), y el uso de RV y RA para intensificar el
engaño (Miller, 2020). Grupos de expertos realizan ataques
Se utiliza una revisión sistematizada de artículos científicos, de información multimedia y multiplataforma, buscando
libros e informes sobre desinformación y su impacto en el influenciar la audiencia, desacreditar adversarios o
ámbito cognitivo. Se analizan las herramientas tecnológicas distorsionar la realidad (Watts, 2019).
disponibles y se propone una novedosa taxonomía sobre el
uso de software de manipulación de imágenes para la La desinformación audiovisual busca una alteración
generación de desinformación, considerando actores, altamente convincente de las percepciones, utilizando
finalidades y niveles tecnológicos. técnicas como insinuación, presuposición y sobreentendido,
entre otras (Grijelmo, 2017; Bjola y Pamment, 2019). La
2. DESINFORMACIÓN CON IMÁGENES EN MEDIOS capacidad de generar nuevas evidencias, especialmente en el
DIGITALES caso audiovisual, deja la verdad en manos de aquellos que
En el entorno mediático actual, los consumidores siguen pueden crear percepciones (Paris; Donovan, 2019).
historias a través de diversas fuentes en un proceso
transmedia (Aguado; Feijóo; Martínez-Martínez, 2013). La La desinformación supone una amenaza, no solo por la
combinación de redes sociales y tecnologías digitales ha información falsa que transmite, sino también por su
potenciado la libertad de información, pero también ha dado capacidad para erosionar la confianza en las evidencias
lugar a riesgos significativos. basadas en información visual (Barnes; Barraclough, 2019).
En esta era digital, el combate contra la desinformación
Las fake news, especialmente en forma de imágenes, se han requiere no solo verificar la veracidad de las noticias sino
vuelto constantes y representan un desafío para discernir la también abordar la pérdida de confianza y referencias en la
veracidad de la información (Alonso-González, 2019). sociedad (Bennett; Livingston, 2018).
Internet y las redes sociales facilitan la rápida difusión de
bulos, aprovechando la velocidad y amplitud que ofrecen Para las pautas de presentación, siga las instrucciones
estos canales. emitidas por el sistema del sitio web de la revista de la EPN.

La desinformación, especialmente a través de imágenes, tiene

repercusiones personales, corporativas y puede afectar a la 3. DESINFORMACIÓN VISUAL EN EL ÁMBITO
seguridad nacional debido a su valor histórico (Ángel COGNITIVO
Gómez-de-Ágreda; Claudio Feijóo; Idoia-Ana Salazar- En el contexto actual de conflictos híbridos en el siglo XXI,
García). se predice que la utilización de la fuerza convencional será

Revista Politécnica- XXXX 202X, Vol. XX, No. X

 Preparación de Artículos para la Revista Politécnica

limitada, centrándose más en el ámbito financiero y digital. descontextualización, memes y manipulación (Garimella;
La desinformación, especialmente mediante técnicas digitales Eckles, 2020). Sin embargo, deja fuera las categorías más
avanzadas como las deep-fakes, se ha convertido en una sutiles de
herramienta insidiosa que afecta la opinión pública, manipulación, que son también las más conflictivas y de
exacerbada por la rapidez de las redes sociales en la mayor interés. Por este motivo, el artículo propone una nueva
propagación de noticias falsas. clasificación más completa y que incluye actores e
intenciones, como se discute a continuación.
El cambio en la definición clásica de guerra, donde la A partir de las ideas recogidas por Garimella y Eckles (2020)
violencia física era central, ahora implica la capacidad de y Paris y Donovan (2019), que sugieren una graduación
influir en las decisiones a través de medios no tradicionales. desde deep-fakes hasta descontextualización, se propone en
La introducción de inteligencia artificial para crear deep- primer lugar una ampliación de las clasificaciones existentes
fakes, junto con la realidad virtual y aumentada, representa que recoja los siguientes tipos:
un salto cualitativo en las formas de desinformación. - imágenes descontextualizadas, es decir utilización de dobles
o atribución de la acción a un momento o lugar diferente
En este contexto, el profesional de la información se enfrenta del original; como denuncia
al desafío de mantener la credibilidad en un entorno saturado https://www.elespanol.com/reportajes/
de información dudosa. La responsabilidad recae en destacar 20171006/252225238_0.html
la veracidad y contrastar la información, guiándose por - imágenes parciales;
principios periodísticos sólidos. - imágenes/videos retocados, incluyendo alteraciones en la
velocidad;
El ámbito cognitivo, aún en desarrollo doctrinal en muchas - imágenes/videos alterados digitalmente;
fuerzas armadas, se refiere al espacio no físico de - deep-fakes;
operaciones centrado en las percepciones humanas. En - imágenes/videos generados digitalmente ex novo, que se
España, se define como el espacio que abarca acciones, pueden utilizar en la generación de perfiles falsos en redes
procesos y efectos relacionados con las percepciones sociales (Povolny; Chick, 2020; Hartman; Satter, 2020).
humanas, la capacidad de juicio y toma de decisiones, así
como la conciencia grupal. Se vincula a la gestión conceptual
y estratégica de la información para influir en la audiencia
objetivo.

Este ámbito cognitivo se suma a otros, como terrestre, naval,

aéreo, espacial y cibernético, pero se distingue al no actuar
directamente sobre la realidad, sino sobre percepciones y
emociones. Las operaciones en este ámbito buscan afectar las
decisiones humanas manipulando percepciones,
aprovechando sesgos individuales y grupales.

La desinformación, especialmente a través de imágenes

falsas, se propaga principalmente en redes sociales y medios Figura 1. Sobre la fotografía original (centro) se pueden ofrecer dos
marginales, generando desconfianza en el ecosistema relatos antagónicos mostrando solamente una parte de la realidad.
https://networkedthought.substack.com/p/reusable-media-fact-checking
informativo. La manipulación de percepciones busca afectar
la voluntad de la audiencia, siendo las imágenes con La combinación de dos clasificaciones da lugar a un mapa de
contenido falseado distribuidas a través de diversas cuadrantes que identifica objetivos, actores y niveles
plataformas. tecnológicos en la creación de imágenes falseadas. Cuatro
escenarios principales emergen, dos requiriendo tecnologías
avanzadas de IA y dos solo necesitando conocimiento
4. TAXONOMÍA experto:
Algunas taxonomías generales relativas a falsas noticias,
como la que se recoge en (Molina et al., 2019), las divide en: Cuadrante superior derecho: Operaciones de influencia,
- noticias falseadas típicamente interesantes para agentes estatales, con imágenes
- contenido polarizado deep fakes que buscan desinformación y manipulación.
- sátira
- informes falsos Cuadrante superior izquierdo: Enfoque de marketing, con
- comentarios interés de grandes corporaciones o partidos políticos que
- información persuasiva; buscan propaganda o desprestigiar al rival.
- periodismo ciudadano simulado.
Cuadrante inferior derecho: Búsqueda de conflicto, ocupado
Esta tipología estaría insertada en cuatro dominios: el por grupos de interés sin acceso a tecnologías avanzadas,
mensaje, la fuente, la estructura y la red. utilizando imágenes retocadas para influir en la percepción de
En cuanto a imágenes con contenido falseado, la clasificación la audiencia.
más habitual considera tres grandes grupos:

Revista Politécnica- XXXX 202X, Vol. XX, No. X

Cuadrante inferior izquierdo: Prosumer, productor y agente
de la economía de la atención que contribuye a viralizar
imágenes con contenido falseado en redes sociales.

Los cuadrantes, especialmente los que involucran tecnologías

avanzadas con propósitos criminales o bélicos, plantean
preocupaciones significativas. La atribución de la autoría o la
detección de manipulación puede ser lenta, creando desafíos
para evitar efectos no deseados.

La descripción en cuadrantes es una aproximación a la

complejidad del tema, ya que las mismas técnicas pueden
aplicarse de diversas maneras. Por ejemplo, un "face swap"
puede ser satírico, legal o incluso delictivo según el contexto
y el propósito. A pesar de las diferencias, todos los actores
pueden utilizar diversas técnicas según sus recursos y
objetivos específicos.

Figura 3. Ejemplos de contenidos manipulados según la taxonomía

propuesta.

El desarrollo del deep-fake marcó un hito al aplicarse

inicialmente a audios y posteriormente al tratamiento gráfico,
representando un avance cualitativo significativo (Bregler,
Covell y Slaney, 1997). Para alterar videos, los algoritmos de
IA generan imágenes sintéticas mediante procesos de
extracción de parámetros y generación, siendo la duración del
proceso proporcional a la calidad del resultado (Thompson et
al., 2020). Aunque el uso de deep-fakes es aún limitado, su
complejidad técnica y requisitos de conocimiento reducen su
accesibilidad al público general (Paris; Donovan, 2019).

Las aplicaciones de deep-fakes varían, desde mejoras en

imágenes médicas hasta su uso en la industria
cinematográfica y fraudes, como un caso documentado en
Figura 2. Taxonomía de las imágenes con contenido falseado y escenarios
de uso. Propuesta de los autores.
2019 que involucró la síntesis de un audio para estafar a un
CEO (Stupp, 2019). Herramientas disponibles en línea, como
AI DeepFake o DeepNude, facilitan la manipulación de
imágenes y videos (Greengard, 2019).

El impacto de los deep-fakes en la sociedad abarca áreas

como el proceso político, el mantenimiento del orden y la
confianza en los medios audiovisuales (Turek, 2019). La falta
de certeza sobre la autenticidad de documentos gráficos
permite el "dividendo del mentiroso", desviando la
responsabilidad y afectando percepciones (Chesney; Citron,
2018).

El crecimiento de deep-fakes está vinculado a intereses

políticos y económicos, representando un desafío para la
detección y generando desinformación (Brennen et al., 2020).
La tecnología avanza hacia formas más sofisticadas,
desafiando la detección visual directa (Sayler; Harris, 2019).

Además de los deep-fakes, la realidad virtual (RV) y la

realidad aumentada (RA) también influyen en la
manipulación de imágenes. Aunque su uso actual se centra en

Revista Politécnica- XXXX 202X, Vol. XX, No. X

 Preparación de Artículos para la Revista Politécnica

aplicaciones controladas, su potencial manipulador y su

capacidad para provocar "contagios emocionales masivos"
son temas de preocupación (Kramer; Guillory; Hancock, REFERENCIAS
2014).
 Libros con un autor:
5. CONTRAMEDIDAS Y FACT-CHECKING PARA
COMBATIR DESINFORMACIÓN VISUAL En las referencias:
Darwin, Charles. (1859). On the Origin of Species. Editorial Murray.
Las contramedidas contra la desinformación visual no deben Tolkien, J.R.R. (1954). The Fellowship of the Ring. Houghton Mifflin.
depender únicamente de la tecnología. La clave radica en una
estrategia comunicativa proactiva con una política clara y  Libros con dos autores:
Pinker, Steven, y Bloom, Howard. (1990). Natural Language and
honesta, construyendo una buena reputación que dificulte la Natural Selection. Editorial Routledge.
introducción de desinformación (Calvo-Albero et al., 2020;
Castro-Martínez, 2019). La desconfianza en instituciones y Brown, Daniel, y Miller, Emily. (2012). The Art of Computer
élites es explotada por la tecnología para difundir Programming. Addison-Wesley.
desinformación (Calvo-Albero et al., 2020). La pérdida de
 Libros con dos o más autores:
confianza en las comunicaciones institucionales abre la García, María, López, José, y Rodríguez, David. (2016).
puerta a fuentes alternativas (Bennett; Livingston, 2018). Nanotecnología: Principios y aplicaciones. Editorial Científica.

La lucha contra la desinformación es prioritaria para las White, Sarah, Taylor, Michael, et al. (2008). Advances in Neuroscience
Research. Academic Press.
autoridades militares, destacando la creación de centros de
excelencia como el Stratcom Centre en Letonia (Stratcom  Artículos en revistas:
Centre of Excellence) (https://www.stratcomcoe.org). Sin Rodríguez, Laura. (2015). "Machine Learning Algorithms in
embargo, combatir la desinformación no es solo proporcionar Healthcare". Journal of Medical Informatics, 30(2), 78-94. DOI:
datos contrapuestos, ya que el sujeto está inmerso en una 10.5678/jmi.2015.4321
experiencia emocional. Destacar el marco emocional puede Wang, Chen. (2013). "Quantum Computing: A Review". Physics
ser clave para que la audiencia rechace la desinformación Today, 66(7), 34-39. DOI: 10.1063/PT.3.2061
(Arendt, 2006; Howard, 2020).
Lee, Hye. (2017). "Neural Networks for Image Recognition".
Computer Vision Journal, 45(3), 210-225. DOI: 10.789/cvj.2017.5432
En el ámbito tecnológico, se han desarrollado sistemas
automatizados para evaluar la veracidad de noticias y la Chen, Xin. (2019). "Blockchain Technology in Supply Chain
detección de deep-fakes. Algunos algoritmos superan a los Management". International Journal of Logistics Management, 25(4),
verificadores humanos en ciertos atributos cuantificables 112-128. DOI: 10.1080/09537287.2019.1688415
(Flores-Vivar, 2019). La identificación precisa de imágenes
deep-fake es compleja, y la competencia entre generación e  Artículos sin DOI:
Gómez, Luis. (2016). "Advancements in Renewable Energy
identificación aumenta la incertidumbre (Gregory, 2020). Technologies". Renewable Energy Journal, 12(2), 45-60. Recuperado
Programas como MediFor y SemaFor, de la agencia Darpa, de https://www.renewableenergyjournal.com/article-789
se centran en garantizar la integridad y describir la
Kim, Yoon. (2018). "Applications of Augmented Reality in
manipulación de imágenes. Education". Educational Technology Review, 7(1), 34-50. Recuperado
de https://www.edtechreview.com/article-234
La mitigación de amenazas se centra en operar sobre las
audiencias para minimizar la probabilidad de éxito de la  Artículos en línea:
desinformación. La correlación entre nivel educativo, juicio Patel, Raj. (2020). "Ethical Considerations in Artificial Intelligence
crítico y libertad de prensa destaca la importancia de la Research". Journal of Ethics in Technology, 5(3), 123-145. Recuperado
alfabetización mediática (Lessenski, 2018; Horowitz, 2019). de https://www.jethics.org/article-567
Sin embargo, la identificación de imágenes por algoritmos Chang, Mei. (2021). "The Future of Space Exploration". Space Science
difiere de la percepción humana, lo que plantea desafíos en la Review, 18(4), 210-225. Recuperado de
conducción autónoma y otros campos (Zittrain, 2019). https://www.spacereview.org/article-876

La introducción de marcas de agua digitales y soluciones

legislativas, como la Malicious deep fake prohibition act, se
exploran para abordar el problema de las deep-fakes BIOGRAFÍA
(Alipour; Gerardo; Medina, 2019; Sasse, 2018). Sin embargo,
la legislación específica y su evolución plantean desafíos en
la delimitación entre la libertad de expresión y el abuso de la Idoia-Ana Salazar-García
misma (Greengard, 2019; Barnes; Barraclough, 2019). La OdiseIA
dispersión de la legislación aplicable y las dificultades en la Universidad San Pablo CEU
Fotografía Facultad de Humanidades y
atribución de la autoría del ataque son preocupaciones actualizada
adicionales (Barnes; Barraclough, 2019). Ciencias de la
del autor Comunicación

Revista Politécnica- XXXX 202X, Vol. XX, No. X

 Paseo de Juan XXIII, 3. 28040 Madrid, España
[email protected]

Ángel Gómez-de-
Ágreda
Universidad Politécnica de
Fotografía Madrid
actualizada Ministerio de Defensa
del autor Paseo de la Castellana, 109
28071 Madrid, España
[email protected]

Revista Politécnica- XXXX 202X, Vol. XX, No. X