Peligro en La Desinformación Artificial

Peligro en la desinformación artificial
Laura Sofía Novoa Pérez
Clase de lectura y redacción de textos
Universidad Distrital Francisco José de Caldas

Los modelos de lenguaje grande (LLM por sus siglas en inglés), son un gran avance para
la inteligencia artificial, estos pueden generar discursos convincentes, traducir idiomas y
responder preguntas complejas entre otras cosas. La herramienta de LLM más reconocida en el
momento es ChatGPT, este es un procesador de lenguaje creado por Open IA, una compañía
fundada entre otros por Elon Musk. Esta IA ha ocasionado controversia en la comunidad
científica ya que se han evidenciado falencias en su sistema y usos inadecuados por parte de los
usuarios de este programa. A continuación, se expondrán algunos puntos importantes con
relación a las consecuencias que trae el uso de esta herramienta.
Se han dado situaciones en la que ChatGPT ha demostrado desaciertos en la información
que proporciona, un ejemplo de esto es un testimonio de un estudiante de doctorado en
bioestadística de la Universidad de Harvard, en un artículo de la revista Nature, Kareem Carr
expresa que se sintió defraudado al probar éste para un trabajo, él piensa que sería difícil para el
chatbot alcanzar el nivel de especificidad que necesita; con este caso se evidencia la limitación que
posee esta herramienta, y a varios usuarios de la academia les pueden ocurrir situaciones similares
en las que puedan denotar más fallos. En la revista Nature, Parthasaranthy, especialista en la
gobernanza de tecnologías emergentes, habla de cómo los LLM podrían ayudar u obstaculizar la
ciencia, ella dice:
"Originalmente había pensado que los LLM podrían tener impactos
democratizadores y empoderadores. Cuando se trata de ciencia, podrían
capacitar a las personas para extraer rápidamente información de la
información: consultando síntomas de enfermedades, por ejemplo, o generando
resúmenes de temas técnicos. Pero los resúmenes algorítmicos podrían cometer
errores, incluir información obsoleta o eliminar matices e incertidumbre, sin

que los usuarios lo aprecien. Si alguien puede usar LLM para hacer
comprensible la investigación compleja, pero corre el riesgo de obtener una
visión simplificada e idealizada de la ciencia que está en desacuerdo con la
realidad desordenada, eso podría amenazar el profesionalismo y la autoridad.
También podría exacerbar los problemas de confianza pública en la ciencia. Y
las interacciones de las personas con estas herramientas serán muy
individualizadas, y cada usuario obtendrá su propia información generada”.
Es importante mencionar que las personas con la capacidad de identificar un error en los
datos proporcionados por este programa son los y las profesionales, que poseen mucho
conocimiento, por esto, se podría afirmar que la persona que quiera hacer uso de este programa
para un fin de aprendizaje puede caer en la desinformación ya que es más vulnerable por no hacer
parte de este limitado grupo de académicos.
Con la creación del internet y redes sociales, experimentamos cambios en varios ámbitos,
desde cómo nos relacionamos con las personas hasta nuestras formas de aprendizaje, pero esto
desató ciertas problemáticas, estas se relacionan con las consecuencias que ha traído ChatGPT, y
como ya se mencionó, un inconveniente es la desinformación, este tema no se comprende solo en
los datos falsos proporcionados, incluye información que tiene cierta carga social e histórica
importante dónde se puede ver involucrada la parcialidad y subjetividad de las personas que
entrenan el programa o intervienen en el tipo de información que se muestra y de ahí también
podemos profundizar en los mecanismos para decidir cuál información eliminan y cuál no;
alrededor del 2018, en las redes sociales, se evidencia que las personas empiezan a condenar más
que antes contenido inadecuado, las compañías encuentran una solución por medio de una IA que
se entrena para identificar y eliminar comentarios, videos y fotos inapropiadas, pero surgió otro
inconveniente, las IA no podían identificar en su totalidad la información inapropiada, frente a
esto surge un nuevo cargo conocido como “moderadores de contenido”, la labor de estas personas
es eliminar el contenido inapropiado, estos moderadores podrían estar trabajando en ChatGPT,
entonces, ¿Bajo qué parámetros se les dice a estos trabajadores que eliminen o no información?
Además, la confianza que genera y la convicción con la que redacta la IA se presta para que se
pueda manejar la opinión pública o perpetuar pensamientos con un sesgo histórico, cayendo en
discursos discriminativos, por ejemplo, el caso de Galactic, un LLM creado por Meta, fue
entrenado para crear resúmenes científicos y tuvo que cerrar ya que los usuarios comenzaron a
usarla para promover discursos racistas. Podemos cuestionar las intenciones que puede tener Open
AI como empresa privada porque su trabajo se puede ver manipulado por los intereses personales.
Para concluir, se puede afirmar que las falencias de ChatGPT y sus usos inadecuados traen
consecuencias preocupantes tanto para las ciencias exactas como para las ciencias sociales, lo cual
genera un impacto importante en el sentido en que se refuerza problemáticas existentes en vez de
contribuir a solucionarlas. Desafortunadamente estamos expuestos a la manipulación de
información que nos proporciona el internet, pero pienso que colectivamente se debería fomentar
el aprendizaje siempre siendo críticos de qué fuentes se obtiene la información.

Bibliografía
Calvo, J. (s/f). Moderadores de Contenido: The Cleaners. Europeanvalley.es. Recuperado el 23
de febrero de 2023, de https://www.europeanvalley.es/noticias/moderadores-de-
contenido-the-cleaners/
Qué es ChatGPT y para qué sirve. (2023, enero 23). National Geographic.
https://www.nationalgeographicla.com/ciencia/2023/01/que-es-chatgpt-y-para-que-sirve
Stokel-Walker, C., & Van Noorden, R. (2023). What ChatGPT and generative AI mean for
science. Nature, 614(7947), 214–216. https://doi.org/10.1038/d41586-023-00340-6
Van Noorden, R. (2022). How language-generation AIs could transform science. Nature,
605(7908), 21. https://doi.org/10.1038/d41586-022-01191-3

Peligro en La Desinformación Artificial

Cargado por

Copyright:

Formatos disponibles

Peligro en La Desinformación Artificial

Cargado por

Información del documento

Título original

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

Peligro en La Desinformación Artificial

Cargado por

Copyright:

Formatos disponibles

Peligro en la desinformación artificial

Laura Sofía Novoa Pérez

Clase de lectura y redacción de textos

Universidad Distrital Francisco José de Caldas

la inteligencia artificial, estos pueden generar discursos convincentes, traducir idiomas y

usuarios de este programa. A continuación, se expondrán algunos puntos importantes con

relación a las consecuencias que trae el uso de esta herramienta.

Se han dado situaciones en la que ChatGPT ha demostrado desaciertos en la información

que proporciona, un ejemplo de esto es un testimonio de un estudiante de doctorado en

bioestadística de la Universidad de Harvard, en un artículo de la revista Nature, Kareem Carr

ciencia, ella dice:

"Originalmente había pensado que los LLM podrían tener impactos

democratizadores y empoderadores. Cuando se trata de ciencia, podrían

capacitar a las personas para extraer rápidamente información de la

información: consultando síntomas de enfermedades, por ejemplo, o generando

resúmenes de temas técnicos. Pero los resúmenes algorítmicos podrían cometer

errores, incluir información obsoleta o eliminar matices e incertidumbre, sin

comprensible la investigación compleja, pero corre el riesgo de obtener una

visión simplificada e idealizada de la ciencia que está en desacuerdo con la

realidad desordenada, eso podría amenazar el profesionalismo y la autoridad.

También podría exacerbar los problemas de confianza pública en la ciencia. Y

las interacciones de las personas con estas herramientas serán muy

individualizadas, y cada usuario obtendrá su propia información generada”.

parte de este limitado grupo de académicos.

como ya se mencionó, un inconveniente es la desinformación, este tema no se comprende solo en

entrenan el programa o intervienen en el tipo de información que se muestra y de ahí también

inconveniente, las IA no podían identificar en su totalidad la información inapropiada, frente a

es eliminar el contenido inapropiado, estos moderadores podrían estar trabajando en ChatGPT,

genera un impacto importante en el sentido en que se refuerza problemáticas existentes en vez de

contribuir a solucionarlas. Desafortunadamente estamos expuestos a la manipulación de

el aprendizaje siempre siendo críticos de qué fuentes se obtiene la información.

Calvo, J. (s/f). Moderadores de Contenido: The Cleaners. Europeanvalley.es. Recuperado el 23

de febrero de 2023, de https://www.europeanvalley.es/noticias/moderadores-de-

science. Nature, 614(7947), 214–216. https://doi.org/10.1038/d41586-023-00340-6

605(7908), 21. https://doi.org/10.1038/d41586-022-01191-3

También podría gustarte