INTELIGENCIA ARTIFICIAL Y NEUROCIENCIAS ISSN 1669-9106

397

ARTÍCULO ESPECIAL MEDICINA (Buenos Aires) 2019; 79: 397-400

HORIZONTE DE LA INTELIGENCIA ARTIFICIAL Y NEUROCIENCIAS.

ACERCA DE ROBOTS, ANDROIDES Y CYBORGS

ALEJANDRA T. RABADÁN1-3

1
Instituto de Investigaciones Médicas Alfredo Lanari, Universidad de Buenos Aires,
2
Subcomisión de Neuroética, Asociación Argentina de Neurocirugía, 3Comité Académico de Ética en
Medicina, Academia Nacional de Medicina, Buenos Aires, Argentina

Resumen La inteligencia artificial permite que los procesos cerebrales sean analizados como procesos compu-
tacionales. Presenta dos líneas inquietantes: el Proyecto Robot, llamado androide cuando es antro-
pomórfico, y el Proyecto Cyborg. Los robots están destinados a tareas repetitivas, riesgosas o de precisión, en
las que pueden superar las limitaciones humanas, no percibiéndose conflictos éticos aunque sí nuevos desafíos
en la organización social. Respecto de los androides, más allá de sus capacidades, habrá que considerar los
efectos que puedan ocurrir en el ser humano durante la interacción con la máquina, como el impacto de la mímica
androide sobre la emoción y estado de ánimo. Los cyborgs son criaturas compuestas por elementos orgánicos y
cibernéticos cuya finalidad es emular o mejorar las capacidades de la parte orgánica. No se reconoce conflicto
en su empleo para rehabilitación o para suplir funciones alteradas o ausentes; aspectos negativos serían su
uso para la manipulación. Otra aplicación del proyecto cyborg a considerar es el enhancement, término utiliza-
do en la literatura anglosajona para definir el aumento de facultades neurocognitivas o sensoriales mediante
la estimulación transcraneal o intracraneal. El conflicto neuroético surge porque el objetivo no es curar sino la
perfectibilidad, o nuevas modalidades de percepción. Los profesionales de la salud deben actuar en un entorno
nuevo y cambiante que trasciende las neurociencias y la salud pública. El progreso continúa; por lo que se debe
informar a la sociedad, anticipar dilemas, y ofrecer espacios de reflexión para la toma de decisiones individuales
y para la especie humana.

Palabras clave: cibernética, inteligencia artificial, neuromodulación, neurociencias, neurocirugía, robótica

Abstract Horizon of artificial intelligence and neurosciences. About robots, androids and cyborgs.
Artificial intelligence permits cerebral processes to be analyzed like computing processes. We can
recognize two disturbing lines we can call: The Robot Project, android when is anthropomorphic, and The Cyborg
Project. Robots are destined to perform repetitive, risky or accurate tasks in which they can surpass human
limitations. No ethical conflicts are perceived here but there are new challenges to be faced as far as the social
organization is concerned. As regards androids, apart from their robotic capabilities, their effect on the human
being during interaction should be considered, as the impact of mimic’s android on the emotion. The cyborgs
are creatures composed by biological and cybernetic elements whose goal is to improve the capabilities of their
biological parts. There has been no evidence of conflict in their use for rehabilitation or to supply impaired or
non-existing functions. It would be different if they were used for manipulative activities. Another application of the
cyborg project to consider is the term “enhancement”, used to describe the increase of neurocognitive or sensory
faculties through transcranial/intracranial stimulation. The ethical conflict here lies in the fact that the focus is not
so much on healing but on seeking perfectibility or new modalities of perception. Health professionals must act
in a new and constantly changing environment that transcends neurosciences and public health. Progress never
stops; so, society have to be informed, anticipate dilemmas, and make room for reflection to help decision-making
processes that involve individuals as well as the whole human species.

Key words: cybernetics, artificial intelligence, neuromodulation, neuroscience, neurosurgery, robotics

La inteligencia artificial (IA) consiste en la simulación tema, que dio origen al término, fue Computing Machinery
de algunas actividades del sistema nervioso humano and Intelligence de Alan Turing en 19501.
mediante máquinas. La primera publicación sobre este La IA se refiere a que algunos de los procesos que
se llevan a cabo en el cerebro pueden ser analizados,
con un cierto nivel de abstracción, como procesos com-
putacionales2, 3. Hasta ahora los sistemas de IA se han
Recibido: 22-IV-2019 Aceptado: 13-VIII-2019
basado en los aspectos racionales de la inteligencia; lo
Dirección postal: Alejandra T. Rabadán, Instituto de Investigaciones que los convierte en eficientes para algunas tareas, ya
Médicas Alfredo Lanari, Universidad de Buenos Aires, Combatientes
de Malvinas 3150, 1427 Buenos Aires, Argentina que por ejemplo no se distraen de la meta que deben
e-mail: [email protected] alcanzar, como puede ocurrirle al ser humano frente
398 MEDICINA - Volumen 79 - Nº 5, 2019

a perturbaciones emocionales, dolor, o simplemente joven de la bioética, nacida en 2002, que se ocupa de
cansancio. Además, dichos sistemas pueden combinar los dilemas originados en el desarrollo de las neurocien-
grandes cantidades de datos con algoritmos de una ma- cias7. Por estos motivos, los dos proyectos mencionados
nera iterativa y rápida permitiendo al software aprender tienen en común el hecho de que prevén el surgimiento
de los patrones identificados en el proceso; de este modo de dilemas éticos, e incorporan ya desde el comienzo la
las máquinas pueden aprender por sí mismas y resolver participación de subcomisiones asesoras de neuroética5,6.
problemas a fin de aumentar su eficacia. La interfase Algunos ejemplos de IA se están utilizando desde hace
cerebro-computadora permite medir la actividad cerebral, ya algún tiempo y no conllevan ningún cuestionamiento;
procesarla y también crear canales de comunicación con se trata de la incorporación de elementos para realizar
el entorno. Podemos definirla como un sistema capaz de cirugías más sofisticadas y de mejor calidad, como el
traducir los fenómenos del sistema nervioso en interacción empleo de brazos robóticos, o neuronavegación intrao-
real con un mundo virtual. peratoria. Una aplicación muy interesante es el papel de
la IA en la educación médica mediante el aprendizaje,
planificación y realización de procedimientos mínimamen-
Importancia de la inteligencia artificial para
te invasivos; donde la cirugía telerrobotizada asistida por
la medicina
computadoras será parte de las herramientas quirúrgicas8.
Últimamente también se desarrollaron aplicaciones que
¿Por qué los que trabajamos en distintas áreas de las
intentan contribuir con las tomas de decisiones médicas9.
neurociencias (neurocirugía, neurología, salud mental)
También en las últimas décadas se han utilizado
debemos especialmente involucrarnos en conocer estos
procedimientos que genéricamente se denominan neuro-
temas? Porque nos ocupamos del cerebro, órgano res-
modulación; se trata de técnicas neuroquirúrgicas mínima-
ponsable de nuestras percepciones, de nuestros pensa-
mente invasivas destinadas a tratar síntomas, síndromes
mientos y de nuestra conciencia. El conocimiento y/o la
o enfermedades refractarias a los tratamientos médicos
manipulación involucran a lo más genuino e intransferible
convencionales, como ciertos tipos de dolor crónico, movi-
del ser humano4.
mientos anormales, epilepsia, psicocirugía para trastornos
El desarrollo de las neurociencias en las últimas dé-
obsesivo-compulsivos, depresión grave, anorexia, o para
cadas ha sido muy importante, ligado a los avances en el
estados de conciencia alterados10-20. Se utilizan blancos
conocimiento neurobiológico del cerebro, de los métodos
cerebrales específicos en donde se implantan estimula-
de diagnóstico por imágenes, la genética y biología mole-
dores, procedimientos conocidos como estimulación cere-
cular, al mismo tiempo que la informática y la cibernética.
bral profunda, o por sus siglas en inglés DBS (deep brain
stimulation) (Fig. 1). La DBS moderna comprende nuevos
Relación con la neuroética dispositivos que guiados por programas tecnológicos y
computacionales logran estimular, disminuir o detener la
Tan impactante ha sido la evolución y su proyección a actividad de determinados circuitos del sistema nervioso
futuro, que en 2013, la Comisión Europea para el Futuro y con precisión y anticipación20. Han mostrado efectividad
las Tecnologías Emergentes lanzó el Human Brain Project en casos apropiadamente seleccionados por un equipo
(HBP); destinaron un presupuesto de 1000 millones de multidisciplinario y eventualmente con la participación del
euros con el objetivo de apoyar las investigaciones, que Comité de Ética Institucional.
mediante la informática u otras tecnologías, pudieran
reproducir parcial o totalmente funciones cerebrales,
como por ejemplo el diseño de prototipos de chips neu- Proyectos robot (androide) y Cyborg
romórficos que pretenderán emular las capacidades del
cerebro como la percepción, la acción y la cognición5. Pero lo más inquietante es lo que está viniendo, y nos
Paralelamente el mismo año 2013, se inicia el National preguntamos ¿estamos realmente hablando del futuro?
Institutes of Health Brain Initiative (Brain Research through … porque en realidad ya está entre nosotros… Podemos
Advancing Innovative Technologies) en EE.UU., cuyo sintetizarlo en dos grandes líneas de aplicación de la IA:
propósito es acelerar el desarrollo y la aplicación de las uno es Proyecto robot, también conocido como androide
innovaciones neurotecnológicas con el fin de revolucionar cuando es antropomórfico, y el Proyecto cyborg.
el conocimiento del cerebro sano y las disfunciones de Los robots son creaciones tecnológicas que están
los circuitos en el enfermo6. destinados a realizar tareas repetitivas, riesgosas, o de
Los avances científico-tecnológicos tienen claras altísima precisión en las que pueden superar las limitacio-
implicancias filosóficas, económicas, jurídicas y sociales nes biológicas del ser humano; no se perciben conflictos
sobre los seres humanos, y es por ello que se plantea desde lo neuroético sino como nuevos desafíos en la
la necesidad de reflexionar sobre sus consecuencias, organización social debido al efecto económico, jurídico
especialmente en el campo de la neuroética, rama muy o sociológico. En este sentido, solamente se trataría de
INTELIGENCIA ARTIFICIAL Y NEUROCIENCIAS 399

Fig. 1.– Esquema de sistema de neuroestimulación profunda No existe ningún conflicto a la vista en la aplicación de la
cerebral cibernética para suplir funciones afectadas o ausentes por
ejemplo en la audición, ojos biónicos, miembros paraliza-
dos, algunos estados alterados de conciencia, o asimismo
en procesos de rehabilitación de defectos neurológicos
mediante el uso de la realidad virtual. Las alertas deben
existir por el uso potencial de los dispositivos tecnológicos
para la manipulación de la personalidad o realización de
actos criminales.

Enhancement neurocognitivo

El abanico de aplicaciones cyborg es inmenso y nos en-

frenta con otro tema: el enhancement, término utilizado
en la literatura anglosajona para definir el aumento de fa-
cultades neurocognitivas o de los fenómenos sensoriales
mediante la cibernética, específicamente a través de la
estimulación transcraneal y la intracraneal4, 25-27. El conflic-
to neuroético surge acá porque lo que se está buscando
no es la curación sino la “perfectibilidad” o tal vez “nuevas
modalidades de percepción de los sentidos”. Más allá de
las preguntas que puedan surgir, como ¿cuáles serían
los efectos a largo plazo en el cerebro humano?, surgen
otras, como ¿quién regulará la mejora? ¿a quiénes se
les aplicará? y en tal caso ¿quién lo solventará?… ¿este
aumento de la cognición será para todos?… ¿o solamente
orientar el desarrollo científico hacia la mejora efectiva de para unos pocos?
las condiciones de vida de todos.
Sin embargo, es de destacar que algunos de estos
Reflexión final
avances nos enfrentan con perspectivas nuevas, pero
de bases neurobiológicas conocidas como son las
Los profesionales de la salud tendrán que enfrentar
activaciones de ciertas áreas cerebrales ante el recono-
problemas que trascienden a las Neurociencias y a la
cimiento facial y gestual21. Es así, que en ocasión de la
Salud Pública. El progreso de la ciencia nunca se detiene,
presentación de la robot antropomórfica Sophia, escena
motivo por el cual se debe estar alerta, anticipándose a
que puede verse en YouTube, es sorprendente obser-
los dilemas, informando a la comunidad científica y a la
var no solo las habilidades de la androide, sino todavía
sociedad, a la que se debe servir, ofreciendo espacios
más la actitud del entrevistador humano, quien a pesar
de reflexión que ayuden a tomar las mejores decisiones
de estar en conocimiento de que interactuaba con una
individuales y para la especie humana en su conjunto.
máquina, espontáneamente le sonreía y modificaba sus
expresiones, mostrándose seducido por la mímica de la Conflicto de intereses: Ninguno para declarar
robot-androide.
Algunas de estas IA tienen capacidad de aprendizaje,
superándose a sí mismas. Tal vez lo más crítico no es lo Bibliografía
que atañe a simples funciones sino que pueden aprender
1. Turing AM. Computing machinery and intelligence. Mind
a reconocer las emociones humanas mediante patrones 1950; 49: 433-60.
de actitudes y gestualidad, cuya finalidad es mejorar la 2. Wolpaw JR, Birbaumer N, McFarland DJ, Pfurstsscheller G,
interacción hombre-máquina. Estas cuestiones nos exi- Vaughan TM. Brain-computer interfaces for communica-
gen reflexiones de nuestros esquemas éticos que nos tion and control. Clin Neurophysiol 2002; 113: 767-91.
3. Wolpaw JR, Wolpaw EW. Brain–computer interfaces: Prin-
ayuden a actuar de forma responsable en un entorno ciples and Practice. New York: Oxford University Press,
nuevo y cambiante. 2012.
El cyborg, a diferencia del robot, es la criatura com- 4. Rabadán AT. Neuroethics scope at a glance. Surg Neurol
puesta por elementos orgánicos y dispositivos ciberné- Int 2015; 6: 183.
5. Human Brain Project. 2013. En: http://www.humanbrain-
ticos22-24. La finalidad suele ser mejorar las capacidades project.eu; consultado enero 2019.
de la parte orgánica mediante el uso de la tecnología. 6. Brain Initiative (Brain Research through Advancing Innova-
400 MEDICINA - Volumen 79 - Nº 5, 2019

tive Technologies), 2013. En: http://brain initiative.nih.gov; 16. Monti MM. Vanhaudenhuyse A, Coleman MR. Willfull
consultado enero 2019. modulation of brain activity in disorders of consciousness.
7. The Dana Foundation. Neuroethics: Mapping the Field. N Eng J Med 2010; 362: 579-89.
Cerebrum. 2002. En: http://www.dana.org/Cerebrum/2002/ 17. Owen AM, Coleman MR, Boly M, Davis MH, Laureys S,
Neuroethics_Mapping_the_Field/; consultado enero 2019. Pickard JD. Detecting awareness in the vegetative state.
8. Wachs JP, Gómez G. Telementoring systems in the operat- Science 2006; 313: 1402.
ing room: a new approach in medical training. Medicina 18. Scherner M. Health, happiness and human enhancement
(B Aires) 2013; 73: 539-42. dealing with unexpected effects of deep brain stimulation.
9. Sarkiss CA,  Germano IM. Machine learning in Neuro- Neuroethics 2013; 6: 435-45.
Oncology: Can data analysis from 5346 patients change 19. Wardrope A. Authenticity and autonomy in deep-brain
decision making paradigms? World Neurosurg 2019; 124: stimulation. J Med Ethics 2014; 40: 563-6.
287-94. 20. Klein E. Neuromodulation ethics: Preparing for brain-com-
10. Cabrera LY, Evans EL, Hamilton RH. Ethics of the elec- puter interface medicine. En: Neuroethics. Anticipating
trified mind: Defining issues and perspectives on the the future. Oxford University Press, 2017, pp 122-39.
principled use of brain stimulation in medical research 21. Hoffman KL, Gothard KM, Schmid MC, Logothetis NK.
and clinical care. Brain Topogr 2014; 27:33-45. Report facial-expression and gaze-selective responses
11. Collinger JL, Wodlinger B, Downey JE. High-performance in the monkey amygdala. Curr Biol 2007; 17: 766-72.
neuroprosthetic control by an individual with tetraplegia. 22. Reardon S. Welcome to Cyborg Olympics. Nature 2016;
The Lancet 2013; 381: 557-64. 536: 20-2.
12. Deng ZD, McClintock SM, OEY NE, Luber B, Lisanby SH. 23. Service RF. Bioelectronics. The Cyborg era begins. Sci-
Neuromodulation for mood and memory: from the engi- ence 2013; 340: 1162-5.
neering bench to the patient bedside. Curr Opin Neurobiol 24. Wittes B, Chong J. Our cyborg future: Law and policy
2015; 30: 38-43. implications. Center for Technology Innovation at Brook-
13. Finns JJ. From psychosurgery to neuromodulation and ings, 2014. En: http//www.brookings.edu/research/our-
palliation: hystory’s lessons for the ethical conduct and cyborg-future-law-and-policy-implications; consultado
regulation of of neuropsychiatric research. Neurosurg Clin enero 2019.
N Am 2003; 14: 303-19. 25. Cabrera LY. How does enhancing cognition affect human
14. Hayempour BJ. Psychosurgery: Treating neurobiological values? How does this translate into social responsibility.
disorders with neurosurgical intervention. J Neurol Disord Curr Top Behav Neurosci 2015; 19: 223-41.
2013; 19:1. 26. Farah MJ. The unknowns of cognitive enhancement. Sci-
15. Mayberg HS, Lozano AM, Voon V, et al. Deep brain stimu- ence 2015; 350: 379-80.
lation for treatment-resistant depression. Neuron 2005; 27. Iuculano T, Cohen Kadosh R. The mental cost of cognitive
45: 651-60. enhancement. J Neurosci 2013; 33: 4482-6.

----
5. Credo che l'accumulo della conoscenza avvenga sempre cossÌ: per linee spezzate
anziché continue; attraverso false partite, correzione, dimenticanze, riscoperte; grazie a
filtri, e schemi che accecano e fanno vedere nello stesso tempo. In questo senso la vicenda
interpretativa che o ricostruito con minuzia forse eccessiva può essere considerata quasi
banale: non l'eccezione ma la regola.

5. Creo que el acúmulo del conocimiento acontece siempre así: por líneas rotas en
vez de continuas; a través de partidas falsas, correcciones, olvidos, redescubrimientos;
gracias a filtros y esquemas que enceguecen y a la vez hacen ver. En este sentido el caso
interpretativo que he reconstruido con minucia tal vez excesiva puede ser considerado casi
banal: no la excepción sino la regla.

Carlo Ginzburg

IGli europei scoprono (o riscoprono) gli schamani.

En: Il filo e le tracce. Vero, falso, finto. Milano; Feltrinelli, 2006; p 111
Copyright of Medicina (Buenos Aires) is the property of Medicina (Buenos Aires) and its
content may not be copied or emailed to multiple sites or posted to a listserv without the
copyright holder's express written permission. However, users may print, download, or email
articles for individual use.