Estamos viviendo una revolución digital sin precedentes. En su nuevo libro, Yuval Harari reflexiona acerca de la posibilidad de que la inteligencia artificial «tome el control» mediante la manipulación de los humanos para que hagan lo que ella quiera.
En su más reciente libro, Nexus, Yuval Harari lleva a cabo una larga reflexión donde expone sus temores al respecto del riesgo de que la Inteligencia Artificial asuma la iniciativa y, de algún modo, «tome el poder» desplazando al ser humano a un segundo plano.
“Corremos el peligro de perder el control sobre nuestro futuro –asegura Harari–. En la actualidad, aún desempeñamos un papel central en esta red. Pero puede que poco a poco nos veamos desplazados a los márgenes y, en último término, incluso puede que la Red llegue a operar sin nosotros”(1).
[Harari, Yuval Noah, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, Primera Edición, México, Debate-Pinguin Random House, 2024, Págs. 601/P. 248].
Vayamos por partes. En lo que sin duda tiene razón es que estamos viviendo una revolución digital sin precedentes. En los últimos años se ha precipitado tal avalancha de inventos y desarrollos tecnológicos que resulta difícil determinar cuál es el motor de dicha revolución. Harari se pregunta si será Internet, o los teléfonos inteligentes, o las redes sociales, o las cadenas de bloques –blockchain (2)–, los algoritmos, la inteligencia artificial?
A lo largo del capítulo Harari hace un énfasis enorme en la posibilidad de que la inteligencia artificial, expresada principalmente en algoritmos, tome el control, si no materialmente a la manera de Terminator, sí mediante la manipulación de los humanos para que hagan lo que ella quiera.
Desde luego que lo primero que salta es la evidencia de que para que algo así ocurra la IA debería desarrollar su propia consciencia. Harari asume esta crítica e intenta atajarla afirmando que para tomar decisiones y generar ideas no se necesita tener conciencia: “Por supuesto, si los ordenadores siguen adquiriendo inteligencia, podrían llegar a desarrollar conciencia y a poseer algún tipo de experiencia subjetiva. Pero también podrían llegar a ser mucho más inteligentes que nosotros sin desarrollar nunca en ningún tipo de sentimiento” (3).
Para el autor esta idea surge de confundir inteligencia con conciencia. “La inteligencia es la capacidad de alcanzar objetivos como, por ejemplo, potenciar la implicación del usuario en una plataforma de redes sociales. La conciencia es la capacidad de experimentar sentimientos subjetivos como dolor, placer, amor y odio” (4).
Para Harari es perfectamente posible que las máquinas desarrollen inteligencia suficiente para tomar el control, aún cuando carezcan de conciencia propiamente como la entendemos. Y para defender su punto, afirma que “para perseguir un objetivo como «potenciar la implicación del usuario» y tomar decisiones que contribuyan a alcanzar dicho objetivo no se necesita conciencia. Basta con la inteligencia. Un algoritmo no consciente de Facebook puede marcarse el objetivo de hacer que más gente pasen más tiempo en Facebook. Entonces, si le ayuda a alcanzar su objetivo, dicho algoritmo puede decantarse por difundir deliberadamente teorías conspiratorias ofensivas”(5).
Desde la visión de Harari la inteligencia artificial puede convertirse en un agente independiente que consiga objetivos que no tienen porque haberse especificado de manera concreta. Sin embargo, en mi opinión, el algoritmo opera siguiendo instrucciones, cumpliendo una tarea específica que le fue asignada y no su libre albedrío. Es verdad que entre más potente sea la herramienta –en este caso la IA–, más variables estarán incluidas en el proceso y menos control se tendrá sobre el resultado final.
Desde luego que la alerta y reflexión a la que nos invita Yuval Harari es pertinente. Sin embargo, aun cuando es imposible saber qué ocurrirá con los desarrollos tecnológicos hoy en ciernes, mi impresión es que resulta difícil una independencia súbita de la Inteligencia Artificial respecto al ser humano en tanto ésta no tenga una motivación interna, un objetivo propio, la necesidad específica de hacer algo, una meta autoimpuesta y autónoma por lograr.
Desde mi perspectiva la IA no “tomará el mando” del mundo en tanto no tenga un «para qué», un objetivo, propósito que la motive y para conseguir eso, hasta que no se demuestre lo contrario, se requiere una conciencia de sí misma que por ahora no parece tener.
Instagram: jcaldir
Twitter: @jcaldir
Facebook: Juan Carlos Aldir
1. Harari, Yuval Noah, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, Primera Edición, México, Debate-Pinguin Random House, 2024, Pág. 247
2. El Blockchain es una tecnología basada en una cadena de bloques de operaciones descentralizada y pública. Esta tecnología genera una base de datos compartida a la que tienen acceso sus participantes, los cuáles pueden rastrear cada transacción que hayan realizado. Es como un gran libro de contabilidad inmodificable y compartido que van escribiendo una gran cantidad de ordenadores de forma simultánea.
IEBS, Business & Tech, Javier Sáez Hurtado, Qué es Blockchain y cómo funciona la tecnología Blockchain, 5 de julio del 2024,
Consulta: 22 de octubre de 2024
3. Harari, Obra citada, P. 248
4. Ibídem P. 247
5. Inídem P. 249
¿Es la IA la nueva constructora de valores culturales?
Piensen lo que significa educar a los niños en un mundo donde, desde el primer día, la mayoría de sus interacciones son...
marzo 23, 2026
Millones de personas tienen la bacteria que causa la tuberculosis sin saberlo
Cada 24 de marzo se conmemora el Día Mundial de la Tuberculosis. Y, sin embargo, es una fecha que pasa casi desapercibida,...
marzo 24, 2026
Artemis II: el prólogo de una alianza entre humanos y robots en la Luna
David Rodríguez Martínez Investigador y Profesor Beatriz Galindo, Laboratorio de Robótica Espacial, Universidad de Málaga Desde que el 14...
abril 1, 2026
MELANIA TRUMP Y EL DESEMBARCO DEL FIGURE 3
Se ha marcado el inicio de la era del "electrodoméstico inteligente con patas", un cambio de paradigma que pronto...
marzo 27, 2026
Millones de personas tienen la bacteria que causa la tuberculosis sin saberlo
Cada 24 de marzo se conmemora el Día Mundial de la Tuberculosis. Y, sin embargo, es una fecha que...
marzo 24, 2026
¿Es la IA la nueva constructora de valores culturales?
Piensen lo que significa educar a los niños en un mundo donde, desde el primer día, la mayoría de...
marzo 23, 2026