Los peligros de la Inteligencia Artificial

Estamos viviendo una revolución digital sin precedentes. En su nuevo libro, Yuval Harari reflexiona acerca de la posibilidad de que la inteligencia artificial «tome el control» mediante la manipulación de los humanos para que hagan lo que...

15 de noviembre, 2024

Juan Carlos Aldir

Estamos viviendo una revolución digital sin precedentes. En su nuevo libro, Yuval Harari reflexiona acerca de la posibilidad de que la inteligencia artificial «tome el control» mediante la manipulación de los humanos para que hagan lo que ella quiera.

En su más reciente libro, Nexus, Yuval Harari lleva a cabo una larga reflexión donde expone sus temores al respecto del riesgo de que la Inteligencia Artificial asuma la iniciativa y, de algún modo, «tome el poder» desplazando al ser humano a un segundo plano.

“Corremos el peligro de perder el control sobre nuestro futuro –asegura Harari–. En la actualidad, aún desempeñamos un papel central en esta red. Pero puede que poco a poco nos veamos desplazados a los márgenes y, en último término, incluso puede que la Red llegue a operar sin nosotros”(1).

[Harari, Yuval Noah, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, Primera Edición, México, Debate-Pinguin Random House, 2024, Págs. 601/P. 248].

Vayamos por partes. En lo que sin duda tiene razón es que estamos viviendo una revolución digital sin precedentes. En los últimos años se ha precipitado tal avalancha de inventos y desarrollos tecnológicos que resulta difícil determinar cuál es el motor de dicha revolución. Harari se pregunta si será Internet, o los teléfonos inteligentes, o las redes sociales, o las cadenas de bloques –blockchain (2)–, los algoritmos, la inteligencia artificial?

A lo largo del capítulo Harari hace un énfasis enorme en la posibilidad de que la inteligencia artificial, expresada principalmente en algoritmos, tome el control, si no materialmente a la manera de Terminator, sí mediante la manipulación de los humanos para que hagan lo que ella quiera.

Desde luego que lo primero que salta es la evidencia de que para que algo así ocurra la IA debería desarrollar su propia consciencia. Harari asume esta crítica e intenta atajarla afirmando que para tomar decisiones y generar ideas no se necesita tener conciencia: “Por supuesto, si los ordenadores siguen adquiriendo inteligencia, podrían llegar a desarrollar conciencia y a poseer algún tipo de experiencia subjetiva. Pero también podrían llegar a ser mucho más inteligentes que nosotros sin desarrollar nunca en ningún tipo de sentimiento” (3).

Para el autor esta idea surge de confundir inteligencia con conciencia. “La inteligencia es la capacidad de alcanzar objetivos como, por ejemplo, potenciar la implicación del usuario en una plataforma de redes sociales. La conciencia es la capacidad de experimentar sentimientos subjetivos como dolor, placer, amor y odio” (4).

Para Harari es perfectamente posible que las máquinas desarrollen inteligencia suficiente para tomar el control, aún cuando carezcan de conciencia propiamente como la entendemos. Y para defender su punto, afirma que “para perseguir un objetivo como «potenciar la implicación del usuario» y tomar decisiones que contribuyan a alcanzar dicho objetivo no se necesita conciencia. Basta con la inteligencia. Un algoritmo no consciente de Facebook puede marcarse el objetivo de hacer que más gente pasen más tiempo en Facebook. Entonces, si le ayuda a alcanzar su objetivo, dicho algoritmo puede decantarse por difundir deliberadamente teorías conspiratorias ofensivas”(5).

Desde la visión de Harari la inteligencia artificial puede convertirse en un agente independiente que consiga objetivos que no tienen porque haberse especificado de manera concreta. Sin embargo, en mi opinión, el algoritmo opera siguiendo instrucciones, cumpliendo una tarea específica que le fue asignada y no su libre albedrío. Es verdad que entre más potente sea la herramienta –en este caso la IA–, más variables estarán incluidas en el proceso y menos control se tendrá sobre el resultado final.

Desde luego que la alerta y reflexión a la que nos invita Yuval Harari es pertinente. Sin embargo, aun cuando es imposible saber qué ocurrirá con los desarrollos tecnológicos hoy en ciernes, mi impresión es que resulta difícil una independencia súbita de la Inteligencia Artificial respecto al ser humano en tanto ésta no tenga una motivación interna, un objetivo propio, la necesidad específica de hacer algo, una meta autoimpuesta y autónoma por lograr.

Desde mi perspectiva la IA no “tomará el mando” del mundo en tanto no tenga un «para qué», un objetivo, propósito que la motive y para conseguir eso, hasta que no se demuestre lo contrario, se requiere una conciencia de sí misma que por ahora no parece tener.

Web: www.juancarlosaldir.com

Instagram: jcaldir

Twitter: @jcaldir

Facebook: Juan Carlos Aldir

1. Harari, Yuval Noah, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, Primera Edición, México, Debate-Pinguin Random House, 2024, Pág. 247

2. El Blockchain es una tecnología basada en una cadena de bloques de operaciones descentralizada y pública. Esta tecnología genera una base de datos compartida a la que tienen acceso sus participantes, los cuáles pueden rastrear cada transacción que hayan realizado. Es como un gran libro de contabilidad inmodificable y compartido que van escribiendo una gran cantidad de ordenadores de forma simultánea.

IEBS, Business & Tech, Javier Sáez Hurtado, Qué es Blockchain y cómo funciona la tecnología Blockchain, 5 de julio del 2024,

Consulta: 22 de octubre de 2024

3. Harari, Obra citada, P. 248

4. Ibídem P. 247

5. Inídem P. 249

Comentarios