09 : 27 : 32  HRS ABRIL 04, 2025

Los peligros de la Inteligencia Artificial

Estamos viviendo una revolución digital sin precedentes. En su nuevo libro, Yuval Harari reflexiona acerca de la posibilidad de que la inteligencia artificial «tome el control» mediante la manipulación de los humanos para que hagan lo que...

15 de noviembre, 2024 Estamos viviendo una revolución digital sin precedentes. En su nuevo libro, Yuval Harari reflexiona acerca de la posibilidad de que la inteligencia artificial «tome el control» mediante la manipulación de los humanos para que hagan lo que ella quiera.

Estamos viviendo una revolución digital sin precedentes. En su nuevo libro, Yuval Harari reflexiona acerca de la posibilidad de que la inteligencia artificial «tome el control» mediante la manipulación de los humanos para que hagan lo que ella quiera.

En su más reciente libro, Nexus, Yuval Harari lleva a cabo una larga reflexión donde expone sus temores al respecto del riesgo de que la Inteligencia Artificial asuma la iniciativa y, de algún modo, «tome el poder» desplazando al ser humano a un segundo plano.

“Corremos el peligro de perder el control sobre nuestro futuro –asegura Harari–. En la actualidad, aún desempeñamos un papel central en esta red. Pero puede que poco a poco nos veamos desplazados a los márgenes y, en último término, incluso puede que la Red llegue a operar sin nosotros”(1).

[Harari, Yuval Noah, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, Primera Edición, México, Debate-Pinguin Random House, 2024, Págs. 601/P. 248].

Vayamos por partes. En lo que sin duda tiene razón es que estamos viviendo una revolución digital sin precedentes. En los últimos años se ha precipitado tal avalancha de inventos y desarrollos tecnológicos que resulta difícil determinar cuál es el motor de dicha revolución. Harari se pregunta si será Internet, o los teléfonos inteligentes, o las redes sociales, o las cadenas de bloques –blockchain (2)–, los algoritmos, la inteligencia artificial?

A lo largo del capítulo Harari hace un énfasis enorme en la posibilidad de que la inteligencia artificial, expresada principalmente en algoritmos, tome el control, si no materialmente a la manera de Terminator, sí mediante la manipulación de los humanos para que hagan lo que ella quiera.

Desde luego que lo primero que salta es la evidencia de que para que algo así ocurra la IA debería desarrollar su propia consciencia. Harari asume esta crítica e intenta atajarla afirmando que para tomar decisiones y generar ideas no se necesita tener conciencia: “Por supuesto, si los ordenadores siguen adquiriendo inteligencia, podrían llegar a desarrollar conciencia y a poseer algún tipo de experiencia subjetiva. Pero también podrían llegar a ser mucho más inteligentes que nosotros sin desarrollar nunca en ningún tipo de sentimiento” (3).

Para el autor esta idea surge de confundir inteligencia con conciencia. “La inteligencia es la capacidad de alcanzar objetivos como, por ejemplo, potenciar la implicación del usuario en una plataforma de redes sociales. La conciencia es la capacidad de experimentar sentimientos subjetivos como dolor, placer, amor y odio” (4).

Para Harari es perfectamente posible que las máquinas desarrollen inteligencia suficiente para tomar el control, aún cuando carezcan de conciencia propiamente como la entendemos. Y para defender su punto, afirma que “para perseguir un objetivo como «potenciar la implicación del usuario» y tomar decisiones que contribuyan a alcanzar dicho objetivo no se necesita conciencia. Basta con la inteligencia. Un algoritmo no consciente de Facebook puede marcarse el objetivo de hacer que más gente pasen más tiempo en Facebook. Entonces, si le ayuda a alcanzar su objetivo, dicho algoritmo puede decantarse por difundir deliberadamente teorías conspiratorias ofensivas”(5).

Desde la visión de Harari la inteligencia artificial puede convertirse en un agente independiente que consiga objetivos que no tienen porque haberse especificado de manera concreta. Sin embargo, en mi opinión, el algoritmo opera siguiendo instrucciones, cumpliendo una tarea específica que le fue asignada y no su libre albedrío. Es verdad que entre más potente sea la herramienta –en este caso la IA–, más variables estarán incluidas en el proceso y menos control se tendrá sobre el resultado final.

Desde luego que la alerta y reflexión a la que nos invita Yuval Harari es pertinente. Sin embargo, aun cuando es imposible saber qué ocurrirá con los desarrollos tecnológicos hoy en ciernes, mi impresión es que resulta difícil una independencia súbita de la Inteligencia Artificial respecto al ser humano en tanto ésta no tenga una motivación interna, un objetivo propio, la necesidad específica de hacer algo, una meta autoimpuesta y autónoma por lograr.

Desde mi perspectiva la IA no “tomará el mando” del mundo en tanto no tenga un «para qué», un objetivo, propósito que la motive y para conseguir eso, hasta que no se demuestre lo contrario, se requiere una conciencia de sí misma que por ahora no parece tener.

Web: www.juancarlosaldir.com

Instagram:  jcaldir

Twitter:  @jcaldir  

Facebook:  Juan Carlos Aldir

1.  Harari, Yuval Noah, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, Primera Edición, México, Debate-Pinguin Random House, 2024, Pág. 247

 2. El Blockchain es una tecnología basada en una cadena de bloques de operaciones descentralizada y pública. Esta tecnología genera una base de datos compartida a la que tienen acceso sus participantes, los cuáles pueden rastrear cada transacción que hayan realizado. Es como un gran libro de contabilidad inmodificable y compartido que van escribiendo una gran cantidad de ordenadores de forma simultánea.

IEBS, Business & Tech,  Javier Sáez Hurtado, Qué es Blockchain y cómo funciona la tecnología Blockchain, 5 de julio del 2024,

Consulta: 22 de octubre de 2024

3. Harari, Obra citada, P. 248

4. Ibídem P. 247

 5. Inídem P. 249

Comentarios


La Nueva Cara de ChatGPT: Ahora También Crea Imágenes (¡Y lo hace bien!)

La Nueva Cara de ChatGPT: Ahora También Crea Imágenes (¡Y lo hace bien!)

La capacidad de generar imágenes dentro de ChatGPT representa un paso más hacia una IA verdaderamente multimodal.

marzo 28, 2025

Manus AI: El Toque Mágico de la IA

Manus AI es como ese amigo ultraeficiente que todos queremos: trabaja rápido, no se queja y siempre entrega.

marzo 14, 2025




Más de categoría
¡Tu contraseña ya no es suficiente! La importancia de activar la Autenticación de Doble Factor (MFA) hoy mismo

¡Tu contraseña ya no es suficiente! La importancia de activar la Autenticación de Doble Factor (MFA) hoy mismo

Tu contraseña ya no es suficiente, pero tú sí puedes ser suficiente… si tomas acción hoy.

marzo 31, 2025
La Nueva Cara de ChatGPT: Ahora También Crea Imágenes (¡Y lo hace bien!)

La Nueva Cara de ChatGPT: Ahora También Crea Imágenes (¡Y lo hace bien!)

La capacidad de generar imágenes dentro de ChatGPT representa un paso más hacia una IA verdaderamente multimodal.

marzo 28, 2025

Pensando en tus vacaciones, ¿sabías que tus propias emociones pueden hacerte caer en una estafa de Phishing? 

La ciberseguridad efectiva comienza cuando reconocemos que nuestra mente es el principal campo de batalla. Prepararnos emocional y cognitivamente...

marzo 24, 2025
¿El Fin de los Buscadores? Cómo la IA Está Cambiando la Forma en que Buscamos en Internet

¿El Fin de los Buscadores? Cómo la IA Está Cambiando la Forma en que Buscamos en Internet 

Aunque los buscadores tradicionales siguen siendo herramientas poderosas, la IA ha demostrado ser más eficiente en muchos casos.

marzo 21, 2025