Los peligros de la Inteligencia Artificial

Estamos viviendo una revolución digital sin precedentes. En su nuevo libro, Yuval Harari reflexiona acerca de la posibilidad de que la inteligencia artificial «tome el control» mediante la manipulación de los humanos para que hagan lo que...

15 de noviembre, 2024 Estamos viviendo una revolución digital sin precedentes. En su nuevo libro, Yuval Harari reflexiona acerca de la posibilidad de que la inteligencia artificial «tome el control» mediante la manipulación de los humanos para que hagan lo que ella quiera.

Estamos viviendo una revolución digital sin precedentes. En su nuevo libro, Yuval Harari reflexiona acerca de la posibilidad de que la inteligencia artificial «tome el control» mediante la manipulación de los humanos para que hagan lo que ella quiera.

En su más reciente libro, Nexus, Yuval Harari lleva a cabo una larga reflexión donde expone sus temores al respecto del riesgo de que la Inteligencia Artificial asuma la iniciativa y, de algún modo, «tome el poder» desplazando al ser humano a un segundo plano.

“Corremos el peligro de perder el control sobre nuestro futuro –asegura Harari–. En la actualidad, aún desempeñamos un papel central en esta red. Pero puede que poco a poco nos veamos desplazados a los márgenes y, en último término, incluso puede que la Red llegue a operar sin nosotros”(1).

[Harari, Yuval Noah, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, Primera Edición, México, Debate-Pinguin Random House, 2024, Págs. 601/P. 248].

Vayamos por partes. En lo que sin duda tiene razón es que estamos viviendo una revolución digital sin precedentes. En los últimos años se ha precipitado tal avalancha de inventos y desarrollos tecnológicos que resulta difícil determinar cuál es el motor de dicha revolución. Harari se pregunta si será Internet, o los teléfonos inteligentes, o las redes sociales, o las cadenas de bloques –blockchain (2)–, los algoritmos, la inteligencia artificial?

A lo largo del capítulo Harari hace un énfasis enorme en la posibilidad de que la inteligencia artificial, expresada principalmente en algoritmos, tome el control, si no materialmente a la manera de Terminator, sí mediante la manipulación de los humanos para que hagan lo que ella quiera.

Desde luego que lo primero que salta es la evidencia de que para que algo así ocurra la IA debería desarrollar su propia consciencia. Harari asume esta crítica e intenta atajarla afirmando que para tomar decisiones y generar ideas no se necesita tener conciencia: “Por supuesto, si los ordenadores siguen adquiriendo inteligencia, podrían llegar a desarrollar conciencia y a poseer algún tipo de experiencia subjetiva. Pero también podrían llegar a ser mucho más inteligentes que nosotros sin desarrollar nunca en ningún tipo de sentimiento” (3).

Para el autor esta idea surge de confundir inteligencia con conciencia. “La inteligencia es la capacidad de alcanzar objetivos como, por ejemplo, potenciar la implicación del usuario en una plataforma de redes sociales. La conciencia es la capacidad de experimentar sentimientos subjetivos como dolor, placer, amor y odio” (4).

Para Harari es perfectamente posible que las máquinas desarrollen inteligencia suficiente para tomar el control, aún cuando carezcan de conciencia propiamente como la entendemos. Y para defender su punto, afirma que “para perseguir un objetivo como «potenciar la implicación del usuario» y tomar decisiones que contribuyan a alcanzar dicho objetivo no se necesita conciencia. Basta con la inteligencia. Un algoritmo no consciente de Facebook puede marcarse el objetivo de hacer que más gente pasen más tiempo en Facebook. Entonces, si le ayuda a alcanzar su objetivo, dicho algoritmo puede decantarse por difundir deliberadamente teorías conspiratorias ofensivas”(5).

Desde la visión de Harari la inteligencia artificial puede convertirse en un agente independiente que consiga objetivos que no tienen porque haberse especificado de manera concreta. Sin embargo, en mi opinión, el algoritmo opera siguiendo instrucciones, cumpliendo una tarea específica que le fue asignada y no su libre albedrío. Es verdad que entre más potente sea la herramienta –en este caso la IA–, más variables estarán incluidas en el proceso y menos control se tendrá sobre el resultado final.

Desde luego que la alerta y reflexión a la que nos invita Yuval Harari es pertinente. Sin embargo, aun cuando es imposible saber qué ocurrirá con los desarrollos tecnológicos hoy en ciernes, mi impresión es que resulta difícil una independencia súbita de la Inteligencia Artificial respecto al ser humano en tanto ésta no tenga una motivación interna, un objetivo propio, la necesidad específica de hacer algo, una meta autoimpuesta y autónoma por lograr.

Desde mi perspectiva la IA no “tomará el mando” del mundo en tanto no tenga un «para qué», un objetivo, propósito que la motive y para conseguir eso, hasta que no se demuestre lo contrario, se requiere una conciencia de sí misma que por ahora no parece tener.

Web: www.juancarlosaldir.com

Instagram:  jcaldir

Twitter:  @jcaldir  

Facebook:  Juan Carlos Aldir

3BE78BB2-2D44-4A5B-97AF-D44B453CAA3B.tiff

1.  Harari, Yuval Noah, Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, Primera Edición, México, Debate-Pinguin Random House, 2024, Pág. 247

 2. El Blockchain es una tecnología basada en una cadena de bloques de operaciones descentralizada y pública. Esta tecnología genera una base de datos compartida a la que tienen acceso sus participantes, los cuáles pueden rastrear cada transacción que hayan realizado. Es como un gran libro de contabilidad inmodificable y compartido que van escribiendo una gran cantidad de ordenadores de forma simultánea.

IEBS, Business & Tech,  Javier Sáez Hurtado, Qué es Blockchain y cómo funciona la tecnología Blockchain, 5 de julio del 2024,

Consulta: 22 de octubre de 2024

3. Harari, Obra citada, P. 248

4. Ibídem P. 247

 5. Inídem P. 249

Comentarios


Dos Años Revolucionando Todo: El Impactante Viaje de la IA Generativa 

Dos Años Revolucionando Todo: El Impactante Viaje de la IA Generativa 

Hace dos años el mundo asistió al nacimiento de ChatGPT, una tecnología que muchos creen que supera en importancia al teléfono, el...

diciembre 5, 2024
Por qué tergiversamos la información cuando amenaza nuestras creencias: así funciona el razonamiento motivado

Por qué tergiversamos la información cuando amenaza nuestras creencias: así funciona el razonamiento motivado

Autores: Marruecos, HAARP, chemtrails, destrucción de presas hidroeléctricas… Detrás de estas palabras se escondían teorías que planteaban causas alternativas a la catástrofe climática vivida en...

diciembre 2, 2024




Más de categoría
Dos Años Revolucionando Todo: El Impactante Viaje de la IA Generativa 

Dos Años Revolucionando Todo: El Impactante Viaje de la IA Generativa 

Hace dos años el mundo asistió al nacimiento de ChatGPT, una tecnología que muchos creen que supera en importancia...

diciembre 5, 2024
Por qué tergiversamos la información cuando amenaza nuestras creencias: así funciona el razonamiento motivado

Por qué tergiversamos la información cuando amenaza nuestras creencias: así funciona el razonamiento motivado

Autores: Marruecos, HAARP, chemtrails, destrucción de presas hidroeléctricas… Detrás de estas palabras se escondían teorías que planteaban causas alternativas a la catástrofe...

diciembre 2, 2024
LAS MARAVILLAS del GLP1

LAS MARAVILLAS del GLP1

El desarrollo y el uso del GLP1 en la actualidad quizá representa uno de los momentos más estelares de...

noviembre 28, 2024
Así fue la desinformación que circuló durante las elecciones en Estados Unidos

Así fue la desinformación que circuló durante las elecciones en Estados Unidos

Autores No existe evidencia para sostener que los desórdenes informativos determinaron el resultado de la elección y el triunfo...

noviembre 22, 2024