Yuval Noah Harari vuelve con Nexus: “La IA podría crear regímenes de vigilancia total que aniquilen la privacidad”

"A diferencia de la bomba atómica, que aunque tiene un poder inmenso, sigue dependiendo de decisiones humanas, la inteligencia artificial puede tomar decisiones por sí misma". Esta fue una de las declaraciones más contundentes que dijo el historiador y filósofo Yuval Noah Harari, este lunes, en la presentación de su tan esperado libro, Nexus.

En rueda de prensa con periodistas de Latinoamérica y España, de la que Noticias Argentinas participó, Harari, por Zoom desde Washington DC, advirtió sobre el potencial sin precedentes de la inteligencia artificial (IA) y sobre los peligros de esta tecnología.

Harari, conocido mundialmente por sus obras como Sapiens y Homo Deus, se encuentra en plena promoción de su nuevo libro. En Nexus, recorre los últimos 100.000 años de historia para ofrecer una perspectiva única sobre el papel que jugó la información y las redes en la construcción de sociedades y el control de las masas. Ahora, el historiador dice que la humanidad vive una crisis existencial autoinflingida gracias a la creación de nuevas tecnologías -como la IA- que “tienen el potencial de escapar de nuestro control y de esclavizarnos o aniquilarnos”. “Si somos tan sabios, ¿por qué somos tan autodestructivos?”, se pregunta Harari en las páginas del libro.

En el diálogo con los periodistas, Harari enfatizó cada vez que pudo su preocupación respecto de la inteligencia artificial, a partir de la cual se propone pensar si es un nuevo modo de vida. "La inteligencia artificial es distinta a cualquier tecnología que hayamos creado antes. No es una herramienta, es un agente", señaló y agregó: “A diferencia de tecnologías como la bomba atómica, que dependen de decisiones humanas para ser activadas, la IA tiene la capacidad de actuar de manera autónoma y tomar decisiones por sí misma”.

Harari puso un ejemplo claro para ilustrar esta diferencia: "Un editor humano decide qué historias poner en la portada de un periódico, pero en Facebook o Twitter, es el algoritmo quien decide qué contenido aparece en tu feed". Y advirtió que esta capacidad de la IA para tomar decisiones de manera autónoma está evolucionando rápidamente. "Hoy en día, la IA puede escribir textos, crear imágenes y componer música. Si bien estas creaciones aún no son perfectas, estamos viendo solo los primeros pasos de una revolución tecnológica que se acelerará mucho más rápido de lo que podemos imaginar".

Y sumó: "Si hoy ChatGPT es una ameba, en diez años podríamos estar lidiando con un dinosaurio. Y no sabemos cómo será ese dinosaurio ni qué podrá hacer". Esta capacidad de la IA para evolucionar rápidamente plantea la posibilidad de que, en un futuro no muy lejano, se desarrolle una inteligencia artificial mucho más avanzada que la actual, lo que podría llevar a una pérdida de control total por parte de los humanos.

En este panorama de “explosión de la IA”, hizo mención al aspecto cultural.”Las creaciones profundamente humanas como la música, la literatura, la pintura, la historia

El potencial nuevo totalitarismo tecnológico

¿Cuál es la relación de la inteligencia artificial en la política? Para Harari, que la IA conduzca a un totalitarismo sin precedentes. Sobre este tema, dijo que la tecnología tiene un potencial totalitario que no hemos visto antes en la historia. "En regímenes autoritarios como el de Stalin o el de Hitler, era imposible controlar a toda la población en todo momento porque no había suficientes agentes humanos para hacerlo", explicó y siguió: "Pero con la IA, un gobierno podría seguir a todos los ciudadanos todo el tiempo sin necesidad de un solo agente humano".

Harari puso como ejemplo a Israel, país donde reside, donde, según cuenta, se implementó un sistema de vigilancia total en los territorios palestinos ocupados, con cámaras, drones y software de reconocimiento facial que siguen a los residentes en todo momento. También mencionó a Irán, donde la IA se utiliza para hacer cumplir las leyes del velo islámico. "Las mujeres que no llevan velo en público son identificadas automáticamente por cámaras con software de reconocimiento facial, y reciben multas instantáneas por mensaje de texto", explicó. "Esto no es ciencia ficción, ya está ocurriendo".

El nivel de vigilancia al que refiere el autor de Nexus despliega un sinfín de iimplicaciones para los derechos humanos y la privacidad. "En un régimen de IA, la privacidad podría ser aniquilada por completo. Ya no necesitaríamos policías para vigilar, bastarían los algoritmos para seguir cada uno de nuestros movimientos", advirtió Harari.

La IA no solo podría seguir a las personas, sino también analizar todos sus datos, desde textos y audios hasta videos e imágenes, para encontrar patrones y anticipar comportamientos. "La capacidad de la IA para analizar grandes cantidades de información es tan grande que podría crear un régimen de vigilancia total, donde cada acción y cada pensamiento sean monitorizados y controlados".

A pesar de los enormes desafíos que plantea la inteligencia artificial y la desinformación, Harari dejó una nota de esperanza: “No podemos prometer que no caigamos en un totalitarismo tecnológico, pero el futuro no está escrito. Dependerá de las decisiones que tomemos hoy", dijo.

¿Por qué no podemos mantener una conversación racional?

Durante la rueda de prensa, Harari también reflexionó sobre por qué, a pesar de contar con las tecnologías de información más avanzadas de la historia, la sociedad parece incapaz de tener conversaciones racionales. "La gente ya no puede ponerse de acuerdo ni en los hechos más básicos", afirmó. Según Harari, esto es algo que preocupa tanto a republicanos como a demócratas en Estados Unidos, donde la polarización política alcanzó niveles extremos. "Las tecnologías que prometieron conectarnos y están, en cambio, contribuyendo a una desconexión masiva".

Ante un panorama tan sombrío, Harari enfatizó que el periodismo tiene un papel vital que desempeñar en la preservación de la democracia. "La democracia es una conversación. Y sin hechos, sin verdad, esa conversación no tiene sentido", afirmó. La prensa, según Harari, es uno de los principales garantes de la verdad en una sociedad democrática, y sin medios independientes y veraces, la democracia corre el riesgo de desmoronarse.

El autor advirtió que muchos confunden la democracia con las elecciones, pero que esta es mucho más que un simple proceso electoral. "Las elecciones son solo un mecanismo dentro de la democracia, pero lo que realmente define a la democracia es la capacidad de tener una conversación en la que se puedan identificar y corregir errores", explicó.

Y dio dos ejemplos: Venezuela y Corea del Norte: "Como acabamos de ver en Venezuela, puedes celebrar elecciones y manipularlas, y lo sabemos. Y en Corea del Norte tienen elecciones cada cuatro años, pero eso no las convierte en una democracia".

Ante la consulta sobre el uso de la inteligencia artificial por parte de la extrema derecha en distintas partes del mundo, el autor de Nexus fue contundente al respecto cuando dijo que “en muchos países se ve esto viniendo de la extrema derecha, pero la extrema izquierda puede hacer lo mismo" y agregó que comparten una profunda desconfianza hacia las instituciones que garantizan la verdad, como los medios de comunicación tradicionales, las universidades y los tribunales.

“Lo que escuchas tanto en la extrema derecha como en la extrema izquierda es una visión cínica del mundo, que dice que la única realidad es el poder. Que los seres humanos solo están interesados en obtener poder, y que todas las interacciones humanas son luchas de poder. Trump y Marx sostienen que los humanos queremos poder y esto no es verdad", señaló.

Y sentenció: “En el único régimen que puede sobrevivir la inteligencia artificial es la dictadura”. Harari pidió salir del terror y volver a la confianza que requieren las instituciones creadas por humanos, entre ellas, la democracia.

Según explicó Harari, en una democracia, los medios de comunicación tienen la responsabilidad de exponer las mentiras y errores del gobierno y asegurarse de que el público tenga acceso a información veraz. "En un país donde el gobierno controla todos los medios, es imposible corregir errores porque la verdad no tiene cómo salir a la luz", advirtió Harari.

Además, subrayó la importancia de las instituciones independientes, como los tribunales y los medios de comunicación, que actúan como un contrapeso frente a los abusos de poder. "Si un gobierno controla todos los medios, la verdad queda enterrada bajo una montaña de desinformación", señaló.

El peligro de la manipulación algorítmica

Uno de los elementos clave de esta desconexión, según Harari, es el papel que juegan los algoritmos en las plataformas de redes sociales. "Las decisiones editoriales que solían estar en manos de los editores ahora están en manos de algoritmos", dijo. "Estos algoritmos no están diseñados para difundir la verdad, sino para captar la atención de los usuarios".

Esta búsqueda por mantener a los usuarios enganchados en las plataformas ha llevado a que las teorías conspirativas, el discurso de odio y la desinformación se propaguen a una velocidad sin precedentes. "El problema no es lo que publican los usuarios, sino las decisiones editoriales que toman los algoritmos al priorizar el contenido que genera más interacción, sin importar si es veraz o no", sentenció el autor.

Harari fue especialmente crítico con las plataformas de redes sociales y el papel que juegan en la difusión de noticias falsas y teorías conspirativas. Aunque reconoció que las empresas tecnológicas deben ser cuidadosas al censurar a los usuarios humanos, señaló que el verdadero problema no es el contenido generado por las personas, sino las decisiones editoriales tomadas por los algoritmos. "Si un algoritmo decide que una teoría conspirativa debe ser promovida y difundida porque genera más interacción, ese es el verdadero problema", explicó.

El autor hizo hincapié en que los algoritmos de Facebook, Twitter y otras plataformas no están diseñados para buscar la verdad, sino para maximizar los beneficios económicos de las empresas. "Su modelo de negocio se basa en mantener a los usuarios enganchados el mayor tiempo posible, y para lograrlo, recurren a contenidos que generan emociones fuertes como el odio, el miedo o la indignación", afirmó. Esta búsqueda de interacción a toda costa está erosionando los cimientos de la democracia, ya que las plataformas priorizan las noticias falsas y el contenido sensacionalista por encima de la verdad.

Harari hizo referencia al papel de figuras como Elon Musk, actual propietario de Twitter, en este debate sobre la libertad de expresión y la regulación de contenidos. Según el historiador, Musk defiende la idea de que las redes sociales no deben censurar a los usuarios, argumentando que más información llevará a una mayor libertad y acceso a la verdad. Sin embargo, Harari advierte que este enfoque ignora la verdadera amenaza: "El problema no es la libertad de expresión de los usuarios, sino cómo los algoritmos eligen amplificar ciertos contenidos para maximizar el tiempo de permanencia de los usuarios en las plataformas".

La prioridad de las redes sociales no es la veracidad, sino el engagement. Esto lleva a que las teorías más sensacionalistas, que generan miedo o indignación, se difundan más rápidamente que las noticias basadas en hechos. "El algoritmo no está interesado en la verdad, está diseñado para capturar la atención. Y eso, en manos de gigantes tecnológicos como Elon Musk, puede ser una de las mayores amenazas para la democracia y la cohesión social", sentenció Harari.

Y siguió: “Si no haces, nuevamente, el esfuerzo costoso de descubrir y difundir la verdad, esta se verá inundada, enterrada bajo toda esta información basura. Y esta es la responsabilidad de las sociedades hoy en día, resistir esta visión ingenua que escuchas de personas como Elon Musk, de que solo necesitas más información y la gente encontrará la verdad por sí misma."

Una (pequeña) luz de esperanza

Aun con todos los peligros que detalló Harari en la rueda de prensa, también dijo que la inteligencia artificial tiene un potencial enorme. ¿Con qué? El autor de Nexus, por ejemplo, consideró la creación de médicos con inteligencia artificial, capaces de actualizarse constantemente sobre los descubrimientos, con la posibilidad de controlar la salud las 24 horas. “En este sentido, la inteligencia artificial puede crear la mejor atención sanitaria de todos los tiempos en 20 o 30 años”.

Harari explicó que la IA tiene el potencial de superar muchas limitaciones humanas, permitiendo diagnósticos más precisos y tratamientos personalizados, lo que cambiaría radicalmente la relación médico-paciente. Sin embargo, también refirió a los riesgos de confiar ciegamente en los médicos con IA. Señaló que, aunque estos sistemas son muy eficientes en el procesamiento de datos, carecen de empatía y comprensión emocional, cualidades que los médicos humanos aportan al cuidado del paciente.

“Hay que garantizar que la tecnología sea segura, sería un paso muy significativo para la humanidad”, concluyó y pidió por la regulación de la inteligencia artificial.