Beethoven Herrera Valencia

Este libro aborda la revolución de la inteligencia artificial (IA) como un fenómeno disruptivo con el potencial de reconfigurar el orden mundial. Su autor expone que, comparada con revoluciones pasadas, la IA destaca por su capacidad de tomar decisiones y generar ideas, lo que le otorga agencia propia dentro de nuestra red de información. Sin embargo, aunque se considera que los computadores son instrumentos objetivos y precisos, en realidad pueden imponer órdenes injustas y perpetuar desigualdades debido a los sesgos presentes en los datos con los que son entrenados.

Partiendo de una perspectiva histórica, Harari explora, por ejemplo, cómo las tecnologías de información han servido tanto para expandir la democracia como para consolidar regímenes totalitarios. Recuerda que, desde

los métodos rudimentarios de control de emperadores romanos como Nerón hasta las herramientas avanzadas utilizadas por Stalin en el siglo XX, la tecnología ha ampliado las capacidades de vigilancia y represión. En un contexto más reciente, el autor cita el uso del populismo por líderes como Chávez, Orbán y Erdogan para debilitar instituciones democráticas y consolidar su poder. Harari sostiene que el populismo ofrece a los hombres fuertes una base ideológica para convertirse en dictadores mientras fingen ser demócratas, una estrategia útil para neutralizar o apropiarse de los mecanismos de autocorrección de la democracia (Harari, 2024, p. 170).

El autor concluye que, si bien el populismo exacerba el concepto de “poder del pueblo” y puede allanar el camino hacia el totalitarismo, el verdadero desafío en el siglo XXI será lidiar con creadores de mitos digitales y burócratas digitales. Según Harari, la división principal podría no darse entre democracias y regímenes totalitarios, sino entre seres humanos y agentes no humanos, planteando el riesgo de un “Telón de Silicio” que separe a los humanos en bandos dirigidos por jefes supremos algorítmicos e ininteligibles.

En Nexus también se examina la competencia tecnológica entre países como EE. UU. y China, destacando hitos como el triunfo de AlphaGo en 2016, que impulsó a China a liderar la carrera de la IA. Asimismo, se señala que esta competencia tecnológica podría derivar en conflictos cibernéticos, cuyas características invisibles y versátiles complican las represalias y aumentan el riesgo de confrontaciones armadas.

No obstante, Harari plantea que esta visión puede cambiar. Al analizar la naturaleza humana a través de la historia

y la biología, argumenta que la cooperación ha sido una constante en la evolución humana y que los conflictos no son inevitables. Los cambios en la tecnología, la economía y la cultura han influido en la intensidad de los conflictos, sugiriendo que el futuro no está determinado por la naturaleza humana, sino por las decisiones que tomemos como sociedad.

Harari concluye que los datos recopilados deben utilizarse para mejorar la vida de las personas, no para explotarlas o controlarlas. Este cambio requiere repensar cómo se concibe la recopilación de datos. La vía hacia el buen uso de la información es la vigilancia mutua, en la que los ciudadanos posean tanto poder para vigilar a las instituciones como estas para vigilar a los ciudadanos.

¡La transparencia y la rendición de cuentas son fundamentales para el funcionamiento de la democracia! EC