Publicado en castellano por Debate, septiembre de 2024, el último ensayo de Yuval Noah Harari, Nexus, analiza el impacto de la IA en el individuo y la sociedad actual y los futuros posibles que se vislumbran. Nada que no hayan hecho en sus libros otros intelectuales, pero Harari lo hace dándonos antes una amplia perspectiva de la historia de las redes de información y comunicación, la IA es eso básicamente, desde las cuentas de los sumerios grabadas en arcilla, pasando por el invento de la escritura, la imprenta, el telégrafo, el teléfono y las redes informáticas. Al ser historiador sabe que para comprender nuestro presente, es imprescindible conocer nuestro pasado.
Este autor israelí nació en 1976 en Haifa, tras doctorarse en la Universidad de Oxford y ser distinguido como investigador en la de Cambridge, obtuvo la catedra de Historia en la Universidad Hebrea de Jerusalén. En 2014 publicó Sapiens y alcanzó el éxito internacional, le siguió en 2016 Homo Deus, obras que respectivamente, indagaban en el pasado y en nuestro futuro como especie, y 21 lecciones para el siglo XXI en 2018. Para llegar al público juvenil escribió Imparables y Una historia grafica que recogen los contenidos de sus obras. Su compromiso social, ha impulsado a Harari a cofundar Sapienship una empresa con la finalidad de crear debates entre personas de diferentes sectores públicos para lograr acuerdos y enfrentar con éxito las amenazas que se ciernen sobre la humanidad de hoy y del mañana.
En sus obras anteriores Harari nos demostró la importancia del “relato” para crear mitos, religiones, creencias y convenciones ficticias, como el dinero o las naciones, capaces de unir a gran número de personas para cooperar y conseguir objetivos de los que han surgido la civilización y el progreso. Esta vez, en las seiscientas páginas de Nexus, el autor afirma que información es sinónimo de poder y para refutar su afirmación pone el foco de atención en el flujo de la información, los medios empleados y en los modelos políticos que configuran: los totalitarios muy centralizados y tiránicos donde los líderes se consideran infalibles, como el nazismo o la Rusia de Stalin, o sistemas más descentralizados y democráticos que reconocen la falibilidad de líderes e instituciones y por ello se crean organismos para paliar errores y corruptelas, como los de USA o las socialdemocracias europeas. En su repaso histórico destaca la canonización de la Biblia y el auge de los medios de comunicación de masas que ha propiciado el populismo. Nos desentraña la relación entre información y verdad, burocracia y mitología, conocimiento y poder. Ejemplos del uso de la información para conseguir objetivos, a veces perversos, nos los proporciona Harari con el Imperio romano, la Iglesia católica y la Unión Soviética. Nos señala que sus flujos de información se producían de humanos a humanos y se podían comprender, aunque no se admitieran, quedando siempre un resquicio de libertad en algún lugar y en la intimidad de las personas, por muy coercitivo, tiránico y controlador que fuera el sistema político gobernante. Sin embargo, el fujo de la información cada vez más se hace de ordenador a ordenador mediante algoritmos y chatbots, redes inorgánicas que se están volviendo muy complejas e incompresibles, incluso para los ingenieros informáticos que las diseñan. Éstos confiesan que la capacidad de aprendizaje de las redes informáticas y la autonomía que están tomando sus decisiones se les van escapando de su control. Sirva de muestra el programa informático AlfaGo que en 2015 ganó al jugador más importante del mundo de Go, un juego más complicado que el ajedrez, la máquina generaba estrategias inesperadas e inexplicables en principio, pero que al final resultaron ser tan geniales que la llevaron a obtener un aplastante triunfo sobre el campeón mundial de Go. La cantidad de información que acumulan las empresas tecnológicas y la gran capacidad para procesarla de sus programas punteros de inteligencia artificial, les da un poder inmenso. La ingeniería de datos puede ser utilizada para beneficiar a la humanidad, considerar la rapidez al conseguir vacunas para atajar la pandemia de coronavirus, o utilizarla en su contra generando sociedades distópicas. Ése es el peligro de dejar en superinteligencias, no de origen biológico sino de silicio, las decisiones políticas y económicas, permitiéndoles entrar en nuestra esfera más íntima para modelar nuestra formas de relacionarnos con nosotros mismos y con los demás.
La velocidad que alcanza la IA y el riesgo de que sus artilugios adquieran características propiamente humanas, afectando al modo de relacionarnos con ella, lo vimos en la ficción en la película Her cuyo protagonista se enamoraba de su asistenta virtual, pero la implicación personal se produce en la realidad con los robot eróticos de forma humana o los diseñados para cuidar ancianos. Los programadores tampoco son inmune: en 2022 el ingeniero de software Blake Lemoine declaró al Washington Post que el chatbot LaMADA en el que trabajaba había alcanzado la sintiencia, una forma de conciencia que le hizo enfrentarse a sus superiores para evitar su asesinato, es decir su desconexión, por lo que fue despedido por Google. En 2023 se publicó una carta abierta del “Future of life Institute” firmada por cientos de especialistas tecnológicos, entre ellos Steve Wozniak y Elon Musk, que pedía a los laboratorios de Inteligencia Artificial que detuvieran sus investigaciones, porque éstas generaban profundas e indeseadas alteraciones en la humanidad. La renuncia a su trabajo en Google del gurú de la IA Geoffrey Hinton, al reconocer que es difícil evitar que la alta tecnología digital no caiga en manos malignas y la utilicen para sus fines perversos, nos debe alarmar. Sin embargo, hay ámbitos de informática más cotidianos y nos implica más directamente, se trata de las redes sociales y sus algoritmos que ya han demostrado su cara más incontrolable y siniestra. Harari nos expone dos casos de lamentables consecuencias, los que tuvieron lugar en Myanmar en 2016 y la ola populista en Brasil que llevó a la presidencia a Jair Bolsonaro e inundó en 2018 la Cámara de Diputados brasileña de youtubers sin más méritos que tener millones de seguidores por sus contenidos falsos y escandalosos.
En Myanmar la mayoría religiosa es budista y ha convivido con una minoría musulmana, los rohinyá concentrados en Arakan, oeste del país. En 2016 una pequeña organización islámica autodenominada Ejército de Salvación Rohinyá de Arakan (ARSA) lanzó ataques al ejército fronterizo y secuestró y mató a docenas de civiles budistas. En respuesta el ejército de Myanmar y extremistas budistas hicieron una campaña de limpieza étnica, destruyeron pueblos rohinyás, mataron más de 20.000 civiles, violaron a decenas de miles de mujeres y expulsaron de Myanmar a unos 730.000 rohinyás. ¿Por qué una operación militar de castigo a los guerrilleros de Arakán se convirtió en un genocidio? Por culpa de los algoritmos de recomendación de Facebook, programados para retener la atención de los usuarios el máximo de horas. La plataforma contaba con muchos integrantes activos en esos años en Myanmar. Los algoritmos aprendieron que las noticias falsas y escabrosas, el miedo y la maldad mantenían a la gente pegada a las redes y se compartían haciéndose virales con rapidez. Hubo muchas personas que demostraron en Facebook que los terroristas eran un grupo pequeño y no representaban a los rohinyás. Sin embargo, el sistema apenas los exponían y sus videos llamando a la cordura y a la compasión, pasaban desapercibidos. Los directivos de Facebook escurrieron la responsabilidad de los crímenes, diciendo que fueron los usuarios libremente los de decidieron fomentar la violencia sirviéndose de la red social.
En 2012 los usuarios de You Tube reproducían a nivel mundial una media diaria de cien millones de horas, pero sus ejecutivos se propusieron el objetivo de elevar la media a mil millones de horas al día para 2016. Al igual que en Facebook, los algoritmos de YouTube aprendieron a quienes exponían videos escandalosos y llenos de mentiras, el algoritmo los premiaba recomendándoselos a muchos usuarios y aumentaba la popularidad de los youtubers con esas estrategias. En un libro del 2022 “Las redes del caos” se acusa a los algoritmos de YouTube de ser el motor del auge de la extrema derecha brasileña y del triunfo en las urnas de Jair Bolsonaro. Hubo youtubers que obtuvieron escaños en esas elecciones gracias a incrementar su número de seguidores, que luego fueron sus votantes, publicando videos con contenidos falsos y manipulación de imágenes para provocar la indignación, el miedo y con teorías de la conspiración. Los predicadores aprovecharon el fanatismo religioso para la manipulación emocional, dando lugar a una polarización que dividió al país y causó daños irreparables en la economía y, sobre todo, en la ecología, pues se eliminaron las leyes de protección a la selva amazónica brasileña, dejándola en manos de los intereses empresariales. El documental de Netflix “Apocalipsis en los trópicos” trata de esa etapa política en Brasil.
Harari reconoce los méritos de la IA y su contribución al avance de la medicina, las demás ciencias y de la sociedad, pero insiste en que hay que regularla, dictar leyes que impidan su mal uso. El problema es que no se pueden dictar leyes si los legisladores no saben a quienes pedirle responsabilidades, imponer castigos y reparaciones, porque desconocen el funcionamiento de la IA, como tampoco lo conocen a fondo, hoy por hoy, los diseñadores de sus programas. Cada vez más se deja a la IA la toma de decisiones que tienen impacto en el sistema financiero, judicial, económico, en el de la salud y en todos los ámbitos de la sociedad y de nuestra vida personal, de ahí la importancia de prevenir que no tome las riendas del destino de la humanidad.
