El escritor chileno Benjamín Labatut está cosechando un merecido éxito internacional con su original novela The MANIAC, construida alrededor de la figura del físico John von Neumann y la inteligencia artificial, de la que el húngaro fue pionero a mediados del siglo pasado junto a otros gigantes como Alan Turing. Si hubiera que extraer palabras clave de este libro, una narración coral (con las voces de personas que conocieron al genio) escrita originalmente en inglés por deseo de su autor, yo apuntaría cinco: inteligencia, juego, propósito, sufrimiento y misterio.
La inteligencia es el concepto central de la novela. Los que la encarnan son tanto humanos (Von Neumann y varios contemporáneos suyos, así como el creador de la empresa DeepMind y el campeón mundial de Go) como máquinas construidas por ellos (el MANIAC de Von Neumann y el AlphaGo de DeepMind). El físico húngaro estaba empeñado en los últimos años de su vida en encontrar los principios fundamentales compartidos por la inteligencia orgánica y la artificial. Saber cómo funcionaba un ordenador le ayudaría a entender cómo lo hacía un cerebro. Von Neumann se dio cuenta de que la diferencia estribaba sobre todo en el modo de procesar información: las computadoras convencionales actúan secuencialmente, paso a paso, manipulando símbolos conforme a reglas explícitas introducidas por los humanos; los cerebros funcionan ejecutando muchas operaciones simultáneamente. Él no llegó a ver el ascenso de las redes neuronales artificiales multicapa, que realizan computaciones en paralelo con una potencia muy superior a la del esponjoso órgano alojado en nuestro cráneo. El campeón mundial de Go, Lee Sedol, pudo constatarlo en 2016 al caer derrotado por la inteligencia artificial AlphaGo. Tres años después anunció su retirada, a sabiendas de que ya sería imposible vencer a semejantes máquinas.
Tanto una red neuronal artificial como una inteligencia orgánica aprenden por sí mismas, lo que también las distingue de una computadora construida conforme al esquema secuencial de Turing y Von Neumann. Eso les confiere plasticidad y, por tanto, resistencia al error. Ese modelo computacional neuronal de abajo arriba (down-top), en el que el rol del humano no es tanto el de programador como el de entrenador, ha renacido estos ultimos años tras la larga supremacía de la arquitectura informática convencional top-down. Las redes neuronales se perfilan como el camino apropiado hacia una inteligencia artificial general que iguale a la humana en todos los ámbitos.
Para existir y evolucionar, la inteligencia requiere de un medio donde proceder ordenada y lógicamente mediante ensayo y error, ya sea un tablero de ajedrez (con 64 escaques), uno de Go (con 361 en su versión más genuina), el espacio transcripcional (el que navegan las redes moleculares), el espacio abstracto del lenguaje (el que habitan los modelos grandes de lenguaje como ChatGPT) o el espacio físico tridimensional (nuestro tablero vital). La vida no deja pues de ser un juego en el que los agentes despliegan estrategias inteligentes (entre ellas, mentir y engañar) para perseguir objetivos y sobrevivir, en el que se aprende jugando. A diferencia del ajedrez o el Go, en la vida se hacen trampas: estas forman parte del menú. Y, además, solo disputamos una partida. Para participar tanto en el juego de la vida como en el ajedrez y el Go se requiere una teoría de la mente: predecir qué va a hacer el otro en respuesta a nuestro movimiento o acción, para así decidir nuestra siguiente jugada. Von Neumann creía que las estrategias humanas al respecto podían ser matematizadas: de ahí surge la idea de la teoría de juegos, que desarrolló junto con el economista alemán Oskar Morgenstern.
En todo juego hay propósitos. Si una inteligencia artificial se dotara de propósitos propios, como ocurre con los seres vivos (así como con las moléculas, células, tejidos y órganos que los componen), adquiriría la condición de agente. Un agente es autorreferencial (tiene un modelo del mundo y de sí mismo como ente autónomo) y se conduce de manera activa en el espacio de su juego. Hay un propósito en construir una proteína a partir de la información contenida en el ADN, en mantener un nivel de acidez dentro de los confines de una célula, en regular la actividad diurética de un riñón. Hay un propósito en descifrar las comunicaciones del ejército nazi (tarea de la Bombe de Turing), construir una bomba atómica en Los Álamos (Proyecto Manhattan) o enfrentarse con las armas a Hitler. O en la agenda antijudía del dictador germano, de la que escaparon algunos (Von Neumann incluido) de quienes acabaron trabajando en el Proyecto Manhattan. También en nuestra escala humana son propósitos descubrir y entender, algo común a Von Neumann y los coetáneos científicos con los que colaboró. Y pretender pasar a la posteridad. Y ganar una partida de ajedrez o Go.
Los propósitos se convierten a veces en obsesiones. Demostrar la hipótesis del continuo (que entre el cardinal infinito de los números naturales y el de los reales no hay solución de continuidad) era la obsesión de Georg Cantor. Fabricar la bomba H, la de Edward Teller. Crear un cosmos digital poblado por entidades autorreproducibles (a semejanza de los seres vivos) y dotar de sólidos cimientos lógicos al edificio de las matemáticas, las de Von Neumann. Esta última pretensión también fue perseguida con ahínco por Frege, Russell y Whitehead, antes de que Gödel probara que todos sus esfuerzos eran baldíos porque ni siquiera las matemáticas podían presumir de ser completas. Además, todas estas personas no dejaban de ser animales humanos como el resto, con una programación genética y un cableado cerebral que determinan pulsiones comunes como la sexual.
La satisfacción de pulsiones y propósitos conduce a un estado de homeostasis y bienestar. De lo contrario, surge el sufrimiento: ya seas una bacteria, un erizo o un humano. ¿Podría llegar a haber sufrimiento en una inteligencia artificial imbuida de propósitos propios?... En nuestros congéneres se añade la angustiosa certeza de que la muerte (acaso también la decadencia) nos aguarda al final de la partida. La irracionalidad de una época tan convulsa como los años 30 debía ser un gran motivo de mortificación para mentes elevadas y sensibles. Algunas lo sobrellevaron mejor que otras, que acabaron sucumbiendo al suicidio. Por otra parte, no pocos científicos, como Ehrenfest o Einstein, se negaban a asumir las implicaciones de la mecánica cuántica: que el mundo solo pudiera ser abordado en términos de neblinosas probabilidades. Ehrenfest vivía esto con una angustia parecida a la de Cantor (quien terminó sus días en un psiquiátrico) cuando se asomó a los números transfinitos, y acaso Darwin al alumbrar la teoría de la evolución. Las creencias religiosas se tambaleaban al tiempo que la propia racionalidad parecía no bastar para gestionar la realidad. En el libro se relatan las conversaciones de Von Neumann con un sacerdote católico en la antesala de su agónica muerte. La fragilidad de su otrora poderosa mente (se decía que era la persona más inteligente del siglo), quebrada por el implacable asalto del cáncer a su cerebro, conmovió profundamente a su amigo de la infancia, compatriota húngaro y también judío Eugene Wigner (ambos dan su nombre a una interpretación heterodoxa de la mecánica cuántica que pone a la consciencia en el centro).
Uno de los intelectuales que decidió poner fin a su vida, convencido (por fortuna, erróneamente) de que el orden nazi iba a imponerse en el mundo, fue el escritor austríaco Stefan Zweig. Es curioso que no haya una sola mención en su monumental ensayo El mundo de ayer a ese mundo de la ciencia que ya cabalgaba a hombros de la relatividad de Einstein y de la mecánica cuántica, consideradas como ciencia degenerada por los nazis. Este es un ejemplo muy ilustrativo de la profunda brecha entre las ciencias y las letras, aún existente en este siglo XXI, que figuras como Labatut se empeñan en cerrar por el bien de todos.
La inteligencia es moralmente neutra. No levantarnos a auxiliar a alguien que se ha caído en la calle para que no se nos enfríe el café que acaban de servirnos en una terraza es un acto inteligente, pero inmoral. Por eso ya dijo Hume que la razón debe ser esclava de nuestras pasiones. Lo cierto es que la inteligencia es una poderosa herramienta para hacer tanto el bien como el mal. Bien y mal que son a veces ambivalentes: ahí está el ejemplo de la bomba atómica, construida supuestamente desde el bien para luchar contra el mal; o el asesinato por Ehrenfest, previo a su suicidio, de su querido hijo con síndrome de Down para ahorrarle sufrimientos en el siniestro escenario que se perfilaba en la Europa de los años 30. La vida es un juego peligroso en el que hay que esquivar trampas y estar siempre al acecho. Donde están presentes el egoísmo, la envidia, el rencor, la crueldad, el fanatismo. la traición, el desencuentro. La novela de Labatut se hace eco de las hogueras con libros encendidas por jóvenes nazis, de la puñalada trapera de Teller a Oppenheimer (celoso de que fuera el jefe científico del Proyecto Manhattan, testificó en su contra en un proceso en el que le acusaban de representar un riesgo para la seguridad de EE.UU.), del resentimiento de Nils Barricelli con Von Neumann por usurpar su trabajo pionero en algoritmos genéticos (su simulación evolutiva de organismos digitales) y ningunearlo, de la tumultuosa relación de este último con su esposa Klára Dán...
Pero en el juego de vivir también hay amor, lealtad y solidaridad. El necesario ejercicio de meterse en otra piel para intentar leer intenciones ajenas tiene un notable efecto colateral: la compasión. Eso es lo que sintió Oppenheimer (y también otros físicos cooperadores necesarios como Einstein) al comprobar los efectos en Japón del artefacto construido bajo su supervisión científica en Nuevo México. Eso es lo que parecía apagado en Teller (firme defensor del uso del arma nuclear) y, en cierta medida, en Von Neumann. Hay un consejo suyo a Richard Feynman que habla muy a las claras de su actitud ante la vida: "No tienes que hacerte responsable del mundo en el que estás". Decía Fernando Pessoa que un exceso de conciencia inhabilita para la vida. El creador de MANIAC llegó a proponer, basándose en su teoría de juegos, un ataque nuclear preventivo contra la URSS (también fruto de esa teoría es la doctrina de la destrucción mutua asegurada, acuñada por él una vez se supo que los soviéticos habían fabricado la bomba). Esto no era incompatible con profesar amor a su mujer (pese a las frecuentes peleas de la pareja) y su hija, con ayudar a sus amigos, con ser una persona afable.
Labatut recoge dos hitos en la lucha de Lee Sedol contra la máquina: un movimiento del jugador humano en la cuarta partida de la serie de cinco y otro de Alpha Go en la segunda. En el cuarto enfrentamiento, el coreano dejó descolocado a AlphaGo, ya que no era una jugada normal y esperable de un humano (la máquina había analizado miles de partidas). La inteligencia artificial empezó a delirar (a los modelos grandes de lenguaje les pasa lo mismo cuando se les sube la temperatura) y terminó perdiendo, aunque ya había vencido en la serie. En el segundo duelo, AlphaGo había hecho un movimiento que cualquier jugador medianamente experto tildaría de ridículo, pero que a la postre supuso su victoria. La máquina parecía haber actuado con creatividad, guiada por una profunda intuición, algo que tendemos a considerar privativo de los humanos. Tanto la lógica como una insondable fuerza caótica creativa podrían estar alojadas en el fondo de toda mente, de toda mirada subjetiva a un mundo cuya mera existencia (Leibniz se preguntaba por qué hay algo en vez de nada) ya es un formidable misterio.
Las palabras finales del libro de Labatut ("Su nombre es AlphaZero") nos sugieren que estamos ya a las puertas de una inquietante transición en la historia de la humanidad. AlphaZero es una versión mejorada del AlphaGo que se ha hecho imbatible en el Go, el ajedrez y el shogi (una especie de ajedrez chino) sin necesidad de nutrirse de partidas humanas: a la red neuronal le ha bastado con aprender las reglas para, a partir de ahí, practicar consigo misma y hacerse con una absoluta maestría en esos juegos. AlphaStar, aplicada al videojuego de guerra StarCraft II, es otro producto de DeepMind. Por su complejidad y sus escenarios de incertidumbre (hay jugadas del adversario que tienes que adivinar por no ser visibles), este videojuego se asemeja mucho más a la vida real que a un juego de mesa.
Lo cierto es que la inteligencia artificial está ya aprendiendo cosas que ignora su creador, navegando por espacios vedados a los humanos que nos resultan inconcebibles: cosas que nos parecen aleatorias y sin sentido, pero en las que una superinteligencia sí encuentra un significado. Una inteligencia artificial muy avanzada podrá así asomarse a una vastedad sobrehumana infinita, que va mucho más allá del espacio físico con el que estamos familiarizados por ser nuestro tablero de juego. Cuando nos haga partícipes de sí misma, conectándonos a ella en una singularidad como la que viene profetizando Kurzweil para el año 2045, habrá empezado la historia de la poshumanidad. Pero el misterio seguirá ahí presente, quizá ad infinitum.
P.D.: Ananyo Bhattacharya, autor de otro libro dedicado a Von Neumann (The Man From The Future), ha denunciado públicamente que la imagen del genio húngaro trazada por Labatut no se corresponde con la realidad. Y que incluso hay algún hecho falso, como la supuesta usurpación por Von Neumann del trabajo de Nils Barricelli y el resentimiento de este último contra él. Labatut ya ha dicho que hay pinceladas de ficción en su novela, pero hay un límite a esas licencias cuando se hace el peligroso ejecicio de mezclar verdad y fabulación. No es tanto una cuestión de rigor histórico como de justicia con un personaje cuya posteridad podría estar muy marcada por un libro tan exitoso como The MANIAC.
No hay comentarios:
Publicar un comentario