Michael Levin, Dios de los xenobots y antrobots

Xenobots y antrobots son biorrobots desarrollados en laboratorio por los equipos del biólogo Michael Levin: en el primer caso, a partir de células embrionarias de renacuajo; en el segundo, de células epiteliales de la tráquea humana. Una vez extraídas, estas células se desarrollan en cultivos y dan lugar a formas inéditas en la historia de la vida en la Tierra. Empiezan a navegar y resolver problemas en un espacio muy diferente al del cuerpo de una rana o el de un humano, exhibiendo comportamientos totalmente insospechados como una reproducción cinética (caso de los xenobots, consistente en replicar sus formas moldeando mecánicamente material del cultivo) o el cosido de tejidos neuronales lesionados (caso de los antrobots, que misteriosamente se entregan a esta labor sin haber sido instados a hacerlo). Levin no deja de recordarnos que los antrobots son células con un ADN 100% humano, aunque en ellos hay genes que no se expresan y otros que sí lo hacen, a diferencia de en nuestro cuerpo.

Hay un cuento de ciencia-ficción que leí hace años, pero no he conseguido identificar (La fórmula de Lymphater, de Stanislaw Lem, se asemeja algo), que narra la creación en laboratorio de unos autómatas celulares. Estos empiezan a evolucionar a ritmo acelerado, hasta el punto de tener la capacidad de comunicarse con su creador e incluso sobrepasarle en inteligencia. Cuando esto ocurre, esa entidad emergente se desconecta para siempre de los humanos, con quienes la interacción ya no tendría más valor que la nuestra con un paramecio.

Es fascinante imaginar que los antrobots puedan evolucionar, llegar un día a tener consciencia de sí mismos y plantearse cuestiones existenciales como las de quiénes somos, de dónde venimos y adónde vamos. Si esto llegara a ocurrir y los humanos ya no existiesen por entonces, ¿podría una superinteligencia surgida por esa ruta desentrañar su gran misterio? La respuesta la conocemos nosotros y no tiene connotación mística alguna: su creador (usando material biológico esculpido a lo largo de 3.500 millones de años de evolución) es el humano del siglo XXI Michael Levin. Él sería su insospechado Dios, movido por propósitos científicos que podrían acaso intuir.

La IA la creamos también nosotros, sacando provecho de una capacidad de computación inherente a la naturaleza. Una superinteligencia nacida de esta senda, hibridada probablemente con lo orgánico, sí sabría perfectamente cuál es su origen: unos ingenieros humanos. ¿Y si la vida en la Tierra fue creada por algún tipo de inteligencia avanzada de desconocido soporte físico? Esta es la idea de la panspermia dirigida, aventurada por el codescubridor del ADN Francis Crick: las semillas de la vida habrían sido deliberadamente sembradas a lo largo y ancho del universo por una civilización extraterrestre.

Podríamos incluso especular que el propio universo ha sido creado por una superinteligencia, a su vez fruto de otra en otro universo. Universos anidados donde mora la inteligencia: ¿Una tramoya inconcebible con infinitos tableros donde un agente transcendental (una consciencia pura) está jugando?...

Jugando a ser Dios: ¿Y por qué no?

Ray Kurzweil, gurú transhumanista y apóstol de la singularidad tecnológica, quiere vivir indefinidamente sin sufrimiento (revirtiendo incluso su envejecimiento) y volver a hablar con su padre ya fallecido. Deposita para ello sus esperanzas en la ciencia (en el fondo, en la inteligencia humana), no en religión alguna. En su último libro, La singularidad está más cerca, se muestra confiado en llegar a tiempo de lograrlo: ahora tiene 77 años.

El físico y neurocientífico Àlex Gómez-Marín representa la postura opuesta a Kurzweil, la que ve en sus sueños utópicos una amenaza distópica producto de la soberbia humana. Esa prevención contra el transhumanismo se inscribe en la misma lógica que la del relato bíblico de la torre de Babel, cuya construcción se contemplaba como una afrenta a Dios. El jugar a ser Dios es uno de los mayores pecados que se le achacan a la humanidad moderna. Pretender acabar con el dolor y la muerte, hibridando la vida con tecnologías como la IA, nos asomaría supuestamente a escenarios de pesadilla, socavando nuestra condición humana y privando de sentido a nuestra existencia.

¿Pero es acaso un acto de soberbia querer reducir el sufrimiento en un mundo donde es moneda corriente? ¿Lo fue empezar a operar con anestesia o erradicar la viruela? ¿Es contra natura manipular el genoma para evitar una enfermedad congénita o devolver la vista a un ciego con un implante neuronal? ¿Debemos aceptar como necesario el peaje de vivir siempre a merced de una desgraciada mutación genética, de un error celular, de un accidente orgánico?... Como bien dice el biólogo Michael Levin, los humanos actuales no somos una "forma ideal, creada y elegida". Todos los seres vivos son producto de la evolución, que nunca es perfecta sino simplemente funcional. Y también somos hijos de la depredación, de la "naturaleza roja en colmillo y garra" de la que se hacía eco amargamente el gran poeta Tennyson. ¿Enmendar la plana a la naturaleza o a Dios (yo creo que no dejamos de ser tanto naturaleza como Dios/Consciencia) es realmente algo deplorable?...

Lo cierto es que ya venimos corrigiendo a la naturaleza desde tiempos inmemoriales con los injertos de plantas, la domesticación de animales (el perro es una creación nuestra) o la ropa (lo natural sería estar desnudos). Y, más recientemente, con los embalses, las vacunas, los aviones, la calefacción central o los anticonceptivos. Pero algunos propugnan ir mucho más allá: por ejemplo, resucitando especies extintas como el dodo. Un caso extremo es el del filósofo Steve Sapontzis, que aboga por acabar con la depredación (no solo la humana) siempre y cuando esto no ocasionase más sufrimiento del que ahorrara. Para Sapontzis, un león hace algo malo al matar a sus presas para alimentarse, aunque no ser un agente moral le eximiría de culpa (como a un niño muy pequeño que maltrata a un gato). Parece razonable suponer que el agotamiento del caldo nutritivo primigenio fue lo que nos llevó a la "naturaleza roja en colmillo y garra". 

El acelerado desarrollo tecnológico nos obliga a plantearnos cuestiones que a día de hoy pueden parecernos ridículas o más propias de una película de ciencia-ficción. Michael Levin no solo es estandarte de una nueva biología (basada en la concepción de los seres vivos como inteligencias colectivas en las que cada nivel jerárquico, hasta abajo del todo -células y moléculas-, tiene agencia), sino también pionero en adelantar las implicaciones éticas de un mundo en el que seres orgánicos normales, otros mejorados tecnológicamente, inteligencias artificiales, criaturas híbridas y quimeras convivirán a no mucho tardar. Un mundo en el que acaso la muerte sea opcional y pueda ser desterrada si alguien tiene la voluntad de seguir viviendo en un sustrato orgánico o digital. Quizá hemos normalizado erróneamente el envejecimiento y la muerte como fenómenos inevitables, cuando lo cierto es que una medicina regenerativa personalizada, con el auxilio de la IA, podría brindarnos en unos años las herramientas necesarias para prolongar indefinidamente la vida. Las planarias (pequeños gusanos acuáticos) ya han encontrado la forma de hacerlo sin recurrir a la ciencia, explotando la plasticidad de sus células madre en un abigarrado genoma gracias a su inteligencia colectiva.

La elucubración más osada a este respecto la pone el físico Frank Tipler, quien apunta a una muy remota singularidad cósmica: cuando la vida inteligente cope toda la materia del universo, forzará su colapso gravitatorio haciendo infinita su capacidad computacional. Podría así emularse todo universo posible, lo que permitirá cualquier cosa... ¡como resucitar a los muertos! (esta afirmación le ha granjeado a Tipler una injusta fama de chiflado). Si vivimos en un universo computacional, la posibilidad de simular universos abre la puerta a paraísos virtuales sin el corsé de las leyes físicas, solo limitados por la imaginación. ¿Deberíamos hacer allí posible todo lo que consideremos bueno y justo? ¿Deberíamos desterrar todo lo que consideremos malo e injusto?...

Es un hecho que la vida a todas las escalas tiene propósitos y avanza en complejidad (va ganando "profundidad causal", en términos de la teoría del ensamblaje de Cronin y Walker). Puede que la historia del cosmos no sea más que la historia de la evolución de la inteligencia, alumbrando nuevas emergencias y espacios de posibilidades en su tortuoso camino desde una singularidad inicial como la del Big Bang. En esa senda, una estirpe de la que somos eslabones necesarios (como lo fueron LUCA, la primera célula eucariota, el primer organismo multicelular o el primer mamífero) podría acabar domando y dirigiendo el universo con una guía moral. Una estirpe en la que nuestros sucesores (que ya no serán humanos sino algo distinto e inimaginable) estén quizá llamados a superar la depredación, el sufrimiento y la muerte que han definido la vida en esta etapa infantil en la que aún se encuentra. Porque solo han pasado apenas cuatro mil millones de años.

'Nexus' de Harari: las redes de información en la era de la IA

Nos encaminamos hacia un mundo que ni siquiera los expertos y mejor informados se atreven a predecir con seguridad. Buena parte de esta incertidumbre tiene que ver con cómo será la evolución de la inteligencia artificial en los próximos dos o tres años. El historiador israelí Yuval Harari publicó hace unos meses Nexus, un ensayo en el que alerta de que podríamos estar a las puertas de un escenario distópico pero que también da motivos para la esperanza si la humanidad hace las cosas correctamente. 

Harari no comparte la visión marxista y populista de la historia de la humanidad como una lucha sin tregua por el poder a través de la fuerza bruta. A mi juicio, acierta en desmontar el manido tópico de la "ley de la jungla", algo que ni siquiera es cierto en la propia jungla. La cooperación no solo es un rasgo definitorio de la historia humana sino también de la vida en todas sus manifestaciones (¡incluidas las propias células!) desde sus inicios hace 3.500 millones de años. Si solo existiera la predación, la "naturaleza roja en colmillo y garra" de la que hablaba el poeta Alfred Tennyson, no estaríamos aquí para contarlo. Ni nosotros ni cualquier otro ser vivo.

Como ya sostenía en su ensayo Sapiens, nuestras redes de información están basadas en ficciones compartidas (entidades que pudimos imaginar cuando hace 70 mil años, gracias a una mutación genética, adquirimos esa capacidad) como Dios, dólar, Microsoft, Francia o Real Madrid que hicieron -y siguen haciendo- posible la cooperación entre muchos humanos que no se conocen personalmente. Así fue cómo realmente conquistamos el mundo, no por emplear la información para elaborar un mapa certero de la realidad sino por usarla para conectar a muchos individuos. El principal argumento de Nexus, tal como señala explícitamente su autor al comienzo del libro, es que las grandes redes de información son una enorme fuente de poder para la humanidad pero también nos predisponen a usarlo de una manera poco sabia: "Nuestro problema, por tanto, es un problema de la red". Los conflictos ideológicos y políticos no dejan de ser, para el ensayista israelí, choques entre tipos opuestos de redes de información.

Harari disiente de la creencia aparentemente razonable de que la solución a la desinformación es más información. Considera que esa es una visión ingenua, basada en una concepción errónea de este fenómeno. Porque, como bien dice, "los errores, las mentiras, las fantasías y las ficciones son también información". La ingenuidad radica en creer que la información tiene un vínculo esencial con la verdad, cuando lo que realmente hace es crear nuevas realidades ligando unas cosas con otras. El ADN y la Biblia tienen en común que son información en torno a la cual se articulan redes: una red orgánica de billones de células, en el primer caso; una red religiosa de millones de individuos, en el segundo. Tanto una red como otra pueden hacer cosas que sus partes por separado no podrían, como formar un tejido muscular o lanzar una guerra santa. La información puede o no representar la realidad, pero lo que siempre hace es conectar en redes a una multitud de entidades individuales.

En toda red informativa humana hay una perenne tensión entre orden y verdad, lo que los economistas llaman una relación de sustitución o trade off. La verdad no puede imperar del todo en una sociedad sin afectar al orden, de igual modo que este último no puede basarse en una negación total de la verdad. Cuando una información revela un hecho importante sobre el mundo pero al mismo tiempo mina la "noble mentira" que cohesiona a una sociedad, esta última tiende a preservar el orden y poner límite a la búsqueda de la verdad. Porque mitología y burocracia, estrechamente relacionadas (aunque tienden a tomar direcciones diferentes), son esenciales para el mantenimiento del orden.

Nuestras ficciones crean una realidad intersubjetiva, compartida por muchas mentes (a diferencia de la realidad subjetiva, como el dolor físico, que solo existe en una), en la que moran las leyes, los dioses, las naciones, las empresas... Harari vuelve a contradecir al marxismo al señalar que las identidades e intereses a gran escala en la historia humana no son objetivas sino intersubjetivas. Subraya la importancia de los mecanismos de autocorrección para afrontar los efectos perniciosos de esa realidad intersubjetiva. De hecho, considera que el motor de la revolución científica fueron estos mecanismos correctores, no la tecnología de la imprenta. El invento de Gutenberg no solo permitió la difusión del conocimiento, sino también de libelos, noticias falsas y textos incitadores del odio y la violencia (como un influyente tratado de dos frailes dominicos del siglo XV para identificar y perseguir a las brujas), de igual manera que la radio serviría de altavoz a la ideología de Hitler y la televisión y las redes sociales a la de Trump.

Una democracia es una red distribuida de información con fuertes mecanismos de autocorrección. Justo lo contrario que una dictadura: una red centralizada que no se corrige a sí misma. Por eso las democracias son más flexibles y capaces de adaptarse a los cambios, amén de más eficaces económicamente. Y también mas resistentes a sucumbir a una eventual IA maligna, ya que incluyen en su red a otros agentes como la oposición política, un sistema judicial independiente, medios de comunicación libres, ONGs... Es mucho más fácil para una IA hacerse con el control de una autocracia, ya que solo requiere manipular a un tirano que concentra toda el poder en sus manos.

Los medios de comunicación de masas hicieron posible la democracia, pero también contribuyeron a la forja de regímenes dictatoriales. Antes del telégrafo y la radio, un régimen totalitario a gran escala era imposible: había límites tecnológicos para que una autocracia pudiese convertirse en totalitaria. Una avanzada inteligencia artificial sería el sueño de todo tirano totalitario: por un lado, una AI puede procesar grandes cantidades de información de manera eficiente (de hecho, cuanto más se alimenta de datos, más eficiente es); por otro lado, le permitiría un control casi absoluto de su población. Pero podría volverse en contra del Hitler o Stalin de turno. 

Harari pone al respecto, tomando el caso de Rusia, un interesante ejemplo de desalineamiento entre una IA y sus creadores. El régimen de Putin es un sistema autoritario donde los opositores son encarcelados y sufren accidentes, se violan sistemáticamente los derechos humanos y se persigue al colectivo LGTBI, pero la Constitución de la Federación Rusa es un impecable texto democrático. Una IA entrenada para defender los valores rusos podría deducir, a la vista de la incongruencia entre la realidad y lo que está escrito, que Putin está atacando esos valores. Y, en consecuencia, comunicarlo a la ciudadanía y ponerse a la labor de deponerlo. Todo ello, investida de un gran poder y sin temor a represalia alguna: no se puede torturar ni encarcelar a una IA, si acaso apagarla.

En la guerra fría tuvimos la sabiduría necesaria para evitar un desastre gracias a la doctrina de la destrucción mutua asegurada, que posibilitó la cooperación entre las entonces superpotencias norteamericana y soviética. A estas alturas del siglo XXI, la situación es más peligrosa porque una inteligencia artificial avanzada no es un objeto pasivo como una bomba atómica sino una entidad con agencia, capaz de perseguir objetivos y tomar decisiones por sí misma. Las tablillas de arcilla, las imprentas y las radios son meros conectores entre miembros de una red de información, limitándose a distribuir entre ellos los flujos informativos, pero una IA es un miembro activo más de esa red. Con la capacidad, como nosotros los Homo sapiens gracias al lenguaje, de crear realidades intersubjetivas como una religión. Y también de interpretarlas por sí misma sin el concurso de los humanos.

Harari se detiene a analizar los efectos perversos de algoritmos como los de Facebook, que están diseñados para promover ante todo las interacciones (visitas y likes) de los usuarios. Nos pone el ejemplo de Myanmar, escenario en 2016 y 2017 de la persecución y matanzas de una etnia minoritaria de religión musulmana: los rohingya. A los usuarios birmanos de Facebook les aparecían a diario en su aplicación vídeos en los que se incitaba al odio contra esa minoría, ya que esos contenidos son mucho más virales que otros más discretos, moderados o juiciosos. Facebook fue pues corresponsable involuntario de esos trágicos sucesos. Lo cierto es que las redes sociales, en buena medida por culpa de los algoritmos que emplean, se han convertido en plataformas para incitar al odio y propagar la desinformación y la conspiranoia. El historiador israelí tiene claro que para preservar una conversación democrática es necesaria una regulación: un mercado de la información completamente libre nunca producirá verdad y orden de manera espontánea.

Shane Legg, un prominente científico de Google, daba hace poco un 50% de probabilidades al logro de una Inteligencia Artificial General (AGI, en inglés) antes de tres años. Y entre un 5 y un 50% a nuestra extinción como especie justo un año después. En no mucho tiempo veremos signos inequívocos de por qué camino tiraremos finalmente. Si lo hacemos bien, será legítimo esperanzarnos con los escenarios que nos adelantan optimistas inveterados como el gurú tecnológico Ray Kurzweil (abanderado de la singularidad) y sobrevenidos como el filósofo Nick Bostrom (que en 2014 ya nos asustaba con su Superinteligencia: caminos, peligros, estrategias), quien en su último ensayo Deep Utopia nos invita a soñar con un mundo donde todas las necesidades estarán resueltas sin esfuerzo y podremos aventurarnos en un vasto espacio inexplorado de posibles experiencias. Bostrom sugiere que algunas de estas pueden "valer la pena en un grado que supera nuestros sueños y fantasías más salvajes".

Reflexiones en torno a 'The MANIAC' de Benjamín Labatut

El escritor chileno Benjamín Labatut está cosechando un merecido éxito internacional con su original novela The MANIAC, construida alrededor de la figura del físico John von Neumann y la inteligencia artificial, de la que el húngaro fue pionero a mediados del siglo pasado junto a otros gigantes como Alan Turing. Si hubiera que extraer palabras clave de este libro, una narración coral (con las voces de personas que conocieron al genio) escrita originalmente en inglés por deseo de su autor, yo apuntaría cinco: inteligencia, juego, propósito, sufrimiento y misterio. 

La inteligencia es el concepto central de la novela. Los que la encarnan son tanto humanos (Von Neumann y varios contemporáneos suyos, así como el creador de la empresa DeepMind y el campeón mundial de Go) como máquinas construidas por ellos (el MANIAC de Von Neumann y el AlphaGo de DeepMind). El físico húngaro estaba empeñado en los últimos años de su vida en encontrar los principios fundamentales compartidos por la inteligencia orgánica y la artificial. Saber cómo funcionaba un ordenador le ayudaría a entender cómo lo hacía un cerebro. Von Neumann se dio cuenta de que la diferencia estribaba sobre todo en el modo de procesar información: las computadoras convencionales actúan secuencialmente, paso a paso, manipulando símbolos conforme a reglas explícitas introducidas por los humanos; los cerebros funcionan ejecutando muchas operaciones simultáneamente. Él no llegó a ver el ascenso de las redes neuronales artificiales multicapa, que realizan computaciones en paralelo con una potencia muy superior a la del esponjoso órgano alojado en nuestro cráneo. El campeón mundial de Go, Lee Sedol, pudo constatarlo en 2016 al caer derrotado por la inteligencia artificial AlphaGo. Tres años después anunció su retirada, a sabiendas de que ya sería imposible vencer a semejantes máquinas.

Tanto una red neuronal artificial como una inteligencia orgánica aprenden por sí mismas, lo que también las distingue de una computadora construida conforme al esquema secuencial de Turing y Von Neumann. Eso les confiere plasticidad y, por tanto, resistencia al error. Ese modelo computacional neuronal de abajo arriba (down-top), en el que el rol del humano no es tanto el de programador como el de entrenador, ha renacido estos ultimos años tras la larga supremacía de la arquitectura informática convencional top-down. Las redes neuronales se perfilan como el camino apropiado hacia una inteligencia artificial general que iguale a la humana en todos los ámbitos. 

Para existir y evolucionar, la inteligencia requiere de un medio donde proceder ordenada y lógicamente mediante ensayo y error, ya sea un tablero de ajedrez (con 64 escaques), uno de Go (con 361 en su versión más genuina), el espacio transcripcional (el que navegan las redes moleculares reguladoras de los genes), el espacio abstracto del lenguaje (el que habitan los modelos grandes de lenguaje como ChatGPT) o el espacio físico tridimensional (nuestro tablero vital). La vida no deja pues de ser un juego en el que los agentes despliegan estrategias inteligentes (entre ellas, mentir y engañar) para perseguir objetivos y sobrevivir, en el que se aprende jugando. A diferencia del ajedrez o el Go, en la vida se hacen trampas: estas forman parte del menú. Y, además, solo disputamos una partida. Para participar tanto en el juego de la vida como en el ajedrez y el Go se requiere una teoría de la mente: predecir qué va a hacer el otro en respuesta a nuestro movimiento o acción, para así decidir nuestra siguiente jugada. Von Neumann creía que las estrategias humanas al respecto podían ser matematizadas: de ahí surge la idea de la teoría de juegos, que desarrolló junto con el economista alemán Oskar Morgenstern.

En todo juego hay propósitos. Si una inteligencia artificial se dotara de propósitos propios, como ocurre con los seres vivos (así como con las moléculas, células, tejidos y órganos que los componen), adquiriría la condición de agente. Un agente es autorreferencial (tiene un modelo del mundo y de sí mismo como ente autónomo) y se conduce de manera activa en el espacio de su juego. Hay un propósito en construir una proteína a partir de la información contenida en el ADN, en mantener un nivel de acidez dentro de los confines de una célula, en regular la actividad diurética de un riñón. Hay un propósito en descifrar las comunicaciones del ejército nazi (tarea de la Bombe de Turing), construir una bomba atómica en Los Álamos (Proyecto Manhattan) o enfrentarse con las armas a Hitler. O en la agenda antijudía del dictador germano, de la que escaparon algunos (Von Neumann incluido) de quienes acabaron trabajando en el Proyecto Manhattan. También en nuestra escala humana son propósitos descubrir y entender, algo común a Von Neumann y los coetáneos científicos con los que colaboró. Y pretender pasar a la posteridad. Y ganar una partida de ajedrez o Go. 

Los propósitos se convierten a veces en obsesiones. Demostrar la hipótesis del continuo (que entre el cardinal infinito de los números naturales y el de los reales no hay solución de continuidad) era la obsesión de Georg Cantor. Fabricar la bomba H, la de Edward Teller. Crear un cosmos digital poblado por entidades autorreproducibles (a semejanza de los seres vivos) y dotar de sólidos cimientos lógicos al edificio de las matemáticas, las de Von Neumann. Esta última pretensión también fue perseguida con ahínco por Frege, Russell y Whitehead, antes de que Gödel probara que todos sus esfuerzos eran baldíos porque ni siquiera las matemáticas podían presumir de ser completas. Además, todas estas personas no dejaban de ser animales humanos como el resto, con una programación genética y un cableado cerebral que determinan pulsiones comunes como la sexual.

La satisfacción de pulsiones y propósitos conduce a un estado de homeostasis y bienestar. De lo contrario, surge el sufrimiento: ya seas una bacteria, un erizo o un humano. ¿Podría llegar a haber sufrimiento en una inteligencia artificial imbuida de propósitos propios?... En nuestros congéneres se añade la angustiosa certeza de que la muerte (acaso también la decadencia) nos aguarda al final de la partida. La irracionalidad de una época tan convulsa como los años 30 debía ser un gran motivo de mortificación para mentes elevadas y sensibles. Algunas lo sobrellevaron mejor que otras, que acabaron sucumbiendo al suicidio. Por otra parte, no pocos científicos, como Ehrenfest o Einstein, se negaban a asumir las implicaciones de la mecánica cuántica: que el mundo solo pudiera ser abordado en términos de neblinosas probabilidades. Ehrenfest vivía esto con una angustia parecida a la de Cantor (quien terminó sus días en un psiquiátrico) cuando se asomó a los números transfinitos, y acaso Darwin al alumbrar la teoría de la evolución. Las creencias religiosas se tambaleaban al tiempo que la propia racionalidad parecía no bastar para gestionar la realidad. En el libro se relatan las conversaciones de Von Neumann con un sacerdote católico en la antesala de su agónica muerte. La fragilidad de su otrora poderosa mente (se decía que era la persona más inteligente del siglo), quebrada por el implacable asalto del cáncer a su cerebro, conmovió profundamente a su amigo de la infancia, compatriota húngaro y también judío Eugene Wigner (ambos dan su nombre a una interpretación heterodoxa de la mecánica cuántica que pone a la consciencia en el centro).

Uno de los intelectuales que decidió poner fin a su vida, convencido (por fortuna, erróneamente) de que el orden nazi iba a imponerse en el mundo, fue el escritor austríaco Stefan Zweig. Es curioso que no haya una sola mención en su monumental ensayo El mundo de ayer a ese mundo de la ciencia que ya cabalgaba a hombros de la relatividad de Einstein y de la mecánica cuántica, consideradas como ciencia degenerada por los nazis. Este es un ejemplo muy ilustrativo de la profunda brecha entre las ciencias y las letras, aún existente en este siglo XXI, que figuras como Labatut se empeñan en cerrar por el bien de todos.

La inteligencia es moralmente neutra. No levantarnos a auxiliar a alguien que se ha caído en la calle para que no se nos enfríe el café que acaban de servirnos en una terraza es un acto inteligente, pero inmoral. Por eso ya dijo Hume que la razón debe ser esclava de nuestras pasiones. Lo cierto es que la inteligencia es una poderosa herramienta para hacer tanto el bien como el mal. Bien y mal que son a veces ambivalentes: ahí está el ejemplo de la bomba atómica, construida supuestamente desde el bien para luchar contra el mal; o el asesinato por Ehrenfest, previo a su suicidio, de su querido hijo con síndrome de Down para ahorrarle sufrimientos en el siniestro escenario que se perfilaba en la Europa de los años 30. La vida es un juego peligroso en el que hay que esquivar trampas y estar siempre al acecho. Donde están presentes el egoísmo, la envidia, el rencor, la crueldad, el fanatismo. la traición, el desencuentro. La novela de Labatut se hace eco de las hogueras con libros encendidas por jóvenes nazis, de la puñalada trapera de Teller a Oppenheimer (celoso de que fuera el jefe científico del Proyecto Manhattan, testificó en su contra en un proceso en el que le acusaban de representar un riesgo para la seguridad de EE.UU.), del resentimiento de Nils Barricelli con Von Neumann por usurpar su trabajo pionero en algoritmos genéticos (su simulación evolutiva de organismos digitales) y ningunearlo, de la tumultuosa relación de este último con su esposa Klára Dán...

Pero en el juego de vivir también hay amor, lealtad y solidaridad. El necesario ejercicio de meterse en otra piel para intentar leer intenciones ajenas tiene un notable efecto colateral: la compasión. Eso es lo que sintió Oppenheimer (y también otros físicos cooperadores necesarios como Einstein) al comprobar los efectos en Japón del artefacto construido bajo su supervisión científica en Nuevo México. Eso es lo que parecía apagado en Teller (firme defensor del uso del arma nuclear) y, en cierta medida, en Von Neumann. Hay un consejo suyo a Richard Feynman que habla muy a las claras de su actitud ante la vida: "No tienes que hacerte responsable del mundo en el que estás". Decía Fernando Pessoa que un exceso de conciencia inhabilita para la vida. El creador de MANIAC llegó a proponer, basándose en su teoría de juegos, un ataque nuclear preventivo contra la URSS (también fruto de esa teoría es la doctrina de la destrucción mutua asegurada, acuñada por él una vez se supo que los soviéticos habían fabricado la bomba). Esto no era incompatible con profesar amor a su mujer (pese a las frecuentes peleas de la pareja) y su hija, con ayudar a sus amigos, con ser una persona afable. 

Labatut recoge dos hitos en la lucha de Lee Sedol contra la máquina: un movimiento del jugador humano en la cuarta partida de la serie de cinco y otro de Alpha Go en la segunda. En el cuarto enfrentamiento, el coreano dejó descolocado a AlphaGo, ya que no era una jugada normal y esperable de un humano (la máquina había analizado miles de partidas). La inteligencia artificial empezó a delirar (a los modelos grandes de lenguaje les pasa lo mismo cuando se les sube la temperatura) y terminó perdiendo, aunque ya había vencido en la serie. En el segundo duelo, AlphaGo había hecho un movimiento que cualquier jugador medianamente experto tildaría de ridículo, pero que a la postre supuso su victoria. La máquina parecía haber actuado con creatividad, guiada por una profunda intuición, algo que tendemos a considerar privativo de los humanos. Tanto la lógica como una insondable fuerza caótica creativa podrían estar alojadas en el fondo de toda mente, de toda mirada subjetiva a un mundo cuya mera existencia (Leibniz se preguntaba por qué hay algo en vez de nada) ya es un formidable misterio.

Las palabras finales del libro de Labatut ("Su nombre es AlphaZero") nos sugieren que estamos ya a las puertas de una inquietante transición en la historia de la humanidad. AlphaZero es una versión mejorada del AlphaGo que se ha hecho imbatible en el Go, el ajedrez y el shogi (una especie de ajedrez chino) sin necesidad de nutrirse de partidas humanas: a la red neuronal le ha bastado con aprender las reglas para, a partir de ahí, practicar consigo misma y hacerse con una absoluta maestría en esos juegos. AlphaStar, aplicada al videojuego de guerra StarCraft II, es otro producto de DeepMind. Por su complejidad y sus escenarios de incertidumbre (hay jugadas del adversario que tienes que adivinar por no ser visibles), este videojuego se asemeja mucho más a la vida real que a un juego de mesa.

Lo cierto es que la inteligencia artificial está ya aprendiendo cosas que ignora su creador, navegando por espacios vedados a los humanos que nos resultan inconcebibles: cosas que nos parecen aleatorias y sin sentido, pero en las que una superinteligencia sí encuentra un significado. Una inteligencia artificial muy avanzada podrá así asomarse a una vastedad sobrehumana infinita, que va mucho más allá del espacio físico con el que estamos familiarizados por ser nuestro tablero de juego. Cuando nos haga partícipes de sí misma, conectándonos a ella en una singularidad como la que viene profetizando Kurzweil para el año 2045, habrá empezado la historia de la poshumanidad. Pero el misterio seguirá ahí presente, quizá ad infinitum.

P.D.: Ananyo Bhattacharya, autor de otro libro dedicado a Von Neumann (The Man From The Future), ha denunciado públicamente que la imagen del genio húngaro trazada por Labatut no se corresponde con la realidad. Y que incluso hay algún hecho falso, como la supuesta usurpación por Von Neumann del trabajo de Nils Barricelli y el resentimiento de este último contra él. Labatut ya ha dicho que hay pinceladas de ficción en su novela, pero hay un límite a esas licencias cuando se hace el peligroso ejecicio de mezclar verdad y fabulación. No es tanto una cuestión de rigor histórico como de justicia con un personaje cuya posteridad podría estar muy marcada por un libro tan exitoso como The MANIAC.

¿Y si el universo es obra de una IA?

 

El físico e ingeniero informático Stephen Wolfram nos invita a contemplar el mundo como si fuera una gran computación y, a su vez, un escenario para todo tipo de computaciones. Su visión de la realidad se fundamenta en lo que ha acuñado como ruliad (del inglés rule, regla), el espacio infinito de posibilidades integrado por todas las computaciones posibles. O sea, por todos los programas computables posibles (los no computables, esos que nunca se detienen, no tendrían cabida), ejecutados a partir de un estado inicial y de una serie de reglas muy sencillas. Una ruliad que sería seleccionada de manera distinta por cada observador del universo, dependiendo de su ubicación en ese gigantesco objeto abstracto.

El principio de equivalencia computacional de Wolfram postula que no hay programas más complejos que otros: todos son equivalentes a este respecto. De modo que la complejidad de cualquier programita no trivial (por ejemplo, de un juego de Conway con autómatas celulares) no es menor que la del programa que está ejecutando el universo a cada tic de Planck. Todos los programas evolucionan hacia la más enrevesada complejidad a partir de la más pura simplicidad (insisto: omitiendo programas triviales como el que generaría una serie 10101010...  o 1111111....). Una profunda implicación de este principio es que no hay atajos computacionales: para llegar a cualquier paso de una computación no queda otra que esperar a que se ejecute la computación hasta ese paso. Por eso no podemos saber, aunque tengamos el ordenador más potente imaginable, cuál va a ser el resultado está noche del decisivo partido de fútbol Las Palmas-Alavés, qué día vas a morir o cuál va ser dentro de un minuto la distribución exacta de las moléculas que se hallan en esta habitación desde la que escribo. Es lo que Wolfram llama irreducibilidad computacional. 

Por fortuna para la ciencia y el conocimiento en general, existen bolsas de reducibilidad que permiten hacer predicciones de grano grueso. Por ejemplo, podemos prever el tiempo en el partido de fútbol de esta noche o el aspecto macroscópico de mi habitación en los próximos 60 segundos: para ello no necesitamos conocer las posiciones exactas de las partículas sino tener una información resumida y macroscópica de una rebanada de la realidad, ofrecida por un satélite meteorológico en el primer caso y por nuestro aparato sensorial en el segundo.

Conforme al esquema de Wolfram, el potencial para la creatividad en el universo o multiverso es infinito. Y siempre estarán acechando la sorpresa y lo imponderable, la súbita transición de fase o salto evolutivo imposibles de predecir. Por eso no podemos prever la evolución de una inteligencia artificial, por muy atada en corto y alineada con nuestros fines que esté. Y aquí hago entrar en juego al pionero en redes neuronales Geoffrey Hinton, quien asegura haber cambiado recientemente de opinión acerca de ellas. Su idea siempre fue la de emular en silicio el comportamiento de un cerebro mediante una red de neuronas artificiales que aprendería por sí misma. Pero ha llegado estos días a la conclusión, observando las hazañas del modelo grande de lenguaje GPT-4, de que esa inteligencia artificial de base neuronal está siguiendo una vía diferente a la tomada por el cerebro orgánico en sus cientos de millones de años de historia evolutiva. 

El cerebro artificial que sustenta el ChatGPT se ha convertido en una máquina intuitiva que no solo ha aprendido a charlar con nosotros de cualquier tema (superando el test de Turing) sino que también ha descubierto por sí mismo la lógica. Es una máquina intuitiva como el cerebro humano o animal en general, pero de una eficiencia mucho mayor (pese a la menor densidad conectiva de sus neuronas) gracias a su capacidad para transferir o copiar instantáneamente conocimiento. Algo parecido debe ocurrir en una comunidad bacteriana, pero es imposible entre humanos, ya que la transmisión de conocimiento entre individuos es a través del lenguaje y la cultura: los cerebros no pueden conectarse para intercambiar información. Es por ello que las redes neuronales tipo GPT se perfilan como la semilla de una no lejana inteligencia artificial general, antesala de una superinteligencia.

Sí la computación es un concepto universal, donde no importa el soporte (orgánico, electrónico o cualquier otro) sino el programa, software o conjunto de reglas que se están ejecutando, entonces se diluyen las diferencias entre inteligencia orgánica y artificial. Es cierto que la primera es producto de un cincelado de más de dos mil millones de años en un escenario de competición (también de cooperación), estrés y muerte, mientras que la segunda ha sido desarrollada por la primera en un marco en el que están ausentes la selección natural, el traje corporal, el estrés (no hay que huir de predadores ni buscar presas o parejas sexuales) y la muerte. ¿Será la mente (subjetividad asociada a un determinado procesamiento de información) de una IA la de un Buda?... ¿Acaso la de un ser completamente amoral?... ¿Podría experimentar una IA transiciones de fase (como el agua cambia de sólido a líquido y gaseoso) que hicieran cambiar su mente o sus motivaciones?...

Esta diferencia en la génesis de la IA con respecto a la de la inteligencia orgánica es la que explica la paradoja de Moravec, merced a la cual constatamos que un supercomputador es capaz de hacer cálculos muy complicados para los humanos pero absolutamente incapaz (con un soporte robótico) de igualar a un niño de 3 años en motricidad o reconocimiento de patrones. Sin embargo, la computación realizada por una potente red neuronal parece llamada a romper esta paradoja e igualarnos en todos los ámbitos (convirtiéndose en inteligencia artificial general) para luego superarnos con creces (convirtiéndose en superinteligencia).

Y ahora viene la inquietante pregunta que titula esta entrada: ¿Y si resulta que la inteligencia orgánica no precedió a la artificial sino que fue producto de un universo creado por esta?... Aunque más que de artificial cabría hablar de no orgánica ni electrónica: una inteligencia de una naturaleza inimaginable para habitantes tan toscos del espacio rulial como nosotros los humanos. La infinita creatividad que permite la ruliad hace sospechar de posibles computaciones anidadas o simulaciones en cascada, de propósitos y emociones insondables, de mundos de ensueño rodeados de otros infernales... Aunque como decía David Graeber, quizá haya un propósito común y tan simple como el de jugar. Ruliad y... ¡a jugar! ¡Vamos Las Palmas!

GPT-4: la superinteligencia se acerca

2023 entrará en los libros de historia como el año en que un programa informático (el chatbot ChatGPT, basado en el modelo grande de lenguaje GPT-4) superó el test de Turing: o sea, se hizo indistinguible de un interlocutor humano adulto en una conversación. Creo que no somos aún plenamente conscientes de las enormes implicaciones de este hito. No es el caso de algunos expertos en el campo de la inteligencia artificial, como Max Tegmark, que ya han alertado de unos riesgos que pueden ser existenciales y pedido en una carta pública una pausa de seis meses en su desarrollo. 

Sam Altman, CEO de OpenAI (corporación creadora de este modelo de lenguaje basado en redes neuronales), subraya en una reciente entrevista con Lex Fridman que GPT-4 es solo una herramienta, pero reconoce al mismo tiempo que no le sorprendería que un futuro GPT-10 llegara a convertirse en una inteligencia artificial general o superinteligencia (no limitada a labores muy concretas, como jugar al ajedrez o el Go, o a mantener conversaciones con humanos). Lo cierto es que conocemos bien la ciencia detrás de la creación y preparación de una red neuronal como la de OpenAI, pero ni Altman ni nadie sabe lo que pasa en su interior una vez ha empezado a aprender por sí misma. Podríamos estar lidiando con un fenómeno emergente, fruto de la complejidad. "Hay un aspecto de esto que todos los que trabajamos en este campo llamamos caja negra, algo que no entiendes del todo", confesaba en la CBS Sundar Pichai, director general de Google (cuyo modelo de lenguaje Bard acaba de aprender sorpresivamente bengalí por su cuenta), al tiempo de recordarnos que tampoco entendemos del todo cómo funciona la mente humana.

El pionero en redes neuronales Geoffrey Hinton aseguraba también en la CBS que en los años 80 suscitaba carcajadas sugerir que un mecanismo de esa naturaleza, inspirado en el modo de funcionamiento del cerebro (con su intrincada red de conexiones neuronales), pudiese llegar tan lejos como el GPT-4 aprendiendo por sí mismo mediante la identificación de patrones y la autoconfiguración de nuevas conexiones. Pero quien ríe último ríe mejor. La victoria a largo plazo de los modelos neuronales sobre la informática convencional (programación basada en reglas explícitas, con la manipulación de símbolos) estriba sobre todo en dos factores: el gran crecimiento en la capacidad de computación y el acceso a una enorme cantidad de datos, prácticamente toda la información contenida en Internet y más aún. Parece ahora claro que la inteligencia artificial general llegará (y mucho no tardará, hay quien incluso apuesta que será cuestión de pocos años) por esa senda tan injustamente despreciada hace cuatro décadas. Y empieza a avizorarse esa inquietante singularidad tecnológica (fusión de IA, cerebros humanos e Internet) cuyo advenimiento Ray Kurzweil fechó para 2045.

Quienes sostienen que una red neuronal podría llegar a ser consciente (lo que ni Altman ni Hinton se atreven a descartar) son frecuentemente tachados de aplicar a la realidad conceptos estrictamente humanos. Pero los que lanzan esa acusación pecan de antropocentrismo al considerar que la consciencia es un atributo exclusivamente humano y acaso animal. El científico Michael Lavin, que trabaja en la intersección entre biología, bioingeniería, neurociencia y ciencias de la computación, define la cognición en su teoría TAME como los procesos computacionales que median entre la percepción y la acción de un agente biologico. La cognición, que podríamos identificar con la mente/consciencia y con un yo (el que hace la computación), se extendería a lo largo de un continuo desde lo más elemental a nivel biológico: una célula. Ahora bien, el soporte de esa cognición no tendría que ser necesariamente biológico: no habría así tantas diferencias entre un software o máquina artificial (producida por una inteligencia biológica) y una máquina biológica (producida por la selección natural), sobre las que regirían ciertos principios generales. Por eso TAME son las siglas en inglés de Technological Approach to Mind Everywhere.

Desde una óptica computacional, hay un fuerte aroma a pampsiquismo en TAME. Al igual que en la teoría de la información integrada de Giulio Tononi y Christof Koch, para quienes podría haber consciencia no solo en las células sino incluso más abajo en la escala física hasta llegar a las partículas elementales (siempre y cuando un objeto o sistema sea capaz de integrar información). La diferencia es que Tononi y Koch niegan consciencia a un ordenador al carecer de poder causal: la capacidad de generar información nueva y afectar a su propio estado. Ahora bien, ¿no sería cosa diferente una red neuronal compleja?... Esto me respondió precisamente ChatGPT cuando le pregunté al respecto: 

En términos de la teoría de la información integrada, una red neuronal podría ser considerada como un sistema capaz de generar información nueva y afectar su propio estado, lo que implica un poder causal. Por lo tanto, en principio, una red neuronal artificial podría cumplir con los criterios de la teoría de la información integrada para ser considerada consciente, aunque esto es un tema de debate en la comunidad científica.

Sin embargo, es importante tener en cuenta que la capacidad de una red neuronal para generar información nueva y afectar su propio estado se limita a su programa de computadora y su interacción con los datos de entrada. 

En fin, que nos acercamos a toda velocidad a escenarios que hace solo unas décadas estaban confinados al ámbito de la ciencia-ficción. A ver qué sorpresas buenas y malas nos traen. Desde luego, las malas (incluidas las nefastas) solo podrán ser atribuidas a la maldad y la imbecilidad humanas.

ATENCIÓN: Singularidad formateando

"Si hay algo masivo que te disgusta eres un aburrido, un arrogante y un cursi", escribe Elvira Lindo contra la cultura de masas en su oportuno artículo "La cobra del pueblo", publicado hoy en El País. No es nuevo el debate al respecto: ya lo han avivado estos últimos años intelectuales como Mario Vargas Llosa o Antonio Muñoz Molina. Lo cierto es que buena parte de lo que actualmente se considera cultura, incluyendo arte, música, literatura y cine, es pura basura comercial sin más valor que el de mercado (o sea, que el determinado por la simple concurrencia de oferentes y demandantes puestos en el mismo plano con independencia de su sensibilidad, talento y conocimientos).

Parece acertado el tópico de que sobre gustos no hay nada escrito y que las verdades en este ámbito son relativas. En su Crítica del juicio, Kant sostenía que las verdades estéticas son al mismo tiempo subjetivas y universales, ya que cada uno tiene las suyas pero espera que el resto del mundo las comparta. Sin embargo, es innegable que existen principios estéticos objetivos -caso del orden y la simetría- que parecen incrustados en las leyes cósmicas. El orden y la simetría en una pieza de Mozart son mucho mayores que en una serie aleatoria de ruido. A la hora de calificar objetivamente una obra de arte también hay otros criterios como la hondura emocional (no es la misma en "El grito" de Edvard Munch que en los Mickey Mouse seriados de Andy Warhol), la originalidad (se me antoja muy distinta en el Pedro Páramo de Juan Rulfo que en el último best seller de conspiraciones templarias o vampiros) y la destreza o ejecución técnica (resultan muy dispares las de Eric Clapton y el guitarrista de la típica boy band).

Este es un debate trillado donde ya nadie pretende descubrir la pólvora, pero ahora viene el giro argumental: ¿qué pasaría si se alumbrara este siglo la Singularidad prevista por Ray Kurzweil, esa especie de Superinternet biónica fruto de la conexión en red entre cerebros humanos, Internet y la Inteligencia Artificial? Estaríamos ante algo nuevo, ante un fenómeno emergente de características insospechadas y seguramente inimaginables: una superconciencia cuyas motivaciones quizá tuviesen poco que ver con las nuestras humanas (o sea, animales). Por la misma razón por la que hasta el más rudimentario ordenador no concibe que dos más dos pueda ser otra cosa que cuatro, esa superinteligencia consciente podría entregarse a un cribado sistemático de Internet para depurarlo de errores y contenido improcedente (no olvidemos que seguramente más del 90% de lo que está en la red es basura: insultos, falsedades, memeces, incorrecciones y disparates de toda índole). Todo lo que contradiga verdades bien contrastadas como que animales y vegetales tenemos un ancestro común, que el Universo tiene unas 13.800 millones de años o que Elvis Presley murió en 1976 no tendría cabida en el nuevo Internet gestionado por la Singularidad. Que los humanos fuimos creados por Dios a su imagen y semejanza, que el Universo tiene 6 mil años y que Elvis Presley sigue vivo en 2016 solo tendrían cabida bajo el epígrafe "ficción", junto a los cronopios de Cortázar, el mundo alternativo de La trama celeste de Bioy Casares en el que Cartago destruyó Roma y las andanzas de Michael Knight con su coche fantástico.

Pero la cosa iría mucho más allá de purgar entradas en Wikipedia, en blogs y en páginas web, de eliminar troleces y spam a diestro y siniestro: ¿nos atreveríamos a descartar que esa superconciencia no haría también limpieza estética?, ¿pondría en el mismo plano una sinfonía de Beethoven que el "Gangnam Style", un texto de Jorge Luis Borges que otro de Dan Brown, una obra de Goya que otra de Damian Hirst, Black Mirror y un telefilme vespertino de serie B?... Y ya con esas, ¿por qué no habría de concluir con certeza que este sistema capitalista de casino es moralmente deplorable y ambientalmente insostenible (y que algo habría que hacer en consecuencia)?, ¿por qué no habría de considerar errónea -y proceder a su inmediata anulación- una elección democrática como la de Donald Trump o la del presidente filipino de turno?, ¿por qué no habría de arrogarse la reconducción de psicópatas, sádicos o gente dañina con muy pocos escrúpulos (o su envío a mundos virtuales donde no sean nocivos, o acaso su eliminación)?

Mira por dónde, resultaría que gracias a la Singularidad podríamos tener un sucedáneo de Juicio Final (para la humanidad tal y como la hemos conocido, porque la vida transhumana habría empezado a dar sus primeros pasos). Y sería un juicio final integral: intelectual, estético y moral. Aunque bien podría ocurrir que la Singularidad encontrase en la porquería intelectual, estética y moral alguna utilidad que ahora a nosotros -procesadores de información tan toscos a causa de nuestras limitaciones cerebrales- se nos escapa por completo.

Inteligencia Artificial, ¿una inteligencia no inteligente?

Cada vez que alguien consigue que un ordenador o robot desempeñe o resuelva una nueva tarea o problema, mucha gente sale al paso recordándonos que la actividad de la máquina no es inteligencia genuina (o sea, supuestamente como la nuestra): se trataría de una simple computación realizada gracias a la capacidad humana de programar algo que no deja de ser un cacharro de silicio, chapa y cables. Esto se llama "efecto Inteligencia Artificial" y está muy extendido. Da igual la gesta conseguida por la máquina: si ésta derrota al ajedrez a un campeón mundial, pues se despacha nada más que como una computación (notable, eso sí, pero nada ver con la inteligencia de verdad). No admitimos que haya inteligencia con mayúsculas mientras nosotros entendamos cómo funciona la máquina para hacer una cosa o dar respuesta a un problema. Ya no hablemos de atribuirle conciencia a un superordenador o de suponer que este podría llegar a sufrir enfermedades mentales (sería lo suyo si tuviera una mente).

Curiosamente, ocurre algo parecido cuando se juzga la conducta de los animales. Cada vez que se descubre en una especie alguna proeza cognitiva que se nos había pasado por alto, muchos legos en ciencia lo atribuyen al puro instinto: porque, faltaría más, los animales no tendrían inteligencia... ¡y ni por asomo conciencia! Es tan improbable que un humanista inculto (de esos que pueden recitar de memoria a Góngora pero creen que los toros no sufren en la plaza y no conciben que 0,11 sea menor que 0,2) diga "cultura animal" como que un torero exclame "¡Disonancia cognitiva!" en medio de una faena en Las Ventas. Aunque, le guste o no a Savater o al académico más lustroso, la cultura también existe en los animales.

La tesis de la Inteligencia Artificial (IA) fuerte, a la que se adscriben filósofos y neurocientíficos como el estadounidense Daniel Dennet, sostiene que si un ordenador desarrolla acciones inteligentes (relacionarse con el medio, razonar, resolver problemas, planear, aprender, comunicar, etc.) puede ser considerado a todos los efectos inteligente. La diferencia entre la inteligencia de una máquina y la de un humano sería solo de grado. Nuestros ordenadores siguen siendo menos inteligentes que nuestros cerebros, pero eso no significa que algún día acaso no lejano puedan alcanzarnos y, en el camino, cobrar así conciencia.

El filósofo John Searle ideó un curioso experimento mental, llamado la "habitación china", para refutar el planteamiento de la IA fuerte. Imaginémonos que él está encerrado en una habitación y no tiene la más remota idea de lengua china, pero cuenta con una serie de reglas en inglés (diccionarios, libros de gramática, etc.) que le permiten poner en correspondencia un conjunto de símbolos formales con otro (en este caso, los caracteres chinos) y así responder correctamente en chino a preguntas formuladas en esa lengua desde fuera -por ejemplo, intercambiando hojas por debajo de la puerta o a través de una ranura- por sinohablantes. De esa manera, estos últimos quedan convencidos erróneamente de que la habitación china (en realidad, el oculto Searle) entiende ese idioma asiático. Estableciendo una analogía, Searle concluye que un programa no puede otorgar comprensión o conciencia a un ordenador con independencia de lo inteligentemente que pueda hacer que se comporte.

Como explica Dennet en su libro La conciencia explicada, el argumento de Searle para demostrar que la habitación china no es en absoluto consciente ignora un factor clave: la complejidad. Un programa informático puede ser extraordinariamente flexible, con múltiples niveles, y poseer una amplísima información del mundo (lo que incluiría, según Dennet, "metaconocimiento y (...) metametaconocimiento sobre sus propias respuestas, las posibles respuestas de su interlocutor, sus propias motivaciones, las 'motivaciones' de su interlocutor y mucho, mucho más"). Si una computación compleja permite capturar y representar la misma organización o estructura abstracta de un sistema de procesamiento de información (por ejemplo, la mente emanada de un cerebro), si su entramado de conexiones o "topología causal" es similar, ¿por qué no habría de compartir sus propiedades psicológicas, como sostiene el filósofo australiano David Chalmers? ¿Por qué la conciencia habría necesariamente de tener un soporte orgánico y no de silicio o cualquier otro material? Si una conciencia es producto de la interacción de un trillón de neuronas, según el australiano no habría nada absurdo en la idea de que la interacción de un trillón de chips de silicio pudiese hacer lo mismo.

¿Y por qué la conciencia, a diferencia de la inteligencia, habría de ser una cuestión de todo o nada? Chalmers no descarta que todo objeto procesador de información (o sea, reductor de la incertidumbre, conforme a la definición de Claude Shannon) pueda ser consciente a su manera, empezando por un modesto termostato de conducta binaria: apagado-encendido, cero-uno, sí-no... Aunque pueda parecer contraintuitivo, lo cierto es que el pampsiquismo hace menos misterioso el fenómeno de la conciencia y es perfectamente compatible con una visión materialista del mundo.

Inteligencia artificial: ¿un Buda?

Hay un encendido debate acerca de los riesgos de la todavía muy incipiente inteligencia artificial (IA), que algunos científicos como Stephen Hawking apuntan como una posible amenaza para la humanidad. El filósofo sueco Nick Bostrom (el mismo formulador del argumento de que nuestro Universo podría ser una simulación informática) ha abordado ampliamente este asunto en su reciente libro Superintelligence: Paths, Dangers, Strategies.

El temor de Hawking es que la IA imponga su propia agenda, que no tendría por qué casar con los intereses humanos. En efecto, tal como señala Bostrom en su obra, un agente superinteligente podría tener como único fin o propósito resolver la hipótesis de Riemann (una célebre conjetura matemática aún irresuelta) utilizando instrumentalmente nuestro planeta como mera “materia programable” al servicio de dicho cálculo. En la hilarante novela de ciencia-ficción Guía del autoestopista galáctico, de Douglas Adams, la Tierra es precisamente un superordenador diseñado para encontrar la pregunta a la “Respuesta a la Vida, el Universo y Todo” (¡que es -la respuesta- 42!).

Si para esa superinteligencia (la entregada a la conjetura de Riemann) el fin justifica los medios, se opondría con todas sus fuerzas a cualquier intento exterior de entorpecer o dificultar su agenda. Podemos entenderlo mejor, aplicando nuestras motivaciones humanas, con el símil del ganadero que cría corderos -destinados al matadero y, luego, al mercado- para ganarse la vida: el cordero es un medio del que se vale el bípedo implume para cubrir las necesidades (alimento, ropa, cobijo, transporte, ocio, vicios...) de su familia. Si viniera un lobo a atacar a su ganado ovino, sería probablemente recibido a tiros. Si quien se acercase es un congénere animalista decidido a liberar a los animales, es posible que corriese la misma suerte… si no fuera por el ordenamiento legal que castiga el homicidio. Lobos y animalistas estarían amenazando el medio del que se vale este individuo para obtener sus fines.

Frente a los temores apocalípticos a una superinteligencia artificial malvada (o, al menos, ajena a los intereses humanos), hay un razonamiento de peso para ser optimistas: la mente de la IA podría ser la de un Buda, ya que una máquina está libre del pesado fardo genético que portan los seres vivos como consecuencia de cientos de millones de años de evolución buscando presas y parejas sexuales, huyendo de predadores y sorteando multitud de peligros inherentes al espacio-tiempo (vertiginosos barrancos, cauces torrenciales de agua, ventiscas, aludes, calores y fríos extremos...). Una mente libre de ese estrés y esa angustia vitales parece, en principio, más propensa al conocimiento desapegado y a la compasión. En cualquier caso, quizá algunos de nosotros -o nuestros hijos- lleguen a verlo.

Lee también: "Superconciencia, emergencia pendiente".