El Golem

Publicado en La Gaceta Literaria, 2006.

(Exposición en el encuentro multidisciplinario “Proyecto Golem” en conjunto con la República Checa, Museo de Bellas Artes, Octubre 2003)

 

   La charla fue precedida por la conferencia de un experto checo en robótica, que estableció la distinción entre una era “antigua” de la inteligencia artificial (en la que se intentaba modelar a la inteligencia como un algoritmo separado de lo corpóreo) y una edad “moderna” en que se intentaría “encarnar” a la inteligencia en un contexto orgánico-espacial a través de robots, los nuevos golem.

   Yo quisiera leer y recordar con ustedes algunas estrofas del poema de Borges, El golem, y comentar desde esta lectura distintas afirmaciones que escuché de los panelistas anteriores.

    En el comienzo del poema, en uno de los primeros versos, Borges dice:

  

“Y, hecho de consonantes y vocales,
habrá un terrible Nombre, que la esencia
cifre de Dios y que la Omnipotencia
guarde en letras y sílabas cabales.”

   Este es un tema que Borges retoma o trata otra vez en el cuento “La escritura del dios”, ustedes recuerdan seguramente ese cuento en el que hay un sacerdote encerrado en un pozo junto con un jaguar. Una vez por día, cuando se abre en lo alto una trampa por donde le dan de comer, el sacerdote puede ver las manchas del jaguar y descubre finalmente que en la configuración de esas manchas está cifrada la sentencia mágica escrita por el dios, una frase de catorce palabras que implica el universo entero. La mera pronunciación de esas palabras le daría al sacerdote la suma de los poderes, lo convertiría a él mismo en el dios. Es una variación de una idea cabalista que Borges ha repetido varias veces y que se corresponde, creo yo, con lo que se llamó aquí la “antigua” inteligencia artificial (aunque no está claro todavía si realmente se ha logrado crear inteligencia artificial, por los milagros de la teorización ya tenemos una edad antigua y una edad moderna).

   Sería, digamos, la idea de que la manipulación sintáctica, la mera combinación y pronunciación de unos símbolos, permite generar vida, es el procedimiento del rabí de Praga /y de algunos relatos de creación prebíblicos/ y se correspondería con lo que se llamó aquí la inteligencia artificial sin encarnación.

   Bien, después hay otra estrofa que dice:

“El rabí le explicaba el universo “Esto es mi pie; esto el tuyo; esto la soga”
y logró, al cabo de años, que el perverso
barriera bien o mal la sinagoga.”

   Podemos comparar aquí, con respecto a lo que se decía antes sobre la imagen ominosa del Golem que crece desmesuradamente, la mirada irónica, condescendiente, de Borges en este poema. El Golem, más cercano a su etimología, como algo amorfo que no llega a realizarse totalmente y al que su hacedor se resigna: “logró al cabo de años que el perverso barriera bien o mal la sinagoga”. (Perverso tiene el significado aquí de “contrariado en su naturaleza”, sin ninguna connotación de maldad). No sé si la robótica llegó ya a la instancia de barrer bien bien la sinagoga, eso también habría que verificarlo. Pero a lo que quería referirme en este verso es a la línea: “Esto es mi pie, esto el tuyo”. Esta enseñanza, la pertenencia del propio cuerpo, quizá la más básica, tiene que ver con algo que se mencionó antes en las exposiciones: el sentido de propiocepción, uno de los sentidos implícitos, de los que no somos concientes. Tenemos los cinco sentidos que reconocemos y otros, más ocultos, que nos hacen funcionar como un todo integrado y que en ocasión de una lesión cerebral (como los casos que trata Oliver Sacks en El hombre que confundió a su mujer con un sombrero) pueden perderse o dislocarse. Puede ocurrir que un pie que es nuestro dejemos de sentirlo como nuestro. Hay casos de pacientes que se tiran de la cama porque tratan de sacar un pie extraño que creen que está ahí puesto, suelto, como una broma por alguien. Estos sentidos “detrás de los sentidos” me parece que deberían considerarse a la hora de articular la inteligencia con una encarnación física.

   La ironía de Borges vuelve, más marcada, en una estrofa posterior:

 “Tal vez hubo un error en la grafía
o en la articulación del Sacro Nombre;
a pesar de tan alta hechicería,
no aprendió a hablar el aprendiz de hombre.”

   Esta mirada algo despectiva sobre los “aprendices de hechiceros”, ya sean rabinos, alquimistas o científicos, es algo que en la literatura es muy común. De algún modo, está aquí el choque de las dos culturas: la cultura humanística versus la científica. En la literatura (salvo en el género específico de la ciencia ficción) todo intento científico se trata como algo condenado a fallar. El ejemplo prototípico es Frankenstein, el monstruo que se vuelve contra su creador. Si la imagen del Golem le pareció a alguien ominosa, la criatura de Shelley, como símbolo para organizar un encuentro de este tipo, sería todavía menos simpática. Y sin embargo, no están tan lejanas: recordarán que Frankenstein, de Mary Shelley, tiene un subtítulo: “El moderno Prometeo”. Y justamente, el Golem está vinculado también con la idea de Prometeo de darle al hombre todos los atributos divinos /(más aún, aparentemente el mito de Prometeo tiene un origen común con el de Adán y la modelación de hombres de arcilla)/.

   Ahora me quiero referir al tema que hace a este panel, que es el tema de las limitaciones o posibles limitaciones de la inteligencia artificial y que tiene que ver con la última estrofa del poema de Borges. Veremos un mecanismo que Borges ha perfeccionado y ha repetido y que es particularmente significativo en este contexto. El rabino reflexiona sobre su creación, sobre ese hijo un poco tonto que le salió. Dice:

 “En la hora de angustia y de luz vaga,
en su Golem los ojos detenía.
¿Quién nos dirá las cosas que sentía
Dios, al mirar a su rabino en Praga?”

   Este es un procedimiento muy frecuente en Borges, yo lo llamaría “el paso atrás”, lo hace también por ejemplo en el cuento “Las ruinas circulares”. A último momento el hombre que entra en el fuego no se quema porque es también el sueño de otro creador más alto. Ese paso atrás de la razón, creo yo, es uno de los atributos fundamentales del ser humano, en el fondo eso es lo que está detrás del teorema de Gödel. Gödel, antes que Turing, fue el que se dió cuenta de la limitación intrínseca de todos los sistemas formales. Una vez que uno fija las reglas de juego sintácticas y lógicas de un sistema formal, una vez que uno encuentra la forma de modelar un algoritmo y lo percibe separadamente como objeto de estudio, de algún modo puede dar también ese “paso atrás” y formular una pregunta que esté más allá de los alcances de ese sistema. Es la idea que recoge luego Roger Penrose en el libro The Emperor`s New Mind como base de su argumentación en contra de la posibilidad de existencia de inteligencia artificial. Penrose observa que el teorema de Gödel nos permite exhibir una proposición verdadera, una proposición que sabemos verdadera, pero cuya verdad está fuera del alcance de los mecanismos de corroboración de la computadora. Ésto muestra la brecha que hay entre la verdad y la parte demostrable, o corroborable, de la verdad. Creo yo que es exactamente el mecanismo de estos dos versos. Borges lo logra, como se hace en poesía, por la magia antigua de “simpatías” de la analogía, o sea, él muestra un rabino tratando infructuosamente de educar a su criatura y luego da un paso atrás y somos de pronto nosotros la criatura de un creador más alto que también se está esforzando -sin demasiados resultados- (risas).

   Vuelvo ahora brevemente a algo que se dijo aquí en algún momento: si no habría que considerar la posibilidad de que quizá pensar es igual que mentir  (Turing escribió también alguna vez sobre la importancia del error, de la equivocación, en la inteligencia y se preguntó si no estaría allí la parte que se resiste a ser modelada). Con respecto a la mentira, hay algo que tiene que ver con la forma en que aprenden los chicos, las etapas del aprendizaje. Los psicólogos cognitivos identificaron una etapa en el desarrollo de los niños en que adquieren lo que se llama “Teoría de la mente”: se dan cuenta por primera vez de que otra gente tiene otras mentes y pueden tener una interpretación diferente del mundo. Esto ocurre alrededor de los cuatro años. El test para esta etapa es justamente un juego de engaño:

      Alguien, X, pone caramelos debajo de un almohadón y deja la habitación. Se le dice al niño que tome los caramelos y se los guarde en su propio bolsillo. Cuando X vuelve, se le pregunta al niño: ¿Dónde cree X que están los caramelos? Si la respuesta es “debajo del almohadón” el niño ya adquirió “Teoría de la mente”. Un chico menos desarrollado diría “en mi bolsillo”. El niño sabe ahora cómo pueden ser manipuladas las interpretaciones de los demás y en adelante sabrá cómo mentir.  Los autistas usualmente no tienen Teoría de la mente y por lo tanto, no mienten. De manera que quizá verdaderamente, sí, haya una vinculación, y la mentira sea uno de los elementos que hacen a la inteligencia humana.

   Quería referirme también a lo que se dijo aquí sobre el Test de Turing, de algún modo puesto en duda por el experimento de la Habitación China. Quisiera analizar el Test de Turing en el contexto del juego de ajedrez. Imaginemos de un lado del tablero a la computadora Deep Blue y del otro lado a Kasparov. Ambos mueven las piezas, por supuesto, de acuerdo a las reglas del juego de ajedrez. Y digamos que la computadora derrota a Kasparov. Vistos desde el Test de Turing la computadora se ha comportado como un jugador irreprochable de ajedrez, pero la pregunta mía es: ¿Juegan el mismo juego? ¿Cuál es en todo caso la diferencia?

   La respuesta, creo yo, es no, porque la computadora analiza todas las posibilidades, el jugador de ajedrez descarta la mayoría. Lo que pasa es que la computadora tiene una memoria y una rapidez prodigiosa que le permite recorrer todas las ramas de búsqueda, aún las que un jugador experimentado descarta a simple vista. Es decir, vence por la gran cantidad de chequeos que hace. Lo que yo digo es que, si bien, visto desde afuera, uno puede decir que la computadora pasó el Test de Turing, hay algo más que el test no captura y que tiene que ver con la estética.

   Este es el punto sobre el que yo quiero reflexionar. Hay una manera agradable al ser humano de jugar al ajedrez, derivada de una estética profunda de la inteligencia humana: la utilización de mínimos recursos con máximos alcances. Está arraigada en la forma en que se han resuelto, por ejemplo, los problemas de matemática a lo largo de la historia, y se remonta a ese paradigma matemático que son los axiomas de Euclides. Es decir, unos pocos axiomas lo más nítidos y sencillos posibles con una cantidad máxima de consecuencias. Hay un estilo, un cierto modo de resolver que es considerado más grato, los matemáticos hablan de “elegancia” de las soluciones. Todos esos conceptos se borran cuando las computadoras entran en juego porque una solución elegante para un matemático no necesariamente es elegante para una computadora y también viceversa, si uno piensa que la elegancia computacional está por ahora ligada a la noción de tiempo polinomial, con soluciones muchas veces montruosas para los modestos tiempos humanos. Entonces ese es otro elemento que quizá debería tenerse en cuenta a la hora de simular la inteligencia humana.

    Y finalmente quiero referirme a una novela de Richard Powers que se llama Galatea 2.2. Es una novela en la que se hace una apuesta sobre si a una computadora se le puede o no enseñar a dar un examen de literatura, un examen que consista en el comentario de un texto literario. El científico que recoge la apuesta la carga con una infinidad de textos de diferentes épocas, con información sobre el mundo, en fin, prepara un programa de aprendizaje más o menos previsible, en varios niveles. Uno de los saltos que logra es cuando se produce accidentalmente un apagón en la sala de máquinas y la computadora se entera de que puede morir. Se introduce así el tema de la finitud, la finitud humana. Obviamente, esto es una novela, las computadoras están lejísimos todavía de hacer un análisis literario. Otro momento interesante es cuando la carga con textos de literatura contemporánea y la computadora, en un principio, no les encuentra ningún sentido. Entonces le agrega toda la información de los horrores de la segunda guerra mundial. La computadora se deprime y no quiere jugar más. De algún modo lo que está explorando el escritor -que es un físico y está al tanto de los temas que se discutieron hoy aquí- son todos los otros elementos que rondan a la inteligencia, no sólo el “soporte material”, la carne, lo orgánico, sino la finitud, dolor, absurdo, muerte. Los elementos existenciales que no están contemplados todavía ni en los enfoques puramente algorítmicos ni en el enfoque “encarnado”. Muchas gracias.

Volver a Artículos