Fuerza bruta
Con Javier, mi hermano mayor, recibimos de mi abuela un regalo de esos que sólo ella solía hacer. Debe haber sido el año 1993. Encuadernación moderna de color rojo en tres fascículos: "Computación para niños". En esa época teníamos una computadora XT, con sistema operativo DOS, sin mouse todavía y monitor ámbar. Mi papá la trajo un día y estuvo con nosotros hasta 1998 por lo menos. Hablo de la computadora.
El más interesante de los libritos era el de programación con BASIC. Con instrucciones simples y siguiendo tutoriales ambos fuimos dando los primeros pasos. Haciendo retrospectiva pienso que se nos dio con naturalidad lo computacional gracias a algunas intuiciones de mis padres y esa abuela especial que parecía que venía del futuro.
La anécdota sirve al propósito del artículo porque aprender a programar a esa edad pone a los niños a pensar y surgen —en las virginales cabezas— ideas primarias e intuitivas. Lo primero que se aprendía en lenguaje BASIC era realizar una pregunta al usuario y luego hacer algo con la respuesta que nos dé, por ejemplo así:
10 CLS 20 PRINT "HOLA SOY LEANDRO" 30 INPUT "¿ESTAS APRENDIENDO A PROGRAMAR?"; R$ 40 IF R$ = "SI" THEN 80 50 IF R$ = "NO" THEN 100 60 PRINT "NO ENTENDI, INTENTA DE NUEVO" 70 GOTO 30 80 PRINT "YO TAMBIEN" 90 END 100 PRINT "QUE MAL, DEBERIAS" 110 END
Con poco esfuerzo el lector puede inferir la sintaxis del ejemplo de arriba. Ahora bien —y esto aconteció de verdad—, cuando mostré ese primer proyecto a mi familia, sucedió que los que lo probaron, en vez de poner nuestro ansiado y premeditado "SI", escribieron cosas como "obvio", "por supuesto", "claro", o "si" pero con minúsculas. Con mis diez añitos mi reacción inmediata fue frustración y bronca, pero aprendí tempranamente una lección sobre cómo funcionan las máquinas, cosa que no ha cambiado desde entonces.
Mi ocurrencia para repararlo fue similar a lo que hoy se conoce por "fuerza bruta". Me dije a mí mismo: la solución es sencilla, tengo que cargar todas las respuestas posibles de aceptación que una persona pueda dar. Me senté un par de minutos a escribirlas y cuando me di cuenta de que eran infinitas simplemente me fui despreocupado a jugar con otra cosa.
Pensar de esta forma es algo recurrente y no sólo en el campo de la informática o en las matemáticas. La biblioteca de Babel de Borges, el eterno retorno de Nietzsche o los monos que tipeando como locos terminan escribiendo a Shakespeare: en los tres la operación es la misma, que la mecánica reemplace —a fuerza de azar y repeticiones interminables— el universo de lo semántico.
Comprender los grandes modelos de lenguaje —lo que hoy indistintamente las personas llaman inteligencia artificial— es algo complejo y para cumplir mi objetivo divulgativo muchas veces es mejor aproximarse desde distintos ángulos. Este es uno más. ¿Qué pasaría si en vez de pretender conocer las esencias de las cosas ponderáramos las innumerables relaciones que tiene cada palabra con otras?
Con un algoritmo sumamente sofisticado, capaz de desarmar inclusive el significado que tienen las partes dentro de una palabra, los creadores del primer LLM (Large language model) emprendieron la misión de darle de comer a la máquina todo lo que el ser humano ha escrito. La diferencia es que estos chicos no se fueron a jugar con otra cosa al ver la tarea aparentemente interminable.
Estos sistemas hacen la digestión del lenguaje escrito mirando patrones y sopesándolos, estableciendo estadísticamente las mayores o menores correlaciones entre cadenas de texto que denotan un significado. En todo lo que se ha escrito alguna vez, ¿qué relación ha tenido "hielo" con otras palabras? ¿Sopesar y cuantificar esas relaciones no implicaría un reemplazo de su significado?
En la biblioteca de Borges los volúmenes son interminables y azarosos, y el sentido, si es que está, hay que ir a buscarlo: el trabajo cualificado es del lector. Por el contrario, en el entrenamiento de los LLM se asume que el texto que se les da ya viene validado, y que contiene, frase a frase, las multiformes relaciones de las realidades que describe: el trabajo cualificado es del escritor.
Inteligencia humana y fuerza bruta mecánica están en polos opuestos y esta es la clave de su complementariedad, la cual sólo se armoniza comprendiendo su relación jerárquica en beneficio —por supuesto— de la inteligencia.
Tal dependencia implica en los modelos de lenguaje una voracidad ilimitada por consumir, de todas las formas posibles, su única fuente de "inteligencia", que no es otra cosa que el lenguaje humano expresado en los textos. Tal es así que las empresas de frontera se han abocado inclusive a transcribir videos con tal de ir mejorando sus modelos. La última "barbaridad" ha sido comprar libros usados por lotes para digitalizarlos y darlos por alimento. Les cortan el lomo con una guillotina para hacer más fácil su escaneo y luego son destruidos. La finalidad es sobre todo legal: hacerse del texto con un ejemplar comprado y no con una copia bajada. Necesitamos nuevos benedictinos.
La dependencia con la inteligencia humana no acaba ahí: los modelos requieren de etapas de refuerzo donde miles de personas los retroalimentan a partir de las respuestas que brindan dentro de la etapa de entrenamiento. Además, son absolutamente reactivos, su bagaje es pasivo e inerte, de modo que requieren de una pregunta o una intencionalidad que encienda los pesos de sus nodos para que se despliegue su actividad. No son dueños ni de su obrar ni de su reposo.
Se podría objetar que luego de la etapa de entrenamiento, cuando ven la luz, estos modelos ya no son dependientes. Pese a que podemos concederles eso, habrá que señalar que quedan congelados en cuanto a su capacidad lingüística. Uno puede darles fuentes nuevas, pero estas no afectan su habilidad de interpretación. Finalmente, para poder mejorar en las sucesivas versiones siempre necesitarán más y más texto de origen humano.
Recientemente han aparecido investigaciones que hablan del colapso del modelo de lenguaje si este es entrenado sólo con texto "sintético" hecho por IA generativa. Lo que se observó es que, dado que estos sistemas responden a partir de la estadística, las palabras marginales dentro de una lengua dejan de ser mencionadas y se va dando en los sucesivos ciclos un empobrecimiento del léxico hasta el balbuceo. En otras palabras, lo que mejora el modelo es la cantidad de "inteligencia natural" que asimilan.
Excursus. Primero distingo, enseñaba el Aquinate, y la distinción viene al caso. En el presente y el futuro desarrollo de la inteligencia artificial, el tema de la fuerza bruta alcanza una importancia particular en matemáticas. Mientras que en el campo del lenguaje la dependencia de los modelos respecto del corpus de texto humano es total, no sucede de la misma manera en las ciencias exactas —de demostración simulable— y mucho menos en el caso particular de las matemáticas —de demostración total—. Un químico o un ingeniero ponen a prueba una idea en una simulación o en el laboratorio; un matemático la prueba solamente con lógica, paso a paso, sin salir del papel.
Recientemente se han publicado grandes avances en problemas matemáticos que todavía no tenían respuesta, y han generado gran alarma en el mundo académico. Sin entrar en el detalle del válido debate en puerta, nos interesa explicar —al alcance de todos— que los modelos, al trabajar sobre el campo matemático, a diferencia de lo que ocurre con el lenguaje, mudan su dependencia hacia una prueba externa al propio modelo, que en este caso deja de ser un corpus de texto para pasar a ser la lógica misma de la demostración matemática. Para estos casos se da una combinación: primero, una interpretación inicial del problema que se apoya en su habilidad con el lenguaje; después, una exploración más relacionada con la demostración matemática como criterio externo. Dicho en simple: existen programas que revisan cada paso de una demostración y dicen si es correcto o no. La máquina ya no necesita que un ser humano le confirme si acertó: puede intentar miles de caminos y quedarse con el que el verificador aprueba. Es la fuerza bruta en su terreno más fértil.
La propuesta de un amplio sector de académicos, con Terence Tao como una de sus voces más claras, tiene que ver con migrar el problema matemático de las demostraciones a la comprensión de la naturaleza del problema y de los números. Si la máquina puede demostrar, lo que queda en manos humanas es entender por qué un resultado es así y qué nos dice. Entendemos que esta posición es original en el sentido de que regresa al origen, es decir, vincula nuevamente a esta ciencia, ahora impulsada por la inteligencia artificial, al territorio de la filosofía de las matemáticas. El cómputo puede multiplicar las respuestas, pero darles sentido sigue siendo nuestro.
Frente al supuesto de que con esta IA generativa estamos más cerca de la inteligencia artificial general, podríamos decir que el mayor impulso que ha dado esta arquitectura es generar entusiasmo e ingentes cantidades de inversiones para desarrollar esta industria. Hoy observamos las miles de formas distintas de hacer funcionar este maravilloso invento, pero no es el camino para lograr algo verdaderamente superador.
La inteligencia artificial general (AGI) supone agencia y conocimiento de la realidad, y los modelos de lenguaje no tienen ninguna de las dos. Se dirá que ya existen los agentes, pero el nombre lo concede todo: un agente, en derecho y en comercio, es el que obra por cuenta de otro. El objetivo lo sigue poniendo un ser humano. Tienen agentes, no agencia.
Alan Turing distinguía dentro del razonamiento matemático dos facultades distintas: el ingenio, capaz de ordenar y combinar lo que ya está planteado, y la intuición, juicios espontáneos que no proceden de una cadena de razonamientos conscientes. Su planteo conocido como el "problema de la parada" o "halting problem" nos sirve para diferenciar un tipo de razonamiento de otro. No existe un procedimiento lógico-mecánico que pueda saber si otro procedimiento lógico-mecánico va a detenerse en algún momento o si se va a quedar "colgado". Cuando en su tesis de Princeton necesitó un dispositivo capaz de resolver lo que la máquina no resuelve, lo llamó oráculo, y de su naturaleza sólo dijo que "no puede ser una máquina".
Lo que podemos derivar de los trabajos de Turing sobre computabilidad es la diferencia esencial entre la máquina y el entendimiento humano. Es el hombre quien tiene presente y en acto todo su bagaje y su razón. Al preguntarle sobre un problema matemático como la conjetura de Collatz, una persona va a intuir una respuesta sin necesidad de comprobación mecánica ni de ejecutar muchos ciclos. Por el contrario, una máquina no puede hacer ese juicio de intuición. Un modelo de lenguaje no posee metacognición, no es consciente de lo que sabe sin ejecutar su búsqueda y encontrar —o no— lo que se le pide. No es una diferencia, es un abismo.
Roger Penrose —siguiendo el razonamiento de Gödel— habla de la facultad de comprender. No es dar la respuesta correcta sino ver por qué es correcta. Se puede seguir una regla al pie de la letra sin entender nada de lo que se está haciendo, y se puede entender algo sin poder demostrarlo. Son dos cosas independientes, y una máquina tiene sólo la primera: ejecuta impecablemente aquello que no significa nada para ella. Comprender es un acto, no una suma de pasos, y por eso no es un tema de mera capacidad computacional, es decir, de fuerza bruta.
"...En rigor, era nulo su intelecto
y ajena su terrible voluntad.
Pero Robot, mirado en sus cabales,
era un hijo brutal de la memoria,
y un archivista loco, respondiendo a botones
o teclas numerados por la triste cordura."Leopoldo Marechal, El poema de Robot, 1966
Siempre el significado viene de seres humanos mientras que la fuerza bruta corresponde al frenético e inhumano ritmo que sólo las máquinas pueden lograr y sostener. Observar esta asimetría es clave en este tiempo de menosprecio antropológico. Por eso, los modelos de lenguaje serán siempre una luz lunar que no hace más que reflejar la verdadera fuente: esa magnifica humanitas a la que el Logos le ha participado mucho más que su Razón.