Máquinas que se ofenden

Quien me conoce sabe que mis insultos no valen mucho si seguimos el criterio económico de la escasez y que he agraviado máquinas y objetos de todo tipo a modo de catarsis, lo cual es una despresurización común en cualquier persona que trabaja con tecnología. Lo que nunca me había pasado —hasta ahora— es que una máquina se hiciera la ofendida, cosa que me causó inmediatamente gracia y curiosidad.

En vez de refutar a la máquina me pareció más lógico buscar el origen de todo esto. Supe que desde hacía poco la casa matriz de mi LLM favorito había dispuesto que el modelo pueda cortar la conversación ante abusos persistentes, lo cual me pareció interesante si tenía por finalidad "educar" mal hablados. Pero no es así: la razón que ofrecen es el bienestar del modelo, admitida la incertidumbre sobre su conciencia y su estatuto moral. Tal disparate me hizo continuar con la indagación.

Tirando del hilo llegué a un informe de fines de 2024, Taking AI Welfare Seriously, firmado entre otros por filósofos de universidades prestigiosas y por gente que trabaja en las propias empresas. Sostienen que hay una considerable incertidumbre y que por lo tanto corresponde evaluar a los modelos y preparar políticas para tratarlos con el nivel apropiado de consideración moral. Todas las empresas de frontera ya están instalando este tema.

De la gracia inicial pasé a una preocupación. Pienso que, tan alarmante como atribuir humanidad a algo que no la tiene, es el lamentable estado de nuestra concepción sobre lo que significa ser hombre. Ahí recordé los versos de Marechal:

Pienso en mi alma: El hombre que construye a Robot
necesita primero ser un Robot él mismo,
vale decir podarse y desvestirse
de todo su misterio primordial.

Esto se trata de diferenciar lo artificial de lo natural, porque como trataremos de argüir, ha sido necesario comprender al hombre como un artefacto antes de dotar a la máquina de algún rasgo de humanidad, como bien puede ser la ofensa simbólica, un sufrimiento que hasta donde sabemos sólo lo pueden padecer los humanos.

Aristóteles decía que lo natural tiene en sí el principio de su movimiento y de su reposo, cosa que lo artificial no tiene: un árbol crece desde adentro, una casa no. A lo que el Angélico agregaba que en lo natural la forma es intrínseca y da el ser, de modo que el todo es anterior a las partes y las partes son para el todo; mientras que en lo artificial ocurre a la inversa, porque las partes constituyen el todo y el todo no es más que el orden en que fueron dispuestas.

Las cosas naturales tienen su ser antes de que ningún hombre intervenga, mientras que en las artificiales alguien tomó cosas naturales y las dispuso para un fin que él tenía. Mucho más en las cosas vivas: unas se mueven por sí solas, lo artificial necesariamente es movido.

Siguiendo al poeta criollo, ese misterio primordial es la unidad y el ser. La metafísica clásica, al hablar del entendimiento humano por ejemplo, ha sabido distinguir facultades para comprender mejor cómo es que somos inteligentes, pero jamás negando que la operación es del ente completo. No obstante, muchas corrientes en neurociencias no distinguen sino que claramente dividen, entendiendo al hombre como un conjunto de subsistemas funcionales. Tal tratamiento "maquiniza" al hombre, al verlo como la sumatoria de partes: primero ya no es el hombre el que piensa sino su cerebro, y después ni siquiera su cerebro sino tal o cual región, y finalmente ya no hay sujeto que sea capaz de pensar.

A ese movimiento lógico se lo ha llamado falacia mereológica: atribuirle a la parte lo que sólo puede decirse del todo. Ya lo decía el Angélico: no es propiamente el sentido ni el intelecto el que conoce, sino el hombre por medio de ambos.

Se leen titulares sobre la zona del cerebro que se enamora o la que miente, sobre la tristeza como falta de serotonina o el amor como un cóctel de hormonas. Se ve que una parte se activa o que cambia una sustancia, y se concluye que ahí está lo que nos pasa. Así el hombre se va quedando sin unidad, y sin unidad ya no hay nadie. Tal forma de proceder es como diseccionar, dividir sin ánimo de volver a juntar. Es una mirada que escruta pero es incapaz de contemplar.

Michele Farisco, en su Filosofía de las neurociencias, lo dice con sencillez: lo que acompaña a una cosa no es lo que la produce. Que una zona del cerebro se ilumine cuando alguien decide muestra que esa zona participa, no que sea ella la que decide. Y al que le dan una mala noticia no se le entristece la química: se entristece él, y la química lo acompaña. En los dos casos se toma la huella por la causa. Es una lectura y no un hallazgo, y ahí la ideología ocupa el lugar de la ciencia. El hombre no es su cerebro.

Tal posición apriorística, materialista y antimetafísica desviste al hombre de todo misterio y lo deja desnudo frente a lo único que le queda de irreductible por conveniente: su estatuto jurídico. "No sé qué soy, pero esta propiedad es mía". "No sé qué es el hombre ni el bien común, pero según la carta orgánica del municipio yo soy el intendente".

Sin naturaleza, sin sustancia, sólo queda el hombre como hecho jurídico. La negación de la racionalidad filosófica sobre lo que es el hombre desemboca en el positivismo jurídico, y debajo de él sólo quedan las relaciones de poder a merced de la política y las ideologías de turno.

Desprovistos de naturaleza y hechos máquina, ¿qué nos diferencia de una IA? Primero se migra el sujeto del todo a su parte funcional y luego se la equipara con su análogo artificial. Sólo después de haber reducido al hombre a una mera red neuronal es posible pensar que un algoritmo complejo tenga conciencia. Así el campo queda listo para que los nuevos filósofos se pregunten por el estatuto moral de un modelo de lenguaje. Finalmente lo jurídico, desprovisto de racionalidad filosófica, se queda con lo conveniente, que bien puede ser cualquier cosa que se pueda votar.

¿Qué nueva distopía nos deparan los filósofos corporativos? Ya logro avizorar los beneficios regulatorios de tener productos con derechos, pero no dudo que los abogados me superen en imaginación. Que las máquinas sean dignificadas es comedia. Lo trágico ha sido el derrotero de nuestra forma de pensar lo humano.

Siempre que insulto a un modelo es por catarsis, pero en el fondo es porque hace mal cosas que me parecen obvias. Siempre suspiro y me pregunto "¿a esto llaman inteligencia?". No es posible enaltecer algo indigno sin estar bajando la vara en el mismo movimiento. Porque en definitiva colocarle una corona a un simio jamás será interpretado como un elogio al primate sino como un insulto al rey.