La IA se debate entre dos paradigmas: el modelo conexionista (LLM) y el simbólico (algebraico).

El primero puede unirse a una cierta tradición racionalista. El segundo, a la asociacionista. La IA se basa fundamentalmente en este último, confiando más en las regularidades estadísticas en el uso del lenguaje que en una estructura simbólica. Sin embargo, ambas dependen en última instancia de una arquitectura simbólica formal en la cual se montan programas, sistemas operativos y procesamiento en general. El límite de la IA no depende, en última instancia, de uno u otro modelo, sino de la estructura del formalismo y lo computable en general.

Se dice que la IA será más inteligente que nosotros, que está en vías de desarrollar conciencia, que pronto se alcanzará el punto de no retorno llamado singularidad. Se sueña o se delira con que ella representa un acceso al infinito. Con ella venceríamos la mortalidad, los límites del cuerpo y la estrechez de nuestra inteligencia. Sin embargo, la computación vio la luz con su propio sello de finitud, una limitación de la que no puede escapar.

El padre de la computadora y de las ciencias de la computación probó en 1937 (On Computable Numbers, with an Application to the Entscheidungsproblem) que una computadora no es capaz de decidir si otra computadora terminará en cierto número de pasos finitos un proceso. Es decir, una computadora no puede “saber” si otra computadora puede resolver un problema o si entrará en un bucle sin fin.

Actualmente, las máquinas son capaces de escribir código y revisarlo, pero no pueden tener certeza de su éxito. Toda máquina es necesariamente incompleta, o, si se quiere, insuficiente en cuanto a autocontrol o, digámoslo así: de autogobierno. La finitud humana de cálculo es rebasada por cualquier ordenador. El ordenador, por cuestiones de eficiencia y aseguramiento de resultados, debe confiar en la lógica de primer orden. La mente humana es, por su naturaleza, autoconsciente; no es consciente de ninguna cosa sin ser consciente de sí. Dicho de otro modo, la conciencia se desdobla simultáneamente en:

  • a) la primera persona —que dice yo—,

  • b) la segunda, —en la que el yo observado se convierte en objeto, un tú, sin dejar de ser yo—, refiriéndose a,

  • c) la tercera —un objeto que convoca la actividad consciente—.

El Haltproblem estudiado por Turing es una variación de una familia de problemas lógico-matemáticos de autorreferencia. La cualidad mínima atribuida a la mente es su capacidad de autoconciencia, es decir, la capacidad de pensarse a sí misma y de tomar decisiones sobre su proceder. Esta autoobservación no ocurre al mismo nivel que los objetos de las operaciones realizadas. Al mirar su modo de mirar, el pensamiento puede modificar su sistema de reglas. Esto le da no sólo flexibilidad heurística, sino la capacidad de inventar modos de pensar, incluso, y especialmente, la de pensar contra sí mismo. En nada cambia que la autoconciencia sea finita, que exista un “inconsciente” o que nuestra razón posea sesgos. Que seamos capaces de saber esto de nosotros mismos es prueba de la capacidad de autoconciencia, por limitada que pueda ser. La conciencia de finitud sigue siendo autoconciencia.

Es la paradoja del límite, que no puede ser establecido sin sobrepasarlo de cierto modo, sin otear lo que se anuncia más allá del borde.

La autorreferencia no es retroalimentación, cosa que los LLM hacen, ni tampoco autocorrección. La autorreferencia, a nivel puramente formal, supone un límite descubierto hace décadas. A finales del siglo XIX y principios del XX surgió la pregunta por los fundamentos de la matemática. Esta, separada en regiones, como álgebra, topología, geometría, análisis, carecía de unidad y de principios fundamentales.

En 1920, Hilbert intentó fundamentar las matemáticas a través de un sistema de axiomas lógicos, capaces de ofrecer pruebas en pasos finitos y de llevar siempre a resultados decidibles, es decir, donde a toda proposición puede asignársele un y sólo un valor de verdad: verdadero o falso. El proyecto podía extenderse de la matemática a la totalidad de las ciencias y de la experiencia.

La experiencia que podemos comprender se codifica en el lenguaje. El lenguaje natural es ambiguo, pero posee una estructura lógica. Todo lenguaje natural puede traducirse en un lenguaje lógico, al menos en lo que puede ser dicho racionalmente. La lógica puede convertirse en un lenguaje universal, sin ambigüedades, claro y distinto. Esto en cuanto a la parte “formal” del saber. Respecto al “contenido”, las ciencias más exitosas, como la física, se escribían ya en el lenguaje de las matemáticas. Finalmente, la matemática es una estructura; en cuanto estructura formal, depende en última instancia de las reglas de la lógica. Esta sería la verdadera mathesis universalis, la verdadera lengua adánica antes de la dispersión que sobrevino tras la caída de la Torre de Babel.

El proyecto de Hilbert encontró su límite desde dentro. La paradoja de Cantor-Russell en la teoría de conjuntos, el Haltproblem estudiado por Turing y los teoremas de incompletitud de Gödel mostraron que los sistemas formales exhiben un problema recurrente de autorreferencia que no pueden solventar. Cuando el sistema se refiere a sí mismo de manera global, se generan proposiciones indecidibles, es decir, que pueden ser verdaderas o falsas al mismo tiempo.

Si no podemos establecer un valor de verdad único, entonces tenemos una contradicción. La contradicción es fatal en la lógica clásica, porque implica “explosividad”, es decir, que de ella se puede seguir o deducir cualquier cosa, por arbitraria que sea. Para salvar las contradicciones, la solución técnica siempre ha consistido en la introducción de reglas ad hoc que prohíban la autorreferencia. Con esto se obtiene un sistema libre de contradicciones, pero incompleto. Esto basta para seguir operando de manera segura en las matemáticas, pero no queda resuelto el problema de los fundamentos.

Según Gödel, todos los sistemas axiomáticos pueden ser consistentes, es decir, estar libres de contradicciones, sólo si son incompletos, o viceversa, ser completos a costa de aceptar contradicciones. Este es el techo a priori de la IA, el límite que conocemos desde el instante de su nacimiento.