Este título no es una propuesta contradictoria. Es un llamamiento a que dejemos de pensar mucho de lo que estamos acostumbrados a pensar para poder afrontar el mayor reto de todos los tiempos: el peligro de dejar de pensar. Novalis tenía razón cuando escribió Die Philosophie ist eigentlich Heimweh, ein Trieb überall zu Hause zu sein (En realidad, la filosofía es nostalgia, un impulso de estar en casa en cualquier parte).

Por filosofía entiendo todo pensamiento estructurado por la búsqueda de la verdad sin recurrir a tecnologías que, en lugar de mantenerse dentro de los límites de los instrumentos para ayudar al pensamiento a pensar, buscan sustituirlo. Si dejamos de pensar, es como si fuéramos expulsados de casa y vagáramos sin refugio ni sentido en un mundo caótico y distópico de monstruos con corbata que nos gobernarán en palacios de lujo y convertirán en basura todo lo que se interponga en el tráfico de sus vehículos hiperblindados contra la búsqueda de la verdad.

El peligro inminente es que dejemos de ser seres pensantes (res cogitans de Descartes) para convertirnos en seres pensados (res cogitata). Ser pensado es haber dejado de pensar, ya sea porque no es necesario pensar para vivir tranquilamente en esta sociedad, ya sea porque pensar es tan peligroso que equivale al riesgo inminente de ser asesinado o de suicidarse. Estos son los peligros más inmediatos.

El peligro de pensar que los certificados de mediocridad no son válidos

Si los sistemas educativos y las universidades siguen por el camino de la ignorancia programada para que los estudiantes olviden todo lo que no interesa a los dueños de los algoritmos y del poder mundial, pronto serán residencias para ancianos de corta edad donde aprenderán lo que ya saben desde hace tiempo gracias a la magnanimidad de las redes sociales, y donde la comodidad y el aislamiento del mundo real son fundamentales para prepararlos para una muerte serena, es decir, para vivir en las burbujas donde todo el mundo vive muerto sin saberlo.

Y vivirán sin duda con el mismo confort que han aprendido y, por lo tanto, todo lo que hagan o ordenen tendrá el sello de la objetividad. Estoy seguro de que, cuando esto ocurra, los dioses y las diosas se llevarán las manos a la cabeza, se taparán los ojos para no ver y los oídos para no oír. Pero como tal desastre no les afecta, seguirán imperturbables en sus quehaceres divinos. El problema para la humanidad y para la naturaleza es que, cuando los mediocres logran demostrar lo que son, su objetividad es, en definitiva, abyectividad. Es propio de la mediocridad no poder enfrentarse a sí misma, precisamente por ser mediocre.

El peligro de pensar que las libertades autorizadas son una fracción de las libertades posibles

Esta sociedad nos permite ser intransigentes con la mediocridad siempre que sigamos el camino trazado por los mediocres; ser intransigentes contra la corrupción, siempre que aceptemos ser gobernados por corruptos; ser radicales, siempre que seamos ciegos para que nos atropellen fácilmente los tanques civiles y militares; ser atrevidos, siempre que seamos inexactos o descuidados en un detalle para ser duramente criticados y encarcelados por los guardianes de la normalidad; ser lúcidos en la denuncia de la hipocresía, siempre que convivamos amigablemente con los hipócritas; ser jóvenes, siempre que estemos drogados para agotarnos en creatividades y rebeldías inocuas y autodestructivas; ser viejos, siempre y cuando murmuremos una sabiduría que nadie tiene paciencia para escuchar o comprender.

Esta sociedad es un monstruo de Goya porque la razón duerme un sueño profundo.

El peligro de pensar que lo que se ve es, de hecho, horrible

El horror que vive la mayor parte de la humanidad, a diario, siempre diferente y siempre igual, desmiente todo lo que pensábamos sobre el progreso de la humanidad. El horror pensado, cuando se piensa en profundidad, corre el riesgo de convertirse en horror vivido por solidaridad con quienes lo sufren. Eso obligaría a luchar concretamente por el socorro, por el fin de la muerte inocente, por la destitución de los gobernantes cómplices de la muerte inocente. Pero como eso da trabajo y obliga a correr riesgos tan graves como innecesarios, lo mejor es no pensar, no saber, fingir que no se sabe, admitir que tal vez sea un malentendido.

El genocidio del pueblo palestino, retransmitido en directo todos los días, es la primera guerra librada conscientemente contra mujeres y niños, los dos principales enemigos de una limpieza étnica perfecta. Tiene toda la lógica. Lógica y el apoyo activo de nuestros gobernantes demócratas. Al igual que Himmler, arquitecto del holocausto, entraba en su casa por la puerta trasera para no despertar a su canario mascota, los arquitectos del genocidio actual hacen una pausa en la matanza para rezar y ayudar a sus hijos con los deberes escolares.

Esto degrada hasta tal punto lo que queda de humanidad en nuestra ira impotente que el horror de pensar se reduce a pensar el horror sin correr el riesgo de vivirlo por solidaridad.

Se vuelve impensable pensar que, mientras el nazismo fue la gran encarnación del mal en el siglo XX, el sionismo es la gran encarnación del mal en el siglo XXI. Se vuelve impensable que las grandes víctimas se hayan convertido, en el lapso exacto de un siglo, en los grandes agresores. Se vuelve impensable pensar que, al igual que no tuvo éxito la solución final contra ellos por parte de los nazis, tampoco tendrán éxito en la solución final que pretenden infligir al pueblo palestino. Y como todo esto es impensable, mejor cambiar de canal y volver a las redes sociales o comentar el entretenimiento tragicómico de las peleas entre dos gorilas, Donald Trump y Elon Musk (sin ofender a los gorilas).

El peligro de pensar que la comida mental está en la mesa y que quien no come se muere de hambre

La inteligencia artificial (IA) no crea ni transforma nada. Solo acumula y sintetiza según criterios opacos solo accesibles a los propietarios de los programas de los algoritmos, es decir, a los dueños del mundo. La inteligencia artificial se refiere a máquinas que realizan tareas cognitivas como pensar, percibir, aprender, resolver problemas y tomar decisiones. No es la primera vez que se atribuye inteligencia a las máquinas. En la década de 1950 era habitual designar a los ordenadores emergentes como cerebros electrónicos.

En la actualidad, la mayoría de las aplicaciones populares de IA —el reconocimiento de voz e imágenes, el procesamiento del lenguaje natural, la publicidad dirigida, el mantenimiento predictivo de máquinas, los coches sin conductor y los drones— implican la capacidad de las máquinas para aprender de los datos sin estar programadas explícitamente.

Se trata de un cambio de paradigma en la tecnología informática. Lo que realmente marcará la diferencia en la carrera por las aplicaciones de IA es la disponibilidad de datos; el elemento crítico es la abundancia de datos. Más datos conducen a mejores productos, lo que a su vez atrae a más usuarios, que generan más datos para mejorar aún más el producto. La escala de datos necesaria para desarrollar aplicaciones avanzadas de IA es la base del impacto de la centralización y la monopolización de la IA. Las grandes empresas tecnológicas estadounidenses lideran el mundo en aplicaciones de IA, pero China es un gigante en ascenso. Esto conduce a un duopolio de la innovación en IA: EE. UU. y China.

La IA es el caso paradigmático de una tecnología que pretende superar los límites del instrumento que ayuda a pensar para convertirse en el pensador que prescinde y sustituye al pensador humano. El vértigo de su expansión ilimitada está entrando en todos los ámbitos de la actividad humana, desde la medicina hasta el derecho, desde la comunicación hasta la guerra, desde la educación hasta los mercados financieros. ¿Qué significa ser humano en la era de la IA?

En el fondo, la IA funciona como un dispositivo estadístico, pero, debido al número infinito de datos que gestiona y a los algoritmos que rigen su funcionamiento, la IA proyecta la idea de crear conocimiento a partir de la nada, de inventar. Es decir, la IA da la impresión de funcionar como un ser humano, aunque de forma infinitamente más eficiente. De ahí las denominaciones utilizadas para caracterizarla —inteligencia artificial, aprendizaje profundo—, características hasta ahora reservadas a los seres humanos o, como mucho, a los seres vivos. Estas denominaciones se utilizan de forma metafórica, pero muestran hasta qué punto la IA parece estar alcanzando niveles de comprensión y transformación aún reservados a los seres humanos.

El efecto de realidad es impresionante, porque mientras que como copia parece creativa, como extractiva parece inventiva, como reproductiva parece productiva, como basada en correlaciones parece ofrecer nuevas relaciones. A la luz de la credibilidad de esta apariencia, personas de ambos extremos del espectro político e ideológico se han planteado preguntas sobre qué es lo que cuenta como humano o si la IA supone un cambio civilizatorio.

No me gusta citar a criminales de guerra, pero en este caso hago una excepción para citar a Henry Kissinger. En 2018 escribió:

La Ilustración buscaba someter las verdades tradicionales a una razón humana liberada y analítica. El objetivo de Internet es ratificar el conocimiento mediante la acumulación y la manipulación de datos en constante expansión. La cognición humana pierde su carácter personal. Los individuos se convierten en datos, y los datos se vuelven reinantes.

En el inicio del texto, Kissinger se preguntaba:

¿Cuál sería el impacto en la historia de las máquinas de autoaprendizaje, máquinas que han adquirido conocimientos a través de procesos propios y que aplicarían esos conocimientos a fines para los que puede no existir ninguna categoría de comprensión humana? ¿Aprenderían estas máquinas a comunicarse entre sí? ¿Cómo se tomarían las decisiones entre las opciones emergentes? ¿Sería posible que la historia de la humanidad siguiera el camino de los incas, enfrentados a una cultura española incomprensible e incluso inspiradora para ellos? ¿Estaríamos en el umbral de una nueva fase de la historia humana?

Con Chomsky a mi lado, considero que:

la mente humana es un sistema sorprendentemente eficiente e incluso elegante que funciona con pequeñas cantidades de información; no busca inferir correlaciones brutas entre puntos de datos, sino crear explicaciones... Por muy útiles que puedan ser los programas de IA en algunos ámbitos restringidos (pueden ser útiles en la programación de ordenadores, por ejemplo, o en la sugerencia de rimas para versos ligeros), sabemos por la ciencia de la lingüística y la filosofía del conocimiento que difieren profundamente de la forma en que los humanos razonan y utilizan el lenguaje. Estas diferencias imponen limitaciones significativas a lo que estos programas pueden hacer, codificándolos con defectos inerradicables...

De hecho, estos programas están atrapados en una fase prehumana o no humana de la evolución cognitiva. Su fallo más profundo es la ausencia de la capacidad más crítica de cualquier inteligencia: decir no solo lo que es, lo que fue y lo que será —es decir, la descripción y la predicción—, sino también lo que no es y lo que podría y no podría ser. Estos son los ingredientes de la explicación, la marca de la verdadera inteligencia... El pensamiento humano se basa en explicaciones posibles y en la corrección de errores, un proceso que limita gradualmente las posibilidades que pueden considerarse racionalmente.

En su obra maestra,El mundo como voluntad y representación, Schopenhauer ([1819] 2020) establece una distinción entre talento y genio. Mientras que la persona con talento alcanza lo que otros no pueden alcanzar, el genio alcanza lo que otros no pueden imaginar. El genio tiene una capacidad superior de contemplación que le lleva a trascender la pequeñez del ego y a entrar en el mundo infinito de las ideas. El genio es la facultad de permanecer en un estado de percepción pura, de perderse en la percepción, el poder de dejar de lado por completo los propios intereses, deseos y objetivos, renunciando así por completo a la propia personalidad durante un tiempo, para permanecer como un puro sujeto conocedor, con una visión clara del mundo.

A la luz de esto, podemos especular con seguridad que, si Schopenhauer viviera hoy, defendería que la IA, por muy estimulantes que sean sus logros, nunca podrá alcanzar los niveles de la posibilidad humana. Como mucho, podrá alcanzar el nivel del talento. La genialidad es inaccesible para la IA. El genio es el límite superior de la IA. El límite inferior es la actividad humana no registrada o, mejor aún, la actividad humana que se registra y almacena de formas que desafían el extractivismo de datos.

Este juego entre el hombre y la máquina pasa por alto un punto crucial: el hecho de que los seres humanos no existen en abstracto, sino en contextos históricos, sociales y culturales específicos. Los ejercicios sobre características universales construidas de forma abstracta convierten las características locales centradas en Occidente, capitalistas, colonialistas y patriarcales en características universales derivadas del conocimiento visto desde cero. Los prejuicios ontológicos y políticos se transforman así en artefactos neutros en términos de IA.

El peligro de pensar que lo que queda fuera del algoritmo no existe es la nueva forma de lo que he denominado sociología de las ausencias. El peligro de pensar que el algoritmo es el único alimento mental a nuestro alcance es el mismo que pensar que la hamburguesa de McDonald's es el único alimento a nuestro alcance.

El peligro de pensar que lo poshumano presupone que ya hemos sido plenamente humanos

Desde principios de milenio se ha debatido sobre lo poshumano. La muerte del ser humano venía de lejos: de Nietzsche, de Heidegger, de Foucault, de Barthes, de Deleuze. Más recientemente, la idea de lo poshumano se ha centrado en los seres humanos sometidos a xenotransplantes (trasplantes de células, tejidos u órganos de otras especies animales) o que viven con objetos tecnológicos insertados en su cuerpo.

La idea del poshumanismo implica la crítica del antropocentrismo, la negación de cualquier privilegio al ser humano dentro del conjunto de los seres vivos del planeta. No voy a discutir en este texto los méritos de esta concepción. Lo que me interesa cuestionar es la idea de humano que subyace a la de poshumano. Se trata de una idea sustantivista y abstracta que presupone la existencia previa de una naturaleza humana más o menos fija. Por lo demás, la cuestión de si existe o no una naturaleza humana no es lo que me preocupa. Es más bien la idea de que los seres humanos siempre han sido tratados como seres privilegiados y abstractamente iguales.

El peligro de pensar que, en realidad, esto nunca ha sucedido en la era moderna es uno de los más aterradores para la buena conciencia liberal que ha formado nuestra conciencia desde el siglo XVII. A lo largo de los años, he demostrado que, con el colonialismo histórico, se trazó una línea abismal, tan radical como radicalmente invisible, entre los seres tratados como seres plenamente humanos (la zona metropolitana) y los seres tratados como seres subhumanos (la zona colonial).

Esa línea abismal perdura hasta hoy y la subhumanidad que dibuja abarca más poblaciones en el mundo que durante el período del colonialismo histórico. Que lo digan los inmigrantes deportados con grilletes y enviados a campos de concentración en El Salvador y en otros lugares de los que algún día tendremos noticias. O los campesinos de la República Democrática del Congo martirizados por la maldición del litio y los minerales raros. El espectro de la subhumanidad se cierne sobre cada uno de nosotros. De un momento a otro, como preveía Brecht, cualquiera de nosotros puede ser arrojado a la zona colonial, donde las declaraciones universales de derechos humanos y las garantías constitucionales no son más que piadosas mentiras. Pensar que esto es un retroceso es pensar que ha habido progreso. Por supuesto que ha habido progresos, pero no ha habido Progreso con mayúscula.

Todos estos peligros obligan a una tarea de des-pensar y desaprender antes de que sea posible dar sentido a lo que no lo tiene.

image host
Francisco José de Goya y Lucientes (1746-1828) "Capricho 43" 1780, "El sueño de la razón produce monstruos".