El siglo XX experimentó un cambio en la mirada sobre la tecnología. La vieja Europa desconfiaba inicialmente de ella. Reconocía sus logros en la producción económica, pero, al mismo tiempo, advertía sobre su potencia destructiva en el mundo de la vida.

La ciencia y la tecnología demolían los antiguos modos de comprender el mundo natural y el social. Atrás dejaban un mundo desencantado y mecanizado. A cambio, se ofrecía un nuevo paraíso en la tierra: comodidad, abundancia y mucho tiempo libre. Pero el fin de la hegemonía europea tras las guerras mundiales y el surgimiento de los EUA como nueva superpotencia apagaron el escepticismo. Lo suplantó una confianza desmedida e ingenua de los beneficios de la mecanización. Pronto, la conquista del mundo de la materia y la energía dio paso a la conquista del mundo de la información: la vida como código (ADN), la automatización del razonamiento lógico, la computación masiva de datos…

Pero unos y otros, los escépticos europeos y los optimistas norteamericanos, compartían la misma idea de la tecnología: que esta seguiría un camino que nos llevaría a un creciente dominio de la naturaleza. Ella sería no sólo predecible; finalmente estaríamos en condiciones de intervenirla y, más importante, de diseñarla. El Gólem sería poca cosa. Ya no sólo diseñaríamos máquinas y seres vivos, sino que tomaríamos el control de la productividad original de la naturaleza en su conjunto.

Ciencia y Tecnología sCCe convirtieron en sinónimos de control absoluto.

Sin embargo, pronto se vio que la tecnología había desatado fuerzas que desbordaban, con mucho, la existencia humana. Para algunas miradas como la de Günther Anders, era claro que la tecnología estaba muy lejos de permanecer bajo el control humano. Había surgido una nueva desproporción. Una capacidad destructiva sin precedentes estaba ahora en manos del capricho de unos cuantos.

Actos pequeños podían provocar grandes catástrofes.

Se puede pensar, sin embargo, que estos son riesgos de la tecnología pero que dependen, en última instancia, del juicio humano. Iván Illich, también un agudo crítico de la tecnología, pero en virtud de su lógica interna. La tecnología siempre ha comportado riesgos por su mal uso, pero también produce efectos secundarios cuando se usa bien. No importa cuánta ciencia y reflexión haya detrás de un invento, es imposible calcular los efectos secundarios o colaterales. Un medicamento diseñado para cumplir una función específica: antibiótico, analgésico, antipirético, etc. Pero el primero destruye también la microbiota, el analgésico puede dañar los riñones y el antipirético, como el acetaminofén, el hígado.

La materialidad de la tecnología hace que ésta exceda las funciones que se le asignan en principio. Eso quiere decir que la idea del control absoluto comenzaba a tambalearse. El control es siempre un resultado local, pero globalmente existen innumerables efectos secundarios. Eso significa no sólo que la tecnología debe probarse antes de ser liberada masivamente a los usuarios o consumidores, sino que debe ser constantemente observada.

Ahora, más allá de los malos usos y los efectos secundarios, existe una lógica interna de la tecnología que la vuelve incluso más compleja. Iván Illich se refirió al automóvil para mostrar cómo cierto umbral en la cantidad y potencia de la tecnología revertía sus efectos positivos. Caminando podemos alcanzar una velocidad de 15 km/h. La bici podría, quizá, alcanzar en la ciudad unos 30 km/h. Un auto sencillo permite, en cambio, alcanzar 100 km/h en menos de un minuto. Sin embargo, la proliferación de autos produce, además de los conocidos efectos “secundarios” —contaminación, accidentes y ruido—, una paradoja.

Pasado cierto umbral, el número de coches desemboca en tráfico. Si el número de autos sigue creciendo, aumenta el tráfico, hasta que la velocidad promedio del automovilista termina siendo igual a la del transeúnte e inferior a la de una bicicleta. El auto privado o el transporte público ha permitido expandir el tamaño de las ciudades. Eso quiere decir que incluso si el tráfico no ha alcanzado su umbral negativo, el tiempo de transporte se mantiene igual. Es por ello que Illich decía que el comunismo no podría andar en auto, pero tampoco a pie, sino en bicicleta.

El teórico de la tecnología Marshall McLuhan propuso cuatro “leyes” de la tecnología que coinciden con los análisis de Illich. Según el primero, toda tecnología sigue cuatro leyes o principios:

Extiende las capacidades humanas.

Vuelve obsoleta la tecnología anterior (la vuelve caduca),

Recupera algún elemento antiguo.

Revierte (o deshace) su función al rebasar un cierto umbral.

El automóvil extendió las capacidades humanas de locomoción; volvió obsoleto al caballo; recuperó la idea de la casa y del espacio privado, exportándola al medio de transporte; pero acabó multiplicando el tiempo de transporte que los habitantes de la ciudad emplean diariamente.

La inteligencia artificial no será diferente. Podemos ver cómo crecen las capacidades humanas de computación, cómo se desplazan habilidades cognitivas de las personas y cómo se reviven modos dialectales o simplificados de comunicación humana, por ejemplo, los sistemas de mensajería digital. Hace falta pensar en el umbral en el que ésta conducirá a una descomunal estupidez artificial.