Hay algo que me inquieta en la velocidad con la que estamos incorporando inteligencia artificial a nuestras decisiones.

No porque dude de su potencial.

Todo lo contrario.

En pocos años hemos construido sistemas capaces de leer miles de documentos, resumir información en segundos, encontrar relaciones que podrían pasar inadvertidas, traducir idiomas, interpretar imágenes y acompañarnos en tareas que hasta hace muy poco parecían reservadas exclusivamente a las personas.

Es extraordinario.

Y precisamente por eso deberíamos preguntarnos con mucho cuidado qué queremos hacer con esa capacidad.

En el mundo del talento humano comienza a aparecer una promesa seductora: utilizar inteligencia artificial, no únicamente para organizar información o facilitar procesos, sino para determinar quién encaja mejor en una posición, quién tiene mayor potencial, quién debería avanzar y quién debería quedar fuera.

Podemos hacerlo cada vez con mayor velocidad.

Pero existe una pregunta anterior a todas las demás:
¿Deberíamos hacerlo?

Automatizar no siempre significa avanzar

La historia de la tecnología está profundamente ligada a la automatización.

Construimos máquinas para hacer más rápido aquello que hacíamos lentamente, repetir con precisión aquello que podía producir errores y asumir tareas que consumían enormes cantidades de tiempo.

Ese principio ha transformado el mundo.

En Recursos Humanos existen muchísimas actividades donde la automatización representa un avance evidente.

Coordinar entrevistas. Ordenar documentación. Consolidar información. Generar recordatorios. Actualizar estados.

Detectar inconsistencias administrativas.

Reducir horas de trabajo repetitivo permite dedicar más tiempo a conversar, observar, analizar y acompañar.

Hasta aquí, la dirección parece clara.

La dificultad comienza cuando aplicamos la misma lógica a algo completamente diferente:

decidir sobre personas.

Una decisión nunca es solamente un dato

Imaginemos que una empresa recibe mil candidaturas para una posición.

Revisarlas manualmente requiere tiempo.

Entonces aparece una posibilidad aparentemente perfecta: un sistema analiza los mil perfiles, los compara con los requisitos y devuelve una lista con los candidatos que considera más adecuados.

Quizá incluso asigna un porcentaje a cada uno.

92 %.

87 %.

81 %.

La complejidad parece haber desaparecido.

Ahora, solamente, necesitamos comenzar por arriba.

Pero ¿qué significa realmente ese 92 %?

¿Qué información utilizó el sistema? ¿Qué decidió considerar relevante? ¿Qué ignoró?

¿Qué ocurre con una experiencia extraordinaria que fue descrita de una manera diferente? ¿Y con aquello que una persona aprendió pero nunca incorporó a su currículo? ¿Y con una trayectoria profesional que no se parece a las trayectorias anteriores utilizadas como referencia?

Un número puede ser exacto matemáticamente y seguir representando una realidad incompleta.

Ese es uno de los riesgos que más deberíamos observar.

La precisión no siempre significa comprensión.

La apariencia de objetividad

Los seres humanos desconfiamos de nuestras propias decisiones porque sabemos que podemos equivocarnos.

Tenemos prejuicios. Nos dejamos influir por experiencias anteriores. Interpretamos incorrectamente.

Podemos favorecer, consciente o inconscientemente, aquello que nos resulta familiar.

Por eso resulta comprensible que busquemos sistemas que nos ayuden a reducir esas limitaciones.

El problema aparece cuando confundimos automatización con neutralidad.

Un algoritmo no surge de la nada.

Trabaja con información. Responde a objetivos. Utiliza criterios.

Reconoce determinadas relaciones porque fue construido para encontrarlas o porque las aprendió a partir de los datos disponibles.

Y los datos también tienen historia.

Si una organización ha contratado durante años determinados tipos de perfiles, un sistema podría aprender que esas características representan aquello que funciona.

Pero tal vez no haya aprendido quién tiene mayor potencial.

Tal vez simplemente haya aprendido a reconocer el pasado.

La diferencia es enorme.

Cuando el pasado comienza a seleccionar el futuro

Esta idea merece detenernos.

Supongamos que durante veinte años una organización ha desarrollado un determinado patrón de contratación.

Ciertos estudios. Determinadas trayectorias. Experiencias en empresas similares. Formas conocidas de construir una carrera.

Ahora utilizamos ese historial para entrenar o alimentar una tecnología capaz de identificar quién se parece más a quienes tuvieron éxito anteriormente.

Puede parecer razonable.

Pero existe otra posibilidad.

Quizá la persona que la organización necesita mañana sea precisamente aquella que no se parece a las que contrató ayer.

Los mercados cambian. Las profesiones desaparecen y aparecen. Las capacidades evolucionan. Las personas aprenden en lugares diferentes.

Una tecnología excesivamente orientada a reproducir patrones históricos puede terminar haciendo algo paradójico: utilizar el futuro para perpetuar el pasado.

Y hacerlo con una apariencia de objetividad extraordinariamente convincente.

Velocidad no es conocimiento

La inteligencia artificial posee una ventaja evidente frente a nosotros: puede procesar cantidades enormes de información a una velocidad imposible para una persona.

Eso es una fortaleza.

Pero también puede generar una ilusión.

Si una respuesta llega en dos segundos, perfectamente estructurada y acompañada de cifras, tendemos a asumir que detrás existe comprensión.

No necesariamente. Procesar información significa encontrar, organizar y relacionar elementos. Comprender exige algo más. Exige contexto.

Una persona puede haber abandonado temporalmente su carrera para cuidar a un familiar.

Puede haber cambiado de país y haber comenzado nuevamente. Puede haber cerrado una empresa después de años de emprendimiento. Puede haber aprendido una profesión trabajando sin haber obtenido nunca una certificación formal.

Puede haber atravesado una experiencia que transformó profundamente su manera de liderar y que jamás aparecerá como una competencia en una base de datos.

La trayectoria registra hechos.

El contexto permite comenzar a entenderlos.

Y ningún sistema debería confundir ambas cosas.

Tal vez estamos haciendo la pregunta equivocada

Buena parte de la conversación sobre inteligencia artificial gira alrededor de una pregunta: ¿Qué más podemos automatizar?

En talento humano, creo que necesitamos otra: ¿Qué podemos comprender mejor?

Parece una diferencia pequeña.

No lo es.

La primera pregunta conduce hacia el reemplazo. La segunda conduce hacia la ampliación del conocimiento.

Una inteligencia artificial puede revisar cientos de documentos y mostrarnos evidencia que probablemente no habríamos encontrado.

Puede relacionar experiencias separadas por años. Puede detectar contradicciones. Puede recordar información que una organización había olvidado.

Puede mostrar que una determinada conclusión dispone de evidencia sólida mientras otra apenas constituye una hipótesis.

Y puede hacer algo que considero todavía más importante:

puede ayudarnos a descubrir qué preguntas siguen sin respuesta.

Eso cambia completamente su función.

Ya no necesitamos una máquina que nos diga a quién contratar.

Necesitamos una tecnología que nos permita llegar mejor preparados al momento en que tengamos que decidir.

Una inteligencia capaz de reconocer sus límites

Durante años hemos valorado los sistemas por la cantidad de respuestas que pueden producir.

Quizá tendremos que comenzar a valorarlos también por su capacidad para reconocer cuándo no deberían producir una.

No existe suficiente evidencia.

La información disponible es contradictoria.

Este elemento necesita validación.

No podemos inferir responsablemente esa conclusión.

Estas frases pueden parecer señales de una tecnología menos avanzada.

Para mí representan exactamente lo contrario.

Una inteligencia artificial que siempre tiene una respuesta puede ser impresionante. Una que sabe distinguir entre evidencia y suposición puede ser mucho más útil.

Especialmente cuando aquello que está en juego es una persona.

¿Quién responde cuando la máquina se equivoca?

Existe otra pregunta que deberíamos formular con mayor frecuencia.

Supongamos que un sistema recomienda descartar a un candidato.

La organización acepta la recomendación.

Tiempo después descubrimos que estaba equivocada.

¿Quién tomó realmente la decisión? ¿El algoritmo? ¿La empresa que lo compró? ¿El equipo que lo implementó? ¿El profesional que aceptó su recomendación? ¿Los desarrolladores?

La tecnología puede distribuir una decisión entre múltiples capas hasta hacer que la responsabilidad parezca desaparecer.

Pero la responsabilidad no desaparece.

Alguien debe seguir respondiendo por las consecuencias.

Por eso creo que existe una frontera fundamental:

la inteligencia artificial puede participar en la construcción del conocimiento; la responsabilidad sobre la decisión debe continuar siendo humana.

No, porque las personas no somos infalibles.

Precisamente porque no lo somos. Podemos ser cuestionados. Podemos explicar por qué decidimos. Podemos reconsiderar.

Y, sobre todo, podemos asumir responsabilidad.

Gobernar antes de confiar

Cuanto más poderosa sea una tecnología, menos razonable resulta utilizarla sin límites claros.

En talento humano, esos límites no deberían ser únicamente técnicos.

Deberíamos saber de dónde procede la información.

¿Qué evidencia sustenta una interpretación? ¿Qué parte de una conclusión corresponde a un hecho y cuál a una inferencia? ¿Qué incertidumbres permanecen abiertas? ¿Quién puede revisar una recomendación? ¿Quién puede cuestionarla?

¿Y quién asume finalmente la responsabilidad?

Eso es gobernanza.

No consiste en colocar obstáculos alrededor de la innovación.

Consiste en crear las condiciones para poder confiar en ella.

Porque la confianza tecnológica no debería nacer de una promesa de infalibilidad.

Debería construirse sobre algo mucho más sólido:

la posibilidad de comprender cómo llegamos hasta una conclusión.

La conversación que un algoritmo no debería cerrar

Imaginemos ahora otro escenario.

Un sistema analiza una candidatura y encuentra una trayectoria poco convencional.

En lugar de asignarle una puntuación baja y descartarla, señala:

Existe experiencia relevante, pero no hay evidencia suficiente para comprender este cambio profesional.

Preguntar.

Una sola palabra puede cambiar completamente la relación entre inteligencia artificial y talento humano.

Preguntar. No sentenciar.

La entrevista deja entonces de ser simplemente una etapa administrativa y recupera algo esencial: la posibilidad de comprender aquello que el documento no explica.

¿Por qué cambió de profesión? ¿Qué aprendió durante esos años? ¿Qué ocurrió en aquel proyecto? ¿Por qué decidió comenzar nuevamente? ¿Qué sabe hacer hoy que no sabía hacer entonces?

La tecnología hizo su trabajo.

Encontró el vacío.

La persona hizo el suyo.

Contó la historia.

No se trata de humanos contra máquinas

Plantear esta discusión como una competencia entre personas e inteligencia artificial sería demasiado sencillo.

No creo que ese sea el conflicto.

La inteligencia artificial posee capacidades que nosotros nunca tendremos.

Puede procesar millones de elementos. Recordar cantidades extraordinarias de información. Encontrar relaciones invisibles a simple vista.

Trabajar durante segundos sobre volúmenes que requerirían meses de análisis humano.

Nosotros aportamos otras cosas.

Contexto. Responsabilidad. Experiencia. Ética.

Capacidad para escuchar una explicación inesperada y modificar nuestra opinión.

No necesitamos elegir entre ambas inteligencias.

Necesitamos aprender a colocar cada una donde aporta mayor valor.

La dirección correcta

La inteligencia artificial puede transformar profundamente la manera en que comprendemos el talento.

Puede ayudarnos a descubrir capacidades que permanecían invisibles. Puede organizar evidencia dispersa. Puede preservar conocimiento. Puede señalar contradicciones. Puede mostrarnos incertidumbres.

Puede permitir que una persona llegue a una decisión con una comprensión mucho más amplia de la que habría tenido trabajando sola.

Ese futuro me parece mucho más interesante que construir una máquina que simplemente diga sí o no.

Porque la innovación no debería medirse por la cantidad de decisiones humanas que conseguimos eliminar.

Debería medirse también por la calidad de las decisiones que conseguimos mejorar.

Quizá hemos estado mirando la inteligencia artificial desde la dirección equivocada.

Su mayor contribución al talento humano puede no consistir en decidir por nosotros.

Puede consistir en algo bastante más difícil:

ayudarnos a comprender mejor aquello sobre lo que todavía somos nosotros quienes debemos decidir.

Nota

Tercera entrega de : Talento humano, tecnología e IA . Colección I. Ensayo 3.
Ensayo 2 de la serie