Lunes, 16 de Noviembre de 2026
Diario de Economía de la Región de Murcia
OPINIÓNEl algoritmo no irá a dar explicaciones
  • Buscar
Lucio Fernández

El algoritmo no irá a dar explicaciones

 

Imaginemos que una empresa decide utilizar inteligencia artificial para identificar a los empleados con mayor potencial de desarrollo. El sistema analiza evaluaciones de desempeño, productividad, formación, experiencia y otros indicadores. En pocos segundos genera una clasificación que, hasta hace poco, habría requerido varias reuniones y muchas horas de trabajo.

 

El director de Recursos Humanos recibe los resultados, comprueba que parecen razonables y aprueba las recomendaciones. Unos meses después descubre que varios profesionales con un excelente desempeño han quedado fuera de las oportunidades de promoción.

 

Cuando uno de ellos pregunta por qué no ha sido seleccionado, recibe una respuesta tan moderna como preocupante: "Es lo que ha determinado el algoritmo".

 

¿De verdad hemos avanzado tanto tecnológicamente para terminar dando explicaciones tan pobres?

 

La inteligencia artificial está transformando nuestra capacidad para analizar información y tomar decisiones. Su potencial es extraordinario. Nos permite identificar patrones difíciles de detectar, anticipar determinados riesgos y dedicar menos tiempo a tareas que aportan poco valor. Sería absurdo renunciar a estas posibilidades por miedo a sus consecuencias.

 

Sin embargo, creo que estamos prestando demasiada atención a lo que la tecnología puede hacer y bastante menos a lo que nosotros debemos seguir haciendo.

 

[Img #14852]

 

Cuanto mayor sea la capacidad de una máquina para recomendar decisiones, mayor debería ser nuestra exigencia sobre quienes tienen la responsabilidad de adoptarlas.

 

Y tengo la impresión de que, en algunas organizaciones, estamos avanzando justamente en la dirección contraria.

 

Una de las tareas más difíciles de un directivo consiste en decidir cuando la información es incompleta, existen intereses contrapuestos y cualquier alternativa tiene consecuencias.

 

La inteligencia artificial puede ayudarnos muchísimo en ese proceso. Pero también introduce una tentación que conviene reconocer: aceptar una recomendación porque viene respaldada por un sistema aparentemente objetivo.

 

Los números transmiten seguridad. Los gráficos generan confianza. Y cuando una herramienta es capaz de procesar miles de datos en segundos, resulta fácil atribuirle una autoridad que quizá no merece.

 

La OCDE, en su estudio How Widespread Is Algorithmic Management in Workplaces?, publicado en 2025, analiza la utilización de herramientas de gestión algorítmica en las empresas. Entre las ventajas percibidas por los directivos aparece la mejora de la calidad de las decisiones. Pero también se identifican preocupaciones relacionadas con la transparencia, la explicabilidad y la responsabilidad.

 

Esta combinación debería hacernos reflexionar.

 

Una decisión puede estar basada en miles de datos y seguir siendo equivocada. Puede ser estadísticamente consistente y resultar injusta para una persona concreta. Incluso puede mejorar un indicador empresarial mientras perjudica otros aspectos que la organización no está midiendo.

 

Pensemos en una empresa industrial que utiliza inteligencia artificial para organizar sus turnos de producción. El sistema encuentra una distribución que reduce costes y mejora el aprovechamiento de las máquinas. Desde una perspectiva operativa, la propuesta parece impecable.

 

Sin embargo, imaginemos que esa distribución provoca cambios constantes de horario, dificulta la conciliación y aumenta la fatiga de determinados trabajadores.

 

¿Ha optimizado realmente la organización?

 

Dependerá de qué variables haya considerado y de cuáles haya dejado fuera. También del horizonte temporal utilizado para calcular los beneficios.

 

Una reducción inmediata del coste laboral puede terminar generando problemas de absentismo, rotación o calidad. Y aunque estas consecuencias no sean inevitables, deberían formar parte del análisis antes de aprobar la decisión.

 

El algoritmo puede optimizar aquello que le pedimos que optimice. La responsabilidad de decidir qué merece ser optimizado sigue siendo nuestra.

 

Hay algo que me preocupa especialmente: la posibilidad de que la inteligencia artificial facilite una nueva forma de eludir responsabilidades.

 

Hasta ahora, algunos directivos justificaban sus decisiones recurriendo a instrucciones superiores, procedimientos internos o criterios presupuestarios. Con la IA aparece un argumento adicional, aparentemente más sofisticado: "Lo recomienda el sistema".

 

Y aquí surge una pregunta incómoda: ¿cuántos responsables están preparados para explicar los criterios de las herramientas que utilizan?

 

No estoy planteando que un director de Personas deba saber programar un modelo de inteligencia artificial. Sería tan absurdo como exigirle que diseñara el software de nóminas. Pero sí debe comprender qué información utiliza, qué limitaciones presenta, qué riesgos puede introducir y en qué circunstancias resulta necesario cuestionar sus recomendaciones.

 

Especialmente cuando hablamos de decisiones que afectan directamente a las personas.

 

Seleccionar candidatos, evaluar el rendimiento, determinar oportunidades de promoción o identificar trabajadores con riesgo de abandonar la empresa son actividades en las que un error puede tener consecuencias importantes.

 

Además, los sistemas aprenden de información que no siempre representa adecuadamente la realidad. Si una organización ha promocionado históricamente a determinados perfiles, un modelo entrenado con esos datos podría reproducir las mismas preferencias, aunque nadie haya programado expresamente esa discriminación.

 

La tecnología puede heredar nuestros errores y reproducirlos con una eficacia extraordinaria.

 

Por eso considero imprescindible que las organizaciones establezcan mecanismos de supervisión, permitan cuestionar los resultados y garanticen que las decisiones relevantes puedan explicarse de forma comprensible.

 

La regulación europea de inteligencia artificial avanza precisamente en esa dirección al establecer obligaciones específicas para determinados sistemas de alto riesgo, entre ellos los utilizados en ámbitos laborales como la selección y la gestión de trabajadores.

 

Pero sería un error limitar esta cuestión al cumplimiento normativo.

 

Una empresa puede cumplir formalmente sus obligaciones y mantener prácticas de dirección profundamente cuestionables.

 

La ética empresarial empieza a demostrarse cuando alguien tiene que tomar una decisión difícil y acepta responder por ella.

 

Existe otra consecuencia que merece nuestra atención.

 

Cuando una persona percibe que las decisiones que afectan a su futuro profesional proceden de un sistema cuyos criterios desconoce y que nadie puede explicarle, es razonable que aparezcan dudas sobre la justicia del proceso.

 

Y la confianza constituye un elemento fundamental para el funcionamiento de cualquier equipo.

 

Podemos invertir importantes cantidades de dinero en tecnología para mejorar la eficiencia y deteriorar, al mismo tiempo, la relación entre los empleados y sus responsables si gestionamos mal su aplicación.

 

Esto no significa que debamos desconfiar sistemáticamente de los algoritmos. Las decisiones humanas también están condicionadas por prejuicios, intereses personales y errores de apreciación. De hecho, un sistema bien diseñado puede ayudarnos a identificar inconsistencias y reducir determinadas arbitrariedades.

 

Precisamente por eso defiendo su utilización.

 

Pero debemos evitar que la confianza en la tecnología sustituya al pensamiento crítico.

 

Un buen directivo debería ser capaz de responder a varias preguntas antes de adoptar una recomendación automatizada: ¿qué problema estamos intentando resolver?, ¿qué información se ha utilizado?, ¿qué consecuencias puede tener para las personas afectadas?, ¿qué haríamos si el resultado fuera incorrecto?

 

Y añadiría una más, probablemente la más importante: ¿estaría dispuesto a defender personalmente esta decisión delante de quienes van a sufrir sus consecuencias?

 

Si la respuesta es negativa, quizá todavía no estemos preparados para ejecutarla.

 

Durante años hemos asociado el liderazgo a la capacidad de analizar información, resolver problemas y tomar decisiones con rapidez. La inteligencia artificial está modificando el valor relativo de algunas de esas habilidades.

 

Cuando cualquier directivo puede acceder a análisis complejos en cuestión de segundos, disponer de información deja de ser una ventaja tan exclusiva.

 

La diferencia estará cada vez más en la capacidad para interpretar, cuestionar y actuar con criterio.

 

También en algo que ninguna organización debería delegar: la responsabilidad sobre las consecuencias de sus decisiones.

 

Creo que esta transformación puede ser una excelente oportunidad para mejorar el liderazgo. La tecnología puede liberarnos de una parte considerable del trabajo administrativo y permitirnos dedicar más tiempo a escuchar, comprender los problemas reales de nuestros equipos y anticipar situaciones que los indicadores no siempre reflejan.

 

Pero eso exige una decisión consciente sobre cómo queremos utilizar el tiempo que ganamos.

 

Porque también podríamos emplearlo para producir más informes, aumentar el número de controles y tomar decisiones todavía más deprisa, sin detenernos a valorar sus consecuencias.

 

La tecnología amplía nuestras posibilidades. El criterio con el que la utilizamos determina el resultado.

 

En mi forma de entender el liderazgo coherente, existe una obligación que permanece intacta con independencia de los avances tecnológicos: quien tiene autoridad para decidir debe estar dispuesto a responder por sus decisiones.

 

Y esa responsabilidad incluye reconocer errores, rectificar cuando sea necesario y escuchar a quienes pueden resultar perjudicados.

 

Me gustaría que, dentro de unos años, cuando un empleado pregunte por qué ha sido descartado para una promoción, su responsable pudiera explicarle los criterios utilizados, reconocer las limitaciones del análisis y mantener una conversación honesta sobre su desarrollo profesional.

 

Aunque detrás de la recomendación haya trabajado el sistema de inteligencia artificial más avanzado del mercado.

 

Porque podemos delegar cálculos, análisis y numerosas tareas. Incluso podemos automatizar parte de nuestras decisiones.

 

Lo que nunca deberíamos automatizar es nuestra conciencia de las consecuencias.

 

Y conviene recordarlo antes de pulsar el botón de aceptar: cuando una decisión salga mal, el algoritmo no irá a dar explicaciones.

 

Linkedin: Lucio Fernández

Con tu cuenta registrada

Escribe tu correo y te enviaremos un enlace para que escribas una nueva contraseña.