Cuando el jefe se esconde detrás del algoritmo

Y entonces, nada impedirá que las organizaciones responsabilicen de las decisiones y actividades de gestión empresarial a los algoritmos que, como procesos informáticos, escapan a la ira del trabajador, ignoran la frustración humana y permiten diluir nuestras demandas como trabajadoras. Se dirá que nada tan objetivo e imparcial como aplicar inteligencia artificial en la toma de decisiones. Y la medida aplicada, laboral u otra, será todo lo justa que quien ha diseñado, programado y aplicado el algoritmo desee.

Porque la tecnología no es neutra, tiene el sentido y la percepción de quien la diseña y entrena, y sus resultados responden a criterios y valores que el ser humano ha proyectado. Sus deducciones podrán ser objetivas, tal vez demasiado, y no estarán exentas de sesgos pero carecerán de lo primordial: la valoración de las circunstancias y el contexto personal, social y familiar que rodea y determina la vida y las actuaciones de los seres humanos a los que el algoritmo se aplica.

Quién merece el ascenso, quién obtendrá una mejora salarial, qué trabajador logra los horarios más favorables serán decisiones que si el Derecho no interviene, pronto quedarán exclusivamente en manos de los algoritmos.

La mirada ética centra sus demandas en la necesidad de transparencia y explicabilidad del algoritmo, de respeto a la privacidad y eliminación de discriminación. Y este debate ético, alimentado durante años, no termina de cristalizar en una respuesta normativa que refuerce jurídicamente estos principios y disponga los instrumentos legales que aseguren el respeto a los derechos humanos en la utilización de inteligencia artificial.

El legislador, nacional y europeo, va avanzando a pequeños pasos, mínimos éxitos jurídicos, que marcan el camino legal. Así, por ejemplo, en el ámbito nacional, el Estatuto de los Trabajadores reconoce desde 2021 que la empresa debe informar de los «parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo»; y desde 2022 apunta la Ley integral para la igualdad de trato que «las empresas promoverán el uso de una inteligencia artificial ética, confiable y respetuosa con los derechos fundamentales».

En Europa seguimos esperando una ley que ordene y guíe la utilización de inteligencia artificial, y defina los mecanismos de licitud en la aplicación de sistemas algorítmicos. Parece difícil justificar en este tiempo la ausencia de un marco normativo; tal vez, ayuden a explicar este abandono el temor a frenar el liderazgo europeo en la inteligencia artificial y la dificultad jurídica de sostener el equilibrio de fuerzas que concilie el avance de esta tecnología con los derechos humanos.

Afortunadamente, este retraso no ha impedido a los jueces en La Haya, Bolonia o España sancionar la aplicación de algoritmos ocultos en algunas decisiones injustas, socialmente discriminatorias o laboralmente inaceptables. Frank, SyRI o Watson son nombres que probablemente no les digan nada; sin embargo, bajo estos alías se esconden algunos de los más célebres algoritmos. Curiosa práctica la de asignar nombre a estos sistemas, en un claro intento por humanizar y dotar de personalidad a estos procesos informáticos. ¿Y ello por qué? ¿Para qué? No olvidemos la aspiración del Parlamento Europeo de conferir personalidad «cibernética» a esos sistemas, y con ello, reconocer su capacidad para ser titulares de derechos, y cómo no, de obligaciones.

Los Estados avanzan en sus estrategias sobre inteligencia artificial, y entretanto los ciudadanos anhelamos que el Derecho fuerce la auditabilidad de los algoritmos, obligue a su registro y determine la responsabilidad, civil o penal, cuando su aplicación ocasione daños y perjuicios. También, como ciudadanos, confiamos en que la tecnología mantendrá al ser humano en el centro de su desarrollo, y el algoritmo será capaz de favorecer la inclusión, de anticiparse y auxiliar las necesidades humanas y, en definitiva, de contribuir a una sociedad más justa e igualitaria.