Impacto de la inteligencia artificial en las relaciones laborales*
The impact of Artificial Intelligence on employment relationships
Laura Daniela Díaz Reyes**
Sebastián Morales Salazar***
* Este texto deriva de una ponencia presentada en el "X encuentro de Semilleros de Investigación en Derecho del Trabajo y la Seguridad Social" organizado por el Colegio de Abogados del Trabajo de Colombia. Recibido el 14 de noviembre de 2023. Aceptado el 6 de diciembre de 2023.
DOI: https://doi.org/10.18601/30283574.v01n01.09
** Estudiante de Derecho y monitora del Centro de Estudios en Derecho del Trabajo y de la Seguridadm Social (CESDET) de la Universidad Externado de Colombia. Universidad Externado de Colombia.
ORCID: https://orcid.org/0009-0009-8743-3717
*** Estudiante de Derecho y monitor del Centro de Estudios en Derecho del Trabajo y de la Seguridad Social (CESDET) de la Universidad Externado de Colombia. Universidad Externado de Colombia.
ORCID: https://orcid.org/0009-0003-7776-5175
Resumen
La integración de tecnología avanzada y sistemas inteligentes en la gestión y desarrollo empresarial se ha convertido en una tendencia clave para mejorar la eficiencia y la productividad. Sin embargo, la adopción de estos sistemas sin una regulación adecuada representa un riesgo potencial para los derechos de los trabajadores. Por lo tanto, es crucial consultar estudios técnicos y aprender de las experiencias normativas internacionales para desarrollar una regulación que equilibre la innovación tecnológica con la protección de los derechos laborales y el equilibrio empresarial. Este enfoque requiere la inclusión de recomendaciones prácticas para que el Estado, los empleadores y los trabajadores colaboren en la formulación e implementación de regulaciones nacionales adecuadas para estos avances tecnológicos en la gestión empresarial. Este artículo analiza la influencia de la inteligencia artificial y los algoritmos en la gestión empresarial. En particular, examina las decisiones automatizadas que afectan o benefician al trabajador dentro del vínculo laboral.
Palabras clave: Inteligencia artificial, relaciones laborales, gestión empresarial, decisiones automatizadas.
Abstract
The integration of advanced technology and intelligent systems in business management and development has become a key trend to improve efficiency and productivity. However, the adoption of these systems without adequate regulation represents a potential risk to workers' rights. Therefore, it is crucial to consult technical studies and learn from international regulatory experiences to develop regulation that balances technological innovation with the protection of labor rights and business balance. This approach requires the inclusion of practical recommendations for the state, employers and workers to collaborate in the formulation and implementation of appropriate national regulations for these technological advances in business management. This article analyzes the influence of artificial intelligence and algorithms in business management. In particular, it examines the automated decisions that affect or benefit the worker within the labor relationship.
Keywords: Artificial intelligence, labor relations, corporate governance, corporate management, automated decisions.
1. Introducción
El siglo XXI se ha constituido como una etapa de la historia en la que la tecnología ha tomado predominancia en cada uno de los aspectos de las personas, expandiéndose incluso al ámbito de las relaciones laborales. Una de las principales aplicaciones de los avances tecnológicos implica el uso de inteligencia artificial (IA) para el análisis de datos, a fin de tomar decisiones automatizadas relacionadas con la promoción, retribución, control y sanción de los trabajadores, basadas en su desempeño.
La aplicación de IA no es una práctica ajena para las empresas. Por el contrario, cada día su implementación está más presente. Héctor Farrés lo ejemplifica por medio del caso presentado por la compañía global de videojuegos Xsolla que, haciendo uso de sistemas automatizados, determinó cuáles eran los trabajadores más eficientes y quiénes eran considerados improductivos. Este aviso permitió que el CEO de la compañía despidiera al 30 % de sus empleados1.
Amazon es otra empresa que también ha tomado decisiones basadas en el uso de IA. Un caso relevante dentro de esta compañía es el de Normandin, veterano de 93 años del ejército estadounidense, quien se desempeñaba como repartidor. Este trabajador recibió un correo electrónico en el cual se le notificaba la terminación de su contrato, pues el algoritmo determinó que no era apto para el cargo. Ante esta situación, Normandin quedó sin posibilidad de comparecer en un proceso, defenderse, controvertir o tener claridad de la decisión adoptada por la compañía2.
La aplicación de IA en las relaciones laborales puede ser beneficiosa al hacer más eficientes los procesos de recursos humanos. Sin embargo, también puede implicar una serie de riesgos que, de no ser regulados o de no establecerse una serie de límites a su implementación, tienen la potencialidad de vulnerar los derechos fundamentales de los trabajadores e incidir en el poder disciplinante del empleador.
La incertidumbre que implica el uso de IA en la gestión automatizada del personal humano de una compañía presenta un desafío para la forma tradicional en que se garantizan los derechos fundamentales de los trabajadores. Esto se hace evidente ante la dificultad de acceder a la información de los procesos automatizados en los que los empleados participan.
En consecuencia, derechos como el debido proceso, la contradicción y el derecho a la defensa se ven vulnerados y, de este modo, surge la necesidad de tener nuevas garantías constitucionales y legales que permitan transparencia. Esto resulta relevante en el momento de imponer sanciones, modificar sus condiciones prestacionales, influir en posibles ascensos laborales e incluso terminar sus vínculos contractuales.
En este orden de ideas, en este artículo se analiza la influencia de la IA y los algoritmos en la gestión empresarial. En particular, se examina lo relacionado con las decisiones automatizadas que afectan o benefician al trabajador dentro del vínculo laboral.
Este texto presenta algunas aproximaciones teóricas a los conceptos y las funciones de la IA y los algoritmos en la gestión empresarial laboral; el análisis de los desafíos jurídicos y éticos que surgen al emplear los sistemas inteligentes en las relaciones laborales, y una comparación entre la regulación de la IA y los algoritmos en contextos laborales de países europeos como España y las iniciativas legislativas de Colombia. Por último, se incluyen reflexiones y recomendaciones para una regulación e implementación efectiva y ética, que regulen y orienten la toma de decisiones y predicciones automatizadas que incidan en el vínculo laboral del trabajador.
2. Metodología
Para el desarrollo de este artículo se realizó una investigación teórica3. Para tal fin se analizaron diversas fuentes, con el objeto de comprender la implementación de la IA en las relaciones laborales. En el proceso, se recopiló la doctrina existente sobre la materia para comprender su conceptualización y funcionamiento, mediante un ejercicio de análisis y síntesis. Además, se analizó la jurisprudencia de la Corte Constitucional, que fuera útil y aplicable para el objeto de estudio.
Por otra parte, se adelantó un análisis sistemático y comparativo de la regulación vigente en Colombia y Europa con el propósito de enriquecer y ampliar la normativa colombiana en inteligencia artificial. Con ello fue posible identificar algunos desafíos que las empresas podrían enfrentar al implementar la IA en las relaciones laborales.
Finalmente, se recopilaron documentos como los Conpes 3975 y 4023, así como el Real Decreto-ley 9 de 2021. Estos documentos sirvieron de base para plantear una serie de reflexiones y recomendaciones, con el propósito de establecer un marco legal aplicable a las demandas y desafíos que surgen en el ámbito laboral al implementar la IA.
3. Introducción al concepto de la IA y los algoritmos laborales
Las nuevas tecnologías y la IA son un tema de actualidad internacional. Por tanto, es posible encontrar cientos de descripciones teóricas en diversos libros, artículos y demás trabajos académicos. Entre estas, una de las definiciones más completas que se pueden encontrar indica que
la inteligencia artificial es considerada, una cadena de tecnologías, que se utilizan con el propósito de actuar como seres humanos, es decir, una serie de sistemas artificiales que permiten el desarrollo de labores o actividades profesionales mediante máquinas que piensan y funcionan como personas4.
De esta definición son más las dudas que las respuestas que se vislumbran, dada la amplitud del concepto mismo y la infinidad de ramas, tareas y subsistemas que se pueden desarrollar. Es por esto que surge la inquietud de cómo estas se entrelazan con el derecho.
La concepción pura y tradicional en el campo del derecho sostiene que el razonamiento jurídico es una actividad que debe ser realizada solo por humanos calificados en las ciencias jurídicas. Por lo tanto, hablar de un sistema-máquina que busque automatizar explicaciones legales complejas iría en contravía de esta concepción clásica. No obstante, la realidad parece probar lo contrario.
En la actualidad, a las diversas áreas del derecho se les ha incorporado una nueva especialidad que combina la informática con lo jurídico. Así lo sostiene la doctrina al indicar que "la inteligencia artificial es una rama de la informática jurídica que trata de realizar con máquinas, tareas que puede realizar el ser humano aplicando cualquier tipo de razonamiento"5. Esto permite que se prescinda del apoyo mínimo de un operador legal y se acuda a una máquina que es capaz de automatizar, por medio de algoritmos, razonamientos que requieren de cierta formación jurídica.
Lo anterior genera una nueva inquietud respecto a qué se entiende por algoritmo. El acercamiento teórico más preciso indica que este "es el procedimiento para encontrar la solución a un problema mediante la reducción de este a un conjunto de reglas"6. En ese sentido, se entiende que los algoritmos son instrucciones que incluyen una especificación de las acciones que debe ejecutar el sistema inteligente para resolver la situación problemática propuesta7.
A modo ilustrativo y para acudir al símil, la IA es un cerebro y el algoritmo son las redes neuronales necesarias para su funcionamiento. En ese orden de ideas, el sistema inteligente está programado por medio de algoritmos que le dan la estructura y secuencia lógica, mediante la cual la máquina va a arrojar la solución a los problemas que se le plantean.
Ahora bien, ¿el funcionamiento de la máquina programada con los algoritmos se asemeja al raciocinio propio de los humanos? La respuesta tiende a ser negativa y se explica a continuación.
Es claro que el ser humano se distingue de las demás especies por su capacidad de pensar y sobre todo de razonar. Lo anterior presupone una serie de interacciones neuronales que a la fecha ningún programador ha conseguido siquiera imitar mediante la configuración de sistemas inteligentes. Estos últimos, en su estado más avanzado, han logrado la toma de decisiones basadas en los números que se encuentran en un algoritmo. No obstante, a pesar de analizar todas las variables extraídas de la matemática, no existe en la actualidad la posibilidad de sostener que este proceso se equipare a razonar, por cuanto deja de lado lo ecuánime y subjetivo propio del pensamiento humano.
Ahora bien, el hecho de que la IA esté imposibilitada de imitar el proceso de raciocinio humano no es argumento válido para que deba ser descartada su aplicación en el derecho. Por el contrario, esta se presenta como una herramienta que complementa el ejercicio de la profesión jurídica.
4. Implementación de la IA y algoritmos laborales en la gestión legal de los trabajadores
En sintonía con lo expuesto, resulta necesario abordar la aplicación de sistemas tecnológicos avanzados en el ámbito del derecho laboral, con especial atención en la gestión empresarial y haciendo hincapié en las decisiones que pueden afectar de manera positiva o negativa la relación laboral que, en muchas ocasiones, resultan en procesos disciplinarios y sancionatorios.
Es sabido que la relación laboral, en su acepción tradicional, identifica dos sujetos esenciales: el trabajador y el empleador. Ambos están mediados por una contraprestación económica que recibe el primero, a cambio de prestar un servicio para el segundo8. Sin embargo, la irrupción de la IA en la toma de decisiones autónomas e independientes, por parte del empleador, impulsa a que en la clásica relación laboral se incorpore un tercer sujeto: el sistema inteligente.
Lo anterior representa un cambio que, de ser aceptado, conllevará la modificación en la forma como hoy se analiza la subordinación dentro de la relación laboral. Este enfoque puede tener un impacto en las dinámicas laborales y requerirá, por tanto, de un análisis de su aplicación, como se mencionará más adelante.
En lo que respecta a la gestión empresarial, la IA tiene la posibilidad de asistir al empleador en tres facetas de contenido laboral:
En este artículo no se ahonda en la primera fase; en cambio, se desarrollan con más detalle las otras dos. Dicho en otras palabras, esta investigación solo analiza la implementación de la IA en la ejecución o desarrollo y en la terminación del contrato de trabajo.
Frente a las posibles modificaciones automatizadas en la prestación personal de la labor que realiza el trabajador, estas se materializan en variaciones de la cantidad de trabajo, bonificaciones, asignación de tareas, índices de productividad, fijación de horarios y promociones. Respecto del poder disciplinante y sancionatorio que le asiste al empleador, por medio de recursos humanos en los procesos de gestión empresarial, se identifican situaciones que conllevan la imposición de sanciones y que, en casos de gravedad, obligan a recurrir al despido del empleado, que es la sanción de ultima ratio.
Con relación a los SEJ, es importante precisar que, como lo afirma la doctrina, estos son "… la principal aplicación de la inteligencia artificial al campo del derecho…"9 y, en materia laboral, pueden plantear posibles soluciones a determinados asuntos jurídicos de la relación trabajador-empleador aplicando el conocimiento experto en la materia, y fundamentar su decisión.
Por su parte, los SiES tienen un doble razonamiento que incluye la aplicación del derecho sustancial y del derecho procedimental en actuaciones judiciales. A pesar de que estos nacieron para asistir en asuntos de derecho de familia, su implementación se puede ampliar al derecho laboral con un cambio en la matriz de información legal en la cual se basa, lo que hace viable su implementación para la gestión empresarial de recursos humanos.
Este marco técnico permite afirmar que al empleador le es viable el uso de SEJ en el ámbito de recursos humanos. Esto se logra mediante un programador que configure el algoritmo para que los macrodatos -también conocidos como datos masivos- que reposan en los servidores de la compañía, relacionados con la productividad, los horarios, los tiempos de realización de labores, las incapacidades y demás asuntos, se conecten con una serie de decisiones e implicaciones que determine el empleador, ante la concurrencia de ciertos factores.
Para que esto pueda darse es importante considerar dos aspectos. El primero, que toda decisión se enmarque en la protección de los derechos del trabajador, según el marco jurídico aplicable. El segundo, la utilización de factores matemáticos con énfasis administrativos que incidan en la productividad empresarial.
En cuanto a los SiES, su implementación resulta viable, en materia laboral, mediante la objetivación y automatización del proceso disciplinario, que, como ya se ha expresado en la jurisprudencia de la Corte Constitucional colombiana, debe respetar el derecho al debido proceso y a la defensa, consagrados en el artículo 29 de la carta política. También, se deben garantizar de manera efectiva los derechos a la contradicción y controversia de las pruebas, la presunción de inocencia, el derecho de una persona a conocer las actuaciones en las que se encuentra inmersa, el principio de legalidad, el principio de imparcialidad, la prohibición de non bis in idem y el principio laboral de in dubio pro-operario. Todo lo anterior, aunado a la observancia de siete etapas procesales para que el proceso se encuentre revestido de legalidad10.
Esto se traduce en que el programador de un SiES, que ha creado un sistema para adelantar un proceso judicial -en este caso, sancionatorio-, debe incluir dentro de su matriz algorítmica las siete etapas que refiere la jurisprudencia constitucional para la protección de todos los derechos y garantías que le asisten al trabajador, so pena de nulidad de la actuación.
El debido proceso, por su parte, permite sostener que este procedimiento sancionatorio desarrollado a través de IA debe ser de naturaleza híbrida, por cuanto se requiere de la participación humana, en este caso del trabajador, para que allegue su declaración, los testimonios y las pruebas que pretenda hacer valer en su defensa. Posteriormente, la máquina arrojará una serie de posibles decisiones que puede adoptar el empleador, aclarando que él y su equipo de recursos humanos se apartan de la etapa de valoración probatoria y basarán su decisión en una recomendación que surge a partir de la programación de algoritmos.
Este supuesto confirma la consideración inicial de este análisis, respecto a la vulneración de derechos de los trabajadores, dado que el crecimiento exponencial de la IA conduce a cuestionar las implicaciones éticas y jurídicas de fundamentar los procesos disciplinarios y sancionatorios en algoritmos que decidirán, de fondo, sobre la esfera laboral del trabajador. Esto, al emitir decisiones que no solo vulneran derechos existentes, sino nuevos derechos de los cuales no se tenía registro y que se han desarrollado en otras legislaciones, como se explicará en el tercer apartado.
5. Problemas jurídicos y éticos en la implementación de la IA al supervisar, disciplinar y sancionar al trabajador
La aplicación de IA en las relaciones laborales ha generado un amplio abanico de oportunidades para mejorar la productividad de las empresas en la gestión de sus procesos. Si bien la innovación tecnológica representa un gran avance en el marco corporativo, esta no se encuentra exenta de posibles controversias jurídicas y éticas al implementar sistemas automatizados para gestionar los conflictos relacionados con el comportamiento o el desempeño del trabajador frente a la compañía.
Según Goñi11, la IA es relevante por cuanto permite predecir comportamientos futuros, lo que posibilita tomar decisiones y tener un mayor ahorro en la gestión humana. Además, uno de los aspectos en los que la IA ha mejorado la gestión empresarial es la participación en labores propias de recursos humanos, supervisión del rendimiento o microgerencia12.
A primera vista, esto puede resultar muy llamativo para las empresas, ya que su uso influye en la generación de riqueza, pero puede resultar problemático si pasa por alto los derechos de los trabajadores. Ante tal situación, se considera que la influencia de la IA en las relaciones laborales genera ciertos riesgos en los derechos e intereses de los trabajadores. Estos pueden ser la violación a la privacidad de sus datos, su estabilidad en el empleo y su libre desarrollo de la personalidad al estar en supervisión y vigilancia constante en el cumplimiento del horario de trabajo13.
En el contexto laboral es común que las empresas recurran a diversos sistemas tecnológicos para evaluar y analizar la productividad, el desempeño de los trabajadores y el estado de ánimo de estos. Mediante los resultados generados por este método, el empleador o incluso la propia IA pueden tomar decisiones que afecten la relación laboral y que pueden trascender, pasando de una advertencia o el inicio de un proceso disciplinario, a la aplicación de una sanción o incluso al despido del trabajador.
Estos sistemas se adaptan a cada trabajador, lo que permite establecer cuál es el máximo que estos pueden dar y hacer un seguimiento a sus comportamientos y actividades. Sin embargo, lo problemático es que, al ser un sistema automatizado, este no prevé la existencia de circunstancias personales que alteran su rendimiento y que, por lo tanto, la IA no tendrá en cuenta al tomar una decisión con respecto a la relación con el trabajador, dada su imposibilidad de razonar como lo hace un ser humano14.
Los trabajadores también se enfrentan a la vigilancia del rendimiento, la intensificación del trabajo y la falta de autonomía en el desarrollo de sus funciones15. Esto se manifiesta por medio de sensores que miden todas las áreas de desempeño del empleado, para evaluar su comportamiento.
Así lo analiza un destacado diario estadounidense que presentó algunas de las formas en las que actuaba la tecnología en los trabajadores norteamericanos. Al respecto, dijo lo siguiente:
Se controla el movimiento de los ojos de los camioneros, se documenta la velocidad a la que los trabajadores de los restaurantes de comida rápida preparan las comidas, se evalúa el estado emocional de los clientes mientras hablan por teléfono con el personal de los centros de atención telefónica, se siguen los movimientos de las enfermeras mediante etiquetas de identificación por radiofrecuencia y se hacen capturas de pantalla automáticas de los ordenadores de los redactores16.
Un caso paradigmático que ejemplifica cómo se presentan estas situaciones se encuentra en la empresa Amazon, que empleó IA para supervisar a sus trabajadores por medio de cámaras y sensores de inventario. Esto con el fin de evaluar su rendimiento, en relación con los estándares de tiempo asignados por el algoritmo, lo cual permitió tener un mayor control en las actividades de los trabajadores.
Además, Amazon también ha incorporado estos sistemas en los conductores, quienes se han visto perjudicados por las métricas impuestas y se han visto obligados a realizar maniobras que ponen en riesgo su vida, tales como no usar el cinturón de seguridad, porque eso ralentiza su trabajo17. Al implementar este tipo de métodos, es claro que los trabajadores se enfrentan a una presión considerable bajo la cual se ven compelidos a suprimir su personalidad, alterar su velocidad de trabajo y no descansar, con el fin de no obtener una baja calificación por la IA.
Lo preocupante de esto es que los trabajadores pueden ser percibidos como simples elementos que trabajan al servicio de una máquina que los evalúa. Además, las decisiones implementadas por el sistema no permiten que el trabajador pueda solicitar explicaciones o aclaraciones al respecto; es decir, tampoco se garantiza un efectivo acceso a la información.
Esto conduce a que se cuestione el desarrollo del algoritmo y las bases que se utilizan para su construcción. Según la forma en que se ejecuten estos sistemas, se puede dar lugar a sesgos discriminatorios y, como consecuencia de esto, existe el riesgo de que no haya transparencia en las decisiones adoptadas, lo que podría poner en riesgo los derechos fundamentales de los trabajadores.
Como señala Rejmaniak18, los sesgos se pueden presentar por una variedad de factores. Estos pueden ir desde una incorrecta implementación de los datos para la toma de decisiones o predicciones, hasta alguna inconsistencia en la construcción del sistema. Pero los sesgos no solo están presentes en el desarrollo de este sistema; también pueden estarlo en la incorrecta interpretación de la decisión o predicción adoptada.
Aunque es complejo determinar reglas generales para reducir los sesgos, se pueden adoptar mecanismos de prevención en todas las fases de desarrollo del sistema, a fin de restringir la discriminación en las decisiones adoptadas. Una forma correcta de limitarlo puede ser mediante métricas que se basen en la proporcionalidad de los derechos que están en juego. En ese sentido, es necesaria la intervención de diferentes colaboradores expertos, para que la IA presente soluciones apropiadas a los problemas que se susciten en la relación laboral19.
Es claro que la implementación de la IA en las relaciones laborales puede acarrear muchos problemas éticos y, por tanto, jurídicos. Al no existir lineamientos legales para el desarrollo de estos sistemas, los empleadores pueden disponer de esta tecnología de manera arbitraria, indiscriminada y sin transparencia en las decisiones o predicciones que obtengan de su uso. Además, su implementación no cuenta, por el momento, con ninguna auditoría de una entidad competente, como lo sería el Ministerio de Trabajo.
Por otra parte, la ausencia de regulación impide que haya una entidad competente, como el Ministerio de Trabajo, para poder adelantar un control frente a la implementación de la IA en las relaciones laborales. En este contexto, es claro que derechos como la estabilidad en el empleo, el debido proceso, el derecho de contradicción y controversia de las pruebas, se pueden ver vulnerados ante la imposibilidad de objetar el razonamiento de un sistema de software.
Tal situación ha cobrado relevancia a nivel internacional, por lo cual diferentes organismos y funcionarios de orden internacional se han manifestado. Al respecto, la alta comisionada para los derechos humanos ante la ONU, Michelle Bachelet, se pronunció en contra del uso de programas de IA que contravengan la normativa internacional de los derechos humanos20. Así mismo, destacó que los sistemas avanzados de razonamiento pueden tener efectos nocivos cuando se emplean sin prestar la debida atención a su capacidad de vulnerar los derechos humanos.
De igual manera, la Oficina del Alto Comisionado de la ONU para los Derechos Humanos concluyó en un informe que la IA puede agravar las intrusiones en la privacidad, por medio de la excesiva recopilación de datos, además de afectar el derecho a la intimidad, los derechos relativos a la salud, la educación, la libertad de movimiento, la libertad de reunión y asociación pacífica, como también la libertad de expresión21.
En este sentido, recalcó que la implementación de la IA debe tener un enfoque en los derechos humanos y en el seguimiento de una serie de principios básicos como la igualdad y no discriminación, la participación y la rendición de cuentas, legalidad, legitimidad, necesidad y proporcionalidad. Lo anterior, con el objetivo de garantizar que quienes sufran violaciones a sus derechos puedan tener un acceso efectivo a la justicia22.
En resumen, frente al creciente avance y desarrollo de las nuevas tecnologías y su influencia en el sector empresarial, aunque no se pone en duda que su uso sea relevante para mejorar la toma de decisiones y el rendimiento en los procesos que asumen día a día las empresas, sí es imperativo tomar medidas inmediatas que puedan frenar el uso desmedido de estos algoritmos.
Tampoco se desconoce que estos sistemas pueden tener efectos positivos en aligerar las cargas de los trabajadores y evitar o prevenir los riesgos laborales a los que se pueden enfrentar. Sin embargo, se considera necesaria la regulación de estos sistemas y la creación de lineamientos éticos y jurídicos para que desde su diseño hasta su construcción e implementación se garantice de manera efectiva el respeto de los derechos de los trabajadores.
Estas regulaciones deberán propender a preservar el respeto a la privacidad y gestionar el manejo adecuado de los datos implementados. Finalmente, es necesario pensar en la toma de decisiones justas y transparentes, que reflejen un equilibrio entre los intereses del trabajador y la eficiencia empresarial.
6. Análisis comparativo de la regulación de la IA y algoritmos aplicados al ámbito laboral en Colombia y Europa
En Colombia no existe regulación legislativa de la IA y la jurisprudencia sobre el tema corre la misma suerte. Sin embargo, Jiménez23 afirma que Colombia se ha destacado como uno de los países líderes de la región del Cono Sur en IA, según información dada por el Banco de Desarrollo en América Latina.
Dentro de la iniciativa de regulación colombiana se encuentra el Conpes 3975 de 2019; el Marco Ético para la IA en Colombia, desarrollado por un comité técnico y presentado por la Presidencia de la República; el Conpes 4023 de 2021; el Proyecto de Ley 021-2020C, actualmente archivado, y el Proyecto de Ley 253 de 2022 que, como su antecesor, tiene por fin establecer los lineamientos de política pública para el desarrollo, uso e implementación de inteligencia artificial, entre otras disposiciones. En este punto, vale la pena anotar que deja un sinsabor el hecho de constatar que el Proyecto de Ley 253 fue presentado por un grupo de congresistas que tienen como fundamentos noticias y algunas vagas opiniones de doctrina24.
Dicho esto, la única información técnica para regular la IA en Colombia se encuentra en los Conpes 3975 y 4023. Sin embargo, estos no son documentos oponibles, por cuanto no tienen fuerza de ley. Lo que se esperaría, entonces, es que los ministros del despacho interesado adopten decisiones, mediante decretos, para regular el tema, pero no se ha presentado alguno hasta la fecha.
De la anterior información surge la siguiente inquietud: ¿dónde está la iniciativa legislativa del Ministerio de Trabajo para regular la IA? La respuesta es que aún no se tiene determinación o instructivo alguno para regular, puesto que las iniciativas mencionadas previamente regulan la IA en ámbitos generales, mas no laborales. Dentro de este marco, en Colombia ya se siente el impacto negativo de la implementación de los sistemas inteligentes en el ámbito laboral, el cual se analiza desde las plataformas de economía colaborativa de entrega y algunas compañías del sector tecnológico; no obstante, se reitera que no pareciera existir un verdadero interés por regular la materia.
En línea con un pensamiento reduccionista, se consideraría que no hay iniciativa del legislativo o del ejecutivo, dado que este no es un problema real o, aunque lo sea, se ve como una situación muy lejana que no representa un impacto en el ámbito laboral y empresarial. Sin embargo, al analizar el marco legislativo internacional, se entiende el gran problema ante el cual se enfrenta la sociedad laboral. Para explicar esto, se utilizarán como referencia casos en Europa y Norte América, así como la regulación específica en España, que ha influenciado a Inglaterra.
Empresas de Suecia, Bélgica y compañías en Estados Unidos han implementado un sistema de marcaje con un chip intramuscular que, conectado a los sistemas informáticos de la empresa, entrega información que los trabajadores no están en la capacidad de conocer y, como consecuencia, monitorean su productividad. Esto tiene como resultado vulneraciones éticas y jurídicas25.
Los sistemas expertos que funcionan en dichas compañías están configurados con algoritmos que extraen la información. A su vez, la máquina analiza variables relacionadas con la productividad y eficiencia al desempeñar labores y, como resultado, presenta una serie de decisiones que se traducen en bonificaciones o sanciones, tales como una menor asignación en las tareas, una redistribución en sus funciones, menos asignaciones salariales o, incluso, el eventual despido.
El problema, como es apenas previsible, radica en la violación del derecho fundamental al debido proceso y la garantía al habeas data de conocer, actualizar y rectificar la información que se tiene sobre la persona. Estas son protecciones constitucionales que le asisten a cualquier ciudadano y que deben protegerse en un proceso disciplinario o sancionatorio.
Dentro de este marco de ideas, se plantea la necesidad de
Cabe resaltar que, en Europa, el legislador ha previsto la existencia del problema y de manera oportuna ha tenido la iniciativa de regular el tema. Al respecto, Rivas indica que "el parlamento de la Unión Europea ha sido pionero en abordar la regulación jurídica de la robótica y la inteligencia artificial, estableciendo estándares éticos y criterios generales"26.
Al realizar un análisis normativo europeo, se encuentra el caso de España que, mediante el Real Decreto-ley 9/2021, crea obligaciones para el empleador en material laboral con relación al uso de algoritmos y sistemas que utilicen la IA. Estas se consagran en el Estatuto de Trabajadores, lo que en el ordenamiento jurídico colombiano sería comparable con el Código Sustantivo del Trabajo.
La doctrina refiere que, en España, el grado de uso de la IA para la gestión de recursos humanos se sitúa en tiempos de pandemia en un 83 %, con una incorporación masiva de la IA, combinada con criterios automatizados, a partir de capacidades cognitivas avanzadas. Por tal razón, fue necesario regular la materia27.
Como consecuencia de lo anterior, se presentó la "Guía Práctica y Herramienta sobre la Obligación de Información sobre el Uso de Algoritmos en el Ámbito Laboral", publicada en mayo de 2022 por el Ministerio de Trabajo y Economía Social de España. En esta se explica de manera detallada la forma como se debe entender la obligación incorporada en el artículo 64.4 del Estatuto de los Trabajadores (ET), que expresa lo siguiente:
d) Ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles28.
Esta norma laboral, contenida en la legislación española, es la columna vertebral para afirmar que se está ante una problemática real, invisibilizada en muchos casos mediante cajas negras, las cuales inciden negativamente en los derechos de los trabajadores. Además, dicha norma obliga al Estado a pensar en nuevos derechos para los mismos, que estén a la vanguardia del avance de la tecnología.
El eje modular de esta normativa, como expresa el Ministerio de Trabajo y Economía Social de España29, se encuentra en la obligación empresarial de información algorítmica que se proyecta en el área individual y colectiva laboral. Dicho esto, se establece que para el ámbito individual se obliga el empleador a informar al trabajador las decisiones íntegramente automatizadas en la selección y contratación de personas, monitorización, vigilancia, dirección y gestión empresarial para asignar tareas, fijar horarios, determinar salarios, controlar su productividad, evaluar rendimientos, promociones y despidos.
En el ámbito colectivo, la compañía debe informar a la representación legal de la plantilla, es decir, al representante o a los representantes de los trabajadores, sobre las variables y los parámetros algorítmicos con los cuales se conduce a la toma de una decisión y sus consecuencias en la colectividad empleada.
Los derechos fundamentales que se amparan son: la protección de datos personales, la privacidad, igualdad, no discriminación, seguridad social y salud laboral; derechos que ya se habían creado cientos de años atrás. La manera en que se aseguran es mediante una redefinición de las garantías constitucionales en el ámbito laboral. Estas buscan ampliar el deber de información en cabeza del empleador y que se indiquen las implicaciones que tienen en la automatización de decisiones.
La segunda forma en que se protegieron los derechos de los trabajadores fue mediante la creación de dos nuevas garantías: comunicar asertivamente al trabajador sobre las decisiones íntegramente automatizadas y anunciar a la representación legal de la plantilla, es decir, la representación colectiva de los empleados, las variables algorítmicas con las cuales se toma una decisión autónoma y sus resultados colectivos.
Se observa, entonces, que una nueva variable no referenciada hasta este punto aparece demostrando el hermetismo empresarial con el uso de estos sistemas, las llamadas cajas negras. Estas se teorizan como técnicas estadísticas o de inteligencia artificial que producen modelos algorítmicos cuyos procedimientos, lógicas y variables no son inmediatamente evidentes o conocibles30.
Tal sistema es el utilizado por las plataformas de economía colaborativa como Rappi o Uber. Son algoritmos programados para sancionar al trabajador, de los cuales no hay información sobre cómo funcionan y razonan, lo que crea un sistema desconocido.
Es en estos últimos sistemas es donde se identifica el verdadero problema. Tanto en Europa como en Colombia estos modelos empresariales representan el mayor riesgo para el trabajador, puesto que su funcionamiento atiende a un modelo de data-driven decision making process, dividido en cuatro pasos que se explican a continuación:
De estos sistemas inteligentes se conocen las repercusiones -es decir, las sanciones-, pero no se conoce la lógica de su programación. Desde el punto de vista jurídico, se evidencia una flagrante violación del derecho al debido proceso en el momento de imponer una sanción disciplinaria, como producto de la conducta de un trabajador. Esto lleva a cuestionarse: ¿dónde quedan las garantías constitucionales? y ¿dónde queda el debido proceso y la contradicción del trabajador?
En este sentido, se ha identificado que la legislación española presentó quince puntos que deben conocerse respecto al algoritmo que se utiliza. Principalmente, se destaca el uso que se da a la IA, las decisiones tomadas, la manera en que se programó el algoritmo, la certificación de la empresa que suministró el algoritmo, el grado de intervención humana cualificada en las decisiones adoptadas, las variables utilizadas por el algoritmo, la ponderación relativa de cada variable, las reglas de programación derivadas del aprendizaje autónomo, la validación de datos de entrenamiento, las auditorías realizadas por equipos especializados, las consecuencias de la decisión adoptada en términos de acceso al empleo, mantenimiento técnico del sistema, determinación y variación de las condiciones laborales y, por último, el impacto de las decisiones tomadas en materia de igualdad de género y discriminación32.
A priori se entendería que se debe copiar el modelo español, que es lo que se está implementando en Reino Unido con la recopilación de datos para crear su legislación en una base llamada Collection of algorithmic transparency reports completed using the Algorithmic Transparency Recording Standard, creada por el Central Digital and Data Office and Centre for Data Ethics and Innovation.
Sin embargo, la realidad de la normativa española dista de lo esperado, porque se ha encontrado que en dicho artículo se ha dejado por fuera el derecho del empleador a mantener su secreto profesional y propiedad intelectual. Además, se ha pensado netamente desde una perspectiva del trabajador y, como consecuencia, se ha dejado de lado la perspectiva empresarial para que se pueda asegurar y proteger el correcto crecimiento económico. En función de lo planteado, en el siguiente capítulo se aborda la crítica y posible solución para llegar a un punto medio regulatorio, en donde intervengan trabajadores, empleadores y el Estado.
7. Reflexiones finales y recomendaciones para la implementación de la IA en la toma de decisiones al supervisar, disciplinar y sancionar al trabajador
El éxito para obtener una legislación técnica, completa, a la vanguardia y con participación de los involucrados en las decisiones automatizadas mediante el uso de IA y los algoritmos laborales requiere de un compromiso integral que comprenda la mediación tripartita. En esta, es necesario que se involucren el Estado, los trabajadores y la representación empresarial.
Con respecto a la intervención estatal, como fundamento técnico se tiene la información presentada en el Conpes 3975, en el cual se destaca: incorporar el concepto de dinamismo, es decir, que la legislación se adapte a los avances tecnológicos y no quede en desuso rápidamente, e incluir la contextualización desde un principio, lo que se traduce en educación para todos los sectores generacionales de las necesidades e impactos de la IA. Además, es necesaria una columna medular en la cual se establezca un principio fundante: que los datos no se utilicen para causar daño33.
Con base en la información expuesta, es necesario incorporar un enfoque basado en riesgos, género, ética, educación, gobernanza, vigilancia y transparencia. Dentro de la recomendación, se traen ocho principios que, a nuestro criterio, deben incluirse en el Proyecto de Ley 253 ya mencionado.
Estas directrices incluyen:
Cabe resaltar que, en la implementación del sistema, este debe ir en concordancia con la legislación actual en materia de garantías constitucionales y se debe incluir un acápite especial que establezca las herramientas que se implementarán, con el fin de que no se incurra en una nueva discriminación de las poblaciones históricamente marginadas. Para esto, es necesaria la obligatoriedad de su participación en la regulación, implementación, desarrollo y posibles repercusiones de los sistemas inteligentes. En consecuencia, se podrá obtener un beneficio social, claro y determinable, que se materialice en aspectos de bienestar público.
Ahora bien, se considera importante la perspectiva que adoptó la Agencia Europea de los Derechos Fundamentales, en lo que se refiere a ser transparentes en la elaboración, el desarrollo y la implementación de los sistemas inteligentes. Es menester que se pueda dar seguimiento a la IA de tal manera que sea posible detectar, con anterioridad a su aplicación, cualquier error que ponga en riesgo los derechos de los trabajadores. Es decir, es necesario tener un buen proceso de creación del sistema experto y que, en el momento de su implementación, sea menester que los empleadores sometan estas máquinas a una constante evaluación sobre la forma en que utilizan, analizan y deciden sobre los datos de los trabajadores.
En relación con lo anterior, es importante implementar una protección contra amenazas interiores -insider threat- que permita prevenir, identificar y mitigar las amenazas internas de ataques cibernéticos que puedan comprometer las decisiones empresariales relacionadas con el trabajador.
Resulta clara la necesidad de incluir elementos mínimos en el contenido de los códigos que son usados para programar los algoritmos. Estos deben contener información clara sobre el alcance, el valor significativo que aporta al campo en que se desarrolle, que se conozca el proveedor tecnológico, el régimen de propiedad intelectual bajo el cual se protegerá, los sesgos que se incluyeron en su matriz y la manera como aprende de manera autónoma.
En relación con el papel que deben desarrollar los trabajadores, este se materializa en una vertiente individual y una colectiva. En la parte personal, por parte del empleado, es necesaria la observancia y el respeto de las garantías que le asisten a su empleador en relación con el derecho de propiedad intelectual y secreto empresarial, que se desprende de la información que conocerá del algoritmo y los sistemas de IA de la compañía. También es necesario que este se informe sobre las implicaciones que tiene el sistema inteligente en las labores que va a desempeñar, con el fin de que las decisiones que pueda tomar se encuentren revestidas del principio de legalidad, publicidad y debido proceso.
Desde la perspectiva colectiva, se presenta la principal influencia de los empleados en la toma de decisiones automatizadas basadas en algoritmos. En este orden de ideas, es en el pliego de peticiones en donde se deberán incluir los puntos que involucren la obligación del empleador en revelar si está utilizando sistemas de IA para afectar las condiciones laborales de sus trabajadores, la persona o el equipo encargado de la auditoría de aquellos, los sesgos con los que se pidió que se programara, las decisiones que toman y el grado de interacción humana con los mismos.
De este modo, dentro de los pliegos de peticiones que pueden terminar en normas vinculantes para las partes también se puede incluir que, en caso de existir mecanismos inteligentes, se eduque a los trabajadores en materia de funcionamiento y racionamiento de estos mecanismos y la manera en que se da la interacción empleador-trabajador-máquina.
En síntesis, es necesario que se les brinde a los trabajadores las herramientas para que puedan entender las realidades a las cuales se enfrentan, la manera en que pueden proteger sus derechos, exigir sus garantías y conocer en qué momento se superan las líneas éticas y jurídicas. Con esto, podrán defenderse ante eventuales decisiones que vayan en contravía de los derechos que les asisten, como al debido proceso, la contradicción, el habeas data y demás involucrados.
Frente a la perspectiva del empleador, que debe ser representado por los empresarios, es de suma importancia que las implementaciones de IA en sus procesos de gestión legal empresarial estén desarrolladas e implementadas por personal capacitado en la materia. Este deberá tener el conocimiento para supervisar las decisiones y predicciones emitidas por los sistemas automatizados, en particular, aquellos aspectos que pueden tener un impacto en los derechos fundamentales de los trabajadores.
Finalmente, se considera importante que, con el propósito de garantizar una relación laboral transparente y equitativa, en el contrato de trabajo se establezcan cláusulas que contengan información de la manera en que el empleador deba comunicar los aspectos relacionados con la implementación de la IA y la automatización de decisiones que influyan en el desempeño de las labores del trabajador; la recopilación de los datos de los empleados y su manejo, y cómo esta información será relevante para la toma de decisiones en la empresa.
8. Conclusiones
Cuando una compañía utilice un sistema inteligente para la supervisión del rendimiento y desempeño de sus trabajadores, es imperativo que esta acción no se convierta en vigilancia constante ni que el uso de dicho sistema sea arbitrario. En ese sentido, es menester reconocer los derechos a la desconexión laboral, la libertad, la autonomía, el libre desarrollo de la personalidad de los trabajadores, la intimidad y la garantía de no ser acosados laboralmente, con el fin de asegurar un ambiente sano de trabajo.
Así mismo, al utilizar IA para inspeccionar las operaciones en que se desempeña un trabajador, es necesario que, antes de tomar una decisión se realice un análisis comprensivo que considere las aristas objetivas y subjetivas que condujeron a la ocurrencia del hecho investigado. Dentro de estas se pueden encontrar razones personales que influyan en el rendimiento del trabajador y que, como resultado de esto, se obtenga un acompañamiento cercano para facilitar un mejor desempeño.
En efecto, si llegase a ser necesario decidir de manera crítica sobre el comportamiento de su empleado, es importante que el empleador garantice la intervención de un ser humano competente, que esté capacitado en la interpretación de los conceptos o decisiones emitidas por la IA implementada.
Se estima que, para prevenir los conflictos que puedan llegar a suscitarse con los trabajadores, es importante que el empleador informe desde un principio sobre las consecuencias de la utilización de los datos de su rendimiento en decisiones semiautomatizadas y las garantías que les asisten. De esta manera, el empleado tendrá claridad sobre los procesos que se ejecutaron, los sistemas inteligentes y el personal que intervino, como también de los derechos que se tuvieron en cuenta al desarrollar cada una de las etapas y los recursos que puede interponer contra las decisiones en su contra.
Por último, es imperativa la obligatoriedad de observar la información teórica, jurídica, técnica y ética que fundamentará la legislación concerniente al uso de la IA y los algoritmos en el ámbito de gestión empresarial, con énfasis legal laboral. Esto, enmarcado en unos deberes transversales de transparencia, información y educación de cada uno de los sujetos que intervengan en aspectos sistematizados o intervenidos por sistemas inteligentes: trabajador, empleador y Estado.
Notas
1 Héctor Farrés, "La empresa tecnológica que despidió al 30% de sus empleados porque la Inteligencia Artificial dijo que eran improductivos", La Vanguardia, 8 de agosto de 2021, https://www.la-vanguardia.com/tecnologia/20210808/7651651/empresa-tecnologica-xsolla-despedir-empleados-improductivos-segun-inteligencia-artificial.html
2 Miguel Echarri, "150 despidos en un segundo: así funcionan los algoritmos que deciden a quién echar del trabajo", El País, 9 de octubre de 2021, https://elpais.com/icon/2021-10-10/150-despidos-en-un-segundo-asi-funcionan-los-algoritmos-que-deciden-a-quien-echar-del-trabajo.html
3 Carlos Villabella, "Los métodos en la investigación jurídica. Algunas precisiones", en Pasos hacia una revolución en la enseñanza del derecho en el sistema romano-germánico, tomo 4, versión electrónica (México: Universidad Nacional Autónoma de México, 2020), 161-77.
4 Jackeline Granados, "Análisis de la inteligencia artificial en las relaciones laborales", CES Derecho13, núm. 1 (2022): 111-32, https://doi.org/10.21615/cesder.6395
5 Goretty Martínez, "La inteligencia artificial y su aplicación al campo del Derecho", Alegatos Revistas TMP, núm. 82 (2012): 827-846, http://revistastmp.azc.uam.mx/alegatos/index.php/ra/article/view/205/184
6 Raúl Benítez, Gerard Escudero, Samir Kanaany David Masip Rodó, Inteligencia artificial avanzada (Barcelona: Editorial UOC, 2014), 13.
7 Susana Navas, Carlos Górriz, Sandra Camacho, Santiago Guillén, Marina Castells e Iván Borge, Inteligencia Artificial Tecnología Derecho (Valencia: Tirant-lo-Blanch, 2017).
8 Granados, "Análisis de la inteligencia artificial en las relaciones laborales".
9 Martínez, "La inteligencia artificial y su aplicación al campo del Derecho".
10 Corte Constitucional de Colombia, Sala Plena, sentencia C-593 de 2014 (M. P. Jorge Pretelt, 20 de agosto de 2014), https://www.corteconstitucional.gov.co/relatoria/2014/C-593-14.htm
11 José Luis Goñi Sein, "Defendiendo los derechos fundamentales frente a la inteligencia artificial" (Lección inaugural del curso académico 2019-2020, Universidad Pública de Navarra, Pamplona, 13 de septiembre de 2019), https://academica-e.unavarra.es/bitstream/handle/2454/34886/Leccion%20inaugural%20Castellano%202019-2020.pdf
12 Phoebe V. Moore, "Inteligencia artificial en el entorno laboral. Desafíos para los trabajadores", en El trabajo en la era de los datos (BBVA, 2019), 93-105, https://www.bbvaopenmind.com/wp-content/uploads/2020/02/BBVA-OpenMind-libro-2020-Trabajo-en-la-Era-de-los-Datos.pdf
13 Adriana Porcelli, "La inteligencia artificial y la robótica: sus dilemas sociales, éticos y jurídicos", Derecho global. Estudios sobre derecho y justicia 6, núm. 16 (2020): 49-105, https://doi.org/10.32870/dgedj.v6i16.286
14 Adrian Todolí-Signes, "En cumplimiento de la primera Ley de la robótica: Análisis de los riesgos laborales asociados a un algoritmo/inteligencia artificial dirigiendo el trabajo (Complying With the First Law of Robotics: An Analysis of the Occupational Risks Associated With Work Directed by an Algorithm/Artificial Intelligence)", Labour & Law Issues 5, núm. 2 (2019), https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3506584
15 Todolí-Signes, "En cumplimiento de la primera Ley de la robótica".
16 Josh Eidelson, "IA para vigilar a los trabajadores: la Casa Blanca investiga estas prácticas", Bloomberg Línea, 1 de mayo de 2023, https://www.bloomberglinea.com/2023/05/01/ia-para-vigilar-a-los-trabajadores-la-casa-blanca-investiga-estas-practicas/
17 Adrienne Williams, Milagros Miceli y Timnit Gebru, "The exploited labor behind artificial intelligence", Noema Magazine, 13 de octubre de 2022, https://www.noemamag.com/the-exploited-labor-behind-artificial-intelligence/
18 Rafal Rejmaniak, "Bias in Artificial Intelligence Systems", Biahstockie Studia Prawnicze 26, núm. 3 (2021): 25-42, DOI: 10.15290/bsp.2021.26.03.02.
19 Rejmaniak, "Bias in Artificial Intelligence Systems".
20 ACNUDH, "Los Riesgos de la inteligencia artificial para la privacidad exigen medidas urgentes -Bachelet", modificado por última vez el 15 de septiembre de 2021, https://www.ohchr.org/es/press-releases/2021/09/artificial-intelligence-risks-privacy-demand-urgent-action-bachelet
21 ACNUDH, "El derecho a la privacidad en la era digital" (Informe anual del Alto Comisionado de las Naciones Unidas para los Derechos Humanos e informes de la Oficina del Alto Comisionado y del Secretario General, A/HRC/48/31, 13 de septiembre de 2021), https://documents-dds-ny.un.org/doc/UNDOC/GEN/G21/249/24/PDF/G2124924.pdf
22 ACNUDH, "Los Riesgos de la inteligencia artificial".
23 Luisa Fernanda Jiménez Mahecha, "¿Es momento de regular la Inteligencia Artificial en Colombia?", Asuntos legales, 10 de abril de 2023, https://www.asuntoslegales.com.co/analisis/luisa-fernanda-jimenez-mahecha-3586461/es-momento-de-regular-la-inteligencia-artificial-en-colombia-3586435
24 Jiménez Mahecha, "¿Es momento de regular la Inteligencia Artificial en Colombia?".
25 Pilar Rivas, La aplicación de la Inteligencia Artificial al trabajo y su impacto discriminatorio (Navarra: Aranzadi, 2015).
26 Rivas, La aplicación de la Inteligencia Artificial al trabajo, 44.
27 Rivas, La aplicación de la Inteligencia Artificial al trabajo, 45.
28 Estatuto de los Trabajadores [EDLT], Real Decreto Legislativo 2/2015, art. 64.4, 23 de octubre de 2015.
29 Ministerio de Trabajo y Economía Social, Información algorítmica en el ámbito laboral. Guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral (Madrid: Ministerio de Trabajo y Economía Social, 2022), https://www.lamoncloa.gob.es/serviciosdeprensa/notasprensa/trabajo14/Documents/2022/100622-Guia_algoritmos.pdf
30 Ministerio de Trabajo, Información algorítmica en el ámbito laboral.
31 Sara Hajian, Francesco Bonchi y Carlos Castillo, "Algorithmic bias: From discrimination discovery to fairness-aware data mining" (KDD '16: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, August 2016, 2125-2126), https://doi.org/10.1145/2939672.2945386
32 Ministerio de Trabajo, Información algorítmica en el ámbito laboral.
33 Armando Guío Español, Elena Tamayo Uribe y Pablo Gómez Ayerbe, Marco Ético para la Inteligencia Artificial en Colombia (Bogotá: Gobierno de Colombia, 2021), https://minciencias.gov.co/sites/default/files/marco-etico-ia-colombia-2021.pdf
34 Guío Español, Tamayo Uribe y Gómez Ayerbe, Marco Ético para la Inteligencia Artificial.
Referencias
ACNUDH. "El derecho a la privacidad en la era digital". Informe anual del Alto Comisionado de las Naciones Unidas para los Derechos Humanos e informes de la Oficina del Alto Comisionado y del Secretario General, A/HRC/48/31, 13 de septiembre de 2021. https://documents-dds-ny.un.org/doc/UNDOC/GEN/G21/249/24/PDF/G2124924.pdf
ACNUDH. "Los Riesgos de la inteligencia artificial para la privacidad exigen medidas urgentes -Bachelet". Modificado por última vez el 15 de septiembre de 2021. https://www.ohchr.org/es/press-releases/2021/09/artificial-intelligence-risks-privacy-demand-urgent-action-bachelet
Benítez, Raúl, Gerard Escudero, Samir Kanaan y David Masip Rodó. Inteligencia artificial avanzada. Barcelona: Editorial UOC, 2014.
Echarri, Miguel. "150 despidos en un segundo: así funcionan los algoritmos que deciden a quién echar del trabajo". El País. 9 de octubre de 2021. https://elpais.com/icon/2021-10-10/150-despidos-en-un-segundo-asi-funcionan-los-algoritmos-que-deciden-a-quien-echar-del-trabajo.html
Eidelson, Josh. "IA para vigilar a los trabajadores: la Casa Blanca investiga estas prácticas". Bloomberg Línea. 1 de mayo de 2023. https://www.bloomberglinea.com/2023/05/01/ia-para-vigilar-a-los-trabajadores-la-casa-blanca-investiga-estas-practicas/
Farrés, Héctor. "La empresa tecnológica que despidió al 30% de sus empleados porque la Inteligencia Artificial dijo que eran improductivos". La Vanguardia. 8 de agosto de 2021. https://www.lavanguardia.com/tecnologia/20210808/7651651/empresa-tecnologica-xsolla-despedir-empleados-improductivos-segun-inteligencia-artiflcial.html
Goñi Sein, José Luis. "Defendiendo los derechos fundamentales frente a la inteligencia artificial". Lección inaugural del curso académico 2019-2020. Universidad Pública de Navarra. Pamplona, 13 de septiembre de 2019. https://academica-e.unavarra.es/bitstream/handle/2454/34886/Leccion%20inaugural%20Castellano%202019-2020.pdf
Granados, Jackeline. "Análisis de la inteligencia artificial en las relaciones laborales". CES Derecho 13, núm. 1 (2022): 111-32. https://doi.org/10.21615/cesder.6395
Guío Español, Armando, Elena Tamayo Uribe y Pablo Gómez Ayerbe. Marco Ético para la Inteligencia Artificial en Colombia. Bogotá: Gobierno de Colombia, 2021. https://minciencias.gov.co/sites/default/flles/marco-etico-ia-colombia-2021.pdf
Hajian, Sara, Francesco Bonchi y Carlos Castillo. "Algorithmic bias: From discrimination discovery to fairness-aware data mining". KDD '16: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, August 2016, 2125-2126. https://doi.org/10.1145/2939672.2945386
Jiménez Mahecha, Luisa Fernanda. "¿Es momento de regular la Inteligencia Artificial en Colombia?". Asuntos legales. 10 de abril de 2023. https://www.asuntoslegales.com.co/analisis/luisa-fernanda-jimenez-mahecha-3586461/es-momento-de-regular-la-inteligencia-artiflcial-en-colombia-3586435
Martínez, Goretty. "La inteligencia artificial y su aplicación al campo del Derecho". Alegatos Revistas TMP, núm. 82 (2012): 827-846. http://revistastmp.azc.uam.mx/alegatos/index.php/ra/article/view/205/184
Ministerio de Trabajo y Economía Social. Información algorítmica en el ámbito laboral. Guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral. Madrid: Ministerio de Trabajo y Economía Social, 2022. https://www.lamoncloa.gob.es/serviciosdeprensa/notasprensa/trabajo14/ Documents/2022/100622-Guia_algoritmos.pdf
Moore, Phoebe V. "Inteligencia artificial en el entorno laboral. Desafíos para los trabajadores". En El trabajo en la era de los datos, 93-105. BBVA, 2019. https://www.bbvaopenmind.com/wp-content/uploads/2020/02/BBVA-OpenMind-libro-2020-Trabajo-en-la-Era-de-los-Datos.pdf
Navas, Susana, Carlos Górriz, Sandra Camacho, Santiago Guillén, Marina Castells e Iván Borge. Inteligencia Artificial Tecnología Derecho. Valencia: Tirant-lo-Blanch, 2017.
Porcelli, Adriana. "La inteligencia artificial y la robótica: sus dilemas sociales, éticos y jurídicos". Derecho global. Estudios sobre derecho y justicia 6, núm. 16 (2020): 49-105. https://doi.org/10.32870/dgedj.v6i16.286
Rejmaniak, Rafal. "Bias in Artificial Intelligence Systems". Biafostockie Studia Prawnicze 26, núm. 3 (2021): 25-42. DOI: 10.15290/bsp.2021.26.03.02.
Rivas, Pilar. La aplicación de la Inteligencia Artificial al trabajo y su impacto discriminatorio. Navarra: Aranzadi, 2015.
Todolí-Signes, Adrian. "En cumplimiento de la primera Ley de la robótica: Análisis de los riesgos laborales asociados a un algoritmo/inteligencia artificial dirigiendo el trabajo (Complying With the First Law of Robotics: An Analysis of the Occupational Risks Associated With Work Directed by an Algorithm/Artificial Intelligence)". Labour & Law Issues 5, núm. 2 (2019). https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3506584
Villabella, Carlos. "Los Métodos en la investigación jurídica. Algunas precisiones". En Pasos hacia una revolución en la enseñanza del derecho en el sistema romano-germánico. Tomo 4, versión electrónica, 161-77. México: Universidad Nacional Autónoma de México, 2020.
Williams, Adrienne, Milagros Miceli y Timnit Gebru. "The exploited labor behind artificial intelligence". Noema Magazine. 13 de octubre de 2022. https://www.noemamag.com/the-exploited-labor-behind-artificial-intelligence/