El uso de la IA en las empresas. Próximas novedades legislativas en la Unión Europea.

Contamos con novedades recientes -del pasado mes de junio- en materia de IA en la Unión Europea, que afectarán sin duda a las empresas y a sus trabajadores en un futuro próximo. 

Nos estamos refiriendo a dos propuestas normativas:

• En primer lugar, la nueva versión de la “Propuesta Ley de IA” del 14 de junio de 2023.[1] Como en versiones anteriores se considera de alto riesgo la gestión de los trabajadores y la utilización de la IA en el acceso al trabajo. Esto significa que se tendrán que fijar unas obligaciones para aquellos proveedores y los que desarrollen herramientas basadas en IA. Además, se ha añadido en esta nueva versión, una práctica que se considera prohibida, y es la utilización de sistemas de reconocimiento de emociones en el lugar de trabajo.
• En segundo lugar, la última versión de la “Propuesta de directiva relativa a la mejora de las condiciones laborales en el trabajo en plataformas digitales”, de fecha de junio de 2023[2], respaldada por el Consejo, para comenzar las negociaciones con el Parlamento para llegar a un texto final.

La Unión Europea no pretende prohibir las plataformas digitales de trabajo como un nuevo modelo de negocio, sino más bien reconocerlo, regularlo y ponerle límites. En estas empresas, y según la citada normativa, la IA se puede utilizar para:

• la supervisión, es decir, para hacer un balance periódico del progreso de trabajo, utilizando distintos medios como la videovigilancia por cámara, seguimiento de la ubicación, recuento de pulsaciones en el teclado, o “toma de capturas de pantallas o recurso a otras funciones de ordenadores o teléfonos inteligentes”. Ahora bien, se establecen algunas limitaciones. No deben recoger datos personales cuando la persona que realiza el trabajo en plataformas no esté ofreciendo o realizando dicho trabajo ni tratar datos personales relacionados con sus conversaciones privadas donde se incluyen las conversaciones con los representantes de las plataformas.
• y para la toma de decisiones, tanto cuando se hace de forma automatizada como cuando se utiliza para respaldar una decisión ya tomada. Incluso indica cuáles son estas decisiones: decisiones sobre el acceso a las tareas asignadas, remuneración, seguridad y salud, tiempo de trabajo, el acceso a la formación, promoción o la situación dentro de la organización que puede afectar al tipo de contrato elegido o a la cancelación, restricción o suspensión de su cuenta.

En definitiva, la propuesta de Directiva deja claro que la gestión algorítmica sí se puede realizar, pero añade una serie de garantías (informar, consultar, explicar, evaluar) para asegurar la transparencia de la misma. Y estas garantías se tienen que llevar a cabo tanto cuando la decisión esté completamente automatizada como cuando tan sólo sirva para apoyar las decisiones de la empresa.

Pues bien, cuando estas dos propuestas normativas se aprueben y entren en vigor, España tendrá que seguir avanzando en la regulación del uso de la Inteligencia Artificial en las empresas, que ya ha comenzado, por ejemplo, con la incorporación del nuevo artículo 64.4. d) ET que regula el derecho de información sobre la utilización de algoritmos e inteligencia artificial para todas las empresas.

Afectará sin duda a los procesos de selección, actualmente sin regular, donde se tendrán que prohibir los sistemas de reconocimiento de emociones para determinar qué candidatos son los más adecuados al perfil que busca la empresa. Y, ojalá que se amplíe la regulación del uso de la IA en las empresas que hace la propuesta de Directiva a todas, y no sólo para aplicarlo a las plataformas digitales de trabajo.

[1] Enmiendas aprobadas por el Parlamento Europeo el 14 de junio de 2023 sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión. https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_ES.html

[2]https://data.consilium.europa.eu/doc/document/ST-10107-2023-INIT/es/pdf