En el ámbito del trabajo no se han analizado todavía de forma sistemática los efectos e impacto del uso de algoritmos predictivos que ayudan a tomar decisiones a las empresas en la gestión de sus “recursos humanos”, aunque sí existe una literatura creciente en los aspectos laborales del big data desde la perspectiva del control empresarial a partir del uso de datos personales que podrían comprometer derechos fundamentales de los trabajadores.
Se aporta, como segunda novedad, el análisis de los mecanismos jurídicos ligados al uso de la inteligencia artificial en el ámbito del trabajo en lo que concierne a la toma automatizada de decisiones.
En esta obra se analizan los distintos ámbitos en los que puede o es aplicada la inteligencia artificial (IA) en la toma de decisiones que afectan a los trabajadores, y se estudia la forma en que opera este sistema y los mecanismos jurídicos para hacer frente a su uso indiscriminado, así como para abordar la defensa de los derechos de los trabajadores. La obra se divide, pues, en un análisis en tres fases: primera, consistente en conocer desde una perspectiva más “digerible” los mecanismos automatizados y cómo pueden operar en el ámbito de la gestión de la empresa y los RRHH, segunda, estudio de los diferentes ámbitos en los que está siendo actualmente aplicada o podría llegar a serlo (v.g. selección de personal, contratación, cálculo de rendimiento y productividad, despidos…), y, tercero, qué mecanismos jurídicos se encuentran actualmente disponibles (o convendría explorar y explotar) para combatir un uso “oscuro” o poco transparente de estas herramientas automatizadas en la defensa de los derechos de los trabajadores, con el análisis tanto de la perspectiva de la gestión de la empresa como desde la de los intereses de los trabajadores en lo que concierne a la protección de derechos fundamentales en relación con la posible vulneración del derecho a la igualdad y a la no discriminación.
PARTE I
COMPRENDIENDO LA INTELIGENCIA ARTIFICIAL Y SUS APLICACIONES A LA VIDA EN SOCIEDAD
CAPÍTULO I
LA SOCIEDAD DIGITAL
I. Marco científico
1. Tecnociencia y perspectiva de género
2. La Estrategia Española de I+D+I en Inteligencia Artificial
3. Los objetivos de desarrollo sostenible
4. La interdisciplinariedad como criterio orientador
II. La sociedad digital y la discriminación digital
III. Incardinación científica del tema abordado: defensa de la ética y los derechos humanos en las relaciones laborales
IV. Eclosión de la inteligencia artificial en la ingeniería de la discriminación
1. Inteligencia artificial, algoritmos y discriminación
2. Doctrina comparada
3. El núcleo de estudio: las decisiones automatizadas y la “algoritmocracia”
3.1. Penetración social de la automatización de decisiones
3.2. Automatización de las relaciones de trabajo
4. Una introducción a la problemática analizada
5. Objetivos y pretensiones
V. Los estudios en informática: su falta de perspectiva de género
VI. El Derecho antidiscriminatorio: su dimensión laboral
VII. Los derechos fundamentales en la era digital
1.“Tecnoeconomía”, ética y derechos fundamentales
2.La necesidad de extender la tutela laboral al espacio digital
3.El impacto de la pandemia mundial asociada al virus SARS -CoV-2 (COVID 19)
CAPÍTULO II
INTELIGENCIA ARTIFICIAL: LA SOCIEDAD DIGITAL
I. Transformación digital e inteligencia artificial: la “algoritmocracia”
II. Precisiones conceptuales
1. Robótica
2. Inteligencia artificial y algorítmica predictiva
3. Analítica de personas
4. Big data o macrodatos: el dataísmo
5. Minería de datos
6. Inteligencia artificial cognitiva e inteligencia artificial basada en datos
7. Aprendizaje profundo y aprendizaje por refuerzo
III. Dejemos de hablar de “nuevas tecnologías”
IV. Impacto de género: también una oportunidad
V. Ciberdiscriminación
CAPÍTULO III
ANALÍTICA DE PERSONAS Y ALGORÍTMICA (PILAR RIVAS VALLEJO)
I. Minería de datos y analítica de personas
1. Minería de datos
2. Analítica de personas con fines empresariales
II. Algoritmos: desde el algoritmo de Euclides al “big data”
1. Computación cognitiva e inteligencia computacional
2. Algorítmica predictiva: datos, alimentación y entrenamiento
3. ¿Algoritmos éticos?
4. La “caja negra”: el agujero negro digital
PARTE II
INTELIGENCIA ARTIFICIAL EN EL TRABAJO: IMPACTO DISCRIMINATORIO
CAPÍTULO IV
ECONOMÍA DIGITAL Y MERCADO DIGITAL DE TRABAJO
I. La economía digital y las nuevas formas de trabajo
1. El futuro próximo del trabajo es IA
2. El nuevo taylorismo digital de la “gig economy”
3. Tecnoeconomía y flexibilidad
II. Inteligencia artificial y robotización del mercado de trabajo: de la industria 4.0 a la industria 5.0
1. La irrupción de los “robotrabajadores”: desde la “jobocalipse” hasta el “roboptimismo”
1.1. El riesgo para el empleo
1.2. Impacto sobre la calidad del empleo y los salarios
2. Contribución económica de los “robotrabajadores” y de la inteligencia artificial
III. Inteligencia artificial para empresas: inteligencia de negocios y gestión algorítmica
IV. Inteligencia artificial para gestionar las relaciones laborales
1. Analítica de personas aplicada a la empresa
2. Selección de personal mediante inteligencia artificial
3. Plataformas digitales de empleo y medios digitales de reclutamiento
4. El tráfico de datos de los trabajadores
5. Decisiones estratégicas de negocios que comprometen derechos de los trabajadores
CAPÍTULO V
DISCRIMINACIÓN ALGORÍTMICA LABORAL
I. Discriminación en el trabajo y decisiones algorítmicas
II. Minería de datos y mercado de trabajo
1. Minería de datos: una oportunidad para la detección de la discriminación en el trabajo
2. Indexación y datificación: algunos ejemplos
III. Sesgos algorítmicos en el mercado de trabajo: panorama general
1. Diseño de algoritmos
2. Algoritmos entrenados en aprendizaje profundo
IV. Sesgos e implicaciones de género
V. Procesos de selección de personal
VI. Promoción profesional y organización de la empresa
1. Marco legal general
2. Distintos ámbitos de la selección de personal
3. Plataformas en línea micro-task de reclutamiento de trabajadores
4. Ofertas de empleo “dirigidas”
5. Selección algorítmica de candidaturas: métodos
6. Usos en el sistema de protección social español
7. Implicaciones éticas en el uso de datos
VII. Evaluación del rendimiento y fijación de salarios
1. Evaluaciones basadas en modelos algorítmicos: la hiper métrica de la productividad
2. Análisis de cuatro casos: Uber, Amazon, Google e IBM
VIII. El “quid” de la cuestión: la falta de transparencia
CAPÍTULO VI
RESPUESTAS TÉCNICAS A LA DISCRIMINACIÓN ALGORÍTMICA
I. Complementariedad interdisciplinar y soluciones globales
II. La Ingeniería informática: colaboradora necesaria
III. La importancia de la tecnoética
IV. Prevención de la discriminación en la minería de datos y el aprendizaje automático
V. Auditoría de inteligencia artificial y auditoría de algoritmos
VI. Métricas inclusivas y estándares ISO
CAPÍTULO VII
RESPUESTAS JURÍDICAS A LA DISCRIMINACIÓN ALGORÍTMICA
I. Llamamientos a la regulación y la gobernanza algorítmica
1. Las instituciones europeas
2. Análisis comparado: algunos precedentes
II. Derecho positivo
1. La naturaleza “jurídica” del algoritmo
1.1. Propiedades jurídicas sobre los algoritmos
1.2. Consideraciones jurídicas sobre los datos usados por el algoritmo
1.3. El derecho de propiedad intelectual y de propiedad industrial sobre algoritmos y datos
A. La imposible capacidad predictiva del algoritmo sin datos
B. Derechos de propiedad intelectual sobre el código fuente
C. Derechos de propiedad intelectual e industrial sobre los datos
1.4. La legislación sobre seguridad de productos
2. El derecho a la no discriminación en el contexto algorítmico
2.1. El problema de la falta de regulación
2.2. El marco legal de la protección de datos
A. Big data y protección de datos: la cuestión de la transparencia
a. La protección de datos personales
b. El principio de transparencia algorítmica
c. Evaluación de impacto de riesgos
B. Decisiones individuales automatizadas: ¿aplicación del art. 22 LOPD?
C. El delegado de protección de datos
2.3. El marco legal de la protección frente a la discriminación
A. El inexistente derecho a la tutela algorítmica
B. Los empleadores, garantes de igualdad
III. Impugnando decisiones basadas en algoritmos: primeras experiencias
1. La (errónea) centralidad del acceso al código fuente y el derecho a intervención humana
2. Un caso español: el caso BOSCO
3. El caso del sistema de indicación de riesgos de la Seguridad social holandesa
4. El caso del Departamento de Vivienda y Desarrollo Urbano de los Estados Unidos
IV. “Lege ferenda”: algunas propuestas
1. Panorama general
2. En el ámbito de la legislación sobre protección de datos personales
3. Una ocasión para la igualdad de oportunidades
V. Soluciones preventivas
1. Evaluación ciega
2. Transparencia de la información
3. Auditoría de inteligencia artificial, evaluación de impacto e impacto de género
4. Convenios colectivos y planes de igualdad
VI. Soluciones reparadoras
1. Panorama general
2. Aspectos procesales
VII. Estrategias de tutela: litigar contra el algoritmo
1. Opacidad de las decisiones empresariales: nada nuevo bajo el sol
2. Descifrando el código fuente
3. La intervención jurídica en el procesamiento de datos
3.1. Datos que alimentan los algoritmos
3.2. Principio de transparencia algorítmica y derecho a una explicación
3.3. El obstáculo de la propiedad intelectual y de la propiedad industrial: análisis de un caso
CAPÍTULO VIII
EL PAPEL DE TRABAJADORES, EMPRESAS E INSTITUCIONES
I. Trabajadores: datistas y laboralidad: el “cibertariado” femenino
1. Crowdsourcing y monopsonio de datos: ¿fuerza de trabajo gratuita o trabajo fantasma?
2. ¿Mejoraría el problema la laboralización de los datistas?
II. Acción colectiva y sindical
1. Diseño de procesamiento de datos
2. Derechos de participación y consulta
3. Acciones legales colectivas
III. Intervención pública: soluciones institucionales
IV. Responsabilidad social de la empresa, compliance y gobernanza
V. Los programadores: su eventual responsabilidad
