El objeto de esta obra, fruto de la participación de sus autores en las XXII Jornadas de la Asociación de Profesoras y Profesores de Derecho Civil (APPDC) celebradas en la Universidad de Granada en el mes de octubre de 2023, está constituido por el estudio sistemático de los aspectos del Derecho de contratos y del Derecho de daños en los que tiene incidencia la utilización de sistemas inteligencia artificial (IA).
Desde la perspectiva contractual, entre otros aspectos, se revisa la doctrina y las reglas aplicables a los vicios del consentimiento en aquellos casos que, con la IA se explotan vulnerabilidades, existen sesgos en el algoritmo o se omite información relevante para una de las partes del contrato (dolo y error, respectivamente): o sesgos discriminatorios que pueden afectar a la toma de decisiones automatizadas en la contratación (discriminación algorítmica) y a la protección de datos personales que, en buena medida, están vinculados a la opacidad del algoritmo y el efecto de la «caja negra».
La influencia de la IA en la redacción e interpretación de contratos, y en particular el empleo de la herramienta del diseño legal (Legal Desing), partiendo del principio general de autonomía privada, los límites de la libertad contractual en este ámbito, así como de las precisiones que requieren las reglas de interpretación contractual en aquellos casos en los que los contratos se incluyen imágenes con carácter regulador de su contenido. También son objeto de atención las cuestiones atinentes a la responsabilidad contractual derivadas de la automatización del cumplimiento de contratos mediante IA; y de su uso y de sus consecuencias en la prestación de servicios de telemedicina.
Desde la perspectiva del Derecho de daños, se analiza la idoneidad y los problemas que plantean las reglas tradicionales en materia de responsabilidad civil extracontractual y, en particular, los criterios de imputación del Derecho de daños, partiendo, también en este caso, de la disrupción que supone la capacidad que tienen las inteligencias artificiales para aprender y desarrollar sus habilidades propias y sin intervención humana, lo que les permite tomar decisiones autónomas, como consecuencia de la interacción de sus distintos componentes de una forma que resulta extraordinariamente compleja. En esencia, se pretende dar respuesta a la cuestión de si ¿es necesaria una regulación nueva para los daños derivados del uso de inteligencia artificial? En la respuesta, se analiza ampliamente la propuesta relativa a las normas armonizadas en materia de inteligencia artificial (IA) de la UE contenidas en la propuesta de «Reglamento de Inteligencia Artificial».
PARTE I
DERECHO DE CONTRATOS E INTELIGENCIA ARTIFICIAL
CAPÍTULO I
«DESHUMANIZANDO» AL CONTRATO. UNA MIRADA DESDE LA INTELIGENCIA ARTIFICIAL
I. Introducción
II. De la fase precontractual al acuerdo de voluntades
III. Automatizando la negociación. El acuerdo contractual
IV. ¿Vicios del consentimiento o protección de la confianza y reparto de riesgos cuando interviene un sistema de IA?
V. La redacción y la interpretación del contrato a través del legal design
VI. Cumplimiento de las obligaciones contractuales e inteligencia artificial
VII. Conclusiones
CAPÍTULO II
LA CONTRATACIÓN ENTRE SISTEMAS DE INTELIGENCIA ARTIFICIAL
I. Introducción
II. Inteligencia artificial y voluntad contractual
III. Los contratos algorítmicos
IV. La ineficacia de los contratos algorítmicos
CAPÍTULO III
SESGOS DISCRIMINATORIOS EN LA TOMA AUTOMATIZADA DE DECISIONES EN LA CONTRATACIÓN Y PROTECCIÓN DE DATOS
I. Propuesta de reflexión
II. Consideraciones previas
III. Sesgos discriminatorios y perfilado
IV. Toma de decisiones, elaboración de perfiles y sesgos discriminatorios en la contratación
V. Transparencia algorítmica en la normativa comunitaria: soluciones proactivas
CAPÍTULO IV
LEGAL DESIGN EN LA REDACCIÓN E INTERPRETACIÓN DE LOS CONTRATOS
I. La herramienta del diseño legal, hacia un método de investigación interdisciplinar
II. Elaboración de modelos contractuales estandarizados
III. Protección de datos personales desde el diseño legal
IV. Legal Design y transparencia en los contratos con consumidores
V. ¿Cómo afecta Legal Design a la interpretación de los contratos?
VI. Breve conclusión
CAPÍTULO V
LA AUTOMATIZACIÓN DEL CUMPLIMIENTO DE CONTRATOS MEDIANTE INTELIGENCIA ARTIFICIAL: CUESTIONES SOBRE RESPONSABILIDAD CONTRACTUAL
I. Cuestiones previas
II. «Contratos inteligentes» vs contratos automatizados basados en la IA
III. La responsabilidad contractual por los daños ocasionados mediante un sistema de inteligencia artificial
IV. Conclusiones
CAPÍTULO VI
RESPONSABILIDAD CONTRACTUAL POR EL USO DE IA EN LA PRESTACIÓN DE SERVICIOS DE TELEMEDICINA Y APLICACIONES DE SALUD DIGITAL
I. Introducción. El nuevo paradigma de salud digital: telemedicina y medicina personalizada
II. La relación médico-paciente en el sistema de «E-Health»
III. La IA en la prestación de servicios de salud digital: responsabilidad contractual
PARTE II
RESPONSABILIDAD CIVIL EXTRACONTRACTUAL E INTELIGENCIA ARTIFICIAL
CAPÍTULO VII
LA RESPONSABILIDAD CIVIL POR DAÑOS CAUSADOS POR INTELIGENCIA ARTIFICIAL. ESTADO DE LA CUESTIÓN
I. Planteamiento de la cuestión
II. ¿Es necesaria una regulación nueva para los daños causados por inteligencia artificial?
III. Últimas propuestas de la Unión Europea para la responsabilidad civil por daños causados por inteligencia artificial
IV. A modo de reflexión
CAPÍTULO VIII
RESPONSABILIDAD OBJETIVA Y SUBJETIVA EN LAS PROPUESTAS LEGISLATIVAS EUROPEAS SOBRE RESPONSABILIDAD CIVIL APLICABLES A LA INTELIGENCIA ARTIFICIAL
I. Introducción
II. Los objetivos fundamentales de la regulación de la inteligencia artificial: entre la protección de las víctimas y el mantenimiento del nivel de innovación
III. Dificultades derivadas de la utilización de la culpa como criterio de imputación de responsabilidad para la IA
IV. Dificultades derivadas de la utilización de la responsabilidad objetiva como régimen de responsabilidad aplicable a la IA
V. Estructura del proyectado sistema europeo de responsabilidad civil por daños causados por la IA
VI. La regulación de la culpa o negligencia en las normas de la PDRIA. ¿Resuelven los problemas para imputar responsabilidad por culpa a los operadores de la IA?
VII. El criterio de imputación en la PDRP: modificaciones en la noción de producto defectuoso, en las normas sobre prueba del defecto. Su idoneidad para resolver los problemas derivados de uso de la IA
CAPÍTULO IX
DAÑOS PRODUCIDOS POR LA IA: LA OPACIDAD DEL ALGORITMO Y EL EFECTO DE CAJA NEGRA
I. IA explicada de modo sencillo
II. La IA, sus rasgos y su capacidad de dañar
III. La opacidad de la IA
IV. Los daños causados por la toma de decisiones automatizadas
V. Escollos en la regulación la responsabilidad civil extracontractual ante la IA
VI. La responsabilidad civil extracontractual y los sistemas de IA
CAPÍTULO X
CAUSALIDAD Y RESPONSABILIDAD CIVIL POR DAÑOS OCASIONADOS POR SISTEMAS DE INTELIGENCIA ARTIFICIAL: LAS PRESUNCIONES DE CAUSALIDAD EN LAS PROPUESTAS NORMATIVAS DE LA UE
I. Introducción
II. La relación de causalidad respecto de daños ocasionados por la inteligencia artificial y las dificultades para su prueba
III. La búsqueda del alivio de la carga de la prueba del perjudicado por parte de la UE sin frenar la innovación
IV. Las presunciones de defecto y de causalidad en la propuesta de Directiva sobre responsabilidad por los daños causados por productos defectuosos
V. La presunción de causalidad en la propuesta de Directiva sobre responsabilidad en materia de inteligencia artificial
VI. A modo de conclusión
CAPÍTULO XI
INTELIGENCIA ARTIFICIAL Y DAÑOS INDEMNIZABLES
I. Introducción
II. Concepto de daño indemnizable y problemas de armonización
III. Supuestos particulares de daño y su posible indemnizabilidad
IV. Problemas en torno a la cuantificación de los daños
V. Remedio indemnizatorio y presunciones de daño
CAPÍTULO XII
MUTUALIZACIÓN DE LOS RIESGOS GENERADOS POR LOS SISTEMAS DE IA
I. Bases de la mutualización de los riesgos generados por los sistemas de inteligencia artificial
II. La aseguración obligatoria de los daños producidos por inteligencia artificial
III. Fondos de garantía
IV. Personalidad jurídica de una IA responsable
