La monografía Inteligencia Artificial Legal y Administración de Justicia reúne a un destacado número de investigadores y profesionales, que, con las debidas sinergias, en el marco del Proyecto I+D+i de generación de conocimiento y fortalecimiento científico y tecnológico, titulado «Ejes de la Justicia en tiempos de cambio», del Ministerio de Ciencia e Innovación, con REF PID2020-113083GB-100, ha logrado afianzar los primeros pasos de esta imprescindible transición digital de la Administración de Justicia hacia la Inteligencia Artificial Legal. El nuevo paradigma de Justicia hacia el que nos encaminamos viene plagado de nuevos retos y desafíos que salpican los propios cimientos sobre los que se asienta nuestro ordenamiento procesal, alterando sus fundamentos y principios, tal como queda reflejado en los diversos capítulos que integran esta obra colectiva. La aparición de nuevos instrumentos de valoración del riesgo de la mano de los sistemas de Inteligencia Artificial, los registros biométricos, el papel que estas herramientas puedan tener en la prueba o, inclusive, en la decisión judicial, así como el impacto que su uso tiene sobre los derechos fundamentales de las partes, son algunos de los temas que se ofrecen al lector en esta obra de la mano de sus autores que aportan reflexiones, propuestas y críticas a este nuevo escenario inquietante que se abre para los operadores jurídicos.
IMPUGNACIÓN DE LAS DECISIONES JUDICIALES DICTADAS CON AUXILIO DE INTELIGENCIA ARTIFICIAL
Mª Jesús Ariza Colmenarejo
I. Realidad actual de la inteligencia artificial en la Administración de Justicia
II. Una aproximación a la naturaleza jurídica de la herramienta guiada por IA
1. Decisiones judiciales adoptadas exclusivamente de manera automatizada en base a sistemas de IA
2. La IA como auxilio judicial en la toma de decisiones
III. Decisiones basadas en inteligencia artificial y el objeto de la impugnación
1. Recursos y falibilidad humana
2. Inteligencia artificial como medio de solventar la falibilidad humana
3. Impugnación y falibilidad algorítmica
IV. Conclusiones
V. Bibliografía
DIGITALIZACIÓN Y/O INTELIGENCIA ARTIFICIAL
Raquel Castillejo Manzanares
I. Digitalización de la justicia
1. La ciberjusticia
2. El expediente judicial electrónico y LexNET
3. Los juicios telemáticos
4. Las ODR
II. Algoritmos
III. Inteligencia artificial
1. Historia
2. Concepto
IV. Machine learning
V. Big data
VI. Problemas que presenta
VII. Inteligencia artificial en el proceso
VIII. Afección de derechos fundamentales al introducir la inteligencia artificial en el proceso penal
ALGORITMO Y PROCESO LABORAL
José Antonio Colmenero Guerra
I. Introducción
II. Revoluciones industriales
III. Aprender a distinguir: nuevas tecnologías, algoritmos, Big data, Data Mining, Inteligencia Artificial (IA)
IV. Tecnologías, algoritmos e IA en la Administración de Justicia
V. Algoritmos e IA en la generación de conflictos laborales
APLICACIÓN DEL SISTEMA DE RECONOCIMIENTO FACIAL PARA PREVENIR LA VIOLENCIA ASOCIADA AL DEPORTE EN LOS ENCUENTROS CALIFICADOS DE ALTO RIESGO
Cristina Domingo Jaramillo
I. Introducción
II. Problemas que plantea el reconocimiento facial
1. Implicaciones éticas y legales derivadas del uso del reconocimiento facial
1. 1. El reconocimiento facial y los riesgos en cuanto a discriminación
1. 2. Inconvenientes relacionados con la intimidad personal y la protección de datos de carácter personal
1. 3. Debate acerca de la limitación de los derechos fundamentales por motivos de seguridad ciudadana
2. Otros problemas asociados
III. Sobre la posible implementación del reconocimiento facial en encuentros deportivos de ámbito nacional
1. El reconocimiento facial como instrumento para garantizar la prohibición de acceso a los recintos deportivos
2. Implantación de la técnica en los encuentros considerados de alto riesgo
IV. Conclusiones
V. Bibliografía
SISTEMAS BIOMÉTRICOS (EL RECONOCIMIENTO FACIAL EN PARTICULAR) Y SUS APLICACIONES
José Francisco Etxeberria Guridi
I. Eclosión de la biometría
II. Los datos biométricos y su particular consideración (categorías especiales de datos)
1. El concepto de datos biométricos
2. Clasificación de las técnicas biométricas (en función de las características sobre las que recaen)
2. 1. Sistemas biométricos basados en características físicas o fisiológicas
A) Huellas dactilares
B) Reconocimiento facial
C) Reconocimiento vascular o patrón de venas
D) Reconocimiento de iris y análisis de retina
E) Reconocimiento de voz
F) Análisis de muestras de ADN
2. 2. Sistemas biométricos basados en características conductuales o de comportamiento
3. Datos biométricos como categorías especiales de datos y datos de carácter sensible
III. Aplicaciones de los sistemas biométricos
IV. Algunas garantías frente al uso de sistemas biométricos
1. Evaluación de impacto relativa a la protección de datos
2. Protección de datos desde el diseño y por defecto
3. Consulta previa a la autoridad de control
4. Un enfoque de la IA basado en los riesgos: la Propuesta de Reglamento IA y los sistemas biométricos
V. Bibliografía
DERECHO FUNDAMENTAL A LA PROTECCIÓN DE DATOS DE CARÁCTER PERSONAL EN EL ÁMBITO JURISDICCIONAL E INTELIGENCIA ARTIFICIAL. EN ESPECIAL LA LO 7/2021, DE PROTECCIÓN DE DATOS PERSONALES TRATADOS PARA FINES DE PREVENCIÓN, DETECCIÓN, INVESTIGACIÓN Y ENJUICIAMIENTO DE INFRACCIONES PENALES Y DE EJECUCIÓN DE SANCIONES PENALES
Iñaki Esparza Leibar
I. Introducción, concepto y necesidad de la inteligencia artificial
II. Aproximación a la realidad, el escenario de partida. Pasado y presente
III. Impulso de la tecnología en el campo de la justicia. Inteligencia artificial y protección de datos. El rol de la Comisión Europea, en particular, el libro blanco de la UE. Presente y futuro
IV. Protección de datos de carácter personal y proceso penal. La LO 7/2021
V. Conclusiones y propuestas
VI. Referencia bibliográfica
LOS REGISTROS BIOMÉTRICOS Y SU APLICACIÓN AL PROCESO PENAL DESDE UNA PERSPECTIVA CONSTITUCIONAL
Pablo Gallego Rodríguez
I. Introducción
II. La estructura jurídico-política del Estado Constitucional. Cuestiones preliminares
III. La Constitución Española de 1978
IV. La doctrina del Tribunal Constitucional
V. La Ley Orgánica 7/2021, de 26 de mayo, de protección de datos personales tratados para fines de prevención, detección, investigación y enjuiciamiento de infracciones penales y de ejecución de sanciones penales
1. Cuestiones de partida
2. ¿Qué es la biometría?
3. La Estrategia Europea de Datos
4. El tratamiento de los datos biométricos
VI. La Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión COM/2021/206 final
1. Cuestiones preliminares
2. ¿Qué es la inteligencia artificial?
3. La Propuesta de Reglamento
VII. A modo de conclusión
VIII. Bibliografía
1. Fuentes clásicas
2. Otras fuentes
3. Sentencias del Tribunal de Justicia de la Unión Europea
4. Sentencias del Tribunal Constitucional
DERECHOS FUNDAMENTALES, PROCESO E INTELIGENCIA ARTIFICIAL: UNA REFLEXIÓN
Juan-Luis Gómez Colomer
I. Una perspectiva general
II. Propuestas de regulación
III. El contenido básico
IV. Su concreción en el ámbito de la Justicia
V. Conclusiones
IDEAS PARA UN DEBATE SOBRE LA PREDICCIÓN DEL CRIMEN
Vicente C. Guzmán Fluja
I. Reflexiones sobre la inteligencia artificial y el derecho procesal
II. Algunos apuntes sobre la predictibilidad de las decisiones judiciales
III. Predicción del crimen: en las fronteras del proceso penal
IV. Sistemas de predicción de la comisión de hechos delictivos
1. Ideas previas
2. Sistemas “place-based”
3. Sistemas “person-based”
4. En común: ética de los datos y de los algoritmos
V. Derechos y garantías procesales penales. en especial, la presunción de inocencia
REGISTROS BIOMÉTRICOS Y SU APLICACIÓN AL PROCESO PENAL EN ESPAÑA E ITALIA
Inés Celia Iglesias Canle
I. Introducción
II. La propuesta de reglamento del Parlamento Europeo en materia de inteligencia artificial
III. Sistemas de reconocimiento y uso de datos biométricos en España
IV. Sistemas de reconocimiento y datos biométricos en Italia: el informe del garante privacy sobre SARI
V. Bibliografía
INTELIGENCIA ARTIFICIAL, VALORACIÓN DEL RIESGO Y DERECHO AL DEBIDO PROCESO
Mercedes Llorente Sánchez-Arjona
I. Hacia un nuevo paradigma de proceso penal
II. De la peligrosidad criminal a la valoración del riesgo
III. La valoración del riesgo por los sistemas de Inteligencia Artificial
1. Análisis del riesgo por las herramientas de Inteligencia Artificial en las medidas cautelares
2. Inteligencia Artificial en fase de ejecución de la pena. Especial referencia a RisCanvi
IV. La incidencia de la Inteligencia Artificial en el derecho al debido proceso
V. Bibliografía
LA INTELIGENCIA ARTIFICIAL PARA MEJORAR LA LUCHA CONTRA LA VIOLENCIA DE GÉNERO
Vicente Magro Servet
I. Introducción
II. La inteligencia artificial ante la violencia de género y el dictado de medidas cautelares
1. Para el dictado de la orden de protección respecto al alejamiento, dispositivos electrónicos, o posible control y protección policial
2. Sobre la suspensión del régimen de visitas ex art. 544 ter 7 LECrim (LO 8/2021, de 4 de junio)
3. Suspensión cautelar de la patria potestad
III. La inteligencia de artificial no resuelve, pero ayuda a resolver
1. El mimetismo conductual de la violencia de género y su aprovechamiento por la IA
2. La ampliación de la violencia de género
3. El objetivo de la IA no es buscar la verdad de lo ocurrido, sino la procesal
4. La búsqueda ágil de la IA de la Jurisprudencia aplicable
5. La IA no es la que decide. Ayuda al jurista. No le sustituye
6. La IA nos permite ganar en efectividad
7. No debe haber recelos en la justicia en admitir la ayuda de la IA
8. El libro Blanco de la IA y la europeización
INTELIGENCIA ARTIFICIAL Y PROCESO JUDICIAL: PERSPECTIVAS ANTE UN ALTO TECNOLÓGICO EN EL CAMINO
Jordi Nieva-Fenoll
I. Introducción: los parones de la ciencia
II. Avances en la automatización de procedimientos
III. Uso amplio de inteligencia artificial en la preparación de escritos judiciales
IV. Inteligencia artificial y prueba
V. Inteligencia artificial y predicción del riesgo
VI. Inteligencia artificial y ODR
VII. Un posible futuro
RETOS DEL DERECHO PROBATORIO ANTE LAS NUEVAS TECNOLOGÍAS
Joan Picó I Junoy
I. Introducción
II. Las nuevas tecnologías como fuentes de prueba. Problemas que plantean y soluciones
III. Las nuevas tecnologías como instrumentos al auxilio de los tradicionales medios de prueba: la neurociencia y los algoritmos de micro-expresiones faciales
1. La neurociencia
2. Los algoritmos de micro-expresiones faciales
LA DESEABLE CONSIDERACIÓN DE LA IA UTILIZADA EN EL ÁMBITO TRIBUTARIO COMO SISTEMA DE ALTO RIESGO EN LA PROPUESTA DE REGLAMENTO SOBRE IA DEL PARLAMENTO EUROPEO Y EL CONSEJO
Irune Suberbiola Garbizu
I. Contextualización
II. Aplicaciones de la inteligencia artificial en el ámbito tributario
1. La IA en la asistencia e información al contribuyente
2. La IA en el control del cumplimiento tributario
3. La IA ante el nuevo modelo de relación entre Administración tributaria y contribuyente
4. La IA en los procedimientos de revisión tributaria y en el procedimiento sancionador
III. Riesgos asociados a la utilización de la IA en el ámbito tributario y derechos del contribuyente afectados por ese uso
1. Características de la IA que entrañan determinados “riesgos”
2. Derechos de los contribuyentes afectados por la utilización de la IA en el ámbito tributario
2. 1. Derecho a una resolución motivada
2. 2. Derecho a la presunción de inocencia
2. 3. Derecho a la intimidad y la inviolabilidad del domicilio constitucionalmente protegido
2. 4. Derecho a la igualdad y a la no discriminación
IV. La inteligencia artificial utilizada en los procedimientos tributarios como sistemas de alto riesgo
1. Los sistemas de alto riesgo en la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión
2. La exclusión de los sistemas de IA utilizados en el ámbito tributario de la categoría de sistemas de alto riesgo
3. La necesaria reconsideración de la protección de los obligados tributarios de la injerencia de sistemas de inteligencia artificial de alto riesgo en un ámbito fiscal
V. Bibliografía
INTELIGENCIA ARTIFICIAL Y PROCESO JUDICIAL
Rocío Zafra Espinosa de los Monteros
I. Introducción
II. Aproximación al concepto de inteligencia artificial
III. Como puede ayudar la inteligencia artificial a la Administración de Justicia
1. ¿Posible afectación del derecho al proceso debido de la inteligencia artificial?
IV. Posible aplicación de la inteligencia artificial en la aplicación práctica
1. Aplicación de la Inteligencia artificial en la persecución de los delitos
2. Aplicación de la Inteligencia artificial para el tratamiento de los casos de violencia de género
2. 1. Valoración del riesgo
2. 2. El uso de la videoconferencia
2. 3. Delincuencia informática en el ámbito de la violencia de género
V. A modo de conclusión: Algunas cuestiones críticas
VI. Bibliografía
DEBATES PROCESALES
EL PROBLEMA DE LA FALTA DE TRANSPARENCIA EN LA INTERACCIÓN DE LA INTELIGENCIA ARTIFICIAL Y LA JUSTICIA
Cristina Alonso Salgado
I. Con carácter preliminar
II. Inteligencia artificial y justicia: apuntes acerca del problema de la opacidad
III. Referencias bibliográficas
LA UTILIZACIÓN DE LA VIDEOCONFERENCIA Y LA INTELIGENCIA ARTIFICIAL EN EL PROCESO PENAL
Jaime Criado Enguix
I. Estado de la cuestión
II. Herramientas tecnológicas y su utilización en el proceso penal: especial atención al uso de la videoconferencia y la Inteligencia Artificial
1. Previsión legal de la videoconferencia
2. Ventajas de la utilización de la videoconferencia en el proceso penal
3. ¿Puede afectar la digitalización de la justicia a garantías procesales penales?
3. 1. Principio procesal de publicidad
3. 2. Principio procesal de concentración
3. 3. Principio procesal de inmediación judicial
3. 4. Derecho de defensa
4. Inteligencia Artificial e incidencia en el panorama judicial
4. 1. Aplicaciones de la Inteligencia Artificial en el proceso penal
4. 2. Riesgos del uso de la Inteligencia Artificial en el proceso penal
III. Conclusiones
IV. Bibliografía
LA IRRUPCIÓN DE LA INTELIGENCIA ARTIFICIAL EN LA RESOLUCIÓN ALTERNATIVA DE CONFLICTOS
Ana Isabel González Fernández
I. Los MASC por medios electrónicos: ODR
II. Inteligencia artificial y ODR
1. Consideraciones generales
2. Negociaciones automatizadas: la implantación de la función decisora en la mediación
III. Conclusiones
IV. Bibliografía
RIESGOS DE LA APLICACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LA ADMINISTRACIÓN DE JUSTICIA
Raúl López Martínez
I. Introducción
II. Contextualizando la cuestión: ¿qué se entiende por Inteligencia Artificial (IA) ?
III. ¿Cabe aplicar la IA a la Administración de Justicia?
IV. Un problema concreto: la posible incompatibilidad de la ética judicial y la IA
V. Conclusiones
VI. Bibliografía
POLICÍA PREDICTIVA (PREDICTIVE POLICE)
Tatiana López Pérez
I. Resumen
II. Algoritmos de predicción policial, origen y su empleo en España
III. Aplicación de los distintos sistemas de inteligencia artificial y su repercusión práctica
IV. Resultados del empleo de la policía predictiva y su repercusión en Derecho Penal
V. Conclusiones
VI. Bibliografía
VII. Anexo jurisprudencial
EL IMPULSO PROCESAL Y LA INTELIGENCIA ARTIFICIAL
Francisco Vega Agredano
I. Introducción
II. El big data y la inteligencia artificial en su aplicación procesal
III. Inteligencia artificial y tutela judicial efectiva: inconvenientes
IV. Conclusiones
V. Bibliografía
