El uso jurisdiccional de la inteligencia artificial: habilitación legal, garantías necesarias y la supervisión por el CGPJ.

Jurisdictional use of artificial intelligence: legal bases and necessary guarantees and supervision by the CGPJ.

Autor:

Lorenzo Cotino Hueso. Catedrático de Derecho Constitucional, Universidad de Valencia. ValgrAI, cotino@uv.es.

Resumen:

El estudio apuesta por el potencial del uso jurisdiccional de la inteligencia artificial (IA), pero con suficientes garantías legales. El análisis se centra en la cobertura legal necesaria y variable en razón de los diferentes derechos concurrentes. Se subraya que el Reglamento de IA (RIA) de la UE no sirve como una habilitación legal. A partir de las exigencias constitucionales, se analiza la novedosa regulación de sistemas automatizados y de IA en el Real Decreto-ley 6/2023, que se considera insuficiente. Asimismo, también se analiza y valora la obligación de regular legalmente garantías, señalando la dificultad de regular garantías añadidas a las del RIA. Además, se propone una regulación de garantías basada en estándares comparados. Finalmente, se recuerdan las funciones de supervisión que tienen las autoridades de vigilancia según el RIA y se argumenta que solo el Consejo General del Poder Judicial (CGPJ) puede ser la autoridad de supervisión de los sistemas de IA jurisdiccionales de alto riesgo en España, debido tanto a su independencia como a la separación de poderes. Ni la Autoridad Española de Supervisión de la Inteligencia Artificial (AESIA) ni la Agencia Española de Protección de Datos (AEPD) cumplen con los requisitos necesarios para esta función en el ámbito jurisdiccional.

Abstract:

The study supports the potential for the jurisdictional use of artificial intelligence (AI), but with sufficient legal guarantees. The analysis focuses on the necessary and varying legal coverage due to different concurrent rights. It is stressed that the EU's AI Regulation does not serve as a legal enabling act. Based on the constitutional requirements, the new regulation of automated systems and AI in Royal Decree-Law 6/2023 is analysed, which is considered insufficient. It is also studied the obligation to regulate guarantees by law, pointing out the difficulty of regulating guarantees in addition to those of the RIA. Furthermore, a regulation of guarantees based on comparative standards is proposed. Finally, the supervisory functions of the authorities under the RIA are described and it is explained that only the General Council of the Judiciary (Consejo General del Poder Judicial) can be the supervisory authority for high-risk jurisdictional IA systems in Spain, due to its independence and the separation of powers. Neither the Spanish Artificial Intelligence Supervisory Authority (AESIA) nor the Spanish Data Protection Agency (AEPD) fulfil the necessary requirements for this role in the jurisdictional sphere.

Palabras clave:

Inteligencia artificial; sistemas automatizados; protección de datos; uso justicia; Consejo General del Poder Judicial; legalidad.

Key words:

Artificial intelligence; automated systems; data protection; justice; Consejo General del Poder Judicial; legality.

Texto completo:

PDF