Communicating in the Infosphere. Digital Society and the New Vulnerability of the Human Person

Comunicare nell’infosfera. Società digitale e nuova vulnerabilità della persona umana.

Autor:

Raffaella Messinetti. Professore ordinario di Diritto Privato, Sapienza-Università di Roma. Email: raffaella.messinetti@uniroma1.it

Resumen:

Il lavoro si propone di ricercare, nel dialogo tra etica e diritto sui temi dell’Intelligenza artificiale, strumenti capaci di tutelare la persona umana dalle nuove vulnerabilità coniate dalla società digitale. In questa prospettiva, centrale è il seguente quesito: il diritto alla spiegazione della decisione algoritmica è un principio etico universale ma è anche un diritto in senso giuridico? La risposta è che nel sistema giuridico europeo, alla stregua dell’interpretazione sistematica e assiologica dell’art. 22 del GDPR, quel diritto esiste: costruito come una garanzia individuale fondamentale nel processo algoritmico che sia interamente automatizzato e ad “alto rischio” per l’impatto della decisione nella sfera della persona. La conclusione raggiunta nel lavoro è che l’art. 22 GDPR ha un ruolo cruciale nel governo giuridico della tecnica: incorporare i principi di trasparenza ed “explanibility” nei sistemi decisionali governati dall’IA per assicurare che questi ultimi siano “umano-centrici” e “trustworthy”.

Palabras clave:

AI; machine learning; processi decisionali automatizzati; legibility; accountability; explainability; data protection; privacy; democrazia; trasparenza

Abstract:

The individual right to an explanation of an algorithmic individual decision is a universal ethical principle. But is it also a legal right? This Article argues that under European Law that right does exists: a new Data Protection right serving as a transparency and accountability tool in algorithmic decision-making addressed by art. 22 GDPR: solely automated decision-making, having high-risk impact on individual fundamental rights and freedoms. This Article shows that fully automated decisions with significant effects must be made explainable to individuals, allowing them to invoke their rights under the GDPR. The GDPR meant to incorporate the principles of transparency and explainability into AI-governed decision-making systems in order to make them be “human-centered” and “trustworthy”.

Key Words:

AI; machine Learning; automated decision making; legibility; accountability; explainability; data protection; privacy; democracy; transparency

Texto completo:

PDF