Governance dell’Intelligenza Artificiale

Paola Liberace, Prefazione

Roberto Ruoppo, Introduzione

I. Italo Cerno, Gianluca Martinelli, Disposizioni generali

Finalità del Regolamento

• Scopo
• Mercato unico digitale

Oggetto

Ambito di applicazione

Applicazione parziale

Esclusioni

• Settori di competenza degli Stati membri
• Autorità pubbliche di Paesi terzi e organizzazioni internazionali
• Normative complementari
• Ricerca e sviluppo
• Uso strettamente personale
• Licenza libera e open source

Definizioni

• Sistema e modello di IA
• Gli elementi costitutivi della nozione di “sistema di IA”
• Il concetto di “rischio”
• I soggetti obbligati

Alfabetizzazione

Valutazione e riesame

Entrata in vigore e applicazione

Regime transitorio

II. Davide Borelli, Isabella Oldani, Le pratiche di IA vietate

Fondamento normativo e struttura sistematica

• Profili applicativi e regime transitorio

Il divieto di tecniche subliminali e manipolative

• Il quadro normativo
• Evoluzione della disposizione nel processo legislativo
• Fondamento e portata del divieto
• Interazione con il quadro normativo vigente e profili critici

Divieto di sfruttamento delle vulnerabilità

• Il quadro normativo
• Fondamento e portata del divieto
• Profili critici

Divieto di sistemi di punteggio sociale

• Il quadro normativo
• Il fenomeno del social scoring nel contesto internazionale
• Fondamento e portata del divieto
• Profili critici

Polizia predittiva

• Il quadro normativo
• Fondamento e portata del divieto
• I confini tra supporto algoritmico e decisione umana
• Profili sistematici e implicazioni etiche
• Sfide applicative

Divieto di scraping per finalità di riconoscimento facciale

• Il quadro normativo
• Il contesto tecnologico: web scraping e big data
• Interazione con il quadro normativo vigente
• La prospettiva della protezione dei dati personali

Divieto di sistemi per l’inferenza delle emozioni in ambito lavorativo ed educativo

• Il quadro normativo
• Fondamento e portata del divieto
• Profili critici

La disciplina della categorizzazione biometrica

• Il quadro normativo
• Coordinamento con il RGPD e profili critici
• Sfide tecnologiche emergenti

Identificazione biometrica remota in tempo reale

• Il quadro normativo
• Condizioni di utilizzo e garanzie
• Fondamento e portata del divieto
• Profili critici

III. Rosanna Celella, Federico Vota, I sistemi di IA ad alto rischio

Classificazione e requisiti di conformità

• L’ambito di applicazione
• I criteri di esclusione dalla categoria dei sistemi ad alto rischio
• Obblighi e requisiti

Sistema di gestione del rischio e governance dei dati

• Profili sistematici e operativi
• La struttura del sistema di gestione del rischio

Trasparenza informativa e supervisione umana

I requisiti di accuratezza, robustezza e cybersicurezza

Obblighi e responsabilità

Valutazione d’impatto sui diritti fondamentali

Autorità di notifica, organismi notificati e relativi subappaltatori

La procedura di notifica

• I requisiti strutturali e funzionali degli organismi notificati
• Procedura di valutazione e modifiche sostanziali
• Profili di riservatezza e responsabilità

Valutazione di conformità e organismi notificati

• Fondamenti della valutazione di conformità
• Struttura e articolazione del sistema valutativo
• Procedure di valutazione e ruolo degli organismi notificati
• Domanda di valutazione e accesso ai dati
• Certificazione e monitoraggio continuo
• Profili di interazione con il RGPD

Certificati, dichiarazione di conformità UE e marcatura CE

• Il sistema di certificazione e la marcatura CE
• Registrazione nella banca dati dell’UE
• Progressi normativi e prospettive di sviluppo

IV. Claudia Lupo, Gianluca Martinelli, Gli obblighi di trasparenza e i modelli di IA per finalità generali

L’antropocentrismo e il fondamento etico dell’IA trasparente

Oggetto e collocazione sistematica del “rischio trasparenza”

• La trasparenza in determinate categorie di Sistemi di IA
• La trasparenza nei modelli di IA per finalità generali
• Accountability, entrata in vigore degli obblighi e approccio basato sul rischio
• Esclusioni

Coordinate tecniche e profili definitori

• I modelli di GPAI e il loro rapporto con i sistemi di IA
• Nozione di modelli di GPAI recanti rischi sistemici

Transparency by design: un orizzonte possibile?

Sistemi di IA ex art. 50 e obblighi informativi

• Gli obblighi informativi in capo ai fornitori di determinati sistemi di IA e relative deroghe
• Gli obblighi informativi in capo ai deployer di determinati sistemi di IA e relative deroghe
• Oneri informativi trasversali
• Informative multilivello per contemperare i diversi obblighi, una soluzione possibile?

Gli obblighi informativi nei sistemi di IA per finalità generali

• Gli obblighi generali in capo a tutti i fornitori di Modelli GPAI
• Gli obblighi aggravati in capo ai fornitori di Modelli GPAI recanti rischi sistemici

I codici di buone pratiche e presunzione (relativa) di conformità agli obblighi di trasparenza

V. Niccolò Busetto, Le misure a sostegno dell’innovazione

Introduzione e contesto

Gli spazi di sperimentazione normativa per l’IA

• Definizione
• Le sandbox normative nel Regolamento sull’IA
• Il trattamento di dati personali nell’ambito delle sandbox normative

Esempi di sandbox normative in materia di IA in Europa. Il caso di Spagna e Italia

Prime riflessioni sulle regulatory sandbox

• I benefici delle sandbox
• Le criticità delle sandbox

  Sistemi ad alto rischio e la prova in condizioni reali

Altre misure a supporto dell’innovazione

Conclusioni

VI. Richard Mfum, Il sistema di governance nel Regolamento sull’IA

Introduzione

L’Ufficio europeo per l’IA

• Compiti
• Composizione e struttura

Consiglio europeo per l’intelligenza artificiale

• Compiti
• Composizione
• Struttura

Forum consultivo

• Compiti
• Composizione
• Struttura

Gruppo di esperti scientifici indipendenti

Autorità nazionali competenti

• Il ruolo delle autorità nazionali competenti
• Autorità nazionali competenti in Italia

VII. Rosanna Celella, Gianluca Martinelli, Richard Mfum, Isabella Oldani, Ambra Martina Sartori, Federico Vota, Il sistema di monitoraggio post-immissione

Monitoraggio successivo all’immissione sul mercato

Condivisione di informazioni su incidenti gravi

Applicazione

• Vigilanza del mercato
• Assistenza reciproca, vigilanza del mercato e controllo dei sistemi di IA per finalità generali
• Riservatezza
• Poteri delle autorità nazionali che tutelano i diritti fondamentali
• Procedura per i sistemi di IA che presentano un rischio
• Procedura di salvaguardia dell’Unione Europea
• Sistemi di IA conformi che presentano un rischio
• Non conformità formale
• Strutture di sostegno dell’Unione Europea per la prova dell’IA

Mezzi di ricorso

Supervisione, indagini, esecuzione e monitoraggio in relazione ai fornitori di modelli di IA per finalità generali

VIII. Camilla Bistolfi, I codici di condotta

Introduzione

La disciplina regolamentare

Analisi di un caso pratico: il Codice internazionale sull’IA del 2023

IX. Niccolò Busetto, Gli atti delegati nel Regolamento sull’IA

Diritto dell’Unione Europea

• Diritto primario e diritto secondario
• Gli atti delegati

Gli atti delegati nel contesto del Regolamento sull’IA

• Limiti temporali
• A mbito di applicazione
• Ulteriori adempimenti
• Entrata in vigore e revoca degli atti delegati
• Procedura di comitatologia

X. Ambra Martina Sartori, L’impianto sanzionatorio

Premessa

Le previsioni del Regolamento sull’IA

• Sanzioni
• Sanzioni a istituzioni, organi e organismi dell’Unione Europea
• Sanzioni ai fornitori di modelli di IA per finalità generali

Considerazioni conclusive

XI. Antonio Morelli, IA e proprietà intellettuale

Introduzione

• Il sistema della proprietà intellettuale: cenni storici e finalità di tutela
• L’impatto dei sistemi di IA in tema di proprietà intellettuale

Il rapporto tra l’IA e il diritto d’autore: una breve panoramica comparata della giurisprudenza

• L’ordinanza del caso statunitense “Stable Diffusion”
• Il diritto d’autore dell’utilizzatore del sistema di IA: il provvedimento della Beijing Internet Court
• La causa incardinata dal New York Times contro OpenAI e Microsoft
• Le prime posizioni dei giudici comunitari

La normativa comunitaria antecedente la pubblicazione del Regolamento sull’IA

• Quadro normativo
• La Risoluzione del Parlamento europeo sui diritti di proprietà intellettuale per lo sviluppo di tecnologie di IA

Il ruolo del Regolamento sull’IA nel sistema della proprietà intellettuale

Conclusioni

XII. Davide Borelli, Isabella Oldani, Principi etici e governance dell’IA

I principi etici dell’IA: evoluzione e sistematizzazione

• La nascita dei principi etici per l’IA
• I principi fondamentali: analisi e classificazione
• Le diverse declinazioni geografiche dei principi etici
• Convergenze e divergenze tra approcci pubblici e privati

L’attuazione dei principi etici

• Principi etici per l’IA ad alto rischio
• Principi etici in ambito sanitario
• Principi etici per l’IA nel settore pubblico
• Principi etici nel contesto commerciale

Ethics by design e operazionalizzazione dei principi

• Dall’enunciazione all’implementazione
• Strumenti e metodologie operative
• Il ruolo della certificazione etica

Le sfide dell’attuazione pratica

• Tensioni tra principi
• Questioni di accountability
• La dimensione collettiva dell’etica dell’IA

Osservazioni conclusive

Roberto Ruoppo, Conclusioni

I curatori e gli autori

Serie: Diritto per l'economia

Subjects: Change Management, Innovation Management - Law, Justice

Level: Books for Professionals