L‘AI Act è una proposta di legge europea sull’intelligenza artificiale (AI) presentata dalla Commissione UE il 21 aprile 2021.
Lo scorso 11 maggio, la Commissione per il Mercato Interno e la Commissione per le Libertà Civili dell’Unione Europea hanno approvato il testo della proposta e, se sarà approvata anche dal Parlamento e dal Consiglio UE, diventerà la prima legislazione al mondo sulla regolamentazione dell’AI.
Obiettivi dell’AI Act e risk-based approach
Il testo della proposta di legge mira a garantire che i sistemi di IA siano sicuri, trasparenti, tracciabili, non discriminatori, rispettosi dell’ambiente e, soprattutto, che restino sotto il controllo umano.
Le norme proposte seguono un approccio basato sul rischio e stabiliscono una serie di obblighi e divieti a seconda del livello di rischio che l’IA può generare. I sistemi di IA che presentano un livello di rischio inaccettabile per la sicurezza delle persone sono severamente vietati, compresi i sistemi che utilizzano tecniche subliminali o manipolative, che sfruttano le vulnerabilità delle persone o che sono utilizzati per il social scoring (ossia per classificare le persone in base al loro comportamento, status socio-economico e caratteristiche personali).
Nella versione più recente del testo, gli eurodeputati hanno ampliato l’elenco delle attività considerate ad alto rischio, vietando così ulteriori utilizzi dei sistemi di IA che possono risultare discriminatori o intrusivi.
In particolare sono stati vietati:
- sistemi di identificazione biometrica remota “in tempo reale” negli spazi pubblici;
- sistemi di identificazione biometrica a distanza “a posteriori” (con l’unica eccezione delle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione dell’autorità giudiziaria);
- sistemi di categorizzazione biometrica che utilizzano informazioni considerate sensibili (come sesso, etnia, orientamento politico o religione);
- sistemi di controllo di polizia di tipo predittivo (come quelli basati su comportamenti criminali passati);
- sistemi di riconoscimento delle emozioni nelle forze dell’ordine, nella gestione delle frontiere, nei luoghi di lavoro e nel settore della formazione.
È stata vietata anche la raccolta indiscriminata di dati biometrici dai social media o dai filmati delle telecamere a circuito chiuso per creare database di riconoscimento facciale.
Per quanto riguarda i sistemi di IA generativa, come ChatGPT, la proposta di legge prevede maggiori obblighi di trasparenza, come quello di rivelare che il contenuto è stato generato dall’IA. Si impone anche di progettare il modello di AI generativa in modo da evitare che generi contenuti illegali e che violi i diritti d’autore sui materiali utilizzati per l’addestramento.
I prossimi passi nell’iter di approvazione dell’AI Act
L’AI Act diventerà legge solo quando il Consiglio e il Parlamento Europeo avranno approvato una versione comune del testo. Prima di poter avviare i negoziati con il Consiglio sulla versione definitiva dell’AI Act, la proposta di legge dovrà essere approvata dall’intero Parlamento, il cui voto è previsto per la sessione del 12-15 giugno.
Ilaria Feriti