Limiti e opportunità dell’AI Act: due spunti di riflessione in tema di definizioni e approccio by design

Attraverso due esemplificazioni, una dedicata alla definizione di “sistema di IA”, una dedicata al rapporto tra design dei sistemi e ristoro, il seguente studio valuta criticamente opportunità e limiti dell’approccio normativo del Regolamento 2024/1689 (“AI Act”). La strategia regolatoria consiste non tanto nel tentativo di “sanare” gli effetti di un'innovazione già in atto come l’IA, ma di guidarla fin dall'inizio, creando tecnologie che siano intrinsecamente responsabili, allineate con i valori della società, rispettose di diritti e principi fondamentali. Tale strategia normativa, generalmente indicata come New Legislative Framework (NLF), affianca alcune definizioni ad obblighi generici (integrati da standard tecnici), meccanismi di accertamento della compliance e obblighi di notifica, lasciando alle autorità competenti il compito di monitorare il mantenimento della conformità attraverso procedure di controllo e audit. Il NLF è ampiamente utilizzato nella regolamentazione di prodotti che presentano rischi intrinseci alla loro conformazione o al loro settore di utilizzo, in genere verso salute o diretti a categorie di soggetti particolarmente vulnerabili. La difficoltà di regolamentare l’IA secondo questo schema risiede a) nell’intrinseca mutevolezza di una tecnologia in fieri come l’IA, b) nella portata molto ampia di diritti e libertà fondamentali potenzialmente lesi da un sistema IA e c) dall’utilizzo pervasivo di sistemi automatizzati in contesti ampi e fortemente eterogenei I due casi di studio presentati di seguito (sez. 2 e 3) evidenziano possibili criticità in due aree vitali, ossia la definizione dell’oggetto di normazione e la predisposizione di meccanismi di ristoro. La sezione conclusiva riassume l’elaborato e identifica potenziali soluzioni.