L’uso preparatorio dell’AI come limite agli eccessi regolativi. Per una valutazione “in concreto” dell’intelligenza artificiale applicata all’agire pubblico

Classifying the AI systems as auxiliary and preparatory takes away importance from the debate on fully automated, robotic public decision-making, which could possibly exclude the human decision-maker. At the same time, this approach allows us to think in terms of decisional procedure rather than algorithmic decision (in the sense of fully automated decision-making), viewing the output produced by AI systems as a decision-making proposal to be submitted to prior consultation with stakeholders, which can expose any inconsistencies, discrimination, or gaps in the system’s functioning. The use of artificial intelligence systems within public administrations (and, more generally, in contemporary society) must be inspired by the principle of complementarity and aimed at preserving and enhancing human capabilities, not replacing them

La qualificazione dei sistemi di AI come ausiliari e preparatori toglie rilevanza al dibattito sulla decisione pubblica integralmente automatizzata, robotica, da cui il decisore umano verrebbe completamente estromesso. Al contempo, questo approccio consente di ragionare in termini di procedimento anziché di provvedimento algoritmico (nel senso di decisione integralmente automatizzata), considerando l’output prodotto dai sistemi di AI come una proposta decisionale da sottoporre al contraddittorio preventivo degli interessati, che può consentire l’emersione di eventuali incongruenze, discriminazioni, lacune nel funzionamento del sistema. L’uso di sistemi di intelligenza artificiale all’interno delle pubbliche amministrazioni (e, più in generale, nella società contemporanea) deve ispirarsi al criterio della complementarietà, ed essere indirizzato a preservare e potenziare le capacità umane, non a sostituirle.