Potere algoritmico, digital welfare state e garanzie per gli amministrati. I nodi ancora da sciogliere.

The public administration has long been invested by a process of digitisation, which has generated gains in efficiency within the offices and externally in favour of users. In recent years, however, the spread of the use of algorithms and, more generally, of new technologies that make use of big data has affected administrative action “from within”, changing the way decisions are made and public policies are developed, from transport to the health system, from public safety to welfare policies. Precisely in the field of social policy, the collection and processing of large amounts of data analysed and processed by algorithms is at the root of the rapid deployment of software and platforms used in predictive function for the release of benefits and performance, but also in function of control, verification and surveillance to prevent or sanction. The use of data, including personal data, by the administration in the adoption or denial of measures that grant benefits to the interested parties is not a recent phenomenon. The automation of this process, however, has changed its characteristics with undeniable benefits for citizens, for example, in terms of access to social benefits, uniformity of the relevant criteria and speeding up of practices, and for the administration in terms of the use of public resources and the prevention of fraud. The advent of digital welfare systems using algorithms and big data also increases the risks of discrimination and violation of fundamental rights, as recently noted in an UN report according to which in social protection services there are a significant lack of transparency in data processing systems through new technologies with consequences in terms of violation of the rights of interested parties (such as the right to privacy and the respect for private life), a lack of responsibility of the involved actors, public and private, and a high risk of errors and prejudices in the adoption of public policies and decisions. Starting from the analysis of a case study in the Netherlands, the work highlights the main problems posed by decisions through algorithms and analyses the remedies provided by the jurisprudence and the existing legislation, even at a supranational level. The paper concludes with some reflections on the critical issues still unresolved and on the effects that these may have on the administrative power and on the relations with the citizens.

Sommario: 1. Decisioni pubbliche e algoritmi tra buon andamento, imparzialità e tutela dei diritti fondamentali. — 2. Un caso di studio: il sistema SyRI, funzionamento e finalità. — 3. L'interesse pubblico tutelato dal governo olandese e la verifica di compatibilità del sistema SyRI con l'art. 8 CEDU da parte del Tribunale dell'Aia. — 4. Il controllo giurisdizionale sull'adeguatezza delle garanzie nel test di proporzionalità sul sistema SyRI. — 5. SyRI è illegittimo: la sentenza di accoglimento del Tribunale olandese. — 6. La decisione algoritmica e i nodi da sciogliere. — 7. I rimedi nella fase di formazione della regola algoritmica. Le valutazioni di impatto sui rischi. — 8. Il principio di trasparenza come strumento di intellegibilità e di due process nel processo di decision making. — 9. Contrappesi e limiti al potere algoritmico nella ricerca di un bilanciamento non sempre perseguibile. La pubblica amministrazione è stata da tempo investita da un processo di digitalizzazione. Se inizialmente questo processo ha modificato l'amministrazione, migliorandone gli strumenti (dal passaggio ai documenti informatizzati all'uso di programmi per rendere più veloce l'attività quotidiana) con un guadagno di efficienza interna agli uffici ed esterna a favore degli utenti, negli ultimi anni, gli algoritmi e più in generale, le nuove tecnologie che si avvalgono di big data, hanno inciso sull'azione amministrativa “dall'interno”, cambiando il modo di assumere decisioni ed elaborare politiche pubbliche, dai trasporti al sistema sanitario, dalla pubblica sicurezza alle politiche di welfare. Proprio nel settore delle politiche sociali, la raccolta e l'elaborazione di grosse quantità di dati analizzati e trattati mediante algoritmi è alla base della rapida diffusione di software e piattaforme utilizzati in funzione predittiva al fine del rilascio di benefici e prestazioni, ma anche in funzione di controllo, verifica e sorveglianza per prevenire o sanzionare. L'uso di dati anche personali da parte dell'amministrazione nell'adozione o nel diniego di provvedimenti che concedono benefici agli interessati non rappresenta un fenomeno recente. L'automazione di questo processo, tuttavia, ne ha mutato le caratteristiche con innegabili benefici per i cittadini, ad esempio, per l'accesso alle prestazioni sociali e l'uniformità dei relativi criteri e la velocizzazione delle pratiche, e per l'amministrazione, in termini di impiego delle risorse pubbliche e prevenzione delle frodi. L'avvento di sistemi di digital welfare state che si avvalgono di algoritmi e big data aumenta, tuttavia, anche i rischi di discriminazione e violazione dei diritti fondamentali, come da ultimo osservato in un recente rapporto ONU secondo il quale nei servizi di protezione sociale si ravvisa una significativa opacità nei sistemi di trattamento e utilizzo dei dati attraverso le nuove tecnologie con conseguenze in termini di violazione dei diritti degli interessati (come il diritto alla privacy e al rispetto della vita privata), una scarsa responsabilità degli attori, pubblici e privati coinvolti, e il rischio di errori e pregiudizi nell'adozione delle politiche e delle decisioni pubbliche è elevato .