Verso un welfare state digitale? L’intelligenza artificiale tra politiche sociali e apparati di controllo

Il contributo ha l’obiettivo di analizzare i vantaggi e i possibili rischi associati all’uso di algoritmi per poter accedere a sempre più servizi in campo sociale. Da un lato si sostiene che gli algoritmi siano sempre più incomprensibili, anche agli stessi progettisti, perché l’algoritmo iniziale diventa altro da sé in seguito ai processi di machine learning. Alcuni autori sostengono che stiamo assistendo alla nascita di un nuovo ordine capitalista basato sulla sorveglianza digitale e che siamo passati a una condizione di cultura della sorveglianza. Alston (2019) parla di «welfare state digitale» per riferirsi ai tentativi di rendere prestati, mentre da più parti si richiama il rischio di minare ulteriormente i diritti dei già emarginati, esacerbando la disuguaglianza e la discriminazione, anziché attenuarle – come spesso è suggerito dai fautori dell’estensione dell’automazione anche alle politiche di welfare. Basti pensare al caso PredPol, un software nato con il proposito di prevenire la criminalità perché – si sostiene – in grado di prevedere il comportamento criminale, mentre non fa altro che procedere per inferenza a partire dai dati già in possesso della polizia locale (con tutti i problemi legati alla sovra- o sotto-rappresentazione di alcune categorie sociali più efficienti e mirati i servizi nelle statistiche sulla criminalità).