Il problema della trasparenza algoritmica

Artificial intelligence, mainly machine learning systems, assumed a pervasive and ubiquitous role in automated or semi-automated decision-making processes that determine the behaviour of machines and people. These decisional processes are based on rules that algorithms automatically derive from data and that can remain unknown both to the developers themselves and to their users. Such opacity can determine the application of discriminatory rules. This paper deals with the concept of transparency as a possible answer to the questions posed by algorithms, distinguishing policy options from solutions actually experienced in specific regulatory contexts, despite the broader gnoseological problem created by the advent of algorithmic systems.

L’intelligenza artificiale, e in particolare i sistemi di machine learning, ha assunto un ruolo pervasivo e ubiquitario nei processi decisionali automatizzati o semiautomatizzati che determinano comportamenti di macchine e persone. Tali processi decisionali sono basati su regole che gli algoritmi ricavano automaticamente dai dati e che possono restare ignote sia agli stessi sviluppatori che ai loro utilizzatori. Tale opacità può determinare l’applicazione di regole discriminatorie. Il presente lavoro si occupa del concetto di trasparenza come possibile risposta alle questioni poste dagli algoritmi, distinguendo opzioni di policy da soluzioni effettivamente esperite in specifici contesti normativi, pur tenendo sullo sfondo il più ampio problema gnoseologico creato dall’avvento dei sistemi algoritmici.