I processi automatici di decisione: profili critici sui modelli di analisi e impatti nella relazione con i diritti individuali

Abstract

Il contributo prende in considerazione le implicazioni economico-giuridiche relative all’utilizzo degli algoritmi automatici per le decisioni. Gli algoritmi automatizzati possono sostituirsi ai decisori creando dei contratti, modellando il negozio giuridico, disponendo delle obbligazioni per le parti. Chiaramente si pone la questione degli effetti giuridici di tali decisioni sulle parti e i terzi, e, fatto ancora più grave, si manifestano dei rischi di sostenibilità sistemica. Infatti, la crescita del numero delle decisioni pone delle questioni assai rilevanti in termini di crescita della probabilità di crisi e di manifestazione di avvenimenti avversi. Occorre allora essere attenti alla modellistica metrica utilizzata per analizzare l’impatto delle decisioni automatizzate sia a livello sistemico che nelle posizioni giuridiche dei singoli che possano venire coinvolti ed evitare effetti discriminatori o distorsivi. In questo senso vengono proposti in modo dialettico il metodo gaussiano e il metodo black swan. Il metodo gaussiano impedisce di considerare eventi altamente improbabili eppure distruttivi. Il metodo black swan consente di avere degli strumenti per valutare l’altamente improbabile. Gli algoritmi decisionali possono annullare la stabilità dei sistemi giuridici ed economici e minarne le basi introducendo nuovi paradigmi di funzionamento. Occorre allora accompagnare l’applicazione degli algoritmi automatici con modelli di governance e regolazioni di diritto che siano in grado di ridurre il rischio di eventi avversi distruttivi, di tutelare i contraenti e garantire la sostenibilità del sistema anche alla luce dei diritti individuali e sociali di ciascuno.