Il diritto giudica quello che fanno le persone. Se qualcuno provoca un danno, il giudice ricostruisce i fatti, individua le responsabilità e decide se vi sia stata colpa o dolo. L'oggetto del giudizio è sempre stato un'azione o un'omissione.
Con il progresso della tecnologia si è aggiunta anche la responsabilità dall'uso del prodotto al modo in cui il prodotto è stato concepito. Per intenderci: il difetto di costruzione che ha destinato quell’oggetto a produrre un incidente a causa proprio di quel difetto.
L'intelligenza artificiale potrebbe richiedere un ulteriore passo.
Un sistema di AI non esegue semplicemente istruzioni prestabilite in maniera meccanica. Riceve dati, costruisce rappresentazioni del problema e genera possibili soluzioni. Prima ancora di scegliere, crea un insieme di alternative.
Se un'AI prende una decisione sbagliata, la responsabilità riguarda soltanto la decisione finale oppure anche il fatto che quella decisione facesse parte delle possibilità che il sistema era stato progettato per prendere in considerazione?
Immaginiamo due sistemi di AI. Entrambi ricevono lo stesso problema. Il primo prende in considerazione cento possibili soluzioni, fra cui anche una gravemente dannosa. Il secondo è stato progettato in modo che quella soluzione non venga nemmeno generata. In entrambi i casi il danno non si verifica. Eppure esiste una differenza fondamentale: nel primo sistema l'opzione pericolosa apparteneva allo spazio delle possibilità; nel secondo era stata esclusa prima ancora che il sistema iniziasse a ragionare.
Ipotizzo allora che la responsabilità potrebbe allora non riguardare soltanto ciò che il sistema fa, ma anche il mondo delle possibilità che gli esseri umani hanno costruito al suo interno. Si tratta di una forma di responsabilità che precede l’azione. Non si tratta di un normale difetto di costruzione. L'oggetto della responsabilità non è il malfunzionamento del sistema, ma la configurazione dello spazio delle possibilità che il sistema è autorizzato a esplorare.
Per un essere umano questo ragionamento avrebbe poco senso. Le persone immaginano continuamente azioni che non compiranno mai. Il diritto non punisce i pensieri se, e fino a che, non diventano fatti.
Per un sistema di AI, invece, lo spazio delle possibilità non nasce spontaneamente. È il risultato della progettazione del modello, dei dati di addestramento, dei criteri di ottimizzazione, dei vincoli inseriti e anche di quelli omessi.
Se questa prospettiva è corretta, la responsabilità di chi sviluppa e rilascia un modello di AI non riguarda soltanto gli effetti prodotti, ma anche la configurazione dell'universo delle decisioni che il sistema è stato progettato per poter generare.
La questione è più chiara se pensiamo a quando un sistema AI suggerisce a una persona vulnerabile il suicidio, propone strategie per aggirare una norma oppure elabora soluzioni gravemente pericolose. Il problema non è soltanto che quelle risposte vengano fornite, ma che facciano parte delle risposte che il sistema considera legittimamente generabili.
Anche se il sistema accompagna queste risposte con l'avvertimento di non metterle in pratica, resta una domanda: era inevitabile che quella risposta potesse essere generata oppure quella possibilità avrebbe potuto essere esclusa già nella progettazione? Se era tecnicamente possibile escludere quella risposta già nella progettazione, allora il problema non riguarda soltanto ciò che il sistema ha detto, ma il fatto che quella risposta appartenesse al suo spazio delle possibilità.
Sarebbe un cambiamento significativo, forse necessario. Per la prima volta il diritto potrebbe essere chiamato a giudicare non soltanto ciò che una macchina ha fatto, ma anche lo spazio delle decisioni che gli esseri umani hanno deciso di renderle accessibile.