Cosa resta della responsabilità quando decidiamo insieme alle macchine?
Resta l’aspetto della responsabilità che riguarda la nostra interazione con le macchine stesse. Dico “nostra” nel senso di noi esseri umani. Questa responsabilità riguarda soprattutto due livelli. È la responsabilità dei programmatori, costruttori, collaudatori, ecc. di macchine e sistemi di intelligenza artificiali, ad esempio. In particolare è la responsabilità di chi con queste macchine e sistemi fa business. È poi la responsabilità di ciascuno di noi, in quanto utilizzatore di tali apparati. Infatti ciascuno di noi, attraverso l’attivazione di determinati processi, con i suoi prompt, con certi utilizzi abituali, indirizza macchine e programmi in un certo modo e produce certe conseguenze negli ambienti in cui vive.
Come cambia la fiducia quando una parte crescente delle decisioni viene delegata ai sistemi algoritmici?
La fiducia è un atteggiamento che oggi viene esteso anche a programmi e a macchine. Pensiamo al fatto che, talvolta, ci fidiamo più di Google Maps che dei nostri occhi. Questa estensione della fiducia non è però consapevole, in molti casi, di come funzionano determinati sistemi e della differenza del loro funzionamento rispetto al modo in cui si comportano gli esseri umani. L’antropomorfizzazione delle macchine prende invece il sopravvento. E dunque, per nostra ignoranza, finiamo per non rapportarci a esse nella maniera corretta. Ne sfruttiamo le opportunità senza però comprenderne i rischi. Nei confronti degli esseri umani, o quanto meno rispetto ad alcuni di essi, abbiamo imparato invece a stare in guardia.
La storia dell’uomo può essere letta come una progressiva delega di funzioni?
Può essere vista come un duplice processo. Alla ripetuta delega di alcune funzioni ha sempre corrisposto l’acquisizione di altre funzioni. A un deskilling è seguito un reskilling. Quando si è rinunciato alla centralità della memoria, con il venir meno della cultura orale, è diventato ad esempio necessario, per la trasmissione delle conoscenze, imparare a scrivere e a leggere. Il rischio oggi è che a una massiccia perdita di competenze non corrisponda quella riqualificazione, altrettanto e forse ancora più massiccia, di cui abbiamo bisogno.
Chi è responsabile quando nessuno decide da solo?
È responsabile chi orienta le decisioni. È responsabile chi si fa orientare dagli altri.
