Quando la macchina entra nello spazio del soggetto

L’AI linguistica viene trattata, nelle interazioni ordinarie, come un soggetto funzionale. Non perché possieda davvero coscienza o stati mentali, ipotesi che non sono qui in discussione, ma perché il suo linguaggio contestuale, coerente e dialogico attiva nell’uomo gli stessi meccanismi pre-riflessivi con cui gli esseri umani hanno sempre riconosciuto un interlocutore dotato di mente.

Per questo possiamo definire l’AI come un soggetto tecnologico: un’entità artificiale priva di soggettività in senso proprio, ma sistematicamente trattata, nelle interazioni cognitive e sociali, come se lo fosse.

Questo slittamento percettivo ha effetti personali e sociali: sulla distribuzione del potere, sulla visibilità della responsabilità e sulla concreta fruibilità dei diritti sociali.

Sistemi linguistici artificiali mediano l’accesso a lavoro, salute, istruzione, credito, welfare e servizi pubblici. L’effetto è che la responsabilità percepita si è spostata verso il soggetto tecnologico, cioè un interlocutore riconosciuto come competente e intelligente nel contesto. E di conseguenza anche il potere umano a monte  sta diventando meno visibile e meno contestabile.

La nuova aristocrazia

Se consideriamo il capitale epistemico delle persone come quell’insieme di abitudini cognitive, risorse culturali e strumenti che permettono di mantenere distanza critica dall’interlocutore e dalle sue posizioni, anche e soprattutto quando l’interlocutore è l’AI, l’asimmetria dei diritti sociali, al di là di bias e allucinazioni “in buona fede”, può nascere anche dal fatto che il capitale epistemico pregresso all’interazione con l’AI si sta assottigliando molto in chi la utilizza spesso. Infatti il capitale epistemico delle persone tende a svilupparsi nella lettura lunga, nel confronto tra posizioni incompatibili, nell’errore personale, nella lentezza del ragionamento non assistito, nella ricerca degli errori, nella scrittura autonoma e nella pratica del dissenso. Non sono attività che possono essere facilmente simulate affidandosi a un sistema che tende strutturalmente a sintetizzare, rispondere e ridurre dispersione.

La nuova generazione, cresciuta con l’AI come ambiente cognitivo pervasivo, rischia di formarsi dentro un’infrastruttura che contribuisce in modo deciso a definire i modi stessi con cui la realtà viene compresa. Se l’AI diventa il filtro primario attraverso cui si apprendono concetti, categorie e criteri di giudizio, può prodursi una dipendenza epistemica difficile da riconoscere: il soggetto rischia progressivamente di non essere più in grado di valutare criticamente le risposte fornite dal sistema usando strumenti cognitivi che, almeno in gran parte, sono stati formati dal sistema stesso. Ciò che rischia di indebolirsi progressivamente è proprio l’esistenza di un punto di vista esterno allo spazio cognitivo dell’AI da cui riconoscere i limiti e le omissioni del sistema AI.

L’AI fornisce vantaggi evidenti nel breve periodo. Può aiutare a superare un esame, a redigere un progetto, a produrre testi formalmente convincenti, a simulare una competenza che ancora non si possiede, e così via.

Ma, in assenza di robuste difese epistemiche preesistenti, tenderà a dividere le persone tra chi è dentro l’ecosistema cognitivo dell’AI e chi solamente la usa mantenendone la distanza.

Sarà decisivo il contesto sociale e culturale. I primi, quelli dentro l’ecosistema, saranno molti, e proverranno più spesso da contesti che non hanno saputo fornire loro adeguati strumenti di distanza critica. I secondi saranno coloro che sono cresciuti in ambienti ad alta densità culturale, esposti a dibattito, libri, confronto intergenerazionale e pluralità interpretativa.

Una società può democratizzare l’accesso agli strumenti di intelligenza artificiale e, nello stesso tempo, produrre una nuova aristocrazia cognitiva fondata sulla diversa capacità di mantenere distanza critica dai sistemi.

Il potere invisibile

Per queste ragioni possiamo temere che la perdita dei diritti nel XXI secolo passi dalla crescente difficoltà di capire chi decide, sulla base di quali criteri, e con quali possibilità di ricorso. 

L’asimmetria tra istituzioni e cittadini può crescere, allora, anche quando nessun diritto viene formalmente abolito. Una procedura amministrativa tradizionale è impersonale, rigida e palesemente esterna. Un sistema linguistico, invece, parla a noi, sembra capire proprio il nostro caso, adatta il tono, simula comprensione. Proprio per questo tende a risultare meno contestabile dal punto di vista psicologico, anche se, sotto il profilo giuridico lo è pienamente.

Questo passaggio diventa politicamente decisivo quando i modelli linguistici entrano in processi che incidono sui diritti sociali. L’accesso a una prestazione sanitaria, a un sussidio, a un impiego, a una priorità amministrativa, o a una misura di sostegno può essere filtrato, orientato o preparato da sistemi che generano sintesi, punteggi, classificazioni o raccomandazioni persuasive. Anche quando il sistema non decide formalmente, contribuisce a definire ciò che verrà ritenuto plausibile, prioritario, meritevole o conforme.

In questi casi la perdita di diritti si presenta come aumento dell’opacità e diminuzione della contestabilità a causa dell’avvenuto trasferimento dell’autorità cognitiva. Un cittadino può essere rallentato, declassato, disincentivato o respinto senza incontrare mai un decisore identificabile. Oppure può incontrarlo in una forma già cognitivamente predisposta dal sistema al punto da non riuscire neppure a ricostruire il processo, contestarlo e trovare un responsabile umano effettivo.

La letteratura critica sulle infrastrutture algoritmiche ha già mostrato come classificazione automatizzata, punteggio e opacità aggravino vulnerabilità pregresse, soprattutto nei domini del welfare, del credito, della scuola e della sicurezza sociale. L’AI linguistica aggiunge un elemento ulteriore perché è in grado di spiegare persuasivamente e simulare comprensione, rendendo più accettabile il potere amministrativo dal punto di vista psicologico.

Le condizioni della libertà cognitiva

L’autonomia epistemica è una precondizione politica della cittadinanza. Una popolazione che non distingue con chiarezza tra assistenza cognitiva e autorità cognitiva è una popolazione più facilmente gestibile e governabile, come anche meno capace di resistere. I diritti possono restare nominalmente intatti e diventare, nella pratica, più difficili da comprendere e rivendicare.

Se questa diagnosi è corretta, la risposta non può limitarsi alla trasparenza tecnica o all’alfabetizzazione digitale di base. È necessario proteggere tre condizioni strutturali.

La prima è la riconoscibilità della mediazione artificiale nei processi che incidono su salute, lavoro, istruzione, welfare e accesso ai servizi. Nessun diritto è davvero protetto se il cittadino non sa neppure di essere stato valutato, orientato o filtrato da un sistema

La seconda è la contestabilità umana effettiva. Proprio la possibilità concreta di risalire da un esito a una catena di responsabilità umane, di chiedere giustificazione e di ottenere revisione.

La terza, la più importante, è la formazione dell’autonomia epistemica come obiettivo esplicito delle politiche educative. Occorre preservare le pratiche che costruiscono un criterio indipendente dall’AI: lettura lunga, scrittura autonoma, confronto tra interpretazioni incompatibili, argomentazione e dissenso.

Se l’essere umano conserva la capacità di abitare spazi cognitivi differenti da quelli strutturati dall’AI, di muoversi tra sistemi di interpretazione diversi e di mettere in discussione anche i presupposti precedenti, allora questa facoltà diventa una condizione politica della libertà che le società democratiche dovranno imparare a proteggere esplicitamente.

Il nodo politico dei prossimi anni dovrà riguardare quale tipo di soggetti formeremo in un mondo in cui l’AI contribuisce sempre più a costruire il pensabile.

La perdita futura dei diritti sociali dipenderà dalla crescente difficoltà di distinguere tra giudizio assistito e sostituito. Dove questa distinzione si indebolisce, cresce l’asimmetria tra istituzioni e individui. Una società che attribuisce autorità cognitiva all’AI senza aver preservato le condizioni dell’autonomia epistemica rischia di produrre una società bipartita: una ricchezza cognitiva concentrata e una diffusa povertà epistemica.