Pensare il pensiero

Da almeno due anni il dibattito “Intelligenza Artificiale: rischi e opportunità” ci assilla quotidianamente, supportato anche dai toni sensazionalistici adottati dalle Big Tech USA, che una volta al mese scoprono in segretissimi test quanto siano troppo potenti i loro sistemi.

Da un lato spingono su una commercializzazione massiva dei sistemi di AI, e dall’altro non perdono occasione di avvisare Governi e Istituzioni mondiali di quanto sia drammaticamente urgente porre dei limiti allo sviluppo dell’AI. Che ci siano rivoluzioni in atto è indubbio così com’è indubbio che tali rivoluzioni trovino un'utile sponda commerciale nelle ambigue e ipocrite dichiarazioni dei vari dirigenti di Anthropic, Google o OpenAI di turno.

A questo scenario si aggiungono i partiti dei catastrofisti e degli entusiasti, ma soprattutto dei saggi intellettuali moderati che ci invitano a non essere né gli uni né gli altri in un costante e superficiale invito alla prudenza.

Invece che saltare su uno dei carri a disposizione, quello che mi piacerebbe fare è un ulteriore passaggio finalizzato a capire perché i LLM non hanno niente a che fare con i processi della conoscenza, non hanno niente a che vedere neanche con le validità logiche e, per buona coscienza di tutti, non c’entrano assolutamente niente col pensiero.

Partiamo dunque dall’origine: cosa vuol dire conoscere, cosa vuol dire pensare e cos’è la logica. Già l’assunto rende chiaro quanto sia incredibilmente complesso affrontare questi temi. Sono domande alla base del pensiero e che assillano filosofi ed intellettuali da oltre 2500 anni. Non le risolveremo qui, ma cercheremo di farci qualche domanda piuttosto che darci tante risposte.

Sintetizzando e semplificando al massimo, potremmo forse dire che la conoscenza rappresenta sostanzialmente il modo in cui l’essere umano è nel mondo e le modalità con le quali esso lo vive e lo abita. E già qui entriamo nella prima tautologia: la domanda ha già implicitamente affermato che la conoscenza è relativa unicamente all’essere umano. Ma è chiaro che fino ad oggi abbiamo sempre inteso la conoscenza relativamente agli esseri umani e, più precisamente, operando un taglio trasversale lungo oltre duemila anni da Aristotele a san Tommaso, passando per Locke, Husserl fino ad arrivare ai nostri giorni, possiamo affermare che la conoscenza risiede in due facoltà specifiche dell’essere umano: sensi ed intelletto. Nella storia della filosofia l’ago della bilancia a volte si sposta da una parte e a volte dall’altra con tentativi, spesso disperati, di coniugare due facoltà così apparentemente lontane pur proprie dell’essere umano (leggi Cartesio o Kant).

Tuttavia, siamo tutti concordi nell’affermare che nessuno di questi elementi è posseduto da sistemi di intelligenza artificiale. Non esiste conoscenza sensibile nell’AI così come non esiste conoscenza “intellettuale”. Tra l’altro una conoscenza puramente intellettuale, per parafrasare Kant, è solo teoricamente (anzi teoreticamente) possibile.

Possiamo dunque dire, filosoficamente, che l’AI non è capace di conoscere in quanto priva di due caratteristiche proprie dell’essere umano con le quali quest’ultimo interagisce col mondo. Tuttavia è capace di connettere elementi già conosciuti, associarli tra loro e generare nuovi elementi.   

Ma il modo di associare elementi conosciuti potrebbe essere il fondamento, non della conoscenza, ma del pensiero? L’AI dunque non può conoscere. Ma potrebbe pensare?

E qua dovremmo provare a capire proprio cosa intendiamo quando parliamo di pensiero. Pensare non vuol dire “mettere insieme” cose conosciute ed elaborarle nel tentativo di arrivare a nuovi concetti o definizioni. Il processo del pensiero è estremamente più articolato. Nel 1954 viene pubblicato un piccolo ma illuminante testo: Was heißt Denken? (che cosa significa pensare?) di Martin Heidegger. Nel testo Heidegger cerca di specificare molto dettagliatamente proprio cosa è il pensiero e cosa vuol dire pensare. Per Heidegger l’atto del pensiero è una capacità propria dell’essere umano e che, tra l’altro, non è neanche già a priori in suo possesso. Siamo al secondo enunciato tautologico: se la conoscenza può essere una facoltà appartenente anche agli animali, il pensiero è tipicamente umano. L’enunciato già esclude in sé la possibilità che la macchina possa essere dotata del pensiero.   

Per Heidegger, infatti, l’uomo non pensa a prescindere, ma è una particolare attitudine che esso sviluppa nel momento in cui è solo con se stesso oppure è chiamato al pensiero da ciò che lo circonda. Il pensiero secondo l’interpretazione Heideggeriana ma, probabilmente in maniera trasversale anche se implicita, secondo tutta la tradizione filosofica occidentale è qualcosa che resta “su se stesso”, è un qualcosa che interroga la stessa attività del pensare.

Abbandoniamo dunque l’idea che “pensare” sia un qualcosa di scientifico o di analitico. Citando lo stesso Heidegger:

“Di fatto è vero: ciò che abbiamo detto finora e tutta la discussione che segue non hanno nulla da fare con la scienza, e ciò proprio là dove la nostra discussione si avvicina di più al pensiero. La ragione di ciò sta nel fatto che la scienza non pensa. Non pensa perché — in conseguenza del suo modo di procedere e dei suoi strumenti — essa non può pensare (…). La scienza non pensa. Questa, per la mentalità comune, è un’affermazione scandalosa. Lasciamo all’affermazione il suo carattere scandaloso, anche se, d’altra parte, aggiungiamo subito che la scienza, come ogni fare e non fare dell’uomo, non ha altra risorsa che il pensiero. Ma il rapporto della scienza con il pensiero è autentico e fruttuoso solo quando l’abisso che separa scienza e pensiero diventa visibile e se ne riconosce l’insuperabilità. Non c’è un ponte che conduca dalla scienza al pensiero; l’unico passaggio possibile è il salto”.

Pensare dunque non ha niente a che fare con il calcolo, non arriva per forza ad una conclusione. Ma soprattutto: non serve assolutamente a niente se non all’attività stessa del pensare. Capirete che tale definizione è probabilmente quanto di più lontano possa risiedere negli agenti AI, addestrati a dare sempre una risposta e che essa sia il più utile possibile.

Dunque l’AI non pensa. Possiamo però dire con una quasi totale certezza che sviluppa funzioni logiche.

Ma anche su questo elemento la realtà è molto più complessa di quello che appare. Senza entrare in dettagli troppo specifici, è abbastanza risaputo che i modelli di LLM risolvono problemi difficili e inciampano su problemi banali commettendo errori gravi in semplici processi di deduzione formale. Ad onor del vero va precisato che i modelli linguistici comunemente utilizzati non sono proprio addestrati per giungere a deduzioni formali, diverso è il caso di agenti sviluppati su AI simbolica che tendenzialmente danno risultati maggiormente corretti. Non è un caso se, fino a qualche anno fa, i sistemi di AI erano un vero disastro dal punto di vista matematico.

Detto questo, il quadro è cambiato negli ultimi anni. I modelli attuali risolvono bene gran parte dei problemi logici e matematici, anche complessi, arrivando a superare in molti casi gli esseri umani. Ma la domanda reale è: si tratta di reale intuizione oppure di impressionante capacità di calcolo? Di sicuro essi restano meno affidabili di un sistema formale, in quanto la correttezza non è garantita dal metodo ma da un risultato statistico che, per quanto possa essere davvero molto buono, decisamente non è infallibile.

Anche questo sembrerà una bestemmia per tanti lettori ma, di fatto, è verificabile attraverso esperimenti con i più comuni sistemi di AI. La debolezza dei sistemi consta nella distanza tra produrre un ragionamento che sembra corretto e garantire che ogni passaggio, all’interno di quel sistema, sia valido.

Infine, e questo credo sia un punto decisamente centrale, i sistemi di AI possono conoscere una regola logica, ma non è detto che essi possano applicarla correttamente nel caso concreto. La conoscenza di una regola e la sua applicazione “opportunistica” all’interno di processi logici sono capacità distinte. E al momento, se l’AI può conoscere le regole (probabilmente tutte le regole), essa non è ancora dotata di un’intuizione analitico/matematica tale da poter avere quel guizzo creativo e riuscire ad applicare tali regole nel caso specifico traendone effettivamente una conclusione nuova e inaspettata.

I recenti sviluppi dell’AI paiono smentire questa tesi, tuttavia (e si torna al punto di prima) è molto difficile stabilire quanto ci sia in termini di capacità intuitiva e quanto, invece, sia dovuto alle impressionanti capacità computazionali.

In conclusione l’AI non conosce, non pensa e non è capace di intuizioni logiche, almeno per come la tradizione ha inteso questi termini. Quindi non serve a nulla, di cosa ci preoccupiamo?

Partiamo dall’idea intanto che con l’AI abbiamo a disposizione la più grande capacità computazionale mai esistita. Possiamo fare centinaia e centinaia di operazioni complesse in un tempo fino ad ora considerato inimmaginabile. Tuttavia, per i sistemi LLM, la plausibilità semantica resta ancora il principale output che velocizza in maniera sostanziale le formalizzazioni logiche ma contiene già in sé un errore strutturale.

Su questo punto, probabilmente il più complesso, non vorrei passare per un ingenuo. La plausibilità semantica di fatto può influenzare il pensiero: gran parte della filosofia del Novecento (da Wittgenstein a Davidson) ha illustrato come il pensiero e il linguaggio siano intimamente connessi e come l’uno possa influire sull’altro in maniera biunivoca. Tuttavia questa posizione, molto più vicina ad un approccio analitico nell’analisi dei processi del conoscere, non considera il pensiero quale processo meditativo e in generale, ma questa è solo una mia opinione, credo che i processi linguistici siano un qualcosa che va molto al di là di semplici elementi formali, creando una “eccedenza di senso” al momento non comprensibile dagli LLM.

Ma c’è un però: con il continuo miglioramento dei sistemi di AI, l’affinamento dei sistemi di test-time compute, e dei sistemi neuro-simbolici, il futuro ci dice che probabilmente l’AI non penserà mai, ma i nostri processi intellettuali saranno decisamente influenzati dall’AI non tanto delegando il nostro pensiero all’AI ma cominciando a pensare “con” l’AI.

Ma torniamo un attimo ancora al “che cosa significa pensare”. Perché forse la vera differenza tra la macchina e l’essere umano non risiede più nella risposta, ma nella domanda. Quando il problema è dato e il successo è verificabile, le nostre capacità analitiche e quelle tecnologiche tendono davvero ad equipararsi se non addirittura ad essere superate.

Tornando ad Heidegger ed al suo Was heißt Denken?. Il titolo può significare sia “che cosa significa pensare?” ma anche “che cosa ci chiama a pensare?”, dato che heißen vuol dire anche “chiamare”. Heidegger sfrutta proprio questo doppio senso.

Probabilmente la distinzione tra l’uomo e la macchina non starebbe nella capacità di dare risposte quanto nell’“essere chiamati” dalla domanda. Una macchina può generare domande, ma niente la chiama a porle.

Resta dunque all’essere umano il dominio sulla domanda e la capacità di discernere se dare una risposta o cambiare domanda.