C'è una debole argomentazione che ricorre spesso quando si parla del futuro della tecnologia, in questo momento storico soprattutto quando si parla di intelligenza artificiale: «Un tempo sembrava impossibile volare, oggi abbiamo gli aerei. Persino gli elicotteri (aggiunge il più informato)! Sembrava impossibile trapiantare un cuore, oggi lo facciamo anche in provincia. L'uomo ha sempre superato i propri limiti e continuerà a farlo». È un ragionamento suggestivo, ottimista e rassicurante. Purtroppo è logicamente sbagliato.
Il fatto che l'uomo abbia realizzato moltissime cose che sembravano impossibili prima della realizzazione non dimostra che possa realizzarle tutte. È un'induzione ingiustificata: dall'osservazione di numerosi successi particolari si ricava una conclusione universale.
David Hume aveva già individuato il problema fondamentale dell'induzione: il fatto che qualcosa sia accaduto ripetutamente non garantisce, da solo, che continuerà ad accadere. E non permette di estendere una regolarità oltre ciò che abbiamo effettivamente osservato.
E per essere completi: la storia della scienza non è soltanto la storia delle cose che siamo riusciti a fare. È anche la storia delle cose che abbiamo dimostrato di non poter fare. E alcune ci sembravano così realizzabili da provarci con insistenza.
Le cose impossibili
Per secoli inventori e scienziati hanno cercato di costruire una macchina a moto perpetuo, capace di produrre lavoro senza consumare energia. Non ci sono riusciti. Ma soprattutto abbiamo scoperto perché non potevano riuscirci: una macchina del genere violerebbe i principi della termodinamica: è un’impossibilità fisica, secondo le leggi che conosciamo. Ora sappiamo che se anche l’uomo è riuscito a volare questa cosa non si può proprio fare. E lo stesso anche per gli esempi successivi.
La relatività speciale ci dice che non possiamo trasmettere informazioni più velocemente della luce nel vuoto: è la struttura stessa della teoria a imporre quel limite.
Per secoli si è cercata una formula generale, basata sui radicali, per risolvere le equazioni di quinto grado, come quelle esistenti per il secondo, terzo e quarto grado. Abel e Galois hanno dimostrato che una formula generale di quel tipo non esiste.
Alan Turing ha dimostrato che non può esistere un algoritmo universale capace di stabilire, per qualsiasi programma e qualsiasi input, se il programma terminerà oppure continuerà indefinitamente.
Kurt Gödel ha dimostrato che ogni sistema formale coerente, i cui assiomi siano elencabili mediante un algoritmo e che sia abbastanza potente da esprimere l’aritmetica, è necessariamente incompleto: esistono affermazioni che, con gli strumenti di quel sistema, non possono essere né dimostrate né confutate.
Nella meccanica quantistica, infine, non esiste un procedimento capace di copiare perfettamente qualsiasi stato quantistico sconosciuto. Inoltre, una particella non può avere contemporaneamente una posizione e una quantità di moto entrambe definite con precisione illimitata.
Non sono problemi che aspettano un ingegnere più bravo, un computer più potente, qualche miliardo di finanziamenti, o tempo che tende a infinito. Sono limiti che abbiamo scoperto e definito attraverso il pensiero, la matematica e la scienza. Realizzare un’impresa difficilissima è impressionante. Ma dimostrare che un’impresa, alla quale generazioni di scienziati hanno dedicato studi e tentativi, è impossibile lo è forse altrettanto
Per ragionare correttamente dobbiamo distinguere almeno quattro categorie.
L'impossibilità logica. Per esempio non possiamo costruire un quadrato rotondo, mantenendo invariati i significati delle parole. La contraddizione è interna alla definizione stessa dell'oggetto.
L'impossibilità matematica. Abbiamo visto che non possiamo trovare un algoritmo che risolva il problema generale dell'arresto.
L'impossibilità fisica. Non possiamo costruire una macchina che violi il secondo principio della termodinamica, assumendo valide le leggi fisiche attualmente conosciute.
Queste impossibilità fisiche tuttavia hanno una natura diversa da quelle matematiche: dipendono dalle nostre teorie sul mondo, che restano empiricamente rivedibili.
La possibilità ancora da accertare. È la categoria più interessante, perché contiene tutto ciò che oggi non sappiamo fare, ma che non sappiamo neppure dimostrare impossibile.
È questa quarta categoria che viene facilonamente considerata la sala d’attesa del progresso: “tanto prima o poi vedrai…”
Una cosa che oggi non sappiamo realizzare potrebbe essere realizzata domani, fra cento anni oppure mai. Ma potrebbe anche accadere qualcosa di diverso: potremmo scoprire una legge fisica, una contraddizione logica o una dimostrazione matematica che ci permetta di trasferirla definitivamente, o almeno entro una teoria fisica ben corroborata, nella categoria delle cose impossibili.
Il progresso della conoscenza non consiste soltanto nel rendere possibile ciò che non sapevamo fare. Consiste anche nel dimostrare impossibile ciò che credevamo di poter fare.
E l'intelligenza artificiale generale?
Quando qualcuno sostiene che l'intelligenza artificiale generale arriverà inevitabilmente perché l'uomo ha inventato gli aeroplani, gli elicotteri e i computer, sta muovendosi proprio in quell’errore: trasformare i successi del passato e la disponibilità di risorse in una garanzia di successo futuro
Questo non significa che l'intelligenza artificiale generale sia impossibile. Per affermarlo dovremmo prima definire rigorosamente che cosa intendiamo per intelligenza generale e poi individuare un limite logico, matematico o fisico che ne impedisca la realizzazione. E per far questo abbiamo bisogno di una filosofia che metta a punto una definizione condivisibile dopo aver risposto a molte domande tipo queste: Un sistema capace di risolvere problemi in discipline differenti è necessariamente intelligente? Comprendere significa elaborare correttamente informazioni? È possibile separare l'intelligenza dalla coscienza, dall'intenzionalità, dall'esperienza soggettiva? l’AGI potrà sentire come se fosse incarnata? o potrà avere sensazioni equivalenti senza avere un corpo? non avere un corpo è un requisito derogabile? L'AGI dovrà avere solo addestramenti o ricordi?
Non possediamo una dimostrazione generale dell'impossibilità dell'AGI. Ma non possediamo neppure una dimostrazione della sua inevitabilità.
Possiamo naturalmente fare previsioni, investire, sperimentare e formulare ipotesi. Non possiamo sicuramente trasformare una serie di successi tecnologici in una legge universale secondo la quale tutto ciò che immaginiamo diventerà realizzabile se ci si dedicano abbastanza risorse.
Ritengo che alcune delle conquiste intellettuali più straordinarie dell’uomo siano proprio le dimostrazioni dei suoi limiti. Dimostrare che qualcosa è impossibile può rappresentare un progresso del pensiero umano pari a quello di un’invenzione geniale.