Decidere prima di decidere

Un team marketing deve decidere il posizionamento di un prodotto. Ci sono due opzioni sul tavolo. Il CEO carica i documenti e chiede un’analisi all’AI. Il modello produce un report strutturato: scenari coerenti e raccomandazioni plausibili orientano la decisione proprio a partire dall’analisi.

Il punto cruciale è che il potere non sta nella decisione finale, ma nella definizione dell’architettura della decisione. Chi stabilisce quali variabili sono rilevanti, quali metriche pesano di più e quali soglie di rischio sono accettabili ha già orientato l’esito. La scelta tra opzioni diventa un atto secondario rispetto alla selezione preliminare del campo di possibilità. L’AI definisce quali alternative meritano di essere prese sul serio. È in questo framing pre-decisionale che si sposta la sovranità cognitiva dell’organizzazione.

La stessa dinamica si riproduce quando un sistema indica il candidato ideale per un posto in azienda: il perimetro è già stato tracciato. Per discostarsene, l’HR dovrebbe assumersi esplicitamente il rischio di contraddire un’analisi percepita come più “oggettiva”. In questo caso l’AI legittima preventivamente una direzione condizionando la scelta.

Il fenomeno attraversa le funzioni aziendali. In ambito legale, ad esempio, è improbabile che venga proposta un’azione che il modello ha classificato come poco sostenibile; allo stesso modo, difficilmente si esplorano opzioni che non rientrano nell’analisi iniziale.

In ciascun caso, il sistema non decide al posto delle persone: delimita ciò che appare ragionevole decidere. Questo significa che in quelle riunioni, assieme agli altri, c’era anche l’AI, riconosciuta e accettata come interlocutore legittimo. Non perché le si attribuisca formalmente una mente, ma perché il suo contributo viene assunto come legittimo e autorevole.

La responsabilità accettabile si sta spostando

Le organizzazioni che tengono al proprio futuro devono cominciare a confrontarsi con una trasformazione potenzialmente destabilizzante: il punto in cui è psicologicamente accettabile che la responsabilità organizzativa si arresti, si sta spostando verso l’AI.

Infatti, sempre più spesso, ricostruendo la responsabilità di una decisione, si arriva alla conclusione che “lo ha suggerito il modello”, che “stando ai dati era inevitabile” e che “le indicazioni del sistema non lasciavano spazio”.

La cosa notevole è che queste frasi vuote producono una sensazione di chiusura logica e non generano disagio. Anzi, lasciano sollevati dal peso della decisione, come se fosse davvero sufficiente aver identificato che la responsabilità è da imputarsi a questa sorta di soggetto tecnologico che è l’AI.

Dalla vergogna alla dipendenza cognitiva

Fino a poco tempo fa, scrivere un testo con ChatGPT era qualcosa di cui vergognarsi un po’. Adesso la situazione è cambiata. Molti manager consultano l’AI per sentirsi informati in modo completo. Non farlo viene sentito come una specie di negligenza. Affidarsi solo al proprio giudizio e a quello dei pari può sembrare addirittura superficiale.

“Se ho un problema organizzativo complesso e non consulto il sistema più informato a disposizione, forse non sto davvero facendo il meglio per l’azienda.”

Da sempre, infatti, quando non si viene a capo di una questione, si sale di livello: si consulta chi ne sa di più. Oggi, per molti, quel “chi ne sa di più” non è più il capo o il collega senior. È il modello generalista che, in questo modo, diventa soggetto della legittimazione: non comporta lo stesso carico emotivo di parlare con il capo e non difende posizioni e interessi personali come certi colleghi.

Questo vuol dire che si è compiuto il passaggio decisivo da quando si discuteva se l’AI fosse uno strumento accettabile, a ora che, da strumento accettato, si è trasformato in collega supercompetente che occupa il posto funzionale dell’autorità cognitiva dell’organizzazione.

Applicazione automatica di legittimazione

Chi ha interagito a lungo con un modello AI lo sa bene con quale capacità il sistema argomenta, anticipa obiezioni o riformula. Il fatto è che questo livello linguistico attiva un meccanismo cognitivo automatico che Daniel Dennett ha descritto come intentional stance: attribuiamo intenzionalità e mente a qualunque entità mostri un comportamento coerente e orientato a uno scopo.

In ogni caso l’unico modo che abbiamo sempre avuto per avere accesso alla mente degli altri è stato quello di inferirle dai loro atti linguistici. Nel contesto in cui si è formato il nostro sistema cognitivo, la produzione linguistica è sempre stata un indicatore affidabile di presenza mentale. Oggi questo indicatore non discrimina più. I modelli linguistici replicano esattamente quei segnali che, per abitudine cognitiva, associamo a un soggetto.

Come ha mostrato Nicholas Epley, l’antropomorfizzazione è processo sistematico: quando un’entità comunica in modo responsivo, linguistico e apparentemente orientato a uno scopo, tendiamo ad attribuirle mente e intenzioni, per economia ed efficienza cognitiva.

Il punto, però, non è solo che in questo modo attribuiamo mente, dinamica ampiamente analizzata nella filosofia della mente, ma che l’attribuzione di mente produce legittimazione. E la legittimazione è la base della responsabilità organizzativa.

Se un interlocutore appare competente e coerente, fermarsi alle sue conclusioni diventa psicologicamente e socialmente accettabile. Quando l’AI interviene per prima, definisce il framing: stabilisce di fatto quali variabili contano e quali no. Ciò che non rientra nel perimetro fatica a emergere; richiede uno sforzo supplementare e spesso non si manifesta affatto. La decisione che segue, di conseguenza, è coerente rispetto a quel frame, ma non necessariamente la migliore rispetto ad altri possibili.

Dove si arresta la responsabilità

In molte organizzazioni la sequenza decisionale si è già spostata: prima si consulta il modello per farsi un’idea, poi ci si confronta in riunione, ognuno con il proprio modello generato, e poi si converge sulla proposta più convincente. In questo schema l’AI definisce ciò che è rilevante prima ancora che inizi il confronto umano. Criteri, variabili e soglie sono già stati selezionati. La discussione si svolge entro un perimetro non deliberato, e la leadership rischia di ridursi all’esecuzione coerente di premesse che non ha concepito e definito.

Quando questa sequenza diventa la norma, si producono tre effetti strutturali. Il primo è la convergenza prematura: i partecipanti arrivano già allineati su uno spazio di opzioni ristretto e il dissenso si riduce non per vero accordo, ma per limite delle possibilità. Il secondo è l’omologazione cognitiva: organizzazioni diverse finiscono per ragionare entro cornici simili, perché i modelli generalisti propongono strutture di analisi e priorità ricorrenti. Il terzo è la trasformazione della leadership in funzione di compliance logica: il leader non definisce più i criteri, ma applica coerentemente una struttura già data.

Tutto questo può essere evitato invertendo la sequenza. Prima del ricorso ai modelli, il gruppo deve rendere espliciti i criteri decisionali: quali variabili contano, quali valori non sono negoziabili, quali soglie di rischio sono accettabili e quali dimensioni rilevanti dobbiamo esplorare che l’AI non può vedere.

Solo dopo questa delimitazione il sistema può essere utilizzato per esplorare scenari e alternative. La decisione a questo punto può tornare alle persone, che finalmente la assumono entro un perimetro consapevolmente stabilito.

Se il perimetro decisionale viene esternalizzato, anche la responsabilità tende a seguirlo. Non perché qualcuno voglia sottrarsi, ma perché ciò che appare razionalmente inevitabile smette di essere messo in discussione. Le organizzazioni non apprendono solo dalle decisioni che prendono, ma dai criteri che discutono. Quando i criteri non sono più oggetto di deliberazione esplicita, la cultura si restringe e la funzione di governo si indebolisce.

Questo articolo è stato pubblicato la prima volta su EconomyMagazine.it a questo indirizzo: https://www.economymagazine.it/il-collega-super-competente/