Quando l’AI diventa il primo interprete della situazione

Un’azienda manifatturiera deve decidere che cosa fare di una linea di produzione ormai matura. La scelta è rilevante perché coinvolge investimenti, capacità produttiva, competenze interne e promessa commerciale.

Il manager cui fa capo la questione raccoglie i dati disponibili, compresi quelli storici di mercato, e chiede a un sistema di AI generativa di produrre un’analisi e di consigliare la soluzione migliore.

Il report è ben fatto e sembra completo, l’AI ha contemplato tre possibilità: sostituire la linea con una nuova più efficiente, aggiornarla con retrofit mirati o farla ritirare al produttore per prenderne una che realizza prodotti analoghi ma a maggior margine. L’AI prende in considerazione capex, costi operativi, efficienza energetica, tempi di ammortamento, produttività attesa e tutto il resto. Alla fine conclude dichiarando che la soluzione migliore è quella di sostituire la linea con una nuova equivalente.

Quando il manager ne parla in riunione, la discussione parte da quel punto.  Il report viene discusso, vengono apportate correzioni marginali ai dati che il manager aveva inserito, e viene considerato un periodo un po’ più lungo per la sostituzione.

Quello che sfugge praticamente a tutti è che le opzioni tra le quali si sono trovati a scegliere sono state integralmente decise dall’AI grazie alla delega che il manager le ha dato quando ha scritto: trova la soluzione migliore.

Si potrà pensare che se il manager aveva fornito al modello tutte le informazioni, aveva scritto un prompt completo e allegato i documenti necessari, tutto sommato non c’è niente di cui preoccuparsi: “ha fatto prima e meglio di come avrebbe potuto fare personalmente: viva la produttività!”

Il problema nasce prima della risposta

Ma se il manager coinvolge il modello prima di avere chiarito autonomamente i criteri della scelta, è il sistema a trasformare un problema aperto in una struttura analizzabile attribuendo le priorità derivandole da correlazioni statistiche e strutture probabilistiche. E dunque il manager ha delegato quali variabili far diventare centrali. E così altre non sono neanche state prese in considerazione.

Il valore della conoscenza tacita degli operatori, il rapporto tra l’azienda e i concorrenti del distretto industriale, la flessibilità della vecchia linea, la possibilità di usare quell’impianto come piattaforma di sperimentazione, la ridondanza strategica in caso di crisi della supply chain e il rischio di dipendere da un unico fornitore tecnologico non sono stati esclusi in modo esplicito. Non erano parte del prompt e l’AI, non conoscendoli, non poteva utilizzarli per le sue proposte.

A dire il vero alcune di queste informazioni sono tali da non poter neanche essere trasformate in qualcosa utilizzabile in un prompt. Come l’antipatia tra i due fratelli che hanno ereditato un’azienda concorrente, o a sapere che il capofabbrica quando era giovane avrebbe voluto lavorare nell’R&D della 3M, e così via. Si tratta di conoscenza tacita, che si attiva solo quando serve, in seguito a un’intuizione umana, ma che non può essere inserita in un prompt.

Anche un buon prompt non può per sua natura integrare la realtà in un rapporto uno a uno. Una parte decisiva del rapporto con la realtà appartiene a ciò che Michael Polanyi ha chiamato conoscenza tacita: sappiamo più di quanto riusciamo a dire. Non si tratta solo di informazioni mancanti, ma di competenze, intuizioni, riconoscimenti e giudizi che operano prima della formulazione linguistica.

Qualunque ipotesi produca un LLM, anche ben informato, sarà inevitabilmente costruita al netto di una parte della realtà che non è stata formalizzata, esplicitata o resa disponibile al modello.

La realtà non entra tutta nel prompt

Il chirurgo guarda sia i dati che il paziente, non cura la risonanza magnetica ma il paziente. Il manager avrebbe potuto e dovuto sentire le persone, far emergere la conoscenza tacita, lavorare con le intuizioni, chiedere “tu che faresti?” a tutti, e poi vedere quali possibilità mettere in mano all’AI assieme ai dati.

Sarebbe dovuto essere il manager ad avanzare le ipotesi. Avrebbe con grande probabilità pensato alle tre dell’AI: sostituire la linea, retrofittarla o riconfigurarla per prodotti a maggiore valore.

Ma insieme a questo avrebbe potuto pensare anche di fare una nuova società cui passare la linea, chiedere al capofabbrica a gestirla e utilizzarla come linea pilota per fare ricerca sul prodotto, sia per l’azienda che per altre aziende che non hanno una propria linea R&D. E nel momento di necessità o manutenzioni straordinarie usare la linea come backup di produzione per l’azienda. O anche aprire uno stabilimento più vicino geograficamente a mercati meno esigenti, cui il prodotto attuale della linea va ancora bene, per risparmiare sul trasporto.

Questo è il nuovo rischio dell’AI nei processi decisionali: il modello produce la soluzione migliore dentro un frame strutturalmente ristretto, costruito solamente sulla parte di realtà che è stata resa disponibile, formalizzabile e traducibile in linguaggio.

Chi costruisce le alternative orienta già la scelta

Per questo la decisione più importante, in molti casi, avviene prima della decisione esplicita. Avviene quando si stabiliscono le alternative su cui concentrarci, quali rischi sono accettabili e quali criteri devono pesare più di altri.

Se questo passaggio viene lasciato implicitamente al sistema, l’AI diventa l’architetto preliminare del campo decisionale. Vuol dire che proporrà tutte le scelte più sensate all’interno del proprio perimetro cognitivo, che è costruito sulla parte di realtà che gli è stata comunicata.

Il paradosso è questo: l’AI genera ipotesi su basi necessariamente incomplete, mentre gli esseri umani, che possono integrare anche conoscenza tacita, esperienza situata e giudizio contestuale, scelgono spesso di partire dalle ipotesi prodotte dal modello.

È evidente che c’è una perdita di valore decisionale e cognitivo enorme, dovuta a un problema di posizione nella sequenza decisionale: l’AI deve entrare dopo la definizione dei criteri, non prima.

Questa è una dinamica organizzativa nota: prima ancora di scegliere, i gruppi costruiscono senso. Karl Weick ha mostrato che nelle organizzazioni le persone non si limitano a reagire ai fatti, ma li ordinano, li interpretano e li rendono azionabili attraverso processi di sensemaking. La novità è che oggi questo primo atto interpretativo viene spesso ingenuamente affidato a un modello generativo. In quel momento l’AI sta gestendo la costruzione del significato del problema.

Perché il frame dell’AI sembra neutrale

Questo fenomeno è particolarmente forte perché il linguaggio dei modelli produce un effetto di legittimazione. Un report generato dall’AI può apparire neutrale, completo e razionale, privo com’è anche del tono emotivo di un collega che difende una posizione. È vero che non ha l’autorità gerarchica di un capo ma non sembra neppure avere interessi personali. Queste condizioni lo fanno percepire come una base completa e ragionevole da cui partire. 

Ma la tesi di questo articolo è che la base da cui partire è già una direzione.

Quando un’analisi iniziale è ordinata e plausibile, discostarsene richiede uno sforzo supplementare. Chi segue la proposta del modello appare coerente, mentre chi lo mette in discussione si trova a dover sostenere le ragioni con maggiore intensità: non è più il modello a dover giustificare fino in fondo il proprio perimetro ma l’essere umano che deve giustificare la scelta di uscirne.

La responsabilità si sposta senza sparire

Qui nasce il problema della responsabilità. In teoria, tutti ripetono che la decisione resta umana. In pratica, il punto in cui la responsabilità sembra potersi arrestare tende a spostarsi. Se il modello ha valutato le opzioni, ordinato i rischi e proposto una direzione, seguire quella direzione appare difendibile. Se l’esito sarà negativo, sarà facile ricostruire la scelta come coerente con le informazioni disponibili. La responsabilità non scompare. Si appoggia a un frame che nessuno ha davvero deliberato.

La scelta che poi si è rilevata non essere la migliore, quella di rifare la linea, verrà considerata come la migliore tra quelle disponibili. E nessuno penserà che ci sarebbe anche potuta essere una scelta strategicamente superiore, quella di creare un nuovo business.

Che cosa succede alle organizzazioni

Questa dinamica è trasversale: in un ospedale, un sistema può suggerire priorità diagnostiche o terapeutiche. In una banca, può ordinare profili di rischio. In un consiglio di amministrazione, può sintetizzare scenari di acquisizione. In una funzione procurement, può valutare fornitori. In una direzione commerciale, può indicare quali mercati sembrano più promettenti. In ciascun caso, il rischio è la trasformazione del modello nel primo interprete autorizzato della situazione.

Il primo effetto è la definizione del frame. Il modello definisce il perimetro del problema prima che il gruppo abbia discusso quali criteri usare.

Il secondo effetto è la convergenza apparente. Se più manager interrogano strumenti simili, con materiali simili e domande simili, arrivano in riunione con mappe cognitive già allineate. Le proposte possono sembrare indipendenti, ma derivano da strutture di analisi affini. Il dissenso diminuisce perché lo spazio delle possibilità è stato ristretto a monte.

Il terzo effetto è la trasformazione della leadership in compliance logica. Il leader verifica che la decisione sia coerente con criteri già incorporati nell’analisi. Questo è un impoverimento profondo della funzione manageriale.

Le cinque domande che proteggono l’organizzazione

Per evitare questo spostamento, le organizzazioni hanno bisogno di una pratica semplice: una carta pre-decisionale da impiegarsi ogni volta che ci si trovi davanti a decisioni di una certa importanza. Una carta che permetta di esplicitare la struttura della decisione prima di chiedere al modello di analizzare un problema.

La prima domanda è: quale decisione stiamo davvero prendendo, qual è il senso di questa decisione? Molte decisioni aziendali vengono formulate in modo apparentemente tecnico, ma contengono scelte strategiche più profonde. “Sostituire una linea produttiva” può significare decidere quale idea di efficienza vogliamo perseguire. “Entrare in un nuovo mercato” può significare decidere quale identità competitiva vogliamo costruire. “Ridurre i costi” può significare decidere quali capacità interne siamo disposti a indebolire.

La seconda domanda riguarda i criteri. Che cosa deve contare, cosa è importante? Margine, velocità, apprendimento, resilienza, reputazione, dipendenza da fornitori, qualità della relazione con i clienti, sviluppo di competenze interne: criteri diversi producono decisioni diverse. 

La terza domanda riguarda le variabili che il modello potrebbe sottopesare. Il modello tende a privilegiare ciò che può essere formalizzato meglio. Ma molte dimensioni decisive della vita aziendale sono difficili da tradurre in dati ordinati, lo abbiamo visto: fiducia tra reparti, esperienza tacita, qualità del giudizio operativo, capacità di improvvisazione, credibilità commerciale, memoria tecnica o rapporti di distretto. Se queste dimensioni non vengono nominate prima, difficilmente diventeranno centrali dopo.

La quarta domanda riguarda le alternative obbligatorie. Un gruppo può decidere che alcune opzioni devono essere esplorate anche se appaiono inizialmente meno efficienti. Questo è un passaggio cruciale, perché l’innovazione spesso nasce da alternative che i criteri dominanti giudicano deboli.

Un’opzione può essere meno efficiente nel breve periodo e più generativa nel lungo. Può essere meno elegante sul piano finanziario e più utile sul piano strategico. 

La quinta domanda riguarda il punto in cui la responsabilità resta umana. Prima di consultare l’AI, il gruppo deve stabilire quali aspetti della decisione non possono essere delegati al modello: valori, priorità strategiche, effetti sulle persone, coerenza con l’identità aziendale, rischi reputazionali e impatti di lungo periodo.

Il modello dovrebbe essere interrogato dopo questa fase, quando l’AI può portare a termine il lavoro dall’interno di un perimetro deliberato dall’uomo. In questo ordine il suo ruolo torna a essere quello corretto: aumentare la capacità analitica dell’organizzazione, non sostituirne la capacità di giudizio. 

Il vantaggio competitivo sarà decidere quando usare l’AI

Visto che le organizzazioni useranno sempre di più l’AI nelle decisioni strategiche, operative, finanziarie e organizzative, il vantaggio competitivo sarà dato anche dall’ordine in cui l’AI entra nel pensiero aziendale: prima o dopo gli esseri umani.

Le organizzazioni meno mature useranno l’AI per ottenere rapidamente una cornice. Le organizzazioni più mature useranno l’AI dopo aver costruito consapevolmente la propria cornice. Le prime avranno decisioni più veloci e apparentemente più ordinate. Le seconde avranno decisioni più governate.

Si tratta di decidere se valga la pena di fare uno sforzo di disciplina cognitiva per far sì che la definizione dei criteri che rendono una decisione sensata resti nelle mani della leadership.

Un manager che chiede all’AI “qual è l’opzione migliore?” prima di avere stabilito che cosa significhi “migliore” ha già ceduto la parte più importante del proprio ruolo. Un gruppo dirigente che usa il modello per definire le alternative prima di aver discusso i propri criteri sta trasferendo all’esterno una funzione essenziale di governo. Un’organizzazione che accetta come neutrale il primo frame prodotto da un sistema rischia di scambiare coerenza per giudizio, e abbiamo visto come questo possa scrivere il futuro stesso dell’organizzazione.


Riferimenti


Michael Polanyi

  • Polanyi, Michael. The Tacit Dimension. University of Chicago Press, 1966.

Karl Weick

  • Weick, Karl E. Sensemaking in Organizations. Sage Publications, 1995.