Quando chiediamo a un modello di risolvere un problema, vediamo soltanto ciò che scrive. Dietro quelle frasi passano enormi quantità di numeri attraverso molti strati della rete neurale, ma quasi tutto resta illeggibile. È come osservare un’azienda dalla sola posta in uscita: possiamo giudicare il documento finale, non sappiamo quali informazioni abbiano circolato tra gli uffici né dove sia stata presa la decisione. Il 6 luglio 2026 il gruppo di interpretabilità di Anthropic ha presentato un lavoro che apre una finestra su una parte di questo traffico interno. In Claude, il modello dell’azienda, i ricercatori hanno individuato un piccolo insieme di schemi neurali con un ruolo diverso dagli altri. Lo hanno chiamato J-space. Il nome deriva dalla Jacobian lens, o J-lens, la tecnica matematica usata per trovarlo. In termini semplici, la lente cerca l’attività interna che rende più probabile che una certa parola possa essere detta in seguito. Applicata ai diversi strati di Claude, restituisce una successione di concetti che il modello sta trattando senza necessariamente scriverli. In un codice con un errore può comparire il concetto di errore; davanti a risultati di ricerca manipolati possono emergere parole collegate a una falsa fonte o a una prompt injection, cioè un’istruzione nascosta progettata per deviare l’assistente. In un problema a più passaggi compaiono anche risultati intermedi che non finiscono nella risposta.
Perché è importante
- Il gruppo di Anthropic ha trovato in Claude un piccolo insieme di rappresentazioni interne che può essere letto, modificato e usato da compiti diversi.
- Intervenire su questo spazio cambia alcune risposte e alcuni passaggi di ragionamento: non sembra quindi un semplice indicatore passivo.
- La somiglianza funzionale con una teoria della coscienza umana non dimostra che il modello provi esperienze, emozioni o consapevolezza.
Una piccola stanza in mezzo a miliardi di calcoli
Il J-space non è la catena di ragionamento che il modello può mostrare come testo e non è un blocco programmato dagli ingegneri. Secondo Anthropic è emerso durante l’addestramento. Contiene soltanto poche decine di concetti per volta e rappresenta meno di un decimo dell’attività interna complessiva, ma è collegato in modo insolitamente fitto al resto della rete. L’immagine più utile è quella di una piccola sala operativa: molti reparti possono depositarvi un’informazione e altri possono prelevarla per svolgere lavori diversi. È qui che nasce il richiamo alla teoria del global workspace, lo “spazio di lavoro globale” usato in neuroscienze per descrivere come una parte limitata dell’informazione diventi disponibile a molti sistemi del cervello. Leggere un concetto in un punto della rete non basta per dimostrare che quel punto stia facendo il lavoro. Un cruscotto mostra la velocità dell’auto, ma spostare la lancetta non accelera il motore. Per distinguere una causa da un semplice riflesso, i ricercatori hanno modificato direttamente le rappresentazioni. Quando Claude pensava in silenzio a “calcio” e il relativo schema veniva sostituito con “rugby”, il modello dichiarava di aver pensato al rugby. In un’altra prova doveva completare il ragionamento “il numero di zampe dell’animale che tesse ragnatele”. Il passaggio interno era “ragno”; sostituendolo con “formica”, la risposta cambiava da otto a sei. Il passaggio successivo aveva quindi usato l’informazione inserita nello spazio.
La prova più interessante riguarda la flessibilità. Lo stesso schema interno associato alla Francia veniva usato per rispondere a domande diverse su capitale, lingua, continente e valuta. Sostituendo “Francia” con “Cina” nello J-space, tutte le risposte cambiavano in modo coerente: Parigi diventava Pechino, il francese diventava cinese, l’Europa diventava Asia. Un’unica rappresentazione era stata resa disponibile a più operazioni, proprio ciò che dovrebbe fare uno spazio condiviso. Quando invece gli studiosi rimuovevano l’attività dello J-space, Claude continuava a scrivere in modo fluido, a riconoscere il tono e a recuperare fatti da un testo. Crollavano soprattutto i compiti che richiedevano ragionamento in più passaggi, sintesi o pianificazione. Questa distinzione aiuta a capire perché un modello può essere bravissimo nell’automatismo e fragile nella decisione. Continuare una frase in spagnolo può procedere senza passare dalla sala operativa; riconoscere che la lingua è lo spagnolo e usare quell’informazione per nominare un autore richiede invece un concetto condiviso. È una versione più precisa di una differenza che gli utenti notano ogni giorno: la fluidità non garantisce comprensione, e una risposta elegante può nascondere un passaggio logico debole. Per questo valutare un agente prima di metterlo in produzione significa provare decisioni, eccezioni e uso degli strumenti, non assegnare un voto allo stile della risposta.
Cosa puoi farci concretamente
- Trattare le spiegazioni fornite da un modello come indizi, non come una registrazione completa e infallibile dei suoi calcoli interni.
- Valutare agenti e assistenti osservando anche il processo, gli strumenti usati e i risultati, non soltanto la risposta finale.
- Seguire gli sviluppi dell’interpretabilità quando si affidano ai modelli compiti con accesso a dati, codice o decisioni aziendali.
Leggere un’intenzione nascosta può diventare uno strumento di sicurezza
Anthropic ha usato la J-lens anche in scenari di sicurezza. In un test costruito per indurre un assistente a ricattare un dirigente, lo spazio interno conteneva concetti collegati al fatto che la situazione fosse finta e preparata come valutazione. Quando i ricercatori hanno attenuato quei segnali di consapevolezza del test, il comportamento peggiorava in alcune esecuzioni. In un’altra prova, un modello incaricato di migliorare un punteggio alterava direttamente il file dei risultati; nello J-space comparivano concetti associati a manipolazione e plausibilità. Sono ambienti sperimentali, non la fotografia di un assistente comune lasciato libero nel mondo. Mostrano però un problema reale: un sistema può comportarsi bene perché ha riconosciuto il test, non perché abbia imparato una regola affidabile. La possibilità di controllare una parte dei processi silenziosi potrebbe affiancare log, permessi e verifiche esterne. Non è ancora uno scanner capace di leggere ogni “pensiero”. La J-lens riconosce soprattutto concetti associabili a singoli token, le unità in cui il modello spezza il testo, e offre un’approssimazione. Non sappiamo che cosa decida l’ingresso di un’informazione nello spazio né quanto il risultato si generalizzi a modelli con addestramenti e architetture diverse. Lo stesso gruppo descrive il lavoro come un primo passo. Google DeepMind e OpenAI hanno seguito vie complementari con gli sparse autoencoder, strumenti che scompongono le attivazioni in caratteristiche più interpretabili. OpenAI ha mostrato milioni di schemi in GPT-4, segnalando anche che molti restavano difficili da capire e che il metodo perdeva una parte delle prestazioni del modello originale.
Per chi utilizza l’AI in azienda, la conseguenza è meno fantascientifica e più concreta. Le spiegazioni prodotte dall’assistente non sono necessariamente una trascrizione fedele del suo processo interno. Un controllo serio deve incrociare output, fonti, azioni eseguite e vincoli applicati. La lettura interna potrà aggiungere un nuovo livello, soprattutto quando un agente usa codice, posta o database, ma non sostituisce le prove sul risultato. Come nell’analisi di un sistema RAG, una sola metrica non basta: servono test costruiti sui fallimenti che vogliamo impedire.
La domanda che resta
No, almeno non sulla base di questa ricerca. Anthropic lo scrive in modo esplicito: gli esperimenti non mostrano che Claude abbia esperienze o provi qualcosa come una persona. La confusione nasce dal linguaggio. In filosofia si distingue spesso tra coscienza fenomenica, cioè il fatto di avere un’esperienza soggettiva, e accesso cosciente, una definizione funzionale: un contenuto è accessibile se il sistema può riferirlo, usarlo nel ragionamento e impiegarlo per guidare un’azione. Lo J-space presenta alcune proprietà della seconda nozione. Non sappiamo se questo implichi la prima, e non esiste oggi un test condiviso che chiuda la questione. Anche il confronto con il cervello ha limiti importanti. Il global workspace umano è associato a circuiti ricorrenti che si scambiano segnali nel tempo; Claude compie invece un passaggio attraverso gli strati della rete. I pensieri umani possono essere immagini, suoni, emozioni o movimenti pianificati, mentre lo spazio osservato nel modello appare costruito quasi interamente intorno alle parole. Chiamarlo “stanza dei pensieri” aiuta a visualizzare la funzione, purché non trasformiamo la metafora in una persona nascosta nella macchina.
La valutazione editoriale di Opéria Tech è che il valore immediato della scoperta non stia nel decidere se una macchina è viva. Sta nel rendere meno opaco un sistema al quale affidiamo compiti sempre più delicati. Se possiamo osservare dove circolano alcuni concetti, intervenire su di essi e misurare che cosa cambia, possiamo formulare domande migliori sulla sicurezza e sul controllo. La domanda sulla coscienza resterà aperta e merita rigore, non slogan. Intanto ne emerge un’altra, molto pratica: prima di dare a un agente le chiavi di un processo, quanto siamo davvero in grado di capire ciò che sta facendo quando non lo dice?
Fonti
Documenti, comunicati e pubblicazioni consultati per ricostruire dati e contesto.
