Gli LLM non sanno saltare: perché il balzo creativo dell'AI resta fuori portata

TL;DR

Il position paper del ricercatore di Google DeepMind Tom Zahavy, "Gli LLM non sanno saltare", presentato a ICML 2026, sostiene che mentre i grandi modelli linguistici eccellono nell'induzione e nella deduzione, falliscono fondamentalmente nel ragionamento abduttivo—il balzo creativo necessario per intuizioni scientifiche che cambiano paradigma. Questo limite, radicato nella loro mancanza di esperienza incarnata e nell'incapacità di eseguire interventi controfattuali, ha acceso un dibattito tra i ricercatori di AI sul futuro dello scaling e sulla potenziale necessità di architetture alternative come i modelli del mondo.

Il paper che sfida il tetto dell'AI

In un esperimento mentale che ha fatto scalpore nella comunità di ricerca sull'AI, Zahavy pone una domanda provocatoria: data tutta la conoscenza fisica precedente alla relatività generale, un'AI potrebbe—come fece Einstein nel 1907—immaginare un ascensore in caduta libera e dedurne il principio di equivalenza per cui gravità e accelerazione sono localmente indistinguibili? La sua risposta è un sonoro no.

Attingendo alla tripartizione del ragionamento di Charles Sanders Peirce, Zahavy dimostra che mentre gli LLM possono elaborare enormi quantità di dati e fare deduzioni logiche, mancano del "balzo" creativo essenziale per generare quadri assiomatici completamente nuovi. Non si tratta solo di una sottigliezza filosofica; è un limite strutturale che potrebbe definire i confini di ciò che le attuali architetture AI possono raggiungere.

Perché gli LLM sono bloccati

Il problema centrale risiede in ciò che Zahavy chiama la mancanza di connessione incarnata con il mondo fisico. Un LLM, come ha detto un critico, è essenzialmente una "Stanza Cinese" che opera in uno spazio ad alta dimensionalità—elaborando probabilità statistiche tra token senza alcuna interconnessione percettiva con la realtà. Quando i modelli video generativi mostrano una mela che cade, si basano sulla continuità statistica nei cambiamenti di pixel all'interno dei dataset di addestramento, non su una comprensione interna della gravità.

Questa assenza di intervento controfattuale è critica. Gli umani possono mentalmente "tagliare il cavo dell'ascensore" all'interno di un modello del mondo interno, osservare le conseguenze e dedurre leggi fisiche. Gli LLM non possono eseguire questo tipo di sperimentazione attiva. Sono limitati a ciò che è già stato descritto nel linguaggio, motivo per cui faticano con compiti che richiedono la simulazione della realtà fisica—dal caricare in sicurezza una lavastoviglie al piegare la biancheria.

Lo scaling da solo non ci salverà

Questo limite ha implicazioni profonde per l'attuale ossessione del settore per lo scaling. L'ex ricercatore di OpenAI Adam Hunt condivide lo scetticismo di Zahavy, scommettendo che 100 miliardi di dollari confluiranno nei dati di addestramento perché lo scaling da solo non basta. La fiducia di Hunt in questa previsione si attesta solo al 40 percento circa, riconoscendo che i progressi tecnici potrebbero smentirlo—ad esempio, se modelli AI specializzati possono essere combinati in qualcosa che assomiglia a un'intelligenza più generale.

La prospettiva di Hunt è passata dall'ottimismo a un crescente pessimismo. Sostiene che gli ultimi modelli non stanno diventando più versatili ma più specializzati. Le capacità di programmazione e matematica complessa continuano a migliorare, mentre aree come la qualità linguistica e la logica semplice stanno ristagnando o addirittura peggiorando. Questa osservazione di prestazioni disomogenee si allinea con la spiegazione strutturale di Zahavy sul perché i modelli sono incoerenti.

I due percorsi dello sviluppo dell'AI

Questo crea una scelta netta per il settore. Da un lato, vediamo un miglioramento graduale e ampio in tutti i compiti—la visione ottimistica che lo scaling alla fine produrrà un'intelligenza generale. Dall'altro, assistiamo a un'estrema specializzazione in cui poche capacità aumentano mentre le competenze chiave ristagnano o si riducono. Le prove attuali puntano sempre più verso quest'ultimo scenario.

La stessa visione di Hunt sugli LLM è passata dall'ottimismo a un crescente pessimismo. Sostiene che gli ultimi modelli non stanno diventando più versatili ma più specializzati. Le capacità di programmazione e matematica complessa continuano a migliorare, mentre aree come la qualità linguistica e la logica semplice stanno ristagnando o addirittura peggiorando, il che si allinea con l'osservazione di Ho sulle prestazioni disomogenee.

Oltre gli LLM: l'alternativa dei modelli del mondo

Come possibile soluzione, Zahavy indica i modelli del mondo controllabili dall'azione che consentono esperimenti controfattuali. Questi sistemi permetterebbero all'AI di simulare scenari fisici e testare ipotesi in un modo che gli LLM non possono. Gli LLM potrebbero comunque svolgere un ruolo chiave in tali sistemi avanzati, anche se raggiungono i loro limiti quando lavorano da soli.

Yann LeCun, capo scienziato AI di Meta, ha a lungo sostenuto un approccio diverso. Sostiene che gli umani non simulano mentalmente il mondo in grande dettaglio—certamente non pixel per pixel. Quando immaginiamo un bicchiere che cade e si rompe, non prevediamo la posizione di ogni frammento. Invece, eseguiamo modelli altamente compressi che catturano solo gli aspetti che contano. LeCun suggerisce che questo è l'approccio sbagliato, o almeno non il migliore, rispetto alla ricostruzione di osservazioni future il più fedelmente possibile ai dati di addestramento.

Cosa significa per il settore

Le implicazioni vanno oltre i laboratori di ricerca. Se l'AI non può essere creativa nel senso più significativo, potremmo entrare in un'era in cui le lauree in discipline umanistiche diventano le nuove lauree in informatica. Le competenze con cui l'AI fatica—pensiero creativo, ragionamento abduttivo, comprensione della realtà fisica—sono proprio quelle coltivate dalle discipline umanistiche.

Tuttavia, c'è una preoccupazione più immediata. Man mano che l'AI diventa più specializzata, il divario tra le sue impressionanti capacità e i suoi limiti fondamentali diventa più difficile da colmare. L'attuale traiettoria del settore di scalare i modelli con più dati e potenza di calcolo potrebbe incontrare un muro che nessuna quantità di risorse può superare.

La strada da percorrere

Il paper di Zahavy non suggerisce che l'AI sia condannata alla mediocrità. Piuttosto, riformula la sfida: la prossima svolta potrebbe non venire dal rendere gli LLM più grandi, ma dal costruire sistemi che possano interagire con il mondo—sia attraverso robot incarnati, modelli del mondo o architetture ibride che combinano i punti di forza di più approcci.

Hunt stesso pone la sua fiducia nella previsione dei 100 miliardi di dollari in dati di addestramento solo al 40 percento circa, riconoscendo che i progressi tecnici potrebbero smentirlo—ad esempio, se modelli AI specializzati possono essere combinati in qualcosa che assomiglia a un'intelligenza più generale. La corsa è aperta per trovare quella combinazione.

Per ora, il messaggio è chiaro: mentre l'AI può risolvere congetture secolari, non può immaginare l'ascensore di Einstein. E questa distinzione potrebbe contare più di qualsiasi punteggio di benchmark.