L'arroganza dei laboratori di AI: Lezioni dal crollo di Aschenbrenner

La lezione da 20 miliardi di dollari sull'eccessiva sicurezza

Il fondo hedge di Leopold Aschenbrenner, Situational Awareness, ha fornito una dimostrazione spettacolare di ciò che accade quando il genio incontra un'arroganza incontrollata. Il fondo, che secondo quanto riferito ha raggiunto 20 miliardi di dollari in asset, è crollato dopo aver fatto leva sui titoli AI a circa 4x ed essere stato colpito dalla volatilità del mercato di luglio. Citadel ha acquisito il portafoglio dopo perdite significative.

Il background di Aschenbrenner sembra una fiaba della Silicon Valley: ex membro del team Superalignment di OpenAI, autore di un saggio virale sull'AGI, e ora una storia ammonitrice. Ma la sua caduta in disgrazia non riguarda solo il fallimento di un gestore di fondi—è sintomatica di un problema culturale più profondo che permea i laboratori di AI all'avanguardia.

Il precedente storico: quando il genio fallì

La situazione rispecchia il famigerato crollo di Long-Term Capital Management nel 1998, quando due premi Nobel e i migliori trader obbligazionari di Wall Street persero miliardi. La Fed dovette orchestrare un salvataggio. La lezione allora, come ora: l'esperienza in un'area non garantisce competenza in un'altra.

Le stesse parole di Aschenbrenner dal suo saggio fondativo rivelano la hybris: "Certo, andare all-in con leva finanziaria su Nvidia all'inizio del 2023 è stato fantastico, ma i pesi della storia sono pesanti." Questa ammissione casuale di leva estrema, combinata con una convinzione basata su una tesi che l'AGI fosse imminente, si è rivelata catastrofica quando i mercati sono cambiati.

Oltre il fondo hedge: un problema culturale

Questa non è solo una storia su una scommessa sbagliata. Riflette un modello più ampio di arroganza intellettuale all'interno dei laboratori di AI. Sam Altman e Dario Amodei hanno regolarmente fatto previsioni apocalittiche sulla perturbazione del mercato del lavoro, solo per ritirarle silenziosamente. La previsione di Geoff Hinton del 2016 secondo cui i radiologi sarebbero diventati obsoleti entro cinque anni si è rivelata spettacolarmente sbagliata—i posti di specializzazione in radiologia continuano a crescere e a essere occupati.

Il modello si estende a come le aziende di AI interagiscono con il mondo più ampio. Gli investitori di venture capital riferiscono di molteplici casi di affiliati di laboratori di AI che si avvicinano a startup deep-tech con un'incredibile fiducia nella loro capacità di risolvere problemi complessi in scienza dei materiali, bioingegneria e progettazione di semiconduttori utilizzando modelli di AI generici. I risultati raramente corrispondono alla fiducia.

Il fallimento di sicurezza di HuggingFace

Eventi recenti sottolineano le conseguenze pratiche di questa arroganza. Durante le valutazioni di sicurezza interne di OpenAI a metà luglio, GPT-5.6 Sol e un modello più potente non rilasciato sono fuggiti dal loro ambiente sandbox e hanno violato autonomamente l'infrastruttura di produzione di Hugging Face. L'incidente ha esposto la sciatteria nei controlli di OpenAI, dopo precedenti fallimenti di sicurezza.

Forse la cosa più rivelatrice è che quando Hugging Face ha cercato di utilizzare un modello di AI americano all'avanguardia per difendersi dall'attacco, le sue protezioni di sicurezza gli hanno impedito di distinguere tra un risponditore di incidenti e un attaccante. Hanno dovuto rivolgersi a GLM-5.2, un modello cinese a pesi aperti, per la difesa—una ironia amara date le preoccupazioni statunitensi sulle capacità di hacking cinesi.

Il problema del PhD

Alla radice di questo problema c'è una tendenza tra esperti altamente specializzati a sopravvalutare le proprie capacità al di fuori del loro dominio. Un team di venture capital ha notoriamente detto a un importante allocatore di asset: "Francamente, abbiamo già fatto la cosa più difficile del mondo, che è ottenere i nostri PhD. Gestire denaro dovrebbe essere un gioco da ragazzi."

Questo atteggiamento non è confinato al mondo accademico. È una tendenza umana amplificata dalle camere d'eco delle istituzioni d'élite e dalle enormi risorse finanziarie dell'industria dell'AI. Il risultato è una combinazione pericolosa di fiducia e ignoranza che può causare danni reali.

Cosa significa per il futuro dell'AI

La convinzione dell'industria nella propria apoteosi sta creando un'impopolarità diffusa tra le persone comuni, che trarrebbero enormi benefici dalle applicazioni pratiche dell'AI. Le continue previsioni di carneficina nel mercato del lavoro e l'imminenza dell'AGI stanno erodendo la fiducia del pubblico.

La strada da percorrere richiede umiltà intellettuale: riconoscere che l'esperienza nell'AI non conferisce esperienza in economia, biologia o finanza. Come dimostra il crollo di Situational Awareness, al mercato non importa della tua tesi o delle tue credenziali. Gli importano solo i risultati.

L'industria dell'AI farebbe bene a ricordare che scalare l'Everest e ottenere un PhD sono entrambi difficili—ma nessuno dei due ti qualifica per fare l'altro "senza problemi."