Il CEO di Anthropic Amodei Chiarisce la Posizione: Nessun Divieto per l'AI Open-Weight, ma Timore del Dominio Cinese

Amodei Mette in Chiaro le Cose

Il CEO di Anthropic Dario Amodei ha negato con forza le voci secondo cui la sua azienda sostiene un divieto per i modelli AI open-weight. In un post sul blog pubblicato lunedì, Amodei ha dichiarato: “Anthropic non ha mai sostenuto un divieto per i modelli open-weight come categoria.” La dichiarazione arriva dopo che una coalizione di oltre 130 aziende tecnologiche, tra cui OpenAI, Nvidia e Microsoft, ha firmato una lettera aperta esortando i decisori politici a evitare “restrizioni premature” sui modelli open-weight. Anthropic era notevolmente assente da quella lettera, alimentando speculazioni sulla sua posizione.

La precisazione di Amodei mira a placare le accuse secondo cui la posizione di Anthropic è egoistica, proteggendo i suoi modelli premium closed-source Claude. “Alcune persone hanno persino accusato Anthropic di voler vietare i modelli open-weight come mezzo per proteggere la nostra attività,” ha scritto, negando con enfasi l'affermazione. Ha sostenuto che i modelli open-weight senza capacità pericolose sono un “bene pubblico”, fornendo valore a imprese, sviluppatori e ricercatori senza costi significativi.

La Vera Preoccupazione: Le Ambizioni AI della Cina

Sebbene Amodei non supporti un divieto generalizzato, traccia una netta distinzione tra i modelli open-weight e la minaccia rappresentata dalla Cina. La sua paura principale è che “governi autoritari”, in particolare il Partito Comunista Cinese (PCC), costruiscano sistemi AI più potenti di quelli negli Stati Uniti per ottenere “superiorità militare permanente” e reprimere i propri cittadini. Ha sottolineato che il PCC è il “più capace” tra tali governi.

Questa preoccupazione non è nuova. Amodei ha ripetutamente messo in guardia sui rischi di attacchi biologici abilitati dall'AI e minacce alla sicurezza informatica, sostenendo che i modelli open-weight sono particolarmente pericolosi in questi scenari perché sono difficili da monitorare e a cui applicare misure di salvaguardia. Ha citato un rapporto dell'Istituto per la Sicurezza dell'AI del Regno Unito che nota che una volta rilasciati, i modelli open-weight non possono essere ritirati.

Misure Mirate Invece di Divieti Generalizzati

Invece di vietare i modelli open-weight, Amodei propone un approccio a tre punte. In primo luogo, esorta gli Stati Uniti a limitare l'accesso della Cina ai semiconduttori avanzati e ai chip potenti, una politica che ha a lungo sostenuto. In secondo luogo, chiede misure ufficiali contro i processi di “distillazione”, in cui un modello più piccolo viene addestrato utilizzando gli output di un modello più grande, spesso proprietario. Anthropic ha recentemente inviato una lettera al Senato degli Stati Uniti sostenendo che Alibaba, azienda cinese, ha condotto il “più grande attacco di distillazione conosciuto” contro i suoi modelli.

In terzo luogo, Amodei richiede test di sicurezza obbligatori per tutti i modelli “sufficientemente capaci”, sia aperti che chiusi. Sostiene che questo è l'unico modo per garantire che i sistemi AI avanzati non consentano danni catastrofici. Questa posizione colloca Anthropic come una via di mezzo tra coloro che favoriscono un accesso open-source senza restrizioni e coloro che sostengono uno stretto controllo governativo.

Reazioni del Settore e Punti di Vista Contrastanti

Il settore tecnologico rimane diviso. La lettera aperta delle grandi aziende sostiene che l'accesso ai modelli open-weight avvantaggia le piccole imprese e aiuta i difensori più degli aggressori. “La nostra leadership nell'AI sarà giudicata non da un singolo modello AI all'avanguardia, ma dal fatto che gli Stati Uniti costruiscano un ecosistema aperto e solido,” si legge nella lettera. Amodei contesta questo, sostenendo che i modelli open-weight rendono più difficile sviluppare salvaguardie contro gli attacchi abilitati dall'AI.

I ricercatori hanno anche messo in dubbio le basi per alcune restrizioni. Ad esempio, non è ancora chiaro se un'azienda cinese, Moonshot, abbia effettivamente distillato il modello Fable di Anthropic, poiché il modello non è stato disponibile pubblicamente abbastanza a lungo perché l'addestramento potesse avvenire. Ciò evidenzia la complessità dell'applicazione di tali misure.

Cosa Significa Questo per il Futuro della Politica sull'AI

La posizione di Amodei riflette un dibattito più ampio su come bilanciare innovazione, sicurezza nazionale e competizione globale. Rifiutando un divieto generalizzato mentre sostiene restrizioni mirate sui chip e test di sicurezza, Anthropic cerca di influenzare la politica statunitense senza alienare la comunità open-source. L'esito di questo dibattito probabilmente plasmerà il panorama normativo per l'AI nei prossimi anni.

Mentre l'amministrazione Trump valuta potenziali restrizioni sui modelli AI cinesi, la posizione di Amodei offre un'alternativa sfumata. Resta da vedere se i decisori politici adotteranno il suo approccio mirato o cederanno all'appello del settore per un ecosistema aperto. Una cosa è chiara: la battaglia per il futuro dell'AI è tutt'altro che finita.