Il Gruppo AI Frontiers di Microsoft Sciolto Mentre la Leadership della Ricerca Se Ne Va

Il Gruppo AI Frontiers di Microsoft Sciolto Mentre la Leadership della Ricerca Se Ne Va

In una significativa riorganizzazione all'interno dell'ecosistema di ricerca AI di Microsoft, il gruppo AI Frontiers (AIF) dell'azienda—una sotto-organizzazione di ricerca dedicata all'interno di Microsoft Research—è stato di fatto sciolto. La mossa, avvenuta all'inizio di settembre, ha portato alla partenza della sua leadership fondatrice, incluso John Langford, un ricercatore veterano e co-creatore della libreria di machine learning Vowpal Wabbit.

Langford, che ha ricoperto il ruolo di partner researcher manager presso Microsoft Research New York, ha annunciato pubblicamente la fine del gruppo in un post sul blog del 6 novembre sul suo sito Machine Learning Theory. Ha dettagliato le circostanze che hanno portato allo scioglimento, citando un conflitto filosofico fondamentale con la leadership di Microsoft AI e il venir meno del tradizionale patto di ricerca in Microsoft Research.

Ascesa e Declino di AI Frontiers

AI Frontiers è stato formato nel 2023, direttamente in risposta al rilascio di ChatGPT, come sforzo coordinato per accelerare la ricerca sull'IA all'interno di Microsoft. Langford ha spiegato che l'ambiente post-ChatGPT richiedeva più del genio isolato; richiedeva iniziative di ricerca organizzate e multi-persona per competere efficacemente. Il gruppo, che contava circa 50 persone, era progettato per operare in una 'via di mezzo disordinata' tra direzione top-down e innovazione bottom-up, lavorando attivamente per risolvere i disaccordi e gestire severi vincoli computazionali.

Nonostante le sue dimensioni relativamente ridotte, AIF ha prodotto un lavoro notevole. Il team ha sviluppato Autogen, un framework di orchestrazione per agenti AI, e Fara, un agente per l'uso del computer progettato per automatizzare compiti. Oltre al lavoro applicato sugli agenti, i ricercatori hanno perseguito miglioramenti fondamentali dei modelli, tra cui l'obiettivo Next Latent per l'estrapolazione, Dion3, una versione ottimizzata dell'ottimizzatore Muon, e il Full Bandwidth Transformer, che mira ad aumentare la potenza del modello attraverso la ricorsione.

Il gruppo ha anche fornito contributi infrastrutturali, creando un monorepo condiviso che forniva accesso a un codebase di pre-addestramento su scala edge in tutto Microsoft Research. Langford ha notato che ciò ha risparmiato ad almeno quattro team separati la duplicazione di significativi sforzi di pipeline di costruzione di modelli.

La Riorganizzazione e lo Scontro Culturale

All'inizio di settembre, Microsoft ha riorganizzato AI Frontiers in Microsoft AI (MAI), la divisione AI focalizzata sui prodotti dell'azienda. Sulla carta, questa consolidazione mirava a concentrare gli sforzi sull'IA. Tuttavia, Langford descrive una profonda incompatibilità tra l'approccio orientato alla ricerca di AIF e la filosofia della leadership di MAI, che include ex dirigenti di Inflection AI.

Secondo Langford, la filosofia centrale di MAI è 'scaling, e aggressivamente non ricerca'. La convinzione che modelli più grandi siano intrinsecamente migliori e che i ritorni di scala siano più prevedibili dei ritorni della ricerca ha dominato la nuova organizzazione. In un tale ambiente, l'attenzione principale si sposta sull'acquisizione e il perfezionamento dei dati, un netto distacco dalla ricerca fondamentale che AIF stava perseguendo.

Langford critica questa mentalità basata esclusivamente sullo scaling, definendola 'sia fuorviante che non divertente'. Punta a prove che la ricerca produce ritorni significativi, citando un esperimento di Bytedance che suggerisce che una variante del Full Bandwidth Transformer potrebbe eguagliare un modello grande il doppio, dimezzando potenzialmente i costi di addestramento e inferenza—un risparmio enorme in un'industria con investimenti da trilioni di dollari.

Esodo della Leadership e Futuro della Ricerca

Dopo la riorganizzazione, Langford dice di aver posizionato il suo team nel miglior modo possibile e di essere andato via. Nota che ogni altro membro fondatore della leadership di AIF ha lasciato Microsoft. Il personale rimanente del gruppo è stato distribuito nell'organizzazione più ampia, ma il futuro dei progetti di AIF—inclusi i framework per agenti e la ricerca fondamentale—rimane incerto.

Langford ha anche spiegato perché non è tornato a Microsoft Research. Ha citato due ostacoli: primo, la mancanza di un percorso chiaro per la ricerca per raggiungere un uso nel mondo reale all'interno dell'azienda, e secondo, un percepito venir meno dell'accordo 'fai buon lavoro, succedono cose buone'. Ha espresso preoccupazione che la leadership di MSR manchi della volontà di organizzare efficacemente la ricerca per rispondere al momento, e che riorganizzazioni simili potrebbero ripetersi.

Contesto Più Ampio e Implicazioni per il Settore

Lo scioglimento di AI Frontiers fa parte di un modello più ampio di cambiamenti nella leadership senior di Microsoft. La partenza prevista dell'ex CEO di LinkedIn Ryan Roslansky e il trasferimento dell'ex capo della piattaforma AI Eric Boyd ad Anthropic hanno attirato l'attenzione. Sebbene questi eventi non siano direttamente collegati, segnalano un periodo di transizione nella strategia AI di Microsoft.

La perdita di AI Frontiers solleva domande sul futuro della ricerca fondamentale sull'IA all'interno di Microsoft. Mentre l'industria si concentra sempre più sullo scaling, la partenza di un gruppo dedicato ad approcci innovativi e non basati sullo scaling potrebbe avere implicazioni a lungo termine per il vantaggio competitivo di Microsoft. La partenza di Langford, in particolare, segna la fine di un'era per Microsoft Research, dove è stato un membro fondatore e ha contribuito con lavori pionieristici nei banditi contestuali e nel machine learning.

Per la comunità di ricerca più ampia, la fine di AI Frontiers è una storia ammonitrice sulla tensione tra i cicli di prodotto aziendali e la ricerca a lungo termine. La speranza di Langford è che Microsoft possa un giorno diventare di nuovo attraente per la ricerca, ma non è ottimista nel breve termine. Come ha detto, 'Non è difficile immaginare un Microsoft del futuro che diventi di nuovo attraente per la ricerca se le persone al controllo possono sviluppare un po' più di saggezza.'