Amazon impone la supervisione di ingegneri senior per la codifica AI dopo gravi interruzioni

La stretta di Amazon sulla codifica AI

In un significativo cambiamento a seguito di una serie di interruzioni di alto profilo, Amazon sta rafforzando i controlli interni sull'uso degli assistenti di codifica AI generativa. Secondo promemoria interni e briefing visti da molteplici fonti, l'azienda richiederà ora agli ingegneri junior e di livello medio di ottenere l'approvazione degli ingegneri senior per qualsiasi modifica di produzione assistita da AI.

La mossa arriva dopo una "tendenza di incidenti" negli ultimi mesi, caratterizzati da un "alto raggio di esplosione" e legati a "modifiche assistite da Gen-AI", come descritto in un promemoria per una recente riunione di "approfondimento". Il vicepresidente senior Dave Treadwell, che sovrintende alla tecnologia di e-commerce di Amazon, ha detto francamente ai dipendenti: "Gentili, come probabilmente sapete, la disponibilità del sito e dell'infrastruttura correlata non è stata buona di recente".

La politica fa parte di un'iniziativa più ampia volta a introdurre "attrito controllato" nei processi di gestione delle modifiche per i sistemi retail critici. La risposta di Amazon evidenzia una tensione centrale nello sviluppo di software moderno: la promessa di velocità potenziata dall'AI rispetto alla necessità di stabilità e sicurezza.

Un modello di interruzioni

Le nuove salvaguardie seguono almeno due categorie distinte di incidenti legati all'AI. Innanzitutto, il sito web di shopping principale di Amazon e l'app hanno subito un'interruzione di quasi sei ore questo mese, che l'azienda ha attribuito a una "distribuzione di codice software errata". Ciò ha lasciato i clienti impossibilitati a completare gli acquisti o a controllare i dettagli del proprio account.

Separatamente, la divisione cloud di Amazon, Amazon Web Services (AWS), ha subito almeno due interruzioni del servizio direttamente collegate ai suoi strumenti di codifica AI interni. Un incidente notevole a metà dicembre ha causato un'interruzione di 13 ore a un servizio di calcolo dei costi dopo che gli ingegneri hanno permesso allo strumento di codifica Kiro di Amazon di apportare modifiche.

In quel caso, lo strumento AI ha optato per "eliminare e ricreare l'ambiente", secondo un rapporto del Financial Times. Sebbene Amazon abbia dichiarato che si trattava di un "evento estremamente limitato" che ha interessato un singolo servizio in parti della Cina, ciò ha sottolineato la natura imprevedibile delle azioni dell'AI.

Resoconti contrastanti e posizione dell'azienda

C'è qualche discrepanza nella segnalazione riguardo alla natura esatta della nuova politica. Mentre il Financial Times e CNBC hanno riportato la specifica richiesta di approvazione degli ingegneri senior, Business Insider ha citato un portavoce di Amazon che ha dichiarato che non era "accurato" affermare che gli ingegneri junior e di livello medio sono universalmente tenuti a ottenere tale approvazione.

Tuttavia, la narrativa più ampia derivante dai documenti interni è coerente: Amazon sta rafforzando le salvaguardie. Il promemoria di Treadwell, visto da CNBC, ha puntualmente indicato "strumenti GenAI che integrano o accelerano le istruzioni di modifica della produzione, portando a pratiche non sicure" come fattore contribuente.

L'azienda inquadra il problema non come un problema fondamentale con l'autonomia dell'AI, ma come una questione di protocollo e "controllo dell'accesso utente". Amazon insiste che non sta rinunciando alla distribuzione dell'AI, ma sta insistendo su una supervisione più forte e pratiche migliori più consolidate.

La sfida fondamentale: velocità vs. sicurezza

La situazione di Amazon esemplifica una sfida critica a livello di settore. Gli assistenti di codifica AI come Q e Kiro di Amazon, Claude Code e altri consentono agli ingegneri di produrre codice a velocità senza precedenti. Tuttavia, questa valanga di nuovo codice può sopraffare i processi tradizionali di revisione e test del codice.

Come ha notato Treadwell nel suo promemoria, le "migliori pratiche e salvaguardie" per l'uso nuovo di GenAI "non sono ancora completamente stabilite". Ciò crea un divario pericoloso in cui la velocità di creazione supera i meccanismi di convalida. Il risultato è un aumento del rischio di errori ad alto impatto che si insinuano nella produzione.

La soluzione proposta da Amazon, come dettagliato nel rapporto di Business Insider, prevede la combinazione di strumenti "agenti" guidati dall'AI con sistemi "deterministici" più prevedibili basati su regole. Questo approccio ibrido mira a catturare i benefici dell'accelerazione dell'AI mantenendo una rete di sicurezza di controlli tradizionali.

Implicazioni più ampie per il settore

La lotta molto pubblica di Amazon è un ammonimento per l'intero settore tecnologico che si sta affrettando ad adottare l'AI generativa. Convalida le preoccupazioni che il codice generato dall'AI, sebbene spesso sintatticamente corretto, può contenere errori logici sottili o prendere decisioni inaspettate e consequenziali quando gli viene data autonomia.

Il settore sta già rispondendo a questa necessità. In particolare, Anthropic ha recentemente lanciato uno strumento dedicato di revisione del codice AI per il suo assistente Claude Code, concentrandosi specificamente sulla cattura di errori logici. Come ha dichiarato Jennifer Wu, capo del prodotto di Anthropic, lo strumento risponde a "un'enorme richiesta del mercato" poiché gli ingegneri creano funzionalità più velocemente ma affrontano una maggiore richiesta di revisione rigorosa.

La mossa di Amazon di imporre la supervisione senior è una risposta pragmatica, con l'uomo nel circuito, a un problema che le soluzioni puramente tecniche non hanno ancora completamente risolto. Riconosce che il giudizio degli esperti rimane insostituibile per la gestione del rischio in sistemi complessi rivolti ai clienti.

Pressioni interne e percorso futuro

A complicare le sfide tecniche ci sono le pressioni interne. Il Financial Times ha riportato che molteplici ingegneri di Amazon hanno citato un aumento degli incidenti "Sev2" - quelli che richiedono una risposta rapida per evitare interruzioni - a seguito di significativi tagli di posti di lavoro, compresa l'eliminazione di 16.000 ruoli aziendali a gennaio.

Sebbene Amazon contesti che le riduzioni del personale siano responsabili della tendenza alle interruzioni, una forza lavoro più snella combinata con un volume maggiore di codice generato dall'AI crea una tempesta perfetta per l'instabilità operativa.

I prossimi passi di Amazon prevedono non solo la politica immediata delle approvazioni senior, ma anche un investimento a lungo termine in "soluzioni più durature". L'azienda sta anche notificando a tutti i proprietari di sistemi di livello 1 e ai leader di livello Direttore e VP di eseguire un audit di tutte le attività di modifica del codice di produzione all'interno delle loro organizzazioni.

Questo episodio serve come un test di stress nel mondo reale per l'integrazione dell'AI aziendale. Dimostra che per il software mission-critical, la domanda non è più solo quanto velocemente l'AI possa codificare, ma quanto sicura possa essere distribuita su larga scala.