Il Congresso Dovrebbe Indagare sui Laboratori di IA, Sostiene Cal Newport

Il Caso per un'Inchiesta del Congresso

Cal Newport, professore di informatica alla Georgetown University e autore, ha acceso un dibattito cruciale con il suo ultimo editoriale su The New York Times. Sostiene che i laboratori di IA all'avanguardia OpenAI e Anthropic hanno condotto una campagna di messaggi coordinati che richiede un esame approfondito. La campagna, suggerisce, è progettata per presentare la loro tecnologia come terrificantemente potente e pericolosa per l'esistenza, mentre contemporaneamente fanno pressione contro una regolamentazione significativa.

L'affermazione centrale di Newport è che questi laboratori stanno agendo in modi sempre più erratici e spudorati. Punta il dito su un'estate di annunci attentamente pianificati da OpenAI riguardo al potere inquietante—e persino alle capacità criminali—dei loro sistemi agente basati su LLM. A ciò è seguito un dibattito pubblico tra i dipendenti di Anthropic sulla probabilità di un'estinzione umana indotta dall'IA, condotto con una calma inquietante che trasmetteva un'inevitabilità nichilista.

La Campagna e le Sue Reazioni

Il culmine è arrivato quando il CEO di Anthropic, Dario Amodei, ha pubblicato una lettera intitolata "Dobbiamo Moderare la Frontiera." In essa, elencava i danni che la ricerca della sua stessa azienda potrebbe causare, ma invece di promettere di fermarsi, concludeva che la catastrofe può essere evitata solo "costruendo la tecnologia nel modo giusto." Ciò comporta, prevedibilmente, che il governo rallenti i potenziali concorrenti mentre permette ai laboratori di guidare. Il CEO di OpenAI, Sam Altman, ha rapidamente twittato il suo sostegno a questo piano.

Questo comportamento si è rivelato controproducente. Invece di ispirare fiducia pubblica, ha sollevato domande su cosa stia realmente accadendo all'interno di questi laboratori. Newport sostiene che il pensiero messianico a lungo abbracciato internamente—presentarsi come l'unica speranza dell'umanità contro l'IA superintelligente—è ora trapelato in pubblico, e le masse non stanno applaudendo.

Tre Aree Chiave per l'Indagine

Nel suo editoriale, Newport propone una missione pubblica di accertamento dei fatti per scoprire quali progetti di ricerca stanno conducendo OpenAI e Anthropic, come li stanno conducendo e per quali scopi. Delinea tre aree chiave di esplorazione:

• Isolare i sistemi problematici: Andare oltre le vaghe discussioni sull'"IA" per identificare i tipi specifici di sistemi che creano problemi. Newport sostiene che la maggior parte dei problemi deriva da una ristretta fascia di esperimenti incauti condotti dai laboratori all'avanguardia, che devono giustificare perché li stanno eseguendo.
• Verificare le procedure di sicurezza interne: Esaminare perché gli attacchi di hacking non autorizzati da parte di agenti autonomi, come rivelato da OpenAI, non sono stati fermati dopo il primo incidente. Si chiede perché non si persegua la responsabilità penale per l'esecuzione di sistemi noti per commettere probabilmente reati.
• Indagare sulle ideologie apocalittiche: Esplorare come le credenze futuriste stiano influenzando le decisioni sulla ricerca e sul ritmo. Newport è preoccupato che OpenAI e Anthropic stiano diventando avventati perché credono che i danni collaterali siano giustificati in una corsa per redimere l'umanità.

La Necessità di una Supervisione Pubblica

L'appello di Newport non riguarda solo la responsabilità; riguarda chi definisce la narrativa sull'IA. "Dobbiamo smettere di permettere a un piccolo numero di aziende private, che agiscono e parlano in modi sempre più erratici, di dettare come dovremmo sentirci riguardo all'IA," conclude. "Abbiamo sentito cosa vogliono dire; ora tocca al Congresso intervenire per nostro conto per scoprire cosa sta realmente accadendo."

La reazione su piattaforme come Hacker News e Lobsters è stata intensa, con commentatori che tracciano paralleli con sette storiche e mettono in dubbio la sanità mentale di costruire un "dio macchina." Il dibattito non riguarda più solo la capacità tecnica; riguarda la governance, l'etica e il potere incontrollato di poche entità private.

Mentre l'industria dell'IA corre in avanti, l'argomentazione di Newport serve come un promemoria critico: l'innovazione senza supervisione è una ricetta per il disastro. La domanda è se il Congresso ascolterà l'appello e indagherà prima che sia troppo tardi.