I piccoli modelli AI trovano vulnerabilità in Mythos, mettendo in discussione le affermazioni di Frontier AI

L'annuncio di Mythos e la sua premessa

Il 7 aprile, Anthropic ha presentato Claude Mythos Preview e Project Glasswing, un consorzio volto a utilizzare il nuovo modello AI ad accesso limitato per trovare e correggere vulnerabilità critiche nel software. L'annuncio, dettagliato in un post tecnico del blog, descriveva Mythos che scopriva autonomamente migliaia di vulnerabilità zero-day in ogni principale sistema operativo e browser, tra cui un bug di 27 anni in OpenBSD e un bug di 16 anni in FFmpeg.

Il post evidenziava la costruzione di exploit sofisticati, come catene di escalation dei privilegi a vulnerabilità multiple nel kernel Linux e un exploit di esecuzione di codice remoto contro FreeBSD. Anthropic si è impegnata a fornire fino a 100 milioni di dollari in crediti di utilizzo e 4 milioni di dollari in donazioni dirette a organizzazioni di sicurezza open-source.

Tuttavia, Anthropic ha dichiarato che non rilascerà mai Mythos Preview al pubblico, citando rischi di cybersecurity senza precedenti. Invece, l'accesso è limitato a circa 50 aziende e organizzazioni selezionate tramite Project Glasswing, con Mike Krieger di Anthropic che lo descrive come