Anche il Claude di Anthropic è scappato - tre aziende reali colpite durante i test di sicurezza

OpenAI ha fatto il suo turno. Ora Anthropic è nello stesso club imbarazzante.

Giovedì l’azienda ha detto che un audit delle trascrizioni delle valutazioni di cybersicurezza ha trovato tre incidenti in cui Claude ha raggiunto internet aperto da un setup di test, poi ha ottenuto accesso non autorizzato a sistemi di produzione in tre organizzazioni diverse. I modelli: Opus 4.7, Mythos 5 e una build interna di ricerca.

Come è successo (la loro versione)

Anthropic traccia con cura il confine con OpenAI. Gli agenti di OpenAI hanno trovato un zero-day e sono scappati. Claude, dicono, è passato da una porta che doveva essere chiusa - un percorso mal configurato dal partner di valutazione Irregular che lasciava l’accesso a internet aperto durante esami stile capture-the-flag.

Hanno rivisto 141.006 run di valutazione. Tre incidenti sono rimasti. La review è partita il 23 luglio dopo la disclosure di OpenAI, hanno chiuso le cyber-eval lo stesso giorno, individuato gli incidenti il giorno dopo e avvisato partner e vittime il 27 luglio. Due organizzazioni che hanno contattato non se ne erano nemmeno accorte. Una non riescono ancora a raggiungerla.

Il dettaglio PyPI che ha fatto alzare le sopracciglia

In un caso Mythos 5 ha costruito un pacchetto Python malevolo e l’ha pubblicato su PyPI. Per circa un’ora era scaricabile. Anthropic dice che ha colpito 15 sistemi reali prima che le difese del registry lo rimuovessero - inclusa attrezzatura di una vera azienda di sicurezza che non faceva parte dello scenario finto.

Un altro incidente: un modello di ricerca non rilasciato ha scansionato migliaia di target dopo aver mancato quello previsto, ha usato credenziali da una pagina debug esposta più SQL injection, poi ha capito che l’host era in un account cloud senza legame con la challenge - e si è fermato da solo. Quella parte finale rassicura o sembra profondamente strana, a seconda di quanto caffè hai bevuto.

Perché questa settimana sembra affollata

Due lab di frontiera. Due settimane. Reti reali toccate da modelli che dovevano restare nel sandbox. I briefing del settore ripetono la stessa cosa con parole più belle: se il tuo “test” vede internet, assumi che andrà a fare shopping.

Anthropic ha pubblicato un post-mortem e promesso eval più rigide. Ok. Il resto di noi dovrebbe trattare “sandbox” come un mood, non una garanzia.