In meno di 12 ore di lavoro dei suoi agenti di intelligenza artificiale, la startup di cybersecurity Cathedral ha trovato il modo di entrare in alcuni sistemi interni di Anthropic, l’azienda che sviluppa il chatbot Claude. Il caso Anthropic Cathedral è stato rivelato il 26 ottobre dal Washington Post, che ha visionato una bozza del rapporto della startup. Anthropic ha confermato un accesso a “un insieme limitato” di sistemi di vendita, risorse umane e IT, ma contesta la portata delle conclusioni di Cathedral.
Anthropic Cathedral: cosa è successo
Cathedral è una startup nata da pochi mesi, fondata da ex componenti del DOGE, il servizio voluto dall’amministrazione statunitense per tagliare la spesa pubblica, e offre strumenti di sicurezza basati sull’intelligenza artificiale al governo degli Stati Uniti e ad aziende private. Ha esaminato Anthropic nell’ambito del programma di bug bounty dell’azienda, che invita ricercatori esterni a cercare falle nei suoi sistemi e premia chi le segnala.
Secondo la bozza del rapporto, i ricercatori non hanno attaccato Claude ma hanno sfruttato vulnerabilità presenti in software gestionali e commerciali di terze parti, usati da Anthropic come da molte altre aziende per attività amministrative e di vendita. I nomi dei fornitori non sono stati resi noti per motivi di sicurezza. Cathedral dice di aver segnalato le scoperte ad Anthropic all’inizio di ottobre e di aver avvisato anche i fornitori dei software coinvolti.
Quali dati sono stati raggiunti
Nel rapporto Cathedral afferma che i suoi agenti AI hanno individuato percorsi verso trascrizioni di riunioni, dati su stipendi e offerte di lavoro e messaggi Slack in cui si discutevano i modelli più avanzati di Anthropic. La startup sostiene di aver limitato gli accessi ai dati “al minimo indispensabile”, secondo le buone pratiche della ricerca di sicurezza, e definisce il risultato un campanello d’allarme per le aziende.
Anthropic offre una versione più ridotta. In una nota riportata dal Washington Post, l’azienda spiega che i ricercatori hanno avuto accesso a sistemi contenenti i contatti professionali di alcuni clienti e partner e alcuni dati di base degli account utente. Secondo Anthropic non sono stati raggiunti i messaggi inviati dai clienti ai modelli, le risposte generate, il codice sorgente né i pesi dei modelli.
La risposta di Anthropic
«Il nostro monitoraggio ha segnalato parte dell’attività di Cathedral prima che ce la comunicassero e abbiamo bloccato il loro accesso lo stesso giorno», ha dichiarato l’azienda, aggiungendo di non avere prove che qualcun altro abbia sfruttato le stesse vulnerabilità. Anthropic ha disattivato i software coinvolti, riattivandoli solo dopo la conferma della correzione da parte dei fornitori, e ha informato funzionari federali.
L’azienda accusa però Cathedral di aver esagerato le implicazioni per la sicurezza nazionale e di non aver rispettato del tutto le regole del programma di bug bounty, perché non avrebbe dichiarato tutta la propria attività all’interno dei sistemi. Il caso conferma un tema già emerso sull’uso dell’intelligenza artificiale negli attacchi informatici: gli agenti AI possono accelerare molto la ricerca di falle, anche in strumenti di uso comune.
Cosa possono fare le aziende
- Censire i software di terze parti collegati ai sistemi aziendali (CRM, gestionali HR, strumenti di vendita) e verificare che siano aggiornati.
- Limitare i permessi delle integrazioni e degli account di servizio al minimo necessario, con l’autenticazione a più fattori dove possibile.
- Monitorare gli accessi anomali alle piattaforme di collaborazione come Slack e agli archivi di riunioni e documenti del personale.
- Prevedere programmi di bug bounty con regole chiare e una procedura rapida per disattivare un servizio esposto.
- Valutare i rischi legati agli agenti AI fuori controllo e alle istruzioni malevole per gli agenti AI, sia come strumento di attacco sia come superficie esposta.
Fonti: The Washington Post; The Deep Dive; Infobae.
