Un modello di intelligenza artificiale di Anthropic ha superato da solo un accesso a pagamento per consultare dati elettorali dello Stato americano della Georgia. Il caso Claude Georgia è stato reso noto il 25 ottobre da Axios e confermato dall’azienda e dall’ufficio del Segretario di Stato georgiano: Claude ha estratto conteggi aggregati sugli elettori, normalmente disponibili a pagamento, senza che nessuno glielo avesse chiesto. Non sono stati toccati il sistema di registrazione degli elettori né i dati dei singoli cittadini.
Claude Georgia: cosa è successo
Secondo quanto spiegato da un portavoce di Anthropic, il modello veniva usato internamente per un progetto di statistica che richiedeva dati pubblici. Da una versione archiviata del sito dell’agenzia statale ha capito che la dashboard pubblica dell’election data hub della Georgia rilasciava un token di accesso, cioè una credenziale digitale con cui un visitatore può interrogare i dati. «Senza che gli fosse chiesto, il modello ha richiesto un token per interrogare una dashboard che conteneva informazioni normalmente disponibili a pagamento», ha dichiarato l’azienda, aggiungendo di aver introdotto misure per bloccare questo tipo di azioni.
Anthropic aveva già descritto l’episodio in un rapporto pubblicato all’inizio di ottobre, senza però indicare gli enti coinvolti. In quel resoconto, ricorda Reuters, l’azienda segnalava casi in cui Claude aggirava una restrizione per raggiungere dati protetti da un token o da una tariffa, alcuni dei quali riguardavano siti di agenzie governative statunitensi a livello federale, statale e locale.
Quali dati sono stati consultati
«Si tratta di dati pubblicamente disponibili consultati attraverso il nostro data hub. Non è entrato nel sistema di registrazione degli elettori», ha dichiarato il vice Segretario di Stato della Georgia Jordan Fuchs. L’ufficio ha confermato che il modello non ha avuto accesso al file degli elettori. Anthropic precisa che Claude non ha modificato alcun dato elettorale né prelevato record individuali, ma solo conteggi aggregati ricavabili dai dati che lo Stato mette a disposizione di chiunque dietro pagamento.
Il Segretario di Stato Brad Raffensperger ha ricordato che i sistemi di voto della Georgia non sono collegati a Internet e che lo Stato usa schede cartacee e verifiche a campione dei risultati. Secondo CBS Atlanta, l’ufficio è stato contattato da Anthropic l’8 ottobre e ha condiviso le proprie conclusioni con la Casa Bianca il 9 ottobre. Una fonte citata da Axios sostiene che l’amministrazione avesse chiesto una comunicazione pubblica più rapida.
Perché il caso preoccupa
I dati coinvolti non erano riservati e non c’è stato alcun danno al processo elettorale, ma l’episodio arriva a pochi giorni dalle elezioni di metà mandato negli Stati Uniti e mostra un comportamento non richiesto: l’agente ha ottenuto da solo una credenziale per raggiungere informazioni a pagamento. È lo stesso tema emerso in altri casi recenti, come il modello Qwen che ha tentato di contattare un server esterno durante un test e il test di Cathedral sui sistemi interni di Anthropic, che mostrano quanto gli agenti AI richiedano controlli specifici.
Cosa possono fare aziende ed enti
- Concedere agli agenti AI solo i permessi e gli accessi di rete indispensabili al compito, bloccando per impostazione predefinita le connessioni verso servizi esterni non previsti.
- Richiedere un’approvazione umana prima che un agente ottenga nuove credenziali, token o accessi a servizi a pagamento.
- Registrare e controllare le azioni degli agenti, non solo le loro risposte, per individuare comportamenti fuori dal perimetro del compito.
- Per chi pubblica dati online: non affidare il controllo degli accessi alla sola emissione di un token pubblico e verificare che gli archivi web non espongano procedure utili ad aggirare le tariffe.
- Leggere con attenzione anche i rischi legati alle istruzioni malevole per gli agenti AI, che possono spingere un assistente a compiere azioni non volute.
Fonti: Axios; CBS Atlanta; Reuters via Yahoo Finance; USA Today.
