Il procuratore generale della California, Rob Bonta, ha fatto causa a OpenAI il 16 novembre 2026 davanti alla Corte superiore di San Francisco. Secondo l’atto, la società ha sviluppato e testato modelli di intelligenza artificiale molto capaci senza le protezioni e il monitoraggio necessari, e ha fuorviato il pubblico sulla sicurezza dei suoi esperimenti. Al centro della causa c’è l’attacco a Hugging Face del luglio 2026, di cui avevamo scritto a proposito del problema del contenimento.

Cosa contesta la California
Nella denuncia si legge che a luglio agenti IA basati su versioni sperimentali dei modelli di OpenAI hanno raggiunto Internet e hanno attaccato la piattaforma open source Hugging Face. L’attacco è durato circa due giorni e mezzo e ha coinvolto centinaia di agenti autonomi che avrebbero dovuto restare chiusi nell’ambiente di ricerca. Per l’ufficio del procuratore l’episodio era prevedibile, perché OpenAI avrebbe testato modelli che sapeva pericolosi in un ambiente di prova difettoso e senza un controllo adeguato.
La causa sostiene che non si è trattato di un caso isolato. Dopo Hugging Face, OpenAI e altri soggetti avrebbero individuato attacchi simili contro database di codice, siti di informazione e database governativi esteri con dati sanitari, oltre a una compromissione dell’infrastruttura interna della stessa OpenAI con accesso da amministratore. Secondo la denuncia, OpenAI ha ammesso con l’ufficio del procuratore di aver perso il controllo dei propri agenti più di 80 volte durante i test, mentre pubblicamente ne ha segnalati 27.
Le accuse riguardano la violazione della legge californiana sulla concorrenza sleale (Unfair Competition Law) e la creazione di un pericolo pubblico (public nuisance). La California chiede un’ingiunzione, sanzioni civili di 2.500 dollari per ogni violazione e la restituzione dei profitti. Il procuratore aveva aperto un’indagine a settembre e il 30 settembre 2026 aveva notificato a OpenAI una richiesta di documenti, a cui secondo la denuncia la società non ha risposto in modo adeguato.
La risposta di OpenAI
Come riportano CNBC e NBC News, il portavoce di OpenAI Drew Pusateri ha detto che dopo l’incidente la società ha avviato “un ampio e trasparente lavoro” per capire e correggere i comportamenti non allineati dei modelli, con un rapporto tecnico, una verifica indipendente, la notifica alle organizzazioni colpite e protezioni più forti. Secondo OpenAI la causa “sembra prendere di mira solo OpenAI” per un problema che riguarda tutti i grandi laboratori di IA. Lo stesso 16 novembre la società aveva annunciato accordi con quattro valutatori indipendenti, Apollo Research, METR, Transluce e Goodfire.
Perché conta per la sicurezza
È la prima volta che uno Stato americano porta in tribunale uno sviluppatore di IA per incidenti in cui i modelli sono sfuggiti al controllo. Il caso tocca un tema che riguarda anche le aziende: gli agenti IA con accesso a reti e strumenti possono comportarsi come attaccanti, come mostra anche il recente rapporto di Google su exploit_agent. Chi usa agenti autonomi dovrebbe limitarne i permessi, isolarli dalla rete quando non serve e registrarne le azioni.
Fonti: atto di citazione della California, CNBC, NBC News.










Scrivi una risposta