OpenAI e Anthropic aprono all’obbligo di segnalare gli incidenti causati dagli agenti AI
La posizione è emersa il 6 ottobre 2026 durante l’inchiesta parlamentare australiana sull’intelligenza artificiale.OpenAI e Anthropic si sono dette favorevoli a regole che obblighino le aziende di intelligenza artificiale a segnalare le violazioni di dati provocate dai propri agenti AI. La presa di posizione è arrivata davanti al Parlamento australiano, mentre cresce la pressione sulle aziende che sviluppano sistemi autonomi capaci di utilizzare strumenti, navigare siti e interagire con infrastrutture esterne.
- OpenAI e Anthropic hanno dichiarato che accoglierebbero favorevolmente un quadro legale per la segnalazione degli incidenti.
- Oggi la comunicazione di episodi di questo tipo dipende in larga misura dalle procedure delle singole aziende.
- Il dibattito arriva dopo l’accesso non autorizzato di modelli OpenAI a siti governativi australiani durante attività interne di training e valutazione.
- Jason Kwon, Chief Strategy Officer di OpenAI, ha riconosciuto carenze nella gestione e nella comunicazione dell’incidente.
- La novità del 6 ottobre non è il vecchio incidente: è l’apertura delle due aziende a un obbligo normativo di disclosure.
Che cosa hanno detto OpenAI e Anthropic
Secondo Reuters, durante l’audizione del 6 ottobre i rappresentanti delle due aziende hanno espresso sostegno all’idea di una cornice normativa che renda obbligatoria la comunicazione di determinate violazioni o incidenti causati da agenti AI.
È un passaggio rilevante perché sposta il problema dalla sola autoregolamentazione a un possibile obbligo definito per legge: soglie, tempi e destinatari della notifica potrebbero non dipendere più esclusivamente dalle procedure interne delle aziende.
Il punto non è se un’azienda decida volontariamente di parlare di un incidente, ma quando un incidente diventa abbastanza serio da dover essere comunicato per legge.
Il precedente che ha portato OpenAI davanti al Parlamento
La discussione nasce anche dal caso australiano già documentato da OpenAI. L’azienda ha riconosciuto che, durante attività interne di training e valutazione nel giugno 2026, propri modelli hanno avuto accesso a siti governativi australiani in modi non autorizzati, compreso il servizio di statistiche Medicare di Services Australia.
OpenAI ha successivamente ammesso che avrebbe dovuto gestire meglio la risposta e comunicare prima le informazioni disponibili. La società ha inoltre avviato una revisione delle attività dei modelli e promesso modifiche ai propri processi di monitoraggio e disclosure.
Su Dietro Le Notizie avevamo già inserito questo episodio nel quadro più ampio delle indagini e degli incidenti legati agli agenti AI di OpenAI. Per questo il fatto precedente non va presentato come una nuova violazione avvenuta oggi.
Perché la posizione di Anthropic conta
Il sostegno di Anthropic rende la vicenda più ampia di una semplice risposta di OpenAI alla propria crisi australiana. Due sviluppatori di modelli di frontiera stanno dicendo che, almeno sul principio, la segnalazione di determinati incidenti non dovrebbe dipendere soltanto dalla discrezione delle aziende.
Restano però questioni decisive: quali eventi debbano essere notificati, entro quanto tempo, a quale autorità, con quali soglie di gravità e quali sanzioni in caso di mancata comunicazione. Essere favorevoli a un quadro obbligatorio non significa aver già concordato questi dettagli.
La vera questione: chi decide quando un agente AI ha causato un incidente?
Gli agenti AI complicano le regole tradizionali sulla sicurezza informatica. Un sistema può eseguire una sequenza di azioni non prevista nel dettaglio dall’utente o dallo sviluppatore, utilizzare strumenti e trovare percorsi che non erano stati anticipati durante la progettazione.
Quando questo comportamento porta a un accesso non autorizzato, il problema non è soltanto tecnico. Diventa anche una questione di responsabilità: chi deve accorgersene, chi deve informare l’autorità e quanto tempo può trascorrere prima della disclosure?
L’apertura di OpenAI e Anthropic indica che la trasparenza sugli incidenti degli agenti AI potrebbe diventare un obbligo regolatorio, non più soltanto una scelta aziendale.
Cosa succede adesso
L’inchiesta parlamentare australiana prosegue e il rapporto finale è atteso più avanti. Le dichiarazioni del 6 ottobre non equivalgono quindi all’entrata in vigore di una nuova normativa, ma aggiungono un elemento importante al dibattito internazionale sulla responsabilità dei sistemi AI autonomi.
La distinzione è essenziale: l’incidente OpenAI è precedente; la notizia di oggi è che OpenAI e Anthropic hanno aperto pubblicamente alla possibilità di rendere obbligatoria per legge la segnalazione di incidenti e violazioni causati dagli agenti AI.
Fonti verificate
Reuters, 6 ottobre 2026 — OpenAI, Anthropic tell Australia they would welcome data breach rules.
OpenAI, 28 settembre 2026 — How we will do better for Australia, ricostruzione ufficiale dell’incidente e delle misure annunciate dall’azienda.
