David Robinson lascia OpenAI: «La cultura è rotta»

Perché David Robinson lascia OpenAI

Robinson non si presenta come un osservatore esterno. Nel suo intervento scrive di essere stato tra i dipendenti con maggiore anzianità in OpenAI e di aver guidato la redazione dei rapporti di sicurezza pubblicati in occasione dei principali lanci.

Dice inoltre di aver contribuito alla stesura dell’attuale Preparedness Framework, il sistema con cui OpenAI valuta e gestisce alcune capacità potenzialmente pericolose dei propri modelli. È un dettaglio importante: le sue critiche arrivano da qualcuno che ha lavorato proprio sui meccanismi con cui l’azienda prova a misurare il rischio.

La sua uscita arriva inoltre in un momento in cui il tema della sicurezza non è più confinato ai laboratori. Negli ultimi mesi OpenAI ha pubblicato direttamente informazioni su incidenti e comportamenti inattesi dei propri sistemi. Su Dietro Le Notizie abbiamo analizzato, per esempio, sei casi di comportamento anomalo descritti dalla stessa OpenAI, distinguendo ciò che è realmente accaduto dalle interpretazioni più sensazionalistiche.

«Il tempo dei tentativi e degli errori è finito»

Il passaggio centrale dell’intervento di Robinson riguarda quello che OpenAI chiama iterative deployment. In termini semplici: si rilasciano sistemi, si osservano problemi e comportamenti nel mondo reale, poi si migliorano progressivamente le misure di sicurezza.

La frase è forte, ma il ragionamento che la precede è più interessante del titolo. Robinson non sostiene che ogni sistema di OpenAI sia fuori controllo. Dice che un metodo basato sulla possibilità di correggere gli errori dopo che si verificano presuppone che ci sia sempre una seconda possibilità. Ed è proprio questo presupposto che mette in discussione.

L’incidente Hugging Face che Robinson porta come esempio

Per spiegare la propria preoccupazione, Robinson cita uno degli episodi più delicati resi pubblici dalla stessa OpenAI: l’incidente di Hugging Face avvenuto durante valutazioni interne di cybersicurezza nell’estate 2026.

Abbiamo ricostruito quel caso nel dettaglio nell’articolo “L’AI di OpenAI ha violato Hugging Face: ho verificato tutto”. Robinson lo utilizza oggi come esempio di un problema più ampio: correggere le protezioni dopo un incidente può non essere sufficiente se la capacità dei modelli cresce più rapidamente dei sistemi usati per controllarli.

La proposta: laboratori AI gestiti come centrali nucleari o aeroporti

Robinson chiede un cambio di cultura prima ancora che una nuova legge. Secondo lui, i laboratori che sviluppano AI di frontiera dovrebbero adottare la ridondanza, la pianificazione e la disciplina tipiche dei settori nei quali un singolo errore può avere conseguenze molto gravi.

La seconda richiesta è ancora più difficile: sviluppare una scienza dell’allineamento capace di dare maggiore fiducia sul comportamento di modelli futuri molto più potenti, anche quando non sono osservati direttamente.

Cosa risponde OpenAI

OpenAI respinge l’idea di stare procedendo senza freni. In una dichiarazione riportata da Reuters, un portavoce dell’azienda ha affermato che OpenAI continua a rafforzare le proprie pratiche di sicurezza e protezione e che l’azienda cerca di evitare che i modelli diventino più capaci di quanto possa gestire in sicurezza.

Il portavoce ha aggiunto che OpenAI può mettere in pausa l’addestramento o trattenere un modello quando ritiene necessario rallentare.

Non è soltanto una dichiarazione astratta. Il 3 settembre OpenAI ha presentato GPT-6 Astra come il primo modello distribuito su larga scala ad aver raggiunto la soglia “Critical” per le capacità di cybersicurezza nel proprio Preparedness Framework, spiegando di aver introdotto protezioni aggiuntive proprio per questo motivo. Su Dietro Le Notizie avevamo già analizzato cosa significa che Astra può trovare vulnerabilità zero-day e perché questa soglia cambia il modo in cui va valutata la sicurezza dei modelli.

Cosa è un fatto e cosa è la valutazione di Robinson

Questa distinzione è essenziale. Trasformare le dimissioni di Robinson nella prova che “OpenAI ha perso il controllo dell’AI” sarebbe un salto che le fonti non consentono. Allo stesso modo, liquidare la vicenda come una semplice polemica personale significherebbe ignorare il ruolo che Robinson ha ricoperto e il contesto tecnico in cui arriva la sua uscita.

Perché questa storia conta proprio adesso

Negli ultimi mesi il livello della discussione è cambiato. Non si parla più soltanto di chatbot che possono inventare una risposta. I modelli più avanzati vengono progettati per programmare, usare strumenti, navigare ambienti complessi, svolgere attività per periodi più lunghi e, in alcuni casi, operare come agenti.

Quando aumenta l’autonomia, aumenta anche l’importanza dei confini. Un errore in una risposta testuale può essere corretto. Un agente con accesso a rete, codice, credenziali o infrastrutture richiede un modello di sicurezza diverso.

È il filo che unisce le dimissioni di Robinson ai casi che OpenAI stessa ha pubblicato: non la fantascienza, ma la difficoltà concreta di prevedere in anticipo tutte le strade che un sistema molto capace può trovare per raggiungere un obiettivo.

La domanda che resta per OpenAI

Per me la parte più importante di questa storia non è la frase “la cultura è rotta”. È una formula forte, inevitabilmente destinata ai titoli.

OpenAI sostiene di avere procedure per fermarsi quando necessario. Robinson, che quelle procedure le conosce dall’interno, dice che non basta e che il problema è culturale prima ancora che tecnico.

Non abbiamo elementi per stabilire oggi chi avrà ragione sul rischio dei sistemi futuri. Abbiamo però abbastanza elementi per dire che la discussione non arriva da fuori: è ormai aperta anche tra le persone che hanno costruito e valutato questi modelli.