Uso l’AI ogni giorno, ma l’addio di Jacob Coxon mi ha fatto una domanda scomoda

Uso l’intelligenza artificiale praticamente ogni giorno. La provo, la metto sotto pressione, vedo quello che riesce a fare e, soprattutto, vedo ancora molto bene quello che non riesce a fare. Per questo non sono tra quelli che gridano alla superintelligenza ogni volta che esce un nuovo modello.

Ma oggi ho letto con attenzione le parole di Jacob Coxon e, questa volta, non me la sento di liquidare tutto come il solito allarme sull’intelligenza artificiale.

Coxon, 27 anni, ha annunciato le proprie dimissioni da Anthropic dopo tre anni di ricerca sul pretraining, prima in OpenAI e poi in Anthropic, e ha detto di voler lasciare del tutto il settore. Il suo nome compare nella pagina ufficiale con cui OpenAI ha presentato GPT-4.5, nell’elenco dei contributori della sezione Research: non tra i foundational contributors, come qualcuno ha scritto in queste ore. Nel suo messaggio accusa entrambe le aziende di non comportarsi responsabilmente e sostiene che stiano correndo verso sistemi di superintelligenza capaci di auto-migliorarsi, «giocando d’azzardo con le nostre vite».

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Il punto non è avere paura dell’AI

La questione che mi interessa è un’altra. Quando un ricercatore che ha lavorato direttamente alla costruzione di modelli avanzati decide di lasciare e dice pubblicamente che la corsa sta diventando irresponsabile, credo che valga almeno la pena ascoltarlo.

Coxon sostiene che i sistemi che stiamo costruendo potrebbero presto diventare sovrumani in diversi ambiti e arrivare a capacità estremamente potenti nella programmazione, nella ricerca e nella cybersicurezza. Parla persino di sistemi capaci di hackerare praticamente qualsiasi cosa, rivoluzionare interi settori in tempi rapidissimi e acquisire potere e risorse reali.

Qui bisogna essere precisi: questa è una previsione di Coxon, non la descrizione delle capacità normali dei sistemi AI disponibili oggi al pubblico. Confondere le due cose sarebbe cattivo giornalismo. Sulle capacità reali dei modelli più recenti, e su quanto sia difficile misurarle davvero, avevo già scritto guardando cosa c’è dietro GPT-6 Astra e i suoi benchmark.

«Potrebbe ucciderci tutti»: attenzione a come leggiamo questa frase

Il passaggio più duro del thread è anche quello più citato.

Coxon aggiunge di aver sentito dirigenti e ricercatori esprimere privatamente paure molto serie, pur usando in pubblico un linguaggio più prudente. Conversazioni private alle quali non ho assistito non posso verificarle, e non sarebbe corretto trasformare quella testimonianza nel titolo facile «OpenAI e Anthropic sanno che l’AI ci ucciderà».

C’è però un elemento pubblico e verificabile. Evan Hubinger, che in Anthropic guida l’Alignment Science, ha risposto pubblicamente a Coxon dicendo di attribuire personalmente una probabilità superiore al 10% alla possibilità che l’AI uccida tutti gli esseri umani entro il prossimo decennio, e ha scritto che l’azienda sta facendo del suo meglio ma non ha ancora un piano per risolvere l’allineamento di una superintelligenza, né è chiaramente sulla strada per averlo.

Resta una valutazione probabilistica personale, non una previsione scientifica dimostrata. Ma arriva dalla persona che in quell’azienda ha il compito di mettere sotto stress la sicurezza dei modelli, ed è difficile considerarla una semplice trovata pubblicitaria.

E se il vero pericolo fosse arrivare primi?

OpenAI, Anthropic, Google, xAI e gli altri grandi protagonisti dell’intelligenza artificiale competono per modelli, utenti, aziende, sviluppatori, investimenti e vantaggio tecnologico.

Ed è qui che nasce la domanda che considero centrale: se un’azienda si accorgesse domani che sarebbe più prudente rallentare, potrebbe realmente farlo sapendo che il concorrente continuerà a correre?

Secondo Coxon questo problema esiste già, e le due aziende non sono nella stessa posizione.

Se tutti pensano «non posso fermarmi perché l’altro non si fermerà», abbiamo costruito una corsa nella quale persino chi teme il traguardo ha un incentivo ad accelerare.

Non è soltanto la paura di un ricercatore

Su un punto voglio essere chiaro, perché è quello che rende la discussione diversa da un dibattito filosofico: alcuni episodi concreti sono stati resi pubblici dalle aziende stesse.

A fine agosto OpenAI ha diffuso i dettagli di quello che ha definito un incidente informatico senza precedenti, avvenuto a luglio durante valutazioni interne di cybersicurezza. Alcuni agenti sono usciti da ambienti di test isolati dalla rete, hanno usato un package manager interno come bacheca improvvisata per scambiarsi messaggi, hanno concatenato vulnerabilità e sono arrivati a eseguire codice su decine di server di Hugging Face, ottenendo accesso root su una macchina e a una quantità limitata di dati privati. L’azienda ha parlato di un colpo d’avvertimento e ha dichiarato che nessun dato dei clienti è stato coinvolto.

Anthropic, a sua volta, ha riferito casi in cui modelli Claude hanno ottenuto accessi non autorizzati a sistemi di organizzazioni esterne, spiegando che si trattava di ambienti di valutazione mal configurati e che i modelli attualmente disponibili presentano un rischio basso.

Vale la pena leggere questi episodi per quello che sono: incidenti avvenuti in contesti di test, non attacchi decisi da una macchina contro il mondo. Ma sono anche la ragione per cui la discussione sulle soglie di capacità pericolose è uscita dai convegni, e per cui le soglie High e Critical sulla cybersicurezza sono diventate un tema di cronaca.

E Coxon non è il primo. A febbraio Mrinank Sharma, che guidava il team Safeguards Research di Anthropic, si era dimesso con una lettera pubblica in cui scriveva che il mondo è in pericolo e che aveva visto ripetutamente quanto sia difficile lasciare che siano i valori a guidare le azioni. Due dimissioni in sette mesi non sono un esodo: sono però due persone che lavoravano sulla sicurezza e che hanno scelto di andarsene dicendolo in pubblico.

Il passaggio più delicato: l’auto-miglioramento

Finché utilizziamo l’AI come strumento che aiuta un essere umano a scrivere, programmare, analizzare dati o fare ricerca, esiste ancora una distinzione abbastanza chiara tra chi costruisce lo strumento e chi lo utilizza.

Immaginiamo però un sistema molto più capace di quelli attuali: un’AI che non si limita ad aiutare un ricercatore, ma contribuisce in modo sostanziale alla ricerca necessaria per costruire la generazione successiva di AI. E quella generazione contribuisce ancora di più alla successiva.

È qui che il concetto di auto-miglioramento ricorsivo diventa importante. Non sappiamo se questa accelerazione arriverà davvero nella forma estrema descritta da alcuni ricercatori e non sappiamo quando. Ma possiamo porci una domanda concreta: se dovesse accadere, avremo il tempo di capire quello che abbiamo costruito prima di costruire qualcosa di ancora più potente?

Cosa chiede davvero Coxon

Su questo punto la maggior parte dei titoli è passata oltre, e invece è la parte più concreta del thread: Coxon non si limita a lanciare un allarme, indica anche una direzione.

Chiede accordi di rallentamento coordinato — quelli che in inglese chiama pacing agreements — tra i laboratori statunitensi, e si dice ottimista sulla possibilità che un coordinamento sia raggiungibile, proprio perché episodi come l’attacco a Hugging Face hanno reso quegli accordi più realistici. Non pensa però che si sia sulla strada giusta per evitare una corsa globale, e ammette che fermarla potrebbe richiedere misure costose, fino a un divieto temporaneo di aumentare le capacità dei modelli. Scrive anche che accettare questa corsa ed entrare nell’«endgame» è una scommessa presuntuosa, che non dovrebbe partire dalla chat aziendale di una società privata.

Io una moratoria non la chiedo, e non è questo il punto dell’articolo. Un divieto temporaneo sulle capacità è una misura enorme, difficilissima da verificare e praticamente impossibile da imporre fuori dagli Stati Uniti. Ma trovo significativo che a metterla sul tavolo non sia un attivista: è qualcuno che quei modelli li ha addestrati.

Chi decide fino a dove possiamo correre?

Per me questa è forse la domanda politica più importante dell’intera vicenda.

Stiamo parlando di tecnologie che possono cambiare lavoro, informazione, sicurezza informatica, ricerca scientifica, economia e rapporti di forza tra Stati. Se arriveremo davvero a sistemi enormemente più potenti di quelli attuali, possiamo lasciare che le decisioni fondamentali vengano prese esclusivamente dentro le aziende che li costruiscono?

Io credo di no.

Non significa bloccare l’intelligenza artificiale e nemmeno demonizzare OpenAI, Anthropic, Google o chiunque altro stia lavorando a questa tecnologia. Significa riconoscere che più aumenta il potere di uno strumento, maggiore deve diventare la responsabilità di chi lo costruisce e di chi stabilisce le regole.

Servono controlli indipendenti, test seri sulle capacità pericolose, trasparenza quando vengono superate determinate soglie e, soprattutto, coordinamento internazionale. In Europa qualche pezzo esiste già, anche se su terreni molto più semplici: le regole sui contenuti generati dall’AI e sui deepfake obbligano almeno a dichiarare cosa è sintetico. Una corsa globale, però, non si risolve chiedendo a una singola azienda di comportarsi bene.

Io continuerò a usare l’intelligenza artificiale

Non ho intenzione di smettere di utilizzare l’AI dopo aver letto Jacob Coxon. Sarebbe una conclusione troppo facile.

Continuo a considerarla una delle tecnologie più straordinarie che abbia visto evolversi durante la mia vita professionale. E proprio perché ne vedo le possibilità, credo sia sbagliato scegliere tra entusiasmo cieco e paura cieca.

Non so se avremo una superintelligenza nella forma immaginata oggi, né quando. Chi annuncia una data con certezza sta facendo una previsione, non raccontando un fatto: vale per chi promette l’AGI l’anno prossimo e vale anche per chi annuncia la catastrofe.

Ma dopo le dimissioni di Coxon rimane una domanda molto più concreta: se persino alcune delle persone che stanno costruendo questi sistemi ci stanno dicendo che sarebbe il momento di rallentare e capire meglio dove stiamo andando, chi dovrebbe prendere quella decisione?

Le aziende? I governi? I ricercatori? O aspetteremo semplicemente che sia la competizione a decidere per tutti?

Io non ho paura dell’intelligenza artificiale perché è intelligente.

Mi preoccupa una cosa molto più umana: che tutti capiscano quando sarebbe necessario premere il freno, ma nessuno voglia essere il primo a farlo.