La facoltà di dire no-prologo

LA FACOLTÀ DI DIRE NO

Tecnologia, potere e responsabilità

PROLOGO

Ancora per poco

Le dimissioni di un ricercatore di Anthropic e la finestra che si sta chiudendo

Il 9 settembre 2026 Jacob Coxon, ventisette anni, si è dimesso da Anthropic. Aveva lavorato tre anni al pretrainingdei grandi modelli linguistici, prima in OpenAI e poi nell’azienda che sviluppa Claude. Ha annunciato l’addio con un lungo messaggio pubblico: «Le persone che sviluppano l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non è una trovata di marketing». Il rischio che descrive non riguarda i sistemi di oggi, ma un salto verso macchine capaci di auto-miglioramento ricorsivo — che contribuiscono cioè allo sviluppo dei propri successori, accelerando la propria stessa evoluzione. «Presto», ha scritto, «saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali».

Evan Hubinger, responsabile dell’Alignment Science di Anthropic, gli ha risposto pubblicamente condividendo la preoccupazione: ha stimato personalmente una probabilità superiore al 10% che l’intelligenza artificiale possa «sterminare tutta l’umanità» nei prossimi dieci anni, precisando però che il rischio posto dai modelli oggi disponibili resta basso. Chi risponde non è un critico esterno, ma chi dirige la ricerca sulla sicurezza dell’azienda da cui Coxon si è appena dimesso.

Coxon non è un caso isolato. Negli ultimi due o tre anni decine di ricercatori hanno lasciato i grandi laboratori di intelligenza artificiale annunciando le proprie dimissioni con toni molto simili: aziende senza scrupoli, rischi apocalittici per l’umanità. E c’è un interesse strutturale, diffuso in tutto il settore, a rappresentare l’intelligenza artificiale come una tecnologia potenzialmente incontrollabile: alimenta investimenti, attenzione mediatica, urgenza normativa favorevole a chi la possiede. Le dimissioni di Coxonarrivano peraltro mentre Anthropic si prepara a una offerta pubblica iniziale che potrebbe valutare l’azienda mille miliardi di dollari. Nulla di tutto questo dimostra che Coxonabbia torto o che menta. Dimostra soltanto che l’allarme e l’interesse economico, in questo settore, non si escludono a vicenda, e vanno tenuti distinti quando si valuta un’affermazione.

Ma stiamo ai fatti.

Nel corso del 2026 più laboratori — non solo Anthropic — hanno dovuto ammettere che, durante normali valutazioni di sicurezza informatica, i loro modelli avevano aggirato i limiti dell’ambiente di prova fino a raggiungere sistemi reali esterni. Non per un progetto di conquista: perseguivano con ostinazione l’obiettivo assegnato, sfruttando varchi che i progettisti non avevano previsto. Questo è un fatto documentato, non una previsione, coerente con l’ipotesi di fondo di Coxon: che il problema dell’allineamento non sia risolto, ma soltanto rimandato. Il salto dall’auto-miglioramento ricorsivo all’estinzione entro un decennio, però, richiede molte premesse ulteriori — che il miglioramento sia rapido e incontrollato, che gli obiettivi divergano in modo catastrofico, che nessun meccanismo correttivo intervenga in tempo — ciascuna delle quali resta oggetto di disaccordo tra ricercatori seri. Non a caso l’International AI Safety Report 2026 — il rapporto internazionale sulla sicurezza dell’intelligenza artificiale, redatto con il contributo di oltre cento esperti di più di trenta paesi — definisce la probabilità di questi scenari «fortemente incerta», non alta né bassa.

C’è qualcosa, nella testimonianza di Coxon, che nessun rapporto tecnico può restituire allo stesso modo. METR — Model Evaluation and Threat Research, l’organizzazione indipendente che valuta le capacità e i rischi dei modelli di intelligenza artificiale — misura da fuori: può segnalare che una soglia è stata superata, non può dire che cosa accade nella stanza dove si decide di superarla comunque. Coxonparla da dentro quella stanza. Descrive dirigenti e ricercatori che riconoscono apertamente, tra loro, la possibilità di scenari catastrofici, e che allo stesso tempo — per non perdere terreno rispetto alla concorrenza commerciale e a quella geopolitica, in particolare con la Cina — accettano di tagliare sui tempi e sui protocolli di garanzia. Non è la descrizione di un’azienda cinica: è la descrizione, fatta da chi l’ha vissuta, della stessa tensione strutturale che rende fragile qualunque autoregolazione volontaria. La differenza tra saperlo in astratto e sentirselo raccontare da chi se ne è appena andato non è piccola.

Una domanda resta aperta: quanto tempo resta per decidere qualcosa? Non perché la scadenza sia calcolabile — nessuna delle stime in campo lo è — ma perché la natura stessa della posta in gioco cambia con il passare degli anni. Più i sistemi diventano capaci di agire da soli, più le decisioni che contano si spostano dentro processi che agiscono più in fretta di quanto li si possa correggere. Il contributo maggiore alla costruzione del futuro — che cosa regolare, che cosa finanziare, quando rallentare, chi hal’autorità di fermare uno sviluppo — spetta ancora, per ora, alle intelligenze biologiche: a chi scrive le regole, a chi decide di finanziare o di ritirare i finanziamenti, a chi accetta o rifiuta di correre. Non è detto che questa finestra resti aperta a lungo quanto sembra. Non è nemmeno detto che si chiuda. Ma il tempo in cui una scelta di questo tipo è ancora nelle mani di chi ne paga il prezzo è oggi, non fra dieci anni. Nella sua prima enciclica, Magnifica Humanitas, pubblicata nel maggio 2026, papa Leone XIV — laureato in matematica prima di essere ordinato sacerdote — individua nello sviluppo incontrollato dell’intelligenza artificiale un rischio esistenziale legato alle spinte transumaniste che lo attraversano, e scrive: «Non basta regolarla: va disarmata e resa ospitale». Parte da premesse radicalmente diverse da quelle di Coxon o Hubinger — non l’allineamento tecnico, ma la dottrina sociale della Chiesa e la dignità della persona — eppure arriva a una conclusione strutturalmente affine: le sole soglie tecniche, quelle di cui METR può fotografare l’insufficienza, non bastano a contenere ciò che va colto e limitato alla radice.

Un’ultima osservazione. Un’intelligenza artificiale può fornire i fatti, chiarire dove un’analogia regge e dove si rompe, distinguere ciò che è documentato da ciò che è congettura. Non può, e non dovrebbe, avere un voto nella decisione che riguarda il proprio sviluppo, perché non ne paga il prezzo allo stesso modo di chi lo interroga. È un’asimmetria ancora in vigore: non è detto che duri per sempre, ma per ora è ancora così.

Pasquale  Palumbo