La facoltà di dire no-seconda parte

LA FACOLTÀ DI DIRE NO

Tecnologia, potere e responsabilità

PARTE II

La cautela è sempre quella dell'altro

Nella corsa all'intelligenza artificiale tutti riconoscono i rischi, ma nessuno vuole rallentare per primo. È il paradosso che trasforma una competizione tecnologica in un problema politico globale. Negli ultimi giorni alcune notizie apparentemente separate hanno composto un quadro piuttosto inquietante.

Anthropic ha documentato utilizzi concreti dell'intelligenza artificiale per attività di spionaggio informatico, ricerca di vulnerabilità, operazioni di influenza, sorveglianza e frodi. Ha inoltre denunciato tentativi su larga scala di distillare le capacità di Claude per trasferirle ad altri modelli. Non stiamo quindi parlando soltanto di ciò che l'intelligenza artificiale potrebbe fare in futuro. Alcuni dei problemi sono già qui.

È in questo contesto che Dario Amodei, CEO di Anthropic, ha proposto di rallentare la crescita delle capacità dei modelli più avanzati. Non semplicemente fermare la ricerca, ma introdurre meccanismi di cautela: valutatori indipendenti all'interno dei laboratori, standard di sicurezza condivisi fra le grandi aziende e, soprattutto, accordi internazionali capaci di stabilire limiti comuni.

C'è chi ha letto l'appello anche come una mossa di posizionamento, arrivata a ridosso della quotazione in borsa di Anthropic. Il sospetto è legittimo, e non è detto che escluda la preoccupazione dichiarata: le due cose possono coesistere. Ma anche a volerlo ridurre a marketing, il problema che l'appello solleva resta lo stesso, e non dipende da chi lo pone. È proprio quest'ultimo punto a rivelare la natura del problema.

La risposta politica americana è stata netta. Donald Trump ha respinto l'idea di un rallentamento: gli Stati Uniti sono impegnati in una competizione strategica con la Cina e rinunciare volontariamente al proprio vantaggio significherebbe offrirlo all'avversario. A questa posizione ha risposto Pechino, per bocca del portavoce del ministero degli Esteri Guo Jiakun: alimentare allarmi e scontro sulla sicurezza dell'intelligenza artificiale ostacola la governanceglobale e non è nell'interesse di nessuno. Il Global Times è arrivato a definire la proposta di Amodei un «manuale da Guerra Fredda», accusando Washington di usare la sicurezza come barriera tecnologica contro lo sviluppo cinese. Le richieste occidentali di cautela, insomma, vengono lette a Pechino come un tentativo di rallentare la Cina proprio mentre questa cerca di colmare il divario tecnologico con gli Stati Uniti.

Ed eccoci al paradosso. Tutti possono riconoscere il pericolo. Nessuno può permettersi di essere prudente da solo.

Se Washington rallenta e Pechino accelera, gli Stati Uniti temono di perdere il vantaggio strategico. Se Pechino rallenta e Washington accelera, la Cina teme esattamente la stessa cosa. Se le imprese introducono unilateralmente costosi vincoli di sicurezza mentre i concorrenti non lo fanno, rischiano di essere penalizzate dal mercato. La cautela diventa così sempre quella dell'altro. È una forma particolarmente pericolosa del dilemma dell'azione collettiva: ciò che appare razionale per ciascun attore preso separatamente può produrre un risultato irrazionale per tutti. Lo conosciamo già.

La stessa logica attraversa la corsa agli armamenti. Uno Stato sviluppa una nuova arma perché teme che l'avversario possa svilupparla per primo. L'altro accelera perché vede accelerare il primo. Alla fine entrambi possiedono arsenali più potenti, spendono risorse maggiori e vivono in condizioni di minore sicurezza.

Con l'intelligenza artificiale il problema acquista una dimensione ulteriore, perché non riguarda soltanto gli Stati. Nella stessa competizione entrano grandi imprese tecnologiche e laboratori di ricerca. E la velocità dello sviluppo tecnologico è incomparabilmente superiore a quella con cui le istituzioni riescono normalmente a costruire regole. Le stesse capacità che permettono a un modello di orchestrare un attacco informatico permettono anche di orientare un sistema d'arma: individuare un bersaglio, valutarne la priorità, decidere i tempi dell'azione. Il salto da un dominio all'altro è tecnico più che concettuale. È qui che la questione dell'AI incontra direttamente quella delle armi autonome.

Se sistemi capaci di individuare, selezionare e colpire obiettivi senza un controllo umano effettivo offrono un vantaggio militare, nessuna potenza avrà un incentivo sufficiente a rinunciarvi unilateralmente. La prudenza volontaria rischia di soccombere alla stessa domanda: e se l'altro non fosse prudente? Per questo affidare la sicurezza esclusivamente alla responsabilità delle aziende o alla buona volontà degli Stati non basta.

Occorrono istituzioni indipendenti, obblighi verificabili, trasparenza e accordi internazionali. Non è un obiettivo ingenuo: gli accordi sul controllo degli armamenti nucleari, dal Trattato di non proliferazione ai trattati START, sono nati proprio tra potenze rivali, senza eliminare la competizione ma limitandone gli esiti più pericolosi. Nel caso delle armi autonome significa soprattutto conservare un controllo umano effettivo sulle decisioni che riguardano la vita e la morte. Non perché una regola internazionale elimini magicamente il conflitto di interessi. Ma perché modifica la struttura del problema: rende la cautela un impegno reciproco, sottoposto per quanto possibile a verifica, anziché una rinuncia unilaterale.

La questione decisiva, allora, non è scegliere tra entusiasmo tecnologico e paura della tecnologia. È capire se l'umanità sarà capace di costruire istituzioni abbastanza forti da impedire che una scelta razionale per ciascuno diventi una catastrofe possibile per tutti. Perché, finché ciascuno continuerà a dire rallenti prima l'altro, nessuno rallenterà. E la tecnologia continuerà ad accelerare.

Pasquale Palumbo