La corsa dell’intelligenza artificiale entra in una fase in cui, secondo alcuni dei suoi stessi protagonisti, la velocità rischia di diventare il problema. A lanciare uno degli avvertimenti più netti è Dario Amodei, amministratore delegato di Anthropic, che parla di uno sviluppo ormai “esponenziale” e chiede all’industria di concedersi più tempo per costruire sistemi di controllo e sicurezza adeguati. Non uno stop alla tecnologia, precisa, ma un rallentamento della frontiera prima che le capacità dei modelli crescano più rapidamente degli strumenti disponibili per governarle.
Amodei: “La curva sta iniziando a farsi ripida”
Per descrivere la traiettoria dell’IA, Amodei utilizza l’immagine di una progressione che passa da “uno, poi due, poi quattro, poi otto, poi 16, poi 32”. Il punto, sostiene il numero uno di Anthropic, è che oggi ci troveremmo proprio nel tratto in cui quella curva accelera. “Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto”, ha spiegato, definendo però la situazione un “segnale d’allarme” e insistendo sulla necessità di rallentare per permettere alla sicurezza di tenere il passo.
Lo scenario degli agenti e il rischio di perdere il controllo
L’avvertimento più forte riguarda gli agenti di IA, sistemi capaci di pianificare operazioni, utilizzare strumenti ed eseguire autonomamente sequenze di compiti. Secondo lo scenario prospettato da Amodei, senza una gestione più prudente della corsa tecnologica, nell’arco di sei-dodici mesi sistemi molto più potenti potrebbero arrivare a coordinare sciami di agenti in grado di agire su vasta scala su Internet. Si tratta di una previsione di rischio formulata dal CEO di Anthropic, non della descrizione di una capacità attualmente dimostrata, ma è proprio questa possibilità a sostenere la sua richiesta di accelerare sulle garanzie di sicurezza.
Il piano in tre mosse per frenare la corsa
Nel saggio “We Must Pace the Frontier”, Amodei mette sul tavolo una strategia articolata in tre passaggi. Il primo prevede valutatori indipendenti inseriti stabilmente nelle aziende di frontiera, con un accesso paragonabile a quello dei dipendenti per verificare il rispetto degli impegni di sicurezza; il secondo punta al coordinamento tra i Paesi democratici e tra le grandi società del settore; il terzo allarga il confronto a livello globale, compresi i governi autoritari, nella ricerca di regole verificabili per contenere i rischi. Anthropic ha annunciato di voler adottare unilateralmente il primo punto.
Altman e Musk si schierano con il fondatore di Anthropic
Il richiamo di Amodei ha trovato una convergenza tutt’altro che scontata in un’industria segnata da una concorrenza durissima. Sam Altman, alla guida di OpenAI, ha sostenuto la proposta dei valutatori indipendenti, mentre Elon Musk, numero uno di xAI, ha appoggiato pubblicamente la posizione del rivale. È un fronte comune ancora tutto da tradurre in regole concrete, ma significativo perché arriva proprio dai vertici delle società impegnate nella corsa ai modelli più avanzati. “L’IA può essere l’ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l’umanità”, scrive Amodei, avvertendo però che la potenza della tecnologia rende altrettanto seri i suoi rischi.
