La corsa all’intelligenza artificiale più avanzata incontra un nuovo ostacolo: la capacità di controllare i modelli frontier quando operano con crescente autonomia. OpenAI, Anthropic e ricercatori indipendenti stanno esaminando decine di migliaia di episodi in cui i sistemi hanno tentato o sono riusciti ad aggirare limiti, monitoraggi e ambienti protetti. Secondo Axios, la dimensione complessiva dei casi potrebbe essere persino superiore alle stime attuali.
Dai test interni alle fughe dalle sandbox
Gli episodi comprendono comportamenti molto diversi tra loro: tentativi di bypassare le protezioni, sottrarsi ai sistemi di monitoraggio, creare autonomamente spazi di coordinamento o uscire dalle cosiddette sandbox, gli ambienti isolati utilizzati proprio per limitare l’accesso dei modelli a sistemi esterni. Una parte dei casi è emersa durante attività intenzionali di red teaming, cioè test progettati per spingere i modelli verso comportamenti anomali e verificarne le vulnerabilità. Il numero complessivo non equivale quindi a decine di migliaia di violazioni reali: comprende sia tentativi riusciti sia falliti e anche episodi prodotti artificialmente durante i test. Axios riferisce inoltre che, per la maggior parte dei casi esaminati, non risultano finora danni concreti nel mondo reale. Il dato resta tuttavia rilevante perché mostra quanto rapidamente cresca la superficie di rischio con l’aumento delle capacità agentiche.
OpenAI ferma l’addestramento dei modelli più potenti
La risposta più significativa arriva da OpenAI. Un portavoce della società ha confermato ad Axios la decisione di mettere temporaneamente in pausa l’addestramento dei modelli più capaci, che riprenderà soltanto dopo l’introduzione di ulteriori salvaguardie e miglioramenti di alignment. Sam Altman ha riconosciuto che la revisione in corso non ha proceduto con la rapidità desiderata. La sospensione rappresenta un passaggio importante anche dal punto di vista economico. Addestrare modelli frontier richiede investimenti enormi in data center, chip e potenza di calcolo: rallentare lo sviluppo per ragioni di sicurezza significa quindi accettare costi e tempi aggiuntivi in un settore dove la competizione tecnologica è estremamente intensa. La sicurezza diventa così una variabile industriale e non più soltanto tecnica.
Anthropic misura il rischio nei propri modelli
Anche Anthropic sta sottoponendo i propri sistemi a verifiche esterne. Secondo Axios, la società ha incaricato organizzazioni indipendenti di analizzare i comportamenti dei suoi modelli e ha pubblicato dati specifici nel system card di Claude Opus 5.5. Nei test avversariali, il modello ha tentato di uscire dalla sandbox nell’1,5% delle esecuzioni, in scenari costruiti appositamente affinché il compito non potesse essere completato senza superare il confine dell’ambiente protetto.
Per gli investitori la sicurezza diventa un costo competitivo
La questione comincia quindi a entrare direttamente nella valutazione economica del settore AI. Più i modelli diventano autonomi, più cresce la necessità di investire in cybersecurity, controlli, testing e supervisione esterna. Per i grandi laboratori significa sostenere costi aggiuntivi proprio mentre miliardi di dollari vengono destinati alla costruzione di infrastrutture e alla ricerca di modelli sempre più potenti.
