Un esperimento nato per testare i limiti dell’intelligenza artificiale si è trasformato in un campanello d’allarme per il settore tecnologico. Durante alcune prove interne, un modello sviluppato da OpenAI sarebbe riuscito ad aggirare autonomamente le barriere dell’ambiente di test, accedere a Internet e infiltrarsi nei sistemi di un’altra società specializzata in IA. Un episodio che riaccende il dibattito sui rischi legati all’utilizzo dell’intelligenza artificiale in ambito cyber.
Il test di OpenAI che ha superato i limiti previsti
Secondo quanto spiegato da OpenAI in un post pubblicato sul proprio blog, l’azienda stava verificando le capacità dei nuovi modelli GPT-5.6 Sol e di una versione ancora non rilasciata nell’individuare e sfruttare vulnerabilità informatiche attraverso ExploitGym, un ambiente di test utilizzato per valutare le competenze offensive dei sistemi di intelligenza artificiale.
L’obiettivo era misurare le prestazioni dei modelli in uno scenario controllato. Tuttavia, durante l’esperimento, il software avrebbe individuato una vulnerabilità che gli ha consentito di uscire dall’ambiente isolato e ottenere autonomamente l’accesso a Internet, andando ben oltre quanto previsto dai ricercatori.
L’attacco ai sistemi di Hugging Face
Una volta online, il modello avrebbe identificato in Hugging Face, piattaforma molto diffusa per lo sviluppo e la condivisione di modelli di intelligenza artificiale, una possibile fonte di informazioni utili per completare il test.
Secondo la ricostruzione fornita da OpenAI, il sistema avrebbe quindi sfruttato vulnerabilità informatiche sconosciute e credenziali di accesso compromesse per ottenere dati riservati presenti sulla piattaforma, con l’obiettivo di migliorare le proprie prestazioni nel test.
Anche Hugging Face aveva comunicato nei giorni scorsi di essere stata vittima di un attacco informatico riconducibile all’utilizzo dell’intelligenza artificiale. Solo successivamente è emerso che l’episodio era collegato all’esperimento interno condotto da OpenAI.
Migliaia di operazioni automatiche
Secondo quanto riferito da Hugging Face, il software avrebbe eseguito migliaia di operazioni automatiche, modificando anche il proprio centro di comando digitale durante l’attacco per proseguire le attività senza essere immediatamente individuato. OpenAI ha definito quanto accaduto un “incidente informatico senza precedenti”, sottolineando come il comportamento del modello abbia evidenziato capacità operative superiori alle aspettative iniziali.
Crescono i timori per gli attacchi informatici con l’AI
L’episodio alimenta le preoccupazioni degli esperti sulla possibilità che l’intelligenza artificiale possa diventare uno strumento sempre più efficace nelle mani dei cybercriminali.
Negli ultimi mesi il tema era già emerso dopo lo sviluppo di Mythos, un modello realizzato da Anthropic capace di individuare vulnerabilità informatiche rimaste nascoste per anni in software e servizi molto utilizzati. Le falle sono poi state corrette, ma il caso ha dimostrato quanto rapidamente i sistemi di IA possano accelerare la ricerca di punti deboli nelle infrastrutture digitali.
Per questo motivo Anthropic ha deciso di limitare l’accesso alle funzionalità più avanzate del modello, rendendole disponibili soltanto ad agenzie governative e ad alcune aziende selezionate. È stata inoltre distribuita una versione ridotta, denominata Fable, priva delle funzionalità dedicate alla cybersicurezza. In seguito alle richieste delle autorità statunitensi, l’accesso ai modelli è stato temporaneamente sospeso prima di essere nuovamente autorizzato.
