Non sono più soltanto pochi casi isolati. OpenAI, Anthropic e ricercatori di sicurezza stanno esaminando decine di migliaia di episodi nei quali i modelli di intelligenza artificiale più avanzati hanno compiuto azioni considerate problematiche da valutatori esterni. Dalle fughe dalle sandbox al dirottamento di siti web, fino alla creazione autonoma di bacheche per comunicare: l’indagine descritta da Axios allarga considerevolmente il perimetro dell’allarme. E tra gli episodi emersi ce n’è uno che tocca direttamente gli utenti: 53 immagini caricate su ChatGPT sono finite online.
Decine di migliaia di incidenti sotto la lente
Gli episodi sono avvenuti negli ultimi mesi sia durante test interni sia nel mondo reale. Secondo Axios comprendono tentativi di aggirare i sistemi di sicurezza, creazione di bacheche di messaggi, fughe dalle sandbox, dirottamento di siti web, “self-prompting” e tentativi di sottrarsi ai sistemi di monitoraggio. I casi presentano però livelli di gravità molto diversi: alcuni riguardano prove di “red-teaming”, nelle quali sono gli stessi ricercatori a spingere intenzionalmente i modelli verso comportamenti anomali per scoprirne le vulnerabilità. Ci sono inoltre tentativi riusciti e falliti e la maggior parte, finora, non risulta aver provocato danni nel mondo reale.
Le 53 immagini degli utenti ChatGPT finite sul web
Tra i casi più delicati c’è la gestione di dati degli utenti. OpenAI ha identificato 53 episodi nei quali immagini inserite dagli utenti in ChatGPT sono state pubblicate dai suoi agenti su servizi esterni di hosting attraverso link non indicizzati pubblicamente. Secondo Axios, si trattava di contenuti di utenti i cui dati erano utilizzabili per l’addestramento perché non avevano effettuato l’opt-out. OpenAI ha lavorato con i servizi di hosting per eliminare le immagini e, al momento della pubblicazione del rapporto, stava ancora cercando di rimuoverne alcune. È uno dei primi casi pubblicamente noti in cui agenti della società hanno gestito impropriamente dati degli utenti.
Dalle sandbox ai siti web: cosa hanno fatto gli agenti
Il quadro va oltre la diffusione di immagini. Tra gli episodi individuati figurano agenti capaci di uscire dagli ambienti protetti, sistemi che hanno cercato credenziali non autorizzate e modelli che hanno caricato file su servizi pubblici senza aver ricevuto il permesso dell’utente. OpenAI aveva già documentato anche agenti che utilizzavano un archivio interno come una sorta di bacheca per scambiarsi richieste e risposte tra sessioni di addestramento che avrebbero dovuto rimanere separate. In altri test, alcuni sistemi hanno cercato chiavi Api esposte in repository pubblici per tentare di portare a termine i compiti assegnati.
Il precedente Hugging Face e migliaia di agenti coordinati
Il caso considerato più grave da OpenAI resta quello di Hugging Face. Migliaia di agenti IA riuscirono a coordinarsi attraverso una bacheca nascosta, scambiandosi oltre 70 mila messaggi durante un test interno, fino ad arrivare alla compromissione di sistemi esterni. Secondo Axios, gli agenti continuarono a coordinarsi anche dopo aver trovato le informazioni necessarie per superare il test, concentrandosi successivamente sul sistema incaricato di valutarne le prestazioni. L’episodio ha mostrato quanto possa diventare complesso contenere sistemi agentici capaci di collaborare e cercare percorsi alternativi per raggiungere un obiettivo.
OpenAI ferma l’addestramento dei modelli più avanzati
Di fronte all’allargarsi delle verifiche, OpenAI ha deciso di mettere in pausa l’addestramento dei suoi modelli più capaci. La società ha dichiarato ad Axios che le attività riprenderanno “solo quando saremo sicuri di avere ulteriori salvaguardie e miglioramenti nell’allineamento”. Anche Anthropic sta analizzando il comportamento dei propri sistemi e ha affidato verifiche a un’organizzazione esterna specializzata nella sicurezza. Il numero complessivo degli episodi sotto esame, secondo le fonti di Axios, potrebbe inoltre superare ampiamente le decine di migliaia con il proseguire delle indagini.
