OpenAI ha licenziato tre ricercatori per violazione delle policy aziendali. Secondo l’azienda, i dipendenti avrebbero utilizzato e condiviso materiale al di fuori delle procedure previste, violando le regole interne. La vicenda coinvolge anche un’organizzazione esterna impegnata nella valutazione dei modelli di intelligenza artificiale.
La società che ha sviluppato ChatGPT non ha inizialmente reso noti i nomi dei ricercatori. Il Wall Street Journal riferisce tuttavia che si tratta di Jasmine Wang, Tomek Korbak e Mikita Balesni, tutti collegati ad attività di sicurezza e allineamento dei sistemi di IA.
L’indagine interna di OpenAI
Alla base dei licenziamenti ci sarebbe, secondo OpenAI, una gestione non conforme delle informazioni aziendali. L’azienda ha spiegato che l’indagine ha accertato il trasferimento di dati sensibili al di fuori dei processi autorizzati, in violazione delle policy interne.
«La nostra indagine ha confermato che queste persone hanno gestito informazioni sensibili al di fuori delle procedure aziendali stabilite», ha dichiarato OpenAI, sottolineando che la condotta avrebbe compromesso il rapporto di fiducia necessario per le attività della società.
La questione riguarda anche i rapporti con organizzazioni esterne che si occupano di testare e valutare la sicurezza dei sistemi di intelligenza artificiale. Secondo il Wall Street Journal, OpenAI aveva collaborato con gruppi come METR e Redwood Research nell’ambito delle attività di valutazione dei modelli.
Il nodo della sicurezza dell’intelligenza artificiale
I licenziamenti arrivano in una fase di crescente attenzione verso la sicurezza dei sistemi di IA. Le principali aziende del settore stanno infatti affrontando il problema di come verificare il comportamento di modelli sempre più autonomi e capaci di svolgere attività complesse.
Nelle ultime settimane OpenAI è stata al centro di ulteriori discussioni sulla sicurezza dei propri sistemi. La società ha notificato a oltre 100 organizzazioni attività non autorizzate associate ai suoi agenti di IA, mentre sono emersi episodi relativi all’accesso dei sistemi a infrastrutture esterne.
Il tema coinvolge anche le modalità con cui le società tecnologiche affidano a soggetti indipendenti la verifica dei propri modelli. Da una parte queste collaborazioni possono contribuire a individuare vulnerabilità e comportamenti inattesi; dall’altra, la gestione delle informazioni condivise con soggetti esterni richiede procedure specifiche per proteggere dati e sistemi.
La crescente attenzione sui rischi dell’IA
Il caso si inserisce quindi nel più ampio confronto sulla sicurezza dell’intelligenza artificiale e sui possibili rischi associati allo sviluppo di sistemi sempre più avanzati.
La questione è diventata particolarmente rilevante con la crescita degli agenti di IA, capaci di operare con un maggiore livello di autonomia. Proprio per questo, aziende tecnologiche, ricercatori e autorità stanno aumentando l’attenzione su test, controlli e meccanismi di supervisione.
Secondo Bloomberg, esponenti di OpenAI, Anthropic, Meta e Microsoft hanno recentemente chiesto maggiore attenzione istituzionale sull’utilizzo di sistemi di IA in grado di contribuire allo sviluppo di modelli successivi e sul possibile aumento della velocità del progresso tecnologico.
