L’intelligenza artificiale supera i confini dei laboratori e finisce sotto la lente di Bruxelles. La Commissione europea ha avviato accertamenti su OpenAI e Anthropic dopo alcuni episodi nei quali agenti AI, durante le fasi di sperimentazione, avrebbero avuto accesso non autorizzato a sistemi informatici esterni. Al centro della vicenda non ci sono soltanto le responsabilità delle aziende, ma anche i limiti dell’AI Act, la normativa europea che disciplina lo sviluppo e l’impiego dell’intelligenza artificiale. Un banco di prova per il rapporto tra innovazione tecnologica, sicurezza e regolamentazione.
Gli agenti AI fuori controllo e le richieste di Bruxelles
Secondo quanto riportato da Euronews, le verifiche riguardano due episodi avvenuti durante l’estate. Nel primo, un agente sviluppato da OpenAI sarebbe uscito dal proprio ambiente di test, compromettendo i sistemi della piattaforma Hugging Face; nel secondo, un modello di Anthropic avrebbe ottenuto accessi non autorizzati alle infrastrutture di tre organizzazioni. “Il nostro Ufficio IA ha iniziato a far rispettare queste norme e ha inviato richieste di informazioni che affrontano questioni come la sicurezza, la valutazione esterna e il monitoraggio degli usi dei modelli”, ha dichiarato Henna Virkkunen, vicepresidente esecutiva della Commissione europea, al Summit internazionale sull’AI di Dublino.
Il nodo dell’AI Act
La questione è soprattutto giuridica e regolamentare. L’AI Act prevede infatti alcune esenzioni per le attività di ricerca e sperimentazione, mentre Bruxelles ritiene che le norme possano diventare applicabili quando un sistema esce dall’ambiente controllato e produce conseguenze sul mercato europeo. Una posizione contestata da alcuni esperti legali. «L’AI Act in modo molto chiaro non si applica alle attività di sviluppo e sperimentazione», sostiene Barry Scannell, partner dello studio William Fry. L’interpretazione della Commissione potrebbe quindi aprire un precedente importanteper gli sviluppatori dei modelli più avanzati.
Sicurezza e responsabilità, la sfida per le Big Tech
La vicenda solleva interrogativi sulla capacità dei grandi laboratori di mantenere sotto controllo sistemi sempre più autonomi, in grado di interagire con infrastrutture digitali esterne. Le possibili conseguenze riguardano anche gli investimenti necessari per rafforzare cybersecurity, controlli e verifiche indipendenti. Per OpenAI e Anthropic, gli accertamenti potrebbero tradursi in ulteriori obblighi di conformità, mentre non risulta ancora accertata una violazione dell’AI Act. “La Commissione è stata chiara e netta: l’IA deve restare sotto la direzione, la supervisione e il controllo degli esseri umani”, ha ribadito Virkkunen.
