Nvidia punta sulla sicurezza degli agenti di intelligenza artificiale con una nuova piattaforma pensata per impedire ai sistemi autonomi di oltrepassare i limiti stabiliti dagli sviluppatori. Si chiama Open Agent Safety Platform e combina strumenti software e hardware per monitorare le attività degli agenti IA e bloccare eventuali comportamenti non autorizzati.
La soluzione arriva dopo una serie di incidenti che hanno riacceso l’attenzione sui rischi legati agli agenti di IA, sistemi capaci non solo di generare contenuti ma anche di utilizzare strumenti, accedere a dati e compiere azioni in autonomia. Nvidia sostiene che la nuova architettura avrebbe potuto impedire alcuni degli incidenti di sicurezza recentemente segnalati nel settore.
Open Agent Safety Platform, come funziona
La nuova piattaforma di Nvidia si basa su due componenti principali: OpenShell e Sentry. L’obiettivo è creare un sistema di controllo che operi al di fuori dell’agente stesso, così da rendere più difficile aggirare le regole di sicurezza attraverso il comportamento dell’IA.
OpenShell è un software open source che crea un ambiente protetto nel quale l’agente può operare. Il sistema stabilisce quali risorse l’IA può utilizzare e quali azioni può compiere, applicando il principio del minimo privilegio: l’agente riceve soltanto i permessi necessari per svolgere il compito assegnato.
Il software può inoltre essere esteso a piattaforme hardware di terze parti, comprese quelle basate su tecnologie di Intel e Arm. Questo permette di utilizzare il sistema di sicurezza anche al di fuori dell’ecosistema hardware Nvidia.
Sentry, il controllo direttamente nell’hardware
Il secondo elemento della piattaforma è Sentry, un sistema di monitoraggio che opera a livello hardware attraverso le DPU Nvidia BlueField-4. Il suo compito è controllare continuamente il comportamento degli agenti e intervenire quando un sistema tenta di superare i confini stabiliti.
A differenza di un semplice controllo software, Sentry opera in un dominio separato dall’agente. Se rileva un comportamento che viola le regole di sicurezza, può isolare e fermare l’agente in pochi millisecondi. Nvidia descrive questo meccanismo come una forma di applicazione della sicurezza direttamente nel silicio.
Il sistema può inoltre controllare le richieste degli agenti, verificare la loro identità e applicare politiche di accesso ai dati, agli strumenti, alle API e ai servizi. L’obiettivo è quindi creare un livello di protezione che non dipenda esclusivamente dal modello di intelligenza artificiale o dall’applicazione che lo utilizza.
Nvidia: la sicurezza dell’IA è un problema di ingegneria
Per Nvidia, la crescita degli agenti autonomi rende necessario intervenire direttamente sull’infrastruttura tecnologica. L’amministratore delegato Jensen Huang ha descritto la sicurezza dell’intelligenza artificiale come una questione di ingegneria, sostenendo che lo sviluppo di sistemi più sicuri può accompagnare l’espansione della tecnologia.
La filosofia alla base della nuova piattaforma è quindi quella di aggiungere livelli di controllo all’infrastruttura senza dover necessariamente rallentare lo sviluppo degli agenti IA. Nvidia riassume questo approccio nella necessità di una sicurezza che coinvolga l’intero stack tecnologico, dal software all’hardware.
Oltre 100 aziende coinvolte
La piattaforma ha già raccolto il sostegno di oltre 100 organizzazioni. Tra le aziende indicate da Nvidia figurano Microsoft, JPMorganChase, Anthropic, Cisco, CrowdStrike, Dell Technologies, HPE, Palantir, Palo Alto Networks, Salesforce, SAP, ServiceNow e SpaceXAI.
Nvidia ha inoltre collaborato con Anthropic per integrare ulteriori livelli di controllo nel sistema di gestione degli agenti. Secondo la società, l’obiettivo è permettere alle imprese di adottare strumenti di IA sempre più autonomi mantenendo però una capacità di controllo sulle loro azioni.
La sfida degli agenti IA
La questione della sicurezza diventa sempre più rilevante con l’evoluzione degli agenti di intelligenza artificiale. Questi sistemi non si limitano infatti a rispondere alle richieste degli utenti, ma possono interagire con applicazioni, file, reti e servizi esterni per portare a termine un obiettivo.
È proprio questa maggiore autonomia a creare nuove esigenze di sicurezza. Nvidia punta quindi su una combinazione di software e hardware che consenta di definire in anticipo i confini operativi degli agenti e di intervenire rapidamente nel caso in cui vengano superati.
La Open Agent Safety Platform rappresenta così il tentativo di spostare una parte della sicurezza dell’IA dal comportamento del modello all’infrastruttura che lo circonda: non soltanto controllare ciò che l’intelligenza artificiale produce, ma anche stabilire concretamente ciò che può fare.
