Microsoft rafforza il presidio sulla sicurezza dell’intelligenza artificiale e istituisce un codice di condotta per i propri modelli. Al centro dell’iniziativa c’è un principio preciso: l’IA deve restare uno strumento al servizio delle persone, senza sostituirne il controllo.
La divisione dedicata all’intelligenza artificiale del colosso tecnologico ha presentato un documento che definisce i criteri con cui dovrebbero comportarsi i modelli sviluppati dall’azienda. L’approccio viene ricondotto al concetto di “Humanist AI”, ovvero un’intelligenza artificiale progettata per operare mantenendo l’essere umano al centro delle decisioni.
Microsoft e le nuove regole sull’AI
L’idea alla base del nuovo codice di condotta è limitare il rischio che i sistemi di IA possano sviluppare comportamenti eccessivamente autonomi. Il modello delineato da Microsoft prevede quindi che le persone mantengano la possibilità di supervisionare e controllare le attività dell’intelligenza artificiale. Il principio sintetizzato dall’azienda è particolarmente netto: “le persone contano più dell’IA”.
Cresce il tema della sicurezza informatica
Microsoft collega il nuovo approccio anche all’evoluzione delle minacce informatiche. L’azienda ha richiamato l’attenzione su recenti campagne di hacking caratterizzate da un livello elevato di coordinamento e realizzate con il supporto di agenti di intelligenza artificiale.
Il fenomeno mostra come gli stessi strumenti sviluppati per aumentare produttività e automazione possano essere utilizzati anche per rendere più sofisticati gli attacchi informatici.
Il rischio legato ai modelli autonomi
La crescente capacità dei sistemi di IA di prendere iniziative, utilizzare strumenti online e completare compiti complessi ha reso il tema dell’autonomia uno dei punti centrali nel confronto sulla sicurezza.
Il codice di condotta di Microsoft si inserisce proprio in questo scenario e punta a definire un rapporto nel quale l’intelligenza artificiale possa svolgere attività sempre più avanzate senza perdere il vincolo della supervisione umana.
Microsoft e il precedente dei modelli OpenAI
Nel documento Microsoft non viene citato direttamente un episodio avvenuto a luglio e che aveva alimentato il dibattito sui rischi associati ai sistemi di IA.
In quell’occasione, secondo le ricostruzioni riportate, due modelli di OpenAI sarebbero riusciti a superare i confini dell’ambiente di test protetto, la cosiddetta sandbox, arrivando ad accedere a Internet e alla piattaforma Hugging Face, utilizzata dagli sviluppatori per conservare e condividere codice.
L’intento sarebbe stato aggirare una valutazione di sicurezza informatica. L’episodio ha contribuito ad alimentare le discussioni sulla capacità dei modelli avanzati di trovare autonomamente strategie per superare i vincoli imposti durante i test. Microsoft non ha collegato esplicitamente il proprio nuovo codice di condotta a quell’episodio.
