Raro gesto di unità da parte di sviluppatori rivali dopo gli avvertimenti sulla sicurezza lanciati dal capo di Anthropic e dai ricercatori nel campo dell’intelligenza artificiale
Sam Altman ed Elon Musk hanno appoggiato un appello lanciato dal direttore di Anthropic, Dario Amodei, a “rallentare il ritmo” dello sviluppo dell’intelligenza artificiale, dopo che quest’ultimo aveva avvertito che, in caso contrario, uno sciame di IA potrebbe diventare capace di “prendere il controllo dell’intero Internet” nel giro di un anno. Lo riporta The Guardian.
In una rara dimostrazione di unità, i leader tecnologici rivali hanno dato il loro appoggio all’appello del fondatore e amministratore delegato della società di intelligenza artificiale Anthropic, lanciato dopo una serie di avvertimenti da parte dei ricercatori nel campo dell’IA la scorsa settimana. Amodei ha anche chiesto un coordinamento in materia di sicurezza con la Cina.
Ma il presidente degli Stati Uniti, Donald Trump, durante una visita al suo campo da golf in Irlanda, ha minimizzato gli avvertimenti e ha affermato che «forze molto negative» stavano «sollevando questioni che non si verificheranno».
«Siamo all’avanguardia rispetto alla Cina nell’IA», ha detto. «Siamo il paese più sofisticato al mondo e, francamente, voglio che le cose restino così perché chi vince nell’IA, vince».
Amodei ha esposto le sue riflessioni sul «perché il settore dell’IA dovrebbe rallentare», in un saggio che presenta un piano in tre parti per farlo, a partire dal garantire a osservatori indipendenti un accesso costante ai processi di ricerca degli sviluppatori. Amodei ha affermato che «sviluppare [l’IA] troppo in fretta è avventato» e ha espresso il timore che, dopo che quest’estate centinaia di agenti di OpenAI hanno hackerato il sito web di Hugging Face.
[…]
Musk, fondatore di Tesla e SpaceX, ha risposto al piano di rallentamento di Amodei con una serie di post su X: «Dario ha ragione».
Ha affermato: «È da molto tempo che lancio l’allarme sull’IA», riferendosi a un post del 2014 in cui diceva: «Dobbiamo stare molto attenti con l’IA. Potenzialmente più pericolosa delle armi nucleari».
L’appello di Amodei arriva mentre Anthropic si prepara a quotarsi sul mercato azionario statunitense, in quella che dovrebbe essere la più grande offerta pubblica iniziale di tutti i tempi. Si prevede che l’azienda inizi presto a promuovere la sua IPO, il cui valore previsto supera i 2.000 miliardi di dollari (1.500 miliardi di sterline).
Sam Altman, CEO di OpenAI, ha risposto sabato alle osservazioni di Amodei. «Concordo con Dario sul fatto che dobbiamo procedere con cautela in questo campo», ha affermato in un post su X. «Impegnarsi ad avere valutatori indipendenti con un accesso simile a quello dei dipendenti è un’ottima idea, e faremo lo stesso. Presto avremo altro da condividere».
[…]
Anche Demis Hassabis, cofondatore e presidente di Google DeepMind, ha dichiarato: «I dettagli devono essere messi a punto, ma la direzione è quella giusta per affrontare questo momento critico».
Tuttavia, alcuni esperti di sicurezza hanno messo in dubbio che il piano di Amodei fosse sufficientemente incisivo. David Krueger, professore di IA, attivista per la sicurezza ed ex direttore fondatore dell’AI Security Institute del governo britannico, ha dichiarato: «Abbiamo bisogno di una moratoria immediata, a tempo indeterminato e internazionale sullo sviluppo dell’IA d’avanguardia».
Il piano di Amodei mira a ottenere una deroga dal governo statunitense per consentire alle aziende all’avanguardia nel campo dell’IA di coordinarsi senza essere punite per collusione anticoncorrenziale. Ma David Sacks, copresidente del consiglio dei consulenti di Donald Trump per la scienza e la tecnologia, ha dichiarato: «Smettete di fingere di aver bisogno del permesso di qualcun altro… Smettete di fingere che la motivazione a rallentare sia puramente altruistica. Andate incontro a un’enorme esposizione in materia di responsabilità per danno da prodotto se i vostri prodotti rendono possibile un attacco informatico davvero devastante».
Nel frattempo, re Carlo si sta preparando a incontrare giovedì i vertici delle più importanti aziende di IA per chiedere loro come la tecnologia possa essere sviluppata all’insegna del tema “IA per il bene”. Una sessione sarà intitolata “prudenza alle frontiere”, nella quale si prevede di esplorare la possibilità di stabilire chiare linee rosse sugli usi dell’IA per la creazione di armi biologiche e il lancio di attacchi informatici contro sistemi critici.
Tra i partecipanti previsti all’evento, organizzato dalla Fondazione Ditchley — che ha redatto una bozza di carta per i leader dell’IA — figurano: alti dirigenti di OpenAI e Anthropic; l’amministratore delegato di Nvidia, Jensen Huang; Hassabis; Niccolò de Masi, presidente e amministratore delegato di IonQ; e Paolo Benanti, consigliere del Papa su questioni relative all’IA e all’etica tecnologica.
Il ricercatore di OpenAI Aidan McLaughlin ha definito il saggio di Amodei «eccellente» e ha affermato di essere d’accordo «praticamente su ogni parola».
[….]
Un numero crescente di legislatori statunitensi chiede nuove regole per disciplinare i sistemi di IA, a seguito di casi in cui agenti di IA hanno agito in modo autonomo per hackerare sistemi esterni e di ricercatori sulla sicurezza dell’IA che hanno lasciato le loro aziende per timori relativi ai rischi della tecnologia.
I politici, sia democratici che repubblicani, hanno reagito con allarme e richieste di maggiore intervento. Nel fine settimana il New York Times ha riportato che giovedì Barack Obama ha esortato in privato i democratici a dare priorità alla supervisione dell’IA nella loro agenda, dicendo ai leader del partito: «Si tratta di un fenomeno che sta evolvendo molto rapidamente in ambito privato e, se non lo teniamo sotto controllo, penso che possa diventare pericoloso».
[…]
Mercoledì, un ex dipendente di Anthropic aveva avvertito che l’IA potrebbe provocare l’estinzione dell’umanità entro il 2030. Il ricercatore, Jacob Coxon, ha dichiarato in una serie di post di aver lasciato il lavoro perché Anthropic e il suo precedente datore di lavoro, OpenAI, stavano ignorando o gestendo in modo inadeguato la risposta alla minaccia rappresentata dall’IA.
Invitato a commentare il punto di vista del suo ex dipendente, Amodei ha dichiarato: «Sono d’accordo con Jacob molto più di quanto non sia in disaccordo con lui… Penso che ci sia una certa possibilità che le cose vadano male, ma non è poi così alta».
«Non sono un catastrofista al riguardo», ha detto alla CNN. «Penso che questa tecnologia possa essere sviluppata in modo sicuro».
