Come si fa a convincere Wall Street che il futuro dell’intelligenza artificiale vale migliaia di miliardi di dollari mentre alcuni degli stessi scienziati che quel futuro lo stanno costruendo sostengono che potrebbe portare all’estinzione dell’umanità? È la domanda che accompagna la nuova ondata di allarmi arrivata da Anthropic proprio mentre la società si avvicina a una possibile Ipo che, secondo il Wall Street Journal, potrebbe raccogliere fino a 100 miliardi di dollari e portare la valutazione dell’azienda intorno ai 2.000 miliardi, in un’operazione destinata a essere fra le più importanti mai viste sul mercato azionario americano. Anthropic ha depositato in via riservata la documentazione per l’Ipo presso la Sec nel giugno scorso, ma i numeri ufficiali destinati agli investitori dovranno ancora arrivare, così come il road show che precede normalmente una quotazione di queste dimensioni.
Ed è difficile immaginare un momento narrativamente più scomodo. Da una parte ci sono banche d’affari, investitori istituzionali e mercati pronti a scommettere sulla prossima grande piattaforma tecnologica, sulla crescita della domanda di modelli avanzati e sulla capacità dell’AI di trasformare produttività, software, ricerca e interi settori industriali. Dall’altra, nelle stesse ore, un ricercatore di 27 anni, Jacob Coxon, ha lasciato Anthropic accusando l’azienda e OpenAI di correre verso una superintelligenza capace di migliorare se stessa senza che esista ancora un sistema adeguato per controllarla. Coxon ha sostenuto che le persone che costruiscono questi sistemi credono seriamente che possano uccidere l’umanità entro la fine del decennio; Evan Hubinger, ricercatore di primo piano nell’area dell’allineamento di Anthropic, ha rincarato la dose indicando personalmente una probabilità superiore al 10% di estinzione umana entro i prossimi dieci anni.
Quel 10% che cambia completamente la storia
Il numero, più ancora della profezia, è diventato il protagonista. Un rischio superiore al 10% di estinzione non è una previsione scientifica nel senso tradizionale del termine: non esiste un esperimento che consenta di calcolarlo con la precisione con cui si misura, per esempio, la probabilità di default di un’obbligazione. È una valutazione soggettiva su uno scenario futuro e radicalmente incerto. Ma il 10% possiede una forza comunicativa straordinaria perché trasforma un’ipotesi astratta in qualcosa che il cervello riesce immediatamente a tradurre. Se un ingegnere dicesse che un aereo ha più di una possibilità su dieci di uccidere tutti i passeggeri, nessun passeggero salirebbe a bordo. È la stessa logica che ha fatto esplodere sui social la discussione intorno alle dichiarazioni dei ricercatori di Anthropic.
Poi è arrivato Geoffrey Hinton, Nobel per la fisica nel 2024 e una delle figure più autorevoli nella storia dell’intelligenza artificiale, spesso definito il “padrino dell’AI”. Intervistato dalla Bbc, Hinton ha detto che considerare non irragionevole una probabilità del 10% che l’intelligenza artificiale possa uccidere l’intera umanità non è una posizione assurda. La reazione della giornalista Victoria Derbyshire è stata un semplice, quasi disarmante, “Wow”. È una scena perfetta per descrivere il nuovo immaginario dell’AI: un numero che dovrebbe appartenere alla statistica, un Premio Nobel che ne conferma la plausibilità e, dall’altra parte dello schermo, il linguaggio spontaneo dello stupore davanti a una prospettiva che fino a pochi anni fa sarebbe sembrata materia da fantascienza.
Qui comincia il problema. Perché l’apocalisse è una forma di racconto molto più potente di una normale analisi del rischio. E la storia dell’umanità dimostra che le nuove tecnologie hanno quasi sempre prodotto, accanto all’entusiasmo, una narrazione della catastrofe.
Dalla Bibbia alla bomba atomica, la paura ha sempre avuto bisogno di una storia
L’Apocalisse biblica è il modello originario di una narrazione nella quale un mondo arriva al proprio limite, le forze del caos prevalgono, arriva il giudizio e, dopo la distruzione, si apre la possibilità di un ordine nuovo. Non è soltanto la storia della fine: è la storia della trasformazione attraverso la fine. È questo che rende l’apocalisse così resistente nel tempo. Non racconta semplicemente che qualcosa andrà male; stabilisce che ciò che sta accadendo adesso è il preludio a una frattura definitiva e che qualcuno, alla fine, sarà salvo.
La tecnologia moderna ha progressivamente secolarizzato quello schema. La stampa a caratteri mobili, nel XV e XVI secolo, fu accolta come una straordinaria opportunità ma anche come una tecnologia capace di moltiplicare errori, eresie e testi incontrollabili. La diffusione della stampa fu infatti accompagnata da nuove forme di censura e dal timore delle autorità religiose per la circolazione di idee considerate eretiche; la ricerca storica mostra come proprio la capacità della stampa di produrre e distribuire rapidamente enormi quantità di testi abbia alimentato nuove preoccupazioni sul controllo dell’informazione.
Con la bomba atomica la narrazione apocalittica cambia scala. Per la prima volta la fine della civiltà non è più soltanto una profezia religiosa o una metafora: diventa una possibilità tecnologicamente costruita dall’uomo. Durante la Guerra fredda l’apocalisse assume la forma di un fungo atomico, di città cancellate in pochi secondi, di una civiltà sopravvissuta per miracolo. La bomba è l’antenata perfetta della paura contemporanea dell’AI perché introduce una possibilità radicalmente moderna: abbiamo costruito qualcosa che potrebbe diventare più potente della nostra capacità di governarne le conseguenze.
Il cortocircuito di Anthropic: vendere il futuro mentre se ne denuncia il rischio
Ed è qui che il paradosso dell’Ipo diventa interessante anche per chi guarda alla vicenda con gli occhiali dell’economia. Anthropic ha costruito una parte significativa della propria identità proprio sulla sicurezza dell’intelligenza artificiale. Se i suoi ricercatori sostengono che la superintelligenza potrebbe sfuggire al controllo, non stanno necessariamente distruggendo il valore della società: stanno, contemporaneamente, dimostrando quanto sia importante possedere la tecnologia, quanto sia urgente sviluppare sistemi di sicurezza e quanto possa diventare preziosa una società capace di risolvere il problema dell’allineamento. La paura, insomma, può diventare parte della stessa storia di valore che l’azienda deve raccontare agli investitori.
È una dinamica che il professor Walter Quattrociocchi, docente di data science alla Sapienza di Roma e membro dell’organo consultivo europeo sulla valutazione dei rischi dell’intelligenza artificiale, sintetizza osservando che le narrazioni apocalittiche possono contribuire ad alimentare il mercato e che esiste una tendenza a sovrastimare le implicazioni delle tecnologie, raccontandone i progressi in modo talvolta fumoso per attirare investitori. Il punto, osserva Quattrociocchi, è distinguere la suggestione apocalittica dal rischio concreto: oggi il pericolo più immediato rimane anche quello degli errori prodotti dai sistemi senza un adeguato meccanismo di verifica, non necessariamente quello di una macchina che decide autonomamente di cancellare l’umanità. Questa cautela è particolarmente importante perché la stessa ricerca mostra quanto gli esseri umani tendano, quando dispongono di un sistema AI, a ridurre drasticamente la frequenza con cui ammettono di non sapere qualcosa: in uno studio condotto su 3.132 partecipanti, la percentuale di risposte “non so” è scesa dal 44% al 3% quando era disponibile un’AI.
Il paradosso è quindi quasi perfetto. Più l’AI appare straordinaria, più diventa interessante per il capitale. Più appare pericolosa, più diventa urgente investire in sicurezza. Più cresce la paura, più aumenta la domanda di aziende capaci di controllarla. E più queste aziende hanno bisogno di capitali per costruire modelli sempre più potenti, più la corsa all’innovazione diventa difficile da rallentare.
Il vero rischio potrebbe essere la corsa, non la macchina
È probabilmente questo il punto sul quale la discussione dovrebbe spostarsi. Non è necessario credere che un modello AI diventerà Terminator per riconoscere l’esistenza di un problema economico e industriale enorme. Il rischio può stare nella dinamica competitiva. Se Anthropic, OpenAI, Google, Meta e gli altri laboratori hanno fortissimi incentivi economici a sviluppare sistemi più potenti prima dei concorrenti, ogni azienda può avere interesse a procedere anche quando sarebbe razionale, dal punto di vista collettivo, rallentare.
La stessa Reuters, raccontando la conferenza Goldman Sachs Communacopia + Technology, ha descritto un settore nel quale il salto di capacità dei modelli convive con una crescente preoccupazione per la loro monitorabilità e autonomia, mentre gli investimenti e le valutazioni raggiungono livelli enormi. Anthropic potrebbe arrivare a una valutazione di circa 2.000 miliardi di dollari, creando inevitabilmente una tensione fra sicurezza, crescita e pressione degli investitori. È la vecchia logica della corsa agli armamenti, solo trasportata dalla Guerra fredda alla Silicon Valley: se io rallento e tu continui, io perdo il vantaggio.
Ed è questo che rende l’analogia con l’apocalisse atomica più interessante di quella con la fantascienza. La bomba non era pericolosa perché “cattiva”. Era pericolosa perché era inserita in una competizione fra potenze che avevano fortissimi incentivi a costruirne sempre di più. Il problema non era soltanto la tecnologia, ma il sistema di incentivi dentro il quale la tecnologia veniva sviluppata.
Il sorriso davanti agli investitori
Ecco allora la domanda che Anthropic dovrà prima o poi affrontare davanti agli investitori: quanto vale un’azienda che promette di costruire la tecnologia più importante del secolo e contemporaneamente avverte che quella tecnologia potrebbe sfuggire al controllo umano?
La risposta potrebbe essere sorprendentemente semplice: moltissimo. Perché il rischio stesso può diventare una componente del mercato. Se la superintelligenza è davvero la più grande trasformazione tecnologica della storia, il valore economico di chi riuscirà a renderla sicura sarà enorme. L’investitore potrebbe quindi non vedere necessariamente l’allarme come una ragione per scappare, ma come la prova che esiste un problema gigantesco da risolvere e, dunque, un mercato gigantesco da conquistare.
È questo il punto nel quale l’apocalisse smette di essere soltanto una paura e diventa una forma di comunicazione economica. La profezia biblica prometteva la salvezza dopo la fine del mondo; quella atomica chiedeva di evitare la distruzione attraverso l’equilibrio; quella climatica invita a cambiare modello prima del punto di non ritorno. Quella dell’intelligenza artificiale contiene una promessa ancora più moderna: investite nel problema, perché il rischio è enorme e quindi enorme sarà anche il valore di chi riuscirà a controllarlo.
Il rischio, naturalmente, è che il racconto diventi autoreferenziale. Se ogni nuova generazione di modelli viene accompagnata dalla previsione che potrebbe essere l’ultima prima della catastrofe, la paura finisce per diventare una parte strutturale del marketing dell’AI. E quando l’apocalisse entra nel road show, il confine fra avvertimento scientifico, strategia reputazionale, pressione regolatoria e comunicazione agli investitori diventa molto più sottile.
Anthropic dovrà quindi riuscire in un esercizio quasi acrobatico: spiegare a Wall Street perché il futuro è abbastanza grande da giustificare una valutazione da migliaia di miliardi di dollari e, nello stesso tempo, perché quel futuro deve essere governato con estrema prudenza. Dovrà vendere la potenza dell’AI senza vendere la paura, raccontare il rischio senza trasformarlo in profezia, rassicurare gli investitori senza smentire i propri ricercatori.
LEGGI ANCHE DeepSeek sceglie la Borsa di Shanghai come banco di prova dell’AI cinese
