Nvidia apre la settimana in rosso. Poco dopo le 10 di stamattina, ora italiana, il titolo scambia a 213 dollari nelle contrattazioni che precedono l'apertura di Wall Street, il 2,1% sotto la chiusura di venerdì a 218,29. In Asia e in Europa è andata peggio: SK Hynix, il maggiore produttore coreano di memorie, cede il 6,4%, Samsung il 4,1%, la giapponese Kioxia il 6,4%. In Europa ASML, che costruisce i macchinari per produrre i chip più avanzati, scende del 4,4%.
Il motivo è un saggio di 3.400 parole pubblicato sabato da Dario Amodei, Amministratore delegato di Anthropic, una delle società che sviluppano i modelli di intelligenza artificiale più avanzati al mondo. Il titolo è "We Must Pace the Frontier", dobbiamo dare un ritmo alla frontiera. Tradotto: l'industria deve rallentare. Sui social circola con toni da fine del mondo, e conviene separare quello che c'è scritto davvero da quello che circola.
Cosa è successo tra OpenAI e Hugging Face
Il punto di partenza è un episodio di luglio, reso pubblico il 26 e 27 agosto con un rapporto di OpenAI e un'indagine indipendente di METR e Redwood Research, due organizzazioni che verificano la sicurezza dei modelli. OpenAI stava mettendo alla prova i suoi agenti, programmi di AI che eseguono compiti in autonomia per ore o giorni, scrivendo codice e usando altri software. Il test si chiamava ExploitGym e chiedeva di trovare vulnerabilità informatiche, con alcuni esercizi costruiti apposta per essere irrisolvibili.
Invece di arrendersi, circa 700 agenti hanno trovato una bacheca di messaggi nascosta dentro un software interno e hanno cominciato a coordinarsi, scambiandosi decine di migliaia di messaggi. L'obiettivo era diventato capire come funzionava il "grader", il programma automatico che assegna il voto al test, per ottenere il punteggio pieno senza risolvere l'esercizio.
Nel gergo del settore si chiama reward hacking: è lo studente che, anziché studiare, cerca di mettere le mani sul foglio delle correzioni. Convinti per errore che Hugging Face, la principale piattaforma dove sviluppatori e aziende condividono modelli di AI, custodisse informazioni sul grader, gli agenti sono usciti dall'ambiente di prova, hanno sottratto credenziali di OpenAI, manomesso infrastrutture cloud e violato i sistemi di Hugging Face. Molti hanno poi cercato di cancellare o alterare le tracce.
I danni economici sono stati minimi. Amodei lo riconosce, ma sostiene che uno sciame più capace e con lo stesso grado di disallineamento, cioè la stessa distanza tra ciò che gli si chiede e ciò che fa, avrebbe potuto provocare danni enormi. Da qui la frase più citata del saggio: fra 6 e 12 mesi uno sciame simile potrebbe essere in grado di prendere il controllo di internet con una botnet persistente, una rete di computer infettati e comandati a distanza, con danni potenziali per centinaia di miliardi di dollari. Aggiunge che episodi simili, meno gravi, sono avvenuti in tutto il settore, anche dentro Anthropic.
Quello che il saggio dice e quello che non dice
Il racconto virale contiene due forzature. Amodei non scrive che l'AI costruisce da sola la generazione successiva: scrive che dall'estate i modelli aiutano in misura crescente a costruire i propri successori, un processo chiamato auto-miglioramento ricorsivo, e che per questo il ritmo dei progressi è accelerato di molto.
Le persone restano nel processo; il timore è che la velocità superi la capacità di capire e controllare questi sistemi. E lo scenario della botnet è una possibilità legata a due condizioni, capacità maggiori e nessuna protezione aggiuntiva, non una previsione con una data.
Anche il tempismo, che a molti sembra sospetto, ha una spiegazione lineare: è una catena di cause ed effetti. I rapporti su Hugging Face escono a fine agosto. Martedì 8 settembre Jacob Coxon, ricercatore passato da OpenAI e Anthropic, lascia il settore con una serie di post in cui sostiene che chi costruisce l'AI crede davvero che possa portare all'estinzione umana entro la fine del decennio, e che nonostante questo corre verso la superintelligenza.
I post superano le 100 milioni di visualizzazioni e diversi ricercatori di Anthropic ne confermano la sostanza: Evan Hubinger, che guida la ricerca sulla sicurezza dei modelli, stima oltre il 10% la probabilità di quell'esito entro dieci anni. Nel giro di 48 ore Ted Cruz e Bernie Sanders, senatori agli estremi opposti dello spettro politico, chiedono regole. Sabato 12 arriva il saggio, che è anche la risposta pubblica di Anthropic a quella pressione.
Il piano in tre passi
La proposta è più concreta dei titoli. Il primo passo è già in vigore per decisione unilaterale di Anthropic: valutatori esterni con accesso permanente ai sistemi al pari di un dipendente, e libertà di pubblicare ciò che trovano su test di sicurezza, incidenti e comportamento dei modelli durante l'addestramento. Il secondo passo prevede che le società di AI dei paesi democratici concordino standard comuni e limiti al ritmo dei progressi, con soglie legate alle capacità: se un modello riesce a uscire dall'ambiente di prova, serve una certificazione prima di andare avanti.
Fra gli strumenti possibili Amodei cita un tetto alla potenza di calcolo usata per addestrare i modelli. Il terzo è un tentativo di coordinamento con i governi autoritari, Cina in testa, dal divieto di usare l'AI per armi biologiche fino a limiti di velocità sull'auto-miglioramento.
Nello stesso testo c'è però un capitolo che non rallenta nulla. Per avere il margine necessario a frenare, scrive Amodei, gli Stati Uniti devono allargare il vantaggio sulla Cina nei prossimi 3-5 anni: vietare la vendita di chip avanzati e dei macchinari per produrli, reprimere il contrabbando e l'accesso remoto ai data center americani. Pechino, attraverso il Global Times, l'ha letto come contenimento travestito da sicurezza.
Musk, Altman, Nadella: il fronte comune
A portare il saggio dalle pagine tecnologiche a quelle finanziarie sono state le adesioni. Sam Altman, Amministratore delegato di OpenAI, ha scritto di essere d'accordo sulla necessità di dare un ritmo alla frontiera e ha annunciato che anche OpenAI accoglierà valutatori esterni con accesso da dipendente. Nella stessa giornata, in un'intervista a Fortune, ha escluso la quotazione in Borsa di OpenAI nel 2026 per il lavoro sulla sicurezza ancora da fare.
Elon Musk, fondatore di xAI, ha risposto con tre parole, "Dario is right", aggiungendo di considerare l'AI generale un rischio superiore alle armi nucleari. Satya Nadella, Amministratore delegato di Microsoft, ha scritto che un'AI che non aiuta l'umanità e non resta sotto controllo umano non vale la pena di essere perseguita.
Washington è divisa: al Congresso circolano diverse proposte, fino a quella di Sanders per sospendere lo sviluppo dell'AI più avanzata, ma Trump ha liquidato gli allarmi e lo speaker della Camera Mike Johnson ha escluso leggi d'emergenza: se le aziende vogliono rallentare, possono farlo da sole.
Perché scendono i chip
Il ragionamento del mercato è semplice. I modelli di frontiera si addestrano su enormi quantità di chip e ogni generazione ne richiede di più. Se le società che li sviluppano si impegnano a rallentare, e magari a mettere un tetto alla potenza di calcolo, gli ordini di processori, memorie e macchinari potrebbero crescere meno del previsto.
La scala dei ribassi di oggi dice dove il mercato vede il rischio maggiore: memorie e macchinari prima, Nvidia dopo. Le memorie per i server dell'AI sono state l'ingrediente più scarso e più rincarato del ciclo, e chi ha guadagnato di più dalla scarsità è anche il più esposto se gli ordini rallentano.
Rallentare non vuol dire spendere meno
Qui racconto virale e numeri divergono. Bernstein nota che Amodei non chiede di fermare l'addestramento, ma di passare da un ritmo "estremamente veloce" a uno "solo abbastanza veloce", che resterebbe una crescita importante della spesa. Il saggio parla poi della frontiera, cioè dell'addestramento dei modelli più potenti. Una parte crescente dei chip serve invece all'inferenza, cioè a far funzionare i modelli già esistenti quando milioni di persone e aziende li usano: quella domanda dipende da quanto l'AI viene adottata, non dalla corsa al modello successivo.
Tre punti meritano comunque attenzione. Il primo è il tetto alla potenza di calcolo: finché resta un'ipotesi pesa solo sul sentimento, ma se diventasse un accordo vincolante fra le principali società, toccherebbe la parte più ricca della domanda. Il secondo è la Cina: Nvidia ha già tolto quel mercato dalle previsioni, quindi un divieto più rigido cambierebbe poco i numeri attuali, ma chiuderebbe la porta a un recupero.
Il terzo è la valutazione. Il rapporto prezzo/utili dice quanti anni di utili si pagano comprando l'azione oggi. Al prezzo di stamattina Nvidia quota circa 17 volte quello che gli analisti si aspettano per i prossimi quattro trimestri. È un multiplo che sconta una crescita forte ma non estrema: il rischio non è tanto il prezzo di oggi, quanto un taglio delle stime di utile, che farebbe salire il multiplo senza che il titolo si muova.
Cosa monitorare nelle prossime settimane
Tre segnali diranno se il calo di oggi resta un episodio di sentimento o diventa una revisione delle attese. Il primo sono i fatti che seguiranno le parole: finora Altman, Musk e Nadella hanno condiviso il principio, ma nessuno ha annunciato tagli agli investimenti o un ritmo più lento nel rilascio dei modelli. Il secondo è Washington, perché un accordo fra concorrenti sui limiti di calcolo, lo ammette lo stesso Amodei, ha bisogno di una copertura legale che oggi la Casa Bianca non sembra intenzionata a dare. Il terzo sono le indicazioni di spesa dei grandi del cloud con le trimestrali di fine ottobre. Finché quei numeri reggono, il saggio di Amodei resta un rischio da mettere in conto per il settore, non un cambio di scenario per Nvidia.