Anni e anni di investimenti giganteschi, di perdite e soprattutto di fabbisogno continuo di capitale stanno cominciando a presentare il conto ai padroni della AI. Addestrare un modello di frontiera costa cifre enormi, ma anche mantenerlo in funzione, servirlo a milioni di utenti e continuare ad aumentare la capacità di calcolo costa moltissimo. Il problema, insomma, non è semplicemente che “addestrare costa più che farlo usare”: è che tutta la macchina economica della AI richiede quantità di capitale e infrastrutture mostruose, molto prima che sia chiaro se i ricavi riusciranno davvero a giustificarle. OpenAI, per esempio, prevede centinaia di miliardi di dollari di spesa in capacità di calcolo entro la fine del decennio.

Ed è qui che, secondo me, comincia una fase interessante.

Da qualche tempo i master della AI hanno cominciato ad alzare enormemente il volume dell'allarme: la AI potrebbe diventare incontrollabile, potrebbe danneggiare infrastrutture critiche, potrebbe addirittura sterminare il genere umano. Non si tratta più soltanto di qualche filosofo che gioca con il paradosso della superintelligenza: oggi sono gli stessi dirigenti delle grandi aziende del settore a chiedere interventi politici, controlli, accordi internazionali e persino un rallentamento della corsa ai modelli più potenti.

Il dettaglio curioso è che l'allarme massimo ottiene immediatamente attenzione massima, anche quando il meccanismo concreto rimane molto più nebuloso della certezza con cui viene annunciata la catastrofe. Quando finalmente si tenta di spiegare COME dovrebbe avvenire lo sterminio dell'umanità, si passa normalmente attraverso scenari ipotetici: sistemi che prendono il controllo di infrastrutture, agenti autonomi che lanciano attacchi informatici, armi controllate da macchine, oppure la classica superintelligenza che sfugge al controllo umano. Sono scenari che possono certamente essere discussi, ma siamo parecchio lontani dal possedere una catena causale dimostrata che porti da ChatGPT all'estinzione dell'Homo sapiens. Non di rado, nell'immaginario pubblico, il resto del lavoro viene gentilmente svolto da Hollywood.

Il confronto con il cambiamento climatico è quasi comico. Abbiamo un fenomeno fisico osservabile, misurabile, dotato di meccanismi causali conosciuti, capace di produrre danni enormi e destabilizzazione su scala planetaria; eppure l'ipotesi “il cambiamento climatico può mettere seriamente in pericolo la civiltà umana” riesce normalmente ad annoiare una redazione in pochi minuti. Dite invece “una AI potrebbe decidere di sterminarci tutti”, ed eccoci immediatamente in prima pagina.

La mia previsione è quindi abbastanza semplice: aspettate ancora un pochino.

Dopo aver spiegato che stanno costruendo qualcosa di talmente potente da costituire un pericolo esistenziale per l'intera specie umana, prima o poi arriverà anche la conclusione politica: una tecnologia così strategica, così costosa e così pericolosa non può essere lasciata semplicemente alle normali leggi del mercato.

E a quel punto vedrete comparire la richiesta dell'“aiutino” al governo americano.

Non sarebbe neppure una rivoluzione concettuale: il governo statunitense sta già intervenendo pesantemente intorno all'infrastruttura della AI, e il Pentagono sta persino discutendo prestiti miliardari destinati alla filiera dei data center.

Il trucco politico, se accadrà, sarà notevole: prima si costruisce privatamente una tecnologia con costi giganteschi; poi si spiega pubblicamente che quella tecnologia è troppo importante e troppo pericolosa perché lo Stato possa permettersi di lasciarla fallire.

OPS.

---

E così alle masse della white trash sta venendo proposta l’idea che debbano esistere enti, commissioni, autorità e gruppi di esperti incaricati di fare “dei controlli” per verificare il pericolo che una AI “stermini il genere umano”.

Wow.

Il problema di questa idea, però, è abbastanza semplice: qual è il KPI?

Che cosa stiamo misurando, esattamente?

Stiamo misurando la somiglianza con un celebre film di Hollywood? Dopo il criterio di Barkhausen dovremo introdurre anche il Numero di Schwarzenegger? Una AI con Schwarzenegger 0,3 è tranquilla, mentre sopra 0,8 bisogna vietarla?

Perché, scherzi a parte, in che cosa si misura la “pericolosità” di una AI?

L’AI Act europeo, per esempio, adotta un approccio abbastanza sensato dal punto di vista politico: distingue diversi livelli e tipi di rischio sulla base di ciò che un sistema fa e del contesto nel quale viene usato. Ci sono sistemi vietati, sistemi ad alto rischio e così via. Tra le pratiche vietate c’è, per esempio, una certa forma di crime prediction, quando si pretende di prevedere la probabilità che una persona commetta un reato basandosi essenzialmente sul profiling. Per i modelli general-purpose, cioè quelli più vicini alle AI generative delle quali stiamo parlando, l’AI Act introduce invece anche il concetto di rischio sistemico, usando capacità, benchmark e quantità di calcolo impiegata nell’addestramento come indicatori.

E va benissimo: almeno stiamo misurando qualcosa. Ma non risolve il problema.

Ma la mia domanda rimane.

Come MISURATE il rischio che una AI stermini il genere umano, di preciso?

Perché nel momento in cui create un’autorità incaricata di giudicare questo rischio, prima o poi qualcuno dovrà dire che la AI A presenta un rischio maggiore della AI B. E allora bisognerà capire perché una presenta, diciamo, un rischio del 12% e l’altra del 14%.

Come lo avete calcolato?

Qual è l’unità di misura? Qual è l’esperimento? Qual è la popolazione statistica? Dove sono gli eventi precedenti sui quali avete calibrato il modello? Quante volte abbiamo costruito una superintelligenza e quante di queste volte essa ha sterminato il genere umano?

Zero su zero non è precisamente il dataset dei sogni.

E se invece non avete una misura, ma fate la cosa “a braccio”, cioè con il classico chiediamo agli esperti, allora avete semplicemente spostato il problema. Perché a quel punto non avete costruito uno strumento di misura: avete costruito un’autorità discrezionale.

E quando miliardi di dollari dipendono dal giudizio discrezionale di qualcuno, la storia dell’umanità suggerisce che prima o poi sotto qualche scrivania cominceranno a transitare pacchi vagamente somiglianti a banconote.

E improvvisamente la AI diventerà perfettamente innocua.

• Ehi, ma la vostra AI ha appena lanciato un missile sulla casa di una cantante tedesca.
• Nessuno ha davvero bisogno della musica pop tedesca.
• Ma la cantante si chiama Sarah Connor!
• Cantava di merda. La nostra AI ha buon gusto. Chiamami se bombarda i Sodom.

---

Davvero sono tranquillissimo?

Ovviamente no. Ma per ben altri motivi.

Quando Lehman Brothers fallì, nel settembre del 2008, aveva circa 639 miliardi di dollari di attivi e oltre 600 miliardi di debiti. Non era certo l'unica causa della crisi — il sistema finanziario americano era già pieno di esplosivo — ma il suo crack fu il momento nel quale tutti capirono contemporaneamente che l'esplosivo stava effettivamente esplodendo. Ne seguì la più grave crisi finanziaria mondiale dal dopoguerra, con una recessione globale nel 2009 e conseguenze economiche, sociali e politiche che continuarono per anni.

Adesso stiamo parlando di aziende legate alla corsa alla AI che, a seconda di quali e quante ne mettiamo nel paniere, valgono complessivamente trilioni di dollari. Sette, otto, magari di più o di meno: il numero preciso cambia continuamente insieme alle quotazioni e dipende soprattutto da dove decidete di tracciare il confine tra “azienda AI” e semplice Big Tech.

Ma l'ordine di grandezza è quello.

E soprattutto non stiamo più parlando soltanto di quotazioni di Borsa. La corsa alla AI si sta propagando al credito, alle obbligazioni, ai data center, alle reti elettriche, ai semiconduttori e ai grandi fondi infrastrutturali. Solo gli hyperscaler hanno emesso nell'ultimo anno qualcosa come 220 miliardi di dollari di obbligazioni per finanziare l'espansione dei data center, mentre nel 2026 il debito collegato alla AI ha già raggiunto dimensioni enormi.

Perciò, se davvero esiste una bolla e se davvero questa bolla dovesse scoppiare nel modo che tanti temono, il problema che mi preoccupa non è Skynet. Il problema è Wall Street.

Non sto dicendo che domattina avremo automaticamente un nuovo 1929: le strutture finanziarie, le banche centrali e gli strumenti di intervento oggi sono differenti. Sto dicendo che, per dimensione del capitale coinvolto e per quantità di investimenti costruiti intorno alla promessa di rendimenti futuri della AI, un collasso abbastanza grande potrebbe produrre una crisi sistemica molto più vasta del semplice fallimento di qualche startup.

E qui arriva la parte che mi preoccupa veramente.

Perché nel 1929 non ci fu soltanto un crollo di Borsa. Arrivarono la Grande Depressione, disoccupazione di massa, impoverimento, crisi delle istituzioni liberali e una radicalizzazione politica gigantesca.

E oggi, esattamente come tra il 1929 e il 1930, in giro per il mondo ci sono, diciamo così, certi partiti.

Quindi, semmai dovessimo costruire davvero un indice della “pericolosità della AI”, personalmente non partirei dalla domanda: “Quanto è probabile che questa macchina stermini il genere umano?”

Partirei da una domanda molto meno cinematografica: “Quanto è probabile che questa gigantesca concentrazione di capitale provochi un altro 1929, e quali sarebbero le conseguenze politiche?”

Ecco. Questo mi preoccupa.

Soltanto che a quel punto il problema cambia completamente natura.

Non si tratta più di regolamentare la tecnologia delle aziende di AI perché potrebbe improvvisamente diventare cattiva, sviluppare una personalità e mettersi a cercare Sarah Connor.

Si tratta di regolamentare la loro abnorme dimensione finanziaria, la concentrazione di capitale, il debito accumulato attorno alle infrastrutture, l'esposizione degli investitori e soprattutto il rischio che alcune di queste aziende diventino talmente grandi e talmente intrecciate con il resto dell'economia da trasformarsi nel prossimo too big to fail.

Il rischio esistenziale che vedo io, insomma, non è che la AI decida di distruggere il genere umano.

È che wall streett riesca benissimo a portare al potere certi ceffi.

---

È una paura ragionevole?

Direi di sì.

È supportata dai fatti? Beh, diciamo che almeno io posso indicare un precedente storico. Di Terminator, invece, non abbiamo ancora precedenti storici.

E soprattutto sono comparsi almeno due ingredienti che conosciamo già:

1. una possibile grande crisi finanziaria, capace di partire da Wall Street e propagarsi al resto dell'economia;
2. la presenza, in molti paesi, di partiti e movimenti politici che mi ricordano parecchio certa gente che circolava già attorno al 1929.

Questo non significa che la storia debba necessariamente ripetersi allo stesso modo. Significa semplicemente che, se vogliamo parlare seriamente di rischio, qui abbiamo almeno una catena causale che la storia ha già mostrato di saper produrre: crisi finanziaria, impoverimento, disoccupazione, radicalizzazione politica.

È molto meno spettacolare di Skynet, ma ha il vantaggio intellettuale di essere già successo.

Ed è precisamente per questo che continuo a dire che il problema, qui, non è la tecnologia.

Il problema è la finanza che sta dietro a quelle tecnologie.

Non è tanto importante chiedersi se il modello diventerà abbastanza intelligente da volerci uccidere. È molto più urgente chiedersi se l'industria costruita attorno a quel modello sia diventata abbastanza grande, indebitata, interconnessa e sopravvalutata da poter trascinare con sé una parte significativa dell'economia quando qualcosa andrà storto.

Se volete cercare il rischio sistemico della AI, quindi, forse state guardando dalla parte sbagliata.

Non guardate il chatbot.

Guardate wall street.

---

Perché un rischio corroborato da fatti storici non viene valutato quanto un rischio che, per ora, viene immaginato soprattutto attraverso Hollywood?

La risposta è abbastanza semplice: contate quanti film popolari sono stati fatti sul 1929 e sui suoi effetti politici, e quanti ne sono stati fatti sui robot malvagi, sulle macchine che si ribellano, sulle intelligenze artificiali che decidono di sterminare l'umanità.

E capirete facilmente perché la paura delle macchine cattive si materializza immediatamente nella testa delle masse, mentre la paura di una grande crisi finanziaria che impoverisce milioni di persone e porta al potere certi ceffi si materializza molto meno.

Perché è esattamente questo uno degli effetti politici più importanti della crisi iniziata nel 1929.

Il crollo di Wall Street non “creò Hitler” da solo, ovviamente. Ma la Grande Depressione devastò economie già fragili, produsse disoccupazione di massa, distrusse risparmi e fiducia nelle istituzioni, delegittimò i partiti tradizionali e rese molto più appetibili quelli che promettevano soluzioni semplici, radicali e definitive.

In Germania il passaggio è particolarmente evidente: alle elezioni del 1928 il partito nazista era ancora marginale, con meno del 3% dei voti. Dopo l'inizio della crisi economica, nel 1930 superò il 18%, e nel luglio del 1932 arrivò oltre il 37%, diventando il primo partito del Reichstag.

Quindi la sequenza non è una fantasia da romanzo distopico. L'abbiamo già vista:

crisi finanziaria → depressione economica → disoccupazione e impoverimento → delegittimazione del sistema politico → crescita dei partiti estremisti.

Non è una legge della fisica, e non significa che ogni crisi produca automaticamente un fascismo. Ma significa che il meccanismo esiste, è storicamente documentato e sappiamo già che, nelle condizioni giuste, può funzionare.

La paura della macchina assassina, invece, possiede soprattutto immagini, volti, esplosioni, slogan, archetipi. Ha Terminator.

La paura di una crisi finanziaria che distrugge il ceto medio e, qualche anno dopo, porta al governo dei fanatici ha invece fallimenti bancari, grafici sulla disoccupazione, elezioni, governi che cadono e una degradazione politica lenta.

È meno cinematografica.

Ed è proprio questo il punto.

Sono paure pop.

E le paure pop non vengono semplicemente selezionate in base alla loro spettacolarità: vengono prodotte in base alla loro spettacolarità pop.

Un robot assassino si vende benissimo.

Una crisi del credito che, cinque anni dopo, riempie il Parlamento di fanatici molto meno.