La bolla AI, parliamo di predittori.
Si fa un gran parlare della possibile esplosione della bolla dell'AI, e ancora di più si prova a prevedere quando e come potrebbe avvenire. Il problema è che quasi nessuno sa davvero indicare né il momento né il meccanismo preciso, anche perché non esiste una spiegazione unica e convincente del motivo per cui la capitalizzazione di Wall Street sia cresciuta così tanto negli ultimi anni, concentrandosi in misura enorme proprio attorno alle aziende legate all'AI. Di spiegazioni, naturalmente, ne esistono parecchie: aspettative di crescita futura, concentrazione dei profitti nelle grandi aziende tecnologiche, entusiasmo per l'AI generativa, flussi di capitale verso pochi titoli dominanti, convinzione che l'AI produrrà enormi aumenti di produttività. Ma nessuna di queste, presa da sola, sembra spiegare del tutto dimensioni e velocità del fenomeno. E questo rende particolarmente difficile prevederne la fine.
Perché quando una crescita appare sproporzionata perfino rispetto alla razionalità finanziaria — che già di per sé non è esattamente sinonimo di razionalità — diventa difficile capire quale evento, o quale semplice cambiamento di aspettative, possa essere sufficiente a invertirla.
Ma dal punto di vista del pinco pallino che ha investito in Borsa i soldi della pensione, il problema non è tanto sapere quando e perché scoppierà la bolla. Il problema vero è riuscire a individuare dei predittori: segnali osservabili che dicano che qualcosa sta cambiando prima che il mercato se ne accorga tutto insieme.
Un pochino come nell'Apocalisse, dove prima della fine dell'universo intero compaiono comunque dei segnali abbastanza vistosi: angeli che suonano la tromba, il mare che diventa sangue, stelle che cadono dal cielo e altra discreta segnaletica di emergenza cosmica.
Così proverò a fare un esercizio: chiedermi quali potrebbero essere, nel caso della bolla dell'AI, i segni della fine. Non necessariamente le cause dello scoppio, e nemmeno una data precisa, ma quei fenomeni che potrebbero funzionare da predittori, indicando che il meccanismo che sostiene la crescita sta cominciando a rompersi.
Per arrivare ai segni del disastro, però, occorre prima capire bene quali siano le cose che costano e quali, invece, siano i prodotti che queste aziende riescono effettivamente a vendere.
Il fatto che oggi molte aziende del settore non siano in utile, preso da solo, conta relativamente poco. Una società può continuare per anni a bruciare capitale se gli investitori ritengono credibile la crescita futura, o semplicemente se credono che qualcun altro continuerà a finanziarla.
Twitter, per esempio, è stata fondata nel 2006 e ha chiuso il primo intero esercizio annuale in utile soltanto nel 2018; nel quarto trimestre del 2017 aveva raggiunto per la prima volta la profittabilità GAAP trimestrale. Quindi non proprio quindici anni, ma circa dodici anni dalla fondazione al primo bilancio annuale positivo. Nel frattempo è stata finanziata prima dal venture capital e, dopo l'IPO del 2013, anche dal mercato azionario.
Essere in perdita, quindi, non è di per sé il segnale che una bolla stia per scoppiare. La domanda interessante è un'altra: che cosa deve continuare a succedere affinché qualcuno continui a pagare quei costi?
Proviamo a vedere, a grandi linee, come funziona un'azienda di AI.
Il design del modello, sulla scala del loro cash flow, non è necessariamente la cosa che costa di più. La parte realmente costosa è la costruzione del modello: raccogliere e preparare enormi quantità di dati, addestrarlo, ripetere gli esperimenti, scartare quelli che non funzionano e soprattutto mettere a disposizione le risorse hardware necessarie. E questo costo, cosa importante, non cresce in maniera lineare rispetto al miglioramento ottenuto.
Proviamo a ragionarci con un esempio molto più semplice.
Mettiamo di dover fare una misura, e di voler misurare qualcosa lungo 20 centimetri. Quando faremo la misura, a meno di non possedere strumenti infinitamente precisi — che non esistono — otterremo qualcosa del tipo:
20 cm ± X
dove X rappresenta l'incertezza della misura.
Quanto è grande questo X?
Se continuiamo a ripetere la misura, assumendo di aver eliminato o controllato gli errori sistematici e che gli errori residui siano indipendenti e casuali, l'incertezza statistica della media diminuisce approssimativamente come l'inverso della radice quadrata del numero delle misure:
X ~ 1 / √N
Ed è qui che comincia il problema.
Per dimezzare X, cioè l'errore, non basta raddoppiare il numero delle misure: dobbiamo quadruplicarlo. Se vogliamo ridurre l'errore a un terzo, dobbiamo idealmente fare nove volte il numero delle misure. Per ridurlo a un decimo, cento volte.
Non è quindi una funzione ERF: la error function compare nella matematica della distribuzione normale, ma la legge che ci interessa qui è la classica dipendenza 1/√N dell'errore statistico.
Il punto però rimane esattamente quello: ottenere un miglioramento progressivamente più piccolo può richiedere una quantità di lavoro progressivamente molto più grande.
Adesso supponiamo, per semplicità, che per un certo prompt esista una “risposta perfetta”.
Se chiediamo a una AI quanto sia lungo qualcosa, e immaginiamo che esista una risposta esatta, possiamo pensare alla risposta prodotta dal modello come a qualcosa che si trova a una certa distanza X dalla risposta ideale. Questa distanza può rappresentare un errore numerico, una discrepanza semantica, una risposta incompleta o semplicemente una qualità inferiore a quella che consideriamo perfetta.
A questo punto viene spontaneo pensare che, per ridurre X, occorra aumentare la quantità e soprattutto la qualità dei dati usati durante l'addestramento, oltre alla capacità del modello e al calcolo impiegato.
Qui però bisogna stare attenti all'analogia con gli strumenti di misura.
Per una misura fisica ripetuta, sotto ipotesi abbastanza precise, l'errore statistico può diminuire come 1/sqrt(N). Per i modelli linguistici non esiste invece una legge universale che dica che la distanza dalla “risposta perfetta” debba diminuire esattamente nello stesso modo.
Quello che si osserva empiricamente sono piuttosto delle scaling laws: aumentando dati, parametri e calcolo, la loss del modello tende a diminuire secondo leggi di potenza. In forma molto semplificata:
errore ~ N^(-alpha)dove N può rappresentare la quantità di dati, il compute o qualche altra risorsa, e alpha è normalmente minore di uno.
Il risultato pratico è comunque quello che ci interessa: rendimenti sempre decrescenti.
Per ottenere un miglioramento sempre più piccolo bisogna spendere quantità sempre maggiori (E NON PROPORZIONALI) di dati e di calcolo.
Ed è qui che entra in gioco la natura probabilistica dei modelli linguistici. Un LLM non possiede una tabella contenente “la risposta corretta”: durante la generazione produce, passo dopo passo, una distribuzione di probabilità sui token possibili e sceglie da quella distribuzione secondo il metodo di decoding utilizzato.
Potete immaginarlo come una specie di paradosso di Zenone applicato all'AI: più ci si avvicina alla risposta perfetta, più ogni ulteriore miglioramento diventa piccolo, mentre il costo necessario per ottenerlo continua ad aumentare.
I passi verso l'obiettivo diventano sempre più brevi, ma ciascun passo richiede più dati, più calcolo, più energia e più hardware del precedente.
Non perché esista davvero una legge di Zenone dentro un LLM, naturalmente, ma perché le scaling laws osservate mostrano proprio questo genere di rendimento decrescente: migliorare ancora è possibile, ma ogni incremento marginale di qualità tende a costare sempre di più.
Quindi, punto primo: la parte più costosa per creare un nuovo modello di frontiera è normalmente l'addestramento che lo produce, non la singola esecuzione dell'LLM.
Qui però occorre distinguere bene due cose. Il training concentra enormi costi in una fase relativamente breve: GPU, energia, dati, esperimenti, fine-tuning, valutazioni. L'inference, cioè l'uso del modello già addestrato, costa molto meno per singola richiesta, ma può diventare a sua volta una voce enorme quando viene moltiplicata per milioni o miliardi di richieste. Quindi non è affatto gratuita: semplicemente ha una struttura di costo diversa.
E, soprattutto, nessuno paga per “possedere un LLM” in astratto. Si paga per usarlo.
Lo si paga sotto forma di abbonamento a un chatbot, consumo di API, generazione di testo, immagini o codice, oppure come componente di un agente che svolge qualche attività concreta. In altre parole, il modello è l'infrastruttura; il prodotto venduto è quasi sempre l'accesso alla sua capacità di produrre qualcosa.
Ed è questa distinzione che ci interessa, perché da una parte abbiamo costi enormi per costruire e migliorare il modello, e dall'altra dobbiamo chiederci quanto denaro il suo utilizzo riesca effettivamente a generare.
L'idea che sta alla base di tutto, quindi, è abbastanza semplice: le aziende spendono un botto per produrre i modelli, cosa che richiede enormi quantità di calcolo e quindi infrastrutture HPC gigantesche; dopodiché cercano di recuperare quei costi vendendo l'accesso al modello.
E anche qui l'hardware torna immediatamente in scena, perché non basta costruire il modello una volta sola: bisogna poi farlo girare per milioni di utenti, continuamente. Quindi servono altri data center, altre GPU, altra memoria, altra rete e altra energia per sostenere l'inference, cioè il servizio vero e proprio che viene venduto.
In forma molto brutale:
Uscite: hardware HPC, energia, rete e infrastruttura per addestrare i modelli e per farli girare. Entrate: i soldi che gli utenti spendono per usare quei modelli, direttamente o indirettamente, spesso attraverso API fatturate a token, abbonamenti ai chatbot o servizi agentici.
La semplificazione “si vendono token” non vale per ogni prodotto commerciale, perché molti servizi vengono venduti a forfait o in abbonamento. Ma dal punto di vista industriale il succo non cambia: l'azienda investe capitale in capacità di calcolo e cerca poi di monetizzare il consumo di quella capacità.
E siccome ci stiamo finalmente avvicinando ai predittori, adesso possiamo chiederci quale sia il pericolo mortale di questo modello economico. Il pericolo è abbastanza semplice: che persone e aziende decidano di far girare i modelli in casa, o, nel gergo aziendale, on premise.
Questo rischio nasce dal fatto che i modelli nuovi arrivano prima dei servizi costruiti sopra di essi. Se un modello disponibile oggi è già abbastanza buono per il lavoro quotidiano di un programmatore, di un'azienda o di un reparto tecnico, allora quell'utente potrebbe semplicemente decidere che non gli serve inseguire ogni nuovo upgrade.
A quel punto può cominciare a fare un altro ragionamento: invece di continuare a pagare token per sempre, compro l'hardware una volta sola e faccio girare il modello per conto mio.
E qui il rischio diventa concreto, perché esistono ormai molti modelli open-weight, cioè modelli dei quali è possibile scaricare direttamente i pesi ed eseguire l'inference sulla propria infrastruttura. Molti dei protagonisti di questa tendenza sono cinesi — per esempio le famiglie Qwen e DeepSeek — ma la pressione competitiva ha spinto anche aziende occidentali nella stessa direzione. OpenAI stessa distribuisce oggi modelli gpt-oss scaricabili, eseguibili localmente e utilizzabili anche su infrastruttura privata.
Questo non significa che tutti questi modelli siano “gratis” in senso assoluto: l'hardware, l'energia e la gestione continuano a costare. Ma significa che il produttore del modello non viene necessariamente pagato ogni volta che il modello viene usato.
Ed è precisamente questo il punto pericoloso.
Perché se la qualità di un modello locale diventa “abbastanza buona”, allora il cliente può smettere di comprare continuamente inference dal produttore e trasformare una spesa ricorrente in un investimento una tantum in hardware.
E da qui, arriviamo al discorso “i segni della fine”.
E da qui arriviamo finalmente al discorso dei segni della fine.
Uno dei motivi per cui oggi persone e aziende non si stanno semplicemente installando l'AI on premise è che l'hardware necessario costa cifre esorbitanti. Ma costa così tanto anche perché una parte enorme della capacità produttiva disponibile viene assorbita dalla costruzione dei data center per l'AI.
E qui bisogna chiarire bene una cosa: non funziona come quando andate in un negozio e comprate quello che trovate sullo scaffale.
Non è che Microsoft, Google, Meta o OpenAI vadano da NVIDIA, SK Hynix o TSMC e dicano: «Non è che avete per caso un miliardo di chip in magazzino?».
No.
Quei chip devono ancora essere fabbricati. E le fabbriche hanno una capacità finita: numero di wafer lavorabili, linee produttive, packaging avanzato, disponibilità di HBM, macchinari, energia, personale. Oggi, peraltro, proprio memoria HBM e capacità produttiva avanzata continuano a essere colli di bottiglia importanti; SK Hynix dichiara una domanda superiore alla propria capacità produttiva, mentre TSMC continua ad aumentare gli investimenti proprio per inseguire una domanda AI che descrive come strutturale e pluriennale.
Per questo è più corretto dire che le grandi aziende dell'AI prenotano capacità produttiva futura.
Si assicurano allocazioni, firmano contratti, fanno ordini con largo anticipo e, in sostanza, si mettono in coda davanti agli altri compratori. NVIDIA stessa deve assicurarsi in anticipo capacità sufficiente presso la propria supply chain per sostenere la crescita prevista.
Quindi quando diciamo che «le aziende di AI stanno comprando tutte le GPU e tutta la memoria», stiamo usando una scorciatoia linguistica. Più precisamente, stanno occupando una quota enorme della produzione futura.
Le aziende di AI stanno quindi prenotando, ma non necessariamente comprando nell'immediato, enormi quantità di chip.
La distinzione è importante. Una parte della capacità produttiva futura viene impegnata con ordini, accordi di fornitura, prepagamenti o contratti pluriennali: in pratica, si riserva posto nella coda industriale. Il denaro può anche cominciare a muoversi prima, ma i chip fisici ancora non esistono.
Dire semplicemente che “li hanno comprati” dà l'idea di magazzini già pieni di GPU pronte all'uso. In realtà, una parte sostanziale di quella domanda è domanda futura già impegnata sulla capacità produttiva futura.
Ed è proprio questo che ci interessa, perché una prenotazione può essere un segnale economico molto diverso da un chip già prodotto, consegnato e messo in servizio.
E questa differenza, come vedremo, è importante.
Questo meccanismo — cioè il fatto che una parte enorme delle supply chain sia già oberata di prenotazioni — contribuisce a tenere molto alti i prezzi di memorie, acceleratori e GPU.
Per esempio, io posso già far girare localmente un modello più che sufficiente per le mie necessità: editing, generazione di immagini e anche programmazione di software OSS. Il problema è che la macchinetta che un anno fa avrei potuto immaginare intorno ai 1000 euro oggi, a parità di classe di hardware utile, può facilmente costarne 2000 o 2500.
Niente di incredibile, in assoluto. Ma quando il prezzo più che raddoppia, l'acquisto smette di essere una curiosità tecnica e diventa una decisione economica vera.
E questo gigantesco aumento dei prezzi scoraggia persone e aziende dal costruirsi l'AI in casa.
Anche perché il ragionamento spontaneo è sempre lo stesso:
«Sì, ma l'anno prossimo con questo hardware non riuscirò più a far girare l'ultimo modello.»
Vero.
Ma questo ragionamento ha senso soltanto finché si presume che l'ultimo modello sia sempre indispensabile.
Se invece i modelli progrediscono a passi sempre più piccoli — alla Zenone, per continuare con la metafora — allora a un certo punto qualcuno può perfettamente dire:
«Ehi. Fissiamo che il modello X ci basta. Fa già quello che ci serve, e continuerà a bastarci per i progetti che abbiamo in coda almeno per i prossimi tre anni.»
A quel punto il problema cambia completamente.
Non si tratta più di inseguire ogni generazione successiva, ma di fare un normale calcolo industriale: conosciamo il costo dell'hardware, conosciamo quanto spendiamo oggi in API o abbonamenti, possiamo stimare il ROI e il break-even.
E allora la domanda diventa inevitabile: possiamo pensare di farcelo in casa?
E qui siamo arrivati al nostro primo predittore.
Se il ragionamento fatto finora è corretto, allora uno dei segnali che potrebbero precedere lo scoppio della bolla sarà un calo generalizzato e persistente del prezzo di memorie, GPU e acceleratori, fino a riportarli verso livelli più vicini a quelli precedenti alla corsa all'AI.
Non basta, naturalmente, vedere una scheda video scendere di prezzo del 20% per gridare all'Apocalisse. I prezzi dell'hardware possono diminuire per moltissime ragioni: aumento della capacità produttiva, miglioramento dei processi industriali, nuove generazioni di chip, concorrenza, normalizzazione delle scorte.
Il segnale interessante sarebbe un altro: un calo ampio, contemporaneo e non spiegabile soltanto con il normale progresso tecnologico, specialmente se accompagnato da una diminuzione dei tempi di consegna e da una maggiore disponibilità di memoria e acceleratori.
Perché significherebbe che qualcosa sta cambiando nella coda.
Le aziende di AI stanno prenotando meno capacità, oppure stanno ridimensionando gli ordini futuri, oppure l'offerta sta finalmente raggiungendo — o superando — quella domanda gigantesca che fino a quel momento aveva tenuto la supply chain sotto pressione.
E a quel punto succederebbe anche la cosa più pericolosa per chi vende inference: l'hardware necessario per far girare i modelli localmente comincerebbe a costare molto meno.
Il primo angelo, insomma, potrebbe non avere una tromba.
Potrebbe avere un listino prezzi.
Questo calo di prezzo potrebbe essere sia la causa dello scoppio della bolla, sia una conseguenza.
Potrebbe esserne la causa se il calo dei prezzi fosse dovuto all'entrata in produzione di nuove fabbriche, nuove linee e maggiore capacità produttiva. In quel caso diventerebbe progressivamente più economico costruirsi l'AI in casa, facendo girare modelli pubblici o open-weight su hardware proprio.
E allora le grandi aziende di AI rischierebbero di rimanere con il cerino in mano: continuerebbero a spendere quantità immense di denaro per progettare, addestrare e distribuire modelli sempre nuovi, mentre una parte crescente degli utenti potrebbe smettere di pagarli secondo il modello ad abbonamento o a consumo.
In altre parole, il problema non sarebbe che il modello non funziona. Il problema sarebbe che funziona abbastanza bene anche senza continuare a pagare chi lo ha prodotto.
Ma il calo dei prezzi potrebbe anche essere una conseguenza.
Se a un certo punto il cash flow non fosse più sufficiente a sostenere la corsa agli investimenti, le aziende comincerebbero inevitabilmente a ridurre gli ordini e le prenotazioni di hardware futuro. Per quanto una dirigenza possa essere ottimista, prima o poi arrivano i financial controller, i limiti di spesa, il costo del capitale e qualcuno che dice che oltre una certa cifra non si va.
A quel punto la pressione sulla supply chain diminuirebbe, le code si accorcerebbero e i prezzi di memoria, GPU, acceleratori e storage potrebbero cominciare a scendere.
Quindi il rapporto causale può andare in entrambe le direzioni.
Ma ai fini del nostro esercizio importa relativamente poco.
Che sia la causa o che sia la conseguenza, rimane un predittore.
Se osservate nel tempo i prezzi di memorie, GPU e storage, e vedete un calo sensibile, generalizzato e persistente, accompagnato magari da disponibilità crescente e tempi di consegna più brevi, allora significa che qualcosa di importante sta cambiando nell'economia della corsa all'AI. A quel punto, almeno secondo questa ipotesi, sapete che la festa sta finendo. Quindi, parlando di predittori, direi questo:
Tenete sott'occhio i prezzi dell'hardware
Proprio di quell'hardware i cui prezzi sono esplosi insieme alla corsa all'AI. Se memorie, GPU, acceleratori e storage cominciano a calare sensibilmente di prezzo, e non per una promozione momentanea o per il normale ricambio generazionale, ma in maniera ampia e persistente, allora il segnale diventa interessante. Perché può voler dire che la domanda futura si sta sgonfiando, che le prenotazioni stanno diminuendo, che la capacità produttiva sta raggiungendo la domanda oppure che il modello economico sta iniziando a perdere pressione.
La festa è finita.
E da quel momento...
FUGGITE, SCIOCCHI!!!!
--
Written using Blogfrei: https://git.keinpfusch.net/loweel/blogfrei
Fedi: @uriel@bbs.keinpfusch.net
XMPP: uriel@keinpfusch.net
vecchio blog: https://blog.keinpfusch.net
email: blog@keinpfusch.net