.@romeovdean e io abbiamo scritto un post sul blog per insegnarci di più sull'espansione dell'AI. Siamo rimasti sorpresi da alcune delle cose che abbiamo appreso: 1. C'è un enorme sovraccarico di CapEx per i fab - con un solo anno di guadagni nel 2025, Nvidia potrebbe coprire gli ultimi 3 anni dell'INTERO CapEx di TSMC. Nel 2025, NVIDIA trasformerà circa 6 miliardi di valore di CapEx deprezzato di TSMC in 200 miliardi di fatturato. Più a monte nella catena di approvvigionamento, un solo anno di fatturato di NVIDIA ha quasi eguagliato i 25 anni di totale R&D e capex delle cinque maggiori aziende di attrezzature per semiconduttori messe insieme, tra cui ASML, Applied Materials e Tokyo Electron. Se la domanda di AI continua, per non parlare di una crescita, ci sono più che sufficienti fondi per costruire più fab. 2. Abbiamo previsto due scenari diversi fino al 2040: crescita esplosiva e inverno dell'AI. Nello scenario di crescita esplosiva (che porta a 2 trilioni di dollari di CapEx annuale per l'AI entro il 2030), la visione di @sama di 1 GW a settimana per l'azienda leader si avvera nel 2036. Ma in quel mondo, il consumo globale di energia dell'AI sarebbe il doppio della generazione elettrica attuale degli Stati Uniti. 3. Negli ultimi due decenni, la costruzione di datacenter ha sostanzialmente cooptato l'infrastruttura energetica rimasta dalla deindustrializzazione degli Stati Uniti. Affinché il CapEx dell'AI continui a crescere sulla sua attuale traiettoria, tutti i soggetti a monte nella catena di approvvigionamento (da chi produce fili di rame a turbine, trasformatori e quadri elettrici) dovranno espandere la capacità produttiva. Il problema chiave è che queste aziende hanno cicli di ammortamento di 10-30 anni per le loro fabbriche (rispetto ai 3 anni per i chip). Dato il loro solito margine basso, hanno bisogno di profitti costanti per decenni e sono state bruciate da bolle in passato. Se c'è un sovraccarico finanziario non solo per i fab, ma anche per altri componenti del datacenter, potrebbero gli hyperscalers semplicemente pagare margini più alti per accelerare l'espansione della capacità? Soprattutto considerando che i chip rappresentano oltre il 60% del costo di un datacenter. Abbiamo fatto qualche calcolo veloce sui produttori di turbine a gas che sembra indicare che gli hyperscalers potrebbero pagare per avere la loro capacità espansa per una quota relativamente piccola del costo totale del datacenter. Come dice @tylercowen, non sottovalutare l'elasticità dell'offerta. 4. Pensiamo che la Cina sia probabile che sia in vantaggio nell'AI nel lungo termine (ovvero senza una singolarità software nel 2028). Ogni 3 anni, i chip si deprezzano e la corsa ricomincia. Una volta che la Cina raggiunge i nodi di processo all'avanguardia, l'AI diventa semplicemente una massiccia corsa industriale lungo l'intera catena di approvvigionamento. E questo sembra alimentare i vantaggi differenziali della Cina. 5. I tempi di consegna sono la considerazione predominante per quale fonte di energia utilizzare per alimentare il datacenter, sia che tu colleghi il datacenter alla rete o meno, e come progetti il datacenter. Questo perché ogni mese in cui il guscio non è impostato è un mese in cui i chip (che rappresentano la maggior parte del tuo costo) non vengono utilizzati. Quindi puoi vedere perché il gas naturale, ad esempio, è molto preferito rispetto agli attuali reattori nucleari. Il nucleare ha costi operativi estremamente bassi, ma ha tempi di consegna estremamente lunghi e alti CapEx. Il gas naturale potrebbe non essere rinnovabile, ma puoi semplicemente installare un paio di dozzine di turbine a gas accanto al datacenter e far girare i tuoi chip il prima possibile. Il solare e l'eolico hanno anche tempi di costruzione brevi, e puoi livellare la loro energia con le batterie. Ma dovresti assumere migliaia di persone per allestire un parco solare delle dimensioni di Manhattan per alimentare in modo affidabile un singolo datacenter da 1 GW. Molto di più nel post completo del blog. Link qui sotto.

.@romeovdean e io abbiamo scritto un post sul blog per insegnarci di più sull'espansione dell'AI. Siamo rimasti sorpresi da alcune delle cose che abbiamo appreso: 1. C'è un enorme sovraccarico di CapEx per i fab - con un solo anno di guadagni nel 2025, Nvidia potrebbe coprire gli ultimi 3 anni dell'INTERO CapEx di TSMC. Nel 2025, NVIDIA trasformerà circa 6 miliardi di valore di CapEx deprezzato di TSMC in 200 miliardi di fatturato. Più a monte nella catena di approvvigionamento, un solo anno di fatturato di NVIDIA ha quasi eguagliato i 25 anni di totale R&D e capex delle cinque maggiori aziende di attrezzature per semiconduttori messe insieme, tra cui ASML, Applied Materials e Tokyo Electron. Se la domanda di AI continua, per non parlare di una crescita, ci sono più che sufficienti fondi per costruire più fab. 2. Abbiamo previsto due scenari diversi fino al 2040: crescita esplosiva e inverno dell'AI. Nello scenario di crescita esplosiva (che porta a 2 trilioni di dollari di CapEx annuale per l'AI entro il 2030), la visione di @sama di 1 GW a settimana per l'azienda leader si avvera nel 2036. Ma in quel mondo, il consumo globale di energia dell'AI sarebbe il doppio della generazione elettrica attuale degli Stati Uniti. 3. Negli ultimi due decenni, la costruzione di datacenter ha sostanzialmente cooptato l'infrastruttura energetica rimasta dalla deindustrializzazione degli Stati Uniti. Affinché il CapEx dell'AI continui a crescere sulla sua attuale traiettoria, tutti i soggetti a monte nella catena di approvvigionamento (da chi produce fili di rame a turbine, trasformatori e quadri elettrici) dovranno espandere la capacità produttiva. Il problema chiave è che queste aziende hanno cicli di ammortamento di 10-30 anni per le loro fabbriche (rispetto ai 3 anni per i chip). Dato il loro solito margine basso, hanno bisogno di profitti costanti per decenni e sono state bruciate da bolle in passato. Se c'è un sovraccarico finanziario non solo per i fab, ma anche per altri componenti del datacenter, potrebbero gli hyperscalers semplicemente pagare margini più alti per accelerare l'espansione della capacità? Soprattutto considerando che i chip rappresentano oltre il 60% del costo di un datacenter. Abbiamo fatto qualche calcolo veloce sui produttori di turbine a gas che sembra indicare che gli hyperscalers potrebbero pagare per avere la loro capacità espansa per una quota relativamente piccola del costo totale del datacenter. Come dice @tylercowen, non sottovalutare l'elasticità dell'offerta. 4. Pensiamo che la Cina sia probabile che sia in vantaggio nell'AI nel lungo termine (ovvero senza una singolarità software nel 2028). Ogni 3 anni, i chip si deprezzano e la corsa ricomincia. Una volta che la Cina raggiunge i nodi di processo all'avanguardia, l'AI diventa semplicemente una massiccia corsa industriale lungo l'intera catena di approvvigionamento. E questo sembra alimentare i vantaggi differenziali della Cina. 5. I tempi di consegna sono la considerazione predominante per quale fonte di energia utilizzare per alimentare il datacenter, sia che tu colleghi il datacenter alla rete o meno, e come progetti il datacenter. Questo perché ogni mese in cui il guscio non è impostato è un mese in cui i chip (che rappresentano la maggior parte del tuo costo) non vengono utilizzati. Quindi puoi vedere perché il gas naturale, ad esempio, è molto preferito rispetto agli attuali reattori nucleari. Il nucleare ha costi operativi estremamente bassi, ma ha tempi di consegna estremamente lunghi e alti CapEx. Il gas naturale potrebbe non essere rinnovabile, ma puoi semplicemente installare un paio di dozzine di turbine a gas accanto al datacenter e far girare i tuoi chip il prima possibile. Il solare e l'eolico hanno anche tempi di costruzione brevi, e puoi livellare la loro energia con le batterie. Ma dovresti assumere migliaia di persone per allestire un parco solare delle dimensioni di Manhattan per alimentare in modo affidabile un singolo datacenter da 1 GW. Molto di più nel post completo del blog. Link qui sotto.