Una relazione paradossale nella tecnologia, legata al paradosso di Jevons ma leggermente distorta: I chip AI sono disponibili oggi Ma potresti distribuire in modo più efficiente chip più efficienti tra 3 anni Qual è la fretta? Una tecnologia in mezzo a un rapido calo dei costi biforca quasi necessariamente il mercato tra coloro che credono che avere accesso a tecnologia inferiore oggi li metterà in una posizione molto migliore in futuro e coloro che pensano sia meglio operare un nodo o due indietro. Il costo per generare token sta crollando. Eppure i fornitori di modelli AI stanno pagando a caro prezzo--così come i loro utenti--per generare token oggi che appariranno terribilmente inefficienti domani. O gli utenti aggressivi sono fuorviati, o il costo temporale di non generare token deve superare anche la ripida curva di prestazioni che la generazione di token sta seguendo. Su base hardware--lasciando da parte i miglioramenti architettonici--il costo per generare token si sta praticamente dimezzando annualmente. Questo deve significare che il ritorno percepito sulla generazione di token è almeno del 100% annualizzato. Un gigawatt di calcolo oggi è tanto prezioso quanto 2 GW l'anno prossimo. Questo porta, quasi inevitabilmente, al calcolo spaziale. Sensibile a vari input, sembra che il calcolo AI basato nello spazio diventi conveniente rispetto al calcolo AI terrestre su base per-token a circa 400 dollari per kg nei costi di lancio. Anche se non ci siamo ancora, Starship a volumi ragionevoli--quello che ci aspettavamo che SpaceX consegnasse entro il 2030 prima che sorgesse l'opportunità del calcolo spaziale--dovrebbe superare quella soglia di costo. Più importante del costo, tuttavia, è il tempo. Le aziende AI sono affamate di flops ora. A livello industriale ci aspettiamo che i datacenter terrestri installino 90GW nel 2030, avendo cumulativamente costruito 250GW tra ora e allora. Questo è possibile ma aggressivo data la difficoltà di costruire infrastrutture reali in luoghi reali popolati da persone reali (che potrebbero gettarsi davanti a un bulldozer perché hanno letto quel libro che ha esagerato in modo iperbolico l'uso dell'acqua nei datacenter di 1000 volte.). ...