Een paradoxale relatie in technologie, gerelateerd aan het paradox van Jevons maar iets scheef: AI-chips zijn vandaag de dag beschikbaar Maar je zou efficiënter meer efficiënte chips kunnen inzetten over 3 jaar Wat is de haast? Een technologie die zich in een snelle kostenafname bevindt, splitst de markt bijna noodzakelijkerwijs tussen degenen die geloven dat toegang tot inferieure technologie vandaag hen een veel betere positie in de toekomst zal geven en degenen die denken dat het het beste is om een node of twee achter te blijven. De kosten om tokens te genereren, storten in. En toch betalen AI-modelleveranciers duur - net als hun gebruikers - om vandaag tokens te genereren die er morgen hopeloos inefficiënt uit zullen zien. Of de agressieve gebruikers zijn misleid, of de tijdskosten van het niet genereren van tokens moeten zelfs de steile prestatiecurve die de token generatie volgt, overschrijden. Op basis van hardware - los van architectonische verbeteringen - halveert de kostprijs om tokens te genereren jaarlijks ruwweg. Dit moet betekenen dat het waargenomen rendement op token generatie minstens 100% jaarlijks is. Een gigawatt aan rekencapaciteit vandaag is even waardevol als 2 GW volgend jaar. Dit leidt, bijna onvermijdelijk, tot ruimtecomputing. Gevoelig voor verschillende invoer, lijkt het erop dat ruimte-gebaseerde AI-rekencapaciteit kostenefficiënt wordt ten opzichte van terrestrische AI-rekencapaciteit op basis van kosten per token bij ruwweg $400 per kg aan lanceerkosten. Hoewel we daar nog niet zijn, zou Starship bij redelijke volumes - wat we verwachtten dat SpaceX zou leveren tegen 2030 voordat de ruimtecomputingkans zich voordeed - die kostengrens moeten overschrijden. Belangrijker dan kosten is echter tijd. AI-bedrijven hebben nu behoefte aan flops. In de industrie verwachten we dat terrestrische datacenters in 2030 90GW zullen installeren, met een cumulatieve opbouw van 250GW tussen nu en dan. Dit is mogelijk maar agressief gezien de moeilijkheid om echte infrastructuur te bouwen op echte plaatsen bevolkt door echte mensen (die zich misschien voor een bulldozer werpen omdat ze dat boek hebben gelezen dat de waterconsumptie van datacenters duizendvoudig overdreef). ...