Jag tror inte att folk fullt ut förstår den mängd efterfrågan som inferens kommer att skapa för AI-infrastruktur. Träning av biljontalsparametermodeller kommer att blekna i jämförelse med volymer av biljoner samtidiga tokens som presterar 24/7/365 över varje företag, organisation och konsumentaktivitet. Jag är så hausse på den här utbyggnaden. Och naturligtvis går $NVDA bra, men namn inom chips, servrar, energi, nätverk och agentplattformar kommer alla att stiga med det. 💪🏻 Markera det 😎🚀

Höjdpunkter från AMZN-samtalet: -Kapacitetsbrist för AI-infrastruktur: AWS har "mer efterfrågan än vi har kapacitet" med ström som den enskilt största begränsningen; förväntar sig att utbudsproblemen kommer att kvarstå under "flera kvartal" trots en kvartalsvis kapitalkostnad på 31,4 miljarder dollar i "chips, datacenter och kraft" -Flerårig infrastrukturutbyggnad: Erkänner att det kommer att ta "flera kvartal" att bygga upp tillräcklig AI-kapacitet, men förväntar sig förbättringar varje kvartal. Parlamentet anser att AI är "den största tekniska omvandlingen under vår livstid" som kräver ihållande stora investeringar -Inference Economics Driving Strategy: Förväntar sig att 80-90 % av AI-kostnaderna kommer att flyttas från träning till inferens i stor skala; positionerar anpassat kisel som en kritisk fördel eftersom kunderna kommer att förankra för bättre prisprestanda som de gjorde med CPU:er -Massiv intäktsmöjlighet begränsad: AWS med en årlig körtakt på 123 miljarder dollar men "skulle kunna göra mer intäkter och hjälpa kunderna mer" om kapaciteten fanns; generativ AI är redan en "tresiffrig procentuell verksamhet på flera miljarder dollar från år till år"