Nemyslím si, že si lidé plně uvědomují množství poptávky, kterou inference vytvoří pro infrastrukturu AI. Trénování modelů bilionů parametrů bude blednout ve srovnání s objemy bilionů souběžných tokenů, které fungují 24/7/365 v každém podniku, organizaci a spotřebitelské činnosti. Jsem tak optimistický ohledně této stavby. A samozřejmě se daří $NVDA, ale jména v čipech, serverech, energetice, sítích a agentských platformách budou stoupat s ním. 💪🏻 Označte to 😎🚀

Hlavní body z hovoru AMZN: -Nedostatek kapacity infrastruktury AI: AWS má "větší poptávku, než máme kapacitu", přičemž největším omezením je výkon; očekává, že problémy s dodávkami budou přetrvávat "několik čtvrtletí", a to navzdory čtvrtletním investičním výdajům ve výši 31,4 miliardy USD v "čipech, datových centrech a energetice" Víceleté budování infrastruktury: Uznává, že vybudování dostatečné kapacity umělé inteligence bude trvat "několik čtvrtletí", ale očekává zlepšení každé čtvrtletí; považuje umělou inteligenci za "největší technologickou transformaci v našem životě", která vyžaduje trvalé velké investice -Inference Economics Driving Strategy: Očekává, že 80-90 % nákladů na AI se přesune z tréninku na inferenci ve velkém měřítku; staví vlastní křemík jako kritickou výhodu, protože zákazníci se ukotví pro lepší poměr cena/výkon, jako tomu bylo u procesorů Masivní výnosová příležitost omezena: AWS s roční sazbou 123 miliard dolarů, ale "mohla by dosahovat vyšších příjmů a více pomáhat zákazníkům", pokud by existovala kapacita; generativní umělá inteligence je již "trojciferným meziročním procentem multimiliardového byznysu"