Nie sądzę, aby ludzie w pełni doceniali ilość popytu, jaką generować będzie inferencja dla infrastruktury AI. Szkolenie modeli o bilionie parametrów będzie blaknąć w porównaniu do wolumenów bilionów równoczesnych tokenów działających 24/7/365 w każdej firmie, organizacji i działalności konsumenckiej. Jestem bardzo optymistyczny co do tej budowy. Oczywiście $NVDA radzi sobie dobrze, ale firmy zajmujące się chipami, serwerami, energią, sieciami i platformami agentowymi również zyskają na tym. 💪🏻 Zaznacz to 😎🚀

Najważniejsze punkty z rozmowy AMZN: -Niedobór pojemności infrastruktury AI: AWS ma "więcej popytu niż mamy pojemności", a moc jest największym ograniczeniem; oczekuje, że problemy z dostawami będą się utrzymywać przez "kilka kwartałów", mimo wydatków kapitałowych w wysokości 31,4 miliarda dolarów kwartalnie na "układy scalone, centra danych i energię" -Wielokrotna budowa infrastruktury: Przyznaje, że zbudowanie wystarczającej pojemności AI zajmie "kilka kwartałów", ale oczekuje poprawy z każdym kwartałem; postrzega AI jako "największą transformację technologiczną w naszym życiu", wymagającą ciągłych dużych inwestycji -Ekonomika wnioskowania napędza strategię: Oczekuje, że 80-90% kosztów AI przeniesie się z treningu na wnioskowanie na dużą skalę; pozycjonuje niestandardowy krzem jako kluczową przewagę, ponieważ klienci będą dążyć do lepszej wydajności cenowej, tak jak robili to z CPU -Masywna szansa na przychody ograniczona: AWS przy 123 miliardach dolarów rocznego wskaźnika, ale "mogłoby generować więcej przychodów i lepiej pomagać klientom", gdyby istniała pojemność; generatywna AI już jest "biznesem wielomiliardowym z rocznym wzrostem o trzykrotną cyfrę"