Subiecte populare
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Gavin Baker
Distractiv să fii pe @theallinpod
Mi-a plăcut să-i întâlnesc pe Ben și Phil.
De asemenea, câte dintre acestea mai sunt până când primesc o sticlă de tequila?
10 aug., 00:16
🚨 E238 este LIVE: două ore de vară!
@benshapiro, @GavinSBaker și @pdeutch completează @chamath și @DavidSacks
-- GPT-5 de la OpenAI: De ce cred oamenii că a eșuat?
-- Piața nelimitată a AI
-- contrabandă cu GPU
-- actualizarea tarifelor
-- Marele avantaj al Chinei (și cum să-l contracarezi)
- Ascensiunea socialismului în SUA
-- criza locuințelor
- Răscumpărările de 700 de miliarde de dolari ale Apple și strategia AI eșuată
++ mult mai mult
(0:00) Introduceri pentru cei mai buni! Gavin Baker, Ben Shapiro și Phil Deutch se alătură spectacolului
(7:32) GPT-5 dezamăgește, saturația de referință, excelența produsului OpenAI
(18:14) Implicațiile AI, ROIC și energetice
(27:27) Marele avantaj al Chinei și cum îl pot contracara SUA
(43:46) Partidele politice aleg câștigătorii, inversarea subvențiilor la energie, cum a fost creată ramura birocratică și cum să o remediem
(52:38) Socialismul, impactul obb asupra energiei, socialismul în America se bazează pe Mamdani în New York?
(1:10:00) Actualizare tarife: Venituri de 125 miliarde de dolari + până acum, India și Elveția au lovit puternic, abordarea ad-hoc a lui Trump
(1:27:51) Cipurile NVIDIA sunt introduse ilegal în China
(1:31:13) Răscumpărările de 700 de miliarde de dolari ale Apple din 2015 și strategia AI eșuată
(1:40:09) Recomandări de lectură de vară
77,44K
Având în vedere importanța masivă - și crescândă - a calculului în timpul testelor și a RL post-antrenament arătată de dominația absolută a lui Grok-4, a fi producătorul de jetoane cu costuri reduse este mai important ca niciodată. Ca o paranteză, aceasta este prima dată în cariera mea ca investitor în tehnologie când a contat să fiu producătorul low-cost al orice.
Astăzi, cei mai ieftini producători de token-uri sunt Google (TPU) și xAI (cel mai mare cluster coerent, cel mai mic capex $ per GPU implementat, aproape sigur cel mai mare MFU și au luat câteva decizii arhitecturale cu adevărat inteligente). Sunt evident părtinitor când vine vorba de xAI.
Dintr-o perspectivă exclusiv tehnică, a avea cea mai bună rețea de scalare și cea mai eficientă descărcare a cache-ului KV sunt cele mai importante atât pentru cost, cât și pentru latență pentru modelele și ferestrele de context din ce în ce mai mari. Acestea sunt cele mai importante axe ale concurenței în infrastructura AI de astăzi - nu calculul. Rețineți că lățimea de bandă a memoriei pe pachet este cea mai importantă atunci când puteți potrivi modelul pe un singur cip (@cerebras), dar pentru orice model foarte mare care necesită mai multe pachete, scalarea și descărcarea cache-ului kv sunt cele mai importante. După cum toți cei care lucrează la ASIC-uri încep încet să înțeleagă.
Acesta este motivul pentru care Dynamo și open-source-ul NVLink au fost atât importante, cât și inteligente. Acesta din urmă ar putea duce din ce în ce mai mult la migrarea acțiunilor ASIC către partenerii NVLink. Ca să nu mai vorbim de beneficiile naturale de negociere ale unui al doilea furnizor. Probabil să văd mai multe dintre acestea IMHO:
97,64K
Limită superioară
Clasament
Favorite