Я подумав, що це дуже зворушливо. Самотність така проблема сьогодні.

Довгому хвосту допоміг інтернет. У найближчі 3-5 років ситуація зі штучним інтелектом буде протилежною.

Цікавим є список найкращих венчурних фірм Time. Фонд засновників #37 Орієнтир #56 Зелені дуби #114 Перший раунд #174 Sutter Hill #176 з CAGR 60% плюс за останні 20 років. Вони також, схоже, не знають про існування Sequoia. Виїзд.

Все більше переконуються в тому, що попереднє заповнення та декодування з'являться як окремі ринки в рамках висновування. Для кожного з них будуть використовуватися різні системи; Очевидно, що їм доведеться працювати разом. Напевно, 18 місяців.

Цікавою є ринкова капіталізація з поділом на розподіл CoWoS. Як правило, потрібно три покоління, щоб асік отримав реальну тягу.

Важливо пам'ятати, що Grok-4, GPT5, Opus 4.1 були навчені на графічних процесорах Hopper. У захваті від того, що перші моделі тренувалися на Blackwell протягом наступних шести місяців.

Весело бути на @theallinpod Мені сподобалося зустрічатися з Беном і Філом. Крім того, скільки ще їх, поки я не отримаю пляшку текіли?

Рада директорів є проблемою керівництва Intel, а не генеральний директор.

З огляду на величезну - і зростаючу - важливість обчислень під час тестування і RL після тренування, що демонструється абсолютним домінуванням Grok-4, бути недорогим виробником токенів важливо, як ніколи. До речі, це перший випадок у моїй кар'єрі як технологічного інвестора, коли бути недорогим виробником будь-чого має значення. На сьогоднішній день найнижчими витратами виробниками токенов є Google (TPUs) і xAI (найбільший когерентний кластер, найнижчий капітальний капітал $ на розгорнутий GPU, майже напевно найвищий MFU і прийняли кілька дійсно розумних архітектурних рішень). Я явно упереджений, коли справа доходить до xAI. З суто технічної точки зору, наявність найкращої масштабованої мережі та найефективнішого розвантаження кешу KV є найбільш важливими як для вартості, так і для затримки для все більш великих моделей та контекстних вікон. Це найважливіші осі конкуренції в інфраструктурі штучного інтелекту на сьогоднішній день, а не обчислень. Зауважте, що пропускна здатність вбудованої пам'яті найбільш важлива, коли ви можете помістити модель на один чіп (@cerebras), але для будь-якої дійсно великої моделі, яка вимагає кількох пакетів, масштабування та розвантаження кешу kv є найбільш важливими. Як всі, хто працює на асіках, потроху починають розуміти. Ось чому «Динамо» і NVLink з відкритим сорсингом були важливими і розумними. Останнє може все частіше призводити до міграції частки ASIC до партнерів NVLink. Не кажучи вже про природні переговорні вигоди від наявності другого постачальника. Швидше за все, побачу ще таких ІМХО:

Гіпотеза середньої впевненості: через 3 роки Trainium, TPU і Dojo будуть єдиними ASIC, що залишаться в живих.