Internet membantu ekor panjang. AI akan menjadi sebaliknya selama 3-5 tahun ke depan.

Daftar waktu perusahaan VC terbaik menarik. Dana Pendiri #37 Tolok ukur #56 Pohon Ek Hijau #114 Babak Pertama #174 Sutter Hill #176 dengan 60% plus CAGR 20 tahun terakhir. Mereka juga tampaknya tidak menyadari keberadaan Sequoia. Periksa.

Semakin yakin bahwa prefill dan decode akan muncul sebagai pasar yang berbeda dalam inferensi. Sistem yang berbeda akan digunakan untuk masing-masing; jelas mereka harus bekerja sama. Mungkin 18 bulan lagi.

Kapitalisasi pasar dibagi dengan alokasi CoWoS menarik. Umumnya membutuhkan tiga generasi bagi ASIC untuk mendapatkan traksi nyata.

Penting untuk diingat bahwa Grok-4, GPT5, Opus 4.1 semuanya dilatih pada GPU Hopper. Senang melihat model pertama dilatih di Blackwell selama enam bulan ke depan.

Menyenangkan berada di @theallinpod Senang bertemu Ben dan Phil. Juga, berapa banyak lagi sampai saya mendapatkan sebotol tequila?

Dewan adalah masalah manajemen di Intel, bukan CEO.

Mengingat pentingnya komputasi waktu pengujian dan RL pasca-pelatihan yang sangat besar - dan meningkat yang ditunjukkan oleh dominasi absolut Grok-4, menjadi produsen token berbiaya rendah lebih penting dari sebelumnya. Selain itu, ini adalah pertama kalinya dalam karir saya sebagai investor teknologi bahwa menjadi produsen berbiaya rendah dari apa pun itu penting. Saat ini, produsen token berbiaya terendah adalah Google (TPU) dan xAI (cluster koheren terbesar, belanja modal terendah $ per GPU yang digunakan, MFU tertinggi hampir pasti dan telah membuat beberapa keputusan arsitektur yang sangat cerdas). Saya jelas bias dalam hal xAI. Dari perspektif teknis semata, memiliki jaringan peningkatan skala terbaik dan offload cache KV yang paling efisien adalah yang paling penting untuk biaya dan latensi untuk model dan jendela konteks yang semakin besar. Ini adalah sumbu persaingan terpenting dalam infrastruktur AI saat ini - bukan komputasi. Perhatikan bahwa bandwidth memori pada paket adalah yang paling penting ketika Anda dapat menyesuaikan model pada satu chip (@cerebras) tetapi untuk model yang benar-benar besar yang membutuhkan banyak paket, peningkatan skala dan pembongkaran cache kv adalah yang paling penting. Karena semua orang yang bekerja di ASIC perlahan-lahan mulai memahami. Inilah sebabnya mengapa Dynamo dan NVLink sumber terbuka penting dan cerdas. Yang terakhir dapat semakin menyebabkan saham ASIC bermigrasi ke mitra NVLink. Belum lagi manfaat negosiasi alami dari memiliki pemasok kedua. Kemungkinan akan melihat lebih banyak dari IMHO:

Hipotesis kepercayaan sedang: dalam 3 tahun Trainium, TPU, dan Dojo akan menjadi satu-satunya ASIC yang tersisa.

Per @zerohedge, data terbaru menunjukkan pengurangan bulanan terbesar dalam pembayaran Jaminan Sosial dalam sejarah. Apakah ini benar? Ada beberapa musiman dalam data - sebagian besar Desember - tetapi tidak cukup untuk menjelaskan penurunan ini. Ada bagian bergerak lain dengan waktu pembayaran, tetapi pada pandangan pertama tidak cukup untuk menjelaskan penurunan sebesar ini. *Jika* penurunan ini nyata dan berkelanjutan, maka itu sangat penting dan menunjukkan bahwa DOGE sebenarnya cukup berhasil mengurangi penipuan dan pemborosan hak. Sangat baik untuk defisit, suku bunga dan 🇺🇸 Seseorang yang dekat dengan saya identitas mereka dicuri dan nomor jaminan sosial mereka telah digunakan selama 2 tahun terakhir untuk mengumpulkan berbagai tunjangan di negara bagian lain yang benar-benar ribuan mil jauhnya. Mereka telah menerima surat yang tak terhitung jumlahnya dari IRS tentang hal ini, tetapi pemerintah tidak dapat menghentikan penipuan ini. Surat pertama pada dasarnya menuduh orang yang dekat dengan saya melakukan penipuan, surat kedua mengakui bahwa orang yang dekat dengan saya telah menjadi korban pencurian identitas dan bahwa orang lain menipu pemerintah dan kemudian ada surat reguler yang pada dasarnya mengatakan bahwa penipuan tunjangan di negara bagian lain terus berlanjut. Demi kejelasan, pemerintah Federal tahu bahwa seseorang secara ilegal mengumpulkan tunjangan di negara bagian lain menggunakan nomor jaminan sosial orang ini dan tidak dapat menghentikannya. Sementara saya sepenuhnya menyadari bahaya menarik kesimpulan apa pun dari satu anekdot di negara berpenduduk 400 juta, tampaknya setidaknya mungkin bagi saya bahwa: 1) Mungkin ada sejumlah penipuan hak, 2) bahwa memodernisasi semua database pemerintah (Jaminan Sosial, Medicare, Medicaid, Tunjangan Pengangguran) dan 3) kemudian memeriksanya satu sama lain dapat menghasilkan penghematan yang signifikan. Dan semua orang Amerika harus berharap hasil ini dari DOGE. Tahun 1990-an sangat bagus karena internet dan "dividen perdamaian" yang membantu Clinton menyeimbangkan anggaran (perhatikan bahwa pengeluaran pemerintah Federal sebagai % dari PDB pada akhir pemerintahannya sekitar 18% vs. akhir pemerintahan Biden sekitar 24%). Akan sangat bagus jika dekade berikutnya didorong oleh AI dan "dividen DOGE."