事後會變得明顯…
Daniel Newman
Daniel Newman8月11日 03:25
我不認為人們完全理解推理將為 AI 基礎設施創造的需求量。 訓練萬億參數的模型與每個業務、組織和消費者活動中每秒鐘進行的萬億個並發標記的數量相比,顯得微不足道。 我對這一建設非常看好。當然,$NVDA 表現良好,但在晶片、伺服器、能源、網絡和代理平台等領域的公司也會隨之上升。💪🏻 記下這一點 😎🚀
@ShanuMathew93 @danielnewmanUV ♥️👇🏽
Shanu Mathew
Shanu Mathew8月4日 23:39
AMZN 會議重點: - AI 基礎設施容量短缺:AWS 的需求超過我們的容量,電力是最大的限制;預計供應問題將持續 "幾個季度",儘管每季度在 "晶片、數據中心和電力" 上的資本支出達到 314 億美元。 - 多年基礎設施建設:承認建立足夠的 AI 容量將需要 "幾個季度",但預計每個季度都會有所改善;將 AI 視為 "我們一生中最大的技術轉型",需要持續的重投資。 - 推理經濟學驅動策略:預計 80-90% 的 AI 成本將從訓練轉移到大規模推理;將定制硅視為關鍵優勢,因為客戶將像對待 CPU 一樣尋求更好的性價比。 - 巨大的收入機會受限:AWS 的年化運行率為 1230 億美元,但如果有足夠的容量,"可以創造更多收入並更好地幫助客戶";生成式 AI 已經是一個 "每年增長三位數的多億美元業務"。
4.81K