事后看来,这将变得显而易见…
Daniel Newman
Daniel Newman8月11日 03:25
我认为人们并没有充分意识到推理将为人工智能基础设施创造的需求量。 训练万亿参数模型与在每个企业、组织和消费者活动中全天候、全年无休地处理万亿个并发令牌的数量相比,显得微不足道。 我对这个建设非常看好。当然,$NVDA 表现良好,但芯片、服务器、能源、网络和智能平台等领域的公司也会随之上涨。💪🏻 记住这一点 😎🚀
@ShanuMathew93 @danielnewmanUV ♥️👇🏽
Shanu Mathew
Shanu Mathew8月4日 23:39
AMZN电话会议要点: - AI基础设施容量短缺:AWS的需求"超过我们的容量",电力是最大的限制因素;预计供应问题将在"几个季度"内持续,尽管每季度在"芯片、数据中心和电力"上的资本支出达到314亿美元。 - 多年基础设施建设:承认建立足够的AI容量将需要"几个季度",但预计每个季度都会有所改善;将AI视为"我们这一生中最大的技术变革",需要持续的重投资。 - 推理经济学驱动战略:预计80-90%的AI成本将从训练转向大规模推理;将定制硅视为关键优势,因为客户将像对待CPU一样寻求更好的性价比。 - 巨大的收入机会受限:AWS的年化运行率为1230亿美元,但如果有足够的容量,"可以创造更多收入并更好地帮助客户";生成式AI已经成为一个"年同比三位数百分比的数十亿美元业务"。
4.81K