一個非常有見地的訪談，對於一位前 $ORCL 員工在部署 $NVDA GPU 及其背後經濟學的看法： 1. 根據他的經驗，$NVDA 提供的基準測試對自己非常慷慨。他提到他甚至有過 40% 的偏差經驗。一般來說，目前大多數計算 GPU 的交易都是長期的，且有很大的折扣。 2. 他擁有數十萬個 GPU 和集群，任何時候他的艦隊中有 15% 是故障的。當向 $NVDA 要求備用零件時，他沒有得到，因為他無法說任何話，因為他們會切斷他的配額。他提到 $NVDA 正在讓許多客戶被迫排隊等待未來的產能。艦隊中 15% 故障的原因是 6% 由於 GPU，5% 由於網絡波動，其他則是伺服器中的隨機小問題。 3. 在這些 GPU 的使用壽命方面，他提到人們仍在使用 $NVDA 的 Voltas 和 Pascals。但更大的問題是，我是否可以將這些空間和電力用於更有趣的事情，或者這個數據中心是否太舊而被忽視？ 4. 他提到第一次 $ORCL 和 $AMD 的公告中，$AMD 的 MI300X，$ORCL 被報導為 $AMD 承諾租用一些 GPU 以支持他們的工程工作。 5. 與行業觀點相反，他提到目前在大玩家之外，推理需求並不多，因為中型公司及以下的推理轉型進展緩慢。他舉了最近 Lambda 將其推理即服務轉向訓練能力的例子，因為缺乏推理需求。 發現於 @AlphaSenseInc