Действительно проницательное интервью с бывшим сотрудником $ORCL о развертывании GPU $NVDA и экономике, стоящей за этим: 1. По его опыту, бенчмарки, которые предоставляет $NVDA, очень щедры к самим себе. Он упоминает, что у него даже был опыт, когда они ошибались на 40%. В целом, большинство сделок по вычислительным GPU в настоящее время являются долгосрочными, сильно уцененными сделками. 2. У него было сотни тысяч GPU и кластеров, и 15% его флота в любое время было неработоспособно. Когда он спрашивал $NVDA о запасных частях, он их не получал, и он не мог ничего сказать, потому что они бы сократили его выделение. Он упоминает, что $NVDA держит многих клиентов в заложниках, заставляя их стоять в очереди за будущими мощностями. Причина, по которой 15% флота было неработоспособно, заключалась в 6% из-за GPU, 5% из-за проблем с сетью и других случайных мелочей в сервере. 3. Что касается полезности срока службы этих GPU, он упоминает, что люди все еще используют $NVDA Voltas и Pascals. Но более серьезная проблема заключается в том, могу ли я использовать это пространство и мощность для чего-то более интересного, или этот дата-центр слишком старый, и вы его игнорируете? 4. Он упоминает, что первое объявление $ORCL о $AMD для MI300X было освещено, когда $AMD обязался арендовать некоторые из этих GPU обратно для своих инженерных усилий. 5. Вопреки мнению отрасли, он упоминает, что в настоящее время, за пределами крупных игроков, нет большого спроса на выводы, так как переход к выводу был медленным в средних и малых компаниях. Он приводит недавний пример Lambda, которая перенесла свой сервис вывода как услугу на мощность обучения из-за отсутствия спроса на вывод. найдено на @AlphaSenseInc