Bagan yang sangat menarik dari @DKThomp
Pasar saham dan lowongan pekerjaan sangat berkorelasi selama beberapa dekade.
Tidak lagi. Pasar saham naik 75% dan lowongan pekerjaan turun 33% sejak 2022.
Akan berpikir setidaknya sebagian karena AI.
Samar-samar luar biasa bahwa @ft menulis artikel tentang bagaimana harga sewa GPU saat ini menunjukkan bahwa AI adalah gelembung, tetapi membuat kesalahan matematika sehingga semua perhitungan mereka mati dengan faktor 8 dengan menggabungkan per server dan per ekonomi GPU.
Melakukan perhitungan dengan benar sebenarnya cukup bullish untuk "subscaler" dan super bullish untuk hyperscalers.
Artikel ini ironisnya merupakan indikator positif lain untuk nilai sisa GPU.
Kredit untuk @ShanuMathew93 @zephyr_z9 @The_Colonel__ karena menunjukkan kesalahan.
Seperti yang ditunjukkan @zephyr_z9 dan @The_Colonel__ ketika saya mengutip lingkaran ini, reporter mencampuradukkan biaya impas per sistem vs. tarif per GPU. Itu membandingkan apel dengan jeruk.
Menggunakan angka mereka sendiri:
Kluster DGX A100 = 199 ribu USD (~25 ribu USD per GPU * 8 GPU)
Jam lebih dari 5 tahun = 5 * 365 * 24 = 43.800
Titik impas = $199K/43,800 jam = ~$4.54 per titik impas jam SYSTEM; dibagi dengan 8 GPU untuk mendapatkan kecepatan per GPU
$4.54/8 = ~$0.57 Tingkat impas GPU-jam ~$0.57
Sekarang, ketika melihat kembali angka-angka yang memplot kisaran tarif per jam per GPU, itu membuat Anda sampai pada kesimpulan yang sama sekali berbeda.
Penggunaan daya sistem DGX A100 maks adalah 6.5kw. Jadi dengan asumsi pemanfaatan 100%, tambahkan biaya daya menggunakan asumsi = 6.5kw * 10 sen per kW * 43.800 jam = tambahan ~$29K dalam hal opex di atas belanja modal. Itu membawa impas Anda mendekati tarif GPU-jam $0,65 dan ~$5,19 sistem-jam (8 GPU).