Grafico davvero interessante di @DKThomp
Il mercato azionario e le offerte di lavoro sono stati altamente correlati per decenni.
Non più. Il mercato azionario è aumentato del 75% e le offerte di lavoro sono diminuite del 33% dal 2022.
Si potrebbe pensare che ciò sia almeno parzialmente dovuto all'AI.
È vagamente incredibile che il @ft scriva un articolo su come i prezzi attuali di noleggio delle GPU suggeriscano che l'AI sia una bolla, ma commetta un errore matematico tale che tutti i loro calcoli siano errati di un fattore 8 confondendo l'economia per server e per GPU.
Fare i calcoli correttamente era in realtà ragionevolmente ottimista per i "subscalers" e super ottimista per gli hyperscalers.
L'articolo è ironicamente un altro indicatore positivo per i valori residui delle GPU.
Credito a @ShanuMathew93 @zephyr_z9 @The_Colonel__ per aver evidenziato l'errore.
Come hanno sottolineato @zephyr_z9 e @The_Colonel__ quando ho citato questo cerchio, il reporter confonde i costi di pareggio per sistema con le tariffe per GPU. È come confrontare mele con arance.
Utilizzando i loro stessi dati:
Cluster DGX A100 = $199K (~$25K per GPU * 8 GPU)
Ore in 5 anni = 5 * 365 * 24 = 43.800
Pareggio = $199K/43.800 ore = ~$4.54 per ora di pareggio per SISTEMA; dividere per 8 GPU per ottenere la tariffa per GPU
$4.54/8 = ~$0.57 tasso di pareggio per GPU-ora
Ora, guardando indietro a quei dati che tracciano le fasce di tariffa oraria per GPU, si arriva a una conclusione completamente diversa.
Il consumo massimo di energia del sistema DGX A100 è di 6,5kw. Quindi, assumendo un utilizzo del 100%, aggiungere i costi energetici utilizzando un'assunzione = 6,5kw * 10 centesimi per kW * 43.800 ore = un ulteriore ~$29K in termini di opex oltre al capex. Questo porta il tuo pareggio più vicino a $0.65 GPU-ora e ~$5.19 ora di sistema (8 GPU) rate.