Se hará evidente en retrospectiva...
Daniel Newman
Daniel Newman11 ago, 03:25
No creo que la gente aprecie completamente la cantidad de demanda que la inferencia creará para la infraestructura de IA. Entrenar modelos de un billón de parámetros palidecerá en comparación con volúmenes de billones de tokens concurrentes funcionando 24/7/365 en cada negocio, organización y actividad del consumidor. Estoy muy optimista sobre esta expansión. Y, por supuesto, $NVDA lo hará bien, pero los nombres en chips, servidores, energía, redes y plataformas agentivas también subirán con ello. 💪🏻 Márquelo 😎🚀
@ShanuMathew93 @danielnewmanUV ♥️👇🏽
Shanu Mathew
Shanu Mathew4 ago, 23:39
Aspectos destacados de la llamada de AMZN: -Falta de capacidad en infraestructura de IA: AWS tiene "más demanda de la que tenemos capacidad" con la energía siendo la única restricción más grande; espera que los problemas de suministro persistan durante "varios trimestres" a pesar de los $31.4 mil millones en CapEx trimestral en "chips, centros de datos y energía" -Construcción de infraestructura a varios años: Reconoce que construir suficiente capacidad de IA tomará "varios trimestres" pero espera mejoras cada trimestre; considera la IA como "la mayor transformación tecnológica de nuestra vida" que requiere una inversión sostenida y pesada -Economía de inferencia impulsando la estrategia: Espera que el 80-90% de los costos de IA se desplacen de la capacitación a la inferencia a gran escala; posiciona el silicio personalizado como una ventaja crítica ya que los clientes buscarán un mejor rendimiento de precio como lo hicieron con las CPU -Oportunidad de ingresos masiva restringida: AWS con una tasa de ejecución anualizada de $123 mil millones pero "podría estar generando más ingresos y ayudando más a los clientes" si existiera capacidad; la IA generativa ya es un "negocio de miles de millones de dólares con un porcentaje de tres dígitos año tras año"
4.81K