Así que déjame aclarar esto. Inference tiene: 1. Una red descentralizada que proporciona inferencia LLM al precio de la electricidad 2. Las habilidades de entrenamiento y servicio de modelos para hacer que los modelos sean súper baratos, especialmente para tareas especializadas 3. Acuerdos con centros de datos para alquilar capacidad infrautilizada a tarifas masivamente descontadas 4. Una API de inferencia por lotes diseñada para escalar a miles de millones de solicitudes ¿Y @paulg aún no nos sigue? Esto es una tontería.
3,18K