Animado para lançar o DailyBench! O DailyBench é um benchmark diário automatizado de 4x que avalia APIs de modelo de fronteira em um fork do HELMLite. Construí o DailyBench para ver se poderíamos detectar provedores de modelos quantizando pesos, compactando o cache de kv ou trocando modelos durante picos de carga.
25,54K