O segredo por trás do desempenho do Parallax está nas principais otimizações de nível de servidor: – Lotes contínuos: agrupa dinamicamente as solicitações para maximizar a utilização e a taxa de transferência do hardware. – Kv-Cache paginado: o design baseado em blocos evita a fragmentação da memória, lida com milhares de solicitações simultâneas – Trabalhadores heterogêneos: desempenho ideal em GPUs e Macs. Rápido. Confiável. Totalmente distribuído.