Criei um crate Rust que implementa "Hedged Requests" para RPCs Solana
A ideia: Não esperar por um único fornecedor - correr múltiplos em paralelo e retornar a resposta mais rápida
Implementação:
- FuturesUnordered + tokio::select! para uma corrida eficiente
- Estratégias de hedging configuráveis
- Rastreamento de estatísticas por fornecedor
- Sobrecarga mínima quando o fornecedor mais rápido responde
Também construí um painel TUI para visualizar o padrão de hedging em tempo real
Explorei este padrão após ler o artigo "Tail at Scale" do Google - fascinante como se pode eliminar latência simplesmente correndo solicitações
Depois de ver muitos projetos que se baseiam no padrão LLVM IR de gerar código semelhante a assembly que pode ser ligado a .so com sbpf-linker, peguei-me a perguntar se é possível que o sbpf-linker incorpore os passos do llvm necessários para processar um código IR para .bc e depois para .so ...
Não sei se isso está dentro do escopo da ferramenta, mas seria realmente incrível... Imagine um único comando e boom, seu código ir em python compilado em .so
cc @deanmlittle @clairefxyz @dhkleung @alessandrod