Byggde en Rust-låda som implementerar "Hedged Requests" för Solana RPC:er
Idén: Vänta inte på en leverantör - tävla mot flera parallellt och ge det snabbaste svaret
Genomförande:
- FuturesUnordered + tokio::välj! för effektiv racing
- Konfigurerbara säkringsstrategier
- Spårning av statistik per leverantör
- Minimala omkostnader när den snabbaste leverantören svarar
Byggde också en TUI-dashboard för att visualisera säkringsmönstret i realtid
Utforskade detta mönster efter att ha läst Googles dokument "Tail at Scale" - fascinerande hur mycket latens du kan eliminera genom att helt enkelt tävla om förfrågningar
Efter att ha sett många projekt som vidarebefordrar LLVM IR-mönstret för att generera sammansättningsliknande kod som kan länkas till .so med sbpf-linker, kom jag på mig själv med att undra om det är möjligt att sbpf-linker införliva de llvm-steg som krävs för att bearbeta en IR-kod till .bc och sedan till .so ...
Idk om detta är inom ramen för verktyget men skulle vara riktigt sjukt ... Föreställ dig ett enda kommando och boom din python ir-kod kompilerad till .so
CC @deanmlittle @clairefxyz @dhkleung @alessandrod