Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Gradient
Tajemství výkonu Parallaxu spočívá v klíčových optimalizacích na serverové úrovni:
– Kontinuální dávkování: dynamicky seskupuje požadavky za účelem maximalizace využití hardwaru a propustnosti.
– Paged KV-Cache: blokový design zabraňuje fragmentaci paměti, zpracovává tisíce souběžných požadavků
– Heterogenní pracovníci: optimální výkon napříč GPU a Macy.
Rychlý. Spolehlivý. Plně rozložené.
20. 6. 2025
Ve srovnání s Petals (podávání ve stylu BitTorrent) Parallax běžící na Qwen2.5-72B na 2× RTX 5090s dosáhl:
– 3,1 × nižší latence mezi koncovými body, 5,3 × rychlejší latence mezi tokeny
– 2,9 × rychlejší doba do prvního tokenu, 3,1 × vyšší propustnost I/O
Výsledky byly konzistentní a ukázaly skvělou škálovatelnost napříč různými vstupními konfiguracemi, a to je jen začátek.
66,28K
-530 tisíc požadavků za 2 týdny
3,3 tisíc měst ve 148 regionech obsluhovaných pouze 37 tisíci uzly Sentry
-3M p2p připojení
-98 ms medián latence P2P
Lattica dokazuje, jak odlehčená, peer-to-peer infrastruktura může rychle a efektivně přesouvat data a pohánět koordinaci napříč jakoukoli distribuovanou sítí.
85,46K
Gradient repostoval/a
Proč je zvýšení platu společnosti Gradient Network o 10 milionů dolarů důležité pro decentralizovanou umělou inteligenci 🧠
S podporou společností Pantera & Multicoin buduje @Gradient_HQ základní protokoly Lattica & Parallax pro distribuovanou inferenci AI.
Jedná se o další fázi infrastruktury umělé inteligence?
@AnolShaeed zprávy
15,9K
Oznamujeme naše počáteční kolo ve výši 10 milionů dolarů vedené @PanteraCapital a @multicoincap, za účasti @hsgcap, významných partnerů a špičkových andělů v oblasti umělé inteligence a kryptoměn.
Tento milník podporuje naši misi vytvořit první plně decentralizované běhové prostředí umělé inteligence na světě.
🧵
433,81K
Top
Hodnocení
Oblíbené