Populære emner
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
AI @apple
Kul utforskning av distribuert inferens på heterogen maskinvare. Inkludert Apple-chip med MLX:
2. aug., 21:00
Etterretning har blitt låst inne i inngjerdede hager. I dag åpner vi portene.
Parallax kjører nå i hybridmodus, med Mac-er og GPU-er som betjener store modeller sammen i et virkelig distribuert rammeverk.
15,38K
Superintelligens i lommen vil skje. Og hvis du vil akselerere tidslinjen, ta kontakt med meg.
Vi jobber med dette på hvert lag med MLX.
6. aug., 07:48
En dag snart vil noe smartere enn den smarteste personen du kjenner kjøre på en enhet i lommen, og hjelpe deg med hva du vil.
Dette er en veldig bemerkelsesverdig ting.
61,25K
Superintelligens i lommen kommer til å skje. Og hvis du vil akselerere tidslinjen, ta kontakt med meg.
Vi jobber med dette på hvert lag med MLX.
6. aug., 07:48
En dag snart vil noe smartere enn den smarteste personen du kjenner kjøre på en enhet i lommen, og hjelpe deg med hva du vil.
Dette er en veldig bemerkelsesverdig ting.
182
Jeg har nettopp begynt å leke med den, men modellen virker bra så langt.
Men den har også noen implementeringssæregenheter:
- En ny chat-protokoll
- Kun tilgjengelig i fp4-kvantisering
- Oppmerksomhet synke som slags bryter smeltet oppmerksomhet
Åpne modeller beveger seg raskt, og jeg lurer på hvor mye tid jeg skal investere i å støtte disse funksjonene? Vil OpenAI åpne kildekode flere modeller?
6. aug., 12:43
OpenAIs nye 120B MoE kjører fint i mlx-lm på en M3 Ultra.
Kjøre 8-biters kvantum:
149
Topp
Rangering
Favoritter