Argomenti di tendenza
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
AI @apple
Ottima esplorazione dell'inferenza distribuita su hardware eterogeneo. Inclusi i chip Apple silicon con MLX:
2 ago, 21:00
L'intelligenza è stata rinchiusa in giardini recintati. Oggi, stiamo aprendo i cancelli.
Parallax ora funziona in modalità Ibrida, con Mac e GPU che servono grandi modelli insieme in un framework veramente distribuito.
15,3K
L'intelligenza super in tasca accadrà. E se vuoi accelerare la tempistica, contattami.
Stiamo lavorando a questo a ogni livello con MLX.
6 ago, 07:48
presto, qualcosa di più intelligente della persona più intelligente che conosci sarà in esecuzione su un dispositivo nella tua tasca, aiutandoti con qualsiasi cosa tu voglia.
questa è una cosa molto notevole.
61,24K
L'intelligenza super in tasca sta per diventare realtà. E se vuoi accelerare la tempistica, contattami.
Stiamo lavorando su questo a ogni livello con MLX.
6 ago, 07:48
presto, qualcosa di più intelligente della persona più intelligente che conosci sarà in esecuzione su un dispositivo nella tua tasca, aiutandoti con qualsiasi cosa tu voglia.
questa è una cosa molto notevole.
176
Ho appena iniziato a giocarci, ma il modello sembra ottimo finora.
Tuttavia, ha anche alcune idiosincrasie di implementazione:
- Un nuovo protocollo di chat
- Disponibile solo in quantizzazione fp4
- Sink di attenzione che rompe un po' l'attenzione fusa
I modelli open source si muovono rapidamente e mi chiedo quanto tempo investire per supportare queste funzionalità? OpenAI aprirà più modelli?
6 ago, 12:43
Il nuovo MoE da 120B di OpenAI funziona bene in mlx-lm su un M3 Ultra.
Eseguendo il quantizzazione a 8 bit:
143
Principali
Ranking
Preferiti