Temas en tendencia
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
@apple de IA
Exploración interesante de la inferencia distribuida en hardware heterogéneo. Incluyendo el silicio de Apple con MLX:
2 ago, 21:00
La inteligencia ha estado encerrada en jardines amurallados. Hoy, estamos abriendo las puertas.
Parallax ahora funciona en modo híbrido, con Macs y GPUs sirviendo grandes modelos juntos en un marco verdaderamente distribuido.
15.42K
La superinteligencia en tu bolsillo sucederá. Y si quieres acelerar la línea de tiempo, contáctame.
Estamos trabajando en esto en cada capa con MLX.
6 ago, 07:48
pronto, algo más inteligente que la persona más inteligente que conoces estará funcionando en un dispositivo en tu bolsillo, ayudándote con lo que quieras.
esto es algo muy notable.
61.3K
La superinteligencia en tu bolsillo va a suceder. Y si quieres acelerar la línea de tiempo, contáctame.
Estamos trabajando en esto en cada capa con MLX.
6 ago, 07:48
pronto, algo más inteligente que la persona más inteligente que conoces estará funcionando en un dispositivo en tu bolsillo, ayudándote con lo que quieras.
esto es algo muy notable.
229
Acabo de empezar a jugar con él, pero el modelo parece genial hasta ahora.
Pero también tiene algunas idiosincrasias de implementación:
- Un nuevo protocolo de chat
- Solo disponible en cuantificación fp4
- Hundimiento de atención que rompe la atención fusionada
Los modelos abiertos se mueven rápido y me pregunto cuánto tiempo invertir en admitir estas funciones. ¿OpenAI abrirá más modelos de código abierto?
6 ago, 12:43
El nuevo MoE 120B de OpenAI funciona muy bien en mlx-lm en un M3 Ultra.
Ejecución del cuanto de 8 bits:
197
Populares
Ranking
Favoritas