pip install -U mlx

pip install -U mlx

對於異構硬體上分散推理的酷炫探索，包括搭載 MLX 的 Apple 硅。

超級智慧將會在你的口袋裡實現。如果你想加快這個時間表，隨時聯繫我。 我們正在每一層面上與 MLX 一起努力。

超級智能將會在你的口袋裡實現。如果你想加速這個時間表，隨時聯繫我。 我們正在與MLX在每一層面上進行這項工作。

我剛開始玩這個，但到目前為止模型似乎很不錯。 但它也有一些實現上的特性： - 一種新的聊天協議 - 僅在fp4量化中可用 - 注意力匯聚，這在某種程度上破壞了融合注意力 開放模型發展迅速，我想知道在支持這些功能上應該投入多少時間？OpenAI會開源更多模型嗎？

OpenAI的新120B MoE在M3 Ultra上的mlx-lm運行良好。 運行8位量化：

gpt-oss-20b 可以在 Macbook Pro M4 MAX 上使用 MLX 在 @lmstudio 上運行 70tok/s。

MFLUX 的 0.10 版本已發布，新增以下功能： - 支援 Flux-Krea！ - 5 位元量化 - 與 mlx >= 0.27 兼容 #MLX #FLUX #GenAI

Qwen3 Coder 在 M4 Max 與 RTX 5090 上的表現