对异构硬件上分布式推理的酷炫探索。包括带有MLX的Apple硅:
Gradient
Gradient8月2日 21:00
智能一直被锁在封闭的花园中。今天,我们打开了大门。 Parallax 现在以混合模式运行,Mac 和 GPU 一起在一个真正分布式的框架中服务大型模型。
15.41K