Kul utforskning av distribuert inferens på heterogen maskinvare. Inkludert Apple-chip med MLX:
Gradient
Gradient2. aug., 21:00
Etterretning har blitt låst inne i inngjerdede hager. I dag åpner vi portene. Parallax kjører nå i hybridmodus, med Mac-er og GPU-er som betjener store modeller sammen i et virkelig distribuert rammeverk.
15,4K