Populaire onderwerpen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
AI-@apple
Coole verkenning van gedistribueerde inferentie op heterogene hardware. Inclusief Apple-silicon met MLX:
2 aug, 21:00
Intelligentie is opgesloten in afgesloten omgevingen. Vandaag openen we de poorten.
Parallax draait nu in Hybride modus, met Macs en GPU's die grote modellen samen bedienen in een echt gedistribueerd framework.
15,3K
Superintelligentie in je zak zal gebeuren. En als je de tijdlijn wilt versnellen, neem dan contact met me op.
We werken hier op elk niveau aan met MLX.
6 aug, 07:48
Binnenkort zal iets slimmer dan de slimste persoon die je kent draaien op een apparaat in je zak, dat je helpt met wat je maar wilt.
Dit is een zeer opmerkelijke zaak.
61,25K
Superintelligentie in je zak gaat gebeuren. En als je de tijdlijn wilt versnellen, neem dan contact met me op.
We werken hier op elk niveau aan met MLX.
6 aug, 07:48
Binnenkort zal iets slimmer dan de slimste persoon die je kent draaien op een apparaat in je zak, dat je helpt met wat je maar wilt.
Dit is een zeer opmerkelijke zaak.
178
Ik ben pas net begonnen met het spelen ermee, maar het model lijkt tot nu toe geweldig.
Maar het heeft ook enkele implementatie-idiosyncrasieën:
- Een nieuw chatprotocol
- Alleen beschikbaar in fp4-kwantisatie
- Attention sink die de samengevoegde aandacht een beetje breekt
Open modellen bewegen snel en ik vraag me af hoeveel tijd ik moet investeren in het ondersteunen van deze functies? Zal OpenAI meer modellen open source maken?
6 aug, 12:43
OpenAI's nieuwe 120B MoE draait mooi in mlx-lm op een M3 Ultra.
Het draaien van de 8-bit quant:
145
Boven
Positie
Favorieten