Huawei openPangu-Ultra-MoE-718B-model Nicio tehnologie Nvidia nu a fost folosită pentru a construi acest model - doar cipuri Ascend AI, CANN nu CUDA. "... antrenat de la zero pe Ascend NPU, cu un număr total de parametri de 718B și 39B de parametri activați pe token. openPangu-Ultra-MoE-718B este antrenat pe aproximativ 19 trilioane de jetoane și echipat cu capacitatea de a comuta între gândirea rapidă și lentă." Pare a fi un model de ultimă generație, dacă nu cel mai bun model deschis disponibil în prezent. Link de mai jos - îl puteți descărca și utiliza
26,8K