Huawei openPangu-Ultra-MoE-718B-model K vytvoření tohoto modelu nebyla použita žádná technologie Nvidia - pouze čipy Ascend AI, CANN, nikoli CUDA. "... vytrénovaný od nuly na Ascend NPU s celkovým počtem parametrů 718B a 39B aktivovaných parametrů na token. openPangu-Ultra-MoE-718B je vycvičen na přibližně 19 bilionech tokenů a je vybaven schopností přepínat mezi rychlým a pomalým myšlením." Zdá se, že jde o nejmodernější model, ne-li o nejlepší otevřený model, který je v současné době k dispozici. Odkaz níže - můžete si jej stáhnout a používat
24,78K