Huawei openPangu-Ultra-MoE-718B-model Nie użyto technologii Nvidia do zbudowania tego modelu - tylko chipy AI Ascend, CANN, a nie CUDA. "... wytrenowany od podstaw na Ascend NPU, z całkowitą liczbą parametrów wynoszącą 718B i 39B aktywowanych parametrów na token. openPangu-Ultra-MoE-718B jest trenowany na około 19 bilionach tokenów i wyposażony w zdolność przełączania się między szybkim a wolnym myśleniem." Wydaje się być to model najwyższej klasy, jeśli nie najlepszy dostępny obecnie model otwarty. Link poniżej - możesz go pobrać i używać.
26,81K