Полный текст

GigaChat 3 Ultra Preview: тяжёлый Open SourceSberDevices выкатили настоящего титана — модель с весом в 712 миллиардов параметров. И самое приятное: всё это добро отдают в Open Source под лицензией MIT. Чтобы серверные стойки не плавились, использовали архитектуру Mixture of Experts: в моменте активны всего 36 млрд параметров (около 5%), так что инференс остаётся в рамках разумного, а качество генерации — на высоте.Это не очередная надстройка над зарубежной «ламой», а честное обучение с нуля на 14 триллионах токенов. Модель понимает наш культурный код, мемы и морфологию лучше западных аналогов. Разработчики раскрывают карты по архитектуре, использованию MTP и MLA для ускорения, и рассказывают, как учили модель быть полезной, но не скучной.