GigaChat 3.1 Lightning и GLM-4.7-Flash: как сравнивать LLM для своего сервера

Для одной компании языковая модель составляет резюме встречи. Для другой — извлекает поручения из переписки, а для третьей — помогает писать код. Эти задачи требуют разных проверок: полноты фактов, точности структуры, работы с инструментами или корректности программы.

В июле 2026 года команда Антиматерии изучила открытые веса GigaChat и GLM. Для статьи мы повторно сверили карточки GigaChat 3.1 Lightning и GLM-4.7-Flash 9 октября 2026 года. Это аналитический обзор: прямого прогона этих двух моделей на общем русском наборе в исследовании нет.

В MoE на каждом шаге работают выбранные части модели. Это снижает вычисления по сравнению с одновременной обработкой всех параметров. Но стандартный запуск всё равно должен разместить веса; оценивать память только по активным параметрам нельзя.

Квантизация уменьшает размер весов за счёт компактного хранения чисел. Официальная GGUF-сборка GigaChat 3.1 Lightning в формате Q4_K_M занимает 6,47 ГБ. Это размер файла, а не полный расход памяти работающего сервера.

К весам добавляются рабочие буферы и память контекста — истории, с которой модель работает при генерации. Длинный документ и несколько пользователей меняют требования. Утверждение «файл помещается на видеокарту — значит, сервер готов» нужно проверять нагрузочным запуском.

Сравнивайте сборки одинаковой точности и задавайте один контекст. Если одну модель запускают с короткой историей, а другую — с длинной, разница памяти объясняется не только размером весов.

Разработчики публикуют оценки на разных наборах задач и с разными режимами генерации. Результат на программировании не доказывает, что модель лучше извлекает поручения из русской встречи. Оценки по разным тестам нельзя складывать в общий рейтинг без методики.

В исходном исследовании отмечено отсутствие прямого сопоставления GigaChat 3.1 Lightning и GLM-4.7-Flash на едином русском бенчмарке. Поэтому мы не объявляем победителя. Характеристики позволяют сравнить требования к ресурсам и сформировать кандидатов для собственного теста.

Название семейства недостаточно: облачный API, открытые веса и квантизированная сборка могут давать разное поведение. В протоколе проверки нужно сохранять точную версию и формат.

Подготовьте одинаковые задания с проверяемыми ответами: резюме разговора, извлечение поручений, поиск факта в документе и заполнение нужной структуры. Заранее определите, что считается ошибкой. Используйте обезличенные примеры.

В резюме проверяйте, сохранились ли решения, ответственные и сроки. В поручениях — не придумано ли действие, которого не было. В ответах по документам — подтверждается ли вывод источником. Красивый текст не компенсирует выдуманный факт.

Дайте обеим моделям одинаковую инструкцию и повторите задания. Оценивайте ответы без названия модели. Сначала сравните качество, затем время ответа и поведение под нагрузкой. Так меньше риск выбрать быструю систему, результат которой приходится исправлять.

Полную стоимость локального запуска считайте вместе с оборудованием, электричеством, сопровождением и проверкой результатов. Открытые веса позволяют управлять установкой, но не превращают эксплуатацию в бесплатную услугу.

Если компактная модель проходит ваши проверки, дополнительный размер может не принести пользы. Если ошибки мешают работе, протестируйте более крупного кандидата и измерьте, насколько он снижает объём ручных исправлений.

Сначала закрепите допустимый уровень ошибок и реальную нагрузку. Затем выбирайте модель, сборку и оборудование. Требования к ресурсам можно сравнить по характеристикам, а пригодность для русской бизнес-задачи — по одинаковым проверяемым заданиям.

Официальная карточка модели.

Форматы и размеры файлов.

Официальная карточка и условия тестов разработчика.

Почему модель оценивают вместе с окружением.

Продукт Антиматерии и актуальная информация.