Запуск 320-миллиардной нейросети на домашнем ПК

Модель GLM-5.3-Flash с 320 миллиардами параметров адаптирована для запуска на домашних компьютерах.

Адаптация выполнена с использованием движка Strata, что позволило отказаться от необходимости использования выделенных дата-центров.

GLM-5.3-Flash поддерживает обработку текста и изображений, а также имеет встроенные механизмы многоуровневого мышления.

Для работы модели требуется от 95 ГБ свободного места на диске и совместимые игровые видеокарты.

Архитектура обеспечивает полную совместимость с API, аналогичными решениям OpenAI и Anthropic.

Исходный код проекта доступен в репозитории Project Maya.