Strata: локальный API для Qwen3.8-Flash-Next

Strata — это движок для выполнения модели Qwen3.8-Flash-Next на потребительском оборудовании, обеспечивающий локальный API, совместимый с OpenAI и Anthropic, с возможностью обработки изображений.

Движок эффективно распределяет нагрузку между GPU, RAM и SSD, позволяя запускать крупные модели на системах с ограниченными ресурсами.

Поддержка однокликовой установки

• Поддерживается установка на Windows и Linux
• Оптимизирован для видеокарт NVIDIA серий RTX 30/40/50
• Требуется объем памяти от 12 ГБ

Проект написан на языке C++ и доступен по адресу https://github.com/Niko1221/Strata.