К ленте
NVIDIA выпустила квантованную модель Kimi K3.1 Pro в формате NVFP4

NVIDIA выпустила квантованную модель Kimi K3.1 Pro в формате NVFP4

NVIDIA представила квантованную версию модели Kimi K3.1 Pro от Moonshot AI, оптимизированную для эффективного развертывания.

Оптимизация выполнена с использованием NVIDIA Model Optimizer и формата NVFP4, что существенно снижает объем весов нейросети.

Архитектура Mixture of Experts обеспечивает высокую производительность при обработке мультимодальных данных.

  • Общее количество параметров составляет 2,8 трлн
  • Активные параметры достигают 104 млрд
  • Модель обрабатывает текст и изображения
  • Лимит контекста установлен на уровне 1 048 576 токенов

Официальная карточка модели с доступом к весам доступна на платформе Hugging Face по ссылке: https://huggingface.co/nvidia/Kimi-K3.1-Pro-NVFP4

5,7 тыс. просмотров

Ещё из канала Метаверсище и ИИще

Похожие в категории Технологии