Анлокер разблокирует полную мощность видеокарт Nvidia RTX 30 и 40

Разработчики создали инструмент для разблокировки вычислительной мощности видеокарт Nvidia серий RTX 30xx и RTX 40xx, снимая программные ограничения на матричные операции.

Nvidia искусственно ограничивает скорость некоторых вычислений, необходимых для обучения нейросетей. Это делается для того, чтобы дешевые игровые чипы не могли эффективно конкурировать с профессиональными решениями в сфере искусственного интеллекта.

Утилита запускается до загрузки драйвера и отключает эти блокировки. В результате итоговая производительность в терафлопсах увеличивается почти вдвое, что значительно ускоряет процесс тренировки моделей и дообучения.

Пользователи отмечают следующие преимущества применения анлокера:

1. Мощный буст для создания собственных LoRA-моделей
2. Ускорение генерации изображений и видео на локальных моделях почти на 60%
3. Значительное повышение эффективности матричных вычислений

Существует одно важное ограничение: утилита практически не влияет на скорость генерации текстов с помощью больших языковых моделей (LLM). В этой задаче узким местом становится пропускная способность памяти видеокарты, оперативной памяти и процессора, а не вычислительная мощность GPU.