К ленте
Volantis представит фотонный чип для ИИ с памятью до 10

Volantis представит фотонный чип для ИИ с памятью до 10

Стартап Volantis, финансируемый Сэмом Альтманом, представил план создания ИИ-ускорителя A-1. В этом устройстве память соединяется с вычислительным ядром не медными проводниками, а светом.

Основная проблема современных GPU заключается в так называемой «береговой линии»: память можно разместить только по периметру кристалла, буквально в миллиметрах от него. Из-за этого даже у AMD MI455X потолок составляет 432 ГБ.

Фотонный интерпозер позволяет отнести память на несколько сантиметров от кристалла, устраняя это ограничение. В одном корпусе обещают до 10 ТБ памяти со скоростью до 240 ТБ/с.

Такие характеристики должны хватить для запуска модели на 20 трлн параметров со скоростью 10 000 токенов в секунду на каждого пользователя.

В отличие от аналогов Lightmatter и Celestial AI, Volantis встраивает микролазеры прямо в интерпозер, а не подаёт свет от внешних источников. Всё остальное компания планирует лицензировать у других разработчиков.

  • Рабочий прототип ожидается через 12–18 месяцев
  • О серийном производстве речи пока не идёт
22,1 тыс. просмотров

Ещё из канала Чёрный Треугольник

Видео

SpaceX впервые попытается поймать ракету Starship на старте

SpaceX планирует первый в истории возврат обеих ступеней ракеты Starship с помощью механических рук на стартовой площадке. Успех операции снизит стоимость запусков до цены топлива.

Технологии

Похожие в категории Технологии