Публикация

Perplexity开源推理底座pplx-garden,绕过英伟达网络税实现多卡极速通信

币界网
币界网
币界网消息,Perplexity AI正式开源高性能推理基础设施工具包pplx-garden。该项目核心是自研的Rust点对点通信库fabric-lib,旨在打破英伟达专属通信协议的硬件绑定,帮助开发者在无需昂贵网络交换机的前提下,实现万亿参数大模型在异构多显卡集群上的极速运行。fabric-lib完美适配NVIDIA ConnectX-7网卡,并支持AWS EFA传统以太网卡,将多卡网络带宽提升至400 Gbps。为解决AWS EFA乱序传输问题,Perplexity首创immcounter计数器同步机制,实现高效的「零拷贝」数据流转。pplx-garden在异步强化学习训练中,仅需1.3秒完成万亿参数模型的权重同步与下发,显著提升工程效益。

Дисклеймер: контент OKX Orbit предоставляется исключительно в информационных целях. Подробнее

Ответы

Комментариев еще нет. Будьте первым!

Related Flash News

Odaily8 ч. назад

Акции американских компаний полупроводников, чипов памяти, серверов и прикладного программного обеспечения резко выросли, при этом несколько акций достигли новых исторических максимумов

Blockbeats9 ч. назад

Агент «BTC OG Insider Whale»: ИИ истощает ликвидность крипторынка, следующий бычий рынок всё ещё должен ждать циклической доходности

Blockbeats19 ч. назад

Он-чейн «спекуляции с акциями» становятся всё более распространёнными, trade.xyz открытый интерес по контрактам достигает новых максимумов

Blockbeats21 ч. назад

«Новый биржевой бог» Serenity остаётся оптимистичным по поводу AAOI: спрос на оптическую коммуникацию резко растёт из-за узкого места лазера, но рыночная капитализация в $1,3 миллиарда остаётся недооценённой

币界网1 д. назад

Аналитик: Рыночная капитализация биткоина упала примерно до 1,09 триллиона долларов, выпав из топ-10 мира

币界网1 д. назад

XBIT DEX: Ожидается, что к концу июня NVIDIA станет крупнейшей компанией с вероятностью 87,5%

ChainCatcher1 д. назад

Стартап в области искусственного интеллекта Groq привлекает 650 миллионов долларов для своих новых компаний

Odaily1 д. назад

Вращение горячих денег ускоряется: от биткоина к золоту, затем к ИИ и полупроводникам для хранения

币界网1 д. назад

NVIDIA выпустила Gamma-World — многоагентную модель мира, поддерживающую сотрудничество четырёх человек и 24 FPS в реальном времени

ChainCatcher1 д. назад

ИИ и ведущие технологические акции продолжают свой сильный импульс, в то время как Gate расширяет глобальное покрытие торговли активами