
帖子
Perplexity开源推理底座pplx-garden,绕过英伟达网络税实现多卡极速通信

币界网消息,Perplexity AI正式开源高性能推理基础设施工具包pplx-garden。该项目核心是自研的Rust点对点通信库fabric-lib,旨在打破英伟达专属通信协议的硬件绑定,帮助开发者在无需昂贵网络交换机的前提下,实现万亿参数大模型在异构多显卡集群上的极速运行。fabric-lib完美适配NVIDIA ConnectX-7网卡,并支持AWS EFA传统以太网卡,将多卡网络带宽提升至400 Gbps。为解决AWS EFA乱序传输问题,Perplexity首创immcounter计数器同步机制,实现高效的「零拷贝」数据流转。pplx-garden在异步强化学习训练中,仅需1.3秒完成万亿参数模型的权重同步与下发,显著提升工程效益。
相關快訊
美股半導體、存儲晶元、伺服器、應用軟體全線爆發,多股再創歷史新高
「BTC OG內幕巨鯨」代理人:AI吸走加密市場流動性,下一輪牛市仍需等待周期回歸
鏈上「炒股」愈演愈烈,trade.xyz 合約持倉量連創新高
「新股神」Serenity繼續看多AAOI:激光瓶頸下光通信需求爆發,13億美元市值仍被低估
分析師:比特幣市值降至約1.09萬億美元,跌出全球前十
XBIT DEX:NVIDIA預計將成為6月底最大公司,概率87.5%
AI 初創公司 Groq 正為新實體籌集 6.5 億美元資金
熱錢輪動加速:從比特幣到黃金,再到AI與存儲半導體
英偉達發佈Gamma-World,多智慧體世界模型支援四人協作與即時24 FPS
AI 與頭部科技股延續強勢走向,Gate 拓展全球資產交易覆蓋能力