Posteo

SpaceX自研C语言AI训练框架接近完工,将用于训练Grok v5

币界网
币界网
币界网消息,SpaceX CEO马斯克透露,SpaceX内部团队正在接近完成用C语言自研的超大规模AI训练框架v1.0版本。该框架在硬件映射与并行机制上,能精准适配由22万张英伟达GB300加速卡与800G网卡组成的超大规模计算集群。为了压榨底层算力,框架在设计上极度贴近裸金属(bare metal)底层,并深度采用流水线并行(pipeline parallelism)技术。在应对超大规模训练任务时,纯C语言编写的底层架构相较于谷歌主流的高级AI框架JAX,潜在运行速度可提升一个数量级以上(即10倍以上)。全新自研训练栈将运行于SpaceX旗下的Colossus超级计算集群,直接服务于下一代大模型Grok v5的全量训练与迭代。

Deslinde de responsabilidades: el contenido de OKX Orbit se brinda únicamente con fines informativos. Más información

Respuestas

Aún no hay comentarios. ¡Envía la primera respuesta!

Related Flash News

币界网Hace 9 min

XBIT DEX: Se espera que NVIDIA sea la mayor empresa a finales de junio, con una probabilidad del 87,5%

ChainCatcherHace 6 h

La startup de IA Groq está recaudando 650 millones de dólares para sus nuevas entidades

OdailyHace 7 h

La rotación del dinero caliente se acelera: de Bitcoin al oro, luego a la IA y los semiconductores de almacenamiento

币界网Hace 10 h

La base de inferencia open-source de Perplexity pplx-garden elude el impuesto de red de Nvidia para lograr una comunicación ultrarrápida multi-tarjeta

币界网Hace 10 h

NVIDIA lanzó Gamma-World, un modelo de mundo multiagente que soporta colaboración en cuatro personas y 24 FPS en tiempo real

ChainCatcherHace 11 h

Las principales acciones de IA y tecnológicas mantienen su fuerte impulso, mientras Gate amplía su cobertura global de operaciones de activos

币界网Hace 16 h

Los inversores extranjeros han comprado acciones japonesas por octava semana consecutiva

BlockbeatsHace 17 h

El trading de acciones estadounidense crea riqueza en la cadena: una dirección invirtió 4,3 millones de yuanes en capital para entrar en el mercado bursátil estadounidense, con un aumento del 280% en dos meses.

BlockbeatsHace 1 d

"Photon Stock God": La inversión de Nvidia ayuda a Nokia a transformarse en infraestructura de IA, con personas internas aumentando activamente sus participaciones durante el último mes

币界网Hace 1 d

Introduciendo la búsqueda AlphaGo, el nuevo marco de generación de vídeo MCTS ofrece duraciones de vídeo más largas que Sora