STORY FRAME

文章详情阅读与延伸浏览页

本页围绕单篇资讯建立完整阅读路径,依次承接标题信息、正文内容、上下篇跳转与推荐阅读延伸,使访问者可以更平稳地完成阅读过程。

Focus Reading
Share Ready
More Topics

Marvell推出光纤共享内存解决方案,英伟达积极布局应对市场竞争

球友会·(中国)官方网站 924 阅读 约 5.5 分钟

Marvell公司正在寻求解决GPU昂贵成本的问题,尤其是内存费用的高昂。在现代AI模型的运算中,GPU与高速内存之间的紧密耦合造成了投资的巨大压力,因为模型推理要求内存与GPU尽可能靠近以提高性能。具体而言,现今的高带宽内存(HBM)通常与GPU封装在同一芯片上,距离约为1.5毫米。若要增加内存容量,唯一的选择是额外购买GPU,这不仅导致了高昂的资本支出,同时在内存短缺时期,服务器内存的价格更是暴涨。

about image

此外,大模型的“工作记忆”需求正在急剧增加,使得运行时需要在内存中保留大量上下文信息。一旦超出本地容量,系统将被迫删除旧内容或从相对较慢的存储中读取数据,导致性能下降。因此,现有架构中“内存采购”与“GPU采购”的绑定关系,显著提升了AI基础设施的成本。Marvell首席执行官Dave Lazovsky指出,当前GPU实质上已成为“世界上最昂贵的内存控制器”。

about image

为应对这一挑战,Marvell提出了光子织物内存模块(Photonic Fabric Memory Module)的概念,旨在通过光纤连接创建一个高容量、低延迟的共享内存池。该模块通过用光代替传统铜线,能够在不受距离限制的情况下,将数十TB的内存集中在独立的机架中供多个处理器共享。具体而言,每个模块配置有72GB的HBM3e插槽和多达8条DDR5内存条,从而实现高达32TB的共享内存池,这一容量是当前单台GPU所无法比拟的。 球友会体育

尽管该方案设想具有明显的成本优势,Marvell仍需面临几个关键挑战。首先,光子织物模块尚处于硅前阶段,量产和规模部署的时间仍需要不断延迟,预计2027年才能为客户提供样品。其次,关于成本效益的声明缺乏实际支持数据,资金节省的论点尚未经过深入检验。此外,当前内存短缺的市场环境加大了实施难度,价格已暴涨至危机前的5.5倍。理论上,尽管模型之间的共享与复用极具吸引力,但实际操作中可能会面临带宽限制,并不足以合理覆盖16个GPU的需求。

与此同时,英伟达并未坐视Marvell的战略影响其市场地位,反而提前进行多路径布局。自2026年起,英伟达已向Marvell投资20亿美元,涉及多项技术合作,包括NVLink Fusion和硅光子学。此种投资能够确保英伟达在未来技术迭代中依旧保持收益。此外,英伟达还针对“内存难题”制定了多种解决方案,例如其Vera Rubin NVL72机架能够支持更大容量的LPDDR5X内存。

综上所述,Marvell的光纤共享内存解决方案代表了一种针对现有GPU控制器架构的突破性尝试,但实时部署及效益验证仍面临诸多挑战。同时,英伟达的相应策略将确保其在激烈竞争中继续保持市场领先地位。未来的市场动向仍需关注两者间的技术进展与成本效益情况。 球友会体育

about image

觉得有用?分享给朋友

让更多人看到这篇内容,也欢迎继续浏览平台中的其他相关文章与专题内容。

推荐阅读