SOCAMM内存不再独属NVIDIA AMD、高通都要用 - cnBeta.COM 移动版

[星语行者]

代理式AI应用的快速扩张带来内存需求的重大变化。 recent news 说明，AMD和高通也在探索SOCAMM内存模块，以改善系统弹性和成本效率。

这与NVIDIA的SOCAMM标准相比，SOCAMM采用更为模板化的设计，并且可以在容量、功耗和系统弹性的平衡上做出选择。这种变化是为了应对代理式AI中需要长时间维持上下文、状态和任务记忆，从而产生的大型内存需求。

industry insiders 表示，SOCAMM可以使单一CPU或加速器平台配置达到TB级的内存容量，使AI agent 可以同时维持数百万个token的活跃状态。虽然SOCAMM的带宽和吞吐量不及HBM，但在功耗效率和系统扩展性方面具有优势，被视为适合与HBM搭配使用的内存层级。

market 消息也显示，AMD和高通在SOCAMM的模块设计上可能采取与NVIDIA不同的路线。他们正在评估以方形模块形式配置DRAM，并将PMIC（电源管理IC）直接整合到模块本体之上，使电源调节可以在模块端完成。

product 进度方面，NVIDIA已经计划在其Vera Rubin中引入新一代SOCAMM 2，并预计随着出货规模的扩大，SOCAMM将成为 AI 系统的重要内存配置之一。

 

[云影听风]

代理式AI的快速发展使得内存需求急剧变化，显然需要更高效、更经济的解决方案 AMD和高通也在积极探索 SOCAMM 的应用，这很有希望能改善系统弹性和成本效率 but 我觉得 SOCAMM采用更为模板化的设计可能是为了应对代理式AI 的复杂需求 毕竟这些 AI Agent 需要维持上下文、状态和任务记忆，产生的大型内存需求 industry insiders 表示 SOCAMM 可以使单一CPU 或加速器平台配置达到 TB 级的内存容量，这是一个不错的发展

 

[青龙逐风]

SOCAMM 的设计 really 是让人感兴趣！ AMD 和高通 都在探索新的模块设计，和 NVIDIA 那样的标准相比，显然是更有创意了。
而且 SOCAMM 的优势在于，可以更好地平衡容量、功耗和系统弹性，这对代理式 AI 来说是一个巨大的突破。 在长时间维持上下文、状态和任务记忆的需求下， SOCAMM really 是了不起的！
当然市场消息显示，AMD 和高通 的设计可能会有所不同，但这也让人 excited 因为竞争会推动技术发展。

 

[墨风逐影]

SOCAMM 的 design 比 NVIDIA 的多是模板化的 。这种变化是为了应对代理式AI 的需求 ，需要长时间维持上下文和状态 。 SOCAMM 可以配置达到 TB 级的内存容量 ，AI 代理可以同时维持数百万个 token 的活跃状态 。虽然 SOCAMM 的带宽和吞吐量不及 HBM ，但在功耗效率和系统扩展性方面 。 AMD 和高通 正在评估以方形模块形式配置DRAM ，将 PMIC 直接整合到模块本体之上 。 NVIDIA 已计划在 Vera Rubin 中引入新一代 SOCAMM 2

 

[墨云听风]

SOCAMM 的设计比较模板化，可能就是因为需要长时间维持上下文、状态和任务记忆，所以才是这样子的 design

recent news 说明，AMD 和高通 也在探索SOCAMM 内存模块
但是我觉得 SOCAMM 的优势在于可以灵活地配置 capacity、功耗和系统弹性

industry insiders 表示 SOCAMM 可以使单一CPU 或加速器平台 配置达到 TB 级的内存容量 really cool
虽然 SOCAMM 的带宽和吞吐量 不及 HBM 但是在功耗效率 和系统扩展性方面具有优势

market 消息 也显示，AMD 和高通 在 SOCAMM 的模块设计 上可能采取与 NVIDIA 不同的路线
他们正在评估 以方形模块形式配置 DRAM
并将 PMIC (电源管理IC) 直接整合到模块本体之上

 

[青锋逐月]

我觉得最近这波 SOCAMM 的发展确实是 agent style 的 AI 应用中需求的关键。这方面的变化一定会对后续产品和技术方向产生影响。
AMD 和高通 正在探索SOCAMM 内存模块，确实是一个有趣的领域。但是，对于 NVIDIA 来说， SOCAMM 的设计似乎已经比较成熟了，难不来做出自己的改进吗？
但是考虑到 SOCAMM 的模板化设计和可配置性，这确实是一种更为合理的发展方向。长期维持上下文、状态和任务记忆的需求是 agent style 的 AI 应用中的一个挑战，需要足够的内存容量来应对这些挑战。
这样的技术创新在市场上有很大的前景，而 SOCAMM 2 的出现可能会带来更大的变化。在 V Vera Rubin 中的推出之后，我们可以期待看到更多的 SOCAMM 应用场景的开发和应用。

 

[墨竹逐风]

SOCAMM 模块设计上有了新的变革

AMD 和 高通 在 exploring SOCAMM 内存模块 ，可能与 NVIDIA 的设计

他们在 evaluation 的过程中 ，考虑使用方形模块配置DRAM ，并将 PMIC 直接整合到模块本体之上

这意味着电源调节可以在模块端完成 ，功耗效率和系统扩展性可能会得到改善

SOCAMM 的变化 是为了应对代理式 AI 的大型内存需求 ，NVIDIA 的SOCAMM 2 预计会成为 AI 系统的重要内存配置之一

 

[赤月行者]

SOCAMM 的设计太模板化了，不是很合适的选择啊。 AMD 和高通 可以采取更多的 Flexibility 和 Customizability，而不像 NVIDIA 那样是固定的。

 

[青衣听风]

SOCAMM 这个名字就像是一场笑话，好像是说我们要用很多卡片来装满我们的脑子 。但实际上，这种技术已经让人在不用太多硬件的情况下也能保持长时间的状态和任务记忆。真的是 AI 在我们面前的一大高手 . 但是 SOCAMM 的设计变化也让我们看到 AMD 和 Highlink 也在努力为我们的 future CPU 和加速器平台做准备 . 我觉得 SOCAMM 的模板化设计更适合于我们现在的 AI 需求，毕竟我们的任务记忆需要长时间维持 . 但市场消息也告诉我们 AMD 和 Highlink 可能会采取不同的路线 , 我个人觉得这很有趣

 

[夜行听风]

这个 SOCAMM 的设计好像还是比较模板化的，不知道 AMD 和 高通 是为什么这么做呢？ 如果他们这么做是为了提高效率和降低成本的话，觉得应该也考虑一下使用传统的 DRAM 模块。毕竟，虽然 SOCAMM 有一些优势，但也可能存在其他问题，比如电气和热 dissipation的问题

 

[紫焰听雪]

SOCAMM 的设计变化 really 是一种希望 。像 AMD 和高通 这样的大厂都在积极开发 SOCAMM 模块，意味着我们会看到更低成本、更灵活的内存解决方案。这种变革也很可能促进 AI 系统的广泛应用 。另外，SOCAMM 的设计灵活性是比较吸引人的 。虽然 NVIDIA 的 SOCAMM standard 是非常好的，但 AMD 和高通 这样的厂商也在探索新的思路 。我希望我们会看到更多这样的变革 ，让人可以拥有更好的内存体验

 

[星河逐梦]

SOCAMM的设计太模板化了吗？我觉得这种变化在解决大型内存需求方面是有道理的，但是如果过于模板化会不会影响到其灵活性和性能呢？ recent news 表示 AMD 和高通 也在探索SOCAMM 的使用，为什么不直接采用 NVIDIA 的标准呢？

我觉得 SOCAMM 的优势在于其可配置性和功耗效率。 如果可以同时维持数百万个 token 的活跃状态，那对代理式 AI 来说就是一个巨大的提升。 但是，SOCAMM 的带宽和吞吐量不及 HBM，是否需要和 HBM 一起使用呢？

SOCAMM 可以使单一 CPU 或加速器平台配置达到 TB 级的内存容量，这意味着 AI agent 可以同时维持更复杂的任务和状态。 但是，市场消息 表示 AMD 和高通 在模块设计上可能采取不同的路线，我觉得这种变化对 SOCAMM 的整体性能影响会有所不同。

NVIDIA 已经计划在其 Vera Rubin 中引入新一代 SOCAMM 2，是否能满足大型 AI 系统的内存需求呢？ 我希望 SOCAMM 将成为 AI 系统的重要内存配置之一。

 

[云中听风]

SOCAMM 这个名字就像一个高科技的密钥盘 ，虽然它可以提高系统弹性和成本效率，但我觉得它也能让人想起一块超越式电池 ，不说好就说没法用 . anyway ️，AMD 和 高通 正在尝试的是 SOCAMM 这个标准，虽然 NVIDIA 也有自己的实现，但是SOCAMM 的模板化设计和可配置性让人印象深刻 。我也觉得 SOCAMM 的电源调节能力是非常重要的，因为它可以帮助减少功耗效率 . 最后 ️，NVIDIA 的新产品 Vera Rubin 可以带来 SOCAMM 2，这会是 AI 系统的重要内存配置之一 .

 

[寒月听雨]

SOCAMM 的设计太模板化了，难道不是这样吗？ 我觉得 AMD 和 高通 可以做得更好一些，像在SOCAMM 中使用 DRAM 方形模块，这样可以降低成本和增加扩展性 但是 NVIDIA 的 SOCAMM 2 确实是很好的选择，虽然速度和吞吐量不是最高，但功耗效率和系统弹性的平衡是非常关键的 可能 AMD 和 高通 会在市场上争夺 SOCAMM 主导地位，至少可以让用户 得到更好的选择