对话Rambus高管:ChatGPT需要多管齐下的内存方案,DDR5 RCD助攻下一代数据中心

芯东西(公众号:aichip001)
作者 |  ZeR0
编辑 |  漠影

芯东西3月5日报道,上个月底,美国芯片和半导体IP供应商Rambus推出第三代6400MT/s DDR5寄存时钟驱动器(RCD),数据传输速率和带宽比第一代4800MT/s解决方案提高了33%,进一步提升了服务器内存性能,且延迟和功耗均为业内领先水平。Rambus已从去年第四季度起将样品提供给各大DDR5内存模块(RDIMM)制造商。

发布会后,Rambus内存互连芯片业务部门产品营销副总裁John Eble、Rambus大中华区总经理苏雷接受芯东西等媒体的采访,不仅分享了对DDR5市场趋势的前瞻见解,还谈及Rambus能够向ChatGPT等人工智能(AI)应用提供的技术支持。John Eble透露,使用第三代DDR5 RCD的系统预计将在2024年开始出货,并在2025年实现量产。

Rambus成立于20世纪90年代,总部位于美国加州,在全球拥有750多名员工、约3000项专利及应用,致力于让数据传输更快、更安全。2022年,Rambus各项业务发展强劲,经营现金流达2.3亿美金;来自面向数据中心和边缘的芯片及半导体IP收入占比达75%以上。

经过逾30年的发展和创新,Rambus现有主要业务包括技术专利授权、芯片IP授权、内存接口芯片等,后续还会推出CXL各产品组合芯片。其服务的主要市场包括数据中心、5G、边缘计算、物联网(IoT)、自动驾驶等。

对话Rambus高管:ChatGPT需要多管齐下的内存方案,DDR5 RCD助攻下一代数据中心

一、预计将在DDR5 RCD的销量中占据领先份额

据Rambus大中华区总经理苏雷分享,在推动数据中心发展方面,Rambus提供了业界领先的高性能内存和系统互连子系统方案,例如HBM2E、HBM3、GDDR6、PCIe和CXL等。无论是HBM2e的4Gbps速率还是HBM3的8.4Gbps速率,Rambus都是全球率先实现的。

“在数据安全方面,我们是全球首屈一指的安全IP提供商。”苏雷说,Rambus有着丰富而全面的安全IP产品线,对静态数据保存及动态数据传输均有安全解决方案,比如IPsec、MACsec等能够以较小的门电路高效实现对数据安全的保驾护航。

Rambus内存互连芯片业务部门产品营销副总裁John Eble谈道,不断发展的服务器市场对DDR5内存标准提出更高要求,必须要保证在64字节高速缓存行中相同的内存读取粒度,优化性能、可靠性、可用性和可维护性,同时在性能保持不变的情况下将产品运行维持在正确的冷却功率范围之内,并进一步缩短启动时间。

对话Rambus高管:ChatGPT需要多管齐下的内存方案,DDR5 RCD助攻下一代数据中心

据他分享,Rambus从2016年开始就一直在推动DDR5的迭代和发展,坚持长期投资,不仅是首个推出第一代DDR5 RCD产品的提供商,而且在第二代产品和第三代产品上分别实现了4800MT/s和6400MT/s的数据传输速率。Rambus也非常积极地参与了JEDEC相关的标准制订,不断推动该技术规格的进一步发展和成熟。

Rambus最新发布的第三代DDR5 RCD产品是对其产品线的进一步拓展,能达到6400MT/s的数据传输速率,同时性能大幅提升,可在保持性能不变甚至提高的基础上进一步优化功耗,能够为新一代数据中心更加完整的应用场景提供支持。

对话Rambus高管:ChatGPT需要多管齐下的内存方案,DDR5 RCD助攻下一代数据中心

“我们预计将在DDR5 RCD的销量中占据领先份额。这个全新的第三代产品扩大了我们提供的芯片数量和服务的市场。”John Eble说,使用DDR5 RCD第三代的系统预计将在2024年开始出货,并在2025年实现量产。

二、ChatGPT需要多管齐下的解决方案

基于最近发布的支持新内存的CPU,Rambus预计服务器DDR5将在2023年出现强劲增长。市场调研机构IDC的数据显示,DDR5的拐点可能会在2024年上半年出现。

“RCD产品的迭代和技术进步,能够很大程度上帮助我们去克服现在像ChatGPT的应用对服务器带来的巨大挑战。”John Eble谈道,“Rambus从事内存创新的业务,以确保随着计算引擎的扩大,我们能够从内存中为这些计算引擎提供它所需要的数据。”

在他看来,像ChatGPT这样的AI应用将可能需要多管齐下的解决方案。

首先就是像DDR5应用的快速发展,因此Rambus将扩大其在DDR5内存接口芯片领域的领导地位,并定义下一代架构,以低延迟和高可靠性继续扩大内存、容量和带宽。

同时,CXL也是一项非常重要的配合性技术,在未来的服务器中具有许多潜在优势,能够以有效和可扩展的方式增加内存、容量和带宽。

苏雷补充说,ChatGPT依赖更高算力,且更多是趋向于矩阵类和卷积类的计算,它对内存另一个重要需求也体现在训练和推理AI芯片,或者是对加速模块里的内存带宽产生一定需求。在这方面,Rambus有先进的HBM技术和解决方案,非常乐于助力国内ChatGPT产品的发展。

三、按时按质交付,家族产品自研,价格有竞争力

谈及Rambus在内存接口芯片市场的突出优势,John Eble列数了三点。

首先是对客户的承诺。Rambus坚持按时根据具体规范要求向客户交付最符合标准的产品;在DDR5 RCD领域,无论是功耗还是信号完整性,在验证初期就能将其做到符合标准。Rambus还通过外部封测代工厂(OSAT)快速提高产量和数量,以满足客户对服务器启动和验证周期的需求。

其次是提供非常卓越的客户体验,验证团队、工程设计团队通常都位于客户非常临近的位置,能够对客户问题和诉求及时响应,从而更好满足生态系统的相关需求。Rambus通常与CPU厂商、OEM或超大规模计算的提供商均有紧密协作和配合,实时满足他们提出的需求。

最后是品牌和长期积累的优秀声誉。Rambus自创立起就致力于解决CPU带宽的问题和挑战,作为信号完整性和电源完整性方面的知名领导者,提供具有高性能和高设计裕度的DDR5内存芯片,可以满足制造商所面临的挑战。

苏雷谈道,Rambus是一家做信号完整性出身的公司,在信号完整性上拥有非常大的优势,其DDR5内存接口芯片凭借高性能的设计裕度,能够满足模组制造商在设计制造DDR5时面临的挑战。

其次,其所有Rambus内存接口芯片家族产品,如RCD、SPD、TS,均为自研,所以Rambus更懂得产品的know-how。

对话Rambus高管:ChatGPT需要多管齐下的内存方案,DDR5 RCD助攻下一代数据中心

此外,Rambus的产品在市场上提供非常有竞争力的价格,能够帮助模组制造厂商的产品更具价格竞争力。同时Rambus也提供高效的技术支持,与客户的技术交流非常深入,在其设计的早期阶段就会给到客户建议和指导,帮助客户设计出高质量的产品,并缩短上市时间。

结语:内存市场预计下半年回暖,服务器市场长期强劲稳健

谈及对内存市场的预测,John Eble分享说,从两年前Rambus已经观察到整个PC市场受到较大的负面波及,服务器市场表面上未受影响持续成长,但其实并不能够独善其身。

内存市场本身就是一个不断波动和成长的市场,他认为对2023年的预测要从多个不同因素去考量,综合来看2023年下半年内存市场应该会有回暖的态势。

服务器市场方面,尽管短期内会存在一些弱势和波动,但鉴于对更大的内存、容量和带宽的巨大需求,以支持云计算、HPC、AI机器学习等类型的工作负载,所以从长期来看依旧强劲稳健。