2026-07-31 00:47:00
打破AI算力「記憶體牆」!宜鼎新世代DDR5 MRDIMM衝12800 MT/s、頻寬提高60%,Q4送樣
AI伺服器持續堆高CPU核心數與GPU算力,但真正拖慢整體系統效能的瓶頸,正逐漸轉向資料能否及時送進處理器。工業儲存與記憶體模組廠宜鼎(5289)宣布推出新世代DDR5 MRDIMM,透過MRCD與MDB元件,以及同時存取兩列記憶體的架構,將資料傳輸速率推升至12,800 MT/s,較現有DDR5-8000 RDIMM頻寬提高60%,鎖定生成式AI、大型語言模型(LLM)、雲端運算與邊緣AI等資料密集型應用,預計2026年第四季開始送樣。
隨著生成式AI、LLM與機器人應用快速發展,CPU與GPU規格持續升級,以承擔更龐大的模型訓練及推論工作。然而,處理器算得愈快,也意味著系統必須以更高速度搬移資料;一旦記憶體頻寬未能同步提升,再強大的運算核心仍可能因等待資料而閒置,形成所謂的「記憶體牆」(Memory Wall)。
換言之,CPU與GPU如同不斷增加機台、提高產能的工廠,記憶體則負責輸送原料。如果資料供應速度跟不上,即使新增更多運算核心,也難以發揮完整效能。這也使記憶體頻寬成為AI基礎建設持續擴張後,系統業者必須處理的下一項關鍵瓶頸。
同時存取兩列記憶體 頻寬較DDR5-8000 RDIMM提高60%
宜鼎此次推出的DDR5 MRDIMM,加入MRCD(Multiplexed Rank Clock Driver,多列暫存時脈驅動器)與MDB(Multiplexed Rank Data Buffer,多列資料緩衝器)元件,利用同時存取兩列記憶體的架構,增加處理器與記憶體之間的資料吞吐量。
透過這套架構,宜鼎將記憶體傳輸速率推升至12,800 MT/s,相較現有DDR5-8000 RDIMM提高60%。公司指出,MRDIMM除可擴大頻寬,也能降低記憶體控制器負載、改善延遲,讓CPU與GPU更快取得運算所需資料,進而提升整體系統效能。
不過,宜鼎所稱的「翻倍頻寬」,主要是指MRDIMM可同時存取兩列記憶體的架構特性,並不代表所有AI工作負載的實際效能都會直接成長一倍。若以公司此次提供的明確比較基準來看,12,800 MT/s相較DDR5-8000 RDIMM的頻寬增幅為60%,至於最終能帶來多少模型訓練及推論效能提升,仍將視CPU、GPU、軟體及實際工作負載而定。
在相容性方面,宜鼎DDR5 MRDIMM採287-pin設計,並沿用DDR5 RDIMM插槽規格,可降低伺服器與系統業者重新設計硬體的門檻。不過,插槽相容不等於所有既有DDR5伺服器都能直接換裝,實際導入仍須搭配支援MRDIMM的CPU、記憶體控制器及伺服器平台。
容量最高128GB 宜鼎從工控、邊緣AI向高密度運算延伸
產品規格方面,宜鼎規劃推出32GB、48GB、64GB、96GB與128GB等容量,因應不同AI模型及運算情境的記憶體需求;運作溫度支援攝氏0度至95度,並整合eFuse電子保險絲與TVS瞬態電壓抑制保護設計,以維持高速運作環境下的穩定性。