頂點光電子商城2025年10月24日消息：美光科技近日宣布，已開始向客戶送樣業(yè)界容量最高的192GB SOCAMM2內(nèi)存模組。這款基于最新1-gamma制程技術(shù)的新產(chǎn)品，專為滿足AI數(shù)據(jù)中心對低功耗、高帶寬內(nèi)存的需求而設(shè)計。
新一代SOCAMM2在與初代產(chǎn)品相同的緊湊尺寸下，實現(xiàn)了50%的容量提升，傳輸速度高達(dá)9600MT/s。這對于需要處理實時推理工作負(fù)載的AI數(shù)據(jù)中心來說，意味著能夠?qū)⑹琢钆粕蓵r間縮短80%以上，大幅提升AI應(yīng)用的響應(yīng)速度。
在AI應(yīng)用場景中，“首令牌時間” 是衡量系統(tǒng)響應(yīng)速度的關(guān)鍵指標(biāo)。它代表了從用戶提出問題到AI開始生成回答之間的延遲。較長的TTFT會明顯影響用戶體驗，尤其是在實時交互場景中。美光的192GB SOCAMM2通過提供更大的內(nèi)存容量，使AI系統(tǒng)能夠在內(nèi)存中保留更多數(shù)據(jù)，顯著減少了從存儲設(shè)備加載信息的需求。這一改進(jìn)對于需要處理大型語言模型的AI數(shù)據(jù)中心尤為重要。
基于美光1-gamma DRAM制程技術(shù)，SOCAMM2在DRAM裸片級別的能效比前代產(chǎn)品提升超過20%。這一能效提升對于大型數(shù)據(jù)中心集群的功耗優(yōu)化具有重要意義。美光與NVIDIA合作，將原本為移動設(shè)備設(shè)計的LPDDR5X技術(shù)引入數(shù)據(jù)中心，實現(xiàn)了超低功耗和高帶寬的結(jié)合。與傳統(tǒng)的RDIMM相比，SOCAMM2的能效提高了三分之二以上，同時模塊尺寸僅為其三分之一。
SOCAMM2的模塊化設(shè)計不僅提升了系統(tǒng)的可維護(hù)性，也為未來的容量擴(kuò)展奠定了基礎(chǔ)。在大規(guī)模AI部署中，該技術(shù)可支持構(gòu)建超過40TB的CPU直連低功耗主內(nèi)存系統(tǒng)。
美光資深副總裁Raj Narasimhan表示：“隨著AI工作負(fù)載日益復(fù)雜且需求更嚴(yán)苛，數(shù)據(jù)中心服務(wù)器必須提高效率，在每瓦功耗下產(chǎn)出更多tokens?！?/span>
SOCAMM2的推出，正是為了滿足這一需求。美光此次送樣的192GB SOCAMM2內(nèi)存模組，目前已向客戶提供樣品，后續(xù)量產(chǎn)計劃將配合客戶的產(chǎn)品推出日程。
隨著AI工作負(fù)載對內(nèi)存容量和能效要求的不斷提高，低功耗內(nèi)存技術(shù)在數(shù)據(jù)中心的廣泛應(yīng)用即將到來。
鄂公網(wǎng)安備 42011502001385號 鄂ICP備2021012849號 
