頂點光電子商城2025年10月24日消息：美光科技近日宣布，已開始向客戶送樣業界容量最高的192GB SOCAMM2內存模組。這款基于最新1-gamma制程技術的新產品，專為滿足AI數據中心對低功耗、高帶寬內存的需求而設計。
新一代SOCAMM2在與初代產品相同的緊湊尺寸下，實現了50%的容量提升，傳輸速度高達9600MT/s。這對于需要處理實時推理工作負載的AI數據中心來說，意味著能夠將首令牌生成時間縮短80%以上，大幅提升AI應用的響應速度。
在AI應用場景中，“首令牌時間” 是衡量系統響應速度的關鍵指標。它代表了從用戶提出問題到AI開始生成回答之間的延遲。較長的TTFT會明顯影響用戶體驗，尤其是在實時交互場景中。美光的192GB SOCAMM2通過提供更大的內存容量，使AI系統能夠在內存中保留更多數據，顯著減少了從存儲設備加載信息的需求。這一改進對于需要處理大型語言模型的AI數據中心尤為重要。
基于美光1-gamma DRAM制程技術，SOCAMM2在DRAM裸片級別的能效比前代產品提升超過20%。這一能效提升對于大型數據中心集群的功耗優化具有重要意義。美光與NVIDIA合作，將原本為移動設備設計的LPDDR5X技術引入數據中心，實現了超低功耗和高帶寬的結合。與傳統的RDIMM相比，SOCAMM2的能效提高了三分之二以上，同時模塊尺寸僅為其三分之一。
SOCAMM2的模塊化設計不僅提升了系統的可維護性，也為未來的容量擴展奠定了基礎。在大規模AI部署中，該技術可支持構建超過40TB的CPU直連低功耗主內存系統。
美光資深副總裁Raj Narasimhan表示：“隨著AI工作負載日益復雜且需求更嚴苛，數據中心服務器必須提高效率，在每瓦功耗下產出更多tokens。”
SOCAMM2的推出，正是為了滿足這一需求。美光此次送樣的192GB SOCAMM2內存模組，目前已向客戶提供樣品，后續量產計劃將配合客戶的產品推出日程。
隨著AI工作負載對內存容量和能效要求的不斷提高，低功耗內存技術在數據中心的廣泛應用即將到來。
鄂公網安備 42011502001385號 鄂ICP備2021012849號 
