頂點光電子商城2024年9月26日消息:近日,英特爾AI Gaudi 3加速器是英特爾發布的新一代AI加速器,它在性能、性價比以及技術規格上均實現了顯著提升,成為AI算力領域的一顆新星。
Gaudi 3采用了臺積電最新的5nm制程工藝,相比上一代的7nm工藝,能效比得到大幅提升。從原來的2個增加到8個,每個MME內部的張量處理核心(TPC)數量從12個減少到8個,但總數從24個大幅增加到了64個,顯著提升了運算能力。數量從8個增加至14個,增強了視頻和圖像處理能力。容量翻倍至96MB,帶寬也翻倍至12.8TB/s,為大規模數據處理提供了強有力的支持。
Gaudi 3容量從96GB增加到了128GB,帶寬提升至3.7TB/s,支持高吞吐量數據處理。設有24個200Gb RDMA網絡接口,雙向網絡帶寬達到1.2TB/s,主機接口峰值雙向帶寬為128GB/s,系統總線升級至PCIe 5.0 x16,為大規模并行計算提供了堅實基礎。在BF16和FP8格式下,MME的計算性能達到1835 TFlops(每秒1.835億億次運算),相比前一代有顯著提升。在矢量BF16格式下,峰值性能為28.8 TFlops(每秒28.8萬億次),同樣實現了性能飛躍。
Gaudi 3在性價比方面表現突出,據官方數據,其性價比達到了NVIDIA H100的兩倍。在大模型的推理性能上,Gaudi 3相比NVIDIA H100領先50%,訓練時間則縮短了40%。這一優勢使得Gaudi 3在AI硬件市場上具有極強的競爭力。
Gaudi 3的發布不僅加劇了AI硬件市場的競爭,也為企業級應用、云計算和AI訓練領域帶來了新的動力與可能性。例如,IBM已在其云服務中部署了Gaudi 3加速器,預計將對行業帶來深遠影響。此外,還有傳聞稱Gaudi 3將推出專為中國市場量身定制的版本,以滿足不同市場的需求。