頂點光電子商城2024年9月26日消息：近日，英特爾AI Gaudi 3加速器是英特爾發(fā)布的新一代AI加速器，它在性能、性價比以及技術規(guī)格上均實現(xiàn)了顯著提升，成為AI算力領域的一顆新星。
Gaudi 3采用了臺積電最新的5nm制程工藝，相比上一代的7nm工藝，能效比得到大幅提升。從原來的2個增加到8個，每個MME內部的張量處理核心（TPC）數(shù)量從12個減少到8個，但總數(shù)從24個大幅增加到了64個，顯著提升了運算能力。數(shù)量從8個增加至14個，增強了視頻和圖像處理能力。容量翻倍至96MB，帶寬也翻倍至12.8TB/s，為大規(guī)模數(shù)據(jù)處理提供了強有力的支持。
Gaudi 3容量從96GB增加到了128GB，帶寬提升至3.7TB/s，支持高吞吐量數(shù)據(jù)處理。設有24個200Gb RDMA網(wǎng)絡接口，雙向網(wǎng)絡帶寬達到1.2TB/s，主機接口峰值雙向帶寬為128GB/s，系統(tǒng)總線升級至PCIe 5.0 x16，為大規(guī)模并行計算提供了堅實基礎。在BF16和FP8格式下，MME的計算性能達到1835 TFlops（每秒1.835億億次運算），相比前一代有顯著提升。在矢量BF16格式下，峰值性能為28.8 TFlops（每秒28.8萬億次），同樣實現(xiàn)了性能飛躍。
Gaudi 3在性價比方面表現(xiàn)突出，據(jù)官方數(shù)據(jù)，其性價比達到了NVIDIA H100的兩倍。在大模型的推理性能上，Gaudi 3相比NVIDIA H100領先50%，訓練時間則縮短了40%。這一優(yōu)勢使得Gaudi 3在AI硬件市場上具有極強的競爭力。
Gaudi 3的發(fā)布不僅加劇了AI硬件市場的競爭，也為企業(yè)級應用、云計算和AI訓練領域帶來了新的動力與可能性。例如，IBM已在其云服務中部署了Gaudi 3加速器，預計將對行業(yè)帶來深遠影響。此外，還有傳聞稱Gaudi 3將推出專為中國市場量身定制的版本，以滿足不同市場的需求。
鄂公網(wǎng)安備 42011502001385號 鄂ICP備2021012849號 
