頂點光電子商城2024年1月23日消息:近日,AMD首批Instinct MI300X已開始交付。
這些加速器主要用于AI和HPC(高性能計算)應用,特別是大型語言模型(LLM)的運行。首批客戶包括一些科技巨頭,如Meta、谷歌、微軟等。
為了力抗英偉達(NVIDIA),MI300X是AMD Instinct MI300系列的高性能版本,主打AI和HPC計算,其放棄了x86CPU核心,而是搭載更多的CDNA3計算單元,總數(shù)達到304個,遠高于MI300A的228個。此外,MI300X還配備了192GB HBM3高速存儲器,最高頻寬高達5.3TB/s。
根據(jù)AMD官方性能測試,MI300X的表現(xiàn)優(yōu)于市面上已有的Nvidia H100 80GB,甚至有可能對即將上市的H200 141GB構(gòu)成威脅。
目前,Meta、微軟等巨頭客戶已采購了大量AMD Instinct MI300系列產(chǎn)品,LaminiAI成為首家公開使用MI300X的公司,該公司與AMD有多年合作,因此優(yōu)先獲得了MI300X的供貨。