頂點(diǎn)光電子商城6月26日消息:近日,愛芯元智第三代高算力、高能效比的SoC芯片——AX650N參與2023世界人工智能大會,該芯片具有高性能、高精度、易部署、低功耗的特點(diǎn)。
SoC芯片(System-on-a-Chip)指的是一種集成度非常高的芯片解決方案,它將微處理器、內(nèi)存、輸入輸出接口和一些其他數(shù)字電路等電子元器件和功能模塊,全部集合在一塊甚至更小的芯片上。這些芯片通常是用于智能手機(jī)、平板電腦、數(shù)碼相機(jī)、智能家居和物聯(lián)網(wǎng)等嵌入式系統(tǒng)中,以實(shí)現(xiàn)高度集成、高效、低功耗、低成本、小尺寸、輕量化等特點(diǎn)的優(yōu)勢。
在性能方面,AX650N有361幀的高性能,可媲美汽車自動駕駛領(lǐng)域基于GPU的高端域控SoC;而80.45%的高精度成績同樣高于市面平均水平;199 FPS/W的速度則充分體現(xiàn)出低功耗的特點(diǎn),對比于目前基于GPU的高端域控SoC,有著數(shù)倍的優(yōu)勢;更為重要的,AX650N部署方便,GitHub上的原版模型可以在愛芯元智的平臺上高效運(yùn)行,不需要對模型做修改,亦無需QAT重新訓(xùn)練。
此外,AX650N支持低比特混合精度,用戶如果采用INT4,可以極大地減少內(nèi)存和帶寬占用率,達(dá)到有效控制端側(cè)、邊緣側(cè)部署成本的目的。這些特性都保證了AX650N作為人工智能算力平臺,最終落地效果更好用、更易用,且大幅提升了用戶效率。
在應(yīng)用方面,AX650N已適配包括ViT/DeiT、Swin/SwinV2、DETR在內(nèi)的Transformer模型,在DINOv2也已達(dá)到30幀以上的運(yùn)行結(jié)果,這也更便于用戶在下游進(jìn)行檢測、分類、分割等操作。
基于AX650N的產(chǎn)品目前已在智慧城市、智慧教育、智能制造等計算機(jī)視覺核心領(lǐng)域發(fā)揮出重要作用。
SoC芯片采用的技術(shù)包括硬件設(shè)計和軟件設(shè)計。硬件設(shè)計主要涉及芯片的電路設(shè)計、布局設(shè)計、封裝設(shè)計等,而軟件設(shè)計主要包括嵌入式操作系統(tǒng)(如Android),驅(qū)動程序、應(yīng)用軟件等。
接下來,愛芯元智AX650N將會針對Transformer結(jié)構(gòu)進(jìn)行持續(xù)優(yōu)化,并且探索更多的Transformer大模型。