首頁(yè)>生活 >
英偉達(dá)AI芯片勁敵 AMD推MI300X可運(yùn)行多達(dá)800億參數(shù)模型 今日熱門 2023-06-14 11:44:01  來源:3DM游戲網(wǎng)

如今AI浪潮席卷全球,且將人工智能列為第一戰(zhàn)略重點(diǎn)后,AMD在AI的技術(shù)創(chuàng)新高地繼續(xù)保持攻勢(shì),并有望改變現(xiàn)存的英偉達(dá)一家獨(dú)大的市場(chǎng)格局。

北京時(shí)間6月14日凌晨,AMD在美國(guó)舊金山舉辦的“數(shù)據(jù)中心和人工智能技術(shù)首映式”活動(dòng)上,正式發(fā)布了MI300系列在內(nèi)的一系列數(shù)據(jù)中心及人工智能相關(guān)技術(shù)產(chǎn)品。AMD董事長(zhǎng)兼CEO蘇姿豐博士(Lisa Su)表示,AI存在大量的市場(chǎng)機(jī)會(huì),而最大的機(jī)遇來自于數(shù)據(jù)中心。

MI300X:能最強(qiáng)生成式AI加速器

此前備受行業(yè)關(guān)注的神秘芯片MI300揭開面紗。實(shí)際上,AMD Instinct MI300系列包括兩款產(chǎn)品:MI300X與MI300A。

據(jù)蘇姿豐介紹,MI300X是目前最先進(jìn)的生成AI加速器?;诘谌鶦DNA架構(gòu),MI300X支持高達(dá)192GB的HBM3內(nèi)存(英偉達(dá)的H100只有80GB),HBM內(nèi)存帶寬也高達(dá)5.2TB/s,Infinity Fabric總線帶寬也有896GB/s,晶體管數(shù)量達(dá)到1530億個(gè)。

借助AMD Instinct MI300X的大內(nèi)存,可以在單個(gè)GPU上適配大型語(yǔ)言模型,例如400億個(gè)參數(shù)模型Falcon-40B,蘇姿豐還在現(xiàn)場(chǎng)利用MI300X演示了內(nèi)容生成,撰寫了一篇關(guān)于舊金山的詩(shī)歌。

MI300A則是業(yè)界首款“CPU+GPU+HBM顯存”一體化的數(shù)據(jù)中心芯片,同時(shí)也是全球首款面向高能和AI工作負(fù)載的APU加速器。MI300A采用3D堆疊和Chiplet技術(shù),配備了9個(gè)基于5nm制程的計(jì)算核心(6個(gè)GCD+3個(gè)CCD),置于4個(gè)基于6nm制程的I/O die之上。晶體管數(shù)量達(dá)到1460億個(gè)、多于英偉達(dá)H100的800億個(gè)。

此外,AMD還推出了由8個(gè)MI300X整合在一起的Instinct臺(tái),具有高達(dá)1.5TB HBM3內(nèi)存。

作為目前AMD AI領(lǐng)域最強(qiáng)芯片,MI300X被視為是對(duì)標(biāo)英偉達(dá)H100的產(chǎn)品。有分析指出,從能上MI300X能顯著超越H100,在部分精度上的能優(yōu)勢(shì)高達(dá)30%甚至更多。

而對(duì)于MI300A,憑借CPU+GPU的能力,產(chǎn)品組合能更高、同時(shí)具有成本優(yōu)勢(shì)。AMD在收購(gòu)賽靈思之后,在加速卡領(lǐng)域的定制化服務(wù)大幅領(lǐng)先英偉達(dá),能夠協(xié)助云廠商在特定算法模塊上進(jìn)行訓(xùn)練,上述因素都將為MI300系列帶來競(jìng)爭(zhēng)優(yōu)勢(shì)。

據(jù)蘇姿豐介紹,MI300A已經(jīng)向客戶送樣,MI300X將于今年Q3送樣,預(yù)計(jì)今年Q4上市。

關(guān)鍵詞: 英偉達(dá)AI芯片 技術(shù)創(chuàng)新 人工智能技術(shù)

相關(guān)閱讀:
熱點(diǎn)
圖片