首頁>消費 >
熱資訊!邊緣AI芯片有新消息 北大取得重要進展 達到世界先進水平!算力瓶頸下 邊緣AI崛起 2023-04-17 18:40:34  來源:證券時報

北京大學(xué)在邊緣AI芯片研究方面取得進展。


(相關(guān)資料圖)

據(jù)北京大學(xué)官網(wǎng),該校人工智能研究院在面向邊緣AI的可轉(zhuǎn)置存內(nèi)計算芯片方向研究取得重要進展,該研究團隊提出了一種可同時實現(xiàn)高能效模型推斷前饋計算與訓(xùn)練反向傳播計算的可轉(zhuǎn)置存內(nèi)計算電路設(shè)計,該方案能夠直接在邊緣端完成神經(jīng)網(wǎng)絡(luò)的重訓(xùn)練。

報道表示,研究團隊在基于28nm標(biāo)準(zhǔn)的芯片原型驗證該技術(shù),前饋計算時的能效和反向傳播計算能效均達到世界先進水平,該技術(shù)為邊緣端智能提供了低功耗、高魯棒性的AI加速器解決方案。

邊緣AI是傳統(tǒng)云端算力的補充

隨著以ChatGPT為代表的AIGC(人工智能技術(shù)生成內(nèi)容)應(yīng)用大量興起,算力需求大增,同時需要更多的網(wǎng)絡(luò)帶寬成本。此前由于算力資源缺口問題,ChatGPT官網(wǎng)一度停止Plus付費項目的購買,還頻頻下調(diào)提問限制次數(shù)。

傳統(tǒng)的云計算模型通常將大量的數(shù)據(jù)傳輸?shù)綌?shù)據(jù)中心進行處理,然后再將結(jié)果返回到用戶設(shè)備。這種傳統(tǒng)的云計算模型可能存在延遲高、網(wǎng)絡(luò)帶寬消耗大、對隱私和安全性的擔(dān)憂等問題。

邊緣AI運行在邊緣設(shè)備上,不需要將數(shù)據(jù)上傳云端來計算。相較于云端AI,邊緣AI具有低延遲、高安全性、高可靠性、保護用戶隱私等優(yōu)勢。國盛證券表示,由于算力爆發(fā)下產(chǎn)生的海量數(shù)據(jù)傳輸需求,完全依靠IDC(互聯(lián)網(wǎng)數(shù)據(jù)中心)提供中心化算力支撐乃是效率較低的選擇,在此背景下,邊緣計算便成為了傳統(tǒng)云端算力的很好補充。

由于邊緣AI的優(yōu)勢,科技巨頭已將目光盯上。華為、高通均推出邊緣AI產(chǎn)品。今年3月,高通中國在安卓手機上首次演示了模型參數(shù)超過10億的Stable Diffusion;華為將發(fā)布智慧搜圖功能,該功能通過對模型進行小型化處理 。

中信證券表示,華為與高通一定程度上驗證了高性能邊緣AI的可行性,并且表明通過模型壓縮+聯(lián)網(wǎng)智能的方式有望在邊緣端實現(xiàn)AI大模型的體驗。

除了巨頭角逐,邊緣AI應(yīng)用場景持續(xù)豐富。4月初,天貓精靈接入GPT大模型;4月11日,美國智能眼鏡開發(fā)商推出可以為智能眼鏡用戶提供ChatGPT的語音服務(wù)。

國盛證券表示,大模型將大幅提升智能硬件的使用體驗,同時智能硬件本身也將成為愈發(fā)重要的AI入口。當(dāng)前隨著物聯(lián)網(wǎng)模組邁入“智能化”時代,集成了邊緣算力的“智能模組”,正在逐漸成為支撐硬件智能化與邊緣算力的核心形式。

邊緣計算市場廣闊

市場空間方面,根據(jù)中國信息通信研究院顯示,2021年我國邊緣計算市場規(guī)模為436億元,預(yù)計2024年規(guī)模將達1804億元,2022年-2024年復(fù)合增速達61%。研究機構(gòu)ABI Research預(yù)測,到2025年邊緣AI芯片組市場的收入將達到122億美元,邊緣AI芯片組市場將超過云AI芯片組市場。

具體公司方面,國盛證券指出,智能模組作為承載邊緣算力的最佳模式,是智能硬件放量下最具有確定性和彈性的投資方向。模組龍頭關(guān)注移遠通信、美格智能、廣和通;通信設(shè)備及芯片關(guān)注中興通訊、翱捷科技、初靈信息。

證券時報·數(shù)據(jù)寶梳理,移遠通信是全球通信模組龍頭,其智能模組產(chǎn)品管線最為齊全,截至目前已有超過10款智能模組正在商用或處于工程樣片、商業(yè)樣片階段。

美格智能深耕智能模組產(chǎn)品研發(fā),智能模組出貨量居于行業(yè)前列,并于行業(yè)內(nèi)首家推出5G 智能模組。

中科創(chuàng)達在接受結(jié)構(gòu)調(diào)研時表示,公司在邊緣計算和行業(yè)領(lǐng)域已經(jīng)初具規(guī)模,以公司邊緣計算技術(shù)為核心的智能行業(yè)相關(guān)業(yè)務(wù),2022年度實現(xiàn)營業(yè)收入2.2億元。

初靈信息在互動平臺表示,公司的邊緣計算、邊緣端的數(shù)據(jù)處理是支持“萬物互聯(lián)”的關(guān)鍵終端要素之一。

廣和通是首家A股上市的模組廠商,公司已有AI智能模組布局。

在互動平臺上,奧拓電子、南凌科技、中科信息、狄耐克、中富通、拓維信息等均有回復(fù)涉及邊緣計算業(yè)務(wù)的問題。

(文章來源:證券時報)

關(guān)鍵詞:

相關(guān)閱讀:
熱點
圖片