您的位置:首頁 > 資訊 >

AI模擬芯片能效達(dá)傳統(tǒng)芯片14倍


(資料圖片)

《自然》23日發(fā)表的研究報道了一種能效為傳統(tǒng)數(shù)字計算機(jī)芯片14倍的人工智能(AI)模擬芯片。這一由IBM研究實(shí)驗室開發(fā)的芯片在語音識別上的效率超過了通用處理器。該技術(shù)或能突破當(dāng)前AI開發(fā)中因算力性能不足和效率不高而遇到的瓶頸。

隨著AI技術(shù)的崛起,對能源和資源的需求也隨之上升。在語音識別領(lǐng)域,軟件升級極大提升了自動轉(zhuǎn)寫的準(zhǔn)確率,但由于在存儲器與處理器之間移動的運(yùn)算量不斷增加,硬件無法跟上訓(xùn)練和運(yùn)行這些模型所需的數(shù)以百萬計的參數(shù)。研究人員提出的一個解決辦法是,使用“存內(nèi)計算”(CiM,或稱模擬AI)芯片。模擬AI系統(tǒng)通過直接在它自己的存儲器內(nèi)執(zhí)行運(yùn)算來防止低效,而數(shù)字處理器需要額外時間和能源在存儲器和處理器之間移動數(shù)據(jù)。模擬AI芯片預(yù)計能極大提升AI計算的能效,但對此的實(shí)際演示一直缺乏。

研究團(tuán)隊此次開發(fā)了一個14納米的模擬芯片,在34個模塊(tile)中含有3500萬個相變化內(nèi)存單元。研究團(tuán)隊用兩個語音識別軟件在語言處理能力上測試了該芯片的效率,這兩個軟件分別是一個小網(wǎng)絡(luò)(谷歌語音命令)和一個大網(wǎng)絡(luò)(Librispeech語音識別),并在自然語言處理任務(wù)上與行業(yè)標(biāo)準(zhǔn)進(jìn)行對比。小網(wǎng)絡(luò)的性能和準(zhǔn)確率與當(dāng)前的數(shù)字技術(shù)相當(dāng)。對于更大的Librispeech模型來說,該芯片能達(dá)到每秒每瓦12.4萬億次運(yùn)算,系統(tǒng)性能估計最高能達(dá)到傳統(tǒng)通用處理器的14倍。

研究團(tuán)隊總結(jié)道,該研究在小模型和大模型中同時驗證了模擬AI技術(shù)的性能和效率,有望成為數(shù)字系統(tǒng)的商業(yè)可行的替代選擇。 

標(biāo)簽:

相關(guān)閱讀