5月22日消息,荷蘭芯片廠(chǎng)商 Innatera 近日正式發(fā)布了第一款使用基于神經(jīng)形態(tài)架構(gòu)的商用RISC-V微控制器Pulsar ,主要用于AI傳感器應(yīng)用。
據(jù)介紹,Pulsar 是將模擬和數(shù)字神經(jīng)形態(tài)模塊與傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)加速器和 RISC-V 內(nèi)核相結(jié)合。與傳統(tǒng)的 AI 處理器相比,它的延遲降低了 100 倍,能耗降低了 500 倍,芯片尺寸為 2.6 x 2.8 毫米,采用臺(tái)積電的標(biāo)準(zhǔn) 28nm 工藝制造。
△Innatera 展示 RISC-V 神經(jīng)形態(tài)邊緣 AI 芯片
“Pulsar 不僅僅是一款 AI 芯片——這也是世界上第一個(gè)量產(chǎn)的神經(jīng)形態(tài)微控制器,代表了我們將智能帶到邊緣的方式的根本轉(zhuǎn)變,”Innatera 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Sumeet Kumar指出:“去年全球出貨了 380 億個(gè)傳感器,到 2030 年將增長(zhǎng)到 600 億個(gè),所有這些在邊緣處理,都將比我們將其發(fā)送到云端的速度更快地生成數(shù)據(jù),邊緣處理將是大勢(shì)所趨。但是,部署在微控制器上的模型受到限制,應(yīng)用程序開(kāi)發(fā)人員必須在功能、精度和功耗之間進(jìn)行權(quán)衡?!?/p>
Sumeet Kumar表:“此次Pulsar的發(fā)布是十多年來(lái)在神經(jīng)形態(tài)計(jì)算方面的深入研究和工程設(shè)計(jì)的結(jié)晶,并結(jié)合了開(kāi)創(chuàng)性的異構(gòu)架構(gòu)。它標(biāo)志著我們的類(lèi)腦技術(shù)為大眾市場(chǎng)部署做好準(zhǔn)備的時(shí)刻。這實(shí)際上是傳感器唯一需要的微控制器?!?/p>
模擬神經(jīng)網(wǎng)絡(luò) (ANN) 內(nèi)核使用時(shí)間電壓脈沖來(lái)識(shí)別模式并提取信息以進(jìn)行時(shí)間序列處理,而無(wú)需復(fù)雜的模型。Sumeet Kumar說(shuō):“ANN 加速器完全使用尖峰進(jìn)行計(jì)算,它是一個(gè)由神經(jīng)元和突觸組成的大型結(jié)構(gòu),帶有模擬和數(shù)字設(shè)備,延遲為 1ms,功耗低于 1mW?!?/p>
“在該結(jié)構(gòu)中,關(guān)鍵是帶有電容器的交叉開(kāi)關(guān)網(wǎng)絡(luò),這個(gè)過(guò)程不是線(xiàn)性的,而是指數(shù)級(jí)的,這在模擬域中使用單個(gè)晶體管就很簡(jiǎn)單,”他說(shuō)?!拔覀儾捎脭?shù)字尖峰神經(jīng)網(wǎng)絡(luò)的原因是為了實(shí)現(xiàn)可配置性和靈活性——這是通過(guò)門(mén)和乘法器實(shí)現(xiàn)的。計(jì)算是異步和事件驅(qū)動(dòng)的,計(jì)算在數(shù)據(jù)傳入時(shí)隨時(shí)進(jìn)行。在 CNN 中,你可以一次獲取所有數(shù)據(jù)并進(jìn)行計(jì)算?!?/p>
“我們看到很多客戶(hù)使用現(xiàn)有的 AI 模型,他們可以直接切換,但通常傳統(tǒng)的 CNN 會(huì)像圖像一樣查看帶有緩沖功能的所有內(nèi)容,所有這些都需要大量功率,而峰值網(wǎng)絡(luò)可以有效地處理流數(shù)據(jù)。例如,用于手勢(shì)識(shí)別的 1m 參數(shù) CNN 模型可以用 10,000 個(gè)參數(shù)、3kbyte、54 個(gè)神經(jīng)元的模型來(lái)實(shí)現(xiàn),而且功耗非常低。對(duì)于大多數(shù)應(yīng)用程序問(wèn)題,你必須選擇 AI 方法,因此添加 CNN 開(kāi)發(fā)人員可以為工作添加正確的工具,”他說(shuō)。
他還指出,無(wú)線(xiàn)耳機(jī)每次推理的音頻感應(yīng)分類(lèi)能量降低了 100 倍,達(dá)到 400 μW,模型縮小了 33 倍,準(zhǔn)確率相同,達(dá)到 90%+。聲音識(shí)別每次推理的能耗降低了 88 倍,而準(zhǔn)確性和延遲相同。雷達(dá)手勢(shì)識(shí)別的能量比 CNN 加速器低 42 倍(600 μW),延遲低 167 倍。
芯片設(shè)計(jì)的一個(gè)關(guān)鍵部分是具有與傳感器的接口,包括攝像頭和醫(yī)療傳感器。另一個(gè)關(guān)鍵要素是名為 Talamo 的軟件設(shè)計(jì)工具包 (SDK) 和用于尖峰網(wǎng)絡(luò)的庫(kù)。
“Talamo SDK 旨在通過(guò)一個(gè)擴(kuò)展與 PyTorch 連接,該擴(kuò)展引入了所有脈沖基礎(chǔ)設(shè)施,因此開(kāi)發(fā)人員處于熟悉的環(huán)境中,并且模型描述與訓(xùn)練數(shù)據(jù)一起以 python 編寫(xiě),我們的 SNN 編譯器將模型映射到芯片架構(gòu)上,這從根本上減少了神經(jīng)形態(tài)計(jì)算的障礙,從而可以輕松地構(gòu)建脈沖模型并將其部署到框架上?!?/p>
Innatera 正在推出其開(kāi)發(fā)人員計(jì)劃,該計(jì)劃現(xiàn)已向早期采用者開(kāi)放,并于 7 月推出神經(jīng)形態(tài)開(kāi)發(fā)板。即將推出的開(kāi)源 PyTorch 前端和市場(chǎng)將為神經(jīng)形態(tài) AI 創(chuàng)建一個(gè)更具協(xié)作性的生態(tài)系統(tǒng)。