英特爾嗅到了神經(jīng)擬態(tài)“芯”機(jī)遇
所屬頻道:新聞中心
英特爾最新的神經(jīng)形態(tài)系統(tǒng)——Pohoiki Springs,該系統(tǒng)于2020年3月發(fā)布,它集成了768個(gè)Loihi神經(jīng)形態(tài)研究芯片,其底盤(pán)大小相當(dāng)于5臺(tái)標(biāo)準(zhǔn)服務(wù)器。據(jù)悉,英特爾發(fā)布的這一款面向神經(jīng)擬態(tài)計(jì)算的實(shí)驗(yàn)研究系統(tǒng),是一種可模擬人腦工作方式的先進(jìn)方法,僅用極少能量就能更快完成計(jì)算。
神經(jīng)形態(tài)計(jì)算要成為系統(tǒng)的一部分還有很長(zhǎng)的路要走。盡管一些用例顯示了顯著的前景,但將問(wèn)題映射到架構(gòu)仍然是一個(gè)不小的挑戰(zhàn)。此外,像量子計(jì)算一樣,大多主要的芯片和系統(tǒng)廠商都對(duì)探索技術(shù)可能性深感興趣,英特爾也不例外。
由于可以用神經(jīng)形態(tài)芯片解決的問(wèn)題范圍仍然有限,英特爾將重點(diǎn)放在了一個(gè)非常具體的用例上,以突出基于“Loihi”架構(gòu)的64芯片系統(tǒng)的進(jìn)步。它們使用一個(gè)叫做“Pohoiki Springs”的系統(tǒng),它已經(jīng)擴(kuò)展到768個(gè)Loihi芯片(1億個(gè)神經(jīng)元),把它安裝在一個(gè)5U機(jī)架底座的英特爾處理器中,并展示了一個(gè)神經(jīng)形態(tài)系統(tǒng)如何用一個(gè)小的訓(xùn)練樣本,在一個(gè)只消耗300瓦功率的系統(tǒng)中如何精確的地識(shí)別氣味。
神經(jīng)擬態(tài)芯片將成為未來(lái)主要武器?
據(jù)技術(shù)研究公司Gartner預(yù)測(cè),到2025年,神經(jīng)擬態(tài)芯片將成為新的高級(jí)人工智能部署的主要計(jì)算架構(gòu)。Gartner預(yù)計(jì),到2025年,該技術(shù)有望取代圖形處理器,成為用于AI系統(tǒng)(尤其是神經(jīng)網(wǎng)絡(luò))的主要計(jì)算機(jī)芯片之一。神經(jīng)網(wǎng)絡(luò)用于語(yǔ)音識(shí)別和理解,以及計(jì)算機(jī)視覺(jué)領(lǐng)域。
通過(guò)神經(jīng)擬態(tài)計(jì)算,只需使用在傳統(tǒng)計(jì)算硬件上訓(xùn)練機(jī)器學(xué)習(xí)模型所需的一小部分?jǐn)?shù)據(jù),即可訓(xùn)練機(jī)器學(xué)習(xí)模型。英特爾神經(jīng)擬態(tài)計(jì)算實(shí)驗(yàn)室主任Mike Davies表示:“這意味著模型的學(xué)習(xí)方式類(lèi)似于人類(lèi)嬰兒的學(xué)習(xí)方式,只需看一眼圖像或玩具,就能永遠(yuǎn)記住?!?/span>
“如此就[有可能]實(shí)現(xiàn)一些今天難以處理的計(jì)算”,因?yàn)檫@些計(jì)算需要消耗大量能量或耗用太多時(shí)間。Davies還表示,如果出現(xiàn)大范圍停電的情況,神經(jīng)擬態(tài)計(jì)算可以自動(dòng)幫助識(shí)別某些最迫切需要電力的區(qū)域。神經(jīng)擬態(tài)計(jì)算還可以幫助消費(fèi)者更準(zhǔn)確地找到與特定產(chǎn)品圖片相似或匹配的物品。
Davies表示,Pohoiki Springs系統(tǒng)不同于傳統(tǒng)機(jī)器,其內(nèi)存和計(jì)算元件彼此交融,而不是相互獨(dú)立。這樣就能把數(shù)據(jù)傳輸?shù)木嚯x降至最低,因?yàn)樵趥鹘y(tǒng)計(jì)算架構(gòu)中,數(shù)據(jù)必須在內(nèi)存和計(jì)算之間來(lái)回流動(dòng)。
英特爾研究人員最近使用單個(gè)神經(jīng)擬態(tài)研究芯片來(lái)訓(xùn)練AI系統(tǒng)識(shí)別有害氣味,每個(gè)氣味使用一個(gè)訓(xùn)練樣本,而先進(jìn)的深度學(xué)習(xí)方法則需要使用3000個(gè)樣本,因此神經(jīng)擬態(tài)計(jì)算所需的能量極低。
在實(shí)驗(yàn)中,機(jī)器學(xué)習(xí)模型能夠檢測(cè)出化學(xué)傳感器中不同的氣味,例如氨、丙酮和甲烷的氣味,即使它們被不同的氣味所掩蓋。這些氣味表明可能存在爆炸物和毒品。
Pohoiki Springs系統(tǒng)的機(jī)箱為五個(gè)標(biāo)準(zhǔn)服務(wù)器大小,內(nèi)部有大約770個(gè)這樣的神經(jīng)擬態(tài)研究芯片。Davies表示,該系統(tǒng)擁有大約1億個(gè)神經(jīng)元的計(jì)算能力,大致相當(dāng)于鼴鼠的大腦。
埃森哲技術(shù)研究院(Accenture Labs)首席研究科學(xué)家Edy Liongosari表示,神經(jīng)擬態(tài)計(jì)算的其中一項(xiàng)主要優(yōu)勢(shì)包括,可以用更低能量執(zhí)行基于AI的計(jì)算。
能耗會(huì)對(duì)大規(guī)模AI部署形成阻礙。麻省大學(xué)阿默斯特分校的研究人員稱(chēng),開(kāi)發(fā)一款A(yù)I模型,其碳足跡就相當(dāng)于五輛普通美國(guó)汽車(chē)的終生排放量。
自2018年以來(lái),埃森哲技術(shù)研究院就一直與英特爾的神經(jīng)擬態(tài)計(jì)算研究人員合作,研究該技術(shù)能在哪些方面對(duì)聯(lián)網(wǎng)設(shè)備(例如持續(xù)進(jìn)行運(yùn)動(dòng)檢測(cè)的安全攝像頭)中使用的AI算法帶來(lái)幫助。神經(jīng)擬態(tài)芯片最終有可能嵌入攝像頭中。“在某些用例中,能量彌足珍貴,”Liongosari先生表示。
這種攝像頭會(huì)不斷對(duì)大量數(shù)據(jù)進(jìn)行分析,因此需要使用能量來(lái)識(shí)別入侵等異常情況。神經(jīng)擬態(tài)計(jì)算可以為機(jī)器學(xué)習(xí)算法提供幫助,使用遠(yuǎn)少于傳統(tǒng)算法的訓(xùn)練數(shù)據(jù)就能識(shí)別入侵。
Pohoiki Beach真的能夠像人類(lèi)大腦那般思考?
對(duì)于新研制的“Pohoiki Springs”是基于英特爾的“Nahuku”基板,每個(gè)板包含8到32個(gè)Loihi處理器,它是一個(gè)由2到8個(gè)板組成的64處理器系統(tǒng)(英特爾沒(méi)有提供確切配置的細(xì)節(jié),包括芯片和基板是如何聯(lián)網(wǎng)的。同樣的系統(tǒng)現(xiàn)在已經(jīng)擴(kuò)展到前面提到的768個(gè)芯片。
Loihi是2017年9月英特爾實(shí)驗(yàn)室推出的自學(xué)習(xí)神經(jīng)形態(tài)芯片,基于14nm的制程工藝,管芯尺寸60毫米,包含超過(guò)20億個(gè)晶體管、13萬(wàn)個(gè)人工神經(jīng)元和1.3億個(gè)突觸。它作為多核網(wǎng)格的實(shí)現(xiàn),到2020年將大幅增加,神經(jīng)元數(shù)量將超過(guò)100萬(wàn)個(gè)。每個(gè)核心包含一個(gè)“學(xué)習(xí)引擎”,可以支持不同類(lèi)型的人工智能模型,包括監(jiān)督、非監(jiān)督和強(qiáng)化學(xué)習(xí)等。根據(jù)Intel介紹,Loihi在處理稀疏編碼、圖形搜索和約束滿足問(wèn)題等應(yīng)用程序方面比cpu快1000倍,效率高10000倍。該芯片已經(jīng)通過(guò)云服務(wù)和Kapoho Bay平臺(tái)(一個(gè)基于Loihi的USB形狀因子設(shè)備)提供給英特爾神經(jīng)形態(tài)研究社區(qū)(INRC)的研究人員。
與大腦一樣,Loihi處理某些高要求的工作負(fù)載的速度比傳統(tǒng)處理器快1000倍,效率高10000倍。Pohoiki Springs是擴(kuò)展此架構(gòu)的下一步計(jì)劃,以評(píng)估其解決人工智能問(wèn)題以及解決各種計(jì)算難題的潛力。英特爾研究人員認(rèn)為,與當(dāng)今最先進(jìn)的傳統(tǒng)計(jì)算機(jī)相比,神經(jīng)形態(tài)系統(tǒng)的極端并行性和異步信令可能在大幅降低功率級(jí)別的情況下提供顯著的性能提升。
據(jù)英特爾神經(jīng)形態(tài)計(jì)算項(xiàng)目的負(fù)責(zé)人Mike Davies介紹,這些特殊的系統(tǒng)可以被醫(yī)生用來(lái)嗅出疾病,比如在機(jī)場(chǎng)探測(cè)武器、藥物、炸彈或危險(xiǎn)化學(xué)品的制造地點(diǎn)。
雖然使用專(zhuān)門(mén)的神經(jīng)形態(tài)體系結(jié)構(gòu)和繁瑣的編程套件來(lái)完成所有這些工作聽(tīng)起來(lái)有些牽強(qiáng),但是神經(jīng)網(wǎng)絡(luò)也可以選擇類(lèi)似的模式(就像谷歌和其他人所展示的那樣),神經(jīng)形態(tài)系統(tǒng)有一些傳統(tǒng)的深度學(xué)習(xí)模型和機(jī)器無(wú)法觸及的特性。能源效率和時(shí)間是兩個(gè)最突出優(yōu)勢(shì)。
效率的提高來(lái)自于在神經(jīng)形態(tài)系統(tǒng)上完全集成計(jì)算機(jī)和存儲(chǔ)器。流指令和數(shù)據(jù)不需要通過(guò)單獨(dú)的內(nèi)存。所有東西都集成到一個(gè)分布式的計(jì)算和內(nèi)存結(jié)構(gòu)中。Davies解釋?zhuān)@一切都?xì)w結(jié)于不對(duì)稱(chēng)特性。“想讓系統(tǒng)進(jìn)行通信是一個(gè)能量消耗問(wèn)題。如果你沒(méi)有發(fā)送任何0二進(jìn)制值就意味著不使用能源。以這種時(shí)間方式發(fā)送信息,在某個(gè)時(shí)間點(diǎn)發(fā)送編碼是一種發(fā)送信息的方式,你可以用這些代碼來(lái)計(jì)算,這樣你就可以選擇“0”狀態(tài)?!皢?wèn)題是,要達(dá)到那種狀態(tài),需要重新思考算法。這就是“spiking”神經(jīng)形態(tài)系統(tǒng)中尖峰的全部含義。
“Pohoiki Springs將我們的Loihi神經(jīng)形態(tài)研究芯片擴(kuò)大了750倍以上,同時(shí)運(yùn)行的功率水平低于500瓦。該系統(tǒng)使我們的研究伙伴能夠探索在傳統(tǒng)架構(gòu)(包括高性能計(jì)算(HPC)系統(tǒng))上運(yùn)行緩慢的工作負(fù)載的加速方法?!?/span>
根據(jù)滑鐵盧大學(xué)教授、應(yīng)用大腦研究部聯(lián)合首席執(zhí)行官Chris Eliasmith的說(shuō)法,Loihi芯片在運(yùn)行實(shí)時(shí)深度學(xué)習(xí)基準(zhǔn)的功耗降低了109倍,而與專(zhuān)用物聯(lián)網(wǎng)推理硬件相比,功耗則降低了5倍。如果將網(wǎng)絡(luò)規(guī)模擴(kuò)大50倍,Loihi能夠保持實(shí)時(shí)性能表現(xiàn),功耗卻只增加了30%,傳統(tǒng)物聯(lián)網(wǎng)硬件功耗則已經(jīng)增加了500%。
所以英特爾Pohoiki Beach系統(tǒng)擅長(zhǎng)的工作十分突出。工作人員能夠利用這套系統(tǒng)高效擴(kuò)展新型神經(jīng)啟發(fā)式算法——例如稀疏編碼、同步定位和建圖(SLAM)以及路徑規(guī)劃,這些算法能夠根據(jù)輸入的數(shù)據(jù)進(jìn)行學(xué)習(xí)和調(diào)整。Pohoiki Beach是英特爾神經(jīng)擬態(tài)研究工作的重要里程碑,它為英特爾研究院在今年晚些時(shí)候?qū)⒃摷軜?gòu)擴(kuò)展到1億個(gè)神經(jīng)元的計(jì)劃奠定了基礎(chǔ)。
舉個(gè)例子,英特爾Pohoiki Beach系統(tǒng)可以突破傳統(tǒng)通用計(jì)算技術(shù)的性能桎梏,對(duì)諸如自動(dòng)駕駛、智能家居、網(wǎng)絡(luò)安全有更明顯的效率提升效率。由于不需要全局時(shí)鐘信號(hào),使用的是異步脈沖神經(jīng)網(wǎng)絡(luò)(SNN),Pohoiki Beach能更高效的解決數(shù)量龐大IoT物聯(lián)網(wǎng)所帶來(lái)的問(wèn)題。
從理論上說(shuō),英特爾Loihi芯片可以擴(kuò)展到最多16384顆芯片互連,相當(dāng)于20億個(gè)神經(jīng)元,能夠接近人腦860億個(gè)神經(jīng)元2%的數(shù)量。不要小看對(duì)比數(shù)字微不足道,摩爾定律在前沿領(lǐng)域依然奏效,如果有需要,Loihi的參數(shù)也將會(huì)呈指數(shù)級(jí)增長(zhǎng)。能模擬人腦方式進(jìn)行思考的方式,興許不會(huì)太遙遠(yuǎn)了。
(審核編輯: 智匯婷婷)