為儲層計算開辟新的可能性,北大提出基于α-In2Se3的新型人工光電突觸
儲層計算(Reservoir Computing,RC)是一個從循環(huán)神經(jīng)網(wǎng)絡(luò)理論中得出來的計算框架。該框架有可能減少數(shù)據(jù)處理時間,同時還可以提高神經(jīng)形態(tài)設(shè)備的能效。
北京大學(xué)的研究人員推出了一種基于α-硒化銦(α-In2Se3)的新型人工突觸,有助于更有效地在神經(jīng)形態(tài)設(shè)備中重建生物神經(jīng)過程。這種突觸可能對儲層計算應(yīng)用具有非常重要的意義。
北京大學(xué)教授、人工智能研究院類腦智能芯片研究中心主任楊玉超說:「我們的想法源于對一種簡單策略的需求,該策略可用于利用物理系統(tǒng)的動態(tài)響應(yīng)進(jìn)行計算,而物理儲層計算是實(shí)現(xiàn)這一目標(biāo)的有前途的框架,In2Se3是一種非常有趣的材料,也是儲層計算的良好平臺,其豐富的物理特性支持創(chuàng)建多模式、多尺度的儲層計算系統(tǒng),我們希望這將擴(kuò)展物理儲層計算的應(yīng)用場景。」
該研究以「 An optoelectronic synapse based on α-In2Se3 with controllable temporal dynamics for multimode and multiscale reservoir computing 」為題,發(fā)布在《Nature Electronics》上。
論文鏈接:?https://www.nature.com/articles/s41928-022-00847-2?
基于新興設(shè)備的神經(jīng)形態(tài)計算可以克服馮·諾依曼瓶頸——必須在內(nèi)存和處理單元之間傳輸數(shù)據(jù)所產(chǎn)生的限制,并有助于提供節(jié)能的數(shù)據(jù)處理。
儲層計算依賴于人工突觸的使用,可以直接運(yùn)行深度學(xué)習(xí)算法,而無需在內(nèi)存和處理單元之間傳輸數(shù)據(jù)。
二維鐵電材料具有有趣的物理特性、小型化能力以及在記憶和神經(jīng)形態(tài)計算方面的潛在應(yīng)用。特別是范德瓦爾斯半導(dǎo)體材料 α-In2Se3 具有許多優(yōu)越的光電、鐵電和半導(dǎo)體特性,使其成為制造這些人工突觸的理想候選材料。
「In2Se3 同時具有兩個有趣的固有物理特性,即鐵電開關(guān)和光電響應(yīng),」楊玉超教授解釋道。「我們構(gòu)建了一個平面設(shè)備,利用平面內(nèi)鐵電極化進(jìn)行電突觸,同時還引入光作為第三終端以實(shí)現(xiàn)光電響應(yīng)。這種獨(dú)特的結(jié)構(gòu)有效地結(jié)合了兩種物理特性,可以利用鐵電和光電的耦合來實(shí)現(xiàn)異突觸塑性和更高水平的計算功能。」
圖 1:具有異突觸可塑性的 α-In2Se3 突觸。(來源:論文)
在這里,研究人員報告了一種基于鐵電 α-In2Se3 的光電突觸,具有動態(tài)時間響應(yīng),可提供多模和多尺度信號處理。突觸中鐵電和光電過程之間的緊密耦合可用于實(shí)現(xiàn)異突觸可塑性,其弛豫時間尺度可通過光強(qiáng)度或背柵電壓進(jìn)行調(diào)節(jié)。
圖 2 和圖 3 揭示了同一突觸裝置中電和光刺激的時間動力學(xué),這分別歸因于 α-In2Se3 的鐵電和光電特性,因此提供了兩個自由度來調(diào)節(jié)裝置動力學(xué)。更重要的是,如果這兩個不同的物理過程之間存在相互作用,則耦合可能會產(chǎn)生更復(fù)雜的突觸功能。
圖 2:基于鐵電 α-In2Se3 的電突觸。(來源:論文)
圖 3:基于 α-In2Se3 光學(xué)響應(yīng)的光電突觸。(來源:論文)
事實(shí)上,當(dāng)設(shè)備上的光照被視為第三個調(diào)節(jié)終端,而 α-In2Se3 突觸通過電刺激進(jìn)行調(diào)節(jié)時(圖 4),可以實(shí)現(xiàn)異突觸可塑性。研究結(jié)果表明,可以采用恒定光來通過電刺激來調(diào)制鐵電開關(guān)過程。
圖 4:具有光/背柵作為調(diào)制終端的 α-In2Se3 器件的異質(zhì)突觸可塑性。(來源:論文)
當(dāng)人工神經(jīng)網(wǎng)絡(luò) (ANN) 用于處理多模式輸入時,關(guān)鍵挑戰(zhàn)在于實(shí)現(xiàn)多感官融合。每個模態(tài)的特征提取可以由儲層單獨(dú)進(jìn)行,其中每個儲層響應(yīng)一種類型的輸入信號(例如,'EEEE','LLLL'),然后將特征組合并按讀出層。值得注意的是,如果一個儲層可以同時響應(yīng)不同類型的輸入信號,則可以實(shí)現(xiàn)混合輸入(例如,'EEEL'、'EELL'和'ELLL')儲層計算,其中可以同時進(jìn)行特征提取和多感官融合在儲層內(nèi)實(shí)現(xiàn),因此提高了效率。
為了評估他們的人工突觸的性能,研究人員構(gòu)建了一個多模式的儲層計算系統(tǒng)。然后,他們在手寫數(shù)字識別任務(wù)和二維碼識別任務(wù)中測試了該系統(tǒng)的性能。他們發(fā)現(xiàn)它取得了可喜的成果,成功地處理了這兩項數(shù)據(jù)處理任務(wù),準(zhǔn)確率超過 80%。
圖 5:混合輸入儲層計算的多模式手寫數(shù)字識別。(來源:論文)
為了更有效地提取特征并進(jìn)一步提高計算性能,需要在多個時間尺度上運(yùn)行的 RC 系統(tǒng)來提取各種尺度的特征。然而,構(gòu)建在不同時間尺度工作的 RC 系統(tǒng)需要具有可調(diào)弛豫時間的設(shè)備。傳統(tǒng)短期器件中的弛豫時間只能通過控制制造條件來調(diào)整,但在特定器件中是固定的。然而,α-In2Se3 器件的弛豫時間可以通過光或背柵電壓輕松調(diào)整,完全滿足 RC 系統(tǒng)在不同時間尺度下運(yùn)行的要求。
圖 6:使用具有可調(diào)弛豫時間的憶阻器進(jìn)行多時間尺度儲層計算。(來源:論文)
作為這項研究的一部分實(shí)現(xiàn)的人工突觸,可能很快會為儲層計算開辟新的有趣的可能性。此外,可以進(jìn)一步開發(fā)使用該突觸創(chuàng)建的儲層計算系統(tǒng),以處理其他復(fù)雜的信息處理和數(shù)據(jù)分析任務(wù)。
「我們對多模式和多尺度儲層計算系統(tǒng)的展示,從根本上擴(kuò)展了儲層計算系統(tǒng)的處理能力,」楊玉超教授補(bǔ)充道。「在我們最近的研究中,我們專注于計算應(yīng)用,但在未來,我們還希望實(shí)現(xiàn)一個完全集成的神經(jīng)形態(tài)系統(tǒng),包括信息感知。」
相關(guān)報道:?https://techxplore.com/news/2022-11-optoelectronic-synapse-reservoir-based-alpha-indium.html?