原創(chuàng)DPU重構(gòu)計算模式-
作者:袁一雪
發(fā)布時間:2021-05-06
瀏覽次數(shù):973
原創(chuàng)DPU重構(gòu)計算模式-

?

該研究論文登上《自然—光子學》封面

衍射光電智能計算體系構(gòu)架和理論方法在很大程度上解決了領(lǐng)域內(nèi)困擾已久的難題,為研發(fā)高性能光電智能處理器和芯片打開了更為廣闊的空間,也為促進該領(lǐng)域的發(fā)展及其產(chǎn)業(yè)落地做出了一定貢獻。

■本報記者 袁一雪

在過去的十年,電子驅(qū)動的計算處理器對人工智能(AI)發(fā)展產(chǎn)生了巨大影響。但隨著技術(shù)的發(fā)展,電子硬件的性能即將觸摸到“天花板”,而只有突破“天花板”才能讓人工智能發(fā)展更進一步。

能夠替代電子驅(qū)動計算處理器的光學計算處理器,一直為研究人員所倚重。它不僅能夠克服電子學的固有限制,還可以將能效、處理速度和計算吞吐量提高幾個數(shù)量級。

目前,已經(jīng)有研究人員利用光學計算的特性,構(gòu)建專用光學處理器,其在數(shù)據(jù)和信號處理方面所表現(xiàn)出的性能遠遠超過現(xiàn)在的電子處理器。然而,現(xiàn)有的光學AI加速器只能為特定神經(jīng)網(wǎng)絡體系結(jié)構(gòu)或特定任務定制單一功能。換言之,對于不同任務的不同AI算法,現(xiàn)在的“設備”顯得有些“力不從心”。不僅如此,現(xiàn)有的光神經(jīng)網(wǎng)絡模型復雜度和實驗性能水平較低,導致網(wǎng)絡性能(如分類精度)與最先進的電子神經(jīng)網(wǎng)絡相比存在較大差距。

近日,中國工程院院士戴瓊海團隊提出了一種光電可重構(gòu)計算模式,針對光學網(wǎng)絡設計空間的靈活性有限、難以集成理想的非線性運算,以及難以靈活控制復雜的數(shù)據(jù)流等問題提出了新的解決思路。

將AI加速處理器推向新高度

5月5日,這篇第一作者是清華大學博士研究生周天貺、通訊作者為戴瓊海的論文登上《自然—光子學》期刊封面。該論文作者之一、清華腦與認知科學研究院及未來芯片技術(shù)高精尖創(chuàng)新中心特聘研究員林星在接受《中國科學報》采訪時表示,針對現(xiàn)有光學神經(jīng)網(wǎng)絡模型復雜度低、可重構(gòu)難以實現(xiàn)以及實驗性能不佳等難題的關(guān)鍵原因,該團隊通過以下三方面進行了突破:

首先,該團隊在空頻域開辟了衍射光學計算的新型光電計算構(gòu)架?!把苌渲悄芄庥嬎銟?gòu)架,縮寫為DPU,是基于光學衍射的物理現(xiàn)象,通過構(gòu)建大規(guī)模的光學相控陣列以實現(xiàn)高復雜度的光學互聯(lián)和神經(jīng)網(wǎng)絡構(gòu)架。其原理具備高度的可擴展性和集成潛力?!绷中墙忉尩?,“我們這次的研究工作通過采用高通量可編程的光電器件,融合光計算和電計算的互補性優(yōu)勢,將其在構(gòu)建人工智能加速處理器的應用推向了一個新的高度?!?/p>

其次,這次提出的DPU充分利用了光的波粒二象性,神經(jīng)網(wǎng)絡權(quán)重的調(diào)整通過控制光波傳播的波前分布來實現(xiàn),采用光電效應實現(xiàn)人工神經(jīng)元的功能,包括對衍射光場的線性加權(quán)求和以及非線性激活響應。林星解釋說,系統(tǒng)運行過程衍射光計算部分幾乎承擔所有計算操作,而采用高通量可編程的光電器件并結(jié)合電子計算的靈活特性,能夠?qū)崿F(xiàn)高速數(shù)據(jù)調(diào)控及大規(guī)模網(wǎng)絡參數(shù)的編程和網(wǎng)絡結(jié)構(gòu)的重構(gòu)。此外,由于光計算部分采用了三維光場傳播,避免了對圖像和視頻的向量化處理和尋址操作,從而實現(xiàn)了視覺信息的高效處理。

最后,此次研究提出了一種自適應在線訓練方法來校正系統(tǒng)誤差累積,而這種自適應的訓練方法通過測量神經(jīng)網(wǎng)絡內(nèi)部的狀態(tài)實現(xiàn)對計算參數(shù)的實時調(diào)整。因此,在不依賴網(wǎng)絡結(jié)構(gòu)且不增加系統(tǒng)復雜度的情況下,該DPU能夠普適于現(xiàn)有的光電智能計算系統(tǒng)。

“可以說我們這次研究工作所提出的衍射光電智能計算體系構(gòu)架和理論方法在很大程度上解決了上述領(lǐng)域內(nèi)困擾已久的難題,通過構(gòu)建原型系統(tǒng)及可擴展性分析驗證了光電智能計算的優(yōu)越性和巨大潛力,為研發(fā)高性能光電智能處理器和芯片打開了更為廣闊的空間,也為促進該領(lǐng)域的發(fā)展及其產(chǎn)業(yè)落地做出了一定貢獻?!绷中茄a充道。

分類識別精度有所提升

取得這樣的成績并不容易。事實上,在研究之初,該團隊研究人員就已經(jīng)對前路的崎嶇有著充足的心理準備。“我們的研究目標是要通過解決光電智能計算領(lǐng)域中的難點問題,提高其在執(zhí)行分類和識別等任務上的模型與實驗精度?!绷中腔貞浾f。

起初,研究人員構(gòu)建的全連接的網(wǎng)絡模型性能有限,也曾經(jīng)受到系統(tǒng)不穩(wěn)定的困擾。不過,解決問題的過程就是團隊不斷創(chuàng)新的過程。團隊成員經(jīng)過反復討論并調(diào)整光電神經(jīng)網(wǎng)絡構(gòu)架和超參數(shù),最終創(chuàng)建了網(wǎng)絡中網(wǎng)絡模型?!拔覀兊墓怆娚窠?jīng)網(wǎng)絡在MNIST手寫數(shù)據(jù)集和Fashion-MNIST時尚產(chǎn)品數(shù)據(jù)集上的模型精度都超越了卷積神經(jīng)網(wǎng)絡LeNet-4,并逼近LeNet-5?!绷中潜硎?。

而且,通過不斷進行的硬件系統(tǒng)優(yōu)化,包括更換所采用的光電器件及其相應機械固定件設計等,以及開發(fā)自適應訓練算法,研究人員也提升了系統(tǒng)實驗的穩(wěn)定性。

“此外,我們也花了大量的時間優(yōu)化和升級光電器件的數(shù)據(jù)接口,以提升系統(tǒng)帶寬和數(shù)據(jù)調(diào)控速度,最終實現(xiàn)了高速的圖像和視頻的分類識別?!绷中歉嬖V記者,“運行同樣的神經(jīng)網(wǎng)絡,光電計算系統(tǒng)與特斯拉V100圖形處理器(GPU)相比,計算速度提高了8倍,系統(tǒng)能效提升超過1個數(shù)量級,核心模塊計算能效則能夠提升4個數(shù)量級?!?/p>

有望讓我國在新一輪科技變革中占得先機

“長期以來,我國在電子計算以及芯片領(lǐng)域受到高精度光刻機等制約,一直處于落后位置。光電計算為我國擺脫這一制約提供了可能?!贝鳝偤8嬖V《中國科學報》,“光電智能計算與芯片是一個非常廣闊的前沿研究領(lǐng)域,這需要多學科的交叉融合。希望我們的研究工作能夠吸引國內(nèi)更多不同背景的科研人員和研究機構(gòu)從事這個領(lǐng)域的研究,從而推動我國在該領(lǐng)域?qū)W術(shù)圈乃至產(chǎn)業(yè)生態(tài)圈的建設?!?/p>

戴瓊海團隊抓住光學計算與芯片發(fā)展的機遇,在其原理驗證和原型系統(tǒng)的構(gòu)建等方面率先展開了原創(chuàng)性的研究工作,所提出的計算范式將促進領(lǐng)域光電材料、光電器件、加工工藝以及集成方法的研發(fā)。

談及未來,戴瓊海與林星皆表示,將進一步挖掘光電智能計算技術(shù)的潛力,致力于解決系統(tǒng)小型化和芯片集成的難點問題?!拔覀儗⑹褂贸牧蠘?gòu)建片上相控陣列實現(xiàn)原型系統(tǒng)的芯片集成,從而更為全面地體現(xiàn)光電智能計算的優(yōu)越性?!贝鳝偤Uf。

巴黎中央理工—高等電力學院教授Daniel Brunner與瑞士聯(lián)邦理工學院洛桑分校教授Demetri Psaltis認為,這項研究的準確性與能源效率,都可以和競爭性數(shù)字NN基準測試模型以及現(xiàn)代GPU相媲美,并證明了光學解決方案與未來高性能計算的相關(guān)性。“這項研究的非線性運算放大了數(shù)據(jù)表示的維數(shù),最終使NN能夠挖掘出隱藏的特征,進而利用它們來進行具有挑戰(zhàn)性的計算。盡管其互連受到嚴格限制,但是它們通過級聯(lián)多層實現(xiàn)了競爭性能。”

“這一工作屬于我們研究路徑規(guī)劃中的階段性成果。我們預期最終集成化的光電智能芯片能夠?qū)崿F(xiàn)光載海量信息的實時處理,將極大促進其在終端計算、邊緣端計算、數(shù)據(jù)中心的應用,推動自動駕駛、機器人技術(shù)領(lǐng)域的發(fā)展。其中,小型化的空間光智能光電計算系統(tǒng)可應用于空間光通信,與視覺成像系統(tǒng)融合實現(xiàn)光載視覺信息(包括高維光譜視覺信息及光場視覺信息)的實時處理。同時,集成化的光電智能計算系統(tǒng)還能夠和光纖通信融合,實現(xiàn)大規(guī)模光信息的高效處理,應用于無線通信、云計算和數(shù)據(jù)中心等領(lǐng)域,從而引領(lǐng)新一代智能產(chǎn)業(yè)和信息技術(shù)的變革?!绷中钦雇馈?/p>

相關(guān)論文信息:https://doi.org/10.1038/s41566-021-00796-w

《中國科學報》 (2021-05-06 第3版 信息技術(shù))


關(guān)注【深圳科普】微信公眾號,在對話框:
回復【最新活動】,了解近期科普活動
回復【科普行】,了解最新深圳科普行活動
回復【研學營】,了解最新科普研學營
回復【科普課堂】,了解最新科普課堂
回復【科普書籍】,了解最新科普書籍
回復【團體定制】,了解最新團體定制活動
回復【科普基地】,了解深圳科普基地詳情
回復【觀鳥知識】,學習觀鳥相關(guān)科普知識
回復【博物學院】,了解更多博物學院活動詳情

聽說,打賞我的人最后都找到了真愛。