全球首個(gè)光子AI芯片原型發(fā)布

近日，AI芯片初創(chuàng)公司Lightelligence對(duì)外發(fā)布了世界第一款光子芯片原型板卡(Prototype)，團(tuán)隊(duì)在這個(gè)原型產(chǎn)品上成功用光子芯片運(yùn)行了Google Tensorflow自帶的卷積神經(jīng)網(wǎng)絡(luò)模型來(lái)處理MNIST數(shù)據(jù)集。測(cè)試中，整個(gè)模型超過(guò)95%的運(yùn)算是在光子芯片上完成的，其測(cè)試結(jié)果顯示，光子芯片處理的準(zhǔn)確率已經(jīng)接近電子芯片(97%以上)。該公司已經(jīng)與谷歌、FaceBook、AWS、BAT級(jí)別客戶進(jìn)行了接洽。

對(duì)于這家成立一年半的公司，這款芯片原型的誕生，驗(yàn)證了團(tuán)隊(duì)部分成員在2017年發(fā)表在NaturePhotonics期刊上的開(kāi)創(chuàng)性想法——用光子代替電子來(lái)進(jìn)行AI計(jì)算。但是在那個(gè)時(shí)候，他們?cè)趯?shí)驗(yàn)室開(kāi)發(fā)的整個(gè)光子計(jì)算系統(tǒng)占據(jù)了半個(gè)實(shí)驗(yàn)室。

在視頻演示中，團(tuán)隊(duì)在這個(gè)原型產(chǎn)品上成功用光子芯片運(yùn)行了GoogleTensorflow自帶的卷積神經(jīng)網(wǎng)絡(luò)模型來(lái)處理MNIST數(shù)據(jù)集。這是一個(gè)使用計(jì)算機(jī)視覺(jué)識(shí)別手寫數(shù)字的基準(zhǔn)機(jī)器學(xué)習(xí)模型，也是機(jī)器學(xué)習(xí)中最著名的基準(zhǔn)數(shù)據(jù)集之一。測(cè)試中，整個(gè)模型超過(guò)95%的運(yùn)算是在光子芯片上完成的處理，測(cè)試結(jié)果顯示，光子芯片處理的準(zhǔn)確率已經(jīng)接近電子芯片（97%以上），另外光子芯片完成矩陣乘法所用的時(shí)間是最先進(jìn)的電子芯片的1/100以內(nèi)。

LightelligenceCEO沈亦晨對(duì)DeepTech表示，公司計(jì)劃將該光子芯片提供給一些合作方、潛在客戶進(jìn)行測(cè)試，目前國(guó)外已經(jīng)有谷歌、FaceBook、AWS級(jí)別，國(guó)內(nèi)BAT級(jí)別的客戶與Lightelligence接洽。

他透露，盡管這款芯片還不是公司真正意義上的第一款商業(yè)化產(chǎn)品，在性能上也還有很大的提升空間，但卻是對(duì)團(tuán)隊(duì)開(kāi)發(fā)完整光子AI芯片系統(tǒng)可行性的一個(gè)重要驗(yàn)證。

沈亦晨表示，在接下來(lái)的幾十年中，對(duì)于AI算法尤其是機(jī)器學(xué)習(xí)算法的計(jì)算需求仍將大幅增加，但與此同時(shí)，我們回過(guò)頭看過(guò)去幾年計(jì)算硬件的發(fā)展，其演進(jìn)速度正變得越來(lái)越慢，“從光子學(xué)的角度來(lái)看，我意識(shí)到，對(duì)于一些最基本的算法以及機(jī)器學(xué)習(xí)任務(wù)來(lái)說(shuō)，光子可能是最佳的計(jì)算平臺(tái)。在我的博士生涯中，我用一個(gè)項(xiàng)目簡(jiǎn)單地證明了這個(gè)概念性質(zhì)的設(shè)想，現(xiàn)在，Lightelligence的成立正在將這個(gè)設(shè)想從學(xué)術(shù)研究帶到真實(shí)世界”。

“我們從硬件到軟件做出了一套可以運(yùn)行的系統(tǒng)，原則上，它可以運(yùn)行任何神經(jīng)網(wǎng)絡(luò)系統(tǒng)，它也是就我們所知世界上第一臺(tái)完全獨(dú)立的光學(xué)計(jì)算AI加速器（standaloneopticalAIaccelerator）。Lightelligence現(xiàn)在發(fā)布這款芯片原型想傳達(dá)的另一個(gè)信息是，光學(xué)計(jì)算不再是一個(gè)“ScienceProject”，而是一個(gè)已經(jīng)接近于產(chǎn)品化的技術(shù)”，他說(shuō)。

光學(xué)計(jì)算并不是一個(gè)全新的概念。

作為一種完全不同于電子計(jì)算的技術(shù)，光學(xué)計(jì)算以光子為信息處理載體，依賴光硬件而非電子硬件，以光運(yùn)算代替電運(yùn)算，擅長(zhǎng)快速并行處理高度復(fù)雜的計(jì)算任務(wù)，但它一直沒(méi)找到合適的應(yīng)用場(chǎng)景，且受限于傳統(tǒng)分離式光學(xué)器件光場(chǎng)調(diào)控手段單一、光學(xué)設(shè)計(jì)體積龐大的缺點(diǎn)，光學(xué)計(jì)算一直都停留在實(shí)驗(yàn)室階段。

近幾年，電子計(jì)算愈發(fā)受制于摩爾定律，信息技術(shù)載體的存儲(chǔ)密度與運(yùn)算速度的提升愈發(fā)力不從心，讓一部分人將目光從“電”轉(zhuǎn)向了速度更快、能耗更低的“光”。

尤其是基于人工神經(jīng)網(wǎng)絡(luò)算法的深度學(xué)習(xí)系統(tǒng)的流行。不同于通用芯片所運(yùn)行的邏輯運(yùn)算，深度學(xué)習(xí)系統(tǒng)的大部分時(shí)間都花在低精度的矩陣乘法運(yùn)算上，而密集的矩陣乘法運(yùn)算，正是人工智能算法中最耗時(shí)間和功率的。

目前AI加速芯片都是基于電子運(yùn)算的，但在結(jié)合電子計(jì)算所有前沿技術(shù)的基礎(chǔ)上，光子芯片可以來(lái)執(zhí)行AI計(jì)算里最重要的兩個(gè)步驟：內(nèi)存到計(jì)算單元的數(shù)據(jù)傳輸以及矩陣運(yùn)算本身。這兩個(gè)方面光子芯片具有獨(dú)特優(yōu)勢(shì)。

由此，光子AI芯片的概念應(yīng)運(yùn)而生，利用光子來(lái)做矩陣乘法運(yùn)算，在功耗降低和速度提升上前景可期，很可能帶來(lái)光學(xué)計(jì)算有史以來(lái)最大的機(jī)會(huì)。

Lightelligence成立的目的，就是從光子芯片這個(gè)全新的角度來(lái)切入AI加速。

“對(duì)產(chǎn)業(yè)界來(lái)說(shuō)，這可能開(kāi)啟了一個(gè)全新的方向，而且它的發(fā)展速度遠(yuǎn)遠(yuǎn)高于電子運(yùn)算。”沈亦晨說(shuō)。

2016年，沈亦晨還在MIT做博士后，他所在的研究團(tuán)隊(duì)打造了首個(gè)光學(xué)計(jì)算系統(tǒng)。該成果于2017年以封面文章的形式發(fā)表在頂級(jí)期刊NaturePhotonics雜志上，其基于硬件和算法有著雙重創(chuàng)新：在硬件上，光干涉儀作為基本的矩陣運(yùn)算單元有效取代了傳統(tǒng)電子晶體管；在算法上，團(tuán)隊(duì)開(kāi)發(fā)了一系列在不犧牲性能條件下有效降低深度學(xué)習(xí)計(jì)算量、并適應(yīng)于光子芯片的算法。

當(dāng)時(shí)，國(guó)際著名光學(xué)科學(xué)家、斯坦福大學(xué)終身正教授DavidMiller，曾專門在Nature雜志上撰文評(píng)價(jià)沈亦晨團(tuán)隊(duì)的光學(xué)AI芯片的研究成果，稱“這一系列的研究成果極大地推動(dòng)了集成光學(xué)在未來(lái)取代傳統(tǒng)電子計(jì)算芯片的發(fā)展。”

那篇論文可以說(shuō)在全球范圍內(nèi)啟發(fā)更多人投入到光子AI芯片的開(kāi)發(fā)中，帶來(lái)這一成果的MIT團(tuán)隊(duì)已經(jīng)誕生出Lightelligence和LightMatter兩家公司。

現(xiàn)在，Lightelligence團(tuán)隊(duì)正在全力研發(fā)光子芯片的相關(guān)技術(shù)，包含芯片設(shè)計(jì)、核心算法、傳輸、周邊等，欲打造一個(gè)完整的光學(xué)計(jì)算生態(tài)。全球包括Lightelligence在內(nèi)也已經(jīng)有5~6個(gè)團(tuán)隊(duì)正在進(jìn)行相關(guān)的研發(fā)及商業(yè)化，其中還不乏中國(guó)團(tuán)隊(duì)。盡管各家公司的目標(biāo)都不盡相同，從已經(jīng)公布的產(chǎn)品進(jìn)度來(lái)看，作為全球首個(gè)光子AI芯片的公司，Lightelligence仍將是最值得關(guān)注的公司之一。

以Lightelligence此次發(fā)布的芯片原型為例，和2017年的首個(gè)光學(xué)計(jì)算系統(tǒng)相比，其最大的改進(jìn)就體現(xiàn)在計(jì)算效率的提升、軟件環(huán)境和集成程度的成熟上。

Lightelligence團(tuán)隊(duì)本身?yè)碛幸幌盗歇?dú)立自主知識(shí)產(chǎn)權(quán)，包括光學(xué)器件設(shè)計(jì)、光學(xué)系統(tǒng)集成和深度學(xué)習(xí)算法的核心技術(shù)，在設(shè)計(jì)這款芯片的過(guò)程中，團(tuán)隊(duì)在這幾個(gè)方面的技術(shù)儲(chǔ)備得到了驗(yàn)證。

在開(kāi)發(fā)的過(guò)程中，提升運(yùn)算速度和改善尺寸的工作是交叉進(jìn)行的。據(jù)沈亦晨介紹，原來(lái)實(shí)驗(yàn)室版本的機(jī)器集成度比較低，它的控制單元沒(méi)有集成在板卡上?，F(xiàn)在這款芯片原型的集成度大大提高，隨著集成程度的提高，運(yùn)算速度也大大提升。

而且開(kāi)發(fā)上的主要任務(wù)不只是集成度方面的工作，還包括高速信號(hào)的控制。對(duì)于光子計(jì)算機(jī)來(lái)說(shuō)，其中比較重要也比較難的一點(diǎn)就是，當(dāng)信號(hào)傳輸速度很快的時(shí)候，如何讓信號(hào)達(dá)到比較精確的強(qiáng)度。

最終，團(tuán)隊(duì)用了近一年半的時(shí)間打造出了這款尺寸與指甲蓋差不多、封裝了光纖的芯片原型。這在光學(xué)計(jì)算領(lǐng)域也是前所未有的。

而除了前文提到的MNIST圖像識(shí)別任務(wù)以外，這款芯片原型還可以運(yùn)行其他的計(jì)算任務(wù)，團(tuán)隊(duì)同時(shí)也提供軟件支持，與谷歌的Tensorflow，F(xiàn)acebook的Caffe2和Pytorch常用框架中的算法兼容。

沈亦晨表示：“團(tuán)隊(duì)希望任何通用的基于線性運(yùn)算的算法都可以在光子AI芯片上運(yùn)行，Lightelligence生產(chǎn)的是一款通用的AI芯片，同時(shí)我們也會(huì)自研更適合在光子芯片上運(yùn)算的算法，后期我們會(huì)發(fā)布相關(guān)的算法上的進(jìn)展。”

未來(lái)，光子AI芯片的發(fā)展能否引領(lǐng)算法開(kāi)發(fā)上加大矩陣計(jì)算比重的“硬件定義軟件”風(fēng)潮，亦值得觀察。

3年內(nèi)推出第一款量產(chǎn)產(chǎn)品，面向服務(wù)器

目前，Lightelligence成立已經(jīng)一年半時(shí)間，團(tuán)隊(duì)的技術(shù)進(jìn)展并不完全體現(xiàn)在這次發(fā)布的芯片原型里，沈亦晨說(shuō)，其實(shí)團(tuán)隊(duì)早在半年以前就已經(jīng)著手開(kāi)發(fā)下一代芯片了，“我們的下一款芯片將會(huì)在性能上徹底顛覆現(xiàn)有的電子同類產(chǎn)品”。

基于光子AI芯片速度快、損耗少、算力高、成本低的這些特點(diǎn)，很多面臨性能瓶頸的深度學(xué)習(xí)場(chǎng)景將是這款產(chǎn)品大展身手的方向。因此，在應(yīng)用場(chǎng)景上，沈亦晨設(shè)想Lightelligence的第一款產(chǎn)品將面向服務(wù)器和自動(dòng)駕駛。

“第一款光子AI芯片的產(chǎn)品定位不是低端市場(chǎng)，我們的競(jìng)爭(zhēng)力不是價(jià)格和尺寸大小，而是同一塊板卡的性能，針對(duì)這個(gè)優(yōu)勢(shì)我們的應(yīng)用場(chǎng)景確定為以上兩個(gè)市場(chǎng)?！鄙蛞喑空f(shuō)。他曾提到，電子芯片的生態(tài)鏈條非常完善，整個(gè)產(chǎn)業(yè)已經(jīng)達(dá)到數(shù)以十億、百億計(jì)的規(guī)模。和電子芯片的完善的生態(tài)鏈條不同，光子芯片還在剛剛起步的階段，這也決定了其產(chǎn)品可能沒(méi)辦法短期內(nèi)進(jìn)入到輕量級(jí)、個(gè)人級(jí)的應(yīng)用中。

未來(lái)的汽車工業(yè)很可能是光子AI芯片的最重要市場(chǎng)之一，例如，以Lidar技術(shù)所需要的大量光源和光探測(cè)器來(lái)說(shuō)，光子AI芯片有望提供一個(gè)低成本、低功耗的解決方案。不過(guò)，自動(dòng)駕駛的市場(chǎng)仍比較小，Lightelligence仍會(huì)先從服務(wù)器市場(chǎng)切入，然后過(guò)渡到自動(dòng)駕駛中。

現(xiàn)在，在融資上，Lightelligence已于2017年底獲得包括百度風(fēng)投和真格基金在內(nèi)的超過(guò)1000萬(wàn)美元的風(fēng)險(xiǎn)投資，團(tuán)隊(duì)規(guī)模也從最初麻省理工學(xué)院出來(lái)的三人團(tuán)隊(duì)發(fā)展到了二十多人全職團(tuán)隊(duì)，成員背景包括麻省理工學(xué)院、哥倫比亞大學(xué)、佐治亞理工大學(xué)、北京大學(xué)和加州大學(xué)伯克利分校等。團(tuán)隊(duì)也吸引了很多業(yè)界專業(yè)人士加入，最引人注目的恐怕就是GilbertHendry和MauriceSteinman了。

GilbertHendry博士畢業(yè)于哥倫比亞大學(xué)，曾在谷歌和微軟工作過(guò)5年，并且主持開(kāi)發(fā)過(guò)多款機(jī)器學(xué)習(xí)產(chǎn)品，現(xiàn)在是Lightelligence的軟件部負(fù)責(zé)人及機(jī)器學(xué)習(xí)首席工程師。MauriceSteinman是Lightelligence的工程副總裁，加入Lightelligence之前曾任AMD首席芯片架構(gòu)師，并主持開(kāi)發(fā)了AMD用于高通量信息傳輸?shù)钠炫灝a(chǎn)品infinityfabric，有超過(guò)30年的豐富的半導(dǎo)體行業(yè)經(jīng)驗(yàn)。

但必須承認(rèn)，光子AI芯片整體依然仍處于非常早期的階段，光子AI芯片公司面臨的落地風(fēng)險(xiǎn)和技術(shù)挑戰(zhàn)并不比其他AI芯片公司的小。但是，人類在追求更高程度的機(jī)器智能過(guò)程中，對(duì)芯片計(jì)算能力的需求只會(huì)不斷增加，光子AI芯片有希望能夠彌補(bǔ)電子芯片的不足，在一些特殊的計(jì)算領(lǐng)域超過(guò)電子芯片。

有意思的是，許多人了解到光子AI芯片和光學(xué)計(jì)算之后，更感興趣的不是其與電子計(jì)算的比較，反而好奇光子計(jì)算和量子計(jì)算有什么區(qū)別，兩者哪一個(gè)將更快改變產(chǎn)業(yè)現(xiàn)狀。

和量子計(jì)算相比，光子計(jì)算發(fā)展的時(shí)間短，投入研發(fā)的人力也相對(duì)較少，聽(tīng)起來(lái)是一個(gè)更為小眾的領(lǐng)域。但光子計(jì)算對(duì)算力的提升不一定亞于量子計(jì)算，而且在技術(shù)實(shí)現(xiàn)上，其制造流程可兼容目前的CMOS工藝，在量產(chǎn)難度上遠(yuǎn)低于量子計(jì)算，更容易與現(xiàn)有的計(jì)算周邊生態(tài)進(jìn)行配合，可說(shuō)是目前發(fā)展的次世代計(jì)算架構(gòu)中，最有機(jī)會(huì)實(shí)現(xiàn)普及量產(chǎn)目標(biāo)的一個(gè)。