兄弟二人聯(lián)合創(chuàng)業(yè)，AI編譯器開始的AI“芯“歷程

指令集架構(gòu)是處理器的抽象模型，目前主宰微處理器市場(chǎng)的主要指令集架構(gòu)包括 ARM、MIPS、POWER 和 X86 等，經(jīng)過(guò)多年的發(fā)展，上述架構(gòu)已擁有穩(wěn)定成熟的軟件生態(tài)，同時(shí)也存在一些問(wèn)題，比如為了獲取兼容性而引入了復(fù)雜冗長(zhǎng)的指令，以及防止軟件生態(tài)的碎片化而采取了封閉式指令集維護(hù)，這使得客戶不可隨意擴(kuò)展其該架構(gòu)的指令集。在IoT/AIoT大行其道，定制化的硬件軟件（DSA/DSL）架構(gòu)盛行的今天，這種封閉式的指令集架構(gòu)存在的問(wèn)題逐漸顯露。

每個(gè)時(shí)代都有其鮮明的時(shí)代特色，處理器指令集架構(gòu)也不例外， RISC-V 指令集架構(gòu)就屬于時(shí)代催生的產(chǎn)物，憑借其免費(fèi)開放的指令集、便捷的指令集擴(kuò)展標(biāo)準(zhǔn)等優(yōu)勢(shì)，一經(jīng)問(wèn)世便深受國(guó)內(nèi)外芯片設(shè)計(jì)企業(yè)、高等院校和芯片設(shè)計(jì)愛(ài)好者的歡迎。

目前有很多開源組織、科研院所、商業(yè)公司無(wú)償開源其 RISC-V 處理器IP及相關(guān)工具軟件，其中有些開源 RISC-V 處理器IP在性能和功耗等方面能夠與商用處理器 IP 媲美，甚至超過(guò)了部分商用處理器 IP。

作為指令集架構(gòu)大家族中的新貴，RISC-V 尚屬發(fā)展的早期階段，雖然基礎(chǔ)指令集的定義已經(jīng)完善，但有不少指令擴(kuò)展標(biāo)準(zhǔn)還在開發(fā)階段。更值得一提的是其軟件生態(tài)的發(fā)展，用匱乏來(lái)描述毫不夸張，也正是這種匱乏在制約著 RISC-V 的進(jìn)一步推廣以及在實(shí)際芯片產(chǎn)品中的應(yīng)用。但從目前開源 RISC-V 處理器的個(gè)數(shù)、增加的速度和代碼的質(zhì)量來(lái)看， RISC-V 有著不可估量的發(fā)展前景，同時(shí)它也預(yù)示著硬件開源時(shí)代的到來(lái)。

正是在此背景下，海山和海明兩兄弟義無(wú)反顧地踏上了創(chuàng)業(yè)之路，他們不僅都是資深的開源愛(ài)好者，同時(shí)也是最佳合作伙伴，其中海山主要研發(fā)軟件，海明主要研發(fā)硬件。能夠軟、硬件互補(bǔ)是他們最大的優(yōu)勢(shì)所在。

圖示：譯芯科技創(chuàng)始人海山和海明

兄弟二人聯(lián)手踏上創(chuàng)業(yè)之路

早在 2006 年開源微處理器還未被行業(yè)所了解和接納的時(shí)候，二人便開始利用業(yè)余時(shí)間合力打造 5 級(jí)流水線的 RISC 處理器 Potato-I 及配套的 GCC 編譯器，最終以參賽的形式將處理器代碼提交到 Xilinx 的 OpenHW 網(wǎng)站，并在第一屆 Xilinx 開源硬件大賽上取得優(yōu)異成績(jī)。

處理器架構(gòu)的優(yōu)美和編譯器內(nèi)部的神奇始終吸引著兩位創(chuàng)始人，不僅工作和學(xué)習(xí)在圍繞著這兩個(gè)方向發(fā)展，處理器和編譯器設(shè)計(jì)也成為了他們的終身愛(ài)好。早在 2015 年 RISC-V 指令集開放后，二人便著手設(shè)計(jì)實(shí)現(xiàn)了一款 RISC-V 處理器核，并且萌生了共同創(chuàng)業(yè)進(jìn)軍微處理器市場(chǎng)的想法，但限于當(dāng)時(shí)國(guó)內(nèi)行業(yè)對(duì) RISC-V 的甚少了解和對(duì)微處理器設(shè)計(jì)的不重視，最終未能得到投資人認(rèn)可的二人只能選擇放棄。

放棄了第一次創(chuàng)業(yè)后，兄弟倆重新選擇步入職場(chǎng)，其中海明加入到國(guó)內(nèi) AI 初創(chuàng)企業(yè)云知聲，海山則繼續(xù)在知名外企從事軟件研發(fā)工作。能夠軟、硬件互補(bǔ)的他們從未放棄過(guò)開源這一愛(ài)好，也就是從 2015 年那一刻起海山便開始了 RISC-V LLVM 編譯器的業(yè)余開發(fā)工作，并在幾年后完成了 LLVM 編譯器的后端研發(fā)。

2019 年 5 月，海山拿著當(dāng)時(shí)市面上功能最完整，同時(shí)可靠性和穩(wěn)定性都已達(dá)到可商用化指標(biāo)的RISC-V LLVM編譯器創(chuàng)立了北京譯芯科技，海明緊隨其后，也加入到了譯芯科技。至此，兄弟二人再次在譯芯科技開始了創(chuàng)業(yè)之路。

由于創(chuàng)業(yè)之初就有了成熟穩(wěn)定的 RISC-V LLVM 編譯器，譯芯科技成立不久便推出了 RISC-V 商用 LLVM 編譯器及基于該編譯器的RISC-V AI工具軟件，并通過(guò)該AI工具業(yè)界首次實(shí)現(xiàn)了TensorFlow XLA demo在RISC-V硬件上的運(yùn)行。譯芯科技RISC-V  LLVM編譯器和AI編譯器不僅為 RISC-V 處理器在人工智能領(lǐng)域的落地提供有力的工具鏈支撐，同時(shí)開啟了 RISC-V 處理器走向智能 Android 設(shè)備的大門。

下一步將開辟AI市場(chǎng)

對(duì)于譯芯科技而言，LLVM 編譯器的研發(fā)成功是公司創(chuàng)立的基石，而下一步便是要正式應(yīng)對(duì)市場(chǎng)的考驗(yàn)，進(jìn)而踏入 AI 和安卓這兩大應(yīng)用領(lǐng)域。由于公司剛剛成立不久，不具備同時(shí)打造兩款產(chǎn)品的條件，因此結(jié)合人力、物力投入，市場(chǎng)行情等多種因素后，兄弟倆決定首先主攻 AI 市場(chǎng)，從 AI 處理器切入，結(jié)合完善的 AI 工具鏈，打入 AI IP/芯片市場(chǎng)。

實(shí)際上，進(jìn)入 AI 市場(chǎng)是兄弟二人深思熟慮后的決定。“總覺(jué)得2015 年過(guò)早放棄 RISC-V 處理器創(chuàng)業(yè)探索是個(gè)莫大的遺憾，可能是因?yàn)橄霃浹a(bǔ)這個(gè)遺憾，我一直在關(guān)注開源處理器的發(fā)展，后來(lái)發(fā)現(xiàn)另外一個(gè)即將爆發(fā)的芯片市場(chǎng)，是一個(gè)全新的芯片類型，也就是今天的 AI 芯片。于是我果斷加入了云知聲，并有幸打造云知聲第一款語(yǔ)音 AI 芯片。當(dāng)初國(guó)內(nèi)很少聽到有專門設(shè)計(jì)AI芯片的公司和團(tuán)隊(duì)，市場(chǎng)更是見不到如今遍地開花、耳熟能詳?shù)?AI 芯片，所以我也算是國(guó)內(nèi)最早接觸 AI 芯片的一撥人?！焙Ｃ骰貞浀馈?/p>

他繼續(xù)說(shuō)道：“其實(shí)我最早接觸 AI 是在 2006 年的時(shí)候，當(dāng)初我們實(shí)驗(yàn)室做某種檢測(cè)設(shè)備的師姐每天用酒精訓(xùn)練她的設(shè)備，出于好奇心，我不時(shí)的請(qǐng)教訓(xùn)練中的奧秘，也是從那一刻起我對(duì) AI 的將來(lái)深信不疑，之后也接觸到一些很有趣的機(jī)器視覺(jué)相關(guān)項(xiàng)目。這些經(jīng)歷或許和我后來(lái)選擇從事 AI 芯片設(shè)計(jì)，并創(chuàng)立 AI 芯片公司有著千絲萬(wàn)縷的聯(lián)系。”

譯芯科技 demo演示

值得一提的是，2020 年 2 月，譯芯科技已經(jīng)完成了AIoT SoC芯片 FPGA 演示平臺(tái)。與此同時(shí)，在此前集微網(wǎng)舉辦的“第二期芯力量&云路演”活動(dòng)中，譯芯科技還展示了其首款 AIoT 芯片的FPGA Demo，主要演示了通過(guò)語(yǔ)音識(shí)別控制照明系統(tǒng)的功能，包括開燈、關(guān)燈和調(diào)整燈光亮度等一系列控制命令詞。

“FPGA Demo 的展示也意味著譯芯科技并不是一家只講故事的 AI 公司，更不是 PPT 芯片公司，我們確實(shí)在研發(fā) AI 芯片產(chǎn)品?！焙Ｃ鬟M(jìn)一步介紹道，目前譯芯的 AI IP 已具備商業(yè)授權(quán)條件，AIoT  SoC預(yù)計(jì)在 2020 年第 3 季度達(dá)到流片要求，預(yù)計(jì) 2020 年第 4 季度流片第一顆通用 AIoT 芯片。

首款 AI 芯片具備兩大優(yōu)勢(shì)

“經(jīng)過(guò)這幾年的摸爬滾打，我對(duì) AI 芯片的理解也在不斷變化，其中最根本的變化是硬件優(yōu)先到軟件優(yōu)先的變化，這種認(rèn)知上的變化也是創(chuàng)立譯芯科技的最根本的動(dòng)力所在?！憋@然，對(duì)于 AI 芯片海明有著自己深刻的理解。

在海明的講述中可以得知，其實(shí)海山最早也是這個(gè)觀點(diǎn)：“不管是一個(gè)從事軟件開發(fā)人員的偏執(zhí)也好，還是高瞻遠(yuǎn)矚也罷，他總是走在我前面，看在我前面，在我癡迷與打造 AI 芯片時(shí)，他已經(jīng)著手籌備今天的 AI 編譯器了。成立譯芯科技的根基和信心來(lái)自于的 LLVM 編譯器和 AI 編譯器，我也堅(jiān)信時(shí)間會(huì)證明這兩個(gè)軟件的價(jià)值，同時(shí)也證明譯芯科技的存在價(jià)值?！?/p>

在海明看來(lái)，其實(shí)從 AI 概念爆發(fā)到現(xiàn)在，從 AI 芯片的競(jìng)爭(zhēng)力的角度來(lái)說(shuō)已經(jīng)經(jīng)歷了從軟件算法的性能優(yōu)先到芯片架構(gòu)優(yōu)先，再到芯片成本優(yōu)先三個(gè)階段，而下一階段應(yīng)該是“成本+通用性”優(yōu)先。只關(guān)注成本控制，不具備通用性的 AI 芯片，會(huì)繼續(xù)以 turn-key 方式存在并出貨，但不久的將來(lái)turn-key 方案會(huì)逐漸被低成本和通用性兼?zhèn)涞?AI 芯片所替代。因此海明認(rèn)為，AI 芯片最終將從 turn-key 轉(zhuǎn)為 turn-chip 方式出貨。

在“turn-chip”的模式下，AI 芯片架構(gòu)對(duì)算法研究人員或工程師來(lái)說(shuō)是透明的，他們可以把 AI framework 打造的模型直接編譯并燒寫到 AI 芯片上，其與在 GPU 上開發(fā) AI 應(yīng)用一樣便捷。而這也是譯芯科技的終極目標(biāo)：為芯片客戶提供低成本且通用的 AI 芯片，不再讓 AI 芯片的成本和 AI 算法移植過(guò)程，成為高性價(jià)比的 AI硬件產(chǎn)品開發(fā)的瓶頸。

基于此，譯芯科技所研發(fā)的第一款 AI 芯片將具備兩大優(yōu)勢(shì)：一是通用性強(qiáng)，二是性價(jià)比高。海明和海山選擇開源免費(fèi)的 RISC-V 作為基礎(chǔ)處理器，對(duì)其進(jìn)行 AI 指令擴(kuò)展，并搭建了自己的 AI 處理器。最終，客戶可借助譯芯科技的 AI 編譯器，將 AI 模型到 AI 硬件的繁瑣人工優(yōu)化工作變?yōu)楹?jiǎn)單的機(jī)器編譯過(guò)程。因此，低成本和通用性是譯芯 AI 芯片的核心競(jìng)爭(zhēng)力。 

堅(jiān)持不同以往的 AI創(chuàng)業(yè)之路

“我們希望我們打造的是個(gè)‘AISP’芯片，也就是基于 AI 的信號(hào)處理器芯片。信號(hào)可以是語(yǔ)音、圖像，也可以是傳感器采集過(guò)來(lái)的任何一種類型的信號(hào)。希望一線的研發(fā)人員，就像使用 Matlab 開發(fā) DSP 算法一樣，采用Tensorflow、caffe、pytorch 等AI開發(fā)工具，開發(fā)其AI算法，并一鍵編譯的形式將AI算法落地到我們的“AISP”芯片上，最終實(shí)現(xiàn)其硬件產(chǎn)品?！焙Ｃ鞲嬖V集微網(wǎng)記者。

海明認(rèn)為，AI 芯片投資最佳窗口已過(guò)，過(guò)去幾年大量的公司將研發(fā)力量和資金投入到 AI 芯片架構(gòu)設(shè)計(jì)和流片上，大家更關(guān)注芯片算力、能效比等硬性參數(shù)指標(biāo)，而對(duì)AI軟件工具的重視程度和研發(fā)投入遠(yuǎn)遠(yuǎn)不夠。這直接導(dǎo)致了很多 AI 芯片面對(duì) Google 和 NVIDA 的嵌入式邊緣計(jì)算平臺(tái)時(shí)黯然失色。

在 AI 的創(chuàng)業(yè)道路上，譯芯科技顯然要走一條與以往選手不同的道路?！拔覀儚?qiáng)調(diào)的是芯片的通用性和低成本，我們不僅把有限的資源投入到降低芯片成本的探索上，就如我們正在打造的開源 SoC 平臺(tái)，同樣也會(huì)投入到工具軟件的研發(fā)上，即我們的AI軟件生態(tài)的構(gòu)建和完善上面?！焙Ｃ髡f(shuō)道。

關(guān)于打造自主 IP 和開源 IP 為一體的 SoC 平臺(tái)的必要性，海明說(shuō)道：“隨著芯片制造工藝的日益成熟，芯片制造成本不斷降低，而隨著社會(huì)的進(jìn)步人力成本會(huì)越發(fā)昂貴，也就是芯片加工會(huì)變得越來(lái)越便宜，而芯片采用的IP成本有可能不降反而上升。另外，如今的芯片行業(yè)早已不是暴力行業(yè)，一款芯片的銷量和所帶來(lái)的利潤(rùn)遠(yuǎn)不及過(guò)去。這也對(duì)很多芯片廠商的成本控制能力提出了更高的要求。例如一個(gè)投入兩三百萬(wàn)美元的芯片項(xiàng)目除了人力和芯片加工外所需的IP成本占總投入的一半以上，而其中前兩者的降幅有限，所以成本控制主要體現(xiàn)在IP成本的控制上。這也是我們打造自主研發(fā)IP和開源IP為一體的SoC平臺(tái)的目的?！?/p>

談起創(chuàng)業(yè)過(guò)程，海明感慨萬(wàn)千，雖然創(chuàng)業(yè)不到一年，但經(jīng)歷的蠻多，除了兄弟二人無(wú)法左右的外部環(huán)境外，按照海明的話說(shuō)：“萬(wàn)事開頭難，何況我們的開頭是技術(shù)瓶頸更高的編譯器，市場(chǎng)不易打開的軟件，競(jìng)爭(zhēng)激烈的芯片，投資窗口已過(guò)的AI芯片?！?/p>

羅馬非一日建成！如今的譯芯科技還是一家剛成立不滿一年的 AI 芯片初創(chuàng)企業(yè)，在競(jìng)爭(zhēng)激烈的 AI 市場(chǎng)中仍然有很長(zhǎng)的一段路要走。而在海明為公司設(shè)定的三年規(guī)劃中，AI 終端芯片顯然只是開始，未來(lái)公司還將涉入到 AI 云端芯片市場(chǎng)中，探索更多的可能性。

（校對(duì)/范蓉）