Arm/FPGA聯(lián)手發(fā)威　研華生產線大步邁入AI時代

　　人工智能(Artificial Intelligence, AI)無疑是近一兩年來科技產業(yè)內最熱門的話題，除了科技業(yè)巨頭無不大力投入之外，金融等服務業(yè)者對導入人工智能，也展現(xiàn)出強烈興趣。制造業(yè)對AI技術的關注，也不在話下，并且在相關關鍵技術逐漸到位的情況下，已開始有實際導入動作。

　　倡導智能制造不遺余力的研華科技，除了為各行各業(yè)提供對應的先進解決方案外，在自家生產在線也開始逐步導入人工智能要素。比如機臺設備的狀態(tài)偵測/診斷、原物料/能源的使用狀況，乃至產品的品管流程等，均已逐步導入人工智能。安謀(Arm)的硅智財(IP)與SoC及賽靈思(Xilinx)的現(xiàn)場可編程門陣列(FPGA)技術，則是研華推動生產線AI化的兩大得力幫手。

　　研華IoT.SENSE采訪研華技術長楊瑞祥與總廠長林東杰，探討研華在AI、IoT、智能制造等創(chuàng)新浪潮下的解決對策，以下為專訪摘要：

　　AI進化速度驚人 商業(yè)應用價值可觀

　　研華科技技術長楊瑞祥表示，人工智能在學術研究領域并非新題目，近兩三年來之所以引發(fā)社會大眾與各行各業(yè)的廣泛矚目，主要原因在于其進化速度實在太過驚人，并已能創(chuàng)造出龐大的商業(yè)價值，不再只是個學術研究的題目。

　　除了針對特殊領域外，AI技術也在追求更高的泛用性。Deepmind最新的棋類程序已經把Go(圍棋)拿掉，稱為Alpha。因為該程序也懂得下日本將棋等其他棋類，并且接連打敗其他世界頂尖的專用棋類程序。這無疑是人工智能泛用性發(fā)展的一個重要里程碑。

　　在快速演化與蘊藏龐大商業(yè)價值的情況下，人工智能成為當前最受矚目的科技議題，其實不令人意外。但討論歸討論，如何在各行各業(yè)導入人工智能，實現(xiàn)產業(yè)的智能化，還是有很多細節(jié)問題要克服。

　　人工智能增添智能制造動能

　　以制造業(yè)來說，不管最終制造的產品為何，制造業(yè)總是脫離不了「人、機、料、法」這四個元素。人是指員工，機則泛指各種工具機臺，料是指各種原物料及能源，法則是制程方法。自工業(yè)革命以來，不管制造業(yè)的產品如何演變，都脫離不了這四個元素。如何最優(yōu)化地管理好這四個元素，則是制造業(yè)者每天都要面對的課題。

　　楊瑞祥分析，導入人工智能，最重要的四個KPI，就是要展現(xiàn)在人工料法的優(yōu)化與改善上。以人來說，如何將老師傅的經驗變成可量化的參數(shù)，進而把人的經驗復制、擴散，就是導入AI的一個重要目標。

　　不過，要實現(xiàn)上述四大優(yōu)化，最重要的還是業(yè)者對AI的理解程度，以及所搜集到的數(shù)據集質量好壞。首先，制造業(yè)者必須要對AI有正確的認識，知道AI適合用來處理的問題為何，應用上又有何限制。其次，AI推論模型的訓練成果，除了模型本身的設計外，訓練數(shù)據的質量也很重要。如果用質量有問題的數(shù)據來訓練模型，AI推論的結果會跟現(xiàn)實狀況出現(xiàn)落差。

　　最后，組織文化也得有所調整。在導入AI之前，生產在線的所有決策者都是人，依靠的是過往的經驗;導入AI后，握有最終決定權的雖然還是人，但不再只憑主觀的感覺或經驗來判斷，而是相對客觀的統(tǒng)計科學。人跟機器之間的信賴關系，需要一段時間提升。當然，AI本身也要持續(xù)進化，提升其預測的可靠度跟準確度。

　　不同處理器各有所長 Arm架構適合推論運算

　　楊瑞祥進一步解釋，人工智能可以分成模型訓練(Training)與推論(Inference)兩個部分。對生產現(xiàn)場應用來說，大多是采用已經訓練好的模型來執(zhí)行各種推論應用，不會直接在邊緣進行模型訓練，因為模型訓練需要強大的運算效能跟大量數(shù)據集，較適合在數(shù)據中心或云端上進行。

　　也因為推論對運算效能的需求較低，因此市面上有許多現(xiàn)成的處理器解決方案均能勝任，例如x86 CPU、GPU與基于Arm架構的SoC處理器，都可以執(zhí)行相關運算任務，差別只在于成本、耗電量與散熱是否能滿足現(xiàn)場設備的規(guī)格限制。

　　就技術角度而言，GPU是目前最適合用來進行模型訓練的處理器架構，以其執(zhí)行模型推論任務當然也是綽綽有余，但GPU的成本、功耗跟隨之而來的散熱問題，卻是這類處理器在邊緣節(jié)點或現(xiàn)場設備應用上最大的限制。x86 CPU也有很強大的運算效能，但由于其架構設計的目標是滿足各種運算/控制應用，因此在執(zhí)行AI算法時，效率不如GPU。

　　楊瑞祥分析，這個問題跟AI的本質有關。AI通常只會用少數(shù)幾種指令，甚至單一指令來處理大量數(shù)據。例如深度學習跟卷積神經網絡(Convolutional Neural Network, CNN)，就數(shù)學的觀點來說就是矩陣運算，跟繪圖運算十分類似，因此GPU自然在這方面有先天優(yōu)勢。x86 CPU則長于應對多指令流多數(shù)據流(Multiple Instruction, Multiple Data, MIMD)的運算情境，但遇到數(shù)據量太過龐大的情況時，就必須靠拉高頻率，或是以多核心及多線程架構來應對。

　　采用精簡指令集(RISC)的Arm處理器，先天特性則介于GPU跟x86 CPU之間，加上近幾年Arm處理器的單一指令多數(shù)據流(Single Instruction, Multiple Data, SIMD)效能不斷強化，因此在執(zhí)行AI運算時，更加得心應手。雖然目前要以Arm處理器來做模型訓練，在效率上還是不能跟GPU相比，但在執(zhí)行推論任務時，卻是功耗、成本跟效能三者最平衡的方案。

　　楊瑞祥透露，近幾年研華跟安謀密切合作，對安謀的產品發(fā)展藍圖也有一定的掌握。未來安謀將會針對AI運算需求推出更特化，效率更好的處理器核心跟周邊IP。這對于推動邊緣運算跟AI應用的普及，將會是很大的助力。研華也會跟安謀繼續(xù)保持密切合作的伙伴關系。

　　邊緣運算進展神速 人工智能進駐制造現(xiàn)場

　　緊抓人工料法四大要素，研華已經開始以Arm架構的SoC跟賽靈思的FPGA模塊為硬件基礎，在自家的生產在線逐漸導入人工智能。

　　研華科技總廠長林東杰表示，目前研華在生產在線導入AI，已經進入用AI來協(xié)助判讀原始資料的階段。在工業(yè)物聯(lián)網的時代，不只個別生產在線的機臺會產生大量數(shù)據，廠區(qū)的基礎建設也會生成可觀的數(shù)據數(shù)據量。要用人工來判讀這些數(shù)據數(shù)據，分析其背后的意義，是沒有時效性且效益有限的做法。

　　最后，由于研華所處的環(huán)境是典型的少量多樣、接單生產型態(tài)，跟一般消費性產品規(guī)格單一，大量生產有很大的不同，因此生產線的管理也相對復雜。這也是研華在導入人工智能時，希望能解決的痛點之一。

　　林東杰表示，由于技術上的限制，目前還無法實現(xiàn)全面由系統(tǒng)判讀原始數(shù)據的終極目標，但這是研華未來努力的方向。

　　更具體來說，未來研華的智能制造希望能實現(xiàn)三大目標：一、生產設備的現(xiàn)代化，希望所有的機臺設備都可以支持工業(yè)4.0;二、實現(xiàn)數(shù)據采集與軟件的介接，主要是將數(shù)據介接到制造執(zhí)行系統(tǒng)(MES)、產品生命周期管理(PLM)等系統(tǒng);三、將機器視覺與深度學習進一步擴大應用在品管環(huán)節(jié)中。

　　針對第一點，林東杰不諱言，現(xiàn)有機臺的升級跟改造通常要價不低，特別是在需要原廠提供支持或授權，不能自己動手改的情況下。不過，在某些情況下，現(xiàn)有機臺透過外掛研華自家開發(fā)的數(shù)據采集模塊，就已經能獲得足夠的參數(shù)數(shù)據。

　　至于在機器視覺跟深度學習的擴大導入上，目前研華是與中研院合作，開發(fā)出可檢測各種不同產品的機器視覺系統(tǒng)。事實上，研華使用光學自動檢測(AOI)已經有很長的一段時間，但現(xiàn)有的AOI系統(tǒng)僅適用于主板、電路板上細微組件的檢測，不適合用來檢測終端成品或更大的零部件。

　　另一方面，研華產品少量多樣的特性，也使得目前市面上的機器視覺方案要應用在研華的產線，遇到相當大的困難。目前市面上的機器視覺方案多半是為了大量產品的檢測需求而設計，但研華的需求是能夠自動適應各種產品型態(tài)的機器視覺檢測方案。因此，研華決定與中研院合作，開發(fā)出客制化的深度學習算法，以便讓機器視覺系統(tǒng)能更聰明地適應不同型態(tài)的產品。

　　FPGA模塊實現(xiàn)機器視覺算法加速

　　而機器視覺正是FPGA模塊大展身手的舞臺，也是研華FPGA應用發(fā)展團隊已經做出具體成果的項目之一。透過FPGA模塊，研華可以自由決定哪些影像辨識的環(huán)節(jié)需要用硬件加速，以提升視覺檢測系統(tǒng)的運作效能。

　　楊瑞祥指出，除了CPU跟GPU外，使用專用的硬件加速芯片來提升AI系統(tǒng)效能，理論上也是一條可行的路。不過，目前AI算法還在快速演進中，如果采用ASIC，很可能會追不上技術發(fā)展的腳步。而FPGA則是效能與彈性的折衷，其運算單元的結構可以客制化，來滿足特定算法加速的需求，又因為具備可編程性，當算法需要修改或更新的時候，不用重新開一顆芯片，只要修改設計程序代碼即可。

　　因此，現(xiàn)階段來看，F(xiàn)PGA是用來實現(xiàn)AI算法加速的理想方案之一，研華內部也已經有相當成熟的FPGA應用開發(fā)團隊，未來會繼續(xù)投資在這項技術上。

　　Advantech Embedded DTOS FPGA Capability

　　據悉，目前研華科技已有應用案例完成合作，更多詳情可咨詢研華服務專線“400-001-9088”。