使用萊迪思FPGA加速低功耗AI應(yīng)用的創(chuàng)新
ABI公司的研究表明,截至2024年,具備設(shè)備端AI推理能力的設(shè)備比例預(yù)計將達到60%。印證了過去幾年里AI的快速創(chuàng)新,這就要求在從云端向網(wǎng)絡(luò)邊緣轉(zhuǎn)變的過程中,工程師需要開發(fā)更加靈活的設(shè)計模型。這一趨勢的驅(qū)動力包括對超低延遲、安全性能的需求以及帶寬限制和隱私保護等。
萊迪思FPGA和軟件解決方案能夠幫助設(shè)計人員使用現(xiàn)有的芯片加速實現(xiàn)面向未來的模型。本文將探索萊迪思FPGA和軟件解決方案在計算機視覺和網(wǎng)絡(luò)邊緣AI設(shè)計中的一些應(yīng)用示例。
為何FPGA是網(wǎng)絡(luò)邊緣計算和AI應(yīng)用的最佳選擇
FPGA本身具有靈活性和適應(yīng)性,是網(wǎng)絡(luò)邊緣計算和AI應(yīng)用的理想之選。
FPGA是一種并行計算引擎,能夠以較低的時鐘頻率運行,因此功耗較低。此外整個架構(gòu)還擁有靈活的資源,包括DSP、存儲器、分散且互連的可編程邏輯單元,與那些AI專用的新型ASIC有諸多相似之處。然而,與ASIC和其他處理器不同的是,FPGA的靈活性能夠持續(xù)優(yōu)化系統(tǒng)內(nèi)現(xiàn)有的用例,并且還能引入全新的用例,而無需使用新的硬件。
當萊迪思將FPGA與ASIC的設(shè)計周期進行比較時,可以看到系統(tǒng)設(shè)計人員可以使用FPGA進行多次迭代,快速引入新應(yīng)用并推向市場。而使用ASIC的系統(tǒng)設(shè)計人員必須等待下次迭代才能達到相同的性能水平,這不僅會推遲上市時間,并且在系統(tǒng)需要適應(yīng)能力時整體效率更低。
在今年的嵌入式視覺峰會上,萊迪思展示了一個基于CertusPro?-NX器件的演示,該演示可以并行運行多個AI引擎和并發(fā)線程,降低了系統(tǒng)的整體延遲,并在完整的系統(tǒng)實施中可以實現(xiàn)更高的FPS。
幫助系統(tǒng)設(shè)計人員加速開發(fā)AI應(yīng)用
在演講的后半部分,萊迪思簡要介紹了其如何利用其各種軟件解決方案(包括萊迪思sensAI? 解決方案集合)幫助系統(tǒng)設(shè)計人員(通常是軟件開發(fā)人員,而非FPGA專家)進行開發(fā)。萊迪思sensAI包括了一系列工具、硬件、加速IP、軟件工具、參考設(shè)計和演示、定制設(shè)計服務(wù)、以及為特定終端市場的AI應(yīng)用構(gòu)建的端到端解決方案。
sensAI中包括了萊迪思的sensAI Studio設(shè)計軟件,系統(tǒng)設(shè)計人員可以在數(shù)小時內(nèi)完成用例驗證,無需花費幾天或幾周。他們可以使用sensAI Studio導入軟件模型庫中已有的模型或者他們自己的模型,然后進行遷移學習,評估模型的訓練情況,采集和標記數(shù)據(jù),配置和測試模型,然后為開發(fā)板上特定的器件進行編譯。
在最后的問答部分談到了萊迪思的一位農(nóng)業(yè)客戶如何使用sensAI Studio構(gòu)建了一個檢測田間漿果的AI系統(tǒng)。這個例子表明,對于那些希望構(gòu)建各類AI應(yīng)用,但又缺乏相關(guān)經(jīng)驗的系統(tǒng)設(shè)計人員,sensAI Studio這樣的工具真的十分重要。
實現(xiàn)下一代智能PC體驗
如今PC用戶對感知力更強的智能設(shè)備越來越感興趣,同時他們還需要強大的安全性來保護隱私。此外,他們還想要體驗更加出色的協(xié)作功能,例如優(yōu)秀的電話會議音頻和視頻體驗。筆記本電腦的系統(tǒng)設(shè)計人員在為市場引入不同形態(tài)的產(chǎn)品時面臨著各種挑戰(zhàn),這也帶來了系統(tǒng)方面的挑戰(zhàn);如何將所有這些數(shù)據(jù)從攝像頭傳輸?shù)较到y(tǒng)的其他部分?
萊迪思基于AI的解決方案可以幫助系統(tǒng)設(shè)計人員解決這方面的問題,幫助他們開發(fā)全新的功能,包括存在檢測、旁觀者檢測和視頻通話的人臉取景。萊迪思的解決方案還能實現(xiàn)注意力跟蹤功能,用戶在使用電腦時注意力離開屏幕的時間達到45%,可獲得高達28%的額外電池使用時長。
評論