計(jì)算架構(gòu) 文章 進(jìn)入計(jì)算架構(gòu)技術(shù)社區(qū)

NPU是什么？為何它是開啟終端側(cè)生成式AI的關(guān)鍵？

• 生成式AI變革已經(jīng)到來。隨著生成式AI用例需求在有著多樣化要求和計(jì)算需求的垂直領(lǐng)域不斷增加，我們顯然需要專為AI定制設(shè)計(jì)的全新計(jì)算架構(gòu)。這首先需要一個(gè)面向生成式AI全新設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)處理器(NPU)，同時(shí)要利用異構(gòu)處理器組合，比如中央處理器(CPU)和圖形處理器(GPU)。通過結(jié)合NPU使用合適的處理器，異構(gòu)計(jì)算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航，賦能全新增強(qiáng)的生成式AI體驗(yàn)。正如在工具箱中選擇合適的工具一樣，選擇合適的處理器取決于諸多因素，將增強(qiáng)生成式AI體驗(yàn)。異構(gòu)計(jì)算的重要性生成式AI的多樣化要求和
• 關(guān)鍵字： NPU  AI  計(jì)算架構(gòu)