已有超過500款A(yù)I模型在英特爾酷睿Ultra處理器上得以優(yōu)化運(yùn)行
今天,英特爾宣布在全新英特爾? 酷睿? Ultra處理器上,有超過 500款 AI 模型得以優(yōu)化運(yùn)行。這是市場上目前可用的業(yè)界出眾的AI PC處理器,兼具全新AI體驗(yàn)、沉浸式圖形和出色電池續(xù)航表現(xiàn)。這一重大里程碑是英特爾在客戶端AI技術(shù)、AI PC轉(zhuǎn)型、框架優(yōu)化和包括OpenVINO?工具包在內(nèi)的AI工具方面投資的成果。這500個(gè)模型可在中央處理器(CPU)、圖形處理器(GPU)和神經(jīng)網(wǎng)絡(luò)處理單元(NPU)上進(jìn)行部署,它們可以通過業(yè)界主流的途徑被獲取使用,包括OpenVINO Model Zoo、Hugging Face、ONNX Model Zoo 和PyTorch。這些模型涵蓋了本地AI推理的多種類別,包括大語言處理、擴(kuò)散處理 、超分辨率、目標(biāo)檢測、圖像分類/分割、計(jì)算機(jī)視覺等。
英特爾客戶端計(jì)算事業(yè)部副總裁兼AI和技術(shù)營銷總經(jīng)理Robert Hallock表示:“在將AI應(yīng)用程序引入客戶端設(shè)備方面,英特爾與生態(tài)系統(tǒng)已經(jīng)合作許久。今天,我們將共同慶祝在客戶端AI發(fā)展歷程中的又一個(gè)重要的篇章,即超過500個(gè)經(jīng)過預(yù)訓(xùn)練的AI模型,在英特爾酷睿 Ultra處理器上得以優(yōu)化運(yùn)行。這一成就反映了我們致力于打造PC行業(yè)極具優(yōu)勢的AI開發(fā)者工具鏈,以及構(gòu)建讓AI軟件用戶可以信任的堅(jiān)實(shí)基礎(chǔ)?!?/p>
重要性:超過500個(gè)AI模型得以優(yōu)化運(yùn)行,是英特爾努力推動和支持AI PC轉(zhuǎn)型的一個(gè)重要里程碑。英特爾酷睿Ultra處理器在一個(gè)季度內(nèi)銷量達(dá)到 500 萬片,在 AI模型、框架和運(yùn)行時(shí)(Runtimes)方面表現(xiàn)出眾。
模型是諸如目標(biāo)去除、圖像超分辨率或文本摘要等AI增強(qiáng)軟件功能的關(guān)鍵基礎(chǔ)。模型可用或優(yōu)化的數(shù)量,與面向用戶的AI功能的廣度之間具有直接關(guān)系。沒有模型,功能就無法被設(shè)計(jì)出來。沒有運(yùn)行時(shí)優(yōu)化,功能就無法達(dá)到出色的性能表現(xiàn)。
AI模型如何工作:AI模型是軟件棧中眾多關(guān)鍵層之一,它決定了AI驅(qū)動的應(yīng)用程序的最終性能、穩(wěn)定性和功能。AI模型經(jīng)過訓(xùn)練,可分析大量數(shù)據(jù),根據(jù)推理得出結(jié)論并采取行動。開發(fā)者可以利用這些模型并在此基礎(chǔ)上構(gòu)建新的 AI PC 功能。AI模型越多,啟用的AI PC功能就越多。
AI模型可以對文本、語音、音頻、圖像以及其他PC場景體驗(yàn)中常見的音視頻源進(jìn)行操作。AI模型為造福用戶而開發(fā)的AI增強(qiáng)功能奠定了基礎(chǔ),例如自動文本摘要、在視頻會議期間降低能耗或從圖片中去除不需要的對象。OpenVINO通過在所有計(jì)算單元之間優(yōu)化平衡負(fù)載,壓縮模型從而在AI PC上實(shí)現(xiàn)高效運(yùn)行,并優(yōu)化運(yùn)行時(shí)以充分利用英特爾酷睿Ultra的內(nèi)存帶寬和核心架構(gòu)。
英特爾不斷努力,在英特爾酷睿Ultra上實(shí)現(xiàn)對出色高性能模型集的啟用,為軟件開發(fā)者提供了廣泛的創(chuàng)新領(lǐng)域,并簡化了向用戶交付AI PC應(yīng)用程序和功能的過程。
關(guān)于其他功能和優(yōu)勢:以下列表包括500多個(gè)已優(yōu)化的AI模型的特性和優(yōu)勢:
● 方便開發(fā)和部署。
● 涵蓋20多個(gè)AI類別,包括大語言處理、擴(kuò)散處理、超分辨率、目標(biāo)檢測和計(jì)算機(jī)視覺。
● 包括Phi-2、Mistral、Llama、Bert、Whisper和Stable Diffusion 1.5。
● 提高系統(tǒng)穩(wěn)定性、可靠性和性能。
關(guān)于英特爾的AI PC開發(fā)者計(jì)劃:加入英特爾AI PC 開發(fā)者計(jì)劃中的開發(fā)者可以訪問工具、工作流程、AI部署框架,并用于英特爾酷睿Ultra處理器。開發(fā)者還可以利用英特爾的軟件工具在 AI PC 上開展優(yōu)化AI、多架構(gòu)編程、游戲、媒體和渲染等工作。
評論