高通甩出最強芯片三件套!手機跑100億參數(shù)大模型,PC芯片逆襲蘋果英特爾
三芯齊發(fā),AI炸場。作者 | ZeR0
編輯 | 漠影
芯東西10月24日毛伊島報道,北京時間10月25日凌晨,高通在2023驍龍峰會上推出新一代旗艦移動芯片驍龍8 Gen 3、旗艦PC(個人電腦)芯片驍龍X Elite、音頻芯片S7/S7 Pro Gen 1,以及跨平臺連接技術(shù)Snapdragon Seamless。第三代驍龍8移動平臺是高通首個專為生成式AI而打造的移動平臺,采用4nm工藝技術(shù),搭載業(yè)界最快的設備端內(nèi)存LPDDR5X。與前代平臺相比,其AI性能提升98%、能效提升40%;CPU最高頻率達3.3GHz,性能提升30%,能效提升20%;GPU性能提升25%,能效提升25%。小米14系列智能手機將在10月26日首發(fā)搭載第三代驍龍8。
全新PC處理器驍龍X Elite同樣采用4nm工藝技術(shù),12核CPU性能可達到x86處理器競品的2倍,多線程峰值性能比蘋果M2芯片高出50%,GPU算力可達4.6TFLOPS,AI處理速度達到競品的4.5倍,異構(gòu)AI引擎性能達75TOPS,支持設備端運行參數(shù)量超過130億的大模型。
第一代S7及S7 Pro音頻平臺是首款支持高通擴展個人局域網(wǎng)(XPAN)技術(shù)和超低功耗Wi-Fi連接的音頻平臺,相比前代平臺,AI性能提升達近100倍,計算性能提升達6倍,能夠在家庭、樓宇或園區(qū)擴展音頻傳輸距離,并支持高達192kHz無損音樂品質(zhì)。高通還公布一項全新跨平臺技術(shù)Snapdragon Seamless。該技術(shù)可實現(xiàn)跨手機、PC、耳機、增強現(xiàn)實(AR)頭顯等多臺終端跨多個操作系統(tǒng)無縫連接,共享外設和數(shù)據(jù),就像使用統(tǒng)一的整合系統(tǒng)般工作以共享信息。
這項技術(shù)可實現(xiàn)跨設備屏幕、文件分享等功能,比如鼠標和鍵盤可在PC、手機和平板電腦上無縫使用,文件和窗口可在不同類型的終端間拖放,耳機可根據(jù)音源的優(yōu)先級進行智能切換,XR可為智能手機提供擴展功能。高通移動平臺第三代驍龍8、PC平臺驍龍X Elite、可穿戴平臺和音頻平臺現(xiàn)已支持Snapdragon Seamless。未來該技術(shù)將擴展至XR(擴展現(xiàn)實)、汽車和物聯(lián)網(wǎng)平臺。微軟、Android、Xiaomi、華碩、榮耀、聯(lián)想和OPPO等公司正與高通合作,打造Snapdragon Seamless賦能的多終端體驗。該技術(shù)最早將于今年在全球范圍發(fā)布的終端平臺上落地。
01.首次支持多模態(tài)生成式AI手機能跑100億參數(shù)大模型
夏威夷當?shù)貢r間9點01分,2023驍龍峰會正式開場,現(xiàn)場與座者共400多人。高通首先曬出一些成績單:驍龍已落地30多億終端設備,品牌知名度是競品2倍,購買意愿是競品9倍,推薦意愿是競品10倍,消費者愿意花費比競品高16%的溢價來購買搭載驍龍的終端。驍友會成員已接近1400萬人。
緊接著,高通CEO安蒙登上舞臺,分享高通對生成式AI和混合AI趨勢的觀察。安蒙說:“我們正在進入AI時代,終端側(cè)生成式AI對于打造強大、快速、個性化、高效、安全和高度優(yōu)化的體驗至關重要。驍龍在助力塑造和把握終端側(cè)生成式AI機遇方面獨具優(yōu)勢,未來驍龍賦能的生成式AI體驗將無處不在。”
針對生成式AI,第三代驍龍8率先支持多模態(tài)通用AI模型,現(xiàn)已支持運行超100億個參數(shù)的大模型。
在第三代驍龍8上,面向70億參數(shù)大語言模型可實現(xiàn)每秒生成20個Token;不到1秒就能使用AI文生圖模型Stable Diffusion生成1張圖像。
驍龍平臺現(xiàn)已支持跑微軟、OpenAI、Meta、安卓、百度、智譜、BLOOM、stability.ai、百川智能、有道等企業(yè)或機構(gòu)的端側(cè)大模型。
Meta創(chuàng)始人兼CEO馬克·扎克伯格通過視頻VCR的方式分享Meta與高通的合作。
其幕后功臣是升級的高通AI引擎,由Hexagon NPU、Adreno GPU、Kryo CPU等共同組成。
安蒙說,高通在設備側(cè)AI性能、異構(gòu)計算能力、可擴展的AI軟件工具、橫向生態(tài)系統(tǒng)和AI模式的支持等方面都優(yōu)勢顯著。
02.盧偉冰現(xiàn)場展示小米14真機第三代驍龍8 AI性能提升98%
小米總裁盧偉冰來到現(xiàn)場,介紹了小米的60億參數(shù)大模型,宣布搭載第三代驍龍8的小米14系列智能手機將在北京時間10月26日19點發(fā)布,并預告小米將在2024年推出小米汽車。
與前代平臺相比,第三代驍龍8的Kryo CPU性能提升30%,能效提升20%;Adreno GPU性能提升25%,能效提升25%;Hexagon NPU AI性能提升98%,能效提升40%。
除了加速生成式AI外,第三代驍龍8此次重點升級的還有攝影功能,可支持用AI實現(xiàn)填充的照片擴展、用智能摳像實現(xiàn)視頻對象擦除、AI背景生成、AI優(yōu)化夜景視頻拍攝等多種影像優(yōu)化功能。驍龍正與C2PA標準合作,確保照片內(nèi)容的公開度與透明度。
連接方面,第三代驍龍8內(nèi)置基于5G advanced-ready架構(gòu)的5G基帶芯片,支持Wi-Fi 7和雙藍牙。
03.驍龍X Elite:CPU性能“倍殺”x86芯片,本地可跑130億參數(shù)大模型
高通將驍龍X Elite稱作是同級別Windows處理器中“最強大、最智能、最高效”的處理器,擁有可擴展的熱設計范圍,并且為AI而生,能夠讓用戶從多方面感受到更加智能的體驗。搭載驍龍X Elite的PC預計將于2024年中面市。
值得一提的是,聯(lián)想集團CEO楊元慶、惠普總裁兼CEO Enrique Lores均通過視頻形式向驍龍X Elite的發(fā)布表示祝賀。新任微軟Windows和設備業(yè)務副總裁Pavan Davuluri更是直接到現(xiàn)場為驍龍X Elite站臺,并分享微軟與高通在Windows PC設備和VR設備Quest上的合作。
驍龍X Elite采用4nm工藝節(jié)點,包含12個CPU性能核;采用最先進的CPU內(nèi)存架構(gòu)設計、LPDDR5X內(nèi)存,對應最大內(nèi)存帶寬136GB/s,總緩存為42MB。
其AI處理能力是競品的4.5倍,異構(gòu)AI引擎性能可達75TOPS,高通Hexagon NPU最高可實現(xiàn)45TOPS INT4的AI算力,相較2017年時提升100倍;支持在終端側(cè)運行超過130億個參數(shù)的生成式AI模型,面向Windows 11 PC的終端側(cè)聊天助手(基于70億Llama 2大語言模型)可實現(xiàn)每秒處理30個token。
驍龍X Elite采用定制的集成高通Oryon CPU,雙核boost頻率達4.3GHz,相同功耗下CPU性能可達到x86處理器競品的2倍;峰值多線程CPU性能比Arm處理器蘋果M2芯片高出50%。
達到相同峰值性能時,其單線程CPU所用的功耗比Arm處理器蘋果M2 Max功耗少30%,比x86處理器英特爾i9-13980HX功耗少70%;
驍龍X Elite的Adreno GPU算力達4.6TFLOPS,能支持3臺超高清監(jiān)視器。相同功耗下,其GPU性能可達到x86處理器英特爾i7-13800H的2倍,達到相同PC峰值性能功耗僅有英特爾i7-13800H的1/4。
相同功耗下,GPU性能比x86處理器AMD Ryzen 9 9740HS快80%,達到相同PC峰值性能時功耗僅有Ryzen 9 9740HS的1/5。
驍龍X Elite還支持超快5G和Wi-Fi 7連接,以及先進的音頻和攝像頭體驗。
04.S7/S7 Pro:AI性能提升100倍,計算性能提升6倍
高通還推出了面向耳機和音箱設計的第一代S7及S7 Pro音頻平臺,結(jié)合高性能、低功耗計算、終端側(cè)AI和先進連接,旨在解鎖下一級別的音頻體驗。
該平臺將DSP性能提升至前代平臺的3倍,AI性能是前代平臺的近100倍,計算性能提升到前代平臺的6倍,存儲性能提升前代平臺的3倍。第一代S7及S7 Pro音頻平臺是首款支持高通擴展個人局域網(wǎng)(XPAN)技術(shù)和超低功耗Wi-Fi連接的音頻平臺,其低功耗Wi-Fi連接擴展了音頻使用范圍和質(zhì)量,能夠在家庭、樓宇或園區(qū)擴展音頻傳輸距離,支持高達192kHz的多通道無損音樂串流及面向游戲的增強多通道空間音頻。Snapdragon Sound驍龍暢聽技術(shù)已應用于最新的第三代驍龍8和驍龍X Elite,當與采用第一代高通S7或S7 Pro音頻平臺的終端配合使用時,用戶將享受到更好的音頻體驗。Bose CEO Lila Snyder通過視頻形式,宣布即將推出的Bose QuietComfort系列產(chǎn)品將采用高通Snapdragon Sound平臺。
05.結(jié)語:為端側(cè)生成式AI革命按下加速鍵
今年以來,生成式AI成為科技領域最火熱的概念之一,從AI文生圖、多輪對話聊天到文生代碼、文生音樂、文生視頻、圖生文等等,以自然語言為入口的全新人機交互方式正為人們的生活、工作和娛樂帶來前所未有的高效和便捷。作為終端芯片“頭號玩家”和端側(cè)AI技術(shù)的領跑者,高通在端側(cè)運行生成式AI上的投入果斷而迅速,早在今年2月就用基于第二代驍龍8的終端演示了跑參數(shù)量超過10億的文生圖模型Stable Diffusion,6月份又完成終端側(cè)跑參數(shù)量更大的圖生圖模型ControlNet。今日發(fā)布的第三代驍龍8和驍龍X Elite更是為AI而生,做到支持超過100億參數(shù)的大模型在驍龍平臺上運行。無論是云端運行生成式AI難以消除的高成本、高時延、隱私安全等挑戰(zhàn),還是業(yè)界正探索縮小生成式AI模型參數(shù)量的趨勢,都給端側(cè)芯片企業(yè)敞開了時代機遇之門。高通為加速移動端和PC端AI計算所采用的各項硬件優(yōu)化,以及在統(tǒng)一AI軟件棧上的持續(xù)布局,對于在設備端更高效地支撐生成式AI應用很有參考價值。更多技術(shù)細節(jié)將在明日揭曉。
*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。