新聞中心

EEPW首頁(yè) > 智能計(jì)算 > 業(yè)界動(dòng)態(tài) > 2024 WAIC智能芯片及多模態(tài)大模型論壇

2024 WAIC智能芯片及多模態(tài)大模型論壇

—— 愛(ài)芯通元AI處理器助力打造普惠智能
作者: 時(shí)間:2024-07-08 來(lái)源:EEPW 收藏

研發(fā)及基礎(chǔ)算力平臺(tái)公司宣布,7月5日在2024世界人工智能大會(huì)上成功舉辦“芯領(lǐng)未來(lái)丨智能芯片及”。論壇以“引領(lǐng)人工智能革新 造就普惠智能生活”為主題,匯聚了芯片、大模型、智能制造等領(lǐng)域的專家與意見(jiàn)領(lǐng)袖,共同分享大模型時(shí)代的創(chuàng)新機(jī)遇及落地成果。

本文引用地址:http://m.butianyuan.cn/article/202407/460758.htm

提出打造基于邊端智能的AI處理器的產(chǎn)品主張,并突出強(qiáng)調(diào)其“更經(jīng)濟(jì)、更高效、更環(huán)保”的先進(jìn)優(yōu)勢(shì)。分論壇上,正式發(fā)布“愛(ài)芯通元AI處理器”,展示了智能芯片與大模型深度融合的技術(shù)應(yīng)用與商業(yè)生態(tài)。

image.png

云邊端加速一體化,更經(jīng)濟(jì)、更高效、更環(huán)保成為AI芯片關(guān)鍵詞

當(dāng)前,我國(guó)大模型正迎來(lái)飛速發(fā)展,愛(ài)芯元智創(chuàng)始人、董事長(zhǎng)仇肖莘在主旨演講中表示,大模型真正大規(guī)模落地需要云邊端三級(jí)緊密結(jié)合,而邊緣側(cè)和端側(cè)結(jié)合的關(guān)鍵在于AI計(jì)算與感知。愛(ài)芯元智基于愛(ài)芯智眸AI-ISP和愛(ài)芯通元混合精度NPU兩大自研核心技術(shù),確立了以“AIoT+ADAS”為主的一體兩翼戰(zhàn)略路線,并向邊緣計(jì)算、AI推理領(lǐng)域縱深發(fā)展,推動(dòng)智慧城市、智能駕駛等應(yīng)用場(chǎng)景加速落地。

1720414113320246.png

愛(ài)芯元智創(chuàng)始人、董事長(zhǎng) 仇肖莘

仇肖莘認(rèn)為,智能芯片和多模態(tài)大模型已經(jīng)成為人工智能時(shí)代的“黃金組合”,當(dāng)大模型的應(yīng)用日益廣泛,更經(jīng)濟(jì)、更高效、更環(huán)保將會(huì)成為智能芯片的關(guān)鍵詞,而搭載AI處理器的高效推理芯片將是大模型落地更合理的選擇,這也是推進(jìn)普惠AI的關(guān)鍵所在。

領(lǐng)跑AI處理器,愛(ài)芯通元布局全領(lǐng)域算力

作為國(guó)內(nèi)領(lǐng)先的基礎(chǔ)算力平臺(tái)公司,愛(ài)芯元智在2022年預(yù)判了Transformer的爆發(fā),并率先推出了搭載愛(ài)芯通元AI處理器的芯片。愛(ài)芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉介紹,愛(ài)芯通元AI處理器的核心是算子指令集和數(shù)據(jù)流微架構(gòu)。其底層采用了可編程數(shù)據(jù)流的微架構(gòu),來(lái)提高能效和算力密度。同時(shí)它的靈活性也保證了算子指令集的完備性,支撐各種AI的應(yīng)用。而其成熟的軟件工具鏈可以讓開(kāi)發(fā)者快速上手。此外,軟硬件的聯(lián)合設(shè)計(jì)也保證了愛(ài)芯通元AI處理器的高速迭代,保證了愛(ài)芯通元AI處理器的競(jìng)爭(zhēng)力。愛(ài)芯通元AI處理器很大程度降低了AI應(yīng)用的開(kāi)發(fā)及運(yùn)維成本,讓AI智能更經(jīng)濟(jì)、更高效、更環(huán)保。

1720414140787694.png

愛(ài)芯元智聯(lián)合創(chuàng)始人、副總裁 劉建偉

劉建偉介紹,愛(ài)芯通元AI處理器在高中低三檔算力中已完成布局,并在智慧城市和輔助駕駛兩個(gè)領(lǐng)域?qū)崿F(xiàn)了規(guī)模化量產(chǎn),能效比較GPU芯片提升了一個(gè)數(shù)量級(jí),而在以文搜圖、通用檢測(cè)、以圖生文、AI Agent等通用大模型應(yīng)用中,愛(ài)芯通元AI處理器也可以讓AI開(kāi)發(fā)者以更低的成本進(jìn)行高效開(kāi)發(fā)。

視覺(jué)大模型落地提速,智慧物聯(lián)與智能駕駛綻放新機(jī)

論壇上,愛(ài)芯元智在智慧物聯(lián)、智能駕駛等領(lǐng)域的合作伙伴也分享了AI處理器的應(yīng)用前景。智慧物聯(lián)和人工智能創(chuàng)新融合專家殷俊表示,以視覺(jué)為主的智能在城市治理與生產(chǎn)生活方面應(yīng)用廣泛,近年來(lái)大模型在文本、語(yǔ)音等領(lǐng)域快速發(fā)展,但在視覺(jué)領(lǐng)域的落地卻面臨可靠性、穩(wěn)定性、理解不夠全面等挑戰(zhàn),真實(shí)準(zhǔn)確描述客觀世界是視覺(jué)大模型落地的關(guān)鍵。針對(duì)不斷更新迭代的視覺(jué)大模型,殷俊認(rèn)為,不應(yīng)該讓用戶放棄原有的技術(shù)投資,而是要通過(guò)大小模型協(xié)同和模型小型化,實(shí)現(xiàn)最優(yōu)算力配置,來(lái)加快大模型行業(yè)落地。

image.png

智慧物聯(lián)和人工智能創(chuàng)新融合專家 殷俊

和物聯(lián)網(wǎng)一樣,智能駕駛也經(jīng)歷了模型從小到大的過(guò)程,“BEV+Transformer”大模型架構(gòu)正在成為智駕行業(yè)的主力軍,背后則需要突破“端到端”模型技術(shù)難題。對(duì)此,邁馳智行科技有限公司CTO張弛表示,大模型加速了自動(dòng)駕駛從高速公路向更加復(fù)雜的城區(qū)場(chǎng)景的過(guò)渡,也促進(jìn)了端到端感知規(guī)控一體化的形成,這一過(guò)程中,激光雷達(dá)、高精度地圖的作用在減弱,但豐富的端到端大模型也讓不受地理環(huán)境限制的點(diǎn)到點(diǎn)自動(dòng)駕駛成為可能。

image.png

邁馳智行科技有限公司CTO 張弛

由云到端,擁抱,智能芯片+大模型助力普惠AI

現(xiàn)場(chǎng)嘉賓們也對(duì)人工智能發(fā)展方向做出了預(yù)測(cè)。面壁智能副總裁賈超認(rèn)為,憑借在成本、隱私、延時(shí)性、可靠性等方面的優(yōu)勢(shì),端側(cè)AI發(fā)展會(huì)成為全球趨勢(shì),這也意味著大模型正式進(jìn)入了輕量化時(shí)代。這一背景下,“模型知識(shí)密度,平均每8個(gè)月提升1倍”將會(huì)成為大模型時(shí)代的新摩爾定律。賈超強(qiáng)調(diào),企業(yè)開(kāi)發(fā)端側(cè)大模型需要從算法側(cè)和芯片側(cè)來(lái)做雙向奔赴,把端側(cè)模型用端側(cè)芯片,在用戶場(chǎng)景上高效落地,這樣才能給用戶帶來(lái)最極致的體驗(yàn)。

image.png

面壁智能副總裁 賈超

及生態(tài)高級(jí)技術(shù)專家尚云海分析到,大模型未來(lái)就會(huì)呈現(xiàn)規(guī)模大、結(jié)構(gòu)統(tǒng)一、能力增強(qiáng)三大趨勢(shì),目前處于計(jì)算需求與硬件計(jì)算能力不匹配的階段,量化、結(jié)構(gòu)化稀疏、低精度訓(xùn)練將成為提升大模型性能的有效路徑。作為開(kāi)源、開(kāi)放指令架構(gòu),可以第一時(shí)間適應(yīng)AI算法和算子的快速變化,滿足當(dāng)前大模型所需的推動(dòng)AI算力和芯片架構(gòu)發(fā)展。

1720414224240486.png

RISC-V及生態(tài)高級(jí)技術(shù)專家 尚云海

智能芯片的突破創(chuàng)新讓算力更加有的放矢,大模型的應(yīng)用落地也給各行各業(yè)的智能化轉(zhuǎn)型帶來(lái)更廣闊的想象空間,愛(ài)芯元智將堅(jiān)定推進(jìn)智能芯片與大模型的深度融合,促進(jìn)云邊端的一體化,助力推動(dòng)AI普惠的不斷深化。



評(píng)論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉