博客專欄

EEPW首頁(yè) > 博客 > 提升16倍!Meta data2vec 2.0 性能爆表;ICML禁止大語言模型生成論文,LeCun:中小模型可以?

提升16倍!Meta data2vec 2.0 性能爆表;ICML禁止大語言模型生成論文,LeCun:中小模型可以?

發(fā)布人:AI科技大本營(yíng) 時(shí)間:2023-01-19 來源:工程師 發(fā)布文章
基礎(chǔ)核心

高通推出將AD和ADAS整合的Snapdragon Ride Flex芯片在新一年的國(guó)際消費(fèi)電子展上,高通推出專門給汽車設(shè)計(jì)的處理器芯片Snapdragon Ride Flex。據(jù)了解,該芯片提供的解決方案可以將自動(dòng)駕駛(AD)和高級(jí)駕駛輔助系統(tǒng)(ADAS)整合到一個(gè)芯片上。圖片據(jù)該公司表示,通過將數(shù)字駕駛艙、ADAS和自動(dòng)駕駛汽車(AV)功能整合到單個(gè)系統(tǒng)芯片(SoC)上,汽車制造商將能無縫整合具有高質(zhì)量圖形的駕駛艙顯示器、信息娛樂游戲顯示器和后座娛樂屏幕。高通公司高級(jí)副總裁兼總經(jīng)理Nakul Duggal在“CES 2023”上接受采訪時(shí)表示:“如果我能夠以更低的成本為更多的車輛帶來同樣的能力,為什么不愿意去做呢?因此,你所看到的Flex是一個(gè)(滿足)這兩個(gè)(OEM要求)的組合?!?/span>知名IT人士爆料OPPO將自主開發(fā)智能手機(jī)處理器知名IT博主IceUniverse爆料,OPPO將開發(fā)自家的移動(dòng)應(yīng)用處理器。據(jù)其表示,目前OPPO擁有數(shù)千人的芯片開發(fā)團(tuán)隊(duì),預(yù)計(jì)在2024年推出搭載自家應(yīng)用處理器的產(chǎn)品。而一直以來,OPPO主要采用高通驍龍的芯片處理器。圖片事實(shí)上,在目前的智能手機(jī)制造商中,擁有自家處理器的企業(yè)并不多,包括三星電子、蘋果、谷歌等廠商。華為自主研發(fā)的麒麟芯片雖然業(yè)界知名,但于2020年因?yàn)楸娝苤脑蛲V沽松a(chǎn)。
此外,也有業(yè)內(nèi)人士預(yù)測(cè),該應(yīng)用處理器最快可于2023年第三季度量產(chǎn),屆時(shí)很可能采用4納米的工藝技術(shù),由臺(tái)積電TSMC代工。但截至目前,具體信息尚未公開。

圖片

資本市場(chǎng)Meta正在收購(gòu)智能眼鏡公司Luxexcel經(jīng)Meta證實(shí),該司正在收購(gòu)智能眼鏡公司Luxexcel。這家公司成立于2009年,通過3D打印來制作眼鏡的光學(xué)鏡片,可通過LCD顯示屏和全息膜等集成技術(shù)進(jìn)行打印。圖片據(jù)Meta發(fā)言人表示,“我們很高興Luxexcel團(tuán)隊(duì)加入Meta,加深了兩家公司現(xiàn)有的合作關(guān)系。”此前,Meta和Luxexcel已經(jīng)在Project Aria有過合作,這個(gè)項(xiàng)目聚焦在公司的增強(qiáng)現(xiàn)實(shí)(AR)研究計(jì)劃上。但截至目前,此次收購(gòu)的主要條款尚未披露。

圖片

前沿技術(shù)DeepMind的機(jī)器學(xué)習(xí)模型可在60秒內(nèi)預(yù)測(cè)10天內(nèi)的天氣通過衛(wèi)星遙感預(yù)測(cè)天氣是進(jìn)行天氣預(yù)報(bào)的傳統(tǒng)技術(shù),但一直以來都因?yàn)闇?zhǔn)確性差強(qiáng)人意而被寄予新的技術(shù)革命。近日,DeepMind推出一款基于機(jī)器學(xué)習(xí)的天氣模擬器,據(jù)說可以在60秒內(nèi)預(yù)測(cè)10天內(nèi)的天氣,而且準(zhǔn)確率相當(dāng)高。這款名為GraphCast的天氣模擬系統(tǒng)基于圖神經(jīng)的自回歸模型構(gòu)建,理論性能超越世界上其他機(jī)器學(xué)習(xí)天氣預(yù)報(bào)系統(tǒng)。但如此高的性能并不需要多么復(fù)雜的設(shè)備打底,只需單臺(tái)Cloud TPU v4便可以形成35GB的高量數(shù)據(jù)。與傳統(tǒng)預(yù)測(cè)方法相比,基于ML的預(yù)測(cè)數(shù)據(jù)可以更好地拓展。而通過對(duì)更大量和更高質(zhì)量的數(shù)據(jù)進(jìn)行訓(xùn)練,未來的天氣預(yù)測(cè)可以持續(xù)改進(jìn)。
Meta AI自監(jiān)督學(xué)習(xí)框架data2vec 2.0比其他算法提升16倍日前,Meta AI發(fā)布了自監(jiān)督學(xué)習(xí)框架data2vec 2.0。相比一年前發(fā)布的上一代data2vec 1.0,data2vec 2.0在性能上進(jìn)一步改進(jìn)。在精度相同的情況下,訓(xùn)練速度比其他算法提升了16倍之多。相較于監(jiān)督學(xué)習(xí),自監(jiān)督學(xué)習(xí)能夠從數(shù)量級(jí)更大的數(shù)據(jù)中進(jìn)行學(xué)習(xí),在計(jì)算機(jī)視覺和自然語言處理等領(lǐng)域取得很大成績(jī),包括Collobert-Weston 2008 model、Word2Vec、GloVE、fastText、BERT、RoBERTa、XLM-R等模型。對(duì)于自然語言處理任務(wù),通過在語言理解評(píng)估基準(zhǔn)GLUE上的評(píng)估,發(fā)現(xiàn)data2vec 2.0僅需要一半的時(shí)間便可以達(dá)到與BERT重新實(shí)現(xiàn)RoBERTa的相同的精度。

圖片

產(chǎn)業(yè)生態(tài)通過人工智能回答搜索查詢,加持ChatGPT的Bing能否打贏Google?據(jù)外媒The Information 最新發(fā)布的一篇報(bào)道顯示,微軟可能會(huì)在 2023 年 3 月之前在Bing中應(yīng)用ChatGPT,用人工智能來回答一些搜索查詢。圖片具體來看,舊版本的GPT可以在用戶輸入時(shí)自動(dòng)提供搜索查詢建議。如今,微軟已經(jīng)宣布計(jì)劃Dall-E2模型集成到Bing Image Creator中,方便用戶可以在其中發(fā)出描述性文本提示并生成AI圖稿。The Information稱這“可能會(huì)在今年3月底之前推出”,而Bing可能被定位為“免費(fèi)訪問部分GP的唯一方式”。按照OpenAI的計(jì)劃,他們將會(huì)對(duì) ChatGPT采取收費(fèi)政策,對(duì)此,外媒也將微軟評(píng)價(jià)為“為初創(chuàng)公司的云賬單買單”的企業(yè)。

圖片

熱點(diǎn)爭(zhēng)論
ICML禁大語言模型生成論文,引各界AI大佬熱議日前,國(guó)際機(jī)器學(xué)習(xí)會(huì)議(ICML)發(fā)布了2023年的論文征文公告。提交日期為1月9日至1月26日。在該公告中,一條關(guān)于提交論文需遵守的道德準(zhǔn)則引起了紛紛議論。規(guī)定原文是:禁止包含從大規(guī)模語言模型(LLM)(如ChatGPT)生成文本的論文,除非這些生成的文本作為論文實(shí)驗(yàn)分析的一部分呈現(xiàn)。
此言一出,學(xué)術(shù)圈各位大佬紛紛發(fā)表自己對(duì)此的觀點(diǎn),Yann LeCun針對(duì)該規(guī)則的“邏輯漏洞”的回復(fù)幽默又不失嘲諷:“大型語言模型不能用,意思是中型和小型語言模型還可以用?!?/span>圖片AAAI前主席Thomas Dietterich則表示:“這個(gè)規(guī)定很怪,對(duì)于一個(gè)人工智能會(huì)議來說更是如此。我們應(yīng)該歡迎所有為科學(xué)技術(shù)做出貢獻(xiàn)的文章,不論作者是否接受了AI的輔助?!?/span>



*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。



關(guān)鍵詞: AI

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉