IBM研發(fā)基于PCM的個(gè)性化AI芯片,算力是GPU百倍
最近發(fā)表在Nature上的一篇論文中,IBM Research AI團(tuán)隊(duì)用大規(guī)模的模擬存儲(chǔ)器陣列訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)(DNN),達(dá)到了與GPU相當(dāng)?shù)木取Q芯咳藛T稱(chēng),這種“芯片”可以達(dá)到 GPU 280 倍的能源效率,并在同樣面積上實(shí)現(xiàn) 100 倍的算力。這是在下一次AI突破所需要的硬件加速器發(fā)展道路上邁出的重要一步。
本文引用地址:http://m.butianyuan.cn/article/201809/391725.htmIBM Research 研究員 Stefano Ambrogio之前 擔(dān)憂(yōu):我們可以在一個(gè)比 GPU 更快的系統(tǒng)上進(jìn)行訓(xùn)練,但如果訓(xùn)練操作不夠精確,那就沒(méi)用。目前為止,還沒(méi)有證據(jù)表明使用這些新型設(shè)備和使用 GPU 一樣精確。”
但在上周發(fā)表在《自然》雜志上的一篇論文中(Equivalent-accuracy accelerated neural-network training using analogue memory),Ambrogio 和他的同事們描述了如何利用全新的模擬存儲(chǔ)器和更傳統(tǒng)的電子組件組合來(lái)制造一個(gè)芯片,該芯片在運(yùn)行速度更快、能耗更少的情況下與 GPU 的精確度相匹配。
新的存儲(chǔ)技術(shù)難以訓(xùn)練深層神經(jīng)網(wǎng)絡(luò)的原因是,這個(gè)過(guò)程需要對(duì)每個(gè)神經(jīng)元的權(quán)重進(jìn)行上下數(shù)千次的刺激,直到網(wǎng)絡(luò)完全對(duì)齊。Ambrogio 說(shuō),改變這些設(shè)備的電阻需要重新配置它們的原子結(jié)構(gòu),而這個(gè)過(guò)程每次都不相同。刺激的力度也并不總是完全相同,這導(dǎo)致神經(jīng)元權(quán)重不精確的調(diào)節(jié)。
因此,研究人員創(chuàng)造了“突觸單元”來(lái)解決這個(gè)問(wèn)題,每個(gè)單元都對(duì)應(yīng)網(wǎng)絡(luò)中的單個(gè)神經(jīng)元,既有長(zhǎng)期記憶,也有短期記憶。每個(gè)單元由一對(duì)相變存儲(chǔ)器 ( PCM ) 單元和三個(gè)晶體管和一個(gè)電容器的組合構(gòu)成,相變存儲(chǔ)器單元將重量數(shù)據(jù)存儲(chǔ)在其電阻中,電容器將重量數(shù)據(jù)存儲(chǔ)為電荷。
PCM 是一種“非易失性存儲(chǔ)器”,意味著即使沒(méi)有外部電源,它也保留存儲(chǔ)的信息,而電容器是“易失性的”,因此只能保持其電荷幾毫秒。但電容器沒(méi)有 PCM 器件的可變性,因此可以快速準(zhǔn)確地編程。
當(dāng)神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)圖片訓(xùn)練后可以進(jìn)行分類(lèi)任務(wù)時(shí),只有電容器權(quán)重被更新了。在觀察了數(shù)千張圖片之后,權(quán)重會(huì)被傳輸?shù)?PCM 單元以長(zhǎng)期存儲(chǔ)。認(rèn)為最終的芯片會(huì)被設(shè)計(jì)為與 GPU 協(xié)同工作的形式,以處理全連接層的計(jì)算,同時(shí)執(zhí)行其他任務(wù)。他還認(rèn)為處理全連接層的有效方法可以被擴(kuò)展到其它更廣泛的領(lǐng)域。
Ambrogio 表示主要有兩種方向的應(yīng)用:將 AI 引入個(gè)人設(shè)備,以及提高數(shù)據(jù)中心的運(yùn)行效率。但明顯其更具吸引力的優(yōu)勢(shì)在于創(chuàng)造個(gè)性化的 AI。
IBM2018市場(chǎng)戰(zhàn)略:
截至今年3月31日,IBM2018年第一季度的營(yíng)收為191億美元,同比增長(zhǎng)5%。繼上個(gè)季度后,再次結(jié)束連續(xù)22個(gè)季度下滑的局面,第二次實(shí)現(xiàn)營(yíng)收增長(zhǎng)。IBM預(yù)計(jì)到今年年底將達(dá)到400億美元的戰(zhàn)略要求。
IBM所謂的“戰(zhàn)略必要性”收入,即未來(lái)增長(zhǎng)產(chǎn)品和服務(wù),例如云、認(rèn)知計(jì)算、沃森、分析、移動(dòng)和安全等業(yè)務(wù),在過(guò)去12個(gè)月中為收入377億美元,增長(zhǎng)12%,占IBM收入的47%。
6月6日,透過(guò)2018 IBM社交協(xié)作峰會(huì),IBM發(fā)布了一系列基于Watson技術(shù)的社交協(xié)作解決方案,并向業(yè)界展示了眾多深入各行業(yè)企業(yè)業(yè)務(wù)流程的成功案例。無(wú)論是醫(yī)藥、金融、制造業(yè)等傳統(tǒng)行業(yè),或是獨(dú)角獸級(jí)別的初創(chuàng)企業(yè),IBM企業(yè)社交協(xié)作已經(jīng)全面深入企業(yè)業(yè)務(wù)深水區(qū),成為其數(shù)字化轉(zhuǎn)型中不可或缺的助力
2018年,IBM在企業(yè)社交協(xié)作方面另一個(gè)值得期待的動(dòng)作就是即將推出DominoV10版本。據(jù)悉,輕代碼/無(wú)代碼應(yīng)用將是其主要特點(diǎn)。相信在輕量化無(wú)代碼的趨勢(shì)下,越來(lái)越多企業(yè)用戶(hù)可以脫離軟件開(kāi)發(fā)商和較長(zhǎng)的開(kāi)發(fā)周期,更便捷更快速地應(yīng)用IBM多年積累的企業(yè)協(xié)作技術(shù)。
在過(guò)去幾年:在人工智能領(lǐng)域 IBM 簽下 16000 份合同、400 份區(qū)塊鏈合同!在量子計(jì)算領(lǐng)域,也正與 JP摩根大通和戴姆勒等伙伴合作實(shí)施多個(gè)項(xiàng)目的合作。
評(píng)論