首頁  資訊  商機(jī)   下載  拆解   高校  招聘   雜志  會展  EETV  百科   問答  電路圖  工程師手冊   Datasheet  100例   活動中心  E周刊閱讀   樣片申請
EEPW首頁 >> 主題列表 >> 深度神經(jīng)網(wǎng)絡(luò)

比人腦突觸快百萬倍!新型可編程電阻器誕生

  • 人的大腦能夠同時學(xué)習(xí)和記憶大量信息而又不需要太多能量的能力,很多研究機(jī)構(gòu)都希望制造出類似于大腦甚至超越大腦的計算機(jī)。在人腦中,學(xué)習(xí)是由神經(jīng)元之間的連接(突觸)的增強(qiáng)和減弱而發(fā)生的。深度神經(jīng)網(wǎng)絡(luò)一直采用這種策略,實現(xiàn)模擬機(jī)器學(xué)習(xí)。美國麻省理工學(xué)院近日開發(fā)出一種由無機(jī)材料制成的電阻器,它將人工模擬突觸的運行速度大大提高,比以前的版本快100萬倍,也比人腦中的突觸快約100萬倍。這些可編程電阻器不僅提高了神經(jīng)網(wǎng)絡(luò)訓(xùn)練的速度,同時也降低了執(zhí)行訓(xùn)練所需的成本和能量,這可以幫助科學(xué)家更快地開發(fā)深度學(xué)習(xí)模型。這一技術(shù)的
  • 關(guān)鍵字: 美國  材料  深度神經(jīng)網(wǎng)絡(luò)  

直覺有害!Facbook最新研究:易于解釋的神經(jīng)元會誤導(dǎo)DNN的學(xué)習(xí)

  •   編譯|蔣寶尚  關(guān)于AI是什么,學(xué)界和業(yè)界已經(jīng)給出了非常多的定義,但是對于AI理解,探討尚不足。換句話說,計算機(jī)科學(xué)家解釋深度神經(jīng)網(wǎng)絡(luò)(DNNs)的能力大大落后于我們利用其取得有用結(jié)果的能力?! ‘?dāng)前理解深度神經(jīng)網(wǎng)絡(luò)的常見做法是在單個神經(jīng)元特性上“折騰”。例如,激活識別貓圖像的神經(jīng)元,而關(guān)閉其他神經(jīng)元的“控制變量法”。這種方法的學(xué)術(shù)術(shù)語叫做“類選擇性”?! ∮捎谥庇^和易理解,“類選擇性”在學(xué)界廣泛應(yīng)用。誠然,在訓(xùn)練過程中,這類可解釋的神經(jīng)元確實會“選擇性地”出現(xiàn)在各種不同任務(wù)網(wǎng)絡(luò)中。例如,預(yù)測產(chǎn)品評論
  • 關(guān)鍵字: DNN  深度神經(jīng)網(wǎng)絡(luò)  深度學(xué)習(xí)  

為什么深度學(xué)習(xí)如此容易被愚弄?AI研究員正努力修復(fù)神經(jīng)網(wǎng)絡(luò)缺陷

  •   來源:nature  編譯:張大筆茹、小七  假設(shè)一輛自動駕駛汽車看到停車標(biāo)志時并沒有減速,而是加速駛?cè)肓朔泵Φ氖致房?,從而?dǎo)致了交通事故。事故報告顯示,停車標(biāo)志的表面粘了四個小的矩形標(biāo)志。這說明一些微小擾動就能愚弄車載人工智能(AI),使其將“停止”一詞誤讀為“限速45”?! ∧壳埃祟愂录€未發(fā)生,但是人為擾動可能影響AI是非?,F(xiàn)實的。研究人員已經(jīng)展示了如何通過粘貼紙來欺騙AI系統(tǒng)誤讀停車標(biāo)志,或者通過在眼鏡或帽子上粘貼印刷圖案來欺騙人臉識別系統(tǒng),又或者通過在音頻中插入白噪聲使語音識別系統(tǒng)產(chǎn)生錯
  • 關(guān)鍵字: DNN  深度神經(jīng)網(wǎng)絡(luò)  深度學(xué)習(xí)  

DNNBrain:北師大團(tuán)隊出品的用于映射深層神經(jīng)網(wǎng)絡(luò)到大腦的工具箱

  • 導(dǎo)讀深度神經(jīng)網(wǎng)絡(luò)(DNN)通過端到端的深度學(xué)習(xí)策略在許多具有挑戰(zhàn)性的任務(wù)上達(dá)到了人類水平的性能。深度學(xué)習(xí)產(chǎn)生了具有多層抽象層次的數(shù)據(jù)表示;然而,它沒有明確地提供任何關(guān)于DNNs內(nèi)部運作的解釋,換句話說它的內(nèi)部運作是一個黑盒子。深度神經(jīng)網(wǎng)絡(luò)的成功吸引了神經(jīng)科學(xué)家,他們不僅將DNN應(yīng)用到生物神經(jīng)系統(tǒng)模型中,而且還采用了認(rèn)知神經(jīng)科學(xué)的概念和方法來理解DNN的內(nèi)部表示。盡管可以使用諸如PyTorch和TensorFlow之類的通用深度學(xué)習(xí)框架來進(jìn)行此類跨學(xué)科研究,但是使用這些框架通常需要高級編程專家和全面的數(shù)學(xué)知
  • 關(guān)鍵字: DNN  深度神經(jīng)網(wǎng)絡(luò)  深度學(xué)習(xí)  腦機(jī)接口  

CNN(卷積神經(jīng)網(wǎng)絡(luò))、RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))、DNN(深度神經(jīng)網(wǎng)絡(luò))的內(nèi)部網(wǎng)絡(luò)結(jié)構(gòu)的區(qū)別

  • 先說DNN,從結(jié)構(gòu)上來說他和傳統(tǒng)意義上的NN(神經(jīng)網(wǎng)絡(luò))沒什么區(qū)別,但是神經(jīng)網(wǎng)絡(luò)發(fā)展時遇到了一些瓶頸問題。一開始的神經(jīng)元不能表示異或運算,科學(xué)家通過增加網(wǎng)絡(luò)層數(shù),增加隱藏層可以表達(dá)。并發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)的層數(shù)直接決定了它對現(xiàn)實的表達(dá)能力。但是隨著層數(shù)的增加會出現(xiàn)局部函數(shù)越來越容易出現(xiàn)局部最優(yōu)解的現(xiàn)象,用數(shù)據(jù)訓(xùn)練深層網(wǎng)絡(luò)有時候還不如淺層網(wǎng)絡(luò),并會出現(xiàn)梯度消失的問題。我們經(jīng)常使用sigmoid函數(shù)作為神經(jīng)元的輸入輸出函數(shù),在BP反向傳播梯度時,信號量為1的傳到下一層就變成0.25了,到最后面幾層基本無法達(dá)到調(diào)節(jié)參數(shù)
  • 關(guān)鍵字: DNN  深度神經(jīng)網(wǎng)絡(luò)  深度學(xué)習(xí)  CNN  RNN  

深度神經(jīng)網(wǎng)絡(luò)(DNN)模型與前向傳播算法

  •   深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks,以下簡稱DNN)是深度學(xué)習(xí)的基礎(chǔ),而要理解DNN,首先我們要理解DNN模型,下面我們就對DNN的模型與前向傳播算法做一個總結(jié)?! ?.從感知機(jī)到神經(jīng)網(wǎng)絡(luò)  在感知機(jī)原理小結(jié)中,我們介紹過感知機(jī)的模型,它是一個有若干輸入和一個輸出的模型,如下圖:  輸出和輸入之間學(xué)習(xí)到一個線性關(guān)系,得到中間輸出結(jié)果:  z=∑i=1mwixi+bz=∑i=1mwixi+b  接著是一個神經(jīng)元激活函數(shù):  sign(z)={?11z<0z≥0sign(z)={
  • 關(guān)鍵字: DNN  深度神經(jīng)網(wǎng)絡(luò)  深度學(xué)習(xí)  

什么是DNN?它對AI發(fā)展意味著什么

  • 為了讓AI加速器在最短延遲內(nèi)達(dá)到最佳精準(zhǔn)度,特別是在自動駕駛車中,TFLOP已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針,然而,有專家認(rèn)為這種野蠻處理方式并不可持續(xù)…… 為了讓人工智能(AI)加速器在最短延遲內(nèi)達(dá)到最佳精準(zhǔn)度,特別是在自動駕駛車(AV)中,TFLOP(兆次浮點運算)已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針。這場競賽的選手包括Nvidia的Xavier、Mobileye的EyeQ5、特斯拉(Tesla)的全自動駕駛(FSD)計算機(jī)芯片,以及NXP-Kalray芯片。然而,有專家認(rèn)為這種野蠻處理方式
  • 關(guān)鍵字: DNN  深度神經(jīng)網(wǎng)絡(luò)  深度學(xué)習(xí)  

深度學(xué)習(xí)干貨|基于Tensorflow深度神經(jīng)網(wǎng)絡(luò)(DNN)詳解

  • 深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks,簡稱DNN)是深度學(xué)習(xí)的基礎(chǔ),想要學(xué)好深度學(xué)習(xí),首先我們要理解DNN模型。DNN的基本結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)是基于感知機(jī)的擴(kuò)展,而DNN可以理解為有很多隱藏層的神經(jīng)網(wǎng)絡(luò)。多層神經(jīng)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)DNN其實也基本一樣,DNN也叫做多層感知機(jī)(MLP)。DNN按不同層的位置劃分,神經(jīng)網(wǎng)絡(luò)層可以分為三類,輸入層,隱藏層和輸出層,如下圖示例,一般來說第一層是輸入層,最后一層是輸出層,而中間的層數(shù)都是隱藏層。網(wǎng)絡(luò)結(jié)構(gòu)層與層之間是全連接的,也就是說,第i層的任意一個神經(jīng)
  • 關(guān)鍵字: DNN  深度神經(jīng)網(wǎng)絡(luò)  深度學(xué)習(xí)  

特斯拉收購初創(chuàng)公司 專注自動駕駛“深度神經(jīng)網(wǎng)絡(luò)”

IBM的8位浮點精度深度神經(jīng)網(wǎng)絡(luò)模型解析

  •   在12月初舉辦的NeurIPS會議上,IBM展示了一款新型人工智能芯片?! BM的研究人員聲稱,他們已開發(fā)出一個更加高效的模型用于處理神經(jīng)網(wǎng)絡(luò),該模型只需使用8位浮點精度進(jìn)行訓(xùn)練,推理(inferencing)時更是僅需4位浮點精度。該研究的成果已于2018年12月初在國際電子元件會議(International Electron Devices Meeting,IEDM)和神經(jīng)信息處理系統(tǒng)大會(Conference on NeuralInformation Processing Syste
  • 關(guān)鍵字: IBM  深度神經(jīng)網(wǎng)絡(luò)  

人類和DNN的目標(biāo)識別穩(wěn)健性比較

  •   深度神經(jīng)網(wǎng)絡(luò)在很多任務(wù)上都已取得了媲美乃至超越人類的表現(xiàn),但其泛化能力仍遠(yuǎn)不及人類。德國蒂賓根大學(xué)等多所機(jī)構(gòu)近期的一篇論文對人類和 DNN 的目標(biāo)識別穩(wěn)健性進(jìn)行了行為比較,并得到了一些有趣的見解。機(jī)器之心對該論文進(jìn)行了編譯介紹?! ≌ ∥覀兺ㄟ^ 12 種不同類型的圖像劣化(image degradation)方法,比較了人類與當(dāng)前的卷積式深度神經(jīng)網(wǎng)絡(luò)(DNN)在目標(biāo)識別上的穩(wěn)健性。首先,對比三種著名的 DNN(ResNet-152、VGG-19、GoogLeNet),我們發(fā)現(xiàn)不管對圖像進(jìn)行怎樣的操
  • 關(guān)鍵字: DNN  深度神經(jīng)網(wǎng)絡(luò)  

人工智能與語音識別技術(shù)

  • 隨著深度神經(jīng)網(wǎng)絡(luò)在大規(guī)模語音識別任務(wù)上獲得顯著效果提升,大數(shù)據(jù)的不斷完善和漣漪效應(yīng)的提出,在近十年,中國的人工智能也得到了快速發(fā)展。作為國內(nèi)智能語音與人工智能產(chǎn)業(yè)領(lǐng)導(dǎo)者的科大訊飛率先將遞歸神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用到真實在線系統(tǒng)中,并提出了全新的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)FSMN——訊飛構(gòu)型。
  • 關(guān)鍵字: 深度神經(jīng)網(wǎng)絡(luò)  遞歸神經(jīng)網(wǎng)絡(luò)  卷積神經(jīng)網(wǎng)絡(luò)  訊飛構(gòu)型  201604  
共12條 1/1 1

深度神經(jīng)網(wǎng)絡(luò)介紹

您好,目前還沒有人創(chuàng)建詞條深度神經(jīng)網(wǎng)絡(luò)!
歡迎您創(chuàng)建該詞條,闡述對深度神經(jīng)網(wǎng)絡(luò)的理解,并與今后在此搜索深度神經(jīng)網(wǎng)絡(luò)的朋友們分享。    創(chuàng)建詞條

熱門主題

樹莓派    linux   
關(guān)于我們 - 廣告服務(wù) - 企業(yè)會員服務(wù) - 網(wǎng)站地圖 - 聯(lián)系我們 - 征稿 - 友情鏈接 - 手機(jī)EEPW
Copyright ?2000-2015 ELECTRONIC ENGINEERING & PRODUCT WORLD. All rights reserved.
《電子產(chǎn)品世界》雜志社 版權(quán)所有 北京東曉國際技術(shù)信息咨詢有限公司
備案 京ICP備12027778號-2 北京市公安局備案:1101082052    京公網(wǎng)安備11010802012473