AI大佬懟懟懟的背后，究竟暗藏哪些玄機(jī)？

出品 | AI科技大本營（ID：rgznai100）

四年前，紐約大學(xué)教授Marcus為反駁深度學(xué)習(xí)三巨頭之一Bengio的“有意識先驗(yàn)”和“解糾纏觀念”理論，發(fā)表了一篇名為《Deep Learning: A Critical Appraisal》的論文，長達(dá)27頁。

論文地址：

https://arxiv.org/ftp/arxiv/papers/1801/1801.00631.pdf

概括來說，就是針對Bengio和Lecun所認(rèn)為的“深度學(xué)習(xí)是通向未來AI無可替代路徑”的深度批判。然而，就在Marcus筆跡未干之際，深度學(xué)習(xí)三巨頭的另一位——Lecun就在推特上回懟：“Thoughtful, perhaps. But mostly wrong nevertheless.（有想法，可能吧。但大部分都錯了）?！痹赮ann Lecun看來，Gary混淆了“深度學(xué)習(xí)”和“監(jiān)督學(xué)習(xí)”的概念，所以“mostly wrong”。

正因?yàn)檫@段話，有了他們的最新battle。針對近日LeCun在ZDNet的采訪中的自我否定：“已放棄使用生成網(wǎng)絡(luò)從這一幀預(yù)測視頻下一幀的研究，這是一次徹底的失敗”?？吹轿羧諏κ值淖宰C失敗，Marcus自然不能錯過“自證清白”的機(jī)會，在他看來，LeCun現(xiàn)在說的都是他之前說過的，大部分內(nèi)容都在上述論文中，但LeCun當(dāng)時還嘲笑“mostly wrong”。

 而在他發(fā)出此言論之前，Lecun已經(jīng)在采訪中對這位老對手發(fā)起了新一輪“攻擊”:“Gary Marcus不是做AI的，而是一個心理學(xué)家，從未對人工智能做出任何貢獻(xiàn)?！?/span>Marcus當(dāng)然也不能讓他：“LeCun不想讓別人發(fā)現(xiàn)他響應(yīng)過我曾經(jīng)的觀點(diǎn)，也不對這些觀點(diǎn)分享任何credit，這違反學(xué)術(shù)禮儀。另外，為了讓別人不信任我，他在采訪中對我進(jìn)行了無端的、完全不實(shí)的抨擊……”大佬們吵得熱鬧，但他們究竟在吵什么？能夠這樣十年如一日地吵來吵去，究竟因?yàn)槟男┰瓌t問題必須如此當(dāng)仁不讓？
爭論的背后：符號、控制、連接學(xué)派哪家強(qiáng)？

在四年前的爭論中，Marcus認(rèn)為：“深度學(xué)習(xí)必須通過一些借鑒自經(jīng)典符號系統(tǒng)的操作得到增強(qiáng)，也就是說需要充分利用經(jīng)典人工智能技術(shù)（允許顯式地表示層次結(jié)構(gòu)和抽象規(guī)則）的混合模型，并將其同深度學(xué)習(xí)的優(yōu)勢相結(jié)合?！?/span>事實(shí)上，符號學(xué)派的歷史頗為悠久，如果說蒸汽機(jī)和發(fā)動機(jī)開啟了第一次產(chǎn)業(yè)革命，內(nèi)燃機(jī)和電動機(jī)發(fā)動了第二次產(chǎn)業(yè)革命。人工智能掀起的新一輪從模擬化到數(shù)字化的革命就是自符號學(xué)派開始的。從機(jī)器定理證明，到跳棋程序，再到LSP處理語言和通用問題S求解程序……繼承了圖靈測試的衣缽，符號學(xué)派最初認(rèn)為人工智能的本質(zhì)是對符號的邏輯運(yùn)算——邏輯思維通過計算機(jī)中邏輯門的運(yùn)算模擬出來，進(jìn)而實(shí)現(xiàn)機(jī)械化的人類認(rèn)知，形成人工智能。在人工智能概念提出者M(jìn)cCarthy闡明其數(shù)理邏輯思維模式之后，Newell和Simon將他的觀點(diǎn)進(jìn)一步推演為“物理符號系統(tǒng)假說”，該假說進(jìn)一步將數(shù)理邏輯的模式推導(dǎo)至物理模式也可能產(chǎn)生智能行為。和數(shù)理邏輯通過運(yùn)算模擬不同，因?yàn)槲锢矸柧劢乖谌祟愃伎嫉母呒壭袨樯希哉J(rèn)為推理、規(guī)劃、知識等都可以通過符號轉(zhuǎn)化。從符號學(xué)派的底層認(rèn)知邏輯不難看出，Lecun為什么會認(rèn)為Marcus是心理學(xué)家，所以大佬們的撕逼也是從認(rèn)知的本體論出發(fā)的。既然斷定通過人類思考的符號轉(zhuǎn)化無法達(dá)成真正的人工智能，那又有哪路神仙可以點(diǎn)化呢？時間回到1943年，神經(jīng)科學(xué)家McCulloch和數(shù)學(xué)家Pitts合著論文《神經(jīng)活動中內(nèi)在思想的邏輯演算》，最早開啟通過大腦神經(jīng)元解釋思維過程，并通過大量非線性并行處理器模擬人類神經(jīng)元的實(shí)現(xiàn)方法。這一后來發(fā)展為連接學(xué)派的理論，從更為科學(xué)的人腦神經(jīng)出發(fā)解釋人類行為產(chǎn)生的動力機(jī)制。但理念誕生雖早，真正實(shí)現(xiàn)落地實(shí)踐卻是后話，這里只是埋下了伏筆。上世紀(jì)60年代，隨著機(jī)器翻譯的宣告失敗，符號學(xué)派在產(chǎn)業(yè)界逐漸式微。取而代之的是行為學(xué)派。這一派的早期代表人物是控制論創(chuàng)始人Wiener，在二戰(zhàn)期間，他接受了一項(xiàng)與火力控制相關(guān)的研究工作。那時候他的研究主要基于如何讓只有1/3000擊中飛機(jī)概率的火炮提升精準(zhǔn)度，在沒有控制論概念的時代，機(jī)械思維的結(jié)果只能是無窮盡的提升零件的精度，思考維度大大限制了可達(dá)成的目標(biāo)。Wiener通過汽車的制動原理聯(lián)想：我們在駕駛汽車的時候并不是瞄準(zhǔn)一個方向就一頭扎過去，那為什么****出的炮彈不能通過微調(diào)一點(diǎn)點(diǎn)的到達(dá)指定目標(biāo)呢？根據(jù)這樣的想法，他和其他科學(xué)家一起設(shè)計了一系列的自動控制裝置和系統(tǒng)，從而極大提高了火炮命中的精度?；谠诙?zhàn)中的嘗試，控制論在1948年正式提出。控制論的核心在于除了自身因素外，基于外界環(huán)境不斷對各類輸入信息進(jìn)行反饋，從而達(dá)成系統(tǒng)控制的目的。這一理論的誕生，讓我們現(xiàn)在所熟知的傳感器開始應(yīng)用，基于傳感器的第一臺智能機(jī)器人也在這個時候誕生。但因?yàn)楦兄阅苓^于簡單，并沒有開啟AI的大規(guī)模應(yīng)用。到了80年代，神經(jīng)網(wǎng)絡(luò)開始登上AI的歷史舞臺，這時據(jù)早期通過處理器模擬人類神經(jīng)元的設(shè)想已經(jīng)過去了三十多年。而它得以重現(xiàn)江湖的重要原因在于，隨著理論的不斷完善，科學(xué)家們突然在某天發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)居然具備自主的學(xué)習(xí)能力。這一發(fā)現(xiàn)的標(biāo)志性事件之一發(fā)生在1986年，美國心理學(xué)家Rumelhart和深度學(xué)習(xí)之父Hinton發(fā)展了由心理學(xué)家Werbos在十二年前提出的BP算法，發(fā)表一篇反向傳播算法的論文。此后20年，Hinton將神經(jīng)網(wǎng)絡(luò)由一層改進(jìn)為多層，深度學(xué)習(xí)進(jìn)入實(shí)證。再后來，吳恩達(dá)通過機(jī)器學(xué)習(xí)訓(xùn)練識別貓，DeepMind的AlphaGo戰(zhàn)勝世界圍棋冠軍，波士頓動力的Atlas和Spot……都是通過不斷的深度學(xué)習(xí)實(shí)現(xiàn)視覺、認(rèn)知、NLP和自主行動的一次次智能化突破。而量子計算未來能夠?yàn)槿斯ぶ悄軒矶啻竽芰?，我們?nèi)孕枋媚恳源?/span>

無論什么流派，本質(zhì)還是對人的思考

不得不說，因?yàn)樯窠?jīng)網(wǎng)絡(luò)近二十年來在產(chǎn)業(yè)界所做出的杰出貢獻(xiàn)，讓這一領(lǐng)域的各路AI大佬大放異彩。但通過對人工智能各流派底層邏輯的梳理，我們或許不應(yīng)該對哪個流派過度迷信，畢竟無論是符號、行為，還是連接學(xué)派，本質(zhì)上都是對人的認(rèn)知方式和行為方式，或基于器質(zhì)，或基于意識的思考和實(shí)踐。最后，我們再來吃吃瓜。其實(shí)吧，此次爭論中被Lecun Cue到的遞歸神經(jīng)網(wǎng)絡(luò)之父Jürgen Schmidhuber也是AI界的懟懟紅人了。上面我們提到Rumelhart和Hinton發(fā)展了BP算法這事，還有后續(xù)。2019年，Hinton因?yàn)樵谌斯ぶ悄苌疃葘W(xué)習(xí)方法基礎(chǔ)的反向傳播算法上的貢獻(xiàn)獲得了本田獎。Schmidhuber便發(fā)文對究竟是誰原創(chuàng)反向傳播提出了質(zhì)疑，在他看來，“應(yīng)該是Werbos在1982年明確提出了上述反向傳播算法的首個面向神經(jīng)網(wǎng)絡(luò)的應(yīng)用”。與此同時，Schmidhuber還申訴：“他（Hinton）的深度前饋神經(jīng)網(wǎng)絡(luò)是我1991年類似工作的翻版；1993年我的方法已經(jīng)能夠解決先前一些無法解決的‘非常深度學(xué)習(xí)’任務(wù)?！?/span>但Lecun顯然是不認(rèn)的，而且不僅現(xiàn)在說他是“插旗的”，還曾認(rèn)為“Jürgen對眾人的認(rèn)可過于癡迷，總是說自己沒有得到應(yīng)得的很多東西。幾乎是慣性地，總是在別人每次講話結(jié)束時都要站起來，說剛剛提出的成果有他的功勞，大體上看，這種行為并不合理?！?/span>Lecun的最新回應(yīng)：
“I really have not changed my basic view of the way forward in Al.
It's still based on DL, predictive world models, and self-supervised learning.”“我真的沒有改變對Al發(fā)展方向的基本看法。它仍然是基于DL（Deeplearning，深度學(xué)習(xí)），預(yù)測世界模型和自監(jiān)督學(xué)習(xí)?！?/span>實(shí)際上，無論是哪個時代，科學(xué)大佬們的撕扯都無處不在。遙想三百多年前，牛頓、胡克、萊布尼茲也因?yàn)橐Α⑽⒎e分的見解和知識產(chǎn)權(quán)歸屬問題爭得不可開交，而科學(xué)也在他們的爭論中不斷拆解、重塑和進(jìn)步。所以，無論是四年前，還是四年后，大佬們的battle永遠(yuǎn)喋喋不休……

參考鏈接：

• https://www.zdnet.com/article/metas-ai-guru-lecun-most-of-todays-ai-approaches-will-never-lead-to-true-intelligence/

• https://garymarcus.substack.com/p/how-new-are-yann-lecuns-new-ideas?sd=pf

• 得到App 吳軍 · 科技史綱60講  47| 信息時代的科學(xué)基礎(chǔ)和方法論