深度學習之父：AI不該成為貧富差距擴大的幫兇

　　Martin Ford在2015年出版的《機器人的崛起》(Rise of the Robots)一書曾在一時間引起轟動，書中詳細描述了自動化領域許多加速發(fā)展的趨勢，以及這些趨勢將如何影響商業(yè)，尤其是就業(yè)。

　　在他的下一本書《智能建筑師：人工智能背后的真相》(Architects of Intelligence： The Truth About AI from The People Building It)中，他試圖深入研究副標題所描述的內容。該著作主要是對人工智能領域的知名人士進行深度采訪。Geoffrey Hinton就是其中之一。Hinton目前是多倫多大學計算機科學教授，也是谷歌Brain project的參與者。鑒于Hinton在AI神經網(wǎng)絡方面的開創(chuàng)性工作，他被許多同行視為“深度學習之父”。

　　本文摘自這本新書，Hinton 談到自己如何思考他所開創(chuàng)的先進系統(tǒng)對經濟和社會的巨大影響，并強調了解決問題需要區(qū)分社會系統(tǒng)和技術系統(tǒng)。當然，他也談到了學術方面的一些建議和憂慮 。

　　Martin Ford(下文簡稱MF)：關于人工智能的潛在風險，一個特殊的挑戰(zhàn)是對就業(yè)市場和經濟的潛在影響。你是否認為這些可能引發(fā)新一輪工業(yè)革命，并徹底顛覆就業(yè)市場?還是說這只是以訛傳訛?

　　Geoffrey Hinton(下文簡稱GH)：如果能夠大幅提高生產力，生產更多的產品，那應該是一件好事。結果是好是壞完全取決于社會制度，而非技術。人們看待技術就好像技術進步是一個問題。但問題在于我們是否會建立一個公平分享的社會系統(tǒng)，還是一個僅關注那1%的人并將其他社會人員視如草芥的社會。這與技術無關。

　　MF：那么問題來了，很多工作可能會因此消失，特別是那些可預測且易于自動化的工作。基本收入制度是社會對這一趨勢的基本反應，你贊同這一制度嗎?

　　GH：是的，基本收入是個非常明智的想法。

　　MF：那么，你認為解決這個問題需要政策上的回應嗎? 有些人認為應該就此打住，但那可能是不負責任的。

　　GH：我搬到加拿大是因為那里的稅率更高，而且我認為正確的稅收是好事。政府應該做的是建立機制，以便當人們?yōu)樽陨砝嫘惺聲r，它能幫助所有人。高稅收就是這樣一種機制：當人們變得富有時，其他人就會得到稅收的幫助。要確保AI能夠讓每個人受益，還有很多工作要做。

　　MF：對那些可能與人工智能有關的其他一些風險，比如武器化，你怎么看?

　　GH：我對普京總統(tǒng)最近所說的一些事情感到擔憂。我認為人們現(xiàn)在應該努力讓國際社會探討那些可以殺死人的武器，就像他們對待化學戰(zhàn)和大規(guī)模殺傷性武器那樣。

　　MF：那么你是否贊成暫停某種類型的研究和開發(fā)呢?

　　GH：就行你沒有暫停神經毒劑的研發(fā)一樣，你也不會暫停其他類型的研究。但事實上，確實存在一種國際機制來阻止它們被廣泛使用。

　　MF：除軍事武器使用外，其他風險如何?是否還有其他問題讓你擔憂，如隱私和透明度?

　　GH：我覺得，用它操縱選舉著實令人擔憂。劍橋分析公司由Bob Mercer成立，他是一名機器學習學者，你已經看到該丑聞事件造成了很大的影響。因此，我們必須認真對待。

　　MF：你覺得需要有監(jiān)管嗎?

　　GH：是的，而且是大量監(jiān)管。這個問題很有價值，但我不是這方面的專家，因此就不做深入建議。

　　MF：你認為我們應該采取某種形式的產業(yè)政策嗎?美國和其他西方政府是否應該關注人工智能并將其作為國家優(yōu)先事項?

　　GH：技術方面會有很大進展，但如果不試圖跟上步伐，就會顯得很瘋狂，所以這就需要進行大量投資。

　　MF：總體來看，你對目前的狀況持樂觀態(tài)度嗎?你是否認為人工智能的回報會超過帶來的負面影響?

　　GH：我肯定希望回報能超過負面影響，但我不知道社會建設層面的人是否也這樣認為，這是個社會系統(tǒng)問題，而不是技術問題。

　　MF：人工智能領域人才嚴重短缺。對于想要進入這一領域的年輕人，你有什么建議嗎?有沒有什么建議可以幫助企業(yè)吸引更多的人，并使這些人成為人工智能和深度學習領域的專家?

　　GH：事實上，我擔心沒有足夠多的人對基礎知識持批判態(tài)度。Capsules的想法是，也許我們做事情的一些基本方法不是最好的方法，我們應該撒更大的網(wǎng)。我們應該考慮一些基本假設的替代品。我給人們的一條建議是，如果你的直覺認為人們正在做的事情是錯誤的，并且可能會有更好的事情發(fā)生，你就應該遵從自己的直覺。

　　你很可能會犯錯，但是當人們在知道如何從根本上改變事情時，如果不跟著自己的直覺走，就會陷入困境。我認為真正的新想法最豐富的來源是研究生在大學里得到的良好建議。他們可以自由地提出真正的新想法，并且他們所學到的東西足以讓他們不僅僅重復歷史，我們需要保持這一點。攻讀完碩士學位后直接進入這個行業(yè)的人不會有什么全新的想法。我認為你需要坐下來思考幾年。

　　MF：加拿大似乎是深度學習的中心。這是偶然的嗎? 還是加拿大有什么特別之處促成了這一點?

　　GH：值得一提的是，加拿大高級研究院(CIFAR)為高風險領域的基礎研究提供資金。Yann LeCun和Yoshua Bengio都在加拿大，這也帶來了很多好運，前者曾是我的博士后。我們三人合作，能夠結出累累的碩果，加拿大高級研究所資助了我們的合作。

　　我們也曾經一度被孤立，處境相當惡劣，直到最近，深度學習的環(huán)境才稍微好一些，因此這筆資金對我們很有幫助，讓我們能夠在小型會議上有相當多的時間相互交流，在那里我們可以真正分享未發(fā)表的想法。