谷歌痛失大將：“AI教父” Geoffrey Hinton離職，只為給人類敲響警鐘？
加入技術(shù)交流群
深度學習的奠基人開始后悔自己的畢生研究。
文| Juny 編輯| VickyXiao
進入2023年以來，科技界里彷佛沒有了大事，只剩下了人工智能。人人都在談論ChatGPT、科技圈開卷大模型、OpenAI估值節(jié)節(jié)攀升、大公司你追我趕硝煙四起……
而這一切繁榮的背后，其實都離不開三位人工智能研究者的工作———曾因提出和發(fā)展深度學習神經(jīng)網(wǎng)絡(luò)，在2019年獲得計算機界最高榮譽“圖靈獎”的Geoffrey Hinton、Yoshua Bengio、Yann LeCun。
可以說，沒有這三位學者的研究，我們今天根本看不到ChatGPT、Bard的出現(xiàn)，也不會這么快的就能在日常生活中使用語音識別、人臉識別、圖片檢索、機器翻譯、自動駕駛等技術(shù)。
其中，Geoffrey Hinton是“三巨頭”中最核心的人物，被業(yè)界譽為“人工智能教父”。他在2013年加入谷歌，把深度學習技術(shù)帶進了谷歌的多項業(yè)務，直接推動谷歌成為了AI技術(shù)最出色的公司之一。同時，他還親自培養(yǎng)了一大批機器學習相關(guān)的人才，包括了如今OpenAI的聯(lián)合創(chuàng)始人和首席科學家Ilya Sutskever。
“深度學習三大先驅(qū)”，圖片來自于推特而就在加入谷歌的第十年、深度學習迎來爆發(fā)式發(fā)展的當下，幾周前，現(xiàn)年75歲的Geoffrey Hinton辭去了他在谷歌的工作。而離職的原因，用他的原話來講，是想要沒有任何負擔的給所有人講一些他關(guān)于人工智能發(fā)展的“真心話”。｜來自“人工智能教父”的擔憂和警告如果說誰最熱愛深度學習相關(guān)的人工智能研究，Geoffrey Hinton一定是最有發(fā)言權(quán)的那一位。從上個世紀70年代至今，Geoffrey Hinton作為計算機神經(jīng)網(wǎng)絡(luò)的開拓者，已經(jīng)在這個領(lǐng)域默默耕耘了近50年。對于Geoffrey Hinton來說，從無到有的創(chuàng)造一個全新概念和技術(shù)的過程曾經(jīng)無比艱難。從上個世紀80年代他提出神經(jīng)網(wǎng)絡(luò)理論開始，一直到本世紀初，長達20多年的時間里，學術(shù)界對神經(jīng)網(wǎng)絡(luò)理論都充滿質(zhì)疑，同時，受制于當時數(shù)據(jù)集規(guī)模限制以及計算機算力的不足，相關(guān)研究的進展也一度非常緩慢。在這個漫長的過程中，一些人放棄了、一些人轉(zhuǎn)了研究方向，但Geoffrey Hinton從未停止過關(guān)于深度學習神經(jīng)網(wǎng)絡(luò)的研究。但如今，當深度學習終于守得云開見月明，所有人都開始向深度學習里瘋狂砸人力、砸資金時，堅守了多年的Geoffrey Hinton這時卻想要大家都暫停腳步，甚至對自己付出了一生心血的研究感到有些后悔，為什么？在最近接受紐約時報的專訪中，Geoffrey Hinton表示，自己此次從谷歌離職并不是因為要批判谷歌，而是他能夠在不影響谷歌的情況下，去真實地談論AI的潛在風險。在他看來，作為AI技術(shù)的領(lǐng)軍者，過去這些年谷歌一直扮演著一位“負責任的管家”的角色，小心翼翼地保留和控制著那些可能造成傷害的技術(shù)。但由于微軟極快的將Bing和ChatGPT結(jié)合并向公眾發(fā)布，挑戰(zhàn)了谷歌核心的搜索引擎的業(yè)務，所以谷歌也無法像過去那樣繼續(xù)保持著發(fā)展節(jié)奏，科技巨頭陷入了一場可能無法停止的競爭之中。在這樣的情況下，他需要以一名研究者而不是谷歌員工的身份站出來，給大家發(fā)出警告。結(jié)合整個采訪來看，Hinton主要有以下幾個方面的擔憂。一是在人工智能技術(shù)的支持下，他認為互聯(lián)網(wǎng)將很快被各種虛假信息淹沒。這些信息包括文字、照片、視頻等，而普通人將越來越難分辨這些信息的真假，引發(fā)社會的失序。二是就業(yè)市場可能在還沒有準備好的情況下被顛覆，造成失業(yè)潮的爆發(fā)。雖然目前像 ChatGPT 這樣的聊天機器人還只是對人類工作的補充，但按照人工智能的發(fā)展速度，它們將很快可以取代律師助理、翻譯、行政助理等其他任何基礎(chǔ)的、重復性的工作。“它消除了苦差事，但帶走的可能遠不止于此。”Hinton表示。此外，他還擔心人工智能技術(shù)的接下來的發(fā)展會對人類社會構(gòu)成威脅。他承認，在他們過去的研究之中，人工智能常常能從大量數(shù)據(jù)中學習進而產(chǎn)生出很多讓人意想不到的行為。而當前，包括個人和公司在內(nèi)的很多使用者們不僅讓人工智能自主生成代碼，也讓人工智能運行和管理著代碼。在這種不斷的訓練之中，很有可能讓“自主殺手機器人”真的成為現(xiàn)實。“很多人都覺著這很遙遠，我曾經(jīng)也是這么認為的，覺得至少還要有30-50年我們才會走到那一天。但就我目前所了解到的信息而言，我已經(jīng)不這么想了?！盚inton認為，谷歌和微軟以及其他大型公司之間的競爭，將很快升級為一場全球性競爭，如果沒有某種監(jiān)管，這場競爭將不會停止，人工智能發(fā)展的速度會遠超我們的想象，并最終走向失控。｜呼吁AI監(jiān)管的聲音越來越強如果以上這些話從別人口中說出來，大家可能仍然會覺得這些觀點帶著危言聳聽的意味。但當如今世界上人工智能領(lǐng)域最權(quán)威的專家、深度學習的奠基人Geoffrey Hinton也這么說時，也引發(fā)了更多人開始認真思考和關(guān)注這個問題。實際上，在此次Geoffrey Hinton發(fā)聲之前，最近幾個月來人工智能領(lǐng)域就已經(jīng)發(fā)起過兩波大型的聯(lián)名，呼吁謹慎地發(fā)展人工智能技術(shù)。一次是由馬斯克、Yoshua Bengio等數(shù)千名來自學術(shù)界和企業(yè)界的大佬呼吁至少暫停6個月比GPT-4更強模型的研究的公開信。另一次則是由擁有40多年歷史、人工智能領(lǐng)域最權(quán)威學術(shù)機構(gòu)之一的人工智能促進協(xié)會（AAAI）的19名現(xiàn)任及前任領(lǐng)導人所發(fā)布的聯(lián)名信，其中也包括了微軟現(xiàn)任首席科學家、人工智能研究專家Eric Horvitz。雖然此前馬斯克他們暫停模型研發(fā)的呼吁在業(yè)界受到了爭議，包括Yann LeCun、吳恩達在內(nèi)的研究者都對停止研發(fā)“一刀切”的做法表示了反對，甚至也有人質(zhì)疑馬斯克等人提出暫停研發(fā)是為了私利。但目前看來，關(guān)于共同加強AI監(jiān)管、預防潛在性危險發(fā)生的觀點，大家的看法幾乎都是一致的。在今天Geoffrey Hinton的報道發(fā)出后，吳恩達第一時間轉(zhuǎn)發(fā)了Geoffrey Hinton的推特表示支持，感謝Hinton對于人工智能技術(shù)所做出的不可估量的貢獻，以及對人工智能在虛假信息、自動機器和勞動力影響方面的發(fā)聲。
一些AI的投資人、研究者今天也紛紛轉(zhuǎn)發(fā)了Geoffrey Hinton的訪談，呼吁學界、工業(yè)界、政府監(jiān)管機構(gòu)應該快速行動起來，趁當前技術(shù)還在可控范圍內(nèi)，盡快制定好監(jiān)管框架和應用方案等。
當然，也有研究者并不認同AI威脅論，其中就包括了Geoffrey Hinton曾經(jīng)的學生、研究的伙伴Yann LeCun。他此前多次表示，大語言模型根本不算什么，要想真正通往AGI之路，還需要構(gòu)建“世界模型”。對此，很多人也很希望這些對于人工智能發(fā)展持有不同觀點的研究泰斗們能夠很快來一場深度對談，讓人們更多的了解當前人工智能發(fā)展前方的機遇和風險。
｜AI會成為新時代的“原子彈”嗎？在此次的訪談中，一個尤其引人關(guān)注的地方在于Geoffrey Hinton在談到AI風險時，多次提及了核武器。從一定程度上來看，Geoffrey Hinton或許認為AI對人類社會的潛在危險并不亞于核武器。他表示，跟核武器研究不同，現(xiàn)在AI研究更危險的地方在于，我們目前幾乎沒有辦法知道有哪些組織或者國家正在秘密研究這項技術(shù)。理想的情況下，全球各國組織和科學家們應該共同進行合作和對技術(shù)進行控制，但顯然現(xiàn)在很難做到這一點。作為深度學習技術(shù)的發(fā)起人，Geoffrey Hinton坦言自己目前甚至有些后悔進行了這項技術(shù)的研究。當潘多拉魔盒被打開，作為研究人員很難去防止不好的人利用這些技術(shù)去做不好的事。而Hinton的這種說法也讓人不由地想起了當年“原子彈之父”羅伯特·奧本海默相似的心路歷程。當年，美國在廣島長崎投放原子彈兩個月之后，奧本海默辭去了職務，之后他在擔任美國原子能委員會顧問期間一直致力于游說國際機構(gòu)對軍備進行管制，并運用影響力宣揚控制核武器和核不擴散運動。Geoffrey Hinton說，以前人們問他如何從事具有潛在危險的技術(shù)時，他總會會引用奧本海默的話：“當你看到一個東西擁有美妙的技術(shù)前景時，就盡管去做吧。”但現(xiàn)在，他已經(jīng)不會再那樣說了。“人們不應該快速擴大AI研究的規(guī)模，直到足夠了解自己是否能夠控制它，”Geoffrey Hinton說道。*參考資料：
https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
END
*博客內(nèi)容為網(wǎng)友個人發(fā)布，僅代表博主個人觀點，如有侵權(quán)請聯(lián)系工作人員刪除。
