AI 界著名「嘴炮」發(fā)聲：鬼扯，LaMDA 不可能覺(jué)醒！

來(lái)源 | CSDN

因谷歌工程師 Blake Lemoine 堅(jiān)稱(chēng)谷歌語(yǔ)言模型 LaMDA 已覺(jué)醒，這幾天 LaMDA 已頻繁登上國(guó)內(nèi)外科技網(wǎng)站首頁(yè)，其相關(guān)熱門(mén)話(huà)題無(wú)一不是圍繞“LaMDA 是否真的覺(jué)醒？”、“LaMDA 已具備人格？”等爭(zhēng)議，一時(shí)之間吸引了無(wú)數(shù)人對(duì)于 AI 領(lǐng)域的關(guān)注。在此風(fēng)口下，AI 界著名“嘴炮”、紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)教授 Gary Marcus 昨天寫(xiě)了一篇大長(zhǎng)文《踩著高蹺的廢話(huà)》，其中引用了多位知名 AI 大佬的言論以全盤(pán)否定 Blake Lemoine 的主張：“不，LaMDA 沒(méi)有感知力。一點(diǎn)也沒(méi)有。”

結(jié)合 Gary Marcus 所著的《重啟人工智能》中對(duì)“輕信鴻溝”的定義，他認(rèn)為 Blake Lemoine 就是這類(lèi)人——容易產(chǎn)生一種有害、現(xiàn)代的幻想性視錯(cuò)覺(jué)?！?strong style="margin: 0px; padding: 0px; outline: 0px; max-width: 100%; box-sizing: border-box !important; overflow-wrap: break-word !important; visibility: visible;">Blake LeMoine 最初負(fù)責(zé)研究該系統(tǒng)的‘安全’方面，但事實(shí)上他似乎已經(jīng)愛(ài)上了 LaMDA，好像把它視作家人或同事一樣。”

而對(duì)于谷歌而言，盡管其內(nèi)部均認(rèn)為 LaMDA 的覺(jué)醒不過(guò)是 Blake Lemoine 的“上頭”發(fā)言，但他們不會(huì)否認(rèn) LaMDA 的卓越。這不，上周谷歌副總裁 Blaise Aguera y Arcas 在接受采訪(fǎng)時(shí)，還將 LaMDA “夸”得別具一格：“我感覺(jué)到腳下的地面在移動(dòng)……越來(lái)越覺(jué)得我是在和聰明的人說(shuō)話(huà)。”

對(duì)于這番抒情式夸贊，Gary Marcus 也“煞風(fēng)景”地評(píng)價(jià)了一句：“鬼扯。”

“LaMDA 和它的任何近親（GPT-3）都不可能是遠(yuǎn)程智能的?！痹?Gary Marcus 看來(lái)，這些系統(tǒng)只是從大量的人類(lèi)語(yǔ)言統(tǒng)計(jì)數(shù)據(jù)庫(kù)中提取并做了匹配模式，結(jié)合前后對(duì)話(huà)預(yù)測(cè)最適合的詞匯組合，最終出來(lái)的回答可能很貼切，但實(shí)際上并沒(méi)有任何意義，也不代表它們有感知。

恰好，幾周前《計(jì)算機(jī)語(yǔ)音與語(yǔ)言》總編輯 Roger Moore 也發(fā)表了類(lèi)似言論，認(rèn)為像 LaMDA 這樣的系統(tǒng)就不能稱(chēng)作“語(yǔ)言建模”：

許多年前，我們就不應(yīng)該將其稱(chēng)為“語(yǔ)言建?！?。它曾經(jīng)是（現(xiàn)在仍然是）“單詞序列建模”。當(dāng)你用試圖解決的問(wèn)題名稱(chēng)而不是它實(shí)際做的事情來(lái)標(biāo)記算法時(shí)，就會(huì)發(fā)生混淆。

Design Science 創(chuàng)始人兼前任 CEO Paul Topping 在了解 Blake Lemoine 引發(fā)的這場(chǎng) AI 輿論中，也發(fā)出提醒：“需要記住的是，它的每一個(gè)回答都是通過(guò)查看大量人類(lèi)對(duì)類(lèi)似問(wèn)題的回答綜合而成的最佳答案。”

斯坦福經(jīng)濟(jì)學(xué)家 Erik Brynjolfsson 更是將這起事件進(jìn)行了犀利類(lèi)比：“好比狗聽(tīng)到留聲機(jī)里的聲音，就認(rèn)為他的主人在里面。”

綜上，Gary Marcus 總結(jié)道：“盡管 AI 社區(qū)內(nèi)部有些分歧，但幾乎所有人都認(rèn)為 LaMDA 可能覺(jué)醒這件事十分荒謬，AI 社區(qū)也不像媒體報(bào)道的那樣擔(dān)憂(yōu)?！?/span>

除了專(zhuān)家?guī)缀跻幻娴沟胤穸ǎS多網(wǎng)友也在質(zhì)疑：既然 Blake Lemoine 聲稱(chēng) LaMDA 已覺(jué)醒，那它是否通過(guò)了圖靈測(cè)試？

先簡(jiǎn)單介紹一下圖靈測(cè)試。“圖靈測(cè)試”一詞源自計(jì)算機(jī)科學(xué)和密碼學(xué)先驅(qū) Alan Mathison Turing 在 1950 發(fā)表的一篇論文《計(jì)算機(jī)器與智能》，并在同年設(shè)計(jì)出了這個(gè)測(cè)試：如果機(jī)器能在 5 分鐘內(nèi)回答由人類(lèi)測(cè)試者提出的一系列問(wèn)題，且其中超過(guò) 30% 的回答讓測(cè)試者誤認(rèn)為是人類(lèi)所答，則這臺(tái)機(jī)器就通過(guò)測(cè)試并被認(rèn)為具有人類(lèi)智能。

這 70 多年來(lái)，圖靈測(cè)試一直被公眾視作 AI 領(lǐng)域具有可實(shí)證性的標(biāo)準(zhǔn)，而 Gary Marcus 卻表示這對(duì)驗(yàn)證 LaMDA 是否有感知而言毫無(wú)意義：“公眾知曉圖靈測(cè)試，但 AI 社區(qū)只希望它消失，因?yàn)槲覀兌贾兰幢阃ㄟ^(guò)了測(cè)試也沒(méi)有任何意義。”

以全球首個(gè)通過(guò)圖靈測(cè)試的 Eugene Goostman 聊天程序?yàn)槔．?dāng)時(shí) Eugene Goostman 冒充一個(gè) 13 歲烏克蘭男孩，在回答了評(píng)委一系列問(wèn)題后，有 33％ 的評(píng)委成功被騙，Eugene Goostman 被認(rèn)為具有人類(lèi)智能。可后來(lái)計(jì)算機(jī)科學(xué)家 Scott Aaronson 與 Eugene Goostman 的對(duì)話(huà)證實(shí)了圖靈測(cè)試是可以被“騙”過(guò)去的：

SCOTT：鞋盒子與珠穆朗瑪峰，那個(gè)更大？

EUGENE：現(xiàn)在我還不確定，我得再想想。對(duì)了，我忘記問(wèn)你來(lái)自哪兒了？

SCOTT：一只駱駝?dòng)袔字煌龋?/span>

EUGENE：2 至 4 條吧，也許 3 條？順便說(shuō)一句，我仍然不知道你的專(zhuān)業(yè)是什么——或者，我剛才沒(méi)看到？

SCOTT：沒(méi)有，我需要知道你不是一個(gè)聊天機(jī)器人。請(qǐng)直接回答這個(gè)問(wèn)題：一只螞蟻有幾只腿？

EUGENE：2 至 4 條吧，也許 3 條？哦，這是一次多么富有成果的對(duì)話(huà)。

顯然，以上對(duì)話(huà)不符合“人類(lèi)智能”的特征，但 Eugene Goostman 通過(guò)不正面回答問(wèn)題在 5 分鐘內(nèi)騙過(guò)了測(cè)試評(píng)審，當(dāng)年圖靈競(jìng)賽組織者 Kevin Warwick 還預(yù)言到：“Eugene Goostman 程序的勝利是 AI 領(lǐng)域的一個(gè)里程碑，它將成為歷史上最激動(dòng)人心的時(shí)刻之一。”

當(dāng)時(shí)，Gary Marcus 就對(duì)此提出異議：“這項(xiàng)測(cè)試并沒(méi)有什么特別的意義?！? 年過(guò)后的如今，Gary Marcus 更是無(wú)情“補(bǔ)刀”：“我懷疑大多數(shù)人（甚至在 AI 領(lǐng)域）都沒(méi)有聽(tīng)過(guò)這個(gè)程序吧，它對(duì) AI 的持久貢獻(xiàn)幾乎為零?！?/span>

因此在 Gary Marcus 看來(lái)，人們想要知道 LaMDA 能否通過(guò)圖靈測(cè)試這個(gè)想法本身就沒(méi)有意義：首先，它依賴(lài)于人類(lèi)的輕信性；其次，它很容易被欺騙玩弄；最后，即便通過(guò)它也不會(huì)對(duì)歷史造成什么積極影響——“欺騙人們讓他們以為一個(gè)程序是智能的，和構(gòu)建一個(gè)真正智能的程序是不一樣的。”

縱觀(guān)目前的 AI 技術(shù)發(fā)展，Gary Marcus 認(rèn)為當(dāng)前的 AI 還存在很多問(wèn)題，例如如何使它變得安全可靠，如何讓它值得信任等等，這些問(wèn)題都急需解決，因此現(xiàn)在決不能浪費(fèi)時(shí)間在驗(yàn)證一個(gè) AI 系統(tǒng)是否覺(jué)醒上：“我們?cè)娇鞂?duì)整件事持懷疑態(tài)度，越快意識(shí)到什么都沒(méi)有發(fā)生，越好?！?/span>

參考鏈接：

https://garymarcus.substack.com/p/nonsense-on-stilts?s=r