霍金的告誡：當(dāng)心人工智能的反噬

　　在《未來(lái)戰(zhàn)士》《二十二世紀(jì)殺人網(wǎng)絡(luò)》等電影里，有機(jī)器人滿世界追打人類的鏡頭。相信當(dāng)時(shí)看過(guò)這些電影情節(jié)的人，內(nèi)心的感受是復(fù)雜的。不過(guò)，緣于那些情節(jié)與現(xiàn)實(shí)生活還存在著相當(dāng)大的差距，因而人們所持的基本上都是不置可否的態(tài)度。然而，隨著人工智能技術(shù)的不斷突破，機(jī)器人已由當(dāng)初極其有限的“領(lǐng)悟力”轉(zhuǎn)變?yōu)槟軌蜃R(shí)別人類面部表情并與人進(jìn)行情感交流的一個(gè)“活體”。本來(lái)，機(jī)器人面世后，就因?yàn)樗鼈兺ǔ６际悄骋环矫娴男袨閷＜?，具有人類個(gè)體所不能企及的特長(zhǎng)而讓人類刮目相看。現(xiàn)在，機(jī)器人具有了“情感”，具備了思索能力，那么，在將來(lái)的某一天，它們就會(huì)像人類一樣，自我設(shè)計(jì)，自我制造，以致驅(qū)逐和殺戮人類，最終終結(jié)人類。

　　那么，會(huì)不會(huì)出現(xiàn)人工智能反噬人類的情形呢?這是現(xiàn)代人杞人憂天呢，還是有些人的故意危言聳聽呢?可以說(shuō)，一切都未定論。在當(dāng)今科技領(lǐng)域，包括一些頂尖人工智能專家都認(rèn)為，人工智能會(huì)反噬人類，人類發(fā)展人工智能，將會(huì)讓人類踏上不歸路。享譽(yù)世界的英國(guó)天體物理學(xué)家、英國(guó)劍橋大學(xué)著名教授史蒂芬·威廉·霍金就是持這種觀點(diǎn)的人員之一。他發(fā)出警告道：“完美人工智能的開發(fā)，便意味著人類的終結(jié)!”

　　2015年10月初，在Reddit網(wǎng)站舉行的“問(wèn)我任何問(wèn)題”(Ask Me Anything)活動(dòng)環(huán)節(jié)中，霍金教授在回復(fù)提問(wèn)時(shí)，再次重申了他一直堅(jiān)持的關(guān)于人工智能的觀點(diǎn)：“人工智能技術(shù)，未來(lái)必將對(duì)人類構(gòu)成威脅。”不過(guò)，他同時(shí)強(qiáng)調(diào)，這其中最大的危險(xiǎn)不是機(jī)器人會(huì)有計(jì)劃地摧毀人類，而是它們完全拋棄了人類，具有了自主決策的能力。他認(rèn)為，機(jī)器人不可能會(huì)產(chǎn)生與人類敵對(duì)的意識(shí)，但它們?cè)谧非笞陨碓O(shè)定的目標(biāo)時(shí)，會(huì)對(duì)人類的利益造成傷害。他說(shuō)：“真正的風(fēng)險(xiǎn)不在于敵意，而在于能力。超級(jí)人工智能機(jī)器人將極善于達(dá)成自己所設(shè)定的目標(biāo)，而如果它所設(shè)定的目標(biāo)與我們的目標(biāo)并不相互吻合，那么我們就有麻煩了。舉個(gè)例子，你有時(shí)候踩死一些螞蟻，但這并非出于你對(duì)螞蟻的主觀惡意，但如果你恰好準(zhǔn)備在某個(gè)地區(qū)修建一個(gè)水電站，而那片地區(qū)正好有一個(gè)蟻穴，那么對(duì)于螞蟻來(lái)說(shuō)，這可真是個(gè)壞消息?！币簿褪钦f(shuō)，機(jī)器人帶給人類的傷害，很大程度上屬于無(wú)意傷害。這也就意味著人類由地球上萬(wàn)物之靈長(zhǎng)的位置上跌落下來(lái)，淪落為由自己一手制造出來(lái)的機(jī)器人占主導(dǎo)地位之下的二等公民。因而，霍金揭示道：“不要把我們?nèi)祟愖约悍诺侥切┪浵伒奈恢蒙先??！?/p>

　　霍金認(rèn)為，人工智能機(jī)器人因具有了情感，最終會(huì)進(jìn)化出對(duì)生存的渴望。他為此說(shuō)道：“未來(lái)一臺(tái)高度先進(jìn)的人工智能設(shè)備將逐漸發(fā)展出求生的本能，并將努力獲取實(shí)現(xiàn)其自身所設(shè)定目標(biāo)所需要的資源。因?yàn)樯嫦聛?lái)并獲取更多資源將能夠增加其實(shí)現(xiàn)其他目標(biāo)的機(jī)會(huì)。對(duì)于人類而言這將導(dǎo)致生存問(wèn)題的發(fā)生，因?yàn)槲覀兊馁Y源將會(huì)被掠奪?！彼赋?，隨著人工智能技術(shù)的發(fā)展，智能機(jī)器人具備了人類一樣的生存能力，它們就會(huì)不再依賴人類，而是會(huì)自主進(jìn)行自我完善和自我升級(jí)。這時(shí)，機(jī)器人世界就會(huì)出現(xiàn)“技術(shù)大爆炸”。最終，機(jī)器人的技術(shù)能力就會(huì)遠(yuǎn)遠(yuǎn)超越人類，終至把人類越甩越遠(yuǎn)，就如同現(xiàn)階段人類的技術(shù)能力遠(yuǎn)遠(yuǎn)超越蝸牛一樣。

　　不過(guò)，霍金同時(shí)也表示，就目前人工智能技術(shù)發(fā)展現(xiàn)狀來(lái)說(shuō)，與研制出和人腦功能相當(dāng)或遠(yuǎn)超人腦功能的機(jī)器的要求還存在著相當(dāng)遙遠(yuǎn)的差距。他說(shuō)：“當(dāng)這件事最終發(fā)生時(shí)，那或許將成為人類歷史上發(fā)生過(guò)的最好或是最壞的事，因此把這個(gè)問(wèn)題弄清楚將具有極大的價(jià)值。我們或許將花上幾十年的時(shí)間才能找出問(wèn)題的答案，那么就讓我們從今天開始啟動(dòng)這項(xiàng)研究，而不是拖到超級(jí)機(jī)器人即將被啟動(dòng)的前一天晚上?！?/p>

　　霍金參與Reddit網(wǎng)站舉行的“問(wèn)我任何問(wèn)題”活動(dòng)，一共獲得超過(guò)9000條的提問(wèn)和評(píng)論，成為該網(wǎng)站舉行的這類活動(dòng)中關(guān)注度較高的一次。緣于工作和身體的原因，他在四個(gè)月之后才有時(shí)間回復(fù)網(wǎng)民的提問(wèn)。在回復(fù)的問(wèn)題中，大部分問(wèn)題都涉及人工智能領(lǐng)域，而在回復(fù)中他頻繁地表示了自己的擔(dān)憂。在此次活動(dòng)前，他曾與幾位頂尖科學(xué)家和美國(guó)企業(yè)家埃隆·馬斯克簽署了一份公開信，同樣表達(dá)了對(duì)未來(lái)人工智能對(duì)人類構(gòu)成威脅的擔(dān)憂。他稱，在下個(gè)世紀(jì)，人類的能力將會(huì)被機(jī)器人超越。因而，科學(xué)家務(wù)必要確保人工智能的未來(lái)目標(biāo)是與人類的發(fā)展目標(biāo)相一致的。

　　可以想象，機(jī)器人掌握了人類的心理和應(yīng)對(duì)模式之后，就可以輕易控制和塑造人類情感。屆時(shí)，在機(jī)器人高人一等的優(yōu)越感面前，具有強(qiáng)烈自尊的人類會(huì)不會(huì)感到無(wú)地自容而整體消亡呢?好在一切都還為時(shí)過(guò)早，也就有了與霍金相反的觀點(diǎn)。這些觀點(diǎn)認(rèn)為，人工智能只是人的身體、智力的一種工具性延伸，它所不斷增強(qiáng)的也只是這種工具性的能力，而不是像人類那樣具有無(wú)中生有的發(fā)明創(chuàng)造能力?，F(xiàn)今出現(xiàn)的機(jī)器人戰(zhàn)勝人類的各種能力，棋藝也好，自動(dòng)駕駛技能也好，都是在人類現(xiàn)有能力基礎(chǔ)上，對(duì)人類知識(shí)、信息處理方式所總結(jié)出的一種優(yōu)化處理方式。即使是所謂的情感機(jī)器人，也只是對(duì)人類的表情和語(yǔ)言特征進(jìn)行程序化應(yīng)對(duì)，并不表明機(jī)器人擁有了同人類一樣的情感。因而，人工智能就好比戰(zhàn)士手中的武器，它具有人類肉身所不能取得的功效，但武器本身并不具備奪取生命的主動(dòng)權(quán)，而是完全聽命于掌控它的使用者。

　　從技術(shù)和現(xiàn)實(shí)兩個(gè)層面來(lái)看，人工智能所放大的只是人類現(xiàn)有的能力。受到特質(zhì)條件的限制，它不可能具備大規(guī)模自我批量升級(jí)和進(jìn)化的能力。因此，我們也就不用擔(dān)心它們會(huì)自己建廠，自我加工，自我提升腦力，自我升級(jí)。從人類開發(fā)的動(dòng)機(jī)的目的性上來(lái)說(shuō)，人工智能也不具備不可控性。

　　綜合各方觀點(diǎn)，無(wú)論是霍金的反噬論，還是相反的人工智能可控論，人工智能最終是天使還是魔鬼，完全取決于開發(fā)和應(yīng)用技術(shù)的人。只要人類自身能約束好自己，未來(lái)的人工智能就一定會(huì)沿著服務(wù)于人類的方向前行。