霍金:人工智能要么為人所用 要么終結(jié)人類
一年一度的GMIC大會(huì)今日在北京國(guó)家會(huì)議中心舉行。在上午的領(lǐng)袖峰會(huì)上,世界著名物理學(xué)家斯蒂芬·威廉·霍金做了演講并回答了一些關(guān)于人工智能的問題。
本文引用地址:http://m.butianyuan.cn/article/201705/358613.htm雖然霍金的演講的題目為《讓人工智能造福人類及其賴以生存的家園》,但是霍金一再表示了其對(duì)人工智能發(fā)展的擔(dān)憂。
霍金稱,我目前見證的最深刻的社會(huì)變化是人工智能的崛起。
為了支持這一論點(diǎn),霍金解釋到,文明所產(chǎn)生的一切都是人類智能的產(chǎn)物,從國(guó)際象棋和圍棋人機(jī)大戰(zhàn)的結(jié)果來看,霍金認(rèn)為生物大腦可以達(dá)到的和計(jì)算機(jī)可以達(dá)到的,沒有本質(zhì)區(qū)別。因此,它遵循了“計(jì)算機(jī)在理論上可以模仿人類智能,然后超越”這一原則。人工智能一旦脫離束縛,以不斷加速的狀態(tài)重新設(shè)計(jì)自身。人類由于受到漫長(zhǎng)的生物進(jìn)化的限制,無法與之競(jìng)爭(zhēng),將被取代。
霍金呼吁,研究人員必須能夠創(chuàng)造出可控的人工智能。在具體的問題上,霍金稱自己短期的擔(dān)憂在無人駕駛方面,從民用無人機(jī)到自主駕駛汽車。比如說,在緊急情況下,一輛無人駕駛汽車不得不在小風(fēng)險(xiǎn)的大事故和大概率的小事故之間進(jìn)行選擇。另一個(gè)擔(dān)憂在致命性智能自主武器。他們是否該被禁止?如果是,那么“自主”該如何精確定義。如果不是,任何使用不當(dāng)和故障的過失應(yīng)該如何問責(zé)。還有另外一些擔(dān)憂,由人工智能逐漸可以解讀大量監(jiān)控?cái)?shù)據(jù)引起的隱私和擔(dān)憂,以及如何管理因人工智能取代工作崗位帶來的經(jīng)濟(jì)影響。而長(zhǎng)期擔(dān)憂主要是人工智能系統(tǒng)失控的潛在風(fēng)險(xiǎn),隨著不遵循人類意愿行事的超級(jí)智能的崛起,那個(gè)強(qiáng)大的系統(tǒng)威脅到人類。
“人工智能的成功有可能是人類文明史上最大的事件,但是人工智能也有可能是人類文明史的終結(jié)?!被艚鹂偨Y(jié)道。
以下為霍金在GMIC2017上的演講實(shí)錄:
在我的一生中,我見證了社會(huì)深刻的變化。其中最深刻的,同時(shí)也是對(duì)人類影響與日俱增的變化,是人工智能的崛起。簡(jiǎn)單來說,我認(rèn)為強(qiáng)大的人工智能的崛起,要么是人類歷史上最好的事,要么是最糟的。我不得不說,是好是壞我們?nèi)圆淮_定。但我們應(yīng)該竭盡所能,確保其未來發(fā)展對(duì)我們和我們的環(huán)境有利。我們別無選擇。我認(rèn)為人工智能的發(fā)展,本身是一種存在著問題的趨勢(shì),而這些問題必須在現(xiàn)在和將來得到解決。
人工智能的研究與開發(fā)正在迅速推進(jìn)。也許我們所有人都應(yīng)該暫停片刻,把我們的研究重復(fù)從提升人工智能能力轉(zhuǎn)移到最大化人工智能的社會(huì)效益上面?;谶@樣的考慮,美國(guó)人工智能協(xié)會(huì)(AAAI)于2008至2009年,成立了人工智能長(zhǎng)期未來總籌論壇,他們近期在目的導(dǎo)向的中性技術(shù)上投入了大量的關(guān)注。但我們的人工智能系統(tǒng)須要按照我們的意志工作??鐚W(xué)科研究是一種可能的前進(jìn)道路:從經(jīng)濟(jì)、法律、哲學(xué)延伸至計(jì)算機(jī)安全、形式化方法,當(dāng)然還有人工智能本身的各個(gè)分支。
文明所產(chǎn)生的一切都是人類智能的產(chǎn)物,我相信生物大腦可以達(dá)到的和計(jì)算機(jī)可以達(dá)到的,沒有本質(zhì)區(qū)別。因此,它遵循了“計(jì)算機(jī)在理論上可以模仿人類智能,然后超越”這一原則。但我們并不確定,所以我們無法知道我們將無限地得到人工智能的幫助,還是被藐視并被邊緣化,或者很可能被它毀滅。的確,我們擔(dān)心聰明的機(jī)器將能夠代替人類正在從事的工作,并迅速地消滅數(shù)以百萬計(jì)的工作崗位。
在人工智能從原始形態(tài)不斷發(fā)展,并被證明非常有用的同時(shí),我也在擔(dān)憂創(chuàng)造一個(gè)可以等同或超越人類的事物所導(dǎo)致的結(jié)果:人工智能一旦脫離束縛,以不斷加速的狀態(tài)重新設(shè)計(jì)自身。人類由于受到漫長(zhǎng)的生物進(jìn)化的限制,無法與之競(jìng)爭(zhēng),將被取代。這將給我們的經(jīng)濟(jì)帶來極大的破壞。未來,人工智能可以發(fā)展出自我意志,一個(gè)與我們沖突的意志。盡管我對(duì)人類一貫持有樂觀的態(tài)度,但其他人認(rèn)為,人類可以在相當(dāng)長(zhǎng)的時(shí)間里控制技術(shù)的發(fā)展,這樣我們就能看到人工智能可以解決世界上大部分問題的潛力。但我并不確定。
2015年1月份,我和科技企業(yè)家埃隆·馬斯克,以及許多其他的人工智能專家簽署了一份關(guān)于人工智能的公開信,目的是提倡就人工智能對(duì)社會(huì)所造成的影響做認(rèn)真的調(diào)研。在這之前,埃隆·馬斯克就警告過人們:超人類人工智能可能帶來不可估量的利益,但是如果部署不當(dāng),則可能給人類帶來相反的效果。我和他同在“生命未來研究所”的科學(xué)顧問委員會(huì),這是一個(gè)為了緩解人類所面臨的存在風(fēng)險(xiǎn)的組織,而且之前提到的公開信也是由這個(gè)組織起草的。這個(gè)公開信號(hào)召展開可以阻止?jié)撛趩栴}的直接研究,同時(shí)也收獲人工智能帶給我們的潛在利益,同時(shí)致力于讓人工智能的研發(fā)人員更關(guān)注人工智能安全。此外,對(duì)于決策者和普通大眾來說,這封公開信內(nèi)容翔實(shí),并非危言聳聽。人人都知道人工智能研究人員們?cè)谡J(rèn)真思索這些擔(dān)心和倫理問題,我們認(rèn)為這一點(diǎn)非常重要。比如,人工智能是有根除疾患和貧困的潛力的,但是研究人員必須能夠創(chuàng)造出可控的人工智能。那封只有四段文字,題目為《應(yīng)優(yōu)先研究強(qiáng)大而有益的人工智能》的公開信,在其附帶的十二頁(yè)文件中對(duì)研究的優(yōu)先次序作了詳細(xì)的安排。
在過去的20年里,人工智能一直專注于圍繞建設(shè)智能代理所產(chǎn)生的問題,也就是在特定環(huán)境下可以感知并行動(dòng)的各種系統(tǒng)。在這種情況下,智能是一個(gè)與統(tǒng)計(jì)學(xué)和經(jīng)濟(jì)學(xué)相關(guān)的理性概念。通俗地講,這是一種做出好的決定、計(jì)劃和推論的能力。基于這些工作,大量的整合和交叉孕育被應(yīng)用在人工智能、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)、控制論、神經(jīng)科學(xué)、以及其它領(lǐng)域。共享理論框架的建立,結(jié)合數(shù)據(jù)的供應(yīng)和處理能力,在各種細(xì)分的領(lǐng)域取得了顯著的成功。例如語(yǔ)音識(shí)別、圖像分類、自動(dòng)駕駛、機(jī)器翻譯、步態(tài)運(yùn)動(dòng)和問答系統(tǒng)。
隨著這些領(lǐng)域的發(fā)展,從實(shí)驗(yàn)室研究到有經(jīng)濟(jì)價(jià)值的技術(shù)形成良性循環(huán)。哪怕很小的性能改進(jìn),都會(huì)帶來巨大的經(jīng)濟(jì)效益,進(jìn)而鼓勵(lì)更長(zhǎng)期、更偉大的投入和研究。目前人們廣泛認(rèn)同,人工智能的研究正在穩(wěn)步發(fā)展,而它對(duì)社會(huì)的影響很可能擴(kuò)大,潛在的好處是巨大的,既然文明所產(chǎn)生的一切,都是人類智能的產(chǎn)物;我們無法預(yù)測(cè)我們可能取得什么成果,當(dāng)這種智能是被人工智能工具放大過的。但是,正如我說過的,根除疾病和貧窮并不是完全不可能,由于人工智能的巨大潛力,研究如何(從人工智能)獲益并規(guī)避風(fēng)險(xiǎn)是非常重要的。
現(xiàn)在,關(guān)于人工智能的研究正在迅速發(fā)展。這一研究可以從短期和長(zhǎng)期來討論。一些短期的擔(dān)憂在無人駕駛方面,從民用無人機(jī)到自主駕駛汽車。比如說,在緊急情況下,一輛無人駕駛汽車不得不在小風(fēng)險(xiǎn)的大事故和大概率的小事故之間進(jìn)行選擇。另一個(gè)擔(dān)憂在致命性智能自主武器。他們是否該被禁止?如果是,那么“自主”該如何精確定義。如果不是,任何使用不當(dāng)和故障的過失應(yīng)該如何問責(zé)。還有另外一些擔(dān)憂,由人工智能逐漸可以解讀大量監(jiān)控?cái)?shù)據(jù)引起的隱私和擔(dān)憂,以及如何管理因人工智能取代工作崗位帶來的經(jīng)濟(jì)影響。
長(zhǎng)期擔(dān)憂主要是人工智能系統(tǒng)失控的潛在風(fēng)險(xiǎn),隨著不遵循人類意愿行事的超級(jí)智能的崛起,那個(gè)強(qiáng)大的系統(tǒng)威脅到人類。這樣錯(cuò)位的結(jié)果是否有可能?如果是,這些情況是如何出現(xiàn)的?我們應(yīng)該投入什么樣的研究,以便更好的理解和解決危險(xiǎn)的超級(jí)智能崛起的可能性,或智能爆發(fā)的出現(xiàn)?
評(píng)論