ALphaGo再進(jìn)化，新一代ALphaGo Zero誕生

　　據(jù)外媒報(bào)道，英國(guó)DeepMind團(tuán)隊(duì)的人工智能研究取得了新進(jìn)展：他們開(kāi)發(fā)出了新一代的圍棋AI-ALphaGo Zero。使用了強(qiáng)化學(xué)習(xí)技術(shù)的ALphaGo Zero，棋力大幅度增長(zhǎng)，可輕松擊敗曾經(jīng)戰(zhàn)勝柯潔、李世石的ALphaGo。

　　戰(zhàn)勝柯潔之后，ALphaGo可以說(shuō)在圍棋界里已是“獨(dú)孤求敗”的境界了，幾乎沒(méi)有人類是它的對(duì)手。但是這并不代表ALphaGo就已經(jīng)對(duì)圍棋領(lǐng)域的認(rèn)知達(dá)到了頂峰。因此，ALphaGo想要再上一層樓追求圍棋知識(shí)的上限，顯然只有它自己能成為自己的老師。

　　而在過(guò)去，AlphaGo都是使用業(yè)余和專業(yè)人類棋手的對(duì)局?jǐn)?shù)據(jù)來(lái)進(jìn)行訓(xùn)練。雖然使用人類棋手的數(shù)據(jù)可以讓ALphaGo學(xué)習(xí)到人類的圍棋技巧，但是人類專家的數(shù)據(jù)通常難以獲得且很昂貴，加上人類并不是機(jī)器，難免會(huì)出現(xiàn)失誤情況，失誤產(chǎn)生的數(shù)據(jù)則可能降低ALphaGo的棋力。因此，ALphaGo Zero采用了強(qiáng)化學(xué)習(xí)技術(shù)，從隨即對(duì)局開(kāi)始，不依靠任何人類專家的對(duì)局?jǐn)?shù)據(jù)或者人工監(jiān)管，而是讓其通過(guò)自我對(duì)弈來(lái)提升棋藝。

　　那么到底什么是強(qiáng)化學(xué)習(xí)技術(shù)呢?簡(jiǎn)單地說(shuō)，強(qiáng)化學(xué)習(xí)就是讓AI從中學(xué)習(xí)到能夠獲得最大回報(bào)的策略。AlphaGo Zero的強(qiáng)化學(xué)習(xí)主要包含兩個(gè)部分，蒙特卡洛樹(shù)搜索算法與神經(jīng)網(wǎng)絡(luò)算法。在這兩種算法中，神經(jīng)網(wǎng)絡(luò)算法可根據(jù)當(dāng)前棋面形勢(shì)給出落子方案，以及預(yù)測(cè)當(dāng)前形勢(shì)下哪一方的贏面較大;蒙特卡洛樹(shù)搜索算法則可以看成是一個(gè)對(duì)于當(dāng)前落子步法的評(píng)價(jià)和改進(jìn)工具，它能夠模擬出AlphaGo Zero將棋子落在哪些地方可以獲得更高的勝率。假如AlphaGoZero的神經(jīng)網(wǎng)絡(luò)算法計(jì)算出的落子方案與蒙特卡洛樹(shù)搜索算法輸出的結(jié)果越接近，則勝率越大，即回報(bào)越高。因此，每落一顆子，AlphaGo Zero都要優(yōu)化神經(jīng)網(wǎng)絡(luò)算法中的參數(shù)，使其計(jì)算出的落子方案更接近蒙特卡洛樹(shù)搜索算法的結(jié)果，同時(shí)盡量減少勝者預(yù)測(cè)的偏差。

　　AlphaGo Zero的自我強(qiáng)化學(xué)習(xí)，圖片源自Nature

　　剛開(kāi)始，AlphaGoZero的神經(jīng)網(wǎng)絡(luò)完全不懂圍棋，只能盲目落子。但經(jīng)歷無(wú)數(shù)盤(pán)“左右互搏”般的對(duì)局后，AlphaGo Zero終于從從圍棋菜鳥(niǎo)成長(zhǎng)為了棋神般的存在。

　　DeepMind團(tuán)隊(duì)表示，他們發(fā)現(xiàn)AlphaGo Zero自我對(duì)弈僅幾十天，就掌握了人類幾百年來(lái)來(lái)研究出來(lái)的圍棋技術(shù)。由于整個(gè)對(duì)弈過(guò)程沒(méi)有采用人類的數(shù)據(jù)，因此ALphaGo Zero的棋路獨(dú)特，不再拘泥于人類現(xiàn)有的圍棋理論，

　　DeepMind團(tuán)隊(duì)還表示，這個(gè)項(xiàng)目不僅僅是為了獲得對(duì)圍棋更深的認(rèn)識(shí)，AlphaGoZero向人們展示了即使不用人類的數(shù)據(jù)，人工智能也能夠取得進(jìn)步。最終這些技術(shù)進(jìn)展應(yīng)該被用于解決現(xiàn)實(shí)問(wèn)題，如蛋白質(zhì)折疊或者新材料設(shè)計(jì)。這將會(huì)增進(jìn)人類的認(rèn)知，從而改善每個(gè)人的生活。