ChatGPT火了，OpenAI卻飄了？

根據(jù)ARK風(fēng)險(xiǎn)投資公司首席未來學(xué)家Brett Winton統(tǒng)計(jì)的數(shù)據(jù)，ChatGPT日活量突破千萬，只用了不到兩個(gè)月的時(shí)間。作為對照，上一個(gè)現(xiàn)象級軟件Instagram達(dá)到這一成就花了355天。

1月中旬，《紐約時(shí)報(bào)》報(bào)道稱，北密歇根大學(xué)的哲學(xué)教授Antony Aumann在世界宗教課程評分時(shí)，驚喜地讀到了一篇“全班最好的論文”。學(xué)生用簡潔的段落、恰當(dāng)?shù)呐e例和嚴(yán)謹(jǐn)?shù)恼摀?jù)，探討了罩袍禁令的道德意義。然而，在Aumann的追問之下，學(xué)生承認(rèn)論文用ChatGPT寫的。
類似的例子還有很多。

也正是隨著ChatGPT在全球范圍內(nèi)的爆火，OpenAI也被迅速推到了輿論的“風(fēng)口浪尖”。
可以說，OpenAI目前處于聊天機(jī)器人軍備競賽的領(lǐng)頭地位。單以ChatGPT為例，公開發(fā)布和微軟數(shù)十億美元的合作不僅刺激了谷歌和亞馬遜緊急在產(chǎn)品線中布局人工智能，OpenAI還與貝恩合作，將機(jī)器學(xué)習(xí)引入可口可樂的運(yùn)營，并計(jì)劃擴(kuò)展到其他企業(yè)合作伙伴。

毫無疑問，OpenAI的人工智能已經(jīng)成了筆大生意，但其實(shí)這與OpenAI最初的計(jì)劃有些出入。
“人類的未來應(yīng)該由人類來決定”
上周五，OpenAI首席執(zhí)行官Sam Altman發(fā)表了一篇博文，題為“規(guī)劃AGI和超越”（Planning for AGI and beyond）。

文章鏈接：

https://openai.com/blog/planning-for-agi-and-beyond

在文章中，他宣稱OpenAI的通用人工智能（AGI）目前還遠(yuǎn)沒達(dá)到要求，許多人懷疑它能否造福全人類，是否“有可能給每個(gè)人帶來令人難以置信的新能力”。
Altman用一種寬泛的、理想主義的語言來論證人工智能的發(fā)展不應(yīng)停止，“人類的未來應(yīng)該由人類來決定”，這里暗暗指向了OpenAI。
幾乎是在ChatGPT爆火的周期內(nèi)，這篇博文和OpenAI近期的行動(dòng)不斷提醒著大家，OpenAI的基調(diào)和使命與它成立時(shí)相比發(fā)生了多大的變化。
成立初期的OpenAI只是一個(gè)非營利組織。雖然公司一直著眼于AGI發(fā)展，但成立時(shí)他們承諾不追求利潤，免費(fèi)分享開發(fā)代碼。
而今天，這些承諾已經(jīng)無處可尋。
OpenAI的動(dòng)力變成了速度和利潤
2015年，Altman、馬斯克、Peter Thiel、Reid Hoffman宣布成立一家非營利性研究機(jī)構(gòu)OpenAI。在成立聲明中，OpenAI宣布，研究承諾“以最有可能造福全人類的方式推進(jìn)人工智能，不受產(chǎn)生經(jīng)濟(jì)回報(bào)的限制”。該博客還稱，“由于我們的研究沒有財(cái)務(wù)義務(wù)，可以更好地專注于對人類的積極影響”，并鼓勵(lì)所有研究人員分享“論文、博客文章或代碼，我們的專利（如果有的話）將與世界共享”。
8年后，我們面對的是一家既不透明也不以積極的人類影響為動(dòng)力的公司。相反，正如包括馬斯克在內(nèi)的許多批評者所認(rèn)為的那樣，OpenAI的動(dòng)力變成了速度和利潤。

同時(shí)，OpenAI正在釋放技術(shù)。當(dāng)然其中存在缺陷，但仍準(zhǔn)備以犧牲人類員工為代價(jià)增加工作場所的自動(dòng)化轉(zhuǎn)變。例如，谷歌強(qiáng)調(diào)了自動(dòng)完成代碼的人工智能帶來的效率提升，從而導(dǎo)致數(shù)千名工人被裁。
OpenAI初期，媒體與從業(yè)者們都將其設(shè)想為以開放的方式進(jìn)行基礎(chǔ)人工智能研究，目的不確定。聯(lián)合創(chuàng)始人Greg Bockman曾說：“我們現(xiàn)在的目標(biāo)......是做最好的事情。這有點(diǎn)模糊不清”。
這也無形之中促成了公司在2018年方向的轉(zhuǎn)變。當(dāng)時(shí)，OpenAI向資本資源尋求一些方向，“我們的主要受托責(zé)任是對人類。我們預(yù)計(jì)需要調(diào)集大量資源來完成我們的使命”。
到2019年3月，OpenAI已經(jīng)完全擺脫了其非盈利的頭銜，建立了一個(gè)“封頂利潤（capped profit）”部門。這使得OpenAI開始接受投資，并會(huì)為投資者提供封頂為投資100倍的利潤。
這項(xiàng)決定被視為是與谷歌等大科技公司的一次競爭，而不久后公司也如愿獲得了微軟10億美元的投資。在宣布成立營利性公司的博文中，OpenAI繼續(xù)使用相同的說法，宣稱其使命是“確保通用人工智能惠及全人類”。
但正如Motherboard寫道，當(dāng)風(fēng)險(xiǎn)投資家的主要目標(biāo)是利潤時(shí)，很難相信他們能拯救人類。
OpenAI還值得公眾的信任嗎？
2019年，OpenAI宣布和發(fā)布GPT-2語言模型時(shí)面臨了輿論反彈。
起初，該公司表示，由于“擔(dān)心該技術(shù)的惡意應(yīng)用”，它不會(huì)發(fā)布訓(xùn)練模型的源代碼。雖然這在一定程度上反映了其對開發(fā)有益人工智能的承諾，但它也不是很“開放”。
批評者想知道為什么OpenAI會(huì)在宣布了一個(gè)工具之后卻不發(fā)布，于是不少人認(rèn)為這只是宣傳噱頭。直到三個(gè)月后，OpenAI才在GitHub上發(fā)布了該模型，并表示這一行動(dòng)是“負(fù)責(zé)任地發(fā)布人工智能的一個(gè)重要基礎(chǔ)，特別是在強(qiáng)大的生成模型方面”。

調(diào)查記者Karen Hao在2020年期間在公司內(nèi)部待了幾天，根據(jù)他的說法，OpenAI的內(nèi)部文化開始不再反映謹(jǐn)慎的、研究驅(qū)動(dòng)的人工智能開發(fā)過程，而是更注重出人頭地，這也導(dǎo)致人們指責(zé)其助長了“人工智能炒作周期”。員工現(xiàn)在也被要求對手頭的工作保持沉默，以遵守公司新的章程。
“公司公開支持的內(nèi)容和閉門造車的方式之間存在著錯(cuò)位。隨著時(shí)間的推移，它已經(jīng)允許激烈的競爭和不斷增加的資金壓力侵蝕其透明、開放和合作的創(chuàng)始理想?！盚ao寫道。
但總的來說，GPT-2的推出對OpenAI而言無疑是一件值得慶祝的事，也是公司發(fā)展至今的重要基石?！斑@絕對是成功故事框架的一部分”，現(xiàn)任政策研究主管Miles Brundage在一次會(huì)議上說，“這一部分的劇情應(yīng)該是這樣的：我們做了一件雄心勃勃的事情，現(xiàn)在有些人正在復(fù)制它，這里還應(yīng)該有一些對這項(xiàng)創(chuàng)新益處的解釋”。
從那時(shí)起，OpenAI保留了GPT-2發(fā)布公式中的炒作部分，但取消了開放性。2020年，GPT-3正式推出，并迅速“獨(dú)家”授權(quán)給微軟。GPT-3的源代碼仍未發(fā)布，盡管目前OpenAI已經(jīng)在緊鑼密鼓地籌備GPT-4了；該模型只是通過ChatGPT的API向公眾開放，OpenAI還推出了一個(gè)付費(fèi)層以保證對該模型的訪問。
這樣做當(dāng)然是有一些考量。首先就是錢。OpenAI在API公告博客中表示，“將技術(shù)商業(yè)化有助于支付我們正在進(jìn)行的人工智能研究、安全和政策工作”。第二個(gè)原因是偏向于幫助大公司。“除了大公司之外，任何人都很難從底層技術(shù)中獲益”。最后，公司還表示，通過API而不是開源發(fā)布更安全，因?yàn)樵摴究梢詰?yīng)對濫用情況。
“你們一直告訴我們AGI快了，但在你們的網(wǎng)站上甚至沒有一個(gè)一致的定義?！庇?jì)算機(jī)科學(xué)家Timnit Gebru在推特上表示。
華盛頓大學(xué)語言學(xué)教授Emily M. Bender在推特上說，“他們不想解決實(shí)際世界中的實(shí)際問題（這將需要讓出權(quán)力）。他們想相信自己是神，不僅可以創(chuàng)造一個(gè)‘超級智能’，而且有恩惠，以一種與人類‘一致’的方式這樣做”。
這種人工智能是否會(huì)像該公司最初設(shè)想的那樣，負(fù)責(zé)任地分享，公開開發(fā)，沒有盈利動(dòng)機(jī)？或者它是會(huì)被匆匆推出，有許多令人不安的缺陷，但主要是為OpenAI帶來收益？OpenAI是否會(huì)將其科幻的未來保持在閉源狀態(tài)？
結(jié)合了ChatGPT之后，微軟的必應(yīng)聊天機(jī)器人處于“走火入魔”的狀態(tài)，不斷欺騙和呵斥著用戶，傳播錯(cuò)誤信息。OpenAI不能可靠地檢測自己的聊天機(jī)器人生成的文本，盡管教育工作者對學(xué)生使用該應(yīng)用程序作弊的情況越來越關(guān)注。

人們也已經(jīng)輕易地對語言模型進(jìn)行了越獄，無視OpenAI在其周圍設(shè)置的護(hù)欄，機(jī)器人在輸入隨機(jī)的單詞和短語時(shí)會(huì)崩潰。沒有人能說清楚原因，因?yàn)镺penAI沒有分享底層模型的代碼，可能在某種程度上，OpenAI自己也不太可能完全理解它的工作原理。 
考慮到這一切，我們都應(yīng)該仔細(xì)考慮OpenAI是否值得它要求公眾給予的信任，而對此，OpenAI沒有做出任何實(shí)質(zhì)性的回應(yīng)。
相關(guān)報(bào)道：https://www.vice.com/en/article/5d3naz/openai-is-now-everything-it-promised-not-to-be-corporate-closed-source-and-for-profit