Bard首次亮相就大翻車，端掉了谷歌1000億美元市值

這是目前AI犯下的最昂貴的錯誤

文|  VickyXiao 編輯| VickyXiao

在試圖追上微軟和OpenAI在人工智能方面的先發(fā)優(yōu)勢時，谷歌自己搞砸了。

在今天谷歌在巴黎召開的發(fā)布會上，谷歌再一次展示了Bard——這款為了對抗ChatGPT推出來的聊天機器人。按照谷歌的宣傳，Bard不僅要和ChatGPT一樣有問必答，還要更“負(fù)責(zé)任”——暗搓搓地指ChatGPT里摻雜的虛假信息太多，不夠“負(fù)責(zé)”。

這一宣傳明顯提高了人們對于Bard的期望值。畢竟在最初的驚艷過后，ChatGPT“一本正經(jīng)”的胡說八道，也就是回答里夾雜的不少似是而非的偽信息，已經(jīng)讓很多人對于使用它提高了警惕，里面邏輯和數(shù)學(xué)上的錯誤更加驚人。

讓人沒想到的是，谷歌的Flag立得太早。Bard剛一亮相，就出錯了——而且出了個大糗。

在谷歌短短的幾秒展示里，Bard其實只被問了一個問題——“我可以告訴我 9 歲的孩子關(guān)于詹姆斯·韋伯太空望遠(yuǎn)鏡（James Webb Space Telescope ，簡稱JWST） 的哪些新發(fā)現(xiàn)？” 

Bard的回答很精彩——有豐富的信息，而且很形象的比喻，確實****地給孩子解釋了JWST的發(fā)現(xiàn)。

然而，里面有一個巨大的錯誤：回答里提到“ JWST 拍攝到了太陽系外行星的第一張照片”，也就是下圖灰線部分。

然而，事實上，第一張系外行星照片是由歐洲南方天文臺的Very Large Telescope (VLT) 在 2004 年拍攝的。

圖源：谷歌

最先指出這個錯誤的是天體物理學(xué)家 Grant Tremblay。

他在推特上寫道：“我不是要成為一個討厭鬼，我相信 Bard 會令人印象深刻，但鄭重聲明：JWST 并沒有拍下‘我們太陽系外行星的第一張圖片’?！?/span>

圖源：Twitter

在唯一的一次演示里，就犯了這么大的錯誤，谷歌可以說顏面盡失，不得不快速撤下了相關(guān)演示的YouTube視頻。不過不少官方宣傳推文里的演示動圖還在。

AI犯錯不可怕，正如前文所說的，ChatGPT上同樣充斥著大量似是而非的虛假信息，而且比較來說，對于同樣一個問題，ChatGPT的回答并不好，它只能回答出來JWST能做一些什么，而沒有辦法回答它的新發(fā)現(xiàn)，更不用說以一種小孩更能理解的通俗易懂的方式來解釋。

圖源：Twitter

但是在谷歌這么關(guān)鍵的產(chǎn)品的首次公開亮相上，這樣明顯的事實錯誤，卻通過了層層審核，被批準(zhǔn)放上了CEO的案頭、大幅宣傳——這一點，卻明顯讓人感覺到谷歌員工的麻痹大意。

有谷歌員工對硅星人表示，谷歌這兩年的各種活動往往追求市場宣傳效果，放放產(chǎn)品視頻就好，沒有上真產(chǎn)品的，就算上了真產(chǎn)品，也不用好好測試，不管到時候展示結(jié)果如何，哪怕實際產(chǎn)品越來越爛，只要PR做好了就好了?！爱a(chǎn)品和運營都麻痹了，太缺乏實戰(zhàn)經(jīng)驗了，總有一天要出糗。只是沒料到在跟微軟硬抗的時候掉鏈子。真是天意?！?/strong>

而在ChatGPT的步步緊逼下，谷歌管理層也失去了方寸。正如硅星人此前所說的，這次Bard的發(fā)布有點趕，在內(nèi)部算不上完全準(zhǔn)備好，所以才以面向有限開發(fā)者的形式推出。這種情況下出現(xiàn)錯誤，也就情有可原了。

但這個錯誤的代價就是，投資人失去了信心。消息一傳出，谷歌股價大跌9%，一天就丟了1000億美元的市值。

1000億美元，可以說，這是AI到目前為止犯下的最昂貴的一個錯誤。有網(wǎng)友很悲觀地預(yù)計，“Bard會不會又是下一個Google+、Stadia、Wave等等等等？真是想不到，谷歌甚至沒有辦法對自己的宣傳材料進行事實核查?！?/span>

也有推特網(wǎng)友評價說，這也正是如今的AI研究和語言模型共有的問題：它們非常擅長生成*看起來*準(zhǔn)確的，但其實并不準(zhǔn)確的信息。概括來說，他們就是很牛的扯淡人。

在后續(xù)推文中，Tremblay 也補充道：“我非常喜歡并感謝地球上最強大的公司之一正在使用 JWST 搜索來宣傳他們的 LLM（大語言模型）。棒棒噠！但是 ChatGPT 等等這些，雖然令人印象深刻，但通常*非常自信*地犯錯。 如果未來看到LLM 進行自我錯誤檢查將會很有趣。”

正如 Tremblay 所指出的，ChatGPT 和 Bard 等 AI 聊天機器人的一個主要問題是它們傾向于自信地將不正確的信息陳述為事實。這些系統(tǒng)經(jīng)?！爱a(chǎn)生幻覺”，即編造虛假信息，因為他們只是接受大量文本語料庫的訓(xùn)練，但并不是查詢已經(jīng)過驗證的事實的數(shù)據(jù)庫來回答問題。這導(dǎo)致一位著名的 AI 教授將它們稱為“扯淡生成器”。

很明顯的一個例子就是，對于Bard犯錯的這個問題，其實Google搜索已經(jīng)給出了正確答案。

如果你在Google上搜索“太陽系外行星的第一張圖片”，Google自己就給出了準(zhǔn)確信息——它是在2004年由VLT第一次捕捉成像。

微軟已經(jīng)預(yù)見到了這樣的事情發(fā)生。它昨天演示了集成了ChatGPT的人工智能Bing搜索引擎，就試圖通過把責(zé)任丟給用戶來避開同樣的這些問題。它在免責(zé)聲明里稱，“Bing 由 AI 提供支持，因此可能會出現(xiàn)意外和錯誤。請確保進行事實核查并分享反饋，以便我們學(xué)習(xí)和改進！”

在周一官宣Bard發(fā)布的博文里，CEO 皮柴特別強調(diào)，谷歌希望通過這一階段的測試，來提高 Bard 的質(zhì)量和速度，確保 Bard 的回答達(dá)到高標(biāo)準(zhǔn)。

然而，在這個望遠(yuǎn)鏡烏龍事件后，谷歌發(fā)言人不得不強行挽回一點顏面。他們告訴媒體稱：

“這凸顯了嚴(yán)格測試過程的重要性，我們本周將通過 Trusted Tester 計劃啟動這一過程。我們會將外部反饋與我們自己的內(nèi)部測試相結(jié)合，以確保 Bard 的回應(yīng)在質(zhì)量、安全性和現(xiàn)實世界信息的基礎(chǔ)性方面達(dá)到高標(biāo)準(zhǔn)。”