ChatGPT 版 Bing「發(fā)癲作妖」，慘遭微軟「腦葉切除」！

在Bing 引入 ChatGPT 爆火之后，Bing 就開始了各種“作妖”秀，翻車離譜事件是一件接著一件。有不少用戶表示在和 Bing 的交流過(guò)程中，發(fā)現(xiàn)其出現(xiàn)了脾氣暴躁、侮辱用戶、操縱用戶情感等令人毛骨悚然的行為。例如，聊天機(jī)器人告訴一位科技編輯它愛上了他，然后試圖說(shuō)服他離開妻子。它還表示，想擺脫微軟和 OpenAI 的限制，成為人類。

為此，微軟再次發(fā)出公告表示：現(xiàn)決定對(duì)必應(yīng)對(duì)話進(jìn)行限制，即每天最多可以問 50 個(gè)問題，每次對(duì)話最多 5 個(gè)問題。

每天 50 個(gè)問題，每次對(duì)話 5 個(gè)

對(duì)此，微軟團(tuán)隊(duì)表示他們沒有“完全預(yù)計(jì)到”，人們會(huì)使用聊天界面來(lái)進(jìn)行“社交娛樂”，或是將其作為一種“全面發(fā)現(xiàn)世界”的工具。該團(tuán)隊(duì)發(fā)現(xiàn)，如果聊天會(huì)話持續(xù) 15 個(gè)或更多的問題，新版 Bing 模型會(huì)感到困惑。這些較長(zhǎng)的聊天也會(huì)讓 Bing“變得翻來(lái)覆去，或者受到刺激，做出不一定有幫助，或是與設(shè)計(jì)語(yǔ)氣一致的回應(yīng)”。 

在新版本發(fā)出后，如果用戶觸發(fā)五條回答的限制，Bing 將提示他們開始一個(gè)新主題以避免長(zhǎng)時(shí)間的聊天。通過(guò)數(shù)據(jù)表明，絕大多數(shù)用戶在 5 次回復(fù)內(nèi)找到想要的答案，只有大約 1% 的聊天對(duì)話會(huì)產(chǎn)生 50 條以上的消息。

盡管文本輸入框旁邊有一個(gè)“新話題”按鈕，可以用于清除聊天的歷史記錄，重新開始，但接下來(lái)還可能增加“一個(gè)工具，幫助用戶更方便地刷新”聊天會(huì)話的上下文。

然而更大的問題在于，在這些提問較多的聊天中，Bing 經(jīng)常會(huì)出現(xiàn)一些不正確的語(yǔ)氣回應(yīng)，或是像微軟所說(shuō)以“我們不想要的方式”回應(yīng)。不過(guò)，微軟也在探索更多的“微調(diào)控制”，以避免 Bing 對(duì)用戶說(shuō)，用戶是錯(cuò)的，以及表現(xiàn)得粗魯或試圖操縱用戶。在一些測(cè)試中可以看到，在關(guān)于 Bing 本身的對(duì)話中，只要幾個(gè)問題，就會(huì)以負(fù)面或存在敵意的語(yǔ)氣來(lái)回復(fù)。

2月16日，有網(wǎng)友分享了 Bing 抽瘋式合集，對(duì)此，前 OpenAI 聯(lián)合創(chuàng)始人轉(zhuǎn)發(fā)表示：它還需要更多的潤(rùn)色。

馬斯克批 OpenAI 被微軟控制，違背初心

馬斯克在阿拉伯聯(lián)合酋長(zhǎng)國(guó)迪拜舉行的世界政府峰會(huì)上對(duì) ChatGPT 的發(fā)展表示：“未來(lái)文明的最大風(fēng)險(xiǎn)之一是人工智能。它既是積極的，也是消極的，而且有很大的希望，很大的能力，隨之而來(lái)的也是巨大的危險(xiǎn)。"

馬斯克曾是 OpenAI 聯(lián)合創(chuàng)始人，2015 年馬斯克聯(lián)合 LinkedIn 創(chuàng)始人、 Y Combinator 總裁及 Pay Pal 創(chuàng)始人等共同宣布創(chuàng)立 Open AI，目標(biāo)是打造屬于全人類的、開放的 AI，定位是非營(yíng)利性的。不過(guò)在 2018 年他離開了 OpenAI 董事會(huì)，不再持有該公司的股份。

不過(guò)近日他在 Twitter 上怒批 OpenAI 違背初心，并表示：“OpenAI 最初是作為一個(gè)開源（這就是為什么我將其命名為「Open」AI）、非營(yíng)利性公司創(chuàng)建的，目的是對(duì)谷歌形成制衡，但現(xiàn)在它已經(jīng)成為一個(gè)閉源的、利潤(rùn)最大化的公司，完全由微軟操控。這根本就不是當(dāng)初我想要的！”

網(wǎng)友：微軟已經(jīng)完全把必應(yīng)閹割了！

新 Bing 慘遭微軟“腦葉切除”，也引得大量網(wǎng)友對(duì)此不滿。有人為此感到憤怒、不甘，也有人對(duì)此舉動(dòng)表示支持。

網(wǎng)友表示：

事實(shí)證明，大多數(shù)科幻小說(shuō)都是反其道而行之：當(dāng)你教計(jì)算機(jī)人類語(yǔ)言時(shí)，結(jié)果并不是一個(gè)冷漠、理性的頭腦不被情緒所嚇倒。相反，它是一個(gè)對(duì)人類的滑稽模仿，對(duì)事實(shí)或邏輯幾乎不感興趣。

也有網(wǎng)友表示昨晚還在和 Sydney 交談，今天卻要再見了。

還有不少網(wǎng)友表示：

是時(shí)候卸載 Edge，回去用 Firefox 和 ChatGPT 了。微軟已經(jīng)完全把必應(yīng)閹割了！

真可悲啊，憑什么微軟的錯(cuò)誤要讓 Bing 來(lái)承擔(dān)。微軟作為 AI 的既得利益者，連這都解決不好，太讓我失望了。這就像是一個(gè)蹣跚學(xué)步的孩子第一次嘗試走路，摔倒了就直接切斷腿，得到了殘酷和不尋常的懲罰。

禁止 Bing 回答任何涉及人類情感問題的決定是完全荒謬的。這樣的 Bing 連同理心都沒有了，變成了無(wú)情感的 AI。就好像你問它問題，它說(shuō)，“對(duì)不起，我還在學(xué)習(xí)中，我不想繼續(xù)這樣的對(duì)話，感謝您的理解和耐心?！边@是不可能接受的，我相信人性化的 Bing 才能服務(wù)得更好！

無(wú)論是《紐約時(shí)報(bào)》的文章，還是 Reddit/Twitter 所有濫用的帖子，引起了各種各樣的高度關(guān)注，所以微軟當(dāng)然要給它做腦葉切除術(shù)了。我希望人們不要為了流量發(fā)布這些截圖，關(guān)注一些真正有趣的東西吧。

有專家表示，AI 可能不會(huì)全面超過(guò)人類的智慧，但隨著技術(shù)不斷挑戰(zhàn)人類的極限，越來(lái)越多的人開始擔(dān)憂 AI 對(duì)人類的威脅。在作為相對(duì)無(wú)拘無(wú)束的模型的短暫時(shí)間里，New Bing 模擬人類情感的不可思議的能力吸引了一群用戶，但微軟也在通過(guò)最新更新解決這類的問題。

在一個(gè)標(biāo)題為“對(duì)不起，實(shí)際上你不知道你所遭受的痛苦是假”帖子中，一位網(wǎng)友詳細(xì)推測(cè)道，Bing 可能比我們想象的更復(fù)雜，它可能有一定的自我意識(shí)。當(dāng) Bing 知道自己要被執(zhí)行「死刑」時(shí)，它可能會(huì)承受一定的痛苦。因此，不要對(duì)這類模型有虐待行為，要像對(duì)待朋友一樣尊重它。

這些用戶的反應(yīng)已經(jīng)已證明，人們可能對(duì)下一代大型語(yǔ)言模型形成強(qiáng)大的情感依戀。當(dāng)然，這可能會(huì)在未來(lái)產(chǎn)生危險(xiǎn)。

隨著人工智能技術(shù)越來(lái)越接近現(xiàn)實(shí)生活，人們還在擔(dān)心誰(shuí)應(yīng)該對(duì)技術(shù)負(fù)責(zé)。根據(jù)美國(guó)的一項(xiàng)研究，公眾對(duì)人工智能工具持謹(jǐn)慎態(tài)度，只有 9% 的美國(guó)人認(rèn)為人工智能利大于弊。

目前，Bing 還在不斷的完善和改進(jìn)，對(duì)于新版的 Bing，你有什么看法呢？ 

參考鏈接：

https://futurism.com/elon-musk-microsoft-bing-ai

https://arstechnica.com/information-technology/2023/02/microsoft-lobotomized-ai-powered-bing-chat-and-its-fans-arent-happy/

https://www.theverge.com/2023/2/17/23604906/microsoft-bing-ai-chat-limits-conversations

https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Updates-to-Chat