以防作弊，ChatGPT 遭教育部“拉黑”：師生禁用！

發(fā)布人：AI科技大本營時間：2023-01-19 來源：工程師

加入技術(shù)交流群
- 掃碼加入
  和技術(shù)大咖面對面交流
  海量資料庫查詢

上個月，弗曼大學(xué)哲學(xué)助理教授 Darren Hick 逮到一個用 ChatGPT 寫論文的作弊者后，就感慨：“ChatGPT 太先進了，它肯定會（在學(xué)生中）流行起來的?！?/span>

可能是他分享的經(jīng)歷引起了人們的關(guān)注，也或許的確有越來越多的學(xué)生開始用 ChatGPT 來完成作業(yè)，總之本周美國紐約市教育部正式宣布：紐約市的學(xué)生和教師，無法再在教育部設(shè)備或互聯(lián)網(wǎng)上訪問 ChatGPT。

一句話概括就是：火爆全網(wǎng)的 ChatGPT，被紐約教育部“拉黑”了。

禁用理由：出于對“內(nèi)容安全性和準確性”的擔憂

正如 Darren Hick 上個月所說，ChatGPT 的免費和即時，及其超強的自然語言處理能力，令很多學(xué)生動了“歪腦筋”：有關(guān)文字寫作的作業(yè)，就讓 ChatGPT 來完成——最可怕的是，如不仔細推敲，很難分辨出它們是由 AI 生成的還是學(xué)生自己寫的。

近來，《紐約時報》組織了一批作家和教育工作者，向他們同時展示了由 ChatGPT 寫作的文章和人類學(xué)生寫的文章，其中包括一位四年級老師、一位專業(yè)寫作輔導(dǎo)員、一位斯坦福大學(xué)教育教授以及一位兒童作家。而他們，都無法精準地將二者區(qū)分開來。

對此，報道記者調(diào)侃道：“能看出這是一個四年級學(xué)生寫的還是新聊天機器人寫的文章嗎？如果你分辨不出來，不用驚訝，因為四年級老師也不能?！?/span>

或許就是基于這些事實，才令紐約教育部做出了“禁用 ChatGPT”的決定。該教育部發(fā)言人 Jenna Lyle 出面解釋：“由于擔心對學(xué)生學(xué)習(xí)的負面影響，以及對內(nèi)容安全性和準確性的擔憂，我們將限制在紐約市公立學(xué)校的網(wǎng)絡(luò)和設(shè)備上訪問 ChatGPT。”

具體來說，雖然 ChatGPT 能提供快速簡便的問題答案，但紐約教育部方面認為，這樣的 ChatGPT 并不能“培養(yǎng)批判性思維和解決問題的能力”，而這些技能對于學(xué)生“在學(xué)術(shù)上的成就和終身成功”至關(guān)重要。

不過，這并不意味著紐約教育部全盤否定了 ChatGPT 的一切。其發(fā)言人指出，如果有個別學(xué)校計劃研究 ChatGPT 背后的技術(shù)，仍可以向教育部申請訪問該網(wǎng)站。除此之外，這條禁令的范圍僅限于“紐約市公立學(xué)校的網(wǎng)絡(luò)和設(shè)備”，師生仍可以在非教育部設(shè)備或互聯(lián)網(wǎng)上訪問 ChatGPT。

目前，除了紐約教育部對 ChatGPT 發(fā)出禁令，美國當?shù)剡€沒有其他城市對 ChatGPT 做出類似處理。不過許多業(yè)內(nèi)人士認為，紐約作為美國第一大城市，它的帶頭很可能會影響其他地區(qū)的決定。

現(xiàn)階段的 ChatGPT，并非無所不能

實際上，自 OpenAI 于 2022 年 11 月發(fā)布 ChatGPT 后，它就引起了很多爭議，各種事實也證明，至少現(xiàn)階段的 ChatGPT 還沒有傳說中的那么無所不能：

12 月，Stack Overflow 稱 ChatGPT 答案的正確率很低，對整個網(wǎng)站以及尋求正確答案的用戶來說有害，宣布禁用 ChatGPT；
國內(nèi)的微信也限制 ChatGPT 小程序；
甚至 OpenAI 首席執(zhí)行官 Sam Altman 自己也發(fā)推表示：“ChatGPT 目前能力還非常有限，但因為在某些方面足夠優(yōu)秀，所以會給人留下一種誤導(dǎo)性的偉大印象?，F(xiàn)在依靠它來做任何重要的事情都是不妥的?！?/span>

如今教育界對 ChatGPT 的擔憂及排斥也正是如此。除了其回答的準確性不能保證，擔心會給學(xué)生造成誤導(dǎo)，ChatGPT 還能利用機器學(xué)習(xí)結(jié)合過往對話，對用戶提問給出類似風(fēng)格且語句通順的回答——這一功能顯然容易讓學(xué)生“心生邪念”，對于習(xí)慣用作業(yè)來評估學(xué)生理解和批判性思維能力的教育工作者來說，也是一個很棘手的問題。

因此，在看到越來越多利用 AI 作弊的事件后，一名普林斯頓大學(xué)計算機科學(xué)專業(yè)的學(xué)生 Edward Tian 也自發(fā)創(chuàng)建了一個應(yīng)用程序 GPTZero，它可以正確檢測文章是否由 ChatGPT 生成——據(jù)了解，GPTZero 一經(jīng)上線就非常受歡迎，還一度“由于出乎意料的高流量”而崩潰。