ChatGPT 成學生“作弊神器”？教授：“我感到極度恐懼”

上線沒到一個月，ChatGPT 已經(jīng)被網(wǎng)友玩出了“花”：寫詩、編劇本、寫代碼、做計算題……在 ChatGPT 獲得頗多贊譽的同時，近來一些學術(shù)界教授卻發(fā)現(xiàn)了它另一種令人擔憂的用途：學生正在利用 ChatGPT 代寫論文。

為此，弗曼大學哲學助理教授 Darren Hick 還在 Facebook 上發(fā)布了一篇長文，開頭就是：“今天，我把我抓到的第一個利用 AI 寫論文的作弊者報上去了，我想有些人可能會對其中的細節(jié)感到好奇?！?/span>

事情的起因，是 Darren Hick 要求學生課后寫一篇 500 字的文章，主題關(guān)于 18 世紀哲學家大衛(wèi) ? 休謨和恐怖悖論，即研究人們是如何從他們害怕的東西中獲得樂趣的。

很正常的一個作業(yè)，也并沒有什么特別的難度，至少 Darren Hick 是這么認為的——所以他事先怎么也沒想到，居然會有學生用 ChatGPT 來寫這篇文章。

“有一篇文章很特別，看起來很干凈，但隱約能看出 AI 的痕跡。它寫得很像一個非常聰明的 12 年級學生寫的?！盌arren Hick 指出，ChatGPT 的回答會用一些沒有錯、但特別奇怪的措辭，就像你教別人怎么寫文章時，對方還沒搞清楚自己風格之前的寫法。

Darren Hick 表示：“就我而言，我認為這篇文章可能是用 AI 生成的第一個跡象是：盡管文章的句法連貫，但它毫無意義。”

具體來說，這篇可疑文章的主題是大衛(wèi) ? 休謨和恐怖悖論，的確沒跑題，但全文卻以一種完全錯誤的方式“自信而徹底地描述了休謨關(guān)于恐怖悖論的觀點”。文章確實說了一些關(guān)于休謨的真實事件，也介紹了恐怖悖論的概念，但之后就全是胡扯了。

如果是一個根本不了解大衛(wèi) ? 休謨和恐怖悖論的人來看這篇文章，可能不會發(fā)現(xiàn)任何問題，說不定還覺得很好理解；但對于 Darren Hick 來說，這篇文章就完全是“狗屁不通”了。

有了這個懷疑后，Darren Hick 便開始思考：要如何證實他的猜測？

所幸，Darren Hick 知道開發(fā) ChatGPT 的同一個團隊還開發(fā)了 GPT 檢測器（https://huggingface.co/openai-detector/），它使用與 ChatGPT 生成響應(yīng)相同的方法來分析文本，可以計算文本是由 GPT 技術(shù)生成的可能性。

于是，Darren Hick 便將他懷疑的這篇文章復制到 GPT 檢測器中，發(fā)現(xiàn)其中任意一段都有 99.9% 的可能性是由 GPT 技術(shù)生成的：“這讓我對我的假設(shè)有了信心。”

但與我們?nèi)粘２橹卣撐臅r會體現(xiàn)原文來自哪里的軟件不同，即便檢測到了 99.9% 的可能性，GPT 檢測器也沒有提供任何引證——第一個問題是，ChatGPT 不搜索互聯(lián)網(wǎng)，所以只要數(shù)據(jù)不在它的訓練數(shù)據(jù)中，它就無法訪問；第二個問題是，ChatGPT 沒有辦法展示它是如何產(chǎn)生答案的。

不過，Darren Hick 發(fā)現(xiàn)，雖然每次對 ChatGPT 進行提問它都會給出些許不同的答案，但“在文章結(jié)構(gòu)上有一些一致性”。因此，Darren Hick 開始場景復現(xiàn)：他試圖帶入學生視角，想象學生會問的問題，讓 ChatGPT 寫出了同樣主題的文章——雖然并非完全相同，但也十分類似。

到這種程度，Darren Hick 覺得他的推測已經(jīng)八九不離十了。他直接去質(zhì)問了這名學生，對方也承認使用了 ChatGPT，因此被掛科。最終，Darren Hick 將這名本科生移交給了學校的學術(shù)院長處理。

盡管這次 Darren Hick 成功抓到了這名學生，但正如他所說的那樣：“這次成功是因為學生自己承認使用了 ChatGPT。如果她堅持否認，我的這些推測并不能作為足夠的證據(jù)?！?/span>

更可怕的是，ChatGPT 作為一種 AI 語言模型，它才剛上線不到 1 個月，未來它會繼續(xù)不斷學習，變得越來越強大——而目前 Darren Hick 可以發(fā)現(xiàn)的那些蛛絲馬跡，也可能在 ChatGPT 之后的升級優(yōu)化中，變得更難發(fā)現(xiàn)。

“ChatGPT 太先進了，它肯定會流行起來的。這與讓同學幫你寫文章還不同，ChatGPT 是免費和即時的，我的學生用 ChatGPT 寫那篇文章大約只需要 5 分鐘?！盌arren Hick 感慨：“我感到極度恐懼，同時在思考這對我的日常工作到底意味著什么。”

當前，不論是學校還是政府方面，都還沒有任何有關(guān)這類事件的處理標準。因此 Darren Hick 認為，目前最好的辦法可能只能是“即興答辯”了：讓有嫌疑的學生在沒有準備的情況下回答導師的提問，以此判斷他是否完全掌握了作業(yè)內(nèi)容。