ChatGPT利與弊分析

在不到兩個月的時間里，人工智能（AI）項目ChatGPT已經成為一種文化轟動。它可以通過工具開發(fā)者OpenAI創(chuàng)建的門戶網站自由訪問。

基于書面提示自動創(chuàng)建文本的程序非常流行，如果你嘗試使用它，它很可能會“現(xiàn)在無法使用”。當你成功完成后，ChatGPT會提供無盡的娛樂。我要求它重寫經典美劇《推銷員之死》的第一幕，但以動畫電影《冰雪奇緣》中的埃爾莎公主為主角，而不是威利·洛曼。結果是一場有趣的對話，在這場對話中，兒子Happy告訴結束了艱難的一天銷售回家的艾爾莎：“來吧，媽媽。你是來自《冰雪奇緣》的艾爾莎。你有冰的力量，你是女王。你勢不可擋?！?，但是對于像ChatGPT這樣的人工智能項目在科學界和學術界有著嚴重的影響。

Machines play an important role, but as tools for the people posing the hypotheses...and making sense of the result

ChatGPT（Generative Pre-trained Transformer）是用一種稱為“從人類反饋中強化學習”的技術開發(fā)出來的，用于訓練語言模型，使其能夠非常對話。正如該網站所言，“ChatGPT有時會寫出看似合理但不正確或荒謬的答案。”幾個例子表明，它可能會犯下明顯的錯誤，包括引用一項不存在的科學研究。許多擔憂與ChatGPT將如何改變教育有關。它當然可以寫一系列主題的文章。我給了它一次考試和一個期末項目，我在喬治·華盛頓大學教的一門關于科學的課上給了學生。它確實找到了事實的答案，但學術寫作還有很長的路要走。如果有的話，這對教育的影響可能會促使學者們以創(chuàng)新的方式重新思考他們的課程，并給出人工智能不容易解決的作業(yè)。

更令人擔憂的是ChatGPT對撰寫科學論文的影響。在最近的一項研究中，ChatGPT創(chuàng)建的摘要被提交給學術評審員，他們只發(fā)現(xiàn)了63%的造假。這是大量人工智能生成的文本，可能很快就會進入文獻。多年來，《科學》系列期刊的作者簽署了一份許可證，證明“作品是原創(chuàng)的”。對于《科學》雜志來說，“原創(chuàng)”一詞足以表明ChatGPT撰寫的文本是不可接受的：畢竟，它是從ChatGPT剽竊的。此外，我們的作者證明他們自己對論文中的研究負責。盡管如此，為了明確起見，我們現(xiàn)在正在更新我們的許可證和編輯政策，以規(guī)定ChatGPT（或任何其他人工智能工具）生成的文本不能用于工作，數(shù)字、圖像或圖形也不能作為此類工具的產品。人工智能程序不能是作者。違反這些政策將構成科學不端行為，與修改圖像或剽竊現(xiàn)有作品無異。當然，有許多合法的數(shù)據(jù)集（不是論文的文本）是人工智能在研究論文中故意生成的，而這些數(shù)據(jù)集并沒有被這種變化所涵蓋。

《科學期刊》處理的大多數(shù)科學不端行為都是因為人類注意力不足?？旖莘绞绞峭ㄟ^使用Photoshop等圖像處理程序或從其他來源復制文本來實現(xiàn)的。更改的圖像和復制的文本可能會被忽略，因為它們沒有受到每位作者的仔細檢查。在我們這一方面，當編輯和審稿人不聽從他們內心的懷疑者的話，或者當我們沒有把注意力集中在細節(jié)上時，就會出現(xiàn)錯誤。在人們對科學的信任正在減弱的時候，科學家們必須重新致力于對細節(jié)的細致關注?？茖W記錄最終是人類努力解決重要問題的一部分。機器扮演著重要的角色，但它是人們提出假設、設計實驗和理解結果的工具。最終，產品必須來自我們頭腦中的奇妙計算機并由其表達。