擔(dān)心數(shù)據(jù)安全 美國(guó)太空部隊(duì)禁用生成式AI工具

10月12日消息，在最新泄露的備忘錄中，美國(guó)太空部隊(duì)已經(jīng)決定暫時(shí)禁止使用基于網(wǎng)絡(luò)的生成式人工智能工具和所謂的大語(yǔ)言模型，理由是數(shù)據(jù)安全和其他方面的擔(dān)憂(yōu)。

這份日期為9月29日的備忘錄是寫(xiě)給“守衛(wèi)者”的，這是對(duì)美國(guó)太空部隊(duì)成員的內(nèi)部稱(chēng)呼。在備忘錄中，美國(guó)太空部隊(duì)禁止其成員在基于網(wǎng)絡(luò)的生成式人工智能工具上使用任何政府?dāng)?shù)據(jù)，這些工具可以根據(jù)簡(jiǎn)單的提示創(chuàng)建文本、圖像或其他形式的內(nèi)容。備忘錄中稱(chēng)，除非特別批準(zhǔn)，否則上述工具“沒(méi)有被授權(quán)”在政府系統(tǒng)上使用。

像OpenAI的ChatGPT這樣的聊天機(jī)器人已經(jīng)十分受歡迎，它們利用經(jīng)過(guò)大量數(shù)據(jù)訓(xùn)練的語(yǔ)言模型來(lái)預(yù)測(cè)和生成新的文本。這樣的大語(yǔ)言模型催生了大量人工智能工具，它們可以搜索大量文檔，提取關(guān)鍵細(xì)節(jié)，并以各種語(yǔ)言風(fēng)格的連貫方式呈現(xiàn)出來(lái)。

美國(guó)太空部隊(duì)首席技術(shù)和創(chuàng)新官麗莎·科斯塔（Lisa Costa）在備忘錄中表示，生成式人工智能“毫無(wú)疑問(wèn)將徹底改變我們的員工隊(duì)伍，提高‘守衛(wèi)者’的業(yè)務(wù)能力?！钡扑顾蔡岬搅藢?duì)網(wǎng)絡(luò)安全、數(shù)據(jù)處理和采購(gòu)要求的擔(dān)憂(yōu)，稱(chēng)人工智能和大語(yǔ)言模型的采用需要“負(fù)起責(zé)任”。

美國(guó)太空部隊(duì)沒(méi)有提供進(jìn)一步的解釋。專(zhuān)家們指出了一種風(fēng)險(xiǎn)，即在某些情況下，提供給大模型的文檔和提示中大量潛在的非公開(kāi)數(shù)據(jù)可能最終被泄露到公共領(lǐng)域，或以其他方式被黑客入侵。備忘錄稱(chēng)，科斯塔計(jì)劃在30天內(nèi)發(fā)布新的指引。

美國(guó)太空部隊(duì)的發(fā)言人表示，媒體看到的備忘錄是真實(shí)存在的，在決定如何整合支持任務(wù)和增強(qiáng)“守衛(wèi)者”能力的同時(shí)，該機(jī)構(gòu)已經(jīng)發(fā)布了禁令以保護(hù)人員和太空部隊(duì)的數(shù)據(jù)。

太空部隊(duì)的上述決定影響了至少500名使用Ask Sage生成式人工智能平臺(tái)的人，該公司創(chuàng)始人尼古拉斯·沙伊蘭(Nicolas Chaillan)說(shuō)。據(jù)沙伊蘭稱(chēng)，Ask Sage旨在提供一個(gè)安全的生成式人工智能平臺(tái)，該平臺(tái)可與多種大語(yǔ)言模型兼容，包括微軟和谷歌的模型。

沙伊蘭曾是美國(guó)空軍和太空部隊(duì)的首席軟件官，他批評(píng)了后者暫停使用生成式人工智能的決定，尤其是在國(guó)防部呼吁加速采用人工智能的情況下。今年8月，美國(guó)國(guó)防部成立了一個(gè)生成式人工智能工作組，專(zhuān)門(mén)研究大語(yǔ)言模型的用例，以及如何在整個(gè)國(guó)防部分析和整合這些用例。“這是一個(gè)非常短視的決定，”沙伊蘭說(shuō)。

美國(guó)中情局也已經(jīng)開(kāi)發(fā)了一種生成式人工智能工具，打算在情報(bào)界廣泛使用。沙伊蘭表示，他的平臺(tái)已經(jīng)滿(mǎn)足了保護(hù)數(shù)據(jù)的安全要求。

沙伊蘭補(bǔ)充說(shuō)，除了美國(guó)太空部隊(duì)的用戶(hù)外，國(guó)防部其他部門(mén)的1萬(wàn)多名用戶(hù)，包括空軍的6500名用戶(hù)，仍在使用其公司的軟件。他說(shuō)，國(guó)防部的一些用戶(hù)甚至自掏腰包支付每月30美元的費(fèi)用，這有助于他們減輕撰寫(xiě)報(bào)告的負(fù)擔(dān)。