OpenAI與人合作，想幫助青少年安全使用人工智能

1月30日消息，OpenAI周一表示正與常識(shí)傳媒（Common Sense Media）合作，旨在幫助青少年安全使用人工智能。

OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）在舊金山的活動(dòng)上表示：“我們想搞清楚如何能安全負(fù)責(zé)地向青少年和其他想要學(xué)習(xí)人工智能的人廣泛分發(fā)這個(gè)工具?！?/p>

常識(shí)傳媒是一家致力于讓孩子們安全使用技術(shù)的非營(yíng)利組織，一直在努力開發(fā)人工智能評(píng)級(jí)和審查系統(tǒng)，旨在讓父母、孩子和教育工作者更好了解這項(xiàng)技術(shù)的風(fēng)險(xiǎn)和好處。常識(shí)傳媒想要搞清楚的一些問題包括，人工智能是否能培養(yǎng)年輕人對(duì)學(xué)習(xí)的興趣，是否尊重兒童權(quán)利，是否會(huì)使錯(cuò)誤信息傳播固化。

OpenAI和常識(shí)傳媒合作的目的是為兒童、教育工作者和家長(zhǎng)制定人工智能指南和教育材料，并幫助策劃符合常識(shí)傳媒評(píng)級(jí)和標(biāo)準(zhǔn)的“家庭友好”型大語言模型GPT。

常識(shí)傳媒首席執(zhí)行官吉姆·斯蒂爾（Jim Steyer）在一份聲明中表示，兩家公司合作開發(fā)的材料“目的是教育家庭和教師能安全負(fù)責(zé)地使用ChatGPT，這樣就可以共同避免這項(xiàng)新興技術(shù)帶來的意想不到的后果?！?/p>

在周一的活動(dòng)中，奧特曼簡(jiǎn)要介紹了這一合作伙伴關(guān)系和如何普及人工智能，并表示他希望這將“惠及無法接觸到人工智能的孩子”。他說，OpenAI的使命之一就是“免費(fèi)提供真正有用的人工智能”。

去年9月份，慈善機(jī)構(gòu)克雷格·紐馬克慈善基金會(huì)（Craig Newmark Philanthropies）宣布捐贈(zèng)300萬美元，資助常識(shí)傳媒一項(xiàng)人工智能和教育倡議?；饡?huì)創(chuàng)始人克雷格·紐馬克（Craig Newmark）當(dāng)時(shí)表示，他對(duì)人工智能的一些擔(dān)憂包括，壞人可能會(huì)利用這項(xiàng)技術(shù)影響信息生態(tài)系統(tǒng)，引發(fā)社會(huì)不滿。

OpenAI和常識(shí)傳媒?jīng)]有具體說明將如何調(diào)整大語言模型，來幫助教育工作者或青少年。奧特曼說，為教育定制的大語言模型可以幫助“想要學(xué)習(xí)科學(xué)或生物學(xué)的青少年”。

“我認(rèn)為我們還不清楚如何使用人工智能，”奧特曼說。他補(bǔ)充說，自己設(shè)想過“每個(gè)青少年或每個(gè)成年人都將擁有個(gè)性化人工智能”的世界。

奧特曼承認(rèn)，人工智能生成的圖像會(huì)引發(fā)諸多問題。但他說：“我認(rèn)為人們比我們想象的要復(fù)雜得多，你不會(huì)相信所看到的每一張圖像?！?/p>

他還談到了OpenAI是如何應(yīng)對(duì)不法分子利用人工智能的潛在方式。

奧特曼說：“我們已經(jīng)建立起大規(guī)模的對(duì)應(yīng)機(jī)制?！薄斑@會(huì)受到密切關(guān)注。”