新聞中心

EEPW首頁 > 智能計(jì)算 > 業(yè)界動態(tài) > 專家警告:人工智能可能威脅人類存亡

專家警告:人工智能可能威脅人類存亡

作者: 時間:2023-05-31 來源: 收藏

法新社報導(dǎo),包括阿特曼(Sam Altman)在內(nèi)的數(shù)十位專家聯(lián)署了一份簡短聲明。聲明稱,應(yīng)對AI帶來的人類滅絕風(fēng)險,應(yīng)是「與應(yīng)對疫情和核戰(zhàn)同層級的全球優(yōu)先要務(wù)」。阿特曼的公司OpenAI研發(fā)了聊天機(jī)器人。

本文引用地址:http://m.butianyuan.cn/article/202305/447211.htm

可以依據(jù)簡短指令編寫文章、詩歌和對話,因此在去年底一炮而紅。這個程序的巨大成功也吸引了AI領(lǐng)域數(shù)十億美元的投資,但批評者和業(yè)界人士都發(fā)出了警告。

常見的擔(dān)憂包括聊天機(jī)器人可能導(dǎo)致假消息充斥網(wǎng)絡(luò)、帶有偏見的算法可能產(chǎn)出種族主義內(nèi)容,AI驅(qū)動的自動化也可能摧毀整個產(chǎn)業(yè)等。

公布在非營利組織「安全中心」(Center for AI Safety, CAIS)網(wǎng)頁的這份最新聲明并未詳細(xì)說明AI可能帶來的潛在生存威脅。

CAIS表示,這份「言簡意賅的聲明」旨在開啟針對AI技術(shù)風(fēng)險的討論。

聲明的數(shù)名簽署人,包括被稱為「教父」的辛頓(Geoffrey Hinton),過去也曾提出類似警告。

他們最大的擔(dān)憂是所謂「通用」(Artificial General Intelligence,AGI)的崛起,也就是具備人類認(rèn)知能力的人工智能。

他們害怕,人類將失去對這些超智慧機(jī)器的掌控權(quán)。專家曾警告,這可能對物種和地球造成災(zāi)難性后果。

聲明的聯(lián)署人也包括來自AI領(lǐng)先企業(yè)谷歌(Google)和微軟(Microsoft)的專家。

早在2個月前,億萬富豪馬斯克(Elon Musk)和其他數(shù)百名專家也曾發(fā)表一封公開信,呼吁在確定安全無虞之前,暫緩AI研發(fā)工作。

然而,馬斯克的信引來廣泛批評。有人認(rèn)為,信中關(guān)于社會和文明崩潰的警告太過夸大。




關(guān)鍵詞: 人工智能 ChatGPT

評論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉