專家警告:人工智能可能威脅人類存亡
法新社報導(dǎo),包括阿特曼(Sam Altman)在內(nèi)的數(shù)十位專家聯(lián)署了一份簡短聲明。聲明稱,應(yīng)對AI帶來的人類滅絕風(fēng)險,應(yīng)是「與應(yīng)對疫情和核戰(zhàn)同層級的全球優(yōu)先要務(wù)」。阿特曼的公司OpenAI研發(fā)了ChatGPT聊天機(jī)器人。
本文引用地址:http://m.butianyuan.cn/article/202305/447211.htmChatGPT可以依據(jù)簡短指令編寫文章、詩歌和對話,因此在去年底一炮而紅。這個程序的巨大成功也吸引了AI領(lǐng)域數(shù)十億美元的投資,但批評者和業(yè)界人士都發(fā)出了警告。
常見的擔(dān)憂包括聊天機(jī)器人可能導(dǎo)致假消息充斥網(wǎng)絡(luò)、帶有偏見的算法可能產(chǎn)出種族主義內(nèi)容,AI驅(qū)動的自動化也可能摧毀整個產(chǎn)業(yè)等。
公布在非營利組織「人工智能安全中心」(Center for AI Safety, CAIS)網(wǎng)頁的這份最新聲明并未詳細(xì)說明AI可能帶來的潛在生存威脅。
CAIS表示,這份「言簡意賅的聲明」旨在開啟針對AI技術(shù)風(fēng)險的討論。
聲明的數(shù)名簽署人,包括被稱為「人工智能教父」的辛頓(Geoffrey Hinton),過去也曾提出類似警告。
他們最大的擔(dān)憂是所謂「通用人工智能」(Artificial General Intelligence,AGI)的崛起,也就是具備人類認(rèn)知能力的人工智能。
他們害怕,人類將失去對這些超智慧機(jī)器的掌控權(quán)。專家曾警告,這可能對物種和地球造成災(zāi)難性后果。
聲明的聯(lián)署人也包括來自AI領(lǐng)先企業(yè)谷歌(Google)和微軟(Microsoft)的專家。
早在2個月前,億萬富豪馬斯克(Elon Musk)和其他數(shù)百名專家也曾發(fā)表一封公開信,呼吁在確定安全無虞之前,暫緩AI研發(fā)工作。
然而,馬斯克的信引來廣泛批評。有人認(rèn)為,信中關(guān)于社會和文明崩潰的警告太過夸大。
評論