中科院自研新一代 AI 大模型“紫東太初 2.0”問世，支持視頻、3D 等模態(tài)數(shù)據(jù)

IT之家 6 月 16 日消息，中國科學(xué)院自動化研究所今日上午在上海發(fā)布了該所研制的新一代人工智能大模型 —— 紫東太初 2.0。

據(jù)介紹，全新大模型相比第一代著力提升了決策與判斷能力，實現(xiàn)了從感知、認(rèn)知到?jīng)Q策的跨越，未來將在醫(yī)療、交通、工業(yè)生產(chǎn)等領(lǐng)域發(fā)揮更大作用。

據(jù)IT之家此前報道，紫東太初第一代 AI 大模型于 2021 年發(fā)布，由中國科學(xué)院自動化研究所和華為聯(lián)合開發(fā)，號稱是“全球首個千億參數(shù)多模態(tài)大模型”。

區(qū)別于當(dāng)前以文本為主的大部分語言大模型，“紫東太初”大模型在研發(fā)之初即以多模態(tài)技術(shù)為核心，利用圖-音-文等更多類型數(shù)據(jù)進(jìn)行跨模態(tài)的統(tǒng)一表征和學(xué)習(xí)，實現(xiàn)了圖像、文本、語音三模態(tài)數(shù)據(jù)間的“統(tǒng)一表示”與“相互生成”。

據(jù)介紹，紫東太初 2.0 基于華為全棧國產(chǎn)化軟硬件平臺昇騰 AI 與昇思 MindSpore，由中國科學(xué)院自動化研究所和武漢人工智能研究院聯(lián)合打造。

在文本、圖片、音頻的基礎(chǔ)上，“紫東太初”2.0 可融入 3D、視頻、傳感信號等更多模態(tài)數(shù)據(jù)，并優(yōu)化語音、視頻和文本的融合認(rèn)知以及常識計算等功能，進(jìn)一步“突破感知、認(rèn)知和決策的交互屏障”。