AI芯片獨角獸最新產(chǎn)品 比英偉達GPU快20倍
綜合外媒報導,人工智能(AI)芯片巨頭英偉達(Nvidia)的競爭對手、全球最大AI芯片獨角獸 Cerebras Systems宣布,推出Cerebras Inference,據(jù)稱是全世界最快AI解決方案,較英偉達目前這一代GPU快20倍,價格更便宜只有GPU的五分之一。
本文引用地址:http://m.butianyuan.cn/article/202408/462438.htmCerebras的AI推論工具可為大語言模型Llama 3.1 8B,每秒生成1,800個 tokens,比超大規(guī)模數(shù)據(jù)中心的英偉達GPU解決方案快20倍。而且Cerebras價格以每百萬tokens收10美分起跳,與英偉達GPU解決方案相比如同九牛一毛。
Cerebras執(zhí)行長費爾德曼(Andrew Feldman)受訪時表示,「我們產(chǎn)品的性能GPU達不到,而且精確度最高,價格最便宜,更透露已經(jīng)從Nvidia那里搶到有意義的客戶?!?/p>
Cerebras于2015年創(chuàng)立,曾表明挑戰(zhàn)英偉達市場龍頭地位,更獲ChatGpt開發(fā)商OpenAI行政總裁阿爾特曼(Sam Altman)投資。另有消息指出,Cerebras計劃最快10月在美國上市。
評論