銓興科技 文章 進入銓興科技技術社區(qū)

銓興科技AI創(chuàng)新解決方案開啟“銓”民AI時代

• 當前，人工智能技術正以其獨特的魅力和巨大的潛力引領著新一輪科技革命。AI大模型的爆發(fā)帶動了GPU市場的繁榮，從云端到邊緣AI應用也催生邊緣AI服務器及AI加速處理器的巨大需求。在邊緣AI應用場景中，大數(shù)據(jù)與大模型的運算、推理依靠GPU的運行效能和帶寬，AI的訓練與微調依賴顯存容量。為支撐70B、405B甚至大于1000B模型的訓練與微調任務，現(xiàn)有市場方案依靠多顯卡集群的方式拼湊顯存與算力?，F(xiàn)行的多顯卡集群方式投入成本昂貴，且高性能GPU算力卡國內限購，成本高，后續(xù)維護進階難，極大程度阻礙AI應用場景落地，
• 關鍵字： 銓興科技  AI創(chuàng)新  AI時代