gpu 文章進入gpu技術(shù)社區(qū)

英偉達推出 Tensor RT-LLM，使大語言模型在搭載 RTX 的 PC 平臺上運行速度提高 4 倍

IT之家 10 月 18 日消息，英偉達是硬件領(lǐng)域的生成型人工智能之王，該公司的 GPU 為微軟、OpenAI 等公司的數(shù)據(jù)中心提供動力，運行著 Bing Chat、ChatGPT 等人工智能服務(wù)。今天，英偉達宣布了一款新的軟件工具，旨在提升大型語言模型（LLM）在本地 Windows PC 上的性能。在一篇博客文章中，英偉達宣布了其 TensorRT-LLM 開源庫，這個庫之前是為數(shù)據(jù)中心發(fā)布的，現(xiàn)在也可以用于 Windows PC。最大的特點是，如果 Windows PC 配備英偉達 GeF
關(guān)鍵字：英偉達 GPU 人工智能

英偉達下一代GPU：Blackwell B100將采用HBM3E顯存，計劃于明年第二季度左右發(fā)布

今年8月，SK海力士宣布開發(fā)出了全球最高規(guī)格的HBM3E內(nèi)存，并將從明年上半年開始投入量產(chǎn)，目前已經(jīng)開始向客戶提供樣品進行性能驗證。據(jù)MT.co.kr報道，繼第4代產(chǎn)品HBM3之后，SK海力士將向英偉達獨家供應(yīng)第五代高帶寬內(nèi)存HBM3E，此舉有望進一步鞏固其作為AI半導體公司的地位。據(jù)半導體業(yè)界15日消息，SK海力士將于明年初向英偉達提供滿足量產(chǎn)質(zhì)量要求的HBM3E內(nèi)存，并開展最終的資格測試。一位半導體行業(yè)高管表示，“沒有HBM3E，英偉達就無法銷售B100”，“一旦質(zhì)量達到要求，合同就只是時間問題?！睋?jù)
關(guān)鍵字：英偉達 GPU Blackwell B100 HBM3E 顯存

?GPU市場開始分化，中國迎來更多商機

最近，關(guān)于 GPU，或與 GPU 相關(guān)的消息不斷，例如，OpenAI 正探索自研 AI 芯片，微軟將在今年 11 月推出自研的 AI 芯片，三星推出 Exynos 2400 處理器，自研的 GPU 再次升級，等等。這些都是市場和廠商尋求更多變化的體現(xiàn)。在全球半導體行業(yè)整體不景氣的 2023 年，只有 AI 服務(wù)器系統(tǒng)和相關(guān)芯片一枝獨秀，而 AI 服務(wù)器使用的處理器多數(shù)是 GPU，不幸的是（對于多數(shù) GPU 廠商而言），在這一僅有的優(yōu)秀市場，多數(shù)廠商都只能喝湯，有的甚至連湯都喝不上，唯一大口吃肉的是英偉達。
關(guān)鍵字： GPU

英偉達的突飛猛進而變動的半導體行業(yè)

進入10月，2023年也逐漸聽到了年末的腳步聲。以半導體為首的電子器件行業(yè)在23年也發(fā)生了各種各樣的事情。其中本人關(guān)注的十七年就是是英偉達的突飛猛進。在GPU的世界份額排行榜上，“突飛猛進”一詞可能不適合全球半導體排名前十的英偉達，但英偉達23年的業(yè)務(wù)擴張屬實讓人震撼。成為那個導火索的是人工智能。在人工智能訓練中所使用的服務(wù)器如CHATGPT，都使用了英偉達的GPU相關(guān)產(chǎn)品作為核心設(shè)備。GPU雖不能像CPU那樣復雜多樣，但是，GPU擅長并行處理，能夠高速重復同樣的計算，這樣的特征恰好適合于在學習過程中高速
關(guān)鍵字：英偉達 GPU AI

俄羅斯計劃使用被禁的 Nvidia H100 GPU 構(gòu)建十大超級計算機

俄羅斯有一個雄心勃勃的計劃，到 2030 年建造多達 10 臺超級計算機，每臺可能容納 10,000 到 15,000 個 Nvidia H100 GPU。從計算的角度來看，這將為國家提供類似于用于訓練 Chat GPT 的性能。總的來說，配備如此多 H100 GPU 的系統(tǒng)可以產(chǎn)生約 450 FP64 TFLOPS，這是 ExaFLOP 的一半，迄今為止只有美國才能達到這一超級計算機性能水平。?在“可信基礎(chǔ)設(shè)施”團隊的牽頭下，俄羅斯項目承諾突破計算能力的界限，每臺機器可能配備 10,000
關(guān)鍵字： GPU 超級計算機 NVIDIA

GPU定價更新

Radeon 7800 XT 是這一代最受歡迎的顯卡之一。
關(guān)鍵字： GPU Radeon 7800 XT

蘋果首發(fā)3nm芯片，GPU性能暴漲

今日，蘋果舉辦發(fā)布會，正式推出了包括iPhone 15系列和Apple Watch Series 9 / Ultra 2在內(nèi)的多款產(chǎn)品，其售價從1999元到13999元不等。其中iPhone 15 Pro/15 Pro Max的最大亮點也是芯片，其搭載的A17 Pro 芯片，也是業(yè)界首款 3 nm芯片。集成了 190 億顆晶體管，晶體管間僅有 12 個硅原子寬度的縫隙，內(nèi)置六核 CPU的性能是 A16 Bionic 的兩倍，而效率則高達四倍。作為對比，A15 有 150 億個晶體管，A14有118 億個晶
關(guān)鍵字： 3nm GPU

AI GPU供不應(yīng)求！臺積電第三次追加設(shè)備訂單

ChatGPT火爆致使人工智能服務(wù)器需求激增，特別是英偉達的AI GPU需求。為應(yīng)對CoWoS市場激增得需求以及加強競爭，業(yè)界消息顯示，自第二季度以來，臺積電已第三次追加設(shè)備訂單。業(yè)界透露，目前臺積電將訂單可見性從2024年第二季度延長到年底。一些獨家供應(yīng)商甚至收到了延續(xù)至2025年的訂單。除了Rudolph、Disco、SUS、ASMPT等國際設(shè)備巨頭繼續(xù)受益于新增訂單外，Scientech、GPTC等中國臺灣設(shè)備制造商也收到了第三波訂單。設(shè)備廠商估算，臺積電2023年CoWoS總產(chǎn)能逾12萬片，202
關(guān)鍵字： AI GPU 臺積電

碾壓 H100！英偉達 GH200 超級芯片首秀 MLPerf v3.1，性能躍升 17%

【新智元導讀】傳說中的英偉達 GH200 在 MLPerf 3.1 中驚艷亮相，性能直接碾壓 H100，領(lǐng)先了 17%。繼 4 月份加入 LLM 訓練測試后，MLPerf 再次迎來重磅更新！剛剛，MLCommons 發(fā)布了 MLPerf v3.1 版本更新，并加入了兩個全新基準：LLM 推理測試 MLPerf Inference v3.1，以及存儲性能測試 MLPerf Storage v0.5。而這，這也是英偉達 GH200 測試成績的首次亮相！相比于單張 H100 配合英特爾 CPU，GH200 的
關(guān)鍵字：英偉達 GPU 計算平臺

業(yè)績造假？英偉達被投資人圍攻黃仁勛拋售自家股票套現(xiàn)3.4億

9月8日消息，英偉達最新提交的監(jiān)管文件顯示，黃仁勛在過去幾個交易日里出售了價值近4300萬美元的股票（約3.4億元左右）。這樣的舉措英偉達更受大家關(guān)注，因為目前不少投資人都質(zhì)疑公司業(yè)績造假。有關(guān)英偉達二季度“破紀錄”財報涉嫌造假的陰謀論正在社交媒體和投資者論壇中甚囂塵上，令9月6日和7日的股價均跌約3%，抹去8月23日盤后公布二季報以來的全部漲幅。據(jù)研投機構(gòu)Macrotips Trading總結(jié)，英偉達是在幾乎沒有增加成本的情況下實現(xiàn)了驚人增長，其收入成本同比僅增長了6.8%（第二季度），毛利率卻達到聞所
關(guān)鍵字：英偉達 GPU

人的大腦相當于什么水平的 GPU 和 CPU ?

人腦的基本結(jié)構(gòu)和功能人類的大腦是一個驚人的機器，能處理復雜的信息，使我們能理解和響應(yīng)周圍的世界。它由大約860億個神經(jīng)元組成，每個神經(jīng)元可以與其他神經(jīng)元通過約1000個突觸進行連接，形成一種復雜的網(wǎng)絡(luò)結(jié)構(gòu)。大腦的這種網(wǎng)絡(luò)結(jié)構(gòu)讓我們可以進行多種多樣的認知活動，如感知、記憶、思考、語言等。這種網(wǎng)絡(luò)是通過電信號進行通信的，當電信號通過神經(jīng)元時，它會在突觸處釋放化學物質(zhì)，這些化學物質(zhì)會跨越突觸間隙，與另一個神經(jīng)元的接收器結(jié)合，引發(fā)新的電信號，如此往復，完成信息的傳遞和處理。這種處理方式雖然復雜，但速度非?？欤刮?/li>
關(guān)鍵字： CPU GPU

2023Q2 報告顯示 PC 用 GPU 市場復蘇：AMD 份額環(huán)比增加 1.2 個百分點

IT之家 8 月 29 日消息，根據(jù)市場調(diào)查機構(gòu) Jon Peddie Research（JPR）發(fā)布的最新報告，2023 年第 2 季度全球 PC 用 GPU 市場規(guī)模為 6160 萬美元（IT之家備注：當前約 4.49 億元人民幣），同比下降了 23%。整體而言，PC 用 GPU 在 2022-2026 年期間的復合年增長率將為 3.70%，預(yù)估在 2026 年年末總規(guī)模達到 29.98 億片。JPR 推測 PC 用獨立顯卡（DGPU）的滲透率將增長到 32%。統(tǒng)計報告顯示，PC 用 GPU
關(guān)鍵字： GPU AMD

英偉達稱 47% 的顯卡用戶升級使用 GeForce RTX

IT之家 8 月 24 日消息，英偉達今天公布的最新財報業(yè)績顯示，游戲業(yè)務(wù)收入為 24.9 億美元，同比增長 22%、環(huán)比增長 11%，管理層認為庫存和需求水平恢復正常。英偉達首席財務(wù)官科萊特?克雷斯（Colette Kress）在財報電話會議中發(fā)表講話，IT之家翻譯如下：適用于筆記本和桌面的 GeForce RTX 40 系列進一步推動了公司游戲業(yè)務(wù)的增長，終端消費者的需求穩(wěn)健，且符合常規(guī)季節(jié)性需求。我們相信在經(jīng)歷了去年的放緩之后，全球終端需求已恢復增長，出現(xiàn)了巨大的升級機遇。在我們的終端客戶
關(guān)鍵字：英偉達 GPU Geforce

中國瘋搶 GPU，這場困局如何破？

在 AI 領(lǐng)域，GPU 的主要應(yīng)用場景有兩個，第一個是訓練場景，即利用 GPU 加速 AI 算法的訓練。第二個場景是推理場景，即利用 GPU 加速 AI 算法推理。目前，國內(nèi)高端 AI 場景中的 GPU 應(yīng)用基本上都由英偉達的 A800 覆蓋。A800 被視為是 A100 的「閹割版」。去年由于美國政府收緊對華出口管制，英偉達迅速推出數(shù)據(jù)傳輸速度相對較慢的 A800，用來代替 A100 向中國出口，與此類似的還有更高端的英偉達 H100 和 H800。由于中國暫時沒有能力提供用于云端 AI 訓練的高性能
關(guān)鍵字：英偉達 GPU

共779條 10/52 |‹ « 8 9 10 11 12 13 14 15 16 17 » ›|

gpu介紹

GPU概念 GPU英文全稱Graphic Processing Unit，中文翻譯為“圖形處理器”。GPU是相對于CPU的一個概念，由于在現(xiàn)代的計算機中（特別是家用系統(tǒng)，游戲的發(fā)燒友）圖形的處理變得越來越重要，需要一個專門的圖形的核心處理器。 GPU的作用 GPU是顯示卡的“心臟”，也就相當于CPU在電腦中的作用，它決定了該顯卡的檔次和大部分性能，同時也是2D顯示卡 [ 查看詳細 ]