-
英偉達(dá):創(chuàng)造DeepSeek-R1推理性能世界紀(jì)錄
-
湯普濟(jì)我在看著你
最后更新: 2025-03-19 12:41:25(文/湯普濟(jì) 編輯/呂棟)
當(dāng)?shù)貢r間3月18日,英偉達(dá)CEO黃仁勛于GTC AI大會上發(fā)表演講,發(fā)布最新一代Blackwell Ultra GPU(GB300)。同日, 英偉達(dá)官方博客發(fā)布文章,宣布利用Blackwell架構(gòu)GPU實(shí)現(xiàn)DeepSeek-R1模型推理性能的世界紀(jì)錄。
英偉達(dá)此次利用單個配備八塊Blackwell架構(gòu)B200 GPU的英偉達(dá)DGX系統(tǒng),在英偉達(dá)評價為“超大規(guī)模、最先進(jìn)的”DeepSeek-R1模型上,實(shí)現(xiàn)每用戶每秒可處理超過250個token的性能,或每秒最大吞吐量超過30000個token。
NVIDIA
英偉達(dá)于2025年1月30日在面向開發(fā)者的網(wǎng)站上發(fā)布NVIDIA NIM微服務(wù)版的DeepSeek,之后,英偉達(dá)不斷通過優(yōu)化推理生態(tài),刷新DeepSeek-R1模型的吞吐量。英偉達(dá)聲稱,自1月以來,DeepSeek-R1 671B模型的吞吐量已被提高了約36倍,相當(dāng)于每token的成本降低了約32倍。
同時,英偉達(dá)聲稱,紀(jì)錄還將隨著Blackwell Ultra GPU和 Blackwell GPU在推理性能上的突破刷新。
據(jù)悉,英偉達(dá)此次發(fā)布的GB300是全球首個288GB HBM3E GPU,F(xiàn)P4推理性能可達(dá)去年發(fā)布的GB200的1.5倍,峰值可達(dá)15PFLOPS。將在2025年下半年出貨。
英偉達(dá)還預(yù)覽了下一代AI超級芯片——Vera Rubin,由Rubin GPU和Vera CPU組成。Vera CPU擁有88個定制Arm核心、176個線程。Rubin由兩塊掩模尺寸的GPU組成,擁有288GB HBM4內(nèi)存,F(xiàn)P4峰值推理能力可達(dá)50PFLOPS,相比GB300,整體性能可達(dá)3.3倍。
此外,英偉達(dá)還發(fā)布了用于加速AI模型推理的分布式推理服務(wù)庫NVIDIA Dyamo,據(jù)稱,在GB200 NVL72架構(gòu)上運(yùn)行Dyamo推理,能使DeepSeek-R1模型的吞吐量提升30倍。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 湯普濟(jì) 
-
英偉達(dá)宣布合作開發(fā)AI原生6G
2025-03-19 12:11 觀網(wǎng)財經(jīng)-科創(chuàng) -
手機(jī)汽車家電均不愁賣,小米去年?duì)I收3659億創(chuàng)新高
2025-03-19 07:38 觀網(wǎng)財經(jīng)-科創(chuàng) -
四川省長施小琳會見孟晚舟
2025-03-18 22:58 觀網(wǎng)財經(jīng)-科創(chuàng) -
-
格力地產(chǎn):證券簡稱擬變更為“珠免集團(tuán)”
2025-03-18 22:30 -
特步2024年凈賺12億,創(chuàng)歷史新高
2025-03-18 19:53 觀網(wǎng)財經(jīng)-消費(fèi) -
茶咖日報|蜜雪冰城新規(guī)檸檬不能過夜?部分門店已改24小時營業(yè)
2025-03-18 19:52 觀網(wǎng)財經(jīng)-消費(fèi) -
永輝超市或閉店350家!葉國富成立改革小組,原創(chuàng)始人投下反對票
2025-03-18 18:03 觀網(wǎng)財經(jīng)-消費(fèi) -
緩解育兒焦慮,梁建章建議推廣“共享爺爺奶奶”模式
2025-03-18 17:57 產(chǎn)業(yè)萬象 -
滴滴四季度訂單同比增長14.8%,中國出行日均3530萬單
2025-03-18 17:26 今日財經(jīng) -
“無法抵抗SHEIN和Temu”,美國知名快時尚品牌又要破產(chǎn)了?
2025-03-18 17:06 觀網(wǎng)財經(jīng)-消費(fèi) -
小米智能家電工廠將于下半年交付,最先量產(chǎn)空調(diào)
2025-03-18 16:51 觀網(wǎng)財經(jīng)-科創(chuàng) -
蘋果在iPad側(cè)面印上“中國制造”
2025-03-18 15:55 觀網(wǎng)財經(jīng)-科創(chuàng) -
美的人形機(jī)器人曝光:可能先在工業(yè)、商業(yè)場景得到應(yīng)用
2025-03-18 15:43 觀網(wǎng)財經(jīng)-科創(chuàng) -
華為被曝正測試原生磁吸無線充電
2025-03-18 14:36 觀網(wǎng)財經(jīng)-科創(chuàng) -
蘋果計(jì)劃在印度生產(chǎn)耳機(jī),僅供出口
2025-03-18 14:31 觀網(wǎng)財經(jīng)-科創(chuàng) -
SpaceX確認(rèn)龍飛船已脫離國際空間站:將帶回兩名滯留宇航員
2025-03-18 14:22 觀網(wǎng)財經(jīng)-科創(chuàng) -
2月韓國芯片對華出口額同比下降31.8%
2025-03-18 14:18 觀網(wǎng)財經(jīng)-科創(chuàng) -
北美份額超50%,瓦楞紙包裝裝備龍頭破局全球化
2025-03-18 14:09 觀網(wǎng)財經(jīng)-科創(chuàng) -
李嘉誠深陷港口風(fēng)波,長和股價再“跳水”
2025-03-18 13:55
相關(guān)推薦 -
-
最新聞 Hot
-
歐盟多國大停電,“我們需要中國技術(shù)”
-
普京閱兵式演講,特別提到中國
-
“對華閹割版,又要降級”
-
“全球都將研究,中國與西方最強(qiáng)大武器直接對決”
-
英方拿到了,“簡直像在平行宇宙,中國太超前了”
-
微軟:從中企學(xué)到,誰先一步拿下,誰就難被取代
-
美國農(nóng)民發(fā)愁:雞爪、魚頭...除了中國,好難找到買家
-
首位“美國教皇”利奧十四世是誰?
-
許紅兵,主動投案
-
美國官員:殲-10擊落陣風(fēng),沒用F-16
-
特朗普:對華關(guān)稅145%到頂了,要降
-
美大使污蔑“中國不是好盟友”,我駐巴拿馬使館駁斥
-
印度稱軍事基地遭巴基斯坦襲擊,巴方否認(rèn)
-
特朗普:可能找中國幫忙
-
大搞家庭式腐敗,甘肅省原副省長趙金云被決定逮捕
-
蓋茨怒懟:馬斯克就是在殺死兒童
-