-
華為推出DeepSeek訓(xùn)/推一體機(jī),國(guó)產(chǎn)芯片迎來(lái)新機(jī)遇?
-
連政guanchazhewanxgun
DeepSeek的熱潮,終于帶火了AI一體機(jī)產(chǎn)品?這種頗具“中國(guó)特色”的AI硬件,能否給國(guó)產(chǎn)芯片的普及再加一把火?
2月16日,據(jù)“華為數(shù)據(jù)存儲(chǔ)”公眾號(hào)消息,華為DCS AI解決方案針對(duì)DeepSeek的本地部署,推出了DS版FusionCube A3000訓(xùn)/推超融合一體機(jī),深度適配DeepSeekV3&R1及蒸餾模型,支持私有化部署。
配置清單顯示,DS版的FusionCube A3000訓(xùn)/推超融合一體機(jī)有三種型號(hào),分別為Ultra(滿血版)、Pro(蒸餾版)和 Lite(蒸餾輕量版)。
其中滿血版可以完美適配DeepSeek-R1、V3的671B模型,硬件使用2個(gè)華為Atlas800l A2,處理速度達(dá)到671B: 1911 token/s 。而蒸餾版則配備1個(gè)Atlas800l A2,適配DeepSeek R1-Distill-Qwen-32B、Llama-70B等蒸餾模型,處理速度 70B: 3300 token/s,32B: 4940 token/s。
Atlas800l A2是華為推出的鯤鵬920+昇騰 AI處理器的AI推理服務(wù)器,應(yīng)用于深度學(xué)習(xí)模型開發(fā)和AI推理服務(wù)場(chǎng)景,目前面向公有云、互聯(lián)網(wǎng)、運(yùn)營(yíng)商、政府、交通、金融、高校、電力等領(lǐng)域,用于企業(yè)機(jī)房部署和大規(guī)模數(shù)據(jù)中心集群部署。
軟件方面,DS版訓(xùn)/推超融合一體機(jī)使用大模型訓(xùn)練、推理和應(yīng)用開發(fā)的華為ModelEngine AI平臺(tái),該平臺(tái)基于昇騰AI芯片,通過(guò)推理框架優(yōu)化和MoE存算協(xié)同,提供動(dòng)態(tài)換入換出和全局統(tǒng)一緩存,實(shí)現(xiàn)推理高并發(fā)和低時(shí)延。2月6日,華為對(duì)外宣布,ModelEngine平臺(tái)全面支持DeepSeek大模型R1&V3和蒸餾系列模型的本地部署與優(yōu)化,開發(fā)者可通過(guò)該平臺(tái)實(shí)現(xiàn)上述DeepSeek大模型的“一鍵部署”。
近一段時(shí)間以來(lái),DeepSeek線上算力的嚴(yán)重不足,帶火了大模型本地部署需求,許多廠商開始營(yíng)銷各類AI一體機(jī)產(chǎn)品。
2月5日,聯(lián)想與國(guó)內(nèi)AI芯片廠商沐曦聯(lián)合發(fā)布基于DeepSeek 大模型的一體機(jī)解決方案,采用ThinkStation PX工作站為載體,搭載沐曦曦思N260 GPU。
2月14日,中科曙光也發(fā)布了全國(guó)產(chǎn)的DeepSeek超融合一體機(jī),該一體機(jī)采用全國(guó)產(chǎn)技術(shù)路線,選用國(guó)產(chǎn)X86 CPU和國(guó)產(chǎn)GPGPU加速卡,支持全精度、半精度混合訓(xùn)練與推理。
中科曙光的DS超融合一體機(jī)
在模型適配方面,中科曙光一體機(jī)同樣全面適配DeepSeek系列模型,如DeepSeek V3、DeepSeek R1和DeepSeek Janus Pro,還支持全系列量化蒸餾版本。同時(shí),對(duì)QWen2.5、LLama3.2、ChatGLM等主流大模型也全面兼容,滿足各種業(yè)務(wù)場(chǎng)景需求。
中科曙光公眾號(hào)的文章,就毫不吝惜地稱呼該一體機(jī)為“國(guó)貨之光”,將為政府和企業(yè)的數(shù)字化、智能化轉(zhuǎn)型按下“加速鍵”。
實(shí)際上,AI一體機(jī)并不是最近才出現(xiàn)的新事物。在中國(guó)市場(chǎng)上,由于大量企業(yè)不愿意為單純的軟件和算力付費(fèi),或者處于數(shù)據(jù)安全等原因傾向于將硬件本地部署,因此把軟硬件打包在一起的“一體機(jī)”一直擁有獨(dú)特的生存空間。
作為對(duì)比,盡管英偉達(dá)也推出了Jetson系列的硬件集成平臺(tái),但是主要用于機(jī)器人和嵌入式邊緣計(jì)算等場(chǎng)景,而非去做通用大模型的推理。
不過(guò),隨著大模型推理成本的降低,以及C端用戶需求的增長(zhǎng),英偉達(dá)也將目光投向了個(gè)人市場(chǎng)。今年早些時(shí)候,英偉達(dá)就推出了個(gè)人超級(jí)計(jì)算機(jī)“Project DIGITS”,該產(chǎn)品搭載英偉達(dá)全新GB10超級(jí)芯片,最高可提供達(dá)1 PFLOPS的AI性能,主要用于AI大模型的原型設(shè)計(jì)、微調(diào)及運(yùn)行。
Project DIGITS(左下角類紙盒物品)號(hào)稱全球最小的可運(yùn)行 200B 參數(shù)模型的 AI 超級(jí)計(jì)算機(jī)。英偉達(dá)官網(wǎng)
英偉達(dá)表示,GB10超級(jí)芯片讓Project DIGITS只需使用標(biāo)準(zhǔn)電源插座就能提供強(qiáng)大的性能。借助 Project DIGITS,用戶則可以使用自己的桌面系統(tǒng)開發(fā)和運(yùn)行模型推理,并在加速的云或數(shù)據(jù)中心基礎(chǔ)設(shè)施上無(wú)縫部署模型。同時(shí),用戶還可以通過(guò)英偉達(dá)技術(shù)將兩臺(tái)Project DIGITS AI超級(jí)計(jì)算機(jī)連接在一起,運(yùn)行包含高達(dá)4050億參數(shù)的模型。
華為DS版FusionCube A3000以及中科曙光的DS超融合一體機(jī)價(jià)格暫不清楚,而英偉達(dá)面向個(gè)人的消費(fèi)級(jí)Project DIGITS的具體售價(jià)約在3000美元左右,今年晚些時(shí)候上市。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 連政 
-
韓國(guó)芯片巨頭要停用中國(guó)EDA?
2025-02-17 15:50 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
美年健康7天5板,AI醫(yī)療板塊熱度不減
2025-02-17 11:29 股市 -
-
-
-
奔馳集團(tuán)董事長(zhǎng)向中方表態(tài)
2025-02-14 21:54 -
騰訊元寶接入滿血版DeepSeek,可切換雙模型
2025-02-14 21:30 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
“鯰魚”京東,打響2025年“品質(zhì)外賣”第一槍
2025-02-14 21:20 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
馬云現(xiàn)身長(zhǎng)沙盒馬
2025-02-14 21:12 -
百度放棄閉源,但或許回歸了最初的自己
2025-02-14 19:41 -
“蘋果股價(jià)正越來(lái)越依賴中國(guó)”
2025-02-14 18:52 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
2024年我國(guó)國(guó)際收支貨物貿(mào)易順差同比增長(zhǎng)近三成
2025-02-14 18:12 -
頂級(jí)域名認(rèn)證Deepseek?ai.com的前世今生
2025-02-14 16:49 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
榮耀DeepSeek-R1聯(lián)網(wǎng)版正式上線
2025-02-14 14:31 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
本源量子:本源悟空全球訪問量破2000萬(wàn)次,境外美國(guó)排第一
2025-02-14 14:01 科技前沿 -
力帆科技更名千里科技,“AI+車”劍指全球智能出行高地
2025-02-14 10:51 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
百度突然宣布下一代文心大模型開源
2025-02-14 10:44 -
牽手阿里后,傳蘋果AI仍會(huì)與百度合作
2025-02-14 10:23 大公司 -
央行去年總資產(chǎn)減少1.65萬(wàn)億,專家:央行縮表不代表貨幣緊縮
2025-02-14 07:56 宏觀經(jīng)濟(jì)
相關(guān)推薦 -
-
美國(guó)人瘋狂囤貨,“中國(guó)電視被買空” 評(píng)論 152“特朗普白給,中國(guó)要贏得全世界了” 評(píng)論 166尹錫悅被罷免 評(píng)論 348馬克龍:別天真了!歐盟要暫停對(duì)美投資 評(píng)論 95最新聞 Hot
-
美國(guó)人瘋狂囤貨,“中國(guó)電視被買空”
-
美股三大股指收盤暴跌,納指進(jìn)入熊市
-
美股開盤重挫,特朗普:我的政策永不改變
-
90億美元還想不想要?哈佛被下“整改通牒”
-
“2300美元一臺(tái)?特朗普要親手毀掉‘美國(guó)象征’?”
-
4月10日起,對(duì)原產(chǎn)美國(guó)的所有進(jìn)口商品加征34%關(guān)稅
-
中方出手,美指期貨應(yīng)聲暴跌
-
美媒爆料:美國(guó)國(guó)安局局長(zhǎng)被解職
-
對(duì)中國(guó)進(jìn)口產(chǎn)品征收關(guān)稅,特朗普政府被起訴
-
石破茂:這是一場(chǎng)“國(guó)家危機(jī)”
-
“特朗普白給,中國(guó)要贏得全世界了”
-
“去美國(guó)?中企有錢沒處花了嗎?”
-
《經(jīng)濟(jì)學(xué)人》繃不住了…
-
“和她見了一面后,特朗普炒了近10名國(guó)安官員”
-
尹錫悅被罷免
-
尹錫悅發(fā)聲
-