-
華為推出DeepSeek訓(xùn)/推一體機(jī),國產(chǎn)芯片迎來新機(jī)遇?
-
連政guanchazhewanxgun
DeepSeek的熱潮,終于帶火了AI一體機(jī)產(chǎn)品?這種頗具“中國特色”的AI硬件,能否給國產(chǎn)芯片的普及再加一把火?
2月16日,據(jù)“華為數(shù)據(jù)存儲”公眾號消息,華為DCS AI解決方案針對DeepSeek的本地部署,推出了DS版FusionCube A3000訓(xùn)/推超融合一體機(jī),深度適配DeepSeekV3&R1及蒸餾模型,支持私有化部署。
配置清單顯示,DS版的FusionCube A3000訓(xùn)/推超融合一體機(jī)有三種型號,分別為Ultra(滿血版)、Pro(蒸餾版)和 Lite(蒸餾輕量版)。
其中滿血版可以完美適配DeepSeek-R1、V3的671B模型,硬件使用2個華為Atlas800l A2,處理速度達(dá)到671B: 1911 token/s 。而蒸餾版則配備1個Atlas800l A2,適配DeepSeek R1-Distill-Qwen-32B、Llama-70B等蒸餾模型,處理速度 70B: 3300 token/s,32B: 4940 token/s。
Atlas800l A2是華為推出的鯤鵬920+昇騰 AI處理器的AI推理服務(wù)器,應(yīng)用于深度學(xué)習(xí)模型開發(fā)和AI推理服務(wù)場景,目前面向公有云、互聯(lián)網(wǎng)、運(yùn)營商、政府、交通、金融、高校、電力等領(lǐng)域,用于企業(yè)機(jī)房部署和大規(guī)模數(shù)據(jù)中心集群部署。
軟件方面,DS版訓(xùn)/推超融合一體機(jī)使用大模型訓(xùn)練、推理和應(yīng)用開發(fā)的華為ModelEngine AI平臺,該平臺基于昇騰AI芯片,通過推理框架優(yōu)化和MoE存算協(xié)同,提供動態(tài)換入換出和全局統(tǒng)一緩存,實現(xiàn)推理高并發(fā)和低時延。2月6日,華為對外宣布,ModelEngine平臺全面支持DeepSeek大模型R1&V3和蒸餾系列模型的本地部署與優(yōu)化,開發(fā)者可通過該平臺實現(xiàn)上述DeepSeek大模型的“一鍵部署”。
近一段時間以來,DeepSeek線上算力的嚴(yán)重不足,帶火了大模型本地部署需求,許多廠商開始營銷各類AI一體機(jī)產(chǎn)品。
2月5日,聯(lián)想與國內(nèi)AI芯片廠商沐曦聯(lián)合發(fā)布基于DeepSeek 大模型的一體機(jī)解決方案,采用ThinkStation PX工作站為載體,搭載沐曦曦思N260 GPU。
2月14日,中科曙光也發(fā)布了全國產(chǎn)的DeepSeek超融合一體機(jī),該一體機(jī)采用全國產(chǎn)技術(shù)路線,選用國產(chǎn)X86 CPU和國產(chǎn)GPGPU加速卡,支持全精度、半精度混合訓(xùn)練與推理。
中科曙光的DS超融合一體機(jī)
在模型適配方面,中科曙光一體機(jī)同樣全面適配DeepSeek系列模型,如DeepSeek V3、DeepSeek R1和DeepSeek Janus Pro,還支持全系列量化蒸餾版本。同時,對QWen2.5、LLama3.2、ChatGLM等主流大模型也全面兼容,滿足各種業(yè)務(wù)場景需求。
中科曙光公眾號的文章,就毫不吝惜地稱呼該一體機(jī)為“國貨之光”,將為政府和企業(yè)的數(shù)字化、智能化轉(zhuǎn)型按下“加速鍵”。
實際上,AI一體機(jī)并不是最近才出現(xiàn)的新事物。在中國市場上,由于大量企業(yè)不愿意為單純的軟件和算力付費,或者處于數(shù)據(jù)安全等原因傾向于將硬件本地部署,因此把軟硬件打包在一起的“一體機(jī)”一直擁有獨特的生存空間。
作為對比,盡管英偉達(dá)也推出了Jetson系列的硬件集成平臺,但是主要用于機(jī)器人和嵌入式邊緣計算等場景,而非去做通用大模型的推理。
不過,隨著大模型推理成本的降低,以及C端用戶需求的增長,英偉達(dá)也將目光投向了個人市場。今年早些時候,英偉達(dá)就推出了個人超級計算機(jī)“Project DIGITS”,該產(chǎn)品搭載英偉達(dá)全新GB10超級芯片,最高可提供達(dá)1 PFLOPS的AI性能,主要用于AI大模型的原型設(shè)計、微調(diào)及運(yùn)行。
Project DIGITS(左下角類紙盒物品)號稱全球最小的可運(yùn)行 200B 參數(shù)模型的 AI 超級計算機(jī)。英偉達(dá)官網(wǎng)
英偉達(dá)表示,GB10超級芯片讓Project DIGITS只需使用標(biāo)準(zhǔn)電源插座就能提供強(qiáng)大的性能。借助 Project DIGITS,用戶則可以使用自己的桌面系統(tǒng)開發(fā)和運(yùn)行模型推理,并在加速的云或數(shù)據(jù)中心基礎(chǔ)設(shè)施上無縫部署模型。同時,用戶還可以通過英偉達(dá)技術(shù)將兩臺Project DIGITS AI超級計算機(jī)連接在一起,運(yùn)行包含高達(dá)4050億參數(shù)的模型。
華為DS版FusionCube A3000以及中科曙光的DS超融合一體機(jī)價格暫不清楚,而英偉達(dá)面向個人的消費級Project DIGITS的具體售價約在3000美元左右,今年晚些時候上市。
本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 連政 
-
韓國芯片巨頭要停用中國EDA?
2025-02-17 15:50 觀網(wǎng)財經(jīng)-科創(chuàng) -
美年健康7天5板,AI醫(yī)療板塊熱度不減
2025-02-17 11:29 股市 -
深度對話|AI眼鏡“百鏡大戰(zhàn)”,跑對方向比搶跑更重要?
2025-02-16 16:46 觀網(wǎng)財經(jīng)-科創(chuàng) -
頭部主播的下半場:就此隱身,還是學(xué)習(xí)胖東來?
2025-02-15 17:00 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
又落地?中國企業(yè)的數(shù)據(jù)中心正在海外擴(kuò)張
2025-02-15 15:55 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
奔馳集團(tuán)董事長向中方表態(tài)
2025-02-14 21:54 -
騰訊元寶接入滿血版DeepSeek,可切換雙模型
2025-02-14 21:30 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
“鯰魚”京東,打響2025年“品質(zhì)外賣”第一槍
2025-02-14 21:20 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
馬云現(xiàn)身長沙盒馬
2025-02-14 21:12 -
百度放棄閉源,但或許回歸了最初的自己
2025-02-14 19:41 -
“蘋果股價正越來越依賴中國”
2025-02-14 18:52 觀網(wǎng)財經(jīng)-科創(chuàng) -
2024年我國國際收支貨物貿(mào)易順差同比增長近三成
2025-02-14 18:12 -
頂級域名認(rèn)證Deepseek?ai.com的前世今生
2025-02-14 16:49 觀網(wǎng)財經(jīng)-科創(chuàng) -
榮耀DeepSeek-R1聯(lián)網(wǎng)版正式上線
2025-02-14 14:31 觀網(wǎng)財經(jīng)-科創(chuàng) -
美團(tuán)啟動新一輪“騎手超時免罰”試點:扣分不扣錢
2025-02-14 14:30 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
本源量子:本源悟空全球訪問量破2000萬次,境外美國排第一
2025-02-14 14:01 科技前沿 -
力帆科技更名千里科技,“AI+車”劍指全球智能出行高地
2025-02-14 10:51 觀網(wǎng)財經(jīng)-科創(chuàng) -
百度突然宣布下一代文心大模型開源
2025-02-14 10:44 -
牽手阿里后,傳蘋果AI仍會與百度合作
2025-02-14 10:23 大公司 -
央行去年總資產(chǎn)減少1.65萬億,專家:央行縮表不代表貨幣緊縮
2025-02-14 07:56 宏觀經(jīng)濟(jì)
相關(guān)推薦 -
-
日本這回要對美國咬緊牙關(guān)不松口了 評論 26“機(jī)智!中方出新招,進(jìn)一步堵住漏洞” 評論 114“誰都不想掛電話” ,美俄元首兩小時都聊了啥? 評論 144“中國提出需求,俄方愿保障:就差技術(shù)方案了” 評論 228最新聞 Hot
-
“機(jī)智!中方出新招,進(jìn)一步堵住漏洞”
-
“美國7年級學(xué)生相當(dāng)于中國3年級,中國在嘲笑我們”
-
魯比奧:美國想和平歐洲卻談戰(zhàn)爭,“世界顛倒了”
-
跟風(fēng)美國?日本也要下手
-
菲律賓總統(tǒng)馬科斯:愿與杜特爾特家族和解
-
“誰都不想掛電話” ,美俄元首兩小時都聊了啥?
-
雷蒙多焦慮:美國每天都要有“落后中國”的緊迫感
-
“中國提出需求,俄方愿保障:就差技術(shù)方案了”
-
講個笑話,這就是“全球最大的民主國家”…
-
“G6要告訴美國:要對華施壓,還要被你脅迫,臣妾做不到”
-
“比美國先進(jìn)20年,但中國稀土業(yè)要居安思?!?/a>
-
黃仁勛:全球一半AI人才都是中國人,根本阻擋不了
-
特朗普要查哈里斯
-
英法加譴責(zé)以色列:震驚!再不收手就制裁!
-
特朗普還是忍不住,暗示拜登“隱瞞癌癥病情”
-
“全國優(yōu)秀縣委書記”張永寧,任寧德市委書記
-