-
蘋果在谷歌芯片上訓(xùn)練AI,打響拋棄英偉達(dá)GPU第一槍?
最后更新: 2024-07-30 13:06:37美東時(shí)間7月29日,蘋果公司發(fā)布iPhone AI的首個(gè)預(yù)覽版,隨后發(fā)布論文,稱其人工智能模型是在谷歌的TPU(張量處理單元)上訓(xùn)練的。論文中介紹了為支持Apple Intelligence功能而開發(fā)的基礎(chǔ)語言模型,包括一個(gè)設(shè)計(jì)用于在設(shè)備上高效運(yùn)行的約30億參數(shù)模型和一個(gè)基于私有云計(jì)算的云側(cè)大模型。
蘋果基礎(chǔ)模型的建模概述蘋果官方發(fā)布論文
蘋果發(fā)布的論文稱,他們在8192塊TPU v4芯片上訓(xùn)練云側(cè)AFM(Apple Foundation Model),使用4096的序列長度和4096個(gè)序列的批量大小,進(jìn)行了6.3萬億token訓(xùn)練。端側(cè)AFM在2048塊TPU v5p芯片上進(jìn)行訓(xùn)練。
蘋果的決定表明,一些大型科技公司在人工智能訓(xùn)練方面可能正在尋找英偉達(dá)圖形處理單元的替代品。
一些芯片行業(yè)媒體稱,這是蘋果打響了拋棄英偉達(dá)GPU的第一槍。
今年6月初,日本證券公司瑞穗證券估計(jì),英偉達(dá)控制著用于訓(xùn)練和部署OpenAI的GPT等模型的AI芯片市場的70%至95%。一些專家將英偉達(dá)在AI芯片市場的地位描述為護(hù)城河,其旗艦AI圖形處理單元GPU(例如H100)與該公司的CUDA軟件相結(jié)合,使其在競爭中占據(jù)了先機(jī)。
包括谷歌、Meta、甲骨文和特斯拉在內(nèi)的科技公司一直在努力構(gòu)建自己的人工智能系統(tǒng)和產(chǎn)品。
心智觀察所研究員潘攻愚指出,蘋果宣布其Apple Foundation Model(AFM)在谷歌自主開發(fā)的Tensor處理單元(TPU)進(jìn)行訓(xùn)練,而且還租用了谷歌的云服務(wù)。蘋果在AI訓(xùn)練方面的權(quán)衡折射出了英偉達(dá)通用型AI加速器和谷歌的ASIC定制化AI服務(wù)體系的競爭升級。
谷歌自2015年以來一直在使用自主設(shè)計(jì)的TPU來訓(xùn)練和部署AI模型。不是設(shè)計(jì)通用處理器,而是將其設(shè)計(jì)為專門用于神經(jīng)網(wǎng)絡(luò)工作負(fù)載的矩陣處理器,在整個(gè)大量計(jì)算和數(shù)據(jù)傳遞過程中,根本不需要訪問內(nèi)存。
今年5月,谷歌宣布推出了人工智能(AI)數(shù)據(jù)中心芯片Trillium,據(jù)稱該芯片的速度相比之前的版本提升了幾乎5倍。該公司表示,這款芯片將用于開發(fā)自己的模型,包括Gemini和Imagen。
谷歌稱,如果提前三年預(yù)訂,最新的TPU每小時(shí)使用成本不到2美元。谷歌于2015年首次推出TPU用于內(nèi)部工作負(fù)載,并于2017年向公眾開放。它們現(xiàn)在是專為人工智能設(shè)計(jì)的最成熟的定制芯片之一。
盡管如此,谷歌仍是英偉達(dá)最大的客戶之一。它使用英偉達(dá) 的GPU和自己的TPU來訓(xùn)練AI系統(tǒng),并且還在其云端出售英偉達(dá)技術(shù)的訪問權(quán)限。
“雖然英偉達(dá)目前控制著高達(dá)80%份額的高端AI芯片市場,但剩余市場份額大多被大型云服務(wù)供應(yīng)商如谷歌、微軟、亞馬遜占據(jù)。這一次蘋果采用的谷歌TPUv5雖然在通用性上較英偉達(dá)同生態(tài)位芯片遜色,但主打一個(gè)性價(jià)比,綜合總成本(TCO)要低英偉達(dá)四倍,而且拿貨周期短。目前谷歌TPUv5所在的市場大約有300億美元,英偉達(dá)一直覬覦這塊‘肥肉’,但考慮到和谷歌微妙的競合關(guān)系,英偉達(dá)目前還不會(huì)貿(mào)然大舉進(jìn)入ASIC領(lǐng)域。”潘攻愚分析稱。
Meta首席執(zhí)行官馬克·扎克伯格和Alphabet首席執(zhí)行官桑達(dá)爾·皮查伊上周均發(fā)表評論稱,他們的公司和業(yè)內(nèi)其他公司可能在AI基礎(chǔ)設(shè)施上投資過度,但他們也承認(rèn),不這樣做的商業(yè)風(fēng)險(xiǎn)太高。一旦落后,將無法掌握未來10到15年最重要的技術(shù)。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 李亞麗 
-
10分鐘漲到1.8元,多地共享單車漲價(jià)
2024-07-30 10:07 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
吳清主席會(huì)見英國駐華大使吳若蘭
2024-07-29 21:00 金融觀察 -
-
10億投資臺(tái)灣,AMD和英偉達(dá)貼身肉搏
2024-07-29 18:35 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
國家電網(wǎng)投資將首次超過6000億元 特高壓建設(shè)高景氣有望延續(xù)
2024-07-29 17:56 能源戰(zhàn)略 -
抖音支付等16家機(jī)構(gòu)率先更換“新版”支付牌照
2024-07-29 11:40 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
恒大汽車附屬公司被申請破產(chǎn)重整
2024-07-29 08:09 觀方車訊 -
-
廣州上半年GDP超1.4萬億元,同比增長2.5%
2024-07-27 20:19 -
中信建投回應(yīng)實(shí)習(xí)生事件:系某團(tuán)隊(duì)負(fù)責(zé)人違規(guī)引入,已被撤職
2024-07-27 20:15 -
上半年深圳GDP1.73萬億,同比增長5.9%
2024-07-27 17:10 -
華為與聯(lián)發(fā)科互訴,最關(guān)心結(jié)果的是高通?
2024-07-27 11:01 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
香港要做的,是把股民從美股身上搶回來
2024-07-27 10:31 -
困在“調(diào)度費(fèi)”里的新鄭機(jī)場網(wǎng)約車司機(jī)
2024-07-26 21:02 -
中日匯率飆漲,正讓美元資產(chǎn)很難受
2024-07-26 18:55 觀網(wǎng)財(cái)經(jīng)-金融 -
證監(jiān)會(huì):研究謀劃進(jìn)一步全面深化資本市場改革開放的一攬子舉措
2024-07-26 18:35 金融觀察 -
不應(yīng)泛化新質(zhì)生產(chǎn)力,什么好東西都往這個(gè)“筐”里裝
2024-07-26 16:09 2024中國經(jīng)濟(jì)季度觀察 -
俞敏洪:東方甄選不會(huì)再出現(xiàn)某個(gè)主播成立獨(dú)立平臺(tái)
2024-07-26 16:04 -
財(cái)政部:6月份全國共銷售彩票559.37億元,同比增長14.8%
2024-07-26 15:22 -
開啟內(nèi)測!OpenAI的搜索引擎要來了
2024-07-26 11:31 觀網(wǎng)財(cái)經(jīng)-科創(chuàng)
相關(guān)推薦 -
最新聞 Hot
-
換防長?“美國后院起火”
-
帶著石破茂的親筆信,他來中國了
-
斗爭升級!哈佛大學(xué)起訴特朗普政府
-
外媒緊盯中方“警告”:孤立中國,特朗普恐難如愿
-
特朗普稱未來三天公布俄烏和平方案,美媒曝細(xì)節(jié)
-
工業(yè)電化學(xué)奠基人郭鶴桐教授逝世,享年95歲
-
挑釁!英軍高官:臺(tái)海問題,準(zhǔn)備好了
-
美元主導(dǎo)地位遭削弱,“人民幣必須抓住機(jī)會(huì)”
-
前十占九!“中國機(jī)構(gòu)正在主導(dǎo)全球芯片研究”
-
誰將繼任教皇?
-
石破茂再發(fā)狠:不打算唯命是從
-
國際乒聯(lián)最新排名:雨果升至男單第3
-
最高竟達(dá)3500%!劍指中企,美國又動(dòng)手了
-
“美國自毀前程,中國肯定樂壞了”
-
男子早高峰爬上獵德大橋頂部,廣州交警回應(yīng)
-
特朗普再次抨擊鮑威爾:美國幾乎沒有通脹,他總是降息太遲
快訊- 中興通訊2025年首季AI創(chuàng)新發(fā)力,營收增7.8%,第二曲線營收占比超35%
- “隨申行”今起開放“上海車展交通服務(wù)專區(qū)”!周三起,本市將開設(shè)4條展會(huì)直通車
- 四川舉行2025川臺(tái)青年就業(yè)創(chuàng)業(yè)發(fā)展交流會(huì)
- 大灣區(qū)一周觀察丨廣湛高鐵兩大隧道貫通;香港郵政暫停包裹寄美
- 同比增長1.2倍!一季度貨物貿(mào)易項(xiàng)下跨境資金凈流入2063億美元
- 未來智能三個(gè)月連獲兩輪融資,AI會(huì)議耳機(jī)賽道再獲資本加碼
- 東南亞“天空”悄然改變,中國大飛機(jī)還將駛向哪兒?
- 優(yōu)衣庫退貨新規(guī):線上訂單不再支持線下退貨
-