-
117款生成式人工智能服務(wù)已備案,大模型底層創(chuàng)新夠了嗎?
4月2日,國家互聯(lián)網(wǎng)信息辦公室發(fā)布《關(guān)于發(fā)布生成式人工智能服務(wù)已備案信息的公告》(以下簡(jiǎn)稱“《公告》”)。根據(jù)《公告》,目前已有117款生成式人工智能服務(wù)通過備案。從屬地來看,生成式人工智能服務(wù)集中在北京、上海、廣東,其中北京51款,上海24款,廣東19款。不過,清華大學(xué)蘇世民書院院長薛瀾日前表示,在AI大模型方面,單從量上講中國進(jìn)步很大,但實(shí)際上還存在不少問題,因?yàn)橛胁簧偈怯锰讱ず推囱b的方式構(gòu)建的。中國數(shù)據(jù)質(zhì)量較低也是一個(gè)問題。
深圳元始智能有限公司首席運(yùn)營官(RWKV元始智能)羅璇表示,中國大部分模型基于美國的一些開源開放模型進(jìn)行微調(diào)或重訓(xùn)練,大部分模型類似于LLaMA模型,底層原始創(chuàng)新少,“國內(nèi)如果還在照著LLaMA的方向做,永遠(yuǎn)沒辦法商業(yè)落地、突破天花板?!彼J(rèn)為一定要找到新的架構(gòu)。
117款生成式人工智能服務(wù)已備案
《公告》提出,提供具有輿論屬性或社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的,可通過屬地網(wǎng)信部門履行備案程序,屬地網(wǎng)信部門應(yīng)及時(shí)將已備案信息對(duì)外公開發(fā)布。已上線的生成式人工智能應(yīng)用或功能,應(yīng)在顯著位置或產(chǎn)品詳情頁面公示所使用已備案生成式人工智能服務(wù)情況,注明模型名稱及備案號(hào)。
《公告》顯示,去年8月,智譜“智譜清言”、百度“文心一言”、抖音“云雀大模型”、百川智能“百應(yīng)”、中國科學(xué)院自動(dòng)化研究所“紫東太初大模型開放平臺(tái)”,以及上海稀宇科技“abab”、商湯科技“日日新”、上海人工智能實(shí)驗(yàn)室“書生·浦語”8項(xiàng)生成式人工智能服務(wù)完成首批備案。
新近完成備案的有四川長虹電器的“長虹云帆”、OPPO的“AndesGPT-LVM”、深圳榮耀軟件技術(shù)公司的“YOYO助理(移動(dòng)版)”等。
澎湃科技(www.thepaper.cn)統(tǒng)計(jì)發(fā)現(xiàn),通過備案的117款生成式人工智能服務(wù)中,屬地以北京、上海、廣東為主。其中北京51款,上海24款,廣東19款。浙江和江蘇分別有7款和2款。天津、貴州、湖南、重慶各有2款,安徽、海南、四川、福建、山東各有1款。此外,中國移動(dòng)備案了一款“九天自然語言交互大模型”,屬地為國資委。
套殼導(dǎo)致大模型缺乏原始創(chuàng)新
ChatGPT問世后,人工智能領(lǐng)域風(fēng)起云涌,技術(shù)創(chuàng)新加速。中國人工智能大模型形成“百模大戰(zhàn)”局面。
金沙江創(chuàng)投董事總經(jīng)理朱嘯虎去年11月曾表示,生成式人工智能百花齊放,但200多個(gè)大模型很快就會(huì)進(jìn)入收斂期,未來可能只會(huì)剩下10-20個(gè)大模型,因?yàn)榇蟛糠执竽P同F(xiàn)在很難差異化和商業(yè)化。
清華大學(xué)蘇世民書院院長薛瀾2月份在中國數(shù)字經(jīng)濟(jì)發(fā)展和治理學(xué)術(shù)年會(huì)(2024)上表示,在AI大模型方面,單從量上講中國進(jìn)步很大,但實(shí)際上還存在不少問題,因?yàn)橛胁簧偈怯锰讱ず推囱b的方式構(gòu)建的。“具體而言,目前很多國外的模型是開源的,那么在開源的基礎(chǔ)上進(jìn)行套殼就可以形成一個(gè)套殼的大模型,接著再將一些這樣的大模型拼裝在一起就變成更大的大模型,這種方式做出來的大模型背后的原創(chuàng)性是有限的。”
“過去一年多,中國的大部分模型還是基于美國的一些開源開放模型進(jìn)行微調(diào)或重訓(xùn)練。有一些預(yù)訓(xùn)練能力的企業(yè)也是拿著LLaMA架構(gòu)重新訓(xùn)練,所以整體來說國內(nèi)大部分模型是類似于LLaMA的模型?!盧WKV元始智能COO羅璇對(duì)澎湃科技(www.thepaper.cn)表示,中國大模型的底層原始創(chuàng)新少,更多是探索落地應(yīng)用等垂直領(lǐng)域創(chuàng)新。
LLaMA是一個(gè)基于Transformer架構(gòu)的大語言模型?!按蠹业牡讓蛹軜?gòu)都在用別人的技術(shù),而Transformer這個(gè)架構(gòu)本身就是有問題的。”羅璇表示,從第一性原理角度來看,Transformer的計(jì)算復(fù)雜度高,算力需求巨大,算法效率低。這會(huì)加重芯片“卡脖子”問題,具身智能、多智能體、世界模型的開發(fā)也會(huì)被計(jì)算復(fù)雜度“卡脖子”?!皣鴥?nèi)如果還在照著LLaMA的方向做,永遠(yuǎn)沒辦法商業(yè)落地、突破天花板。”他認(rèn)為未來一定會(huì)出現(xiàn)一個(gè)新的架構(gòu)替代現(xiàn)在的Transformer。
此外,中國數(shù)據(jù)質(zhì)量較低也是一個(gè)問題。薛瀾表示,“中國的數(shù)據(jù)量很大,但沒有真正產(chǎn)業(yè)化,相對(duì)標(biāo)準(zhǔn)化的數(shù)據(jù)服務(wù)商還比較少,因?yàn)榇髷?shù)據(jù)服務(wù)不賺錢,公共數(shù)據(jù)企業(yè)沒有意愿去清洗,定制化服務(wù)一般收費(fèi)又比較高。因此,數(shù)據(jù)市場(chǎng)如何構(gòu)建也是需要解決的問題?!?
多元公平競(jìng)爭(zhēng),相信第一性原理
中國人工智能的發(fā)展有雄厚積累與先發(fā)優(yōu)勢(shì),但薛瀾認(rèn)為也面臨著一些挑戰(zhàn)。首先是如何形成不同企業(yè)公平競(jìng)爭(zhēng)的市場(chǎng)環(huán)境,包括民營企業(yè)、國有企業(yè)、外資企業(yè),以及大中小企業(yè),多元公平競(jìng)爭(zhēng)的市場(chǎng)環(huán)境對(duì)人工智能發(fā)展至關(guān)重要。其次是產(chǎn)業(yè)生態(tài)問題,如何建立企業(yè)、資金、人才等多方面主體和多方面資源有效流通、協(xié)調(diào)一致的產(chǎn)業(yè)生態(tài)。第三是治理問題,怎樣形成可預(yù)期、包容審慎、敏捷有效的治理框架,為形成鼓勵(lì)人工智能發(fā)展的市場(chǎng)環(huán)境和產(chǎn)業(yè)生態(tài)奠定制度基礎(chǔ)。最后是如何聚集全球頂尖人工智能人才,中國要加大開放力度。
從技術(shù)角度來看,對(duì)于人工智能未來發(fā)展趨勢(shì),上海人工智能實(shí)驗(yàn)室領(lǐng)軍科學(xué)家喬宇表示有兩條路徑,一是延續(xù)大模型路線,用更大的算力擴(kuò)大模型規(guī)模,拓寬能力邊界,向產(chǎn)業(yè)滲透,模型也從語言大模型向多模態(tài)大模型、具身大模型的方向發(fā)展。多模態(tài)大模型是現(xiàn)在的競(jìng)爭(zhēng)熱點(diǎn),未來的大模型要能和物理世界交流,完成更復(fù)雜的任務(wù),所以具身大模型是重要發(fā)展方向。但單純擴(kuò)大規(guī)模存在幻覺、效率、可信、安全等瓶頸,這就涉及到第二條新技術(shù)路線的探索,要探索強(qiáng)化學(xué)習(xí)、知識(shí)計(jì)算、符號(hào)推理、類腦計(jì)算及其他新型路徑?;谥R(shí)、符號(hào)、推理的方法,可解釋性和安全性強(qiáng)。
“不要相信美國的權(quán)威在說什么,一定要相信第一性原理?!绷_璇則表示,Transformer架構(gòu)和芯片卡住了商業(yè)落地和前端研究,遭遇了尺度定律(Scaling
Law)的困境,當(dāng)參數(shù)到達(dá)六七百億時(shí),尺度定律的邊際效益會(huì)下降,因此要探索新的模型架構(gòu)。兼具Transformer和RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))優(yōu)勢(shì)的RWKV就是一種新架構(gòu),“我們做了4年。RWKV不但是一個(gè)計(jì)算效率非常高的大模型,解決了Transformer的計(jì)算復(fù)雜度問題,而且它已經(jīng)在商業(yè)化落地了?!绷_璇表示,RWKV可以解決計(jì)算效率低、計(jì)算成本高難題,可直接在手機(jī)、電腦、機(jī)器人等端側(cè)運(yùn)行。所以一定要找到新的架構(gòu),企業(yè)才能跑出PMF(產(chǎn)品市場(chǎng)匹配度)?!拔也幌M袊娜斯ぶ悄苈浜?,我希望中國有真正的全球化開源開放的生態(tài)?!?
附件:生成式人工智能服務(wù)已備案信息(2024年3月)
(澎湃新聞?dòng)浾?張靜 實(shí)習(xí)生 方卉)
- 原標(biāo)題:117款生成式人工智能服務(wù)已備案,大模型底層創(chuàng)新夠了嗎?
- 責(zé)任編輯: 唐曉甫 
-
7180.4米,試驗(yàn)完成!核心器部件100%國產(chǎn)化
2024-04-02 09:37 -
全球首次觀測(cè)到引力子激發(fā),中國科學(xué)家領(lǐng)銜!
2024-03-28 14:08 -
打破壟斷!這種芯片實(shí)現(xiàn)國產(chǎn)
2024-03-26 11:22 科技前沿 -
電網(wǎng)儲(chǔ)能用新鐵基液流電池問世
2024-03-26 09:06 -
中歐更新簽署這一衛(wèi)星合作協(xié)議
2024-03-26 08:45 -
亞洲第一深水導(dǎo)管架“海基二號(hào)”成功下水
2024-03-25 11:00 能源戰(zhàn)略 -
創(chuàng)最高紀(jì)錄!這一進(jìn)展有望推動(dòng)我國實(shí)現(xiàn)元素命名零的突破
2024-03-22 19:42 科技前沿 -
長八改火箭全面轉(zhuǎn)入首飛試驗(yàn)階段
2024-03-22 17:21 航空航天 -
全球首例,美國完成活體人類移植豬腎臟手術(shù)
2024-03-22 14:10 美國一夢(mèng) -
“激烈”談判3個(gè)月,聯(lián)大通過首個(gè)有關(guān)AI的全球決議草案
2024-03-22 11:07 歡樂聯(lián)合國 -
-
Gemini將嵌入iPhone?蘋果被曝與谷歌洽談
2024-03-18 16:03 -
臺(tái)積電兩座先進(jìn)封裝廠落腳嘉義,未來或引入日本
2024-03-18 14:30 -
突破2000W/cm2!我國科學(xué)家刷新紀(jì)錄
2024-03-17 10:49 科技前沿 -
國產(chǎn)火箭發(fā)動(dòng)機(jī)“紅龍一號(hào)”可重復(fù)點(diǎn)火20次以上
2024-03-16 13:40 航空航天 -
華為云CEO:打造全新核心技術(shù)生態(tài),為世界提供新的選擇
2024-03-15 21:12 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
中國空間站首批艙外暴露實(shí)驗(yàn)材料樣品完成實(shí)驗(yàn),成功取回
2024-03-15 15:03 航空航天 -
世界首例!我國完成“基因編輯豬-人”異種肝臟移植
2024-03-15 09:09 醫(yī)學(xué) -
“星艦”失聯(lián)后,馬斯克稱它將把人類帶到火星
2024-03-15 07:40 -
SpaceX星艦重返大氣層時(shí)失去信號(hào),第三次試飛提前結(jié)束
2024-03-14 23:02 航空航天
相關(guān)推薦 -
義烏有信心挺過去,心疼美國一秒:他們上哪兒找襪子? 評(píng)論 69恐遭監(jiān)視,歐盟為赴美出差高官發(fā)放一次性手機(jī) 評(píng)論 188“人人都想制造業(yè)回流美國,但沒多少人想自己下工廠” 評(píng)論 169“如果處理不當(dāng),還有比美國衰退更可怕的事情” 評(píng)論 148回過味了?“不該抗中,是時(shí)候‘去美國風(fēng)險(xiǎn)’” 評(píng)論 108最新聞 Hot
-
義烏有信心挺過去,心疼美國一秒:他們上哪兒找襪子?
-
搖擺州共和黨人急死:中國都說奉陪到底了…
-
“美國客戶急電:SOS!90天內(nèi),能發(fā)多少發(fā)多少”
-
“彪馬叔”挨批:吃頓飯的功夫,你就被特朗普耍了?
-
恐遭監(jiān)視,歐盟為赴美出差高官發(fā)放一次性手機(jī)
-
美財(cái)長:第一個(gè)采取行動(dòng)的人可以得到“最好的協(xié)議”
-
“美軍掙扎過,但就是繞不過中國”
-
特朗普想幾乎全砍聯(lián)合國、北約經(jīng)費(fèi),有人急了:中俄要填補(bǔ)
-
開幕首日就翻車:大阪世博會(huì)標(biāo)志性建筑漏雨,2億日元廁所用不了
-
“你不該向一個(gè)比你強(qiáng)大20倍的國家開戰(zhàn),然后希望別人給你導(dǎo)彈”
-
哈佛“硬剛”特朗普
-
特朗普自夸上了,“我靈活得很,還幫了庫克”
-
“特朗普考慮暫停汽車關(guān)稅”
-
美國加州突發(fā)5.2級(jí)地震
-
“人人都想制造業(yè)回流美國,但沒多少人想自己下工廠”
-
歐盟警告歐洲領(lǐng)導(dǎo)人:不準(zhǔn)去!
-