-
谷歌打響OpenAI反擊戰(zhàn),最新大語言模型PaLM 2直指GPT-4痛點
最后更新: 2023-05-11 10:28:28北京時間5月11日凌晨1點,Google I/O 2023開發(fā)者大會如期而至。在美國加州山景城總部,谷歌在多項產(chǎn)品和服務(wù)方面推出了重磅更新,涉及谷歌地圖、人工智能、搜索、安卓、谷歌云和Pixel等多個領(lǐng)域。其中,谷歌在巴德和生成式AI方面的最新進(jìn)展備受外界關(guān)注。
PaLM 2打響GPT-4反擊戰(zhàn)
谷歌CEO皮查伊在發(fā)布會現(xiàn)場表示,此次谷歌發(fā)布的PaLM 2是目前最先進(jìn)的語言模型,也是其PaLM語言模型的第二個版本。相比PaLM 1,新版本具有升級的多語言、推理和編碼能力,將為25種谷歌產(chǎn)品提供支持。
圖源:谷歌
在多語言能力方面,PaLM 2進(jìn)行了更多訓(xùn)練,文本橫跨100多種語言,很大程度上提高了其理解、生成和翻譯細(xì)微差異化文本的能力,解決了對成語、詩歌和謎語這類文本的理解能力,這種文本的處理門檻較高。此外,PaLM 2能夠通過很高級別的語言能力考試。
推理能力方面, 由于PaLM 2在包含科學(xué)論文和數(shù)學(xué)表達(dá)式的網(wǎng)頁上進(jìn)行了訓(xùn)練,因此具備了在邏輯、常識推理和數(shù)學(xué)方面的改進(jìn)能力。
編碼能力上,PaLM 2支持20多種編程語言。由于它是在大量公開可用的源代碼數(shù)據(jù)集上進(jìn)行預(yù)訓(xùn)練,因而擅長Python和JavaScript等流行編程語言,同時也可進(jìn)行Prolog、Fortran和Verilog等小眾語言的編程。
圖源:谷歌
據(jù)皮查伊介紹,PaLM 2將擁有從小到大四種尺寸,分別為Gecko、Otter、Bison和Unicorn。
圖源:谷歌
Gecko:最小尺寸,可以在移動設(shè)備上運行,速度足夠快,即使離線狀態(tài)也可以進(jìn)行交互應(yīng)用。
Otter:中等大小模型,適合各種任務(wù),包括自然語言處理、機(jī)器翻譯和代碼生成。
Bison:更大的模型,可以處理更復(fù)雜任務(wù),例如生成逼真的圖像和視頻。
Unicorn:最大尺寸,可處理最復(fù)雜的任務(wù),比如編寫創(chuàng)意文本,如詩歌、代碼、腳本、音樂作品、電子郵件、信件等。
不同尺寸模型帶來的功能性意味著PaLM 2可以進(jìn)行微調(diào),以多種方式支持整類產(chǎn)品,幫助到更多用戶。
圖源:谷歌
PaLM 2的多模態(tài)能力體現(xiàn)在能看懂和生成音頻和視頻內(nèi)容之上,皮查伊在現(xiàn)場對這些能力進(jìn)行了少量展示。他用谷歌內(nèi)部基于PaLM 2針對醫(yī)療領(lǐng)域微調(diào)而成的Med-PaLM 2舉例,后者是第一個在醫(yī)學(xué)執(zhí)照考試上表現(xiàn)出專家水平的專用語言模型,已經(jīng)可以在醫(yī)院看片室?guī)椭派淇漆t(yī)生解讀圖像,可以根據(jù)X光片分析病人的狀況,此后還將用于更多領(lǐng)域。
圖源:谷歌CEO皮查伊稱Med-PaLM已經(jīng)可以達(dá)到人類專家醫(yī)生的水平
皮查伊指出,雖然PaLM 2的能力已經(jīng)很強(qiáng),但只有在對特定領(lǐng)域的知識進(jìn)行微調(diào)時,才能真正發(fā)揮作用。與基礎(chǔ)模型相比,微調(diào)幫助Med-PaLM 2實現(xiàn)了將近十倍的精確度,從而在醫(yī)學(xué)問題回答上能做到接近臨床專家的表現(xiàn)。
“我們還在努力增加Med-PaLM 2的功能,使其能夠綜合來自醫(yī)學(xué)影像的信息,如乳腺X射線?!逼げ橐翉?qiáng)調(diào)。
據(jù)谷歌搜索部門高管介紹,Med PaLM 2的訓(xùn)練集使用的是各國醫(yī)療診所數(shù)據(jù)樣本
與之類似,谷歌還基于PaLM 2訓(xùn)練了一個針對安全領(lǐng)域的垂直模型Sec-PaLM,它可以利用AI來檢測惡意腳本,幫助安全專家理解和解決各類攻擊和威脅問題。
據(jù)谷歌介紹,PaLM 2的用戶既包括世界各地的消費者,也包括開發(fā)者和各類規(guī)模的企業(yè)。
皮查伊還宣布,谷歌已經(jīng)在著手開發(fā)下一代多模態(tài)大模型Gemini,這一模型在工具和API集成方面非常高效,并在記憶力和規(guī)劃能力上擁有相當(dāng)創(chuàng)新突破,目前仍在訓(xùn)練之中?!癎emini展示出了相較其他模型前所未見的多模態(tài)能力。一旦經(jīng)過微調(diào)和嚴(yán)格安全測試,也將擁有各種尺寸和功能,可以部署在不同的產(chǎn)品、應(yīng)用和設(shè)備上,使每個人受益?!逼げ橐帘硎?。
從PaLM2到Gemini,谷歌本次找準(zhǔn)了GPT-4的痛點下手,用多模態(tài)能力直擊靶心,又用專用領(lǐng)域模型拉開差距,可以說打了一個漂亮的反擊戰(zhàn)。
谷歌研究部副總裁左賓·蓋若曼尼指出了一個值得關(guān)注的問題,即模型并不是“越大越好”那么簡單,研究的創(chuàng)造性才是建立偉大模型的關(guān)鍵。他表示,谷歌近期在構(gòu)建和訓(xùn)練模型方面取得的進(jìn)展使之了解到如何真正釋放多模態(tài)能力,如何比以往更有效地構(gòu)建模型。此后,谷歌會致力于那些為人們的日常生活帶來真正好處的模型構(gòu)建。
谷歌在本次I/O大會上并沒有給出PaLM 2的更多技術(shù)細(xì)節(jié),這也與OpenAI對待ChatGPT和GPT-4的態(tài)度相似,但谷歌的上述表態(tài)與其內(nèi)部堅持的技術(shù)路線一脈相承。雖然自去年年底開始,谷歌就因為ChatGPT橫空出世陷入極為被動的局面,但谷歌實際上早于OpenAI看到了超大規(guī)模語言模型的必要性,并堅持在稀疏模型架構(gòu)上做了深入探索。在DeepMind與谷歌分治之前,其語言模型麻雀就走上了小模型參數(shù)打敗精調(diào)的道路,而與谷歌合兵一處之后,勢必在思路上對PaLM 2也做出了相當(dāng)貢獻(xiàn)。
皮查伊也強(qiáng)調(diào),PaLM 2的成果建立在谷歌大腦和DeepMind這兩個世界級研究團(tuán)隊所取得的進(jìn)展之上。
Bard一雪前恥
在I/O大會上,另一個為世界矚目的進(jìn)展來自此前折戟的Bard。
谷歌宣布了Bard的多項功能更新,總體來看可謂是針對BingChat新晉更新的重量級回應(yīng)。首先是與圖像配合的多模態(tài)查詢功能,用戶可以使用圖像向Bard提問,也可以讓Bard使用圖像內(nèi)容向用戶進(jìn)行回應(yīng)。
如果用戶想查詢關(guān)于某個旅游目的地的信息,Bard的表現(xiàn)像一個大眾點評,可以向用戶展示該處目的地附近的所有熱門景點。
圖源:谷歌
圖源:谷歌
在文字之外,Bard可以做到很好的理解圖片,可以根據(jù)圖片信息抽象出文字。谷歌在現(xiàn)場進(jìn)行了演示,如果發(fā)給Bard一個狗狗的照片,Bard可以根據(jù)圖片來分析其中的有趣之處。
圖源:谷歌
在這個過程里,谷歌也展示出通過最近幾個月的訓(xùn)練,Bard對語言文字理解力有了進(jìn)一步增強(qiáng),這是上次Bard問世被群嘲的核心點。
在I/O大會現(xiàn)場,Bard有兩項功能演示獲得了分貝最高的歡呼聲,第一次來自Bard的深色模式更新,第二次是因為Bard的新晉搜索功能與谷歌地圖形成了完美整合。
圖源:谷歌
圖源:在現(xiàn)場演示中,谷歌高管詢問Bard哪個城市比較適合自己18歲時讀書,并給出了幾項條件,Bard首先使用文字作答給出了若干選項,之后被要求用谷歌地圖來展示位置。
圖源:谷歌
Bard的另一項重大進(jìn)益在編程側(cè)。谷歌正在增強(qiáng)下一代Bard版本的編程能力,希望Bard不僅能夠生成代碼,還能夠解釋一些代碼片段并幫助用戶調(diào)試代碼,還希望Bard能具備更強(qiáng)的代碼引用能力。
新版本中Bard的編程能力非常強(qiáng)大,足以與CoPilot媲美?,F(xiàn)場演示引發(fā)了陣陣掌聲。
在先前的迭代中,Bard已經(jīng)能夠?qū)ython代碼導(dǎo)出到谷歌的Colab。而谷歌正在擴(kuò)大這一功能,希望將Python代碼導(dǎo)出到Replit,使得開發(fā)者更容易使用。
本次,谷歌取消了Bard的用戶等待名單,使其在180多個國家和地區(qū)都可以使用。英語之外,Bard目前可以支持日語和漢語,不久之后可以支持40種語言。
據(jù)悉,谷歌目前在與第三方合作伙伴合作,將其技術(shù)支持引入Bard。但谷歌強(qiáng)調(diào)自己唯一的第三方合作伙伴是Adobe的圖像生成器Firefly,后續(xù)會開展與專注數(shù)學(xué)計算的引擎WolframAlpha等的合作。有趣的是,微軟Bing日前的那場升級也調(diào)用了Wolfram Alpha插件。
有分析指出,谷歌自身的圖像生成能力本就很強(qiáng),此次卻選擇與Adobe Firefly聯(lián)手令人意外,這更多應(yīng)該是出于安全方面考慮。
圖源:谷歌
谷歌方面表示,還將很快推出Bard的其他擴(kuò)展功能,主要是將其融入自己的各類應(yīng)用程序,尤其是Google maps、Google Docs、Google Sheets和Gmail。目前看來,這類更新的力度會比微軟Edge瀏覽器與GPT-4的結(jié)合力度更大。
圖源:Google Bard與Gmail結(jié)合
(界面新聞記者 | 李京亞)
- 原標(biāo)題:谷歌打響OpenAI反擊戰(zhàn),最新大語言模型PaLM 2直指GPT-4痛點
- 責(zé)任編輯: 房佶宜 
-
轉(zhuǎn)基因作物能留種嗎?農(nóng)民日報解答
2023-05-11 08:38 轉(zhuǎn)基因 -
量子處理器上首次“造出”任意子,有望提升容錯能力
2023-05-11 08:32 科技前沿 -
首個人類泛基因組草圖發(fā)表,這項數(shù)據(jù)增加104%
2023-05-11 08:17 -
又一大國重器迎來關(guān)鍵節(jié)點
2023-05-11 08:14 科技前沿 -
天舟六號瞄準(zhǔn)今日21時22分發(fā)射
2023-05-10 16:01 航空航天 -
天舟六號發(fā)射任務(wù),圓滿成功
2023-05-10 15:11 航空航天 -
國內(nèi)規(guī)模最大高原風(fēng)電基地800兆瓦全容量投產(chǎn)
2023-05-08 10:03 -
建月球基地的玻璃有了?中國科學(xué)家月壤最新發(fā)現(xiàn)
2023-05-08 07:51 航空航天 -
科大訊飛發(fā)布星火認(rèn)知大模型,算力方面將聯(lián)手華為
2023-05-07 20:59 觀網(wǎng)財經(jīng)-科創(chuàng) -
我國科研人員開發(fā)出可精準(zhǔn)檢測與治療癌癥的納米粒子
2023-05-06 19:29 -
防范數(shù)據(jù)風(fēng)險,首個國產(chǎn)化船舶交通管理系統(tǒng)試運行
2023-05-06 14:11 -
全球首例!北京成功完成非人靈長類動物介入式腦機(jī)接口試驗
2023-05-05 16:57 科技前沿 -
華龍一號全球首堆示范工程通過竣工驗收
2023-05-05 16:20 核電 -
我國科學(xué)家發(fā)明“進(jìn)化透鏡”,馬鈴薯育種取得世界性突破
2023-05-05 16:18 -
陳剛等8位華人當(dāng)選美國科學(xué)院院士
2023-05-04 13:22 -
中國科學(xué)家發(fā)現(xiàn)火星近期水活動新證據(jù)
2023-04-27 13:59 航空航天 -
我國科學(xué)家領(lǐng)銜,拍到黑洞“尾巴”
2023-04-27 08:13 -
最新研究:地球能量失衡加劇
2023-04-24 13:38 全球變暖 -
載人航天總師周建平獲“錢學(xué)森最高成就獎”
2023-04-24 10:43 航空航天 -
迄今最重“薛定諤的貓”出現(xiàn)
2023-04-24 08:13 科技前沿
相關(guān)推薦 -
“如果處理不當(dāng),還有比美國衰退更可怕的事情” 評論 148回過味了?“不該抗中,是時候‘去美國風(fēng)險’” 評論 108最新聞 Hot
-
義烏有信心挺過去,心疼美國一秒:他們上哪兒找襪子?
-
搖擺州共和黨人急死:中國都說奉陪到底了…
-
“美國客戶急電:SOS!90天內(nèi),能發(fā)多少發(fā)多少”
-
“彪馬叔”挨批:吃頓飯的功夫,你就被特朗普耍了?
-
恐遭監(jiān)視,歐盟為赴美出差高官發(fā)放一次性手機(jī)
-
美財長:第一個采取行動的人可以得到“最好的協(xié)議”
-
“美軍掙扎過,但就是繞不過中國”
-
特朗普想幾乎全砍聯(lián)合國、北約經(jīng)費,有人急了:中俄要填補(bǔ)
-
開幕首日就翻車:大阪世博會標(biāo)志性建筑漏雨,2億日元廁所用不了
-
“你不該向一個比你強(qiáng)大20倍的國家開戰(zhàn),然后希望別人給你導(dǎo)彈”
-
哈佛“硬剛”特朗普
-
特朗普自夸上了,“我靈活得很,還幫了庫克”
-
“特朗普考慮暫停汽車關(guān)稅”
-
美國加州突發(fā)5.2級地震
-
“人人都想制造業(yè)回流美國,但沒多少人想自己下工廠”
-
歐盟警告歐洲領(lǐng)導(dǎo)人:不準(zhǔn)去!
-