-
院士何積豐:應(yīng)對(duì)大模型的安全問(wèn)題,需設(shè)好“緊箍咒”
模型的通用能力讓其能夠應(yīng)用到人類(lèi)生產(chǎn)生活的各個(gè)場(chǎng)景中,可謂“無(wú)孔不入”。AI的發(fā)展因此帶來(lái)了新的安全隱私問(wèn)題,如何解決這一隱患,9月7日開(kāi)幕的2023 INCLUSION·外灘大會(huì)上,中國(guó)科學(xué)院院士何積豐開(kāi)出了他的“藥方”:利用對(duì)齊技術(shù)為大模型戴上緊箍咒。
何積豐院士認(rèn)為,大模型的安全問(wèn)題主要是在未經(jīng)同意的情況下,收集、使用和泄露個(gè)人信息。隱私問(wèn)題既可能發(fā)生在訓(xùn)練過(guò)程,也可能發(fā)生在使用過(guò)程中,而大模型的生成能力則讓“隱私泄露”的方式變得多樣化,造成隱私保護(hù)更加困難。
中國(guó)科學(xué)院院士何積豐
“為了應(yīng)對(duì)這些問(wèn)題,我們需要大模型對(duì)齊技術(shù)?!焙畏e豐說(shuō),“對(duì)齊(alignment)”是指系統(tǒng)的目標(biāo)和人類(lèi)價(jià)值觀(guān)一致,使其符合設(shè)計(jì)者的利益和預(yù)期,不會(huì)產(chǎn)生意外的有害后果?!叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空,‘對(duì)齊’就是唐僧的緊箍咒。有了緊箍咒,就可以保證技術(shù)不會(huì)任意使用能力胡作非為?!?
不過(guò),對(duì)齊技術(shù)同樣面臨挑戰(zhàn)。首先,對(duì)齊的基礎(chǔ),人類(lèi)的價(jià)值觀(guān)是多元且動(dòng)態(tài)變化的,需要保證大模型為人服務(wù)、與人為善;其次,大模型的有用性與無(wú)害性之間目標(biāo)也不完全一致。如何對(duì)錯(cuò)誤進(jìn)行有效糾正,設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)。
因此,對(duì)齊技術(shù)已經(jīng)成為了一項(xiàng)令人眼花繚亂的跨學(xué)科研究,不僅考驗(yàn)技術(shù),也審視文化。
何積豐介紹,反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對(duì)齊的技術(shù)途徑,目前有兩種方式,一種方式是通過(guò)人工反饋給模型不同的獎(jiǎng)勵(lì)信號(hào),引導(dǎo)模型的高質(zhì)量輸出;另一種方式,事先給大模型提供明確的原則,系統(tǒng)自動(dòng)訓(xùn)練模型對(duì)所有生成的輸出結(jié)果提供初始排序?!斑@意味著,不僅智能系統(tǒng)需要向人類(lèi)價(jià)值觀(guān)對(duì)齊,人類(lèi)的訓(xùn)練方法也要向價(jià)值觀(guān)對(duì)齊?!焙畏e豐說(shuō)。
本文系觀(guān)察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
標(biāo)簽 外灘大會(huì)- 責(zé)任編輯: 陳濟(jì)深 
-
全面擁抱大模型,騰訊混元正式亮相
2023-09-07 10:47 觀(guān)網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
頂風(fēng)作案!340萬(wàn)股,買(mǎi)回來(lái)
2023-09-07 08:58 觀(guān)網(wǎng)財(cái)經(jīng)-金融 -
二手車(chē)商日子難過(guò):600平米展廳一年上千萬(wàn)流水只賺1萬(wàn)元
2023-09-07 08:10 -
莫斯科交易所:8月人民幣交易額環(huán)比增長(zhǎng)超30%
2023-09-06 20:02 觀(guān)網(wǎng)財(cái)經(jīng)-海外 -
報(bào)告:高凈值人群進(jìn)一步年輕化,“富二代”占比減少?
2023-09-06 17:46 觀(guān)網(wǎng)財(cái)經(jīng)-金融 -
國(guó)家發(fā)改委上線(xiàn)民間投資問(wèn)題反映專(zhuān)欄
2023-09-06 17:39 -
?歐洲最大地方政府破產(chǎn),怎么回事?
2023-09-06 16:09 觀(guān)網(wǎng)財(cái)經(jīng)-宏觀(guān) -
杭州今日起實(shí)施“認(rèn)房不認(rèn)貸”
2023-09-05 18:02 觀(guān)網(wǎng)財(cái)經(jīng)-房產(chǎn) -
歐洲車(chē)企“焦慮”:這是一個(gè)轉(zhuǎn)折點(diǎn)
2023-09-05 16:59 汽車(chē)展 -
沈陽(yáng)取消限購(gòu)限售
2023-09-04 22:40 觀(guān)網(wǎng)財(cái)經(jīng)-房產(chǎn)
相關(guān)推薦 -
“中國(guó)引領(lǐng),金磚國(guó)家在這方面將追平歐盟和G7” 評(píng)論 34以軍被曝強(qiáng)迫加沙平民作人盾,“就像玩具一樣” 評(píng)論 267以色列提以黎?;饤l件,美官員都看不下去 評(píng)論 184最后時(shí)刻逆轉(zhuǎn),摩爾多瓦以微弱優(yōu)勢(shì)贊成入歐 評(píng)論 247最新聞 Hot
-
“中國(guó)引領(lǐng),金磚國(guó)家在這方面將追平歐盟和G7”
-
“被騙兩次算我蠢,歐盟準(zhǔn)備好回?fù)簟?/a>
-
“蘇聯(lián)衛(wèi)星上天,美國(guó)才意識(shí)到科技競(jìng)爭(zhēng)要靠政府”
-
“中國(guó)正超越歐洲,成最大買(mǎi)家”
-
武契奇:只有普京懂我,他還跟我說(shuō)了這句話(huà)
-
印外長(zhǎng)稱(chēng):中印邊境問(wèn)題,達(dá)成協(xié)議
-
“若中國(guó)大陸武統(tǒng),全美國(guó)科技行業(yè)恐任其擺布”
-
以軍士兵自殺后被指“生前是殺人犯”,親屬喊冤:他心地善良
-
武契奇要見(jiàn)馮德萊恩去不了金磚:我對(duì)普京很誠(chéng)實(shí)
-
困于繁文縟節(jié),歐洲臨床試驗(yàn)落后中國(guó)
-
白宮:不予置評(píng)
-
以軍被曝強(qiáng)迫加沙平民作人盾,“就像玩具一樣”
-
以色列稱(chēng)真主黨在醫(yī)院地下藏?cái)?shù)億現(xiàn)金和黃金,院長(zhǎng)駁斥
-
以色列宣布:破獲伊朗間諜大案
-
以色列提以黎停火條件,美官員都看不下去
-
“中老鐵路改變泰國(guó)榴蓮命運(yùn)”
-