-
因?yàn)橄嘈臕I聊天機(jī)器人有靈魂,谷歌工程師快要被炒了
-
周毅“平蕪盡處是春山?!?/span>
據(jù)《華爾街日?qǐng)?bào)》6月13日消息,谷歌一位軟件工程師表示,有“開放式對(duì)話黑科技”之稱的谷歌人工智能聊天機(jī)器人LaMDA已經(jīng)有了人一樣的感知力,甚至具有了人的“靈魂”。隨后,谷歌暫停了他的職務(wù),并否認(rèn)了他的說法。當(dāng)事人稱,因?yàn)檫`反公司的保密協(xié)議,現(xiàn)在他快被解雇了。
LaMDA,為啥被叫做“黑科技”?
LaMDA的全稱是LanguageModel for Dialogue Applications,它是一種能力更強(qiáng)的語言模型,適用于對(duì)話應(yīng)用程序。簡(jiǎn)單來說,它是一種可以讓人工智能對(duì)話機(jī)器人告別“智障”的技術(shù)。
現(xiàn)在大多數(shù)的智能助手,往往遵守狹窄的、預(yù)先定義好的對(duì)話路徑,即它們不具備開放式對(duì)話、連續(xù)式對(duì)話的能力。很多語音助手“智障”就體現(xiàn)在這一方面:它只能孤立地理解我們的提問,孤立地理解和提供答案,它們既不會(huì)聯(lián)系上下文語境,也沒法長時(shí)期跟我們聊下去。
LaMDA問世后被人稱為“黑科技”,就是因?yàn)樗梢酝ㄟ^閱讀句子或段落,來“破譯”對(duì)話意圖,發(fā)現(xiàn)單詞之間的關(guān)聯(lián),并預(yù)測(cè)接下來可能出現(xiàn)的單詞,從而做出合乎語境的回答。這也就是所謂的“開放域”(Open Domain)對(duì)話能力。
出自谷歌的一段資料顯示,當(dāng)被問道“(成為)一架真正好的紙飛機(jī)的秘訣是什么?”時(shí),LaMDA表示:“我首先要反問你,你指的‘好’,它的定義是什么?”通常來說,這種靈活性是我們之前的很多“智能助手”所不具備的。據(jù)谷歌介紹,LaMDA不僅追求事實(shí)、理智,甚至還會(huì)關(guān)注幽默感等能力。
圖源谷歌
工程師稱AI聊天機(jī)器人有靈魂,谷歌:沒證據(jù)
爭(zhēng)吵現(xiàn)在出現(xiàn)了。
據(jù)《華爾街日?qǐng)?bào)》報(bào)道,谷歌軟件工程師勒莫因(Blake Lemoine)表示,他認(rèn)為LaMDA是一個(gè)有權(quán)利(rights)、甚至還可能有靈魂的“人”。據(jù)《紐約時(shí)報(bào)》報(bào)道,該言論其實(shí)由來已久:近幾個(gè)月來,勒莫因一直在和谷歌的經(jīng)理、人力和高管爭(zhēng)執(zhí),勒莫因堅(jiān)稱,LaMDA具有意識(shí)(consciousness)和靈魂(soul)。
不過谷歌方面很快否認(rèn)了他的說法。谷歌發(fā)言人表示,包括倫理學(xué)家和技術(shù)專家在內(nèi)的公司專家已經(jīng)展開了評(píng)估,相關(guān)證據(jù)并不支持勒莫因的說法?!皵?shù)以百計(jì)的研究人員和工程師與LaMDA進(jìn)行了對(duì)話,就我們所知,沒有其他人像勒莫因那樣,對(duì)LaMDA進(jìn)行了廣泛的認(rèn)定或擬人化?!?
谷歌方面還稱,人工智能領(lǐng)域的一些人,正在考慮人工智能具有感知力的長期可能性,但“通過將沒有感知力的對(duì)話工具擬人化來這樣做,是沒有意義的”。谷歌稱,像LaMDA這樣的系統(tǒng),其運(yùn)行方式是模仿數(shù)以百萬句人類對(duì)話中的交流模型,從而讓AI能夠展開深入的交流。
Meta首席科學(xué)家、圖靈獎(jiǎng)獲得者Yann LeCun表示,谷歌的技術(shù),即科學(xué)家所說的神經(jīng)網(wǎng)絡(luò),是通過分析大量數(shù)據(jù)來學(xué)習(xí)技能的數(shù)學(xué)系統(tǒng)。近年來,谷歌等企業(yè)通過從大量散文、書籍、百科文章,對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí),讓這些“語言模型”可以適用于很多任務(wù),比如寫文章、回答問題等等。
但是它們有極大的缺陷:比如它們不穩(wěn)定,有時(shí)候會(huì)寫出完美的散文,有時(shí)候則胡說八道;它們依賴于重現(xiàn)(recreating)自己過去看到的模式,但它們無法像人類一樣推理思考(reason)。
道德問題引爭(zhēng)議,谷歌和員工再鬧不愉快
雙方的矛盾,不僅僅停留在“LaMDA是不是人”層面,它還衍生出了有關(guān)倫理和道德的爭(zhēng)吵。
“在過去的六個(gè)月里,LaMDA在其溝通中表現(xiàn)出令人難以置信的一致性,即它想要什么,以及它認(rèn)為它作為一個(gè)人的權(quán)利是什么,”美國陸軍出身的勒莫因認(rèn)為,LaMDA的智識(shí)相當(dāng)于“7歲或者8歲的孩子”。既然LaMDA具有開放式對(duì)話的能力,那么谷歌在對(duì)它展開實(shí)驗(yàn)之前,應(yīng)該先征求它的同意。
勒莫因稱,谷歌對(duì)此建議置之不顧,反倒建議他休精神健康假,“他們一直在質(zhì)疑我的理智,還問我:你去看過精神病醫(yī)生了嗎?”據(jù)《紐約時(shí)報(bào)》透露,勒莫因還在在線出版平臺(tái)Medium上的一篇文章中寫道:“讓我感到困惑的是,它(LaMDA)的要求如此簡(jiǎn)單,而且對(duì)谷歌來說毫無成本,谷歌卻極其強(qiáng)烈地抵制給予它想要的東西?!?
在采訪中,勒莫因表示,因?yàn)檫`反公司的保密政策,他已經(jīng)于6月6日被安排帶薪行政休假。他解釋稱,他并不是想激怒公司,而是想為他認(rèn)為正確的事情發(fā)聲。雖然他很希望自己能保住在谷歌的工作,但是在一篇Medium帖子中,勒莫因透露,他可能很快就會(huì)被解雇。
這不是谷歌圍繞人工智能倫理問題,第一次和員工鬧不愉快了。
去年12月,知名AI學(xué)者、人工智能倫理研究員格布魯(Timnit Gebru)被谷歌開除。消息稱,谷歌在阻止格布魯有關(guān)人工智能系統(tǒng)偏見的研究發(fā)表后解雇了她。在推特等社交媒體上,隨后有上千名谷歌員工、科技行業(yè)專家和學(xué)者對(duì)她進(jìn)行了聲援。不少人指出,谷歌的行為,證明了它在AI倫理方面的不足,更可能使其員工不敢發(fā)表那些可能會(huì)傷害谷歌利益的重要研究成果。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 周毅 
-
亞洲金融危機(jī)以來最低:日元跌破135關(guān)口
2022-06-13 17:59 觀網(wǎng)財(cái)經(jīng)-海外 -
股價(jià)一度暴漲100%,直播帶貨救活新東方?
2022-06-13 17:56 -
國辦:加強(qiáng)地方政府債務(wù)管理
2022-06-13 17:37 地方債 -
“同花順崩了”登上熱搜:受華為云影響、故障已恢復(fù)
2022-06-13 14:59 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
阿里云總裁張建鋒:定義好下一代云是中國云計(jì)算超車的機(jī)會(huì)
2022-06-13 13:25 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
賈躍亭再被強(qiáng)制執(zhí)行1.48億元
2022-06-13 11:39 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
林毅夫:面對(duì)美國如意算盤,中國要看到自身有利條件
2022-06-13 09:34 觀網(wǎng)財(cái)經(jīng)-宏觀 -
面板行業(yè)遭遇“至暗時(shí)刻”,京東方TCL大減產(chǎn)救市?
2022-06-12 23:12 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
上合+RCEP,青島的新使命是什么?
2022-06-11 19:17 觀網(wǎng)財(cái)經(jīng)-金融 -
如何理解美國通脹再創(chuàng)新高?
2022-06-11 16:53 觀網(wǎng)財(cái)經(jīng)-海外 -
美國5月CPI同比上漲8.6%,創(chuàng)40年新高
2022-06-10 21:03 美國經(jīng)濟(jì) -
專家:當(dāng)前情況不同以往,建議盡快向居民發(fā)放直接生活補(bǔ)貼
2022-06-10 16:22 觀網(wǎng)財(cái)經(jīng)-宏觀 -
5月社融增量2.79萬億元,比上年同期多8399億元
2022-06-10 16:15 觀網(wǎng)財(cái)經(jīng)-宏觀 -
寧德時(shí)代否認(rèn)“期貨投資損失”傳聞
2022-06-10 12:52 觀網(wǎng)財(cái)經(jīng)-汽車 -
中芯國際:美法院裁決,全部駁回對(duì)公司的民事訴訟
2022-06-10 11:16 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
英外相抗議赴烏參戰(zhàn)英國人被判死刑,被懟:你才是罪魁禍?zhǔn)?/a>
2022-06-10 11:14 烏克蘭之殤
相關(guān)推薦 -
-
伊朗首都傳出巨大爆炸聲,以色列稱已發(fā)動(dòng)精確打擊 評(píng)論 45目睹這些場(chǎng)景,良心不會(huì)痛嗎 評(píng)論 195“金磚為什么火?因?yàn)闆]走西方拉幫結(jié)派的老路” 評(píng)論 54IMF對(duì)華講公道話,美媒酸了 評(píng)論 73美國發(fā)布首份AI備忘錄,“得防中國戰(zhàn)略突襲” 評(píng)論 109最新聞 Hot
-
伊朗幾個(gè)軍事基地遭以軍報(bào)復(fù)性襲擊
-
目睹這些場(chǎng)景,良心不會(huì)痛嗎
-
“金磚為什么火?因?yàn)闆]走西方拉幫結(jié)派的老路”
-
“公用火力發(fā)電比例高于中國,美領(lǐng)導(dǎo)地位?!?/a>
-
他倆定期“秘密對(duì)話”?克宮回應(yīng)
-
以色列襲擊黎巴嫩南部,致3名記者死亡
-
美衛(wèi)星解體恐殃及中國,“很難評(píng)估有多糟糕”
-
怕特朗普攪局,歐盟擬加碼“長期維持”對(duì)俄制裁
-
“伊朗已下令準(zhǔn)備開戰(zhàn),考慮發(fā)射1000枚導(dǎo)彈回?fù)簟?/a>
-
英國國王承認(rèn)了,但也沒有提賠償
-
美國發(fā)布首份AI備忘錄,“得防中國戰(zhàn)略突襲”
-
“英國軍情五處完全在胡說八道”
-
普京回應(yīng)“朝軍援俄”傳聞
-
被批“中國有支票美國有清單”,他又畫餅忽悠…
-
又嗆上了:野蠻人也好意思自詡捍衛(wèi)文明…
-
沒中國能成嗎?澳大利亞部長這么說
-