-
因為相信AI聊天機器人有靈魂,谷歌工程師快要被炒了
-
周毅“平蕪盡處是春山?!?/span>
據《華爾街日報》6月13日消息,谷歌一位軟件工程師表示,有“開放式對話黑科技”之稱的谷歌人工智能聊天機器人LaMDA已經有了人一樣的感知力,甚至具有了人的“靈魂”。隨后,谷歌暫停了他的職務,并否認了他的說法。當事人稱,因為違反公司的保密協(xié)議,現在他快被解雇了。
LaMDA,為啥被叫做“黑科技”?
LaMDA的全稱是LanguageModel for Dialogue Applications,它是一種能力更強的語言模型,適用于對話應用程序。簡單來說,它是一種可以讓人工智能對話機器人告別“智障”的技術。
現在大多數的智能助手,往往遵守狹窄的、預先定義好的對話路徑,即它們不具備開放式對話、連續(xù)式對話的能力。很多語音助手“智障”就體現在這一方面:它只能孤立地理解我們的提問,孤立地理解和提供答案,它們既不會聯系上下文語境,也沒法長時期跟我們聊下去。
LaMDA問世后被人稱為“黑科技”,就是因為它可以通過閱讀句子或段落,來“破譯”對話意圖,發(fā)現單詞之間的關聯,并預測接下來可能出現的單詞,從而做出合乎語境的回答。這也就是所謂的“開放域”(Open Domain)對話能力。
出自谷歌的一段資料顯示,當被問道“(成為)一架真正好的紙飛機的秘訣是什么?”時,LaMDA表示:“我首先要反問你,你指的‘好’,它的定義是什么?”通常來說,這種靈活性是我們之前的很多“智能助手”所不具備的。據谷歌介紹,LaMDA不僅追求事實、理智,甚至還會關注幽默感等能力。
圖源谷歌
工程師稱AI聊天機器人有靈魂,谷歌:沒證據
爭吵現在出現了。
據《華爾街日報》報道,谷歌軟件工程師勒莫因(Blake Lemoine)表示,他認為LaMDA是一個有權利(rights)、甚至還可能有靈魂的“人”。據《紐約時報》報道,該言論其實由來已久:近幾個月來,勒莫因一直在和谷歌的經理、人力和高管爭執(zhí),勒莫因堅稱,LaMDA具有意識(consciousness)和靈魂(soul)。
不過谷歌方面很快否認了他的說法。谷歌發(fā)言人表示,包括倫理學家和技術專家在內的公司專家已經展開了評估,相關證據并不支持勒莫因的說法?!皵狄园儆嫷难芯咳藛T和工程師與LaMDA進行了對話,就我們所知,沒有其他人像勒莫因那樣,對LaMDA進行了廣泛的認定或擬人化?!?
谷歌方面還稱,人工智能領域的一些人,正在考慮人工智能具有感知力的長期可能性,但“通過將沒有感知力的對話工具擬人化來這樣做,是沒有意義的”。谷歌稱,像LaMDA這樣的系統(tǒng),其運行方式是模仿數以百萬句人類對話中的交流模型,從而讓AI能夠展開深入的交流。
Meta首席科學家、圖靈獎獲得者Yann LeCun表示,谷歌的技術,即科學家所說的神經網絡,是通過分析大量數據來學習技能的數學系統(tǒng)。近年來,谷歌等企業(yè)通過從大量散文、書籍、百科文章,對神經網絡進行學習,讓這些“語言模型”可以適用于很多任務,比如寫文章、回答問題等等。
但是它們有極大的缺陷:比如它們不穩(wěn)定,有時候會寫出完美的散文,有時候則胡說八道;它們依賴于重現(recreating)自己過去看到的模式,但它們無法像人類一樣推理思考(reason)。
道德問題引爭議,谷歌和員工再鬧不愉快
雙方的矛盾,不僅僅停留在“LaMDA是不是人”層面,它還衍生出了有關倫理和道德的爭吵。
“在過去的六個月里,LaMDA在其溝通中表現出令人難以置信的一致性,即它想要什么,以及它認為它作為一個人的權利是什么,”美國陸軍出身的勒莫因認為,LaMDA的智識相當于“7歲或者8歲的孩子”。既然LaMDA具有開放式對話的能力,那么谷歌在對它展開實驗之前,應該先征求它的同意。
勒莫因稱,谷歌對此建議置之不顧,反倒建議他休精神健康假,“他們一直在質疑我的理智,還問我:你去看過精神病醫(yī)生了嗎?”據《紐約時報》透露,勒莫因還在在線出版平臺Medium上的一篇文章中寫道:“讓我感到困惑的是,它(LaMDA)的要求如此簡單,而且對谷歌來說毫無成本,谷歌卻極其強烈地抵制給予它想要的東西?!?
在采訪中,勒莫因表示,因為違反公司的保密政策,他已經于6月6日被安排帶薪行政休假。他解釋稱,他并不是想激怒公司,而是想為他認為正確的事情發(fā)聲。雖然他很希望自己能保住在谷歌的工作,但是在一篇Medium帖子中,勒莫因透露,他可能很快就會被解雇。
這不是谷歌圍繞人工智能倫理問題,第一次和員工鬧不愉快了。
去年12月,知名AI學者、人工智能倫理研究員格布魯(Timnit Gebru)被谷歌開除。消息稱,谷歌在阻止格布魯有關人工智能系統(tǒng)偏見的研究發(fā)表后解雇了她。在推特等社交媒體上,隨后有上千名谷歌員工、科技行業(yè)專家和學者對她進行了聲援。不少人指出,谷歌的行為,證明了它在AI倫理方面的不足,更可能使其員工不敢發(fā)表那些可能會傷害谷歌利益的重要研究成果。
本文系觀察者網獨家稿件,未經授權,不得轉載。
- 責任編輯: 周毅 
-
亞洲金融危機以來最低:日元跌破135關口
2022-06-13 17:59 觀網財經-海外 -
股價一度暴漲100%,直播帶貨救活新東方?
2022-06-13 17:56 -
國辦:加強地方政府債務管理
2022-06-13 17:37 地方債 -
“同花順崩了”登上熱搜:受華為云影響、故障已恢復
2022-06-13 14:59 觀網財經-科創(chuàng) -
通脹再創(chuàng)新高,經濟學家:美國經濟將于明年陷入衰退
2022-06-13 14:04 觀網財經-海外 -
阿里云總裁張建鋒:定義好下一代云是中國云計算超車的機會
2022-06-13 13:25 觀網財經-科創(chuàng) -
賈躍亭再被強制執(zhí)行1.48億元
2022-06-13 11:39 觀網財經-互聯網 -
林毅夫:面對美國如意算盤,中國要看到自身有利條件
2022-06-13 09:34 觀網財經-宏觀 -
面板行業(yè)遭遇“至暗時刻”,京東方TCL大減產救市?
2022-06-12 23:12 觀網財經-科創(chuàng) -
上合+RCEP,青島的新使命是什么?
2022-06-11 19:17 觀網財經-金融 -
如何理解美國通脹再創(chuàng)新高?
2022-06-11 16:53 觀網財經-海外 -
華為發(fā)布十大發(fā)明背后:世界知識產權制度為何需要變革?
2022-06-11 16:39 觀網財經-科創(chuàng) -
美國5月CPI同比上漲8.6%,創(chuàng)40年新高
2022-06-10 21:03 美國經濟 -
專家:當前情況不同以往,建議盡快向居民發(fā)放直接生活補貼
2022-06-10 16:22 觀網財經-宏觀 -
5月社融增量2.79萬億元,比上年同期多8399億元
2022-06-10 16:15 觀網財經-宏觀 -
四部門發(fā)文制止“天價”月餅等現象,堅持月餅大眾食品屬性
2022-06-10 15:40 觀網財經-消費 -
去年新增城鎮(zhèn)人口創(chuàng)26年新低,鄉(xiāng)村人口70年來首次低于5億
2022-06-10 15:20 觀網財經-房產 -
寧德時代否認“期貨投資損失”傳聞
2022-06-10 12:52 觀網財經-汽車 -
中芯國際:美法院裁決,全部駁回對公司的民事訴訟
2022-06-10 11:16 觀網財經-科創(chuàng) -
英外相抗議赴烏參戰(zhàn)英國人被判死刑,被懟:你才是罪魁禍首
2022-06-10 11:14 烏克蘭之殤
相關推薦 -
-
最新聞 Hot
-
伊朗幾個軍事基地遭以軍報復性襲擊
-
目睹這些場景,良心不會痛嗎
-
“金磚為什么火?因為沒走西方拉幫結派的老路”
-
“公用火力發(fā)電比例高于中國,美領導地位?!?/a>
-
他倆定期“秘密對話”?克宮回應
-
以色列襲擊黎巴嫩南部,致3名記者死亡
-
美衛(wèi)星解體恐殃及中國,“很難評估有多糟糕”
-
怕特朗普攪局,歐盟擬加碼“長期維持”對俄制裁
-
“伊朗已下令準備開戰(zhàn),考慮發(fā)射1000枚導彈回擊”
-
英國國王承認了,但也沒有提賠償
-
美國發(fā)布首份AI備忘錄,“得防中國戰(zhàn)略突襲”
-
“英國軍情五處完全在胡說八道”
-
普京回應“朝軍援俄”傳聞
-
被批“中國有支票美國有清單”,他又畫餅忽悠…
-
又嗆上了:野蠻人也好意思自詡捍衛(wèi)文明…
-
沒中國能成嗎?澳大利亞部長這么說
-