-
谷歌CEO:制造一個(gè)種族主義、性別歧視的AI非常容易
關(guān)鍵字:【文 觀察者網(wǎng)/趙挪亞】
過去一年時(shí)間里,AI(人工智能)的倫理問題成為了各個(gè)互聯(lián)網(wǎng)企業(yè)和各國政府討論焦點(diǎn)之一,前有谷歌先后成立、取消AI道德委員會,后有歐盟公布AI道德準(zhǔn)則,這一新興技術(shù)在社會應(yīng)用上的倫理規(guī)范尚需討論。
不過,盡管谷歌一再強(qiáng)調(diào)AI的道德問題,但旗下的YouTube卻曾在“巴黎圣母院大火”時(shí),因AI算法引起爭議,而他們設(shè)立的AI道德委員會也只持續(xù)了兩周不到即告解散。
在5月8日凌晨舉行的2019谷歌I/O開發(fā)者大會上,美國搜索引擎巨頭陸續(xù)公布了新版的視覺化搜索系統(tǒng)、谷歌智能助手以及安卓系統(tǒng),AI成為了貫穿整場大會的主題,而作為這一技術(shù)使用的前提,谷歌CEO桑達(dá)爾·皮查伊(Sundar Pichai)稱他們正在努力解決人工智能的偏見問題。
谷歌I/O大會
在會上,皮查伊稱憑借現(xiàn)有的機(jī)器學(xué)習(xí)和算法,要制造一個(gè)種族主義、性別歧視的AI非常容易。他表示,現(xiàn)有的AI機(jī)器學(xué)習(xí)本質(zhì)上依靠的還是大量數(shù)據(jù)的輸入,因此這些數(shù)據(jù)的公正性,將很大程度上左右AI在種族和性別問題上是否具有偏見。
皮查伊以谷歌旗下的AI算法舉例:“如果你想用該技術(shù)來建立一個(gè)可以識別醫(yī)生形象的AI模型,但卻一直給它輸入‘穿白大褂、帶聽診器’的男性照片,那么最終這一AI將很可能認(rèn)定,男性是識別醫(yī)生照片的重要元素。”
而在另一個(gè)例子中,皮查伊也提到,AI算法可以用在鑒別皮膚癌的領(lǐng)域。但如果在訓(xùn)練階段,研究人員一直給其輸入同種膚色的皮膚癌照片,卻遺漏了其他膚色,那么最終這一AI也將在診斷時(shí)出現(xiàn)誤判。
皮查伊表示:“僅僅知道AI模型有效是不夠的,我們必須知道它如何運(yùn)作。早在機(jī)器學(xué)習(xí)出現(xiàn)之前,偏見就一直是科學(xué)界關(guān)注的問題。(在這個(gè)問題上)AI的風(fēng)險(xiǎn)顯然更高?!?
為此,谷歌提出了兩個(gè)解決方案。其中之一,就是一種被稱為TCAV(使用概念激活向量進(jìn)行測試)的技術(shù),它可以確定機(jī)器學(xué)習(xí)系統(tǒng)在做決定時(shí),相關(guān)概念和數(shù)據(jù)在機(jī)器學(xué)習(xí)系統(tǒng)中的權(quán)重有多少,從而更好理解AI算法的邏輯。其次,皮查伊還提出,將會把部分開放數(shù)據(jù)分享給其他公司和AI技術(shù)人員,以此幫助更多人。
在最后總結(jié)階段,谷歌舉了一些例子說明了AI給社會帶來的各種進(jìn)步。比如,借助AI來算出患者的患病趨勢,降低患者的死亡率;用AI預(yù)測洪水,龍卷風(fēng)等災(zāi)害性天氣。
盡管如此,谷歌的AI技術(shù)還是為他們引來了不少爭議。
據(jù)《今日俄羅斯》4月16日報(bào)道,在“巴黎圣母院”大火期間,YouTube平臺上部分新聞直播下方的信息欄(Info Box)內(nèi),出現(xiàn)了有關(guān)“911恐怖襲擊”事件的說明,此事也引來了眾多網(wǎng)友的批評,認(rèn)為YouTube此舉可能助長“陰謀論”的出現(xiàn)。
據(jù)截圖顯示,在France 24的直播視頻下方,出現(xiàn)了“911恐襲”的說明
對此,谷歌發(fā)言人解釋:“我們對巴黎圣母院的大火感到十分難過,但這些信息欄都由算法自動生成,有時(shí)候系統(tǒng)會出錯(cuò)。我們已經(jīng)關(guān)閉了這些直播視頻下方的信息欄?!?
今年3月26日,谷歌宣布成立人工智能道德委員會,即先進(jìn)技術(shù)外部咨詢委員會,希望通過哲學(xué)家、工程師和政策專家組成的團(tuán)隊(duì)幫助解決人工智能帶來的道德風(fēng)險(xiǎn)。
而到了4月4日,由于谷歌內(nèi)部員工不滿委員會成員凱·詹姆斯(Kay James)和戴安·吉本斯(Dyan Gibbens)的政治傾向,再加上耐基梅隆大學(xué)學(xué)者亞歷山德羅?阿奎斯蒂(Alessandro Acquisti)教授的批評,谷歌宣布取消人工智能道德委員會。
除了谷歌以外,歐盟也于4月8日公布了人工智能道德準(zhǔn)則,并要求“值得信賴”的AI應(yīng)當(dāng)滿足包括“人類監(jiān)督”、“技術(shù)安全”、“多樣性和公平性”以及“透明性”在內(nèi)的7個(gè)條件。
歐盟的AI道德準(zhǔn)則
不過有部分研究者懷疑,歐盟制定的人工智能道德準(zhǔn)則,將會影響到這一產(chǎn)業(yè)的未來發(fā)展。
智庫機(jī)構(gòu)數(shù)據(jù)創(chuàng)新中心(Center for Data Innovation)的高級政策分析師艾琳·奇沃特(Eline Chivot)4月8日在接受The Verge采訪時(shí)說:“歐盟希望通過制定道德標(biāo)準(zhǔn),來確定自身在全球AI發(fā)展中的地位,我們對這種方法持懷疑態(tài)度。要成為AI倫理的領(lǐng)導(dǎo)者,首先你必須在AI領(lǐng)域遙遙領(lǐng)先?!?
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 請支持獨(dú)立網(wǎng)站,轉(zhuǎn)發(fā)請注明本文鏈接:
- 責(zé)任編輯:趙挪亞
- 最后更新: 2019-05-08 11:48:30
-
三星稱折疊屏手機(jī)尚無發(fā)貨日期 向美國客戶道歉
2019-05-08 07:16 -
突破九碟裝,希捷出貨全球首款16TB機(jī)械硬盤
2019-05-07 18:19 大公司 -
微信罰了騰訊 網(wǎng)友:狠起來自己人都打!
2019-05-07 16:00 -
瑞士電信宣布正式提供5G商用服務(wù) 首款5G手機(jī)是中國品牌
2019-05-07 15:43 5G -
三星LG紛紛關(guān)停國內(nèi)生產(chǎn)線 智能手機(jī)或難見“韓國造”
2019-05-07 14:49 -
5G手機(jī)市場預(yù)測以及相關(guān)受益產(chǎn)業(yè)鏈分析
2019-05-07 13:10 手機(jī) -
ASML商業(yè)竊密案勝訴:獲賠57億,三星涉嫌
2019-05-06 21:27 大公司 -
紅米驍龍855旗艦配置曝光,命名為K20 Pro?
2019-05-06 16:18 手機(jī) -
任正非談華為接班人條件 家人子女不接班
2019-05-06 14:25 華為 -
中國學(xué)者開創(chuàng)性實(shí)現(xiàn)量子“隨機(jī)行走”
2019-05-06 11:55 科技前沿 -
我國在海水提鈾關(guān)鍵技術(shù)上取得重要進(jìn)展
2019-05-06 10:12 -
NASA:零件公司造假19年,致2發(fā)火箭發(fā)射失敗
2019-05-05 16:39 航空航天 -
中國要花千億造大型對撞機(jī)?楊振寧提7大理由反對
2019-05-05 15:30 科技前沿 -
中國5G專利占34%,華為不賣到美國也能收費(fèi)
2019-05-05 12:03 5G -
中科院大氣物理所:權(quán)游里的“凜冬”是怎樣形成的?
2019-05-05 11:29 -
備貨10萬臺華為折疊屏5G手機(jī)完工 售價(jià)或不超14000
2019-05-05 10:41 手機(jī) -
華為Mate30Pro曝光:6.7寸屏,麒麟985,55W快充
2019-05-05 10:41 手機(jī) -
中國的5G究竟領(lǐng)先在哪兒?
2019-05-05 10:30 5G -
三星手機(jī)中國市場沉浮記
2019-05-05 10:00 手機(jī) -
時(shí)隔1年,三星智能機(jī)在華占有率重回1%
2019-05-05 09:38 大公司
相關(guān)推薦 -
普京回應(yīng)“朝軍援俄”傳聞 評論 200“不止美德,北約至少七國反對” 評論 80最新聞 Hot
-
普京回應(yīng)“朝軍援俄”傳聞
-
被批“中國有支票美國有清單”,他又畫餅忽悠…
-
又嗆上了:野蠻人也好意思自詡捍衛(wèi)文明…
-
沒中國能成嗎?澳大利亞部長這么說
-
特朗普威脅襲擊莫斯科市中心?普京回應(yīng)
-
“我們目前世界領(lǐng)先,但中國人正敲開我們的大門”
-
“我不太喜歡談?wù)摳偁?,但我開的是小米”
-
盧卡申科評“朝軍援俄”:胡說八道,普京不是這性格
-
“不止美德,北約至少七國反對”
-
華裔老板拒絕“背書”哈里斯,加州第一大報(bào)編委辭職
-
英高級外交官搶、奪、撕...扎哈羅娃怒斥
-
連他都不敢說,“怕被特朗普報(bào)復(fù)”
-
134條!金磚通過《喀山宣言》,“將在聯(lián)合國分發(fā)”
-
“我們愿做一切符合中國利益的事”
-
“重要盟友”想加入金磚,北約回應(yīng)
-
果然,她開始攪局…
-