熊節(jié)：拿起手機(jī)時(shí)，我們?cè)撊绾闻c算法抗?fàn)帲?/h3>

• 

  熊節(jié)華東師范大學(xué)國(guó)際傳播研究院全球南方研究中心主任

分享到：

2024-12-31 08:58:53 字號(hào)：A- A A+ 來(lái)源：觀察者網(wǎng)

編者按：近年來(lái)，網(wǎng)絡(luò)平臺(tái)算法逐漸從幕后走到臺(tái)前，走進(jìn)公眾的視野?！靶畔⒗O房”從傳播學(xué)的專業(yè)術(shù)語(yǔ)，變成人人有所耳聞的概念；“打榜”“買熱搜”不再限于飯圈，背后的相關(guān)產(chǎn)業(yè)也不再是秘密；越來(lái)越多的人意識(shí)到自己被大數(shù)據(jù)“殺熟”，外賣平臺(tái)通過(guò)算法壓榨騎手的現(xiàn)象也通過(guò)爆款文章傳遍全網(wǎng)，引發(fā)熱議，甚至改編進(jìn)影視劇。

11月12日，中央網(wǎng)信辦、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局等四部門聯(lián)合印發(fā)了《關(guān)于開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)的通知》，以治理網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題為主要任務(wù)，旨在整治信息繭房、操縱榜單、壓榨騎手、大數(shù)據(jù)殺熟等存在已久、關(guān)注度較高的典型問(wèn)題。

觀察者網(wǎng)對(duì)話華東師范大學(xué)國(guó)際傳播研究院全球南方研究中心主任熊節(jié)，他以通俗易懂的方式介紹與我們?nèi)粘Ｉ钕⑾⑾嚓P(guān)的算法機(jī)制，提出對(duì)相關(guān)問(wèn)題治理的看法。

【文/觀察者網(wǎng) 劉冶】

觀察者網(wǎng)：從用戶視角來(lái)看，平臺(tái)的各種算法都是“黑箱”，用戶只能看到算法最終呈現(xiàn)的結(jié)果，而無(wú)法知道算法具體的運(yùn)作機(jī)制；就算知道了，也會(huì)因?yàn)榧夹g(shù)復(fù)雜而難以理解。能否簡(jiǎn)單介紹一下常見(jiàn)的一些平臺(tái)算法？

熊節(jié)：可以舉兩個(gè)最常見(jiàn)的例子來(lái)說(shuō)明。

第一個(gè)是內(nèi)容推薦算法。這類算法應(yīng)用非常廣泛，從我們打開(kāi)每個(gè)APP的開(kāi)屏廣告，到APP推薦給我們的每條內(nèi)容，都是推薦算法計(jì)算的結(jié)果。推薦算法的運(yùn)作機(jī)制其實(shí)也并不復(fù)雜，甚至可以說(shuō)很簡(jiǎn)單。其實(shí)就是商家（也就是平臺(tái)）盡可能掌握用戶盡可能多的信息，掌握的信息越充分越全面，就可以給用戶推薦盡可能準(zhǔn)確的信息。這和自古以來(lái)做生意的邏輯其實(shí)也是一樣的。

推薦算法跟自古以來(lái)的每個(gè)老板最大的不同，就是它掌握的關(guān)于用戶的信息是極其大量的。一般來(lái)說(shuō)平臺(tái)會(huì)給用戶貼上幾千個(gè)甚至幾萬(wàn)個(gè)這樣數(shù)量級(jí)的標(biāo)簽，比如可以具體到你是否喜歡周杰倫、你是否喜歡五月天、你是否慶祝圣誕節(jié)、你以前圣誕節(jié)是吃飯還是看電影……這么細(xì)節(jié)的信息都可以逐個(gè)貼上標(biāo)簽。

而且各個(gè)平臺(tái)關(guān)于用戶的信息也是互相流通的，通過(guò)被稱為客戶數(shù)據(jù)平臺(tái)（CDP）的大數(shù)據(jù)系統(tǒng)，各個(gè)平臺(tái)都可以很有效地了解用戶的信息。

這種所有平臺(tái)對(duì)用戶的全方位的了解，就會(huì)造成所謂“信息繭房”的問(wèn)題。比如說(shuō)，每個(gè)平臺(tái)都知道我喜歡《黑神話：悟空》這個(gè)游戲，然后每個(gè)平臺(tái)都想爭(zhēng)奪我的瀏覽量，于是都給我推薦黑猴相關(guān)的文章和視頻。這就會(huì)給我造成一種印象，讓我感覺(jué)好像所有人都在耍猴、都在討論黑猴。這就是一種推薦算法造成的偏見(jiàn)。其實(shí)全國(guó)買了黑猴的也就2000萬(wàn)人，在整個(gè)人口里只是一個(gè)很小的比例。

如果這種偏見(jiàn)發(fā)生在一些社會(huì)和政治問(wèn)題上，就有可能使一些錯(cuò)誤的、偏執(zhí)的想法在一個(gè)信息繭房里被不斷強(qiáng)化和放大，嚴(yán)重的情況下有可能造成社會(huì)的分裂。

另一個(gè)例子是外賣騎手的派單算法。最近的電影《逆行人生》對(duì)這個(gè)問(wèn)題有很好的展示。算法可以給騎手分配高效的路線，這本來(lái)是件好事。但平臺(tái)同時(shí)又把騎手配送的實(shí)際數(shù)據(jù)輸入回去，根據(jù)實(shí)際數(shù)據(jù)不斷調(diào)高對(duì)騎手的要求，強(qiáng)迫騎手要跑得越來(lái)越快才能保持收入水平。這就形成了對(duì)騎手的壓榨，而且也造成了騎手和顧客之間的緊張關(guān)系。

《逆行人生》截圖

這兩個(gè)例子其實(shí)是有一定的共通性的。在這兩個(gè)例子中，算法都可以優(yōu)化某些計(jì)算結(jié)果（給用戶推薦什么內(nèi)容、給哪個(gè)騎手派哪一單）。但是“優(yōu)化”首先就要回答一個(gè)問(wèn)題：什么是“優(yōu)”。這個(gè)目的問(wèn)題不是算法本身能回答的，而是使用算法的平臺(tái)賦予它的。如果平臺(tái)的唯一目的是掙錢、提高利潤(rùn)率，那么信息繭房、壓榨騎手等情況毫無(wú)疑問(wèn)就會(huì)成為達(dá)成掙錢這一目的不可避免的代價(jià)。

從這個(gè)意義來(lái)說(shuō)，用戶看不懂算法運(yùn)作的內(nèi)部機(jī)制，只能看到算法運(yùn)作的結(jié)果，其實(shí)并不是一個(gè)大問(wèn)題，因?yàn)榇蟊娬嬲枰P(guān)心的就是結(jié)果。如果算法造成的結(jié)果對(duì)社會(huì)不利，它內(nèi)部是怎么運(yùn)作的并不重要，總之就是需要整改。

觀察者網(wǎng)：平臺(tái)一般需要從用戶那里收集哪些信息和數(shù)據(jù)？算法又是如何誘導(dǎo)用戶提供這些信息的？

熊節(jié)：根據(jù)國(guó)家網(wǎng)信辦2019年的《APP違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法》，手機(jī)APP必須清晰列出收集了哪些個(gè)人信息。比如在豆瓣APP的“設(shè)置->已收集個(gè)人信息”菜單下就可以看到，豆瓣APP收集了賬戶信息、用戶身份證明信息、生物識(shí)別信息、社交與內(nèi)容信息、用戶使用過(guò)程信息、設(shè)備信息這6大類的信息。

感興趣的用戶可以自行查看每個(gè)APP收集了自己哪些信息。如果哪個(gè)APP沒(méi)有類似的功能，用戶應(yīng)該是可以向國(guó)家網(wǎng)信辦舉報(bào)的。

按照《個(gè)人信息保護(hù)法》的定義，個(gè)人信息是與已識(shí)別或者可識(shí)別的自然人有關(guān)的各種信息，其中有些信息本身指向個(gè)人或者直接關(guān)聯(lián)到個(gè)人，如姓名、身份證、指紋、面部信息、數(shù)字ID等（稱為識(shí)別符），其余的信息本身不具有識(shí)別個(gè)人身份的屬性，但通過(guò)結(jié)合分析或關(guān)聯(lián)分析也可以使信息或數(shù)據(jù)集指向某特定自然人。

一般來(lái)說(shuō)，APP在法律許可的前提下，都是能收集的信息盡量收集。我覺(jué)得很難說(shuō)是“算法誘導(dǎo)用戶提供這些信息”，基本上應(yīng)當(dāng)假設(shè)在使用APP的過(guò)程中所有的信息（甚至包括在某個(gè)頁(yè)面停留了多久這么細(xì)節(jié)的信息）都會(huì)被收集。

觀察者網(wǎng)：盡管平臺(tái)在獲取用戶信息時(shí)，都有用戶須知之類的提示條款。但對(duì)于用戶來(lái)說(shuō)，這些條款過(guò)于冗長(zhǎng)和專業(yè)，很多時(shí)候并不能辨別出其中的陷阱。再加上平臺(tái)的強(qiáng)制性，如果不同意就無(wú)法使用平臺(tái)功能，用戶只能被動(dòng)接受。這種情況下，用戶如何維護(hù)自己的信息安全權(quán)益？

熊節(jié)：我認(rèn)為靠EULA（最終用戶許可協(xié)議）維權(quán)這種做法，本身就是美國(guó)壟斷企業(yè)創(chuàng)造出來(lái)的一種單邊霸權(quán)。第一，有幾個(gè)用戶會(huì)看這些條款，又有幾個(gè)用戶能看懂里面的彎彎繞，很少。第二，更關(guān)鍵的是，我看懂了，我覺(jué)得有問(wèn)題，然后我又能干啥？我朋友全都在用微信，領(lǐng)導(dǎo)天天用微信安排工作，我能說(shuō)我覺(jué)得微信的個(gè)人信息保護(hù)條款有問(wèn)題所以我不用微信嗎？

所以EULA這個(gè)東西需要有，但它的意義是明確相關(guān)法律法規(guī)的落地。也就是說(shuō)《個(gè)人信息保護(hù)法》、《網(wǎng)絡(luò)安全法》等等法律法規(guī)在EULA里都有所體現(xiàn)了，然后APP的行為又是按照EULA來(lái)執(zhí)行的，這是一條法律意義上的鏈條。但用戶真正要維護(hù)信息安全權(quán)益，還是應(yīng)該回到可觀察的外在行為這個(gè)層面上來(lái)。

比如說(shuō)我是淘寶的用戶，我懷疑淘寶是不是在用大數(shù)據(jù)殺我的熟，我用另一個(gè)手機(jī)號(hào)注冊(cè)一個(gè)新用戶，發(fā)現(xiàn)同樣的東西確實(shí)給到新用戶的價(jià)格比給到我這個(gè)88VIP的價(jià)格還低，那我就可以向網(wǎng)信部門舉報(bào)淘寶APP大數(shù)據(jù)殺熟。至于說(shuō)它這個(gè)價(jià)格歧視是不是符合EULA的規(guī)定，這個(gè)根本就不重要。

1 2 下一頁(yè) 余下全文

• 

|

舉報(bào)

• 違反法律法規(guī)
• 垃圾信息、廣告
• 色情、淫穢信息
• 人身攻擊
• 謠言、不實(shí)信息
• 冒充，冒用信息
• 破壞社區(qū)秩序
• 其他
• 涉未成年人有害信息

觀察者網(wǎng)舉報(bào)制度規(guī)范

確定 取消

標(biāo)簽 互聯(lián)網(wǎng)平臺(tái)算法

本文僅代表作者個(gè)人觀點(diǎn)。
• 責(zé)任編輯: 劉冶 

相關(guān)推薦
• 

  研制成功！我國(guó)這一關(guān)鍵技術(shù)實(shí)現(xiàn)重大突破

  2024-12-30 14:59 中國(guó)精造
• 

  華為：懸賞300萬(wàn)元

  2024-12-30 10:08 華為
• 

  我國(guó)新一代智能高鐵有望2027年落地

  2024-12-30 09:02 高鐵世紀(jì)
• 

  “量子”狼不再嚇崩比特幣

  2024-12-30 08:24 心智觀察所
• 

  又添一大國(guó)利器！“探索三號(hào)”正式入列

  2024-12-29 10:44 中國(guó)精造
• 

  我國(guó)首次實(shí)現(xiàn)！又一重大突破

  2024-12-28 21:08 航空航天
• 

  嫦娥五號(hào)月球樣品向公眾開(kāi)放！

  2024-12-28 16:12 航空航天
• 

  我國(guó)氫氧旋轉(zhuǎn)爆震火箭發(fā)動(dòng)機(jī)長(zhǎng)時(shí)熱試驗(yàn)圓滿成功

  2024-12-28 14:36 航空航天
• 

  登月探測(cè)器“倒栽蔥”，日本公布原因

  2024-12-27 12:10 航空航天
• 

  谷歌量子計(jì)算芯片給了國(guó)內(nèi)產(chǎn)業(yè)界緊迫感

  2024-12-27 10:57 心智觀察所
• 

  《心智對(duì)話》直播：世界科創(chuàng)的舊中心與新勢(shì)力

  2024-12-23 18:59 觀察者頭條
• 

  獨(dú)家對(duì)話|周毅恩：必須向“第四大排放國(guó)”下重手

  2024-12-22 09:35 心智觀察所
• 

  《自然》：2025年值得關(guān)注的科學(xué)事件，中國(guó)“讀腦術(shù)”入選

  2024-12-20 08:57 科技前沿
• 

  人類首份月背古磁場(chǎng)信息！嫦娥六號(hào)月球樣品最新研究成果發(fā)布

  2024-12-20 06:46 嫦娥奔月
• 

  云計(jì)算這個(gè)美國(guó)對(duì)華封鎖的重點(diǎn)領(lǐng)域，二次長(zhǎng)征勢(shì)在必行

  2024-12-19 08:23 心智觀察所
• 

  首次整機(jī)試驗(yàn)成功！我國(guó)大推力氫氧火箭有突破性進(jìn)展

  2024-12-18 18:24 航空航天
• 

  嫦娥六號(hào)、Sora等入選2024全球十大工程成就

  2024-12-18 14:49 科技前沿
• 

  再次刷新紀(jì)錄！

  2024-12-17 22:00 航空航天
• 

  航行警告：黃海部分海域進(jìn)行火箭發(fā)射

  2024-12-17 16:57 航空航天
• 

  “真假5G”之爭(zhēng)，成為了國(guó)產(chǎn)射頻發(fā)力趕超的助推器

  2024-12-17 08:28 心智觀察所