觀察者網(wǎng)：提升算法的透明度，對于解決因為算法造成的信息繭房、大數(shù)據(jù)殺熟等問題，有多大作用？

熊節(jié)：坦率地說，我覺得作用可能有限。

第一，所謂提升算法透明度，其實還是個專業(yè)性很強的概念。比如說在訓練人工智能的時候，如果用回歸算法就比較容易追溯回去知道是哪些因素對結(jié)果影響的權(quán)重比較高，如果用卷積神經(jīng)網(wǎng)絡(luò)算法就比較難追溯。但是這個“透明度”還是只有很少數(shù)的專業(yè)人士能看得懂，普通用戶、律師、學者、政策制定者等等是不太可能看得懂的。

第二，算法審計本身就是一個很大的工作，需要平臺配合，進行專門的技術(shù)性測試。例如平臺給搭一個測試環(huán)境，準備一套測試數(shù)據(jù)，然后審計人員在其中去觀察效果。并不是平臺提升了算法透明度然后就誰都可以來驗證一下的。

國外有一些社會組織，嘗試獨立于政府和平臺來做第三方的算法審計。比如美國有一個NGO叫“不結(jié)盟技術(shù)運動”（Non-Aligned Technologies Movement，簡稱NATM）提出了一個叫“算法觀察站”（Algorithm Observatory）的概念，通過獨立測試來剖析和發(fā)現(xiàn)科技巨頭使用的算法中存在的危害。

還有個叫“數(shù)據(jù)與社會”（Data & Society）的NGO去年啟動了一個“算法影響方法實驗室”（Algorithmic Impact Methods Lab，或簡稱AIMLab），目標是開發(fā)必要的審計方法，以評估日益普及的自動決策系統(tǒng)如何影響人們的生活和整個社會。

現(xiàn)實是這些嘗試都搞得不咋好，沒搞出什么成果。因為沒有企業(yè)配合的情況下，想獨立搞算法審計是很困難的。比如我舉個最簡單的例子，所有人都知道Facebook有shadowban的算法，會對支持巴勒斯坦的內(nèi)容限流，但是到現(xiàn)在也沒人能拿出特別實在的證據(jù)說明shadowban的邏輯到底是怎么樣的，因為獨立的算法審計就是很困難。而企業(yè)在沒有政府壓力的情況下，是不會有動力配合第三方算法審計的。

當然我國在這方面比美國有制度優(yōu)勢，也許未來國家可以給平臺企業(yè)施加壓力，令其接受第三方算法審計和監(jiān)管。在這種情況下，算法透明度就會很有意義了。在此之前，解決算法帶來的問題，主要還是從外部可觀察的行為入手，對企業(yè)提出要求，然后企業(yè)自己整改。提升算法透明度對于企業(yè)整改相關(guān)問題也會有幫助，不過那就是企業(yè)內(nèi)部的事了。

觀察者網(wǎng)：用戶可以通過哪些方式意識到自己被算法“算計”了？為減少“大數(shù)據(jù)殺熟”“信息繭房”困擾，一些年輕人正試圖反向馴化算法。這種反向馴化是否有可能打破算法規(guī)律？

熊節(jié)：如果你發(fā)現(xiàn)你成天看見的內(nèi)容，都是你已經(jīng)在關(guān)注、已經(jīng)在感興趣的問題（不管是支持還是反對你的觀點），那就說明你很有可能正在被套進信息繭房。

從推薦算法實現(xiàn)的技術(shù)來看，我覺得“反向馴化”（我的理解是，比如說，故意點一些以前不會看的內(nèi)容，故意贊一些自己反對的觀點，之類的）可能效果不見得很好，因為推薦算法掌握的是關(guān)于你的幾千個標簽。你通過反向馴化改變其中幾個標簽的值，我猜可能對推薦算法的影響不太大。當然我沒有親測過，希望看到其他人分享親測的經(jīng)驗。

我個人親測有效的實踐就是把個性化推薦關(guān)掉，索性不要平臺給我個性化推薦。之前我在觀察者網(wǎng)有篇文章也講過這個問題。從2022年《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》實施以來，所有APP都必須提供關(guān)閉算法推薦服務的選項。自從我把知乎和B站的算法推薦服務選項關(guān)閉以后，很明顯我看到的世界就變得更豐富多樣了。當然也會看到更多跟我觀點不一樣的、有時候是讓我生氣的內(nèi)容，我就會告訴自己，這就是跳出信息繭房的標志。

但是豆瓣這個平臺很有意思，我關(guān)閉了算法推薦服務選項它還是照舊一直給我推性別對立的內(nèi)容，也可能這不是它的個性化推薦，而是這個平臺整體的推薦吧。

觀察者網(wǎng)：近期中央網(wǎng)信辦等四部門聯(lián)合印發(fā)了《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動的通知》。類似專項行動一般采取企業(yè)先自查自糾，再由有關(guān)部門核驗企業(yè)自查情況的方式進行整治。這樣的方式能否有效地改善算法典型問題？如何避免企業(yè)陽奉陰違、有關(guān)部門睜一只眼閉一只眼等情況，導致專項行動無法落到實處？為了真正將整治落到實處，在技術(shù)層面上可以采取哪些手段？

熊節(jié)：我還是這個觀點：針對算法的治理，最終要用效果來說話。比如說壓榨騎手的問題，它本質(zhì)上是一個新技術(shù)環(huán)境下新形態(tài)就業(yè)勞動者權(quán)益保障的問題。也就是說，雖然就業(yè)的形態(tài)不同、勞動的方式不同，但是我們都要認同，外賣騎手跟建筑工人一樣，都是社會主義中國的勞動者，他們都應該享受同等規(guī)格的勞動者權(quán)益，比如說要有適當?shù)膭谝萁Y(jié)合、要有社保和醫(yī)保、工作時間內(nèi)受了工傷要有醫(yī)療覆蓋，等等。

那么最終問責到平臺的就是這些問題：騎手每天工作幾個小時？工作期間是否有必要的休息？勞動強度是否過大？身體和心理健康是否有系統(tǒng)性的隱患？配送期間出了車禍怎么辦？等等等等。平臺要自己去改善算法回應這些問題。

如果這些問題回應不好，平臺說自己算法已經(jīng)治理好了，那是沒有用的，也沒人會接受這個托詞。所以技術(shù)層面上的手段應該主要是企業(yè)內(nèi)部考慮的，企業(yè)之外大家還是應該主要關(guān)注最終表現(xiàn)出來的效果。這也是一種對算法祛魅的方式：算法只是一個工具，不能拿工具來作為企業(yè)責任缺失的借口。

信息繭房的問題，相對就更復雜一些，因為它還涉及到一個新聞傳播的問題。我曾經(jīng)跟央視頻APP的楊繼紅主任聊出過一個想法，說早晚咱們得讓推薦算法來推薦愛國主義的、社會主義的內(nèi)容，要讓推薦算法成為中國特色新聞學的一個前沿陣地。

這次三中全會提到要推進主流媒體系統(tǒng)性變革，我認為可能不僅是主流媒體本身需要系統(tǒng)性變革、需要用技術(shù)賦能，可能還應該把眼界放開，考慮所有的APP，所有的推薦算法，其實都是意識形態(tài)戰(zhàn)場的一部分，都需要系統(tǒng)性變革。比如說知乎每天讓我看什么問題，B站每天給我看什么視頻，這怎么不是意識形態(tài)主戰(zhàn)場呢？

所以一方面我們要防范信息繭房，另一方面也要考慮如何用好推薦算法，使其在潛移默化中做到“以科學的理論武裝人，以正確的輿論引導人，以高尚的精神塑造人，以優(yōu)秀的作品鼓舞人”。這里面需要的考量可能就更復雜，是一個跨部門的大工程，特別是需要馬克思主義新聞觀在里面提供指導。

本文系觀察者網(wǎng)獨家稿件，文章內(nèi)容純屬作者個人觀點，不代表平臺觀點，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。