誕生于1946年的電子計算機，把人類帶入了“智能紀元”。它是一種“意識工具”，不同于人類以往所有的“物質工具”。2010年以來，算力資源的量變帶來質變，到了2023年，這一變化終于使更多普通人得以感知，也帶來了巨大的治理挑戰(zhàn)。

這方面，中國已經開始行動。4月11日，國家互聯(lián)網信息辦公室起草的《生成式人工智能服務管理辦法（征求意見稿）》向社會公開征求意見，意見反饋截止時間為2023年5月10日。觀察者網就相關話題對話清華大學電子工程系博士、中科院工程序列任職資格評審委員會主任、北京東方通科技股份有限公司首席科學家謝耘，實錄如下：

觀察者網：3月份以來，基于OpenAI自然語言大模型GPT3.5的ChatGPT成為焦點。它不但引爆輿論、席卷國內資本市場，而且讓國家互聯(lián)網信息辦公室迅速起草《生成式人工智能服務管理辦法（征求意見稿）》并公開征求意見。我們也想請您就這個話題做一些討論，您認為，從社會治理角度來說，挑戰(zhàn)主要來自哪里？

謝耘：這是一個比較大也比較深刻的話題。我此前在不同場合說過，信息技術為人類帶來了一種“意識工具”，它不同于人類以往所有的“物質工具”，因此，誕生于1946年的電子計算機把人類帶入了“智能紀元”。只不過，它之前的能力還比較弱小，很多人沒有意識到這種變化的重要性，但是2010年以來，算力資源的量變帶來質變，到了2023年，這一變化終于使更多普通人得以感知。

為了便于理解，我想稍微展開一下，先從信息技術的本質說起?，F在主流的科技界認為，信息是構成世界的三大要素之一，一是物質，一是能量，一是信息。雖然這個說法寫進了標準的教科書，但我認為這是錯的，至少“信息技術”涉及的信息不是客觀的。舉個例子，人類曾經擁有的儲藏知識信息最集中的地方是什么？是圖書館。那么，假設人類消失了，圖書館里所有的藏品還具有任何“信息”的意義嗎？那些紙上印的也罷，數字化的也罷，它還會和客觀世界的任何東西發(fā)生互動嗎？所以，信息是人的意識層面的東西。

再來談計算機，計算機本質上是用于對數字化的信息做可編程的邏輯數值計算與處理，其中有兩個要素，第一，是數字化的信息；第二，對邏輯數值計算與處理。

信息，它既是人的意識活動的產物，也是人的意識活動的最核心要素，信息本質上是意識范疇的存在，而與信息相關的活動，本質上都是意識性的活動。

程序，是人們對邏輯數值的計算與處理的操作，把這些操作排成序列，用它來處理信息。這個過程屬于物質性過程還是意識性過程？顯然是意識性的過程，它把原來在大腦里進行的意識過程外化，變成一段程序，交給計算機去做。

這是我基本的分析邏輯。第一，信息屬于意識范疇；第二，與信息相關的過程本質上都是意識過程；第三，計算機程序是人的意識的一種外化，計算機運行的過程，其實是一種意識性的過程。

原先，所有的意識都局限在人類每個人的腦袋里，計算機的出現讓意識從我們的大腦里蹦出來，從而脫離了我們的大腦，可以由計算機的CPU去做，所以，信息技術應用本質上就是人的內意識的外化，我管它叫“外意識”。這就是計算機的“意識性工具”的本質。

我們國家有一個部委的名稱是“工業(yè)和信息化部”，大家有沒有注意過，這個名字很奇怪？我的看法是，它意味著信息化這個概念是沒法包含在工業(yè)范疇內的?；赝祟惪茖W技術發(fā)展的總過程，科技是第一生產力，人類文明的發(fā)展是由工具的不斷進步來推動的，直到電子計算機出現之前，我們工具的主線是作用于物質對象。人類演化幾十萬年以來，我們所有的工具都是物質性的工具，這不是說工具本身是物質，而是說這個工具的作用是物質性的作用，概無例外。

直到1946年，計算機出現，人類第一次有了一個意識性的工具。這個工具作用的對象不是物質，而是作用在意識對象上。從此開始，主線發(fā)生了分叉，人類擁有了兩種工具，一種是物質性的工具，一種是意識性的工具。這兩種工具不是割裂開的，意識性的工具是建立在物質科學基礎之上的，但反過來，意識性的工具，又可以植入到物質性的工具里，比如讓汽車變成智能汽車。

所以我認為，人類文明從1946年開始進入了一個全新的紀元。

但是，人類創(chuàng)造計算機的時候，沒有完全意識到這件事情，一是由于思維慣性，因為我們之前所有的工具都是物質性的工具；二是計算機誕生之初還很弱，沒有展現出那么強的顛覆性。直到2010年，計算機的算力從量變積累到了質變。1976年，美國制造了第一臺超級計算機，運算速度是每秒1億次浮點運算，中國1983年造了第一臺超級計算機，也是每秒1億次浮點運算。這都是當年的國之重器，這樣的算力，只能勉強處理圖片，但我們今天的每部手機都能處理視頻，這不是一個數量級的進步。

在2010年前，信息產業(yè)業(yè)界最大的事情往往是英特爾發(fā)布了新的處理器，今天，沒有人再關心處理器的問題，因為算力極大豐富了。也就是在2010年前后，大數據應用涌現了，因為算力能夠支撐了；人工智能熱起來了，因為人工智能本質上是一個數據統(tǒng)計技術，也需要大量算力。2010年之后，計算機硬件的能力不再制約軟件的發(fā)展，信息技術產業(yè)“意識性”的特質，自此才逐步顯現出來，無論是區(qū)塊鏈，還是深度學習的人工神經網絡，這些創(chuàng)新都是不受物理規(guī)律限制的，因為它是一種意識范疇的創(chuàng)新。

回到你的問題，“生成式人工智能”帶來的挑戰(zhàn)，實際上起始于1946年“智能紀元”的開端，它是人類社會共同面臨的一次變革，只不過現在才顯現出來。

計算機是一個意識工具，這是一個非常本質的事情，帶來的挑戰(zhàn)非常大，要治理“生成式人工智能”，相當于要管人的思想。幾千年來，人類對于怎么管理物質還是積累了足夠多的經驗，一旦涉及到精神意識層面，其實就有點亂。從倫理、道德、宗教、意識形態(tài)、各路學說等等，都是這樣，這不光是中國的問題，美國對互聯(lián)網的治理同樣亂象叢生，因為人類沒有對意識領域的治理積累足夠的經驗。

觀察者網：我插一個小問題，您剛才舉的一個例子說，圖書館是人類信息的集中地，如果我們順著這個思路，那么在人類發(fā)展的歷史中，其實已經有若干次這樣的信息爆炸，也伴隨著時代變化的挑戰(zhàn)，首先是出現文字，然后是紙的發(fā)明，接著是印刷術，然后是活字印刷術，那么計算機或者人工智能帶來最新的一次信息爆炸，一是必然帶來社會變革，二是只是一系列挑戰(zhàn)之一，能否這樣理解？

謝耘：我們可以說，這些某種意義上也是信息的革命，比如出現文字，但它只是“信息”的記錄和傳播，也就是說記錄和傳播“意識的產物”，比如報紙上的文章，它已經是靜態(tài)的東西了。但信息技術處理的是意識的活動，它是“活的”，在這個意義上，它完全上了一個檔次。

觀察者網：能不能認為這是生產力發(fā)展對生產關系的一個挑戰(zhàn)？

謝耘：我覺得這要從兩方面看，首先，它是生產力的一種發(fā)展，傳統(tǒng)的生產力指的是通過物質性工具創(chuàng)造物質財富的手段，那么，信息技術作為意識性工具，它能賦能物質性工具，提高其創(chuàng)造物質財富的能力。

信息技術的發(fā)展已經讓所有人受益。幾年前施瓦布提出“第四次工業(yè)革命”，新材料、新能源等等領域的新發(fā)展，背后真正的推動力都是信息技術。

近年來，材料科學發(fā)展突飛猛進，因為計算機可以做大量模擬，不像傳統(tǒng)那樣需要做大量物理、化學實驗，節(jié)省大量時間和資源成本。

再比如說醫(yī)療，現在的影像醫(yī)學與人工智能的結合速度非?？欤瑯O大提升了診斷效率。

信息技術解決了工業(yè)社會一直無法解決的一對矛盾，就是大規(guī)模生產與個性化無法統(tǒng)一的問題。信息技術賦能產業(yè)鏈之后，大規(guī)模的個性化生產成為可能。而且，定制化生產的衣服比標準化生產的衣服還要便宜。因為在標準化生產中，產能的安排遠落后于市場需求變化，往往導致大量的庫存積壓，這些成本最后仍然要平攤到消費者頭上，但是實現定制化柔性制造以后，按需生產就成為可能。

所以在以后的社會里，即使一個人不懂信息技術，他仍然非?？赡苁芤嬗谛畔⒓夹g，實現很多個人的發(fā)展和追求。因為信息技術會成為社會的一個公共基礎，讓所有人受益。

同時，信息技術的另外一個屬性并不促進物質生產，而是直接介入了意識形態(tài)，比如電子游戲、AIGC等等，雖然沒有產生物質財富，但也能產生經濟活動。