誕生于1946年的電子計(jì)算機(jī)，把人類帶入了“智能紀(jì)元”。它是一種“意識(shí)工具”，不同于人類以往所有的“物質(zhì)工具”。2010年以來，算力資源的量變帶來質(zhì)變，到了2023年，這一變化終于使更多普通人得以感知，也帶來了巨大的治理挑戰(zhàn)。

這方面，中國(guó)已經(jīng)開始行動(dòng)。4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室起草的《生成式人工智能服務(wù)管理辦法（征求意見稿）》向社會(huì)公開征求意見，意見反饋截止時(shí)間為2023年5月10日。觀察者網(wǎng)就相關(guān)話題對(duì)話清華大學(xué)電子工程系博士、中科院工程序列任職資格評(píng)審委員會(huì)主任、北京東方通科技股份有限公司首席科學(xué)家謝耘，實(shí)錄如下：

觀察者網(wǎng)：3月份以來，基于OpenAI自然語言大模型GPT3.5的ChatGPT成為焦點(diǎn)。它不但引爆輿論、席卷國(guó)內(nèi)資本市場(chǎng)，而且讓國(guó)家互聯(lián)網(wǎng)信息辦公室迅速起草《生成式人工智能服務(wù)管理辦法（征求意見稿）》并公開征求意見。我們也想請(qǐng)您就這個(gè)話題做一些討論，您認(rèn)為，從社會(huì)治理角度來說，挑戰(zhàn)主要來自哪里？

謝耘：這是一個(gè)比較大也比較深刻的話題。我此前在不同場(chǎng)合說過，信息技術(shù)為人類帶來了一種“意識(shí)工具”，它不同于人類以往所有的“物質(zhì)工具”，因此，誕生于1946年的電子計(jì)算機(jī)把人類帶入了“智能紀(jì)元”。只不過，它之前的能力還比較弱小，很多人沒有意識(shí)到這種變化的重要性，但是2010年以來，算力資源的量變帶來質(zhì)變，到了2023年，這一變化終于使更多普通人得以感知。

為了便于理解，我想稍微展開一下，先從信息技術(shù)的本質(zhì)說起?，F(xiàn)在主流的科技界認(rèn)為，信息是構(gòu)成世界的三大要素之一，一是物質(zhì)，一是能量，一是信息。雖然這個(gè)說法寫進(jìn)了標(biāo)準(zhǔn)的教科書，但我認(rèn)為這是錯(cuò)的，至少“信息技術(shù)”涉及的信息不是客觀的。舉個(gè)例子，人類曾經(jīng)擁有的儲(chǔ)藏知識(shí)信息最集中的地方是什么？是圖書館。那么，假設(shè)人類消失了，圖書館里所有的藏品還具有任何“信息”的意義嗎？那些紙上印的也罷，數(shù)字化的也罷，它還會(huì)和客觀世界的任何東西發(fā)生互動(dòng)嗎？所以，信息是人的意識(shí)層面的東西。

再來談?dòng)?jì)算機(jī)，計(jì)算機(jī)本質(zhì)上是用于對(duì)數(shù)字化的信息做可編程的邏輯數(shù)值計(jì)算與處理，其中有兩個(gè)要素，第一，是數(shù)字化的信息；第二，對(duì)邏輯數(shù)值計(jì)算與處理。

信息，它既是人的意識(shí)活動(dòng)的產(chǎn)物，也是人的意識(shí)活動(dòng)的最核心要素，信息本質(zhì)上是意識(shí)范疇的存在，而與信息相關(guān)的活動(dòng)，本質(zhì)上都是意識(shí)性的活動(dòng)。

程序，是人們對(duì)邏輯數(shù)值的計(jì)算與處理的操作，把這些操作排成序列，用它來處理信息。這個(gè)過程屬于物質(zhì)性過程還是意識(shí)性過程？顯然是意識(shí)性的過程，它把原來在大腦里進(jìn)行的意識(shí)過程外化，變成一段程序，交給計(jì)算機(jī)去做。

這是我基本的分析邏輯。第一，信息屬于意識(shí)范疇；第二，與信息相關(guān)的過程本質(zhì)上都是意識(shí)過程；第三，計(jì)算機(jī)程序是人的意識(shí)的一種外化，計(jì)算機(jī)運(yùn)行的過程，其實(shí)是一種意識(shí)性的過程。

原先，所有的意識(shí)都局限在人類每個(gè)人的腦袋里，計(jì)算機(jī)的出現(xiàn)讓意識(shí)從我們的大腦里蹦出來，從而脫離了我們的大腦，可以由計(jì)算機(jī)的CPU去做，所以，信息技術(shù)應(yīng)用本質(zhì)上就是人的內(nèi)意識(shí)的外化，我管它叫“外意識(shí)”。這就是計(jì)算機(jī)的“意識(shí)性工具”的本質(zhì)。

我們國(guó)家有一個(gè)部委的名稱是“工業(yè)和信息化部”，大家有沒有注意過，這個(gè)名字很奇怪？我的看法是，它意味著信息化這個(gè)概念是沒法包含在工業(yè)范疇內(nèi)的?；赝祟惪茖W(xué)技術(shù)發(fā)展的總過程，科技是第一生產(chǎn)力，人類文明的發(fā)展是由工具的不斷進(jìn)步來推動(dòng)的，直到電子計(jì)算機(jī)出現(xiàn)之前，我們工具的主線是作用于物質(zhì)對(duì)象。人類演化幾十萬年以來，我們所有的工具都是物質(zhì)性的工具，這不是說工具本身是物質(zhì)，而是說這個(gè)工具的作用是物質(zhì)性的作用，概無例外。

直到1946年，計(jì)算機(jī)出現(xiàn)，人類第一次有了一個(gè)意識(shí)性的工具。這個(gè)工具作用的對(duì)象不是物質(zhì)，而是作用在意識(shí)對(duì)象上。從此開始，主線發(fā)生了分叉，人類擁有了兩種工具，一種是物質(zhì)性的工具，一種是意識(shí)性的工具。這兩種工具不是割裂開的，意識(shí)性的工具是建立在物質(zhì)科學(xué)基礎(chǔ)之上的，但反過來，意識(shí)性的工具，又可以植入到物質(zhì)性的工具里，比如讓汽車變成智能汽車。

所以我認(rèn)為，人類文明從1946年開始進(jìn)入了一個(gè)全新的紀(jì)元。

但是，人類創(chuàng)造計(jì)算機(jī)的時(shí)候，沒有完全意識(shí)到這件事情，一是由于思維慣性，因?yàn)槲覀冎八械墓ぞ叨际俏镔|(zhì)性的工具；二是計(jì)算機(jī)誕生之初還很弱，沒有展現(xiàn)出那么強(qiáng)的顛覆性。直到2010年，計(jì)算機(jī)的算力從量變積累到了質(zhì)變。1976年，美國(guó)制造了第一臺(tái)超級(jí)計(jì)算機(jī)，運(yùn)算速度是每秒1億次浮點(diǎn)運(yùn)算，中國(guó)1983年造了第一臺(tái)超級(jí)計(jì)算機(jī)，也是每秒1億次浮點(diǎn)運(yùn)算。這都是當(dāng)年的國(guó)之重器，這樣的算力，只能勉強(qiáng)處理圖片，但我們今天的每部手機(jī)都能處理視頻，這不是一個(gè)數(shù)量級(jí)的進(jìn)步。

在2010年前，信息產(chǎn)業(yè)業(yè)界最大的事情往往是英特爾發(fā)布了新的處理器，今天，沒有人再關(guān)心處理器的問題，因?yàn)樗懔O大豐富了。也就是在2010年前后，大數(shù)據(jù)應(yīng)用涌現(xiàn)了，因?yàn)樗懔δ軌蛑瘟?；人工智能熱起來了，因?yàn)槿斯ぶ悄鼙举|(zhì)上是一個(gè)數(shù)據(jù)統(tǒng)計(jì)技術(shù)，也需要大量算力。2010年之后，計(jì)算機(jī)硬件的能力不再制約軟件的發(fā)展，信息技術(shù)產(chǎn)業(yè)“意識(shí)性”的特質(zhì)，自此才逐步顯現(xiàn)出來，無論是區(qū)塊鏈，還是深度學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)，這些創(chuàng)新都是不受物理規(guī)律限制的，因?yàn)樗且环N意識(shí)范疇的創(chuàng)新。

回到你的問題，“生成式人工智能”帶來的挑戰(zhàn)，實(shí)際上起始于1946年“智能紀(jì)元”的開端，它是人類社會(huì)共同面臨的一次變革，只不過現(xiàn)在才顯現(xiàn)出來。

計(jì)算機(jī)是一個(gè)意識(shí)工具，這是一個(gè)非常本質(zhì)的事情，帶來的挑戰(zhàn)非常大，要治理“生成式人工智能”，相當(dāng)于要管人的思想。幾千年來，人類對(duì)于怎么管理物質(zhì)還是積累了足夠多的經(jīng)驗(yàn)，一旦涉及到精神意識(shí)層面，其實(shí)就有點(diǎn)亂。從倫理、道德、宗教、意識(shí)形態(tài)、各路學(xué)說等等，都是這樣，這不光是中國(guó)的問題，美國(guó)對(duì)互聯(lián)網(wǎng)的治理同樣亂象叢生，因?yàn)槿祟悰]有對(duì)意識(shí)領(lǐng)域的治理積累足夠的經(jīng)驗(yàn)。

觀察者網(wǎng)：我插一個(gè)小問題，您剛才舉的一個(gè)例子說，圖書館是人類信息的集中地，如果我們順著這個(gè)思路，那么在人類發(fā)展的歷史中，其實(shí)已經(jīng)有若干次這樣的信息爆炸，也伴隨著時(shí)代變化的挑戰(zhàn)，首先是出現(xiàn)文字，然后是紙的發(fā)明，接著是印刷術(shù)，然后是活字印刷術(shù)，那么計(jì)算機(jī)或者人工智能帶來最新的一次信息爆炸，一是必然帶來社會(huì)變革，二是只是一系列挑戰(zhàn)之一，能否這樣理解？

謝耘：我們可以說，這些某種意義上也是信息的革命，比如出現(xiàn)文字，但它只是“信息”的記錄和傳播，也就是說記錄和傳播“意識(shí)的產(chǎn)物”，比如報(bào)紙上的文章，它已經(jīng)是靜態(tài)的東西了。但信息技術(shù)處理的是意識(shí)的活動(dòng)，它是“活的”，在這個(gè)意義上，它完全上了一個(gè)檔次。

觀察者網(wǎng)：能不能認(rèn)為這是生產(chǎn)力發(fā)展對(duì)生產(chǎn)關(guān)系的一個(gè)挑戰(zhàn)？

謝耘：我覺得這要從兩方面看，首先，它是生產(chǎn)力的一種發(fā)展，傳統(tǒng)的生產(chǎn)力指的是通過物質(zhì)性工具創(chuàng)造物質(zhì)財(cái)富的手段，那么，信息技術(shù)作為意識(shí)性工具，它能賦能物質(zhì)性工具，提高其創(chuàng)造物質(zhì)財(cái)富的能力。

信息技術(shù)的發(fā)展已經(jīng)讓所有人受益。幾年前施瓦布提出“第四次工業(yè)革命”，新材料、新能源等等領(lǐng)域的新發(fā)展，背后真正的推動(dòng)力都是信息技術(shù)。

近年來，材料科學(xué)發(fā)展突飛猛進(jìn)，因?yàn)橛?jì)算機(jī)可以做大量模擬，不像傳統(tǒng)那樣需要做大量物理、化學(xué)實(shí)驗(yàn)，節(jié)省大量時(shí)間和資源成本。

再比如說醫(yī)療，現(xiàn)在的影像醫(yī)學(xué)與人工智能的結(jié)合速度非常快，極大提升了診斷效率。

信息技術(shù)解決了工業(yè)社會(huì)一直無法解決的一對(duì)矛盾，就是大規(guī)模生產(chǎn)與個(gè)性化無法統(tǒng)一的問題。信息技術(shù)賦能產(chǎn)業(yè)鏈之后，大規(guī)模的個(gè)性化生產(chǎn)成為可能。而且，定制化生產(chǎn)的衣服比標(biāo)準(zhǔn)化生產(chǎn)的衣服還要便宜。因?yàn)樵跇?biāo)準(zhǔn)化生產(chǎn)中，產(chǎn)能的安排遠(yuǎn)落后于市場(chǎng)需求變化，往往導(dǎo)致大量的庫存積壓，這些成本最后仍然要平攤到消費(fèi)者頭上，但是實(shí)現(xiàn)定制化柔性制造以后，按需生產(chǎn)就成為可能。

所以在以后的社會(huì)里，即使一個(gè)人不懂信息技術(shù)，他仍然非?？赡苁芤嬗谛畔⒓夹g(shù)，實(shí)現(xiàn)很多個(gè)人的發(fā)展和追求。因?yàn)樾畔⒓夹g(shù)會(huì)成為社會(huì)的一個(gè)公共基礎(chǔ)，讓所有人受益。

同時(shí)，信息技術(shù)的另外一個(gè)屬性并不促進(jìn)物質(zhì)生產(chǎn)，而是直接介入了意識(shí)形態(tài)，比如電子游戲、AIGC等等，雖然沒有產(chǎn)生物質(zhì)財(cái)富，但也能產(chǎn)生經(jīng)濟(jì)活動(dòng)。