主持人：我還可以舉個例子，比如給農業(yè)生產賦能。種植農作物的時候，通過人工智能的一些設備輔助，可以非常精準地感受到植物的生長狀況，可以讓生長周期再快一點或者再緩一點來滿足外界的需求。所以千行百業(yè)都可以接受人工智能的服務。當然我們剛才說的是人工智能賦能的一部分，為什么我們會這么關心人工智能？是因為大家看到它帶來的能量之外，也有擔憂。人工智能未來會不會產生一些顛覆性的變革？

張教授：我看到有一個報道，關于美國國防部的一項試驗，說是一個人控制無人機打仗，然后他給無人機下命令說你必須停止發(fā)射，結果無人機把這個指揮員打死了。因為它通過大數據積累判斷，認為你的指令不符合我的利益，就把你打死了。但是后來美國國防部說這不是真實發(fā)生的事情，而只是他們預設的一個場景，但他辟謠辟得晚了。同時，人們也覺得這種情況是完全可能的。

主持人：類似這種情節(jié)，我們在科幻電影里看到過。以往可能大家覺得這個事離我們很遙遠，但像這種通用的生成式人工智能的出現，突然一下覺得這個隱憂不得不重視起來?，F在有不少的科學家都已經提出來，生成式人工智能的發(fā)展要緩一緩。

孫教授：剛才張教授舉的那個例子，其實專用人工智能就可以，而且我相信它已經是現實的，已經不是科幻電影了。比如把物體識別能力再加上某些定位，再加上機器人有執(zhí)行能力，所以我覺得應該已經存在危險。

主持人：孫教授能否給大家做一個解讀，我們現在整個人工智能的發(fā)展到了什么樣的水平和狀態(tài)？在上海舉行的世界人工智能大會，每年都有熱詞，今年討論的就是大模型。您剛說“三大”，大數據、大模型、大算力，您能不能給我們做個介紹，世界人工智能的領域和中國目前是怎樣的發(fā)展水平？

孫教授：我們國家和全球在人工智能領域的發(fā)展水平對比，在ChatGPT之前應該說差不太多，一般美國是領跑，我們是跟跑，這是一個總的狀況，但我們跟得比較快，我覺得比美國差半個肩膀。但這次ChatGPT出來，一下子把我們甩掉了一百米。從通用人工智能角度來看，我們和ChatGPT有非常大的距離。但從它的專用能力來看，大模型有專用能力，應該是差不多。通用能力，可以有些例子去測試，ChatGPT4，你給它一些問題，回答得還都比較靠譜。我們自己的系統(tǒng)，有時候測試會產生一個不錯的句子，你會覺得懸的心好像放下了，但實際上還是有很大差距。

主持人：這一次世界人工智能大會上有幾十家大模型的相關院校、廠家、企業(yè)等，都拿出自己的作品來參與展覽。大家意識到，我們在通用型的生成式人工智能這一塊有比較大的距離，所以很多設計方、科研機構都開始發(fā)力追趕。

張教授：中國人看得很清楚，我們的差距在哪里，哪些地方是有優(yōu)勢的，哪些地方是有劣勢的，然后想辦法彌補。我看了這次華為發(fā)布的一些報道，他們做事情也是從源頭，包括從芯片和大模型開始做很多事情。

孫教授：我剛才講，我們的大模型的專用性還是沒問題的，它即使不具備通用性，但結合各個行業(yè)能發(fā)揮很大的效果。

張教授：任正非有一個判斷：人工智能軟件平臺對人類社會的直接貢獻可能不到2%，而98%應該是對經濟、社會等各行各業(yè)的促進，所以從政府治理到金融、到煤炭、礦山、港口，華為都在做。盤古大模型與中國這種全球最強大的制造業(yè)、最完整的產業(yè)鏈相結合，這是美國所不具備的。

主持人：現在我們討論通用的部分，可能未知數比較多。在技術上我們還是要抓緊升級迭代要追趕上，同步地再來考慮，它可能會產生的負面影響，到底怎么去約束它。前段時間網信辦等七個部門聯合發(fā)布了《生成式人工智能的服務管理暫行辦法》的文件，8月15日開始施行。這里頭確定了很多管理邊界，比如數據不能過度收集等等。但是我注意了一下，它的原則叫包容審慎、分類分級監(jiān)管。

張教授：我覺得這四個字很重要，包容審慎，“包容”放在前面，那就是先鼓勵你發(fā)展，容忍你發(fā)展，然后再審慎對待。之前有個征求意見稿，這個是新的版本，有一些變化。其中一個大的變化是，之前的監(jiān)管部門主要是網信辦，現在包括了教育部、發(fā)改委、工信部、公安部等。另外對于社會動員這類具有輿論屬性的人工智能是要嚴管的。我覺得這也是很合理的考量。

孫教授：應該說這個辦法還是充分吸收了各方面的意見，比如剛才說的包容審慎，這個原則特別重要。因為這種生成式的模型，一方面它生成能力很強，同時它是概率式的。概率式模型就會產生幻覺現象，這是必然的。你想你一個人走路，如果在每個路口都有四萬八千個分岔口，然后我讓你走二十個岔口，你還能精準地走到你希望到的那個地方嗎？不太可能。所以產生問題是必然的。如果監(jiān)管辦法是一個問題都不能出現，那這個技術就沒法發(fā)展，我注意到文件中提到要分類分級監(jiān)管。

這就很好，它不能零容忍，零容忍的話，這個技術就搞死了。但另一方面，確實是錯誤要越小越好，這實際上對技術也是提出挑戰(zhàn)。比較好的監(jiān)管，它會促進技術精準定位。適度監(jiān)管，對技術本身也是一個發(fā)展。

主持人：此外，像ChatGPT4這樣的生成式人工智能的出現，也讓大家討論另外一個話題，就是科技向善和科技發(fā)展之間的關系，包括像職業(yè)創(chuàng)造和職業(yè)替代之間的關系。比如科技公司，都可以用生成式人工智能來寫初級代代碼，有一些從事相關工作的人可能就失去了工作機會，包括從事初期創(chuàng)意的，像初期文案，初期策劃，可能都會失去工作。這確實是一個問題。

孫教授：通用人工智能肯定會替代一部分人的工作，特別是重復性的、相對低端的智力勞動。從好的角度來看，是使得生產效率大大提高，生產成本降低，因為不需要這么多人了；不好的方面，是對個人來說，可能就會有一部分人失業(yè)。從工業(yè)革命到現在都是這個規(guī)律。所以這塊應該是不可避免的。但它不會取代這個行業(yè)。比如寫代碼，好像谷歌測了一下ChatGPT4，基本上可以給它18萬美金的年薪，但還是我剛才講的，這個模型存在幻覺現象，它寫的代碼不能保證都是對的。所以一定是后續(xù)需要有人來校對、審視，其實是對人提出了更高要求。

主持人：就像您說可能還會催生出一些新的工作機會，創(chuàng)造就業(yè)也好，還是給所有人提供機會也好，它講究一個公平性，并不是所有人都有那么好的條件來應對這種新的創(chuàng)造所帶來的挑戰(zhàn)。所以其實我是蠻擔心這個問題的，就是生成式人工智能的活躍發(fā)展，對于普通人來說，沖擊會有多大，怎么保護大家的權益？

孫教授：現在有個詞叫終身學習。你不學習就落后，落后可能就丟掉工作，這其實是正常的。我想這個問題要換個角度來看，ChatGPT有嚴重的局限性，它不是一個基于理性思辨的算法，而是一個概率式的算法。這個東西要達到決策的層面，現在是做不到的。另外確實也會產生新的行業(yè)，新的職業(yè)創(chuàng)造。

主持人：或者我們要放寬視野，就像我們剛才講了它會賦能千行百業(yè)，可能會在千行百業(yè)當中，根據自己行業(yè)發(fā)展的特性會創(chuàng)造出新的職業(yè)崗位，這是有機會的。

孫教授：將來會出現這種情況，人少了的話，機器反而能夠彌補我們勞動力短缺的問題。再有，我干嘛一周一定都要工作五天八個小時。我可以少工作，去生活；只要制定合適的規(guī)則，讓大家都能享受人工智能帶來的這種好處，就可行。

主持人：所以我們的政府、我們的社會要做管理要做服務，其實就是希望把人工智能的正面部分發(fā)揮到最大，它提出來的挑戰(zhàn)，或者可能會由此帶來的一些管理上的難題，要更加花力氣去解決。就像您剛剛說的，可能有些相對弱勢的群體會受到挑戰(zhàn)，那么可能政府就要很好地去思考，在勞動創(chuàng)造上、在其他崗位的給予上，怎么去保護這樣的人群。因為社會公平始終是我們非常重要的追求目標。

張教授：放寬思路，最終可能是必要勞動的大幅減少。比方說過去是每天八個小時，一周工作五天，以后每個星期工作三天、至兩天，獲得同樣的收入、甚至更高的收入，你將有更多的閑暇時間，我們要放眼未來。