互聯(lián)網(wǎng)的出現(xiàn)和計算能力的提高為海量數(shù)據(jù)的積累和分析提供了極大便利，人類的理解能力因此獲得了前所未有的提升。在這一過程中，意義最為重大的技術(shù)創(chuàng)新出現(xiàn)在人工智能領(lǐng)域。人工智能技術(shù)能夠通過類似人腦才具有的信息處理能力進(jìn)行創(chuàng)新性思維并解決復(fù)雜的、看似抽象的問題。

這已經(jīng)遠(yuǎn)遠(yuǎn)超出了我們對“自動化”的理解。所謂“自動化”僅是針對手段而言，自動化技術(shù)通過對生產(chǎn)工具進(jìn)行機(jī)械化或合理化改進(jìn)來實現(xiàn)確定的生產(chǎn)目標(biāo)。與自動化技術(shù)大為不同，人工智能技術(shù)是針對結(jié)果而言的，人工智能可以自行確定自身行為的目標(biāo)。由于在某種程度上來說人工智能所實現(xiàn)的目標(biāo)部分取決于其自身，所以人工智能具有一種內(nèi)在的不穩(wěn)定性。人工智能系統(tǒng)在實際運(yùn)行過程中不斷獲取新的數(shù)據(jù)并即時對這些新數(shù)據(jù)進(jìn)行分析，在分析結(jié)果的基礎(chǔ)上，人工智能系統(tǒng)可以不斷對自己的算法進(jìn)行優(yōu)化。

所以說，人工智能系統(tǒng)是一個不斷變化的、處于動態(tài)中的系統(tǒng)。在這一動態(tài)過程中，人工智能系統(tǒng)表現(xiàn)出了一種此前被認(rèn)為僅有人類才會具有的信息處理能力。它可以對未來做出戰(zhàn)略判斷，有些判斷是基于以代碼形式事先注入的數(shù)據(jù)（圍棋規(guī)則），有些判斷則是基于人工智能系統(tǒng)自身所收集到的數(shù)據(jù)（與自己進(jìn)行100萬次對弈過程中出現(xiàn)的各種情況）。

以無人駕駛汽車為例，它體現(xiàn)了傳統(tǒng)上以軟件驅(qū)動、完全受到人類控制的車載計算機(jī)行為與滲透進(jìn)駕駛過程每一個細(xì)節(jié)的人工智能行為這兩者之間的區(qū)別。人類駕駛汽車時需要面對數(shù)不清的各種情況，并需要在每一具體情況下做出特定的判斷，我們根本不可能預(yù)先想到所有的情況并事先為每一種可能的情況編寫程序。我們以一個十分有名的假設(shè)為例來進(jìn)行說明：當(dāng)一輛由人工智能控制的無人駕駛汽車不得不在一位老人和一個小孩之間做出選擇必須撞向其中一人時，它會如何選擇呢？其背后的原因何在？它在做出選擇時會更看重哪些因素？它能夠自圓其說嗎？如果人工智能程序能夠與人類交流的話，它很可能會這樣回答上述問題：“我不知道，我駕駛汽車時遵循的是數(shù)學(xué)原理，我不懂人類的那套規(guī)則”，它也可能這樣回答：“你搞不懂我的，我曾受到大量訓(xùn)練來應(yīng)對各種駕駛情況，但我從未受到訓(xùn)練向人類解釋為何我會那樣應(yīng)對那些情況”。這就是人工智能無人駕駛技術(shù)當(dāng)下的現(xiàn)實，不過不出10年，無人駕駛汽車很可能將行駛在我們的每一條街道上。

截至目前，人工智能技術(shù)僅在有限幾個領(lǐng)域里獲得了應(yīng)用。如今，人工智能科學(xué)家們正試圖將這一技術(shù)的應(yīng)用領(lǐng)域擴(kuò)大到社會生活的各個方面，未來的人工智能將可以執(zhí)行多種任務(wù)。在不遠(yuǎn)的未來，將有越來越多的人類工作被人工智能算法所取代。不過，這些算法只能對所觀察到的現(xiàn)象進(jìn)行數(shù)學(xué)性理解，算法并不能理解現(xiàn)象背后的原因。令人感到矛盾的是，隨著我們的世界越來越透明，人工智能算法卻會變得越來越神秘。未來的新世界與我們早已習(xí)慣的今日世界會有哪些不同呢？我們將如何在那個新世界里生活呢？我們該如何管理人工智能？該如何改進(jìn)它？該如何避免它對人類造成傷害？該如何避免比人類更快、更好掌握某些能力的人工智能（對它來說欲獲得那些能力僅需處理一些數(shù)據(jù)）使人類的能力趨于退化或使人類的境況趨于惡化？

人工智能遲早將為醫(yī)學(xué)科學(xué)、清潔能源和環(huán)境保護(hù)等領(lǐng)域帶來極大的進(jìn)步。不過，正因為人工智能所面對的未來正處于不斷演進(jìn)之中，它為我們帶來的結(jié)果就內(nèi)在地具有某種模糊性和不確定性。在這方面，有如下四點值得我們注意：

首先，人工智能可能為我們帶來意想不到的后果。在科幻小說的情節(jié)中，人工智能機(jī)器人已經(jīng)將其創(chuàng)造者列為攻擊目標(biāo)了。不過，另一種情況的可能性更大，由于人工智能并不是在一個完整的語境中理解信息的，它很可能無法正確理解人類的指令。最近一個有名的例子來自一個名為Tay的通過自然語言同人進(jìn)行交流的人機(jī)智能對話系統(tǒng)，科學(xué)家的設(shè)計初衷是希望Tay能夠以一個19歲女孩的身份和語言特征與人們進(jìn)行友善、理性的交談。不過，結(jié)果證明，這個智能對話系統(tǒng)并不能真正理解“友善”和“理性”的含義，Tay所使用的語言反而體現(xiàn)出種族主義者和性別歧視者的一些特征，有時候“她”講的話甚至能將人激怒。

一些專業(yè)技術(shù)人員認(rèn)為，人機(jī)智能對話系統(tǒng)Tay的設(shè)計思路不夠合理，具體研發(fā)過程也出現(xiàn)了很多問題。不過，我們?nèi)匀荒軌蚪璐司推浔澈蟮哪：幪岢鲆恍┮蓡枺何覀兡茉诙啻蟪潭壬鲜谷斯ぶ悄芟到y(tǒng)理解人類指令的具體語境？當(dāng)人類也未能就“冒犯”一詞的準(zhǔn)確含義達(dá)成共識的時候，我們能通過什么辦法幫助Tay獲得“冒犯”一詞的準(zhǔn)確概念？當(dāng)人工智能系統(tǒng)的運(yùn)行偏離其設(shè)計者的意圖時，我們能早期發(fā)現(xiàn)并進(jìn)行修正嗎？如果我們對人工智能系統(tǒng)不施加任何干預(yù)，它會不會不可避免地在初期略微偏離設(shè)計意圖甚至久而久之沿著偏離的軌道滑向災(zāi)難性的深淵？

第二點，在實現(xiàn)既定目標(biāo)的過程中，人工智能可能會改變?nèi)祟惖乃季S方式和價值觀。阿爾法狗在擊敗圍棋世界冠軍時所采用的策略是前所未見的，人類從未想到過圍棋會有那種走法而且至今也未能想出針對那種走法的應(yīng)對之策。阿爾法狗所采用的圍棋走法是否已經(jīng)超出了人類大腦的理解能力？人類是否能夠?qū)W會那種走法呢？

在人工智能涉足圍棋領(lǐng)域之前，人類在進(jìn)行圍棋對弈時往往抱著各不相同的甚至是多層面的目的：棋手們所追求的不僅是贏得棋盤上的勝利，他們還希望通過對弈過程領(lǐng)悟出可以在生活中其他領(lǐng)域獲得應(yīng)用的策略和智慧。而對于人工智能來說，它在棋盤上的目的只有一個：戰(zhàn)勝對手。

人工智能不是像人類那樣通過對概念的理解而是通過數(shù)學(xué)運(yùn)算來進(jìn)行“學(xué)習(xí)”的，具體表現(xiàn)在對算法的微調(diào)。所以，在學(xué)習(xí)如何贏得圍棋比賽的過程中，人工智能與人類的思維方式是完全不同的，它已經(jīng)改變了圍棋對弈的本質(zhì)以及人類圍棋對弈的傳統(tǒng)思維范式。這樣一種對勝利毫無雜念的渴望是否是所有人工智能程序的共同特征呢？

已經(jīng)有人工智能項目希望通過研發(fā)能夠回答人類各種問題的設(shè)備來改變?nèi)祟惖乃枷?。這種設(shè)備能夠回答一些事實性的諸如“現(xiàn)在外面氣溫如何”這樣的問題，但在回答關(guān)于存在本質(zhì)或人生意義這樣的問題時，你會發(fā)現(xiàn)它可能給人類帶來一些深層的憂慮：我們真得愿意自己的孩子在與不受束縛的人工智能算法進(jìn)行交談時形成自己的價值觀嗎？為了保護(hù)提問者的隱私，我們是否應(yīng)該限制人工智能算法對提問者的了解呢？在得出上述兩個問題的答案之后，我們又該如何確保人工智能遵從我們的意愿呢？