斯蒂芬?霍金:讓人工智能造福人類(lèi)及其賴(lài)以生存的家園

 

　　

圖：英國劍橋大學(xué)物理學(xué)家斯蒂芬·霍金通過(guò)視頻在GMIC+青島峰會(huì )上發(fā)表主題演講。
 

       以下是演講全文：
 

　　在我的一生中，我見(jiàn)證了社會(huì )深刻的變化。其中最深刻的，同時(shí)也是對人類(lèi)影響與日俱增的變化，是人工智能的崛起。簡(jiǎn)單來(lái)說(shuō)，我認為強大的人工智能的崛起，要么是人類(lèi)歷史上最好的事，要么是最糟的。我不得不說(shuō)，是好是壞我們仍不確定。但我們應該竭盡所能，確保其未來(lái)發(fā)展對我們和我們的環(huán)境有利。我們別無(wú)選擇。我認為人工智能的發(fā)展，本身是一種存在著(zhù)問(wèn)題的趨勢，而這些問(wèn)題必須在現在和將來(lái)得到解決。

 

　　人工智能的研究與開(kāi)發(fā)正在迅速推進(jìn)。也許我們所有人都應該暫停片刻，把我們的研究重復從提升人工智能能力轉移到最大化人工智能的社會(huì )效益上面?；谶@樣的考慮，美國人工智能協(xié)會(huì )（AAAI）于2008至2009年，成立了人工智能長(cháng)期未來(lái)總籌論壇，他們近期在目的導向的中性技術(shù)上投入了大量的關(guān)注。但我們的人工智能系統須要按照我們的意志工作?？鐚W(xué)科研究是一種可能的前進(jìn)道路：從經(jīng)濟、法律、哲學(xué)延伸至計算機安全、形式化方法，當然還有人工智能本身的各個(gè)分支。

 

　　文明所提產(chǎn)生的一切都是人類(lèi)智能的產(chǎn)物，我相信生物大腦可以達到的和計算機可以達到的，沒(méi)有本質(zhì)區別。因此，它遵循了“計算機在理論上可以模仿人類(lèi)智能，然后超越”這一原則。但我們并不確定，所以我們無(wú)法知道我們將無(wú)限地得到人工智能的幫助，還是被藐視并被邊緣化，或者很可能被它毀滅。的確，我們擔心聰明的機器將能夠代替人類(lèi)正在從事的工作，并迅速地消滅數以百萬(wàn)計的工作崗位。

 

　　在人工智能從原始形態(tài)不斷發(fā)展，并被證明非常有用的同時(shí)，我也在擔憂(yōu)創(chuàng )造一個(gè)可以等同或超越人類(lèi)的事物所導致的結果：人工智能一旦脫離束縛，以不斷加速的狀態(tài)重新設計自身。人類(lèi)由于受到漫長(cháng)的生物進(jìn)化的限制，無(wú)法與之競爭，將被取代。這將給我們的經(jīng)濟帶來(lái)極大的破壞。未來(lái)，人工智能可以發(fā)展出自我意志，一個(gè)與我們沖突的意志。盡管我對人類(lèi)一貫持有樂(lè )觀(guān)的態(tài)度，但其他人認為，人類(lèi)可以在相當長(cháng)的時(shí)間里控制技術(shù)的發(fā)展，這樣我們就能看到人工智能可以解決世界上大部分問(wèn)題的潛力。但我并不確定。

 

　　2015年1月份，我和科技企業(yè)家埃隆·馬斯克，以及許多其他的人工智能專(zhuān)家簽署了一份關(guān)于人工智能的公開(kāi)信，目的是提倡就人工智能對社會(huì )所造成的影響做認真的調研。在這之前，埃隆·馬斯克就警告過(guò)人們：超人類(lèi)人工智能可能帶來(lái)不可估量的利益，但是如果部署不當，則可能給人類(lèi)帶來(lái)相反的效果。我和他同在“生命未來(lái)研究所”的科學(xué)顧問(wèn)委員會(huì )，這是一個(gè)為了緩解人類(lèi)所面臨的存在風(fēng)險的組織，而且之前提到的公開(kāi)信也是由這個(gè)組織起草的。這個(gè)公開(kāi)信號召展開(kāi)可以阻止潛在問(wèn)題的直接研究，同時(shí)也收獲人工智能帶給我們的潛在利益，同時(shí)致力于讓人工智能的研發(fā)人員更關(guān)注人工智能安全。此外，對于決策者和普通大眾來(lái)說(shuō)，這封公開(kāi)信內容翔實(shí)，并非危言聳聽(tīng)。人人都知道人工智能研究人員們在認真思索這些擔心和倫理問(wèn)題，我們認為這一點(diǎn)非常重要。比如，人工智能是有根除疾患和貧困的潛力的，但是研究人員必須能夠創(chuàng )造出可控的人工智能。那封只有四段文字，題目為《應優(yōu)先研究強大而有益的人工智能》的公開(kāi)信，在其附帶的十二頁(yè)文件中對研究的優(yōu)先次序作了詳細的安排。

 

　　在過(guò)去的20年里，人工智能一直專(zhuān)注于圍繞建設智能代理所產(chǎn)生的問(wèn)題，也就是在特定環(huán)境下可以感知并行動(dòng)的各種系統。在這種情況下，智能是一個(gè)與統計學(xué)和經(jīng)濟學(xué)相關(guān)的理性概念。通俗地講，這是一種做出好的決定、計劃和推論的能力?；谶@些工作，大量的整合和交叉孕育被應用在人工智能、機器學(xué)習、統計學(xué)、控制論、神經(jīng)科學(xué)、以及其它領(lǐng)域。共享理論框架的建立，結合數據的供應和處理能力，在各種細分的領(lǐng)域取得了顯著(zhù)的成功。例如語(yǔ)音識別、圖像分類(lèi)、自動(dòng)駕駛、機器翻譯、步態(tài)運動(dòng)和問(wèn)答系統。

 

　　隨著(zhù)這些領(lǐng)域的發(fā)展，從實(shí)驗室研究到有經(jīng)濟價(jià)值的技術(shù)形成良性循環(huán)。哪怕很小的性能改進(jìn)，都會(huì )帶來(lái)巨大的經(jīng)濟效益，進(jìn)而鼓勵更長(cháng)期、更偉大的投入和研究。目前人們廣泛認同，人工智能的研究正在穩步發(fā)展，而它對社會(huì )的影響很可能擴大，潛在的好處是巨大的，既然文明所產(chǎn)生的一切，都是人類(lèi)智能的產(chǎn)物；我們無(wú)法預測我們可能取得什么成果，當這種智能是被人工智能工具放大過(guò)的。但是，正如我說(shuō)過(guò)的，根除疾病和貧窮并不是完全不可能，由于人工智能的巨大潛力，研究如何（從人工智能）獲益并規避風(fēng)險是非常重要的。

 

　　現在，關(guān)于人工智能的研究正在迅速發(fā)展。這一研究可以從短期和長(cháng)期來(lái)討論。一些短期的擔憂(yōu)在無(wú)人駕駛方面，從民用無(wú)人機到自主駕駛汽車(chē)。比如說(shuō)，在緊急情況下，一輛無(wú)人駕駛汽車(chē)不得不在小風(fēng)險的大事故和大概率的小事故之間進(jìn)行選擇。另一個(gè)擔憂(yōu)在致命性智能自主武器。他們是否該被禁止？如果是，那么“自主”該如何精確定義。如果不是，任何使用不當和故障的過(guò)失應該如何問(wèn)責。還有另外一些擔憂(yōu)，由人工智能逐漸可以解讀大量監控數據引起的隱私和擔憂(yōu)，以及如何管理因人工智能取代工作崗位帶來(lái)的經(jīng)濟影響。

 

　　長(cháng)期擔憂(yōu)主要是人工智能系統失控的潛在風(fēng)險，隨著(zhù)不遵循人類(lèi)意愿行事的超級智能的崛起，那個(gè)強大的系統威脅到人類(lèi)。這樣錯位的結果是否有可能？如果是，這些情況是如何出現的？我們應該投入什么樣的研究，以便更好的理解和解決危險的超級智能崛起的可能性，或智能爆發(fā)的出現？

 

　　當前控制人工智能技術(shù)的工具，例如強化學(xué)習，簡(jiǎn)單實(shí)用的功能，還不足以解決這個(gè)問(wèn)題。因此，我們需要進(jìn)一步研究來(lái)找到和確認一個(gè)可靠的解決辦法來(lái)掌控這一問(wèn)題。

 

　　近來(lái)的里程碑，比如說(shuō)之前提到的自主駕駛汽車(chē)，以及人工智能贏(yíng)得圍棋比賽，都是未來(lái)趨勢的跡象。巨大的投入傾注到這項科技。我們目前所取得的成就，和未來(lái)幾十年后可能取得的成就相比，必然相形見(jiàn)絀。而且我們遠不能預測我們能取得什么成就，當我們的頭腦被人工智能放大以后。也許在這種新技術(shù)革命的輔助下，我們可以解決一些工業(yè)化對自然界造成的損害。關(guān)乎到我們生活的各個(gè)方面都即將被改變。簡(jiǎn)而言之，人工智能的成功有可能是人類(lèi)文明史上最大的事件。

 

　　但是人工智能也有可能是人類(lèi)文明史的終結，除非我們學(xué)會(huì )如何避免危險。我曾經(jīng)說(shuō)過(guò)，人工智能的全方位發(fā)展可能招致人類(lèi)的滅亡，比如最大化使用智能性自主武器。今年早些時(shí)候，我和一些來(lái)自世界各國的科學(xué)家共同在聯(lián)合國會(huì )議上支持其對于核武器的禁令。我們正在焦急的等待協(xié)商結果。目前，九個(gè)核大國可以控制大約一萬(wàn)四千個(gè)核武器，它們中的任何一個(gè)都可以將城市夷為平地，放射性廢物會(huì )大面積污染農田，最可怕的危害是誘發(fā)核冬天，火和煙霧會(huì )導致全球的小冰河期。這一結果使全球糧食體系崩塌，末日般動(dòng)蕩，很可能導致大部分人死亡。我們作為科學(xué)家，對核武器承擔著(zhù)特殊的責任，因為正是科學(xué)家發(fā)明了它們，并發(fā)現它們的影響比最初預想的更加可怕。

 

　　現階段，我對災難的探討可能驚嚇到了在座的各位。很抱歉。但是作為今天的與會(huì )者，重要的是，你們要認清自己在影響當前技術(shù)的未來(lái)研發(fā)中的位置。我相信我們團結在一起，來(lái)呼吁國際條約的支持或者簽署呈交給各國政府的公開(kāi)信，科技領(lǐng)袖和科學(xué)家正極盡所能避免不可控的人工智能的崛起。

 

　　去年10月，我在英國劍橋建立了一個(gè)新的機構，試圖解決一些在人工智能研究快速發(fā)展中出現的尚無(wú)定論的問(wèn)題。“利弗休姆智能未來(lái)中心”是一個(gè)跨學(xué)科研究所，致力于研究智能的未來(lái)，這對我們文明和物種的未來(lái)至關(guān)重要。我們花費大量時(shí)間學(xué)習歷史，深入去看——大多數是關(guān)于愚蠢的歷史。所以人們轉而研究智能的未來(lái)是令人欣喜的變化。雖然我們對潛在危險有所意識，但我內心仍秉持樂(lè )觀(guān)態(tài)度，我相信創(chuàng )造智能的潛在收益是巨大的。也許借助這項新技術(shù)革命的工具，我們將可以削減工業(yè)化對自然界造成的傷害。

 

　　我們生活的每一個(gè)方面都會(huì )被改變。我在研究所的同事休·普林斯承認，“利弗休姆中心”能建立，部分是因為大學(xué)成立了“存在風(fēng)險中心”。后者更加廣泛地審視了人類(lèi)潛在問(wèn)題，“利弗休姆中心”的重點(diǎn)研究范圍則相對狹窄。

 

　　人工智能的最新進(jìn)展，包括歐洲議會(huì )呼吁起草一系列法規，以管理機器人和人工智能的創(chuàng )新。令人感到些許驚訝的是，這里面涉及到了一種形式的電子人格，以確保最有能力和最先進(jìn)的人工智能的權利和責任。歐洲議會(huì )發(fā)言人評論說(shuō)，隨著(zhù)日常生活中越來(lái)越多的領(lǐng)域日益受到機器人的影響，我們需要確保機器人無(wú)論現在還是將來(lái)，都為人類(lèi)而服務(wù)。向歐洲議會(huì )議員提交的報告，明確認為世界正處于新的工業(yè)機器人革命的前沿。報告中分析的是否給機器人提供作為電子人的權利，這等同于法人（的身份），也許有可能。報告強調，在任何時(shí)候，研究和設計人員都應確保每一個(gè)機器人設計都包含有終止開(kāi)關(guān)。在庫布里克的電影《2001太空漫游》中，出故障的超級電腦哈爾沒(méi)有讓科學(xué)家們進(jìn)入太空艙，但那是科幻。我們要面對的則是事實(shí)。奧斯本·克拉克跨國律師事務(wù)所的合伙人，洛納·布拉澤爾在報告中說(shuō)，我們不承認鯨魚(yú)和大猩猩有人格，所以也沒(méi)有必要急于接受一個(gè)機器人人格。但是擔憂(yōu)一直存在。報告承認在幾十年的時(shí)間內，人工智能可能會(huì )超越人類(lèi)智力范圍，人工智能可能會(huì )超越人類(lèi)智力范圍，進(jìn)而挑戰人機關(guān)系。報告最后呼吁成立歐洲機器人和人工智能機構，以提供技術(shù)、倫理和監管方面的專(zhuān)業(yè)知識。如果歐洲議會(huì )議員投票贊成立法，該報告將提交給歐盟委員會(huì )。它將在三個(gè)月的時(shí)間內決定要采取哪些立法步驟。

 

　　我們還應該扮演一個(gè)角色，確保下一代不僅僅有機會(huì )還要有決心，在早期階段充分參與科學(xué)研究，以便他們繼續發(fā)揮潛力，幫助人類(lèi)創(chuàng )造一個(gè)更加美好的的世界。這就是我剛談到學(xué)習和教育的重要性時(shí)，所要表達的意思。我們需要跳出“事情應該如何”這樣的理論探討，并且采取行動(dòng)，以確保他們有機會(huì )參與進(jìn)來(lái)。我們站在一個(gè)美麗新世界的入口。這是一個(gè)令人興奮的、同時(shí)充滿(mǎn)了不確定性的世界，而你們是先行者。我祝福你們。