最近，網絡和微信上有一篇長達3萬余字的譯文在流傳，文章的標題是《為什么有很多名人讓人們警惕人工智能?》。篇首有這樣一段話：“人工智能很可能導致人類的永生或者滅絕，而這一切很可能在我們的有生之年發(fā)生。”上面這句話不是危言聳聽，請耐心地看完本文再發(fā)表意見。

文中稱，史蒂芬·霍金、比爾·蓋茨等著名人士都發(fā)出了警告：如果智能機器缺乏監(jiān)管，人類將迎來一個黑暗的未來。而美國特斯拉汽車公司首席執(zhí)行官埃隆·馬斯克則說：人工智能可能是我們面臨的最大滅絕風險，創(chuàng)造人工智能猶如召喚一只惡魔。他預計“一些極為危險的事情即將發(fā)生”，最快將在5年內。

無機生命(機器)會發(fā)展出與有機體類似的生存和競爭意志嗎?有朝一日當機器智能超越人類并不受人類控制時，我們將會遇到什么危險?類似這樣的話題或場景，我們常常在科幻小說和科幻電影中遇到。近年來，也有越來越多的圖書涉及。較早出現(xiàn)也較有影響的是《機器的征途——為什么機器人將統(tǒng)治世界》一書([英]凱文·渥維克著，內蒙古人民出版社，1998)，作者系英國雷丁大學教授、控制論與機器人研究專家。全書著眼于描述機器已發(fā)展得比人類更聰明的未來時代，并展示了第一批能夠學習、互相交流和自我設計程序的機器人。作者感慨技術變革之快，恐怕將使得事物發(fā)展的結果非我們所愿意看到，甚至不能掌控。他斷言：“在2050年，我們人類為機器所驅使，必須做機器規(guī)定我們做的事情……”而隨后出現(xiàn)的《制腦者：創(chuàng)造堪與人腦匹敵的智能》一書([美]戴維·弗里德曼著，三聯(lián)書店，2001)，倒沒有什么悲觀的色調。全書梳理了人類不斷認識自身智能的歷程和人工智能概念的源流，展示了人類創(chuàng)造人工智能所取得的一些里程碑式的成果。其中有：給機器上裝上“大腦”;讓機器人具有腦電波并具有不規(guī)則的思維活動;創(chuàng)造出一種新的電腦芯片，具有大腦細胞的功能……機器智能超越人類時的夢魘，隨著《靈魂機器的時代：當計算機超過人類智能時》([美]雷·庫茲韋爾著，上海譯文出版社，2002)一書的出版，又一次縈繞在人們心頭。該書出版于1999年，作者系美國著名的發(fā)明家和思想家，在書中他做出了驚人的預言：到21世紀初，地球上將出現(xiàn)一種足以與人類智能抗衡的新型智能，最終它將遠遠超過人類的智能。庫茲韋爾還想象，將來的類人智能體也能夠擁有像意識、情緒這樣的特質。

2005年，《奇點臨近：2045年，當計算機智能超越人類》([美]雷·庫茲韋爾著，機械工業(yè)出版社，2013)一書問世，并成為當年美國最暢銷非小說類圖書和亞馬遜最佳科學圖書。此書更為系統(tǒng)、全面地表達了庫茲韋爾預測人工智能和科技未來的觀點。特別是對“奇點”的概念和涵義進行了詳細的闡釋。他還預測了機器智能趕超人類智能之各個方面后發(fā)展的下一階段：人類與機器的聯(lián)合，即嵌入我們大腦的知識和技巧將與我們創(chuàng)造的容量更大、速度更快、知識分享能力更強的智能相結合。這種融合便是奇點的本質。庫茲韋爾的預言和觀點在被廣為傳播的同時，也引起了極大的爭議，乃至強烈的質疑。但庫茲韋爾堅信自己的論斷言之成理，一種“深刻的變化”必然會發(fā)生。而他所構想出的關于科技進化的理論——“加速回歸理論”，能夠解釋為什么在宇宙的總體進化中，技術和進化將以指數(shù)的速度向前推移。這也貫穿著在過去的30年里他逐漸認識到的“一個重要的基本思想”：改變世界的思想力量其本身也正在加速。換句話說，并不只是科技在飛速地發(fā)展，“發(fā)展”本身也在不斷地躍進。

人工智能機器的潛在智能是真實且巨大的——將是人類的萬億個萬億倍。或遲或早，科學會產生一種和人類一樣運作的人工生命形式。人工智能問題(或者說物種支配問題)將主宰新世紀的全球政治。果真如此的話，那將是人類歷史上最大的災難，因為再也沒有歷史了，再也沒有人類了。這是《智能簡史——誰會替代人類成為主導物種》([美]雨果·德·加里斯著，清華大學出版社，2007)一書所表述的主要觀點，其作者是用這樣一句短語結束了本書：“我們是在制造上帝，還是在制造我們潛在的敵人?”德·加里斯坦言他所從事的工作幾乎讓他精神分裂，并且?guī)е艽蟮呢撟锔校?ldquo;因為我認為我的工作就是問題的一部分。”凱文·渥維克在為《智能簡史》一書所寫的推薦序中則寫道：“幾十年后，如果德·加里斯關于‘物種主導問題將在本世紀主導全球政治’的言論被證實是正確的話，那么他將是21世紀最主要的思想家之一。”

自20世紀40年代計算機被發(fā)明出來之后，機器就一直被寄予厚望，人工智能的先驅者們大多數(shù)時候都不認為他們的事業(yè)可能會存在風險。英國數(shù)學家歐文·約翰·古德大概是清晰闡述人工智能未來圖景的第一人，早在1965年他就指出：“我們把超智能機器定義為具備超越所有聰慧人類智能活動的機器。一旦機器設計成為一項智能活動，那么，超智能機器就能設計出更好的機器。毫無疑問，肯定會出現(xiàn)諸如‘智能爆發(fā)’這樣的局面，人類智能會被遠遠地甩在后面。因此，第一臺超智能機器將是人類制造的最后一臺機器。”目前人工智能方面存在的顯著風險，便與前述“智能爆發(fā)”相關，所以我們必須以最嚴肅的態(tài)度審視之——《超級智能：路線圖、危險性與應對策略》([英]尼克·波斯特洛姆著，中信出版社，2015)一書如是說。該書詮釋了可能出現(xiàn)的超級智能帶來的挑戰(zhàn)，以及我們應該如何更好地應對。作者認為，這很可能是人類面對的最重要和最可怕的挑戰(zhàn);而且，不管我們成功與否，這大概都是我們將要面對的最后一個挑戰(zhàn)。

更重要的一點或許在于，我們再不能以看待過去的視野，去理解必將超越它的事物了。

相關熱詞搜索：