“如果讓我選擇，我也會簽字，抵制人工智能武器應(yīng)用。”昨天，美國辛辛那提大學(xué)講座教授李杰來滬并接受記者專訪，提及日前霍金、馬斯克等一批科學(xué)界、企業(yè)界人士針對人工智能問題公布警告信一事，李杰毫不猶豫地給出自己的答案。他認(rèn)為，除了可能威脅人類生命的軍事應(yīng)用，人工智能在日常應(yīng)用、情感交流方面同樣存在潛在風(fēng)險。不過，在人工智能進(jìn)步的過程中，人類也從未停止思考評估。隨著機器人自主學(xué)習(xí)、自我進(jìn)化，人類也會制定相應(yīng)的規(guī)矩和界限。

據(jù)悉，李杰的新書《大數(shù)據(jù)與智能制造的新思維》將由上海交通大學(xué)出版社推出。

群體性警惕正是人類啟動的防御機制之一

科幻小說家阿西莫夫曾提出“機器人三定律”：機器人不得傷害人類;除非違背第一法則，機器人必須服從人類的命令;在不違背第一和第二法則的情況下，機器人必須保護自己。

但是，這一定律固若金湯、堅不可摧嗎?不消說大量科幻小說和電影中，機器人“誤傷”或“攻擊”人類的情節(jié)，現(xiàn)實世界里相似的悲劇也不幸上演。就在上個月，德國大眾汽車公司一位正在工作中的員工因被機器人重重壓向一塊金屬板而導(dǎo)致死亡，這一機器人“殺死”人類的意外引發(fā)了恐慌。

如今，機器人技術(shù)已成人類世界不可或缺的一環(huán)，但科學(xué)界憂心忡忡的是：人工智能崛起后，未來機器人會否自主決定傷害人類?對此，李杰的態(tài)度較為樂觀，他認(rèn)為，人類可以拿出相應(yīng)的足夠智慧來應(yīng)對。“對于醫(yī)療、交通等日常生活領(lǐng)域的機器人應(yīng)用，市場需求所釋放的信號，可以起到檢驗智能應(yīng)用優(yōu)劣的作用;歐洲、日本則根據(jù)機器人三定律對部分機器人應(yīng)用領(lǐng)域作出了明確限制。看得出，人類依然在控制著智能應(yīng)用的邊界與進(jìn)程。”

換句話說，無論是霍金等科學(xué)家聯(lián)名簽署抵制信件，還是一大批科幻影視、文學(xué)作品中的憂患與反思內(nèi)核，都表明人類已經(jīng)對人工智能可能帶來的危害拉響了警報，“這種群體性警惕，也正是人類所開啟的自我防御機制的一種”。

當(dāng)人機間產(chǎn)生高級情感時，人類該怎么辦

如今，智能制造已不僅僅是過去意義上的小電子玩偶或零部件，而是逐步介入人類情感生活，成為孤寡老人的“貼心保姆”、交流障礙人士的“傾訴對象”，或者干脆充當(dāng)起一部分宅男的日常伴侶。當(dāng)然，這些應(yīng)用目前所占比例不大，但科學(xué)界預(yù)測認(rèn)為，未來的這一現(xiàn)象可能變得不再稀奇。

身為美國國家科學(xué)基金會智能維護系統(tǒng)產(chǎn)學(xué)合作中心主任，李杰與團隊發(fā)現(xiàn)，一項新技術(shù)通常在15年左右被接受，30年達(dá)到廣泛應(yīng)用。在接下來的幾十年里，人工智能也會飛速發(fā)展并嫁接到多個領(lǐng)域。很快，機器將學(xué)習(xí)到人類優(yōu)點和缺點，模擬人類感情。到那時人類應(yīng)當(dāng)如何與機器共處?

科幻電影《她》中，人類男性與女機器人愈發(fā)投緣，人機友誼也最終演變成一段不被世俗理解的奇異愛情?？瓷先ダ浔母呖萍济婕啠毁x予了高度人性化和活色生香的情趣，機器人不僅掌握高級思維和創(chuàng)作能力，還變得“有心肝”?？苹米骷翼n松在小說《佛性》里，對機器人參與信仰膜拜，展開了戲謔而又入木三分的勾畫。有評論家認(rèn)為，一旦投射到現(xiàn)實世界中，超出一定限度的人機關(guān)系，必然會撬動人類最基本的倫理、婚姻、家庭價值觀。而在電影《機器姬》中，機器人表現(xiàn)出對人類的傾慕，結(jié)果只是利用了人類的信任與愛意，到頭來毀滅了曾經(jīng)的親密。這種暗黑式結(jié)尾無疑提醒人們——如何保證機器人判斷及行為合乎道德倫理，是科學(xué)家乃至社會學(xué)家、心理學(xué)家亟需思考并研究的命題。

“以往我們多是突出機器人的協(xié)助地位，但未來人機間的高度平等互動，這將帶來更多前所未有的樂趣和可能性，但無疑也考驗著人類的自覺擔(dān)當(dāng)與道義責(zé)任。”李杰說。