智能機器人引倫理憂慮 是否成未來世界夢魘？

　　阿爾法狗擊敗圍棋世界冠軍李世石，讓我想起了30多年前看過的一部美國科幻電影：“未來世界”。

　　這是一部描寫機器人妄圖統治人類的片子。未來世界的機器人認為人是變化無常的，沒有理性的殘暴的。他們的任務就是復制人類，最后消滅人類的原型，達到由機器人統治世界的目的。具體的工作就是在人類中輸入他們的程序，聽從他們的指揮。而這些復制品完全就是生物學上的人類，沒有一絲機器痕跡。

　　這部充滿科幻意味的電影在剛打開封閉大門、改革開放不久的中國，引起很大的轟動，記得我前后看了6次，至今清楚里面的細節。

　　30多年后，未來世界像是真的要來了，這就是電腦圍棋阿爾法狗在前三局就以3比0擊敗了獲得世界圍棋冠軍頭銜最多的李世石。第三盤比賽，李世石全盤沒有一點機會，賽后人們一片沉默，心情沉重。

　　圍棋是世界上最難，也是變化最多的棋類游戲。專家說，國際象棋的變化是10的60次方，而圍棋則是之后的170個零，比全世界的沙粒加起來還要多，這就是圍棋變化無窮的原因。

　　如果僅僅從難度來看，電腦的聰明其實并不可怕。真正可怕的，是它能夠自我編程，也就能夠自我修補、自我提高。李世石第二盤結束后連夜與人研究復盤對策，殊不知阿爾法狗也沒閑著，據阿爾法狗團隊的工程師介紹，阿爾法狗也在自行復盤、研究、尋找最佳的著點。如果用量來計算，電腦的運算速度是人腦完全無法比擬的，量則更是李世石團隊不可企及的。它的自我學習能力能夠到了人類達不到的高度，這也是為什么阿爾法狗能夠越戰越好的原因了。比較幾個月前5比0戰勝歐洲冠軍的棋局，人們驚嘆“進步神速!”

　　昨天在第四局的比賽前，幾乎所有人相信阿爾法狗一定會再次輕取。但也有人警告，阿爾法狗會不會故意放水?如果阿爾法狗真的具有這樣的思維，那么一定是非常危險的。訖今為止，電腦程序只是停留在邏輯思維上，如果在人類的引導下具有存在感和獨立意識，則是極其危險的。因為有朝一日它將不會再臣服于人類，將用自己的價值判斷力和無窮的能力，用自己的方式行事，這將會是一場災難。

　　第四局阿爾法狗輸了，但愿真的是如專家所言，李世石的第78步的挖，這一人類從來沒有用過的“莫名著法”讓阿爾法狗看不清楚、無從應對而系統崩潰。但是阿爾法狗的主研究師賽后也說：“我們不清楚問題出在哪里，回去后將好好地研究。”這一句話也并沒有給出真正的答案。

　　阿爾法狗給這個世界帶來了新的成就，但是也帶來新的憂慮。人們擔心一旦電腦機器人具有了價值判斷能力，面對躺在醫院里無法治愈的病人，會不會認為不能再讓其消耗社會資源而拔去維持生命的管線?

　　電腦機器人不好色，不貪財，沒有愛好，沒有喜怒哀樂的情緒變化，這正是最令人可怕之處。霍金說過一句話：“現在對人類智能的草率態度，將是人類犯的最嚴重和愚蠢的錯誤”。據悉，為應付可能出現的這類情況，谷歌和Facebook已經在考慮成立倫理小組，就像克隆技術現世后，一些國際組織和世界各國醫學界達成一致意見：“嚴禁克隆人類”一樣。

　　智能機器人會不會在未來世界變成人類的災難?這樣的憂慮是否存在?當夢魘真的來臨時人類能不能堅守住自己的最后一道陣地?除了拔掉電源，還能做些什么呢?