這件血案發生在20天前，美國達拉斯警方出動MARCbot型號機器人，通過攝像頭靠近的方式，在嫌疑人附近引爆炸彈，炸死槍殺警察的嫌犯。

有人認為這是對機器人的濫用，有人更深層地考慮到人類可能被機器人毀滅的未來——

“當被命令時，機器人能毫不猶豫地殺人”，它們會不會被發展成嗜血的殺人工具？

“有了自主意識的機器人，不被命令時，會不會心起殺機？”當人工智能變得不受控，整個人類會不會被取而代之？

面對越走越近的“人工智能”，如何有節制地應用，如何把未來走向握在人類手里？我們不妨在幾位未來學家的預測情境下，回歸案件現場，以他們的視角重新推演事件，可能從中看出些端倪。

三大法則版 一言不合算到懵圈

創立者：

預言作家艾薩克·阿西莫夫，1920年出生，他提出的“機器人學三大法則”對機器人學影響重大，他預言了今天的生物科技，預言了互聯網時代的數字圖書館。

預測情境：

在《我，機器人》一書中，艾薩克·阿西莫夫預設了機器人學三大法則——

一、機器人不得傷害人類，或因不作為使人類受到傷害。

二、除非違背第一法則，機器人必須服從人類的命令。

三、在不違背第一及第二法則的情況下，機器人必須保護自己。

三大法則在整個機器人世界中堪稱“鐵律”。

這一鐵律得以實現的核心元件被稱為“正子腦”。三大法則被寫進正子腦的最底層程序中，除毀壞外完全不可更改。

“正子腦”是鉑銥合金的海綿狀球體，體積與人腦相當，用來賦予機器人生命和心智。腦中電位的高低決定機器人的行動，第一法則電位高于一切，第二法則電位高于第三法則電位，機器人即使生命危急也會服從命令，但當命令不明確，機器人又意識到危險時，第三法則產生的電位就令他回頭。

阿西莫夫在《轉圈圈》的故事中，講述了一個機器人在人類命令和自身危險中懵圈的故事。“他”被派去采礦，由于是隨口命令，電位微弱，當發現礦池附近有腐蝕物會危及自身生命時，“他”根據第三法則后退，退到一定距離后，又根據命令前進，陷入了一直轉圈的死結中。為了救“他”出來，“他”的主人把自己放在快要烤焦的位置，才用“救人”的第一法則，打破了二三法則的電位平衡，解開這個結。

案件重演：

在這個劇情中，機器人認為人命高于一切，那么美國機器人引爆炸彈的案件推演應該是這樣的——

“機·1號，帶上炸彈炸了他！”頭兒命令道。

“呃，如果是殺人的命令，我只能說不。”機·1號答。

“帶上炸彈平了他十米外的遮蔽物！”頭兒改口道。

“噢，十米是危及生命的危險距離。”機·1號依然不動。

“……帶上這個，接近他。”頭兒的眉頭擰成“山”字，右手丟給機·1號一個遙控炸彈，左手把遙控器藏在背后，拇指撫住觸發鍵。

“嗯……”此時機·1號腦中的電位翻江倒海，循環往復，評估到懵圈……（此處省略幾十億次的正子腦計算）

自我意識版 你可曾看到我眼角的淚

創立者：

未來學家雷·庫茲韋爾，1948年出生，他在1990年對2009年做了147項語言，86%得到證實。他認為，2029年，機器人智能將能夠與人類匹敵，2045年，大腦新皮層可以與云端的人造新皮層無線相連，人的智能就是人工智能，還比現今增強10億倍。

預測情境：

將人類的思維注射到機器中去，或者讓機器獲得與人類相同的心智，在諸多科幻電影中都有體現。從機器貓到《機器人總動員》里的瓦力，從有自我意識的《超能查派》到想變成人、想被愛的《AI》，這些形象都在與人的無限接近中閃光。

雷·庫茲韋爾的答案是，這完全可以實現。他的方法是制造一個人腦。“只要有真實大腦的詳細數據，我們就能模擬出生物學意義上的大腦。”

他和團隊對大腦的結構、運轉進行了細致入微的分析——大腦新皮質分6層，包含300億個神經元，它們又組成了3億個模式識別器，每秒鐘有1萬萬億個電信號在其間傳遞。

“我們已經能模擬包含160萬個視覺神經元的人腦視覺新皮質，預計2023年可模擬完整的人類大腦。”在《人工智能的未來》一書中，雷·庫茲韋爾談到目前的進展。

通過制造、模擬和運行，非生物系統有了人的智力和情感，而人有了非生物系統的可復制、存儲、上傳、重建的能力。

案件重演：

這個版本中，機器人警察和警察毫無二致，且具備高智能，案件現場將是這樣——

“壹仔，帶上炸彈炸了他！”頭兒下達命令。

“同歸于盡不是最好的方法，懸空秒狙怎么樣？”壹仔建議。

“去吧。”遂見壹仔騰空近十米，翻轉360度，在最高點頓停，掏槍，瞄準，射擊，一氣呵成。

對他來說，殺人太簡單，只是他也許會眼角飆淚，和人類一樣對死亡無限傷感。

殺人機器版 生而為斯，死有何憾

代表人物：

斯坦福大學歷史學和古典文學教授伊恩·莫里斯，他通過戰爭史試圖回答“戰爭哪里好”的問題，并認為戰爭對人類社會有著長期的“建設性”，在他眼中，人們總會研制并使用新武器，否則，就被敵人占了先。

預測情境：

未來戰場，就是機器的戰場。

“因為我們別無選擇，”伊恩·莫里斯在《戰爭》一書中說，殺手機器人是必需的，因為“軍事的OODA（觀察、調整、決策、行動）步驟到時納秒便可完成，當極超音速戰機互相較量時，機器人無疑會擊敗反應速度在毫秒級的人類。

對于武器而言，人是遲鈍、近視、笨拙的，美國陸軍中校托馬斯·亞當斯說，“現在的武器太快、太小、太多，超越了人類能指揮的范疇。”

由于聯合國要求禁止研制和使用“致命自動化機器人”，在多本專業教材中，機器人武器的假想敵是“洞庫”，但從未明確，“洞庫”中是否有人。

這是最接近現實的版本，包括物理學家霍金在內的全球1000多位科學家和機器人專家去年發表公開信，警告稱致命性全自動化武器數年內就能實現。各國在機器人武器的研制上不遺余力，美英聯合研制的反直升機地雷，可以判斷敵友，隨后彈起百米左右擊毀直升機……

案件重演：

既然有了武器的基因，那案件推演應該是這樣的——

“Bot1號，去轟了那個可惡的狙點。”

“是，長官！”

是的，情節就這么簡單，頂多在機器人走向殺戮時，它會想，“就這么完結一生，可太虧了，沒輪上打個大戰役，倒在小陰溝里翻了船，希望爆炸之后，我不會太碎，還能拼得上……”（記者 張佳星）