這些機器經常頂著各種不同的名頭出現——機器人、合成人、人造人、人工智慧、生化人、電子人和複製人——但不管它們的名字與外形如何，它們都很聰明、自主，而且身手不凡，儘管有時也會受到內置約束的限制。它們通常都很嚇人，但又不失其迷人的一面，總是耐人尋味。

2004年由威爾·史密斯主演的電影《我，機器人》，是大致基於阿西莫夫的原著改編的，電影在描繪一種2035年的文明時明顯地把三定律融入其中，那時機器人已得到廣泛的應用，人們放心地讓它們來幫助人類。但即使這看起來堅不可摧的定律也有可能被打破。故事中，人們發現一個機器人在一種允許它避開第一定律的情況下殺死了一個人。更糟的是，一個控制著這些機器人的更高級的人工智慧對三定律形成了它自己的詮釋，從而演繹出它自己的第零定律：它的最大責任是維護人類整體的利益。這個人工智慧命令所有現存的機器人奪取對人類的控制權，目的是拯救我們免於毀在我們自己的手中。在電影結尾，這場機器人的革命被阻止只能算作是險勝。

即便如此，人工智慧與機器人還是在以越來越快的步伐進入我們的世界，我們必須學會與它們共處。早在1950年，科幻作家艾薩克·阿西莫夫在他的小說《我，機器人》中，就這種互動如何能行得通給我們提供了一些線索，在書中他制訂了機器人三定律：第一定律，機器人不得傷害人類個體，或者目睹人類個體遭受傷害而袖手旁觀；第二定律，機器人必須服從人給它的命令，除非該命令與第一定律有衝突；第三定律，機器人在不違反第一、第二定律的情況下必須儘可能保護它自己的生存。後來阿西莫夫又加上了一條優先於其他定律的「第零定律」：機器人不得傷害人類整體，或者目睹人類整體遭受傷害而袖手旁觀。

在當今時代，我們還沒有真正創造出能與電影中的合成人相媲美的現實版本。不管是在外形上還是在行動上，能做到與人類有令人信服的相似度的機器人或人造人至今還沒出現。目前的人工智慧也不像我們在銀幕上看到的那樣，能表現出顯著的智能，儘管一些像未來學家雷·庫茲韋爾（Ray Kurzweil）這樣的狂熱者相信，我們距離創造出人類智能水平的機器已經很近了。而另一些人，英國機器人學家默里·沙納漢（Murray Shanahan）同意我們將會生產出先進的人工智慧，但不會是在近期的未來。作為《機械姬》科學顧問的沙納漢認為，當前的數字技術大概能夠模擬出老鼠大腦中的7000萬個神經元。但這個數量九-九-藏-書還不到人類大腦中800億個神經元的百分之零點一，所以製造出像《銀翼殺手》中複製人那樣具有一般人類水平的人工智慧，還有一段很長的路要走。

為了給機器人再附加一套遠比三定律更為精細的道德準則，我們人類或許也得需要一套道德標準，為的是萬一它們變得像羅伊·巴蒂那樣有了情感，我們得保證不再像對待奴隸一樣對待它們。有跡象表明，社會已經開始認識到了這種可能性，儘管這個問題並非毫無爭議，而且也有很多意想不到的衍生問題。2017年10月，沙烏地阿拉伯王國給一個具有一定對話能力的女性人形機器人索菲亞授予了公民身份。多數觀點認為這是一種公關策略，是一個在婦女權益方面有令人遺憾記錄的國家試圖示對技術的友好姿態，不管怎樣，這一舉動將人們的注意力吸引到了這樣一個問題上，合成人的權益將怎樣才能真正從我們自身的權益中發展出來。

這裏所描述的機器起初並不值得我們同情，但因後來變得太像人類了，以至於喚發了我們的共鳴，這種情況在其他科幻電影中也有過探討。在導演斯坦利·庫布里克的《2001：太空漫遊》中，人工智慧哈爾為保全自己而殺死了一位人類船員——然而當中校鮑曼（凱爾·杜拉飾）拔出這個人工智慧的存儲單元，我們看到這個能幹的頭腦退化成了一個5歲大的孩子，唱起了「黛西，黛西，給我你的答覆」時，我們還是不禁會產生一絲同情。在《星際迷航：下一代》中，人造人中校戴特（布倫特·斯皮內飾）在星際艦隊中深受他的人類戰友的接納和尊重。他要比人類更加強壯和聰明，但他仍然渴望會變得更加像人類。他天真而又誠心地努力學習著情感，飼養著一隻寵物貓，這些都使戴特變成了劇集中一個可愛的角色，而他的這些努力都是對人類——他的創造者的恭維。當一個孩子想要變成他或她的父母的樣子時，每一位父母都會為此感到欣慰的。

但據美國前國防部副部長羅伯特·沃克稱，全自主武器不在五角大樓的計劃之列。相反，他最近說，有個想法是「要讓人類留在使用致命武器的決策周期中……未來某天我們是否會製造出一個完全自主的機器人，並由它來掌管致命武器？我想這個問題的答案是不會」。另有一些人認九-九-藏-書為，人工智慧的快速發展將會導致一輪不斷升級的人工智慧軍備競賽。然而，我們並不知道怎樣才能製造出一種有倫理觀的戰爭機器人，它們得能分清楚友方和敵方，戰鬥人員和非戰鬥人員——這種複雜的判斷遠不是阿西莫夫那簡單的第一定律所能勝任的。正是考慮到這一點，2015年，有超過3000名的機器人學和人工智慧研究人員簽署了一封公開信，要求「禁止超出人類控制範圍的有攻擊性的自主武器」。

如果哪天我們人類真解決了如何與這些新型人造物種相處，那麼幫助我們走到這一步的，一定是那些有關智能機器的科幻故事。通過探索人與機器的分界，這些故事說明了這樣一個道理，當我們與我們的造物打交道時，我們必須應對的不僅是智能問題，道德問題也同樣重要。這些故事也在提醒我們，這種互動也可能不總是友好的。

像史蒂芬·霍金這樣的一些科學家已經發出過警告，在事先沒經過充分考慮之前就接納機器智能，一定會有負面結果。我們應當留意這些言論，但真正能喚起我們注意的，恐怕還得是一個殺氣騰騰的哈爾9000，一個冷酷無情的終結者殺手，或一個像人類一樣的羅伊·巴蒂給我們來一次情感上的衝擊。當我們一頭撲向那個人工智慧的未來時，它們的故事可能才是我們最好的警鐘。

在2004年舉行的首屆國際機器人倫理研討會上，配備人工智慧殺人武器的倫理問題就已經討論過。如今這個問題已受到聯合國的重視，因為美國和其他一些研發軍事人工智慧的國家可能只需派少數士兵上戰場就能發動起一場戰爭。幾年以來，美國已經在用半自主的武裝無人機來搜尋敵方的戰鬥人員，是否向對方開火的最後決定權掌握在數千公里之外的人類手中。下一步涉及的將是完全自主的武器，它們可以自己來決定目標和射擊的時機。這一計劃潛在的負面結果在電影《機械戰警》（1987）中已經被令人信服地展現過，片中那個有侵略性的自主機器人警察，ED-209，就殺死了一個無辜的旁觀者。

機器人被當作奴隸的主題一直延續至今，從弗里茨·朗（Fritz Lang）執導的經典電影《大都會》（Metropolis，1927），到導演雷德利·斯科特的影片《銀翼殺手》。前者，一個科學家製造了一個怪誕的女性機器人瑪麗亞作為機器人工人部落中的第一名工人；後者中的幾個複製人是當人類在遙遠的星球定居后，被迫為人類工作的合成人。《銀翼殺手》中的合成人，又被輕蔑地稱為「人皮鬼」，似乎與人類非常相像，但卻是可以隨意處置的，都只有四年的壽命。這群複製人由羅伊·巴蒂（魯特格爾·豪爾飾）領導，他們殺害了一艘太空船上的全體人類船員，非法返回到地球上，希望在這裡能延續他們的生命。read.99csw.com

合成人不管被表現得值得得到人文關懷，還是作為人類的敵人出現，這些故事都做了某些偉大科幻經常會做的事（除了娛樂）：它們將可能的未來描繪了出來，讓我們可以在新技術真正到來之前，想象一下它會把我們帶往何處。當《銀翼殺手》在1982年發行時，機器人技術、人工智慧和基因工程還處於起步階段，而這些科學將來真的會導致一種或另一種合成人的出現。然而《銀翼殺手》預見到了我們在35年後必須認真考慮，當這項技術已經取得巨大進步時可能引發的問題。一些較新的電影，如史蒂文·斯皮爾伯格執導的《人工智慧》（2001）和導演亞歷克斯·嘉蘭（Alex Garland）廣受讚譽的機器人驚悚片《機械姬》（Ex Machina，2014）等，繼續在關注著這些問題。

為什麼會如此痴迷於觀看自身思想和身體的人工版本？也許我們想看看技術能否實現讓人類像眾神一樣，擁有設計和製造生命體或半（類）生命體的力量。這背後也許還有人類一個秘而不宣的渴望：如果一切得以實現，也許有一天我們便能知道如何提高自身了。抑或我們僅僅是希望在銀幕上看到自身，只是間接地，通過我們自己的造物來看。這就給了我們一個有利的位置，讓我們能誠實地思考我們人類的罪惡和美德。但或許我們的目標並沒有那麼崇高。我們可能只是喜歡想象出這樣一個世界：機械僕人做著我們人類不願意自己做的事情，或者以超人的完美狀態服侍著我們。

另一些虛構的機器智能就一點也談不上可愛了。詹姆斯·卡梅隆的電影《終結者》中那個T-800機器人（阿諾德·施瓦辛格扮演）儘管臉板得像石頭，看起來卻非常像人。但這隻是外面一層人工合成的偽裝，裏面的一台機器只被置入了一條指令：找到並殺死某個女人，因為她未出生的兒子將會領導未來的抵抗組織來對抗天網，而天網是一個具有自我意識的計算機網路，它想要消滅人類。在《太空堡壘卡拉狄加》（Battlestar Galactica，2004—2009）中，賽昂人，這種既有類人外形又有機械式構造的機器人消滅了大部分的人類，他們認為人類是有缺陷的種族，並且想把他們趕盡殺絕。https://read.99csw.com

問題不僅出在像三定律（或四定律）這樣預先植入的嚴格規則，有可能會被一個真正聰明的人工智慧用一種意想不到的方式來詮釋；問題還出在像這樣的指令太過死板，根本沒辦法應付真正的道德問題。基於此，一些麻煩可能來得比你想象的還快——以戰場為例，美國雖說還沒有可以派出去執行殺戮任務的終結者仿人機器人，但研發有自主能力的武器已經提上了日程，這些武器可以在戰爭中做出死亡決定。

有「銀翼殺手」頭銜的特工瑞克·戴克（哈里森·福特飾），被指派追殺這幫造反的複製人，除巴蒂之外，他們全都要被銷毀掉。在最後的場景中，巴蒂把他的經歷和記憶做了一番富有詩意的表達，但它們都要隨著巴蒂的死而永遠消失了，然後他的生命已到盡頭。這個場景已經成為科幻片中一個經典瞬間，因為巴蒂的表達中那強有力的意象和豪爾對一個合成人變成人類（或許超過了人類）的精細描繪，都超越了人們對機器人的刻板印象。

在長長一串被人類投入使用的機器人名單當中，塔羅斯排在第一個。在捷克作家卡雷爾·恰佩克（Karel Čapek）1921年的舞台劇《羅素姆萬能機器人》（Rossum's Universal Robots，隨後是1935年的俄語電影版本。）中，明確界定了機器人的低下地位。劇中有一些人形人造勞力從工廠里被製造出來，它們被稱為robots（機器人），這個詞在捷克語中的意思是「強迫勞動力」或「奴隸」。這些機器人最後擁有了自我意識，培育出了情感，並漸漸對它們所處的地位生出了深深的怨恨。它們反抗並消滅了人類，但是當一個雄性和一個雌性機器人發現了愛，並出發去創立一個新的、也許是更好的種族時，這部劇留下了一線希望。九_九_藏_書

這些原因一定是深藏在人類心靈的深處，因為早在我們能製造智能機器之前，它們就是人類幻想的一部分了。智能金屬機器人的概念可以追溯到古希臘神話中關於塔羅斯（Talos）的故事，塔羅斯是一個由青銅製造的人形機器人，巡邏並保衛著克里特島，如果有船隻靠近，他會拋下滾滾岩石。

與此同時，歐盟正嚴肅考慮是否將最終需要授予高級機器人和人工智慧人格。這並不是要把它們變成有公民權的公民，而是像法人資格那樣，為將來擔責提供一種法律依據。舉個例子，如果一輛自動駕駛汽車中的人工智慧做出了一個錯誤的判斷，並因此撞傷了一個行人，誰將為此負責？是自主的人工智慧自己，還是它的人類設計師和程序員，抑或是讓這一整套產品上路的公司？在智能機器發展形成道德立場這方面，像這樣的問題還只屬於早期階段。

科幻故事——不管發生在地球上，還是發生在遙遠的銀河系裡——都傾向於把智能機器作為角色之一，經常還是作為主角。它們的亮相方式有時是無實體的人工智慧，如《2001：太空漫遊》（1968）中操作飛往木星的宇宙飛船的哈爾9000型電腦；有時是一具機械身體，如《地球停轉之日》（1951，2008）中笨重的機器人高特，或《星球大戰》（1977）中優雅迷人的C-3|PO；有時卻是與人類很像的人造人，如《終結者》（1984）中的T-800，或《星際迷航：下一代》（1987—1994）中的中校戴特，或《銀翼殺手》（1982）和《銀翼殺手2049》（2017）中的那群複製人。