傀儡舞娘
「你可能平時不怎麼接觸機器人。」小李似乎在努力控制自己的情緒,「可我對這些擬人機器人的感覺只是厭惡,有時甚至還會對它們產生恐懼。『恐怖谷理論』認為,當機器人的外表、動作和人類的相似度達到一定程度時,人類對他們的情感反應會變回正面。但我認為它們永遠不可能脫離『恐怖谷效應』,因為它們的行為邏輯歸根到底只是由上千萬行的代碼所決定的,它們只是一個輸出行為的殼子。它們沒有靈魂。」
老張氣得雙手發抖,他掏出一片口香糖,嚼了幾口,就呸一聲吐了出來。他趴到地上,從沙發下摸出一包雲煙……
「負責人先生想必沒有使用過自己公司的產品。『強|暴』這個詞確實不成立,這隻是一場單方面的角色扮演遊戲而已。也許是因為之前的某些經歷,木下純子認為她的抵抗行為在服務過程中會對死者產生正面的刺|激作用。然而她面對的是一個醉鬼,死者被激怒了,他掏出了一把摺疊刀。視頻的內容在此結束。」老張面向木下純子,「我到目前為止的陳述有錯嗎?」
「機器人三定律?」
老張隨小李來到囚禁室,房間里的場面相當驚悚:一個衣不蔽體的女人紋絲不動地坐著,身上的皮膚材料多處受損,左臂處還有一道從手腕延伸至肘部的刀傷,傷口很深,能看到裏面的機械骨骼;從額頭到脖頸后的腦殼敞開著,裏面人腦的位置是一個閃爍著藍光的球體。
「Ok,if you insist.」「灰短髮」看了看表,找了個地方坐下來。
「聽著,木下小姐,當時對你說『殺人償命』的女人並不完全對。如果我的推測是正確的,那麼第二名男子只是過失致人死亡,不會被判死刑的。而如果你讓他逃過法律的制裁,他可能會一生都生活在罪惡的陰影中,他一輩子都無法得到良心上的安寧,這才是對他最大的傷害。」
不遠處,小李站在路邊,身軀筆直,目光閃亮,保持著敬禮的姿勢。老張回憶起自己曾經也有這樣的一雙眼睛,可在看了太多的罪惡后,眼睛也渾濁了,只能吸收光線,卻再也閃爍不出光了……
「以後再遇到這樣的人,你一定要注意保護好自己,這種情況下,拒絕他們的請求是正確的。」老張心中升出一股想保護她的衝動,他在女兒十幾歲的時候,也叮囑過要她保護好自己的話。
「我還有疑問,刀上為什麼沒有指紋,丟失的視頻片段是怎麼回事?」小李問道。
「切開你的肚子怎麼樣?這裏面是一堆電線吧……要麼敲開你的腦殼,讓我看看正電子腦是什麼樣……」
最後,他的目光停留在一個外貌和身材都相當西方化的金髮「舞娘」前,只有這種疏離感才能讓他冷靜下來。
「切……她只是個程序出錯的商品罷了。」負責人撇了撇嘴。
「黛西……」機器人看著表情嚴肅的老張,「沒遇到過這樣的顧客,黛西喜歡和你談話。我們被其他顧客當作商品、當作物件……」
老張勉強擠出一個上了年紀的人很容易作出的令人寬慰的笑容,拍了拍小李的肩膀,說:「我就要退休了。本來這案子我也不該瞎摻和的,一個老頭子了,還懂什麼機器人啊?我只是在想,我跟犯罪作了四十年鬥爭,但我仍然不知道什麼是罪惡;我見識了各種各樣的人,但我仍然不知道什麼是人性。我不管機器人能不能學到人性,但絕不能讓它們學到人的罪惡。不管背後是什麼『天堂鳥』還是天皇老子,我要把這種罪惡消滅在搖籃里。」
「我不是問你。」老張看著旁邊一直一言不發的「灰短髮」。小李試著翻譯了老張的話。
第二個人的出現,兩個人的爭吵演變成鬥毆,七處刀傷,抹去的指紋,丟失了的四分鐘錄像片段……
「黛西會提醒您這是『天堂鳥』公司的財產,如果由於您的原因損毀了黛西,您將被起訴。不過,如果您執意這樣做的話,黛西不會反抗。」
「木下小姐請坐在那邊。」
「那個醉
九九藏書漢和另一個男人扭打在一起——」「唔……嗯……」女人哽咽著。
老張回到家中,拿起桌子上的字條,上面滿是妻子的絮叨。
老張打開門,是小李。
「別哪樣啊?老子付了錢,該你完成你的工作了吧……」
老張越走越快:
機器人應服從人的一切命令,但不得違反第一定律。
「那要我們去通信公司查你的通話記錄嗎?」小李提高了嗓門,老張知道自己該扮演紅臉了。
「這就是疑犯,那個閃著藍光的球體是正電子腦。」小李解釋著,又對這個「女人」說,「播放使用指南。」
「怎麼了?」
「死亡男子旁邊坐著一個機器人,外貌是女性。經我們核實,為『天堂鳥』公司生產的第二代服務型機器人。這段視頻是我們的技術人員從該機器人的記憶體里提取的,不過不完整。還有相當多的信息被加密了,這涉及『天堂鳥』公司的隱私協議。」
小李說的不錯……老張想,「總之,先讓技術人員看看能不能從她的腦子——就是那個正電子腦——里找到丟失的片段。你跟我去案發現場,也許能找到案件的目擊者。」
「凌晨1點多聽到樓下有爭吵聲,我打開窗戶正要罵人——」
「第二定律:機器人應服從人的一切命令,但不得違反第一定律;
老張長吁一口氣,他注意到至少這個「舞娘」的穿著相當規矩,也許可以只把她當作像自己女兒的同學那樣的孩子來看待。
老張做賊似的左右看了看,按照櫥窗旁的操作指示塞入幾張紙幣,就好像在使用一台普通的投幣販賣機。
老張沒聽到那個「傀儡舞娘」在電源切斷前的最後一句話:「我討厭被當物件。」
機器人應保護自身的安全,但不得違反第一、第二定律。
「我們的初始化數據中並不包含具體的法律條文,但基於正電子腦的智能機器人有學習能力,我們可以通過與顧客的交流獲得知識。」
這時斯賓瑟博士走過來握住老張的手,嘰里呱啦地說了半天。負責人一臉不快地翻譯著:「這令人印象深刻,我非常榮幸能得到這起事件的第一手材料,這將成為即將召開的人工智慧會議的一個鮮活而奇特的例子!」
巷子的一側立著一排櫥窗,裏面是形形色|色的人形機器人,大多是女性外貌。時不時會有幾個人匆匆而來,又帶著挑中的「舞娘」穿過小巷離去。
「結論還沒出呢。」老張提醒道。
「第一定律:機器人不得傷害人,也不得見人受到傷害而袖手旁觀;
「但我們得到的視頻卻不是完整的,而且缺失的恰恰是最重要的片段。」老張盯著小李說。
「是這樣的,大概今天凌晨兩點吧,接到個報警電話,我們的人趕到事發現場就看到一個男人躺在地上,身下一攤血,已經斷了氣。死者的小腹和前胸總共挨了七刀,死亡原因初步結論是失血性休克。」老張的徒弟小李解釋道。
「請您別這樣……」
老張突然想到,在那段錄像中似乎出現過「請您別這樣」和「不要這樣」的話。
「我想純子一定是確認了受害人的死亡后才這樣做的。致命傷是一刀刺中心臟,立即死亡,而小腹那幾處傷堪堪割破表皮……凌亂的刀痕也說明了下手者當時的糾結。」
「目擊者說看到另一個男子和死者糾纏在一起。我們假設一個在酒吧看完球走在回家路上的男人——很有可能也喝了幾杯,看到一個醉醺醺的男人拿著一把刀脅迫一名女子,他想要制止這種行為。可是兩個人誰都聽不進對方的話,對罵了幾句后就扭打在一起。」
「所以你就說看見那個機器人殺了人?你以為這樣可以把機器人趕出我們的生活?」老張循循善誘。
「那這個機器人是?」老張小心翼翼地問著小李,心裏已經猜到了答案。
現在的世界和他剛加入刑警隊時的世界有何不同呢?老張試圖讓自己相信這個世界已經改變了,幾十年前,沒有夜幕上遮蔽了群星的廣告,沒有街上隨處可見的送孩
https://read.99csw.com子上學的機器人保姆,沒有自己臉上密布的皺紋……可是,時代的洪流不可阻擋,機器人已經一步一步介入了人類的生活中,它們也在逐漸地了解人類,了解人性。也許有一天,機器人可以擁有所謂的人性,這人性中有善,也不可避免地會有惡。
不得見人受到傷害而袖手旁觀。
「明天十二點以前必須結案。」老張滿以為小李會糾纏個不停,他已經做好回答十萬個為什麼的準備了。
「你可別講太長時間,我們行程很緊的。」那名輕佻的法律事務負責人很不耐煩,「這位先生是我們請來當顧問的斯賓瑟博士,他曾經與美國機器人公司的蘇珊·卡爾文博士共事過,過幾天還要趕回去參加一個人工智慧會議。」
老張搖著頭,自嘲地想,對於一個退休老頭來說,我想得太多了。
小李一臉焦急,「我們得到那個女人的目擊證言了,案情變得複雜了……」
「那如果我要攻擊你呢?」
「已經很晚了,你先回家吧,我在這兒盯著。」小李說。
小李把那個「傀儡舞娘」帶來了。老張看到機器人仍沒更換破損的衣物,便脫下自己的夾克套在機器人已破爛不堪的衣服外。「舞娘」看到房間里的眾人,環視一圈,深深地鞠了一躬,「木下純子為各位服務。」
「無業游民。租著間十幾平方米的房子,做那種生意,你知道……這個人不可信。」
「曾經有顧客提出讓黛西在服務過程中對他們的行為進行表演性質的抵抗,聲稱這樣能讓他們獲得更高質量的服務,而且不會給他們帶來實質性的傷害;還有顧客提出讓黛西用皮鞭抽打他,但這違背了我們的底層程序。黛西不明白為什麼人類會提出這種違背機器人第一定律的要求。」
「請你不要再打斷我,只需向斯賓瑟先生翻譯我的話就好了。」老張看出一旁的斯賓瑟博士也對負責人的態度不太滿意。
「……我忘了,哦,記起來了,是用的家裡的電話。」女人的語速很快,顯得咄咄逼人。
「一半一半吧……」局長摘下警帽,頓時顯得蒼老了許多,「兒子剛買了個機器保姆,我想知道每天為我孫女換尿布的那雙機械手有沒有可能……那些警員的工作還要你做啊,年輕人太心高氣盛了。」
「我今天看到你去哪兒了。」女兒加重語氣重複了一遍。
「是啊,抹去的指紋,丟失的視頻片段……這『女人』把不利的證據都消除了。然而兇器上沒有死者或任何人的指紋這一點,反而加重了它的嫌疑。」
女人似乎已經平靜下來了。
「不過機器人殺人的事倒是聞所未聞,在那些機器人滿地跑的國家也沒聽說過,畢竟有機器人三定律嘛。」小李感嘆。
老張走到木下純子身邊,抓起她的左臂,高舉起來,「她確實沒有袖手旁觀。」
這時老張接到了小李的電話,說是在小巷裡找到了一個目擊證人,現在正要帶到局裡做筆錄。老張匆匆地按照操作指南結束交易,離開了小巷。
「另一個人已經不見了,我只看見醉漢倒在地上,流了好多血……我意識到旁邊那個『女人』是個『傀儡舞娘』,我大聲咒罵她,我說殺人要償命的,我說我很高興看到她被廢品回收車壓成一堆廢鐵——」
「所有證據都指向這一結果。」
老張辦完了退休手續,在大門口分局的牌子前站了良久,像是在回顧自己的職業生涯。彷彿一個轉身的時間,整個世界都變了。
「你是說,是純子抹去了刀柄上的指紋,又刪除了記憶體中的視頻記錄,是為第二名男子開罪?」小李難以掩飾自己的驚訝。
這定律太有名了,出自一位科幻大師,其邏輯貌似很完美,但裏面一些意義含混的詞一直讓人不安。老張把這些定律默念了幾遍,直覺告訴他這是破案的關鍵。
看著小李的背影,又看了看櫥窗里閉著眼彷彿安睡的「傀儡舞娘」,老張被壓抑了很長時間的慾望突然爆發出來:他想抽支煙。
「你們總是想知道真https://read.99csw.com相。」女人站了起來,「我老公帶著兒子跑了,因為工廠用上了機器人,他丟了工作!我付不起房租了,因為這些混蛋機器盪|婦搶了我的生意!這就是他媽的真相!你們現在知道了,你們又能做什麼……」
「你知道機器人三定律嗎?不知道吧?這個定律限定機器人不能傷害人類。如果這個定律不再有效的話,在我們身邊,會有上百萬,也許上千萬潛在的機器人罪犯。我不希望這樣的事情發生。如果你確實看到了案發經過,我希望你能重新作下筆錄……」
對方尷尬地笑了笑,「其實我們很樂意配合警方工作,但是我們的產品必須回收,這裏面涉及商業秘密。」
沒有回答。明明聽到女兒過來的腳步聲了。
「這位是『天堂鳥』公司的法律事務負責人。」局長介紹著,「這位是我們的張警官,負責這起案子。」
……
果不其然!老張覺得很諷刺,在這個機器人普及率還不高的國家,竟然是這種古老的職業率先憑藉高科技煥發了第二春。或許也正是因為機器人尚未普及,這種明顯遊走在法律邊緣的產業才有了滋生髮展的空間吧。目前這方面還屬於法律的空白地帶,而且傀儡舞娘的活動範圍都不在鬧市繁華地區,警察們也就沒太關注這些玩意兒。
老張朝小李揮了揮手,然後掏出一片口香糖,慢慢嚼了起來。
「為什麼要編造事實呢?有什麼困難嗎?你要相信我們。」老張語氣和緩地說。
「你知道,工作需要——」
「我們只想知道真相。」老張則低聲細語。
「你不用擔心,我們的技術人員沒有破解你們產品的正電子腦。」小李冷冷地說道。
「是的,我確定當時還有一個男人在場——」
老張沒有理會那名負責人,說:「首先,我要說明一下,這起案子的重點在於嫌犯木下純子給我們的案發視頻片段中缺失的那四分鐘。在那之前和之後的事情,我們都通過視頻片段和目擊者的證言了解到了。死者當時將嫌犯從櫥窗中帶出,想要在街邊強|暴她,在遭遇嫌犯的輕微抵抗后,他拿出摺疊刀試圖脅迫嫌犯屈從——」
「你們也懂法?」
「我穿好衣服,下樓大罵,叫他們別吵了——」
「就是這裏了。」小李的聲音顯得有些不自在。
「不管怎麼說,還是先把它當成普通案件,按原計劃進行。」老張指著巷口處幾間與周圍環境格格不入的破舊民房,「你去那裡調查一下,希望會有人目擊了案發經過。」
「黛西沒有收到過這樣的要求。」「舞娘」看到男人臉上的笑容,它不能確定那是一個笑容——這跟它曾經看到的笑容不一樣。老張當然知道自己的笑容有多僵硬,這樣會不會看起來更像個壞人?他忐忑地想。
「出於真理和正義的堅持?」
「我看到你跟那個東西聊得很開心!」
「我知道她們都是什麼貨色!」女兒跑回房間摔上了門,「我不會告訴我媽的!」
「你也服從機器人三定律吧?」老張問。
櫥窗里的「傀儡舞娘」睜開了眼,看到了旁邊那個瞪大了眼睛的男人,「您好,黛西為您服務。您需要何種類型的服務?」
「邦邦邦!」老張被一陣急促的敲門聲吵醒,睜開眼,看到陽光投射在地板上,想來已經是早上了。老張從沙發上坐起來,看到茶几上遍布的煙頭,想起昨晚的事,不禁一陣頭痛。
老張拿出一片口香糖嚼,藉此緩解緊張而導致的煙癮。他彷彿鑒賞藝術品一般從櫥窗里的一個個「舞娘」前經過。她們的五官是如此精緻,她們的身材比例是那麼完美,她們的皮膚上找不到一個毛孔:她們不是人。
「第三定律:機器人應保護自身的安全,但不得違反第一、第二定律。」
「可是機器人不得見人受到傷害而袖手旁觀。」小李說。
老張走出局長的辦公室,小李正在門外,似乎等了一段時間。
老張覺得現在的機器人技術已經遠超自己的想象了,這個機器人不會從自己這兒學到刑偵方面的知識吧?
九-九-藏-書「但是我知道曾經有機器人面對人類的攻擊說出『請您別這樣』諸如此類的話。」「我不知道機器人是否懂得去報警,可能當時的情況已經超出木下純子的理解範圍。案件目擊證人的證詞表明,在她下樓的過程中,第二名男子已經離去,所以她沒有看到完整的經過。她下樓后只看到木下純子和死者,就像我們每個人一樣,誤以為是木下純子殺了死者,她對木下純子罵道:『殺人是要償命的!』本來木下純子可能並不知道這樣的道理。殺人償命是人類社會長期以來的基本道德之一,之後很自然地轉化為法律的一部分,可對於機器人來說並沒有這樣的概念。純子知道是誰殺死了死者,出於第一定律,機器人不得傷害人,也不得見人受到傷害而袖手旁觀,純子作了一個決定。類似的事情,之前並沒有機器人做過。」
「看什麼呢?這麼熱鬧。」老張是刑偵科的老警員了,為人實在,做事嚴謹,就是一直沒幹上去,現在沒幾天就要退休了,只差個手續。
「『天堂鳥』這個臭名昭著的公司你沒聽說過嗎?人們管這種機器人叫傀儡舞娘,平時在玻璃櫥里休眠,有人付錢后就啟動,嗯……開始工作。」
「事實上,案子差不多已經結了。」小李遞過來一份報告。
「人的命令,你必須服從?」
老張看了下表,點點頭。
什麼亂七八糟的……老張思酌著,走了過去。只見刑偵科的幾個年輕警員圍坐在一台屏幕前,畫面里一個醉醺醺的男人一直對著鏡頭說著猥褻的話語。
小李脫口而出:「可這樣不是對受害人造成了傷害嗎?」
「當時純子試圖分開二人,卻在混亂中被刀刮到手臂,這處傷很深,剖開了她的模擬外皮,可以看到裏面運動著的機械骨骼。可當時在場的兩名男子扭打成一團,都沒有注意到。在爭鬥中,醉漢的刀被|插入了自己的胸腔,而另一名男子在慌亂中離開了。」
「所以你的判斷是機器人殺了死者?」老張問。
「什麼?」老張詫異。
老張看了幾遍那段錄像。錄像是以第一人稱視角展示的,應該就是當時機器人的主觀視角吧。畫面從凌晨1點37分30秒開始,一個形容猥瑣的男人不停地說著猥褻的話語,之後這個男人摸出一把摺疊刀,此時畫面開始劇烈搖動,不久畫面中斷……畫面恢復后,男人已經倒在地上。錄像總長度為約十七分鐘,中間缺失的部分長約四分鐘。
「第一定律要高於服從人類命令的第二定律。」小李喃喃地說。
老張轉過頭,女兒正圓瞪著雙眼看著他。
此刻,老張腦子裡全是那個女人的證言:
局長苦笑著,「『天堂鳥』來頭不小啊,產品遠銷海內外,去年產值佔全市GDP的百分之十以上,財政稅收更是佔了大概三成,提供了上萬個工作崗位。如果指控他們公司生產的機器人殺了人,這將對我們市這個明星企業造成什麼影響?而且機器人殺人,這在全世界都可能引起震動。」
「不過,顧客的要求必須滿足。好吧,就在這兒聊嗎?」「舞娘」問道。
「明天中午12點之前放人。」局長遞過一支煙。
機器人不得傷害人,也不得見人受到傷害而袖手旁觀。
「我對這件案子有一些想法,不知道你有沒有興趣聽聽?」老張說。
「關於昨天晚上的事,你短短半個鐘頭就給我講了三個版本,你知道作偽證要負什麼責任嗎?」小李厲聲喝問。
辦公室的門開了,老張停下腳步,轉身看到局長和兩位穿著筆挺西裝的人。一位打扮入時,表情輕佻;另一位是西方面孔,身材高大,一頭灰白的短髮顯得精神矍鑠。
老張遞過紙巾盒。
「你真的該退休了。」小李半開玩笑地說道。
案發地點位於市中心尚未改造完成的棚戶區。老張在巷口四處看了看,這裏沒有安裝任何監控攝像頭,而巷子南面的不遠處,就矗立著全市最高的幾座大廈,從玻璃幕牆中透出的燈光和樓頂不停變換的霓虹把低調的月光完全掩蓋。
黛西read.99csw.com沒有立刻接話,似乎是在思考。
「『天堂鳥』的人可沒你這麼樂觀。本來他們的人今天就鬧著要把自家的產品帶走,我又為你爭取了半天。」
老張突然覺得這個機器人很讓人憐愛,她擁有強大的計算能力,可面對複雜的人類,她們就像嬰兒一樣天真。
「她被帶過來后一直很配合,在被我們問詢后還主動說可以提取它記憶體里的視頻記錄。」
「是的,而且我認為純子想替那名男子頂罪。死者胸口的致命傷和小腹的傷似乎並不是同一個人造成的……」
那個聲稱目擊了案發過程的女人坐在刑偵科的辦公室里。她臉上塗著厚重的粉底,劣質香水的氣味讓老張咳嗽起來。他把小李拉到一邊,壓低聲音,「這人做什麼工作的?」
暴露在外的正電子腦不知閃爍了多久,機器人慢慢地張開了嘴,「木下純子只是個笨頭笨腦的機器人……」
「是的。」
「局長怎麼說?」小李問。
「如你所見,三定律有效得過了頭。」老張慢慢說。
「這是屍檢報告,死者的致命傷是在胸部,小腹的傷雖比較多,但傷口較淺,並不致命。還有,這是兇器鑒定,兇手使用的是普通的摺疊式水果刀,刀柄上沒有指紋。但我們從視頻中看到,刀是死者拿出來的,所以只能推斷後來刀是由兇手握住的。而機器人沒有指紋,所以之前的指紋也被抹去了。」小李說。
「你媽去看外公外婆了啊?」老張隨口問。
「幹嗎啊,爸爸是老刑警了,還怕你嚇唬啊?」
「是的,所有裝配有美國機器人公司生產的正電子腦的智能機器人都嚴格遵從機器人三定律。」
老張也只能自嘲地笑了笑,「去看看嫌犯吧。」
老張幹了這麼多年刑警,見過各種各樣的作偽證者,他知道,越是堅定的語氣越無法掩飾心虛。
「這個錄像……?」老李問。
「本產品嚴格遵從以下定律:
「看出來了。」老張拿起筆錄,大致看了一遍。
老張恍惚間好像看到一張酷似他初戀的臉,他踉蹌了一下,幾近摔倒,狼狽地快步走開。
老張不停地來回踱著步,使得不大的辦公室顯得更加逼仄。刑偵科的人大多都知道老張在思考的時候是坐不住的,一定要走來走去,走的速度越接近他的最大步速,就越表明思考進行到了關鍵時刻。
老張接過報告。
「喂,你糊塗了,那可是機器人啊,哪有什麼強|暴之說。況且,設計出來是做什麼的!」「天堂鳥」公司的負責人大聲反駁。
「你的手機在身上嗎?」老張從小李手中接過女人的皮包,從中掏出她的手機,「通話記錄里沒有報警電話。你是用這個手機報警的嗎?」
老張轉向木下純子,「這是真相嗎?」
老張示意小李把嫌犯帶過來。
女人哭得很傷心,她兩隻手胡亂地在臉上抹著,淚水混合著劣質化妝品,把她的臉塗得好像畫家的調色板。
「我今天看到你去哪兒了。」女兒咬著嘴唇一字一頓地說道。
「戒了,」老張擺擺手,「女兒不讓抽……上頭又給你施壓了?」
「沒有錯誤。木下純子以前被顧客要求表現出反抗的行為。顧客的前一個命令要求木下純子不服從他們的后一個命令,木下純子只能以前一個起統領作用的命令為準。」
老張沒有回應對方伸過來的手。
「很好,先不要下結論。如果我沒有記錯,機器人第二定律是:機器人必須服從人的命令。你們有沒有直接命令它說出真相?」
端坐在一旁的機器人作出了一個可以描述為為難的表情,「木下純子沒辦法回答。」
局長也走過來了,「所以我們還是可以相信機器人對人類的忠誠?機器人三定律依然有效?」
「您好,本產品由音特爾——『給正電子腦一顆奔騰的芯』,以及美國機器人公司——『為您帶來更好的機器人使用感受』,聯合製造。
「嘿,我們公司有專家,不需要你這外行指手畫腳——」對方說。
「我不需要什麼『特殊』服務,」老張緊張地選擇著詞彙,「就聊聊天,兩個人談話,行嗎?」