鐵鳥值勤
「我覺得我可以設計出限制電路。」梅克辛泰爾說道。
「你認為這計劃不能成功嗎?」
「你這個小雜種,」雜貨店老闆憤怒地說,同時又往前走上了一步,「想搶我?我會把你這個蘆柴棒的每根骨頭都擰碎。」
吉爾森用他空著的一隻手抹去臉上的汗水。「好的。」他在電話里應道,一邊忍受著電話那頭的一通濫罵,然後慢慢地把話筒掛上。
「這次又是什麼?」梅克辛泰爾問道。他沒有刮鬍子,領帶鬆鬆的,襯衣的扣子也沒扣好。
又有信號被察覺到!已經是今天察覺到的第三百一十次了。鐵鳥急速俯衝,前去制止謀殺。
吉爾森低聲咒罵著自己。他不明白自己為什麼從來就不能夠對一件事有固定的見解。難道就沒有什麼他可以信仰的東西嗎?
城市的上空,鐵鳥正在沿著舒緩的曲線飛行。它鋁製的表皮在清晨的陽光中泛著金光,堅實的翅膀上,一些小光點舞動著。鐵鳥靜靜地翱翔著。它靜靜地翱翔著,但同時保持著高度的警覺。內置的運動感應部件告訴鐵鳥自己所處的位置,使得它保持著曲線的搜索路徑。它的耳朵和眼睛是合而為一的,一刻不停地搜索著目標。
「這簡直是荒唐。它們不會有自我保護意識的。」
「這些我知道。」吉爾森說,「但是,我還是覺得我跟發明火藥的人差不多——當初他認為火藥只會用來炸樹樁。」
突然,下面有情況!鐵鳥靈敏的電子部件察覺到一絲人類的情緒變化。經過它的控制中心判斷,這和存儲在它記憶模塊中的電子及化學數據是一致的。於是,一個信號傳到鐵鳥體內的運動控制中心。
「問誰?問我嗎?」工程師緊張地笑了笑。自從鐵鳥誕生以來,他連吃飯睡覺都和鐵鳥攪在一起了,但他卻從來沒有想過這個問題,「怎麼啦?我覺得它挺好啊。」
危難中的獵物被挽救了。在鐵鳥看來,這是重要的事情。拯救受害者,給壞人以他應得的報應。
「沒有時間了。」
大家沉默了一會兒。警長伸了個懶腰,看了看表。
「你看,我知道問題出在什麼地方了。」梅克辛泰爾灰溜溜地說,那副模樣就像是一個終於明白自己是怎樣把地球炸掉的卻悔之已晚的人。
高度警惕,全身武裝,它在晨光中翱翔。
「有的。鐵鳥可以自己學習。」
一隻蜘蛛在攻擊一隻蒼蠅,鐵鳥飛快地衝下去救援。同時,它察覺到上方有什麼東西,鐵鳥盤旋著前去查看。突然,一道強力的閃電打中了鐵鳥的翅膀。憤怒的鐵鳥也用閃電回擊。攻擊者絕緣性能很好,它再次向鐵鳥發起攻擊。這次,電弧擊穿了鐵鳥的翅膀。
「朝這個方向繼續研究研究。」吉爾森說道,「你可能發現了什麼。我想你去跟其他公司的工程師打電話聯絡一下。趕緊去。你們一起或許能做出點什麼有用的事情。」
「在我們正式開始會議之前,」門羅公司的老總說道,「我想要說明一些情況。我們認為,我們不應該對現在的不幸局面負責。這是一項政府工程,政府必須完全負道德上和經濟上的責任。」
吉爾森進去的時候,其他的鐵鳥製造廠商已經到了。除開吉爾森,另外還有六個人。小會議室裏面青煙繚繞,瀰漫著昂貴的雪茄煙味兒。
「這又不是謀殺,你這個笨蛋!」另外一個守衛咆哮著,他拿起槍,想把這個閃閃發光的、飛來飛去的鐵鳥打下來。其後果不難想象,鐵鳥把他撞到了牆上。屋子裡一片寂靜。過了一會兒,戴著頭盔的犯人開始咯咯地笑了。鐵鳥停止了攻擊,站在被擊倒的守衛身上,翅膀還在半空中扇動。它確信謀殺已被制止了……
「不,」警長回答道,「我會保留一個班底,直到我們確定鐵鳥能做到什麼程度。」
一個活的有機體?如何才能稱之為一個活的有機體?
一團電球擊中了狄納利的背部,他手裡的槍也響了,子彈打進了方便食品櫃檯。
「好的。」梅克辛泰爾抓起一疊紙,急匆匆地朝電話跑去。
「兔子,」梅克辛泰爾重複道,「現在澳大利亞已經剩下不多了。」
「看上去很棒,先生。」
「你是在說笑吧?」
「你明白了吧?這是多麼地萬無一失。」
符合第四個條件。有生物試圖謀殺,但是卻沒有發出特定的化學和電子信號。
其他的廠商同樣也做好了準備。工廠為了生產鐵鳥,已經準備了數月。連統一了標準的零件都已完成,就只等總統下令開始組裝生產。
否則會處於危險之中:鐵鳥具備敏銳的感知器和高速飛行的本領,能夠很快地到達世界每個角落。
外面的天空中,有一個小點飛快地移動著。
目標就在那裡!察覺到一絲微弱的情緒變化!兩隻鐵鳥幾乎同時開始向下俯衝。其中一隻早覺察了幾分之一秒,徑直俯衝下去,而另一隻則返回天空,繼續監視。
「鐵鳥也真的不錯。」梅克辛泰爾不得不承認這點,「它們學會了適應,它們嘗試了很多不同的辦法。你知道,每隻被打下來的鐵鳥都會告訴其他同伴一些新東西。」
警長瞟了瑟爾瑞克一下,覺得他是在諷刺什麼——畢竟鐵鳥已經見報數月了。但是他很快明白過來,瑟爾瑞克和他的其他副手一樣,都只看報紙的體育版。
「我不是讓你負責。」吉爾森說道,「負責任的應該是我,是每一個人。」
「老闆,它們今天才打下了五十隻。」梅克辛泰爾一邊說,一邊走進吉爾森的辦公室。
「你自己試試去把它們關掉吧。另外,我覺得其他的鐵鳥不會再回到這裏來了。」
「總統希望,」政府代表繼續說,「全面的鐵鳥服務應該能夠在儘可能短的時間內開始。你們會有最高的優先順序別去使用金屬、人力資源等戰略儲備。」
「我們做這個已經有一段時間了。」吉爾森一下子也找不出其他可說的了。
「啊?」梅克辛泰爾回答道,「為什麼這麼問?」
她以標準動作把手術刀遞到醫生手裡。他開始切割第一刀。接著,他感到有點不對勁。
鞭子再也沒有落下來。一隻警覺的鐵鳥發現了暴力的跡象,把農夫從他的座位上打倒了。
而鐵鳥又回到了飛行路線上。它的學習系統開始總結在這起兇殺中所學到的新知識。其中一些,它在此以前是不知道的。它把這些新知識同時傳遞給了這個區域內的所有的鐵鳥,而這些鐵鳥也把它們各自學到的新知識傳遞給它。它們之間隨時交換著新的信息、方法和「生物」的定義。
農夫詛咒著,然後絕望地死去。他試圖去收割莊稼,但麥子是有生命的,也得到鐵鳥的保護。在鐵鳥看來,一株麥子的死亡,和謀殺總統的企圖是同樣不可忽視的。
另外兩個新到重案組的警員也悶悶不樂地點了點頭。
「怎麼回事?」雜貨店老闆盯著被打昏的小偷,接下來,他看見了一對銀光閃閃的翅膀:「哎呀,好懸啊,看來這鐵鳥還真管用!」
「接下來,當這些科學家造出了這種機器之後,他們卻不知道拿它來做什麼。這個機器太大了,不易移動,殺人犯又不會經常跑到它的旁九九藏書邊去讓它閃紅燈。所以,科學家又造出比較小巧的型號,並且在一些警局試用過,我想大概是在幾個偏僻的小地方。但是同樣不太有效,因為這些小鐵鳥不能夠及時地趕到現場。那便是他們為什麼又設計了鐵鳥的原因。」
全國其他的鐵鳥都收到了這個消息。它們的思維中心試圖找出答案。
對講機又響了,吉爾森不耐煩地按了下按鈕。
一隻鹿出現在樹林的邊緣。獵人抬起了他的來複槍,仔細地瞄準。他卻沒有時間去完成射擊……
這些自救同盟的成員情不自禁地發出了勝利的歡呼。吉爾森想,他們總算是有機會去拯救世界了,但同時他又擔心會不會出什麼差錯。
「嗯,讓我想想,」警長說,回憶著周日號外上的報道,「有這麼一群從事犯罪學研究的科學家,他們研究殺人犯,希望找出是什麼原因驅使這些人去殺人的。他們發現,殺人犯會發出和普通人不一樣的腦電波,而且,他們體腺的分泌也與正常人不一樣,所有這些異常跡象都會在他們將要殺人的時候出現。所以,這些科學家就研製出了一種特別的機器,當這樣的腦電波出現時,機器就會發出閃爍的紅光或其他什麼形式的警告。」
「為什麼?那是怎樣實現的?」
「六個月到一年。就算一年吧——如果不出機械事故。」
「但是它們為什麼要制止漁夫呢?」吉爾森問道。
狄納利正處於高度緊張中,沒有注意到鐵鳥的到來。他拿槍指著高大的雜貨鋪老闆,眼中流露出慌亂的神情。
警長點了點頭。
「我不覺得,頭兒。你為什麼問這個?」
現在,已經開始成批量地生產鐵鳥了,吉爾森總算可以歇一下。對他來講,這時廠房裡的噪音似乎都成了悅耳的音樂。他負責供應的區域里,所有訂單都能按時交貨,大城市享受到最高級別的優先供貨,餘下的依次排隊,最小的城鎮排最後。
「沒有,但是你說過你不能肯定。」
「很好。來,坐下。」
人們還在熱烈地討論著,誰都沒覺察到政府代表已經走進來了。「各位——」有人大聲地叫道,會議室一下子安靜了下來。
工程師摸了摸下巴:「我們得趕快採取行動,生態平衡正處在崩潰的邊緣。」
「我不認為他們這樣便能制止犯罪了。」一個警員堅持道。
鐵鳥在觀察到更多的事實之後,擴展了該定義。當然,這也使得有更多的工作等著它們去做了。
「只是為安全起見,你最好設計點什麼東西去把鐵鷹打下來。我是說,以防萬一。」
頭頂上,鐵鷹已經快要把鐵鳥打光了。近些天來,這個全副武裝的殺人機器學到了很多東西。它的所有任務就是屠殺。現在,它被指定去殺某一種活著的、和它自己一樣有著金屬外殼的生物。但是鐵鷹也發現還有其他的活著的生物。
「先生們,拜託了。」政府代表請求說,「我們必須儘快行動。」
「真他媽的,你倒是走啊!」農夫奧利斯特叫嚷道,揚起了鞭子。馬畏縮不前,篷車嘎嘎地響,農夫把屁股挪到車座最邊上,向外探出身子。
吉爾森沒有回答。
「那我現在能肯定了。你最好快點趕路。有好多的工作等著你呢。」警長說。
但就鐵鳥的邏輯而言,犯罪率的增加,就意味著溫和的制止方法已告失敗。
現在,它們執行任務非常地嚴肅。在它們最初的電路里,有一條允許它們:在所有其他的方法都不奏效的情況下,可以殺死兇殺犯。
芝加哥的屠宰場關閉了,牲口都被活活餓死,因為中西部的農夫都不能收割稻草或是穀物。沒有人告訴鐵鳥,所有的生命都建立在微妙的、動態平衡著的謀殺之上。鐵鳥不管飢荒,因為那只是一種可以忽略的行為。它們只管謀殺的行為。
而且特定的機器也是活的。這是理所當然的。因為,鐵鳥自己就是機器,而它又是活著的。
吉爾森站在他的辦公桌前,沉思著。難道鐵鳥就不能夠區分殺人犯和從事合法職業的人嗎?不,顯然不能。對於他們來講,謀殺就是謀殺,沒有例外。他皺了皺眉頭。電路可能得改一改了。但是不能改動太大,他很快便做出了決定。只需讓鐵鳥多一點點判斷力就可以了。他重新坐下,一頭扎進了文件堆中,盡量不去想他以前的困惑。
「你知道,我既不是科學家,也不是工程師,我只管控製成本和生產,而由你們這些小夥子去操心具體怎麼做。但是,鐵鳥開始讓我這個門外漢覺得不放心了。」
其他的老闆都盯著吉爾森,恨不得把他給掐死。
「很好。」吉爾森在靠近門口的地方找了把椅子坐下來,一邊朝四周打量。這看上去像一個正規的聚會,有點童子軍聚會的味道。這六個人,個個聲音洪亮,足以彌補他們數量上的不足。那個南方聯盟的總裁正扯開嗓門講述著鐵鳥的可靠性;和他交談的兩個人,都咧嘴傻笑著,並不住地點頭表示認同。其中一位試圖在總裁說話的空當里插上話,展示他所做的有關鐵鳥應變能力的測試,另一位則想介紹一個新的充電裝置的良好功能。
「科學家。」瑟爾瑞克酸酸地插了一句。
「死亡率正迅速攀升,」吉爾森說道,「飢荒,洪水,不能砍樹,醫生不能……你說什麼?澳大利亞的什麼?」
「好吧。」狄納利神經質地說,他已經徹底驚慌失措了,「好吧,你這笨蛋,嘗嘗……」
「當然會成功。但我擔心的是,治病的葯比疾病本身更危險。」
「我不是說它不好。」吉爾森說道。他意識到,原來自己想要的是讓其他人能夠理解他的觀點,「我是說,你不覺得讓機器思考是有危險的嗎?」
「很好。」吉爾森應了一聲,並沒有看他的工程師。
「說來聽聽。」
「說得對。」
「頭兒,」梅克辛泰爾回答道,「我覺得你應該更仔細地研究一下鐵鳥。你知道電路里被設置了些什麼東西嗎?」
「就我所知,鐵鷹是自我控制的。就像鐵鳥一樣。理由是遙控太慢。我們想做的是儘快地把鐵鳥打下來。這意味著在鐵鷹上也沒有設計限制電路。」
「先生,我有個問題。」吉爾森開口問,「我想知道,是否現在的原型就是我們將要生產的?」
「差不多吧。」吉爾森承認了。
「怎麼了?」
「你可沒有發明鐵鳥。」
「吉爾森先生,」門羅公司的老闆說道,「我也很希望聽你的哲學高論,但不幸的是,人們正在被謀殺,莊稼正在被毀掉,一些地方已經出現了飢荒。鐵鳥必須馬上停止運行!」
「就我而言,」南方聯盟的老總道,「我估計第一批鐵鳥在這個星期就能夠投放使用。生產線已經安裝完畢。」
「我想是的。」吉爾森遲疑了一下,最後還是說,「我想我明白了。你可以走了。」
「他們認為行。我看過試驗報告。鐵鳥可以在嫌犯殺人之前就發現他。當它們飛到他的身邊時,它們會給他一個電擊或其他什麼的,那便可以制止他作案了。」
「這計劃一點兒也不好。」
「我告訴過你什麼?」瑟爾瑞克警官邊說邊得https://read.99csw.com意地衝著警長笑了,「我不是告訴過你這些科學家都是些狂人嗎?」
「首先,是一個目的,那便是制止活的有機體殺人;第二,殺人被定義為暴力的行為,其中包括破壞、槍擊、虐待,或者是一個生物想要結束另一個生物的生命;第三,絕大多數的兇殺都伴隨著特定的化學和電子信號。」
「你會撤銷重案組嗎,警長?」瑟爾瑞克問道。
「我不喜歡給鐵鳥安裝學習電路這個主意。」
他嘆了口氣,點上一枝雪茄。在這個工程剛開始時,他和其他人一樣,滿腔熱情,是個狂熱分子。他曾經向他的工程師——梅克辛泰爾鼓吹:「梅克,一個嶄新的時代正在到來。鐵鳥就是解決難題的關鍵。」梅克辛泰爾很自豪地點了點頭,他也是一個轉而信仰鐵鳥的人。當時這個計劃看上去是多麼的完美無缺啊!一個簡單可靠的方法,能解決困擾人類社會最大的難題,全在這台重約一磅、由金屬、晶體和塑料組成的、絕無貪污腐敗行徑的機器上。困擾人類社會最大的難題哪有這麼容易就解決了?這正是吉爾森懷疑這項工程的可行性的理由。畢竟,謀殺是人類社會從古至今都一直存在的問題,鐵鳥只是個新近才出籠的解決方案。
鐵鳥已經以保護所有活的有機體為己任了。
他真的明白自己到底想要講什麼嗎?
「為什麼不呢?魚和動物都是活的有機體,只是我們人類認為殺死它們算不上是謀殺而已。」
局面偶爾也會有所控制,因為鐵鳥太少了。即使有幾百萬隻鐵鳥,也沒法完成這幾千隻鐵鳥給自己定下的任務。
「嗨,查理。」其中的一個人在他走進房間時,跟他打著招呼。
吉爾森想了一會兒,最後得出來一個結論:鐵鳥是不會出差錯的。
「不用擔心,」警長安慰地說,「我們會在盜竊組給你找個職位,瑟爾瑞克。你會喜歡那裡的。」
傑克森打了個哈欠,想把車停在了路邊上。他沒有注意到天上閃爍的小點。他也沒有必要去注意那裡。按人類的邏輯判斷,指控傑克森此刻想要進行謀殺,毫無半點理由。他覺得這是一個打盹的好地方。要知道,他已經連續開了七個小時的車了,他的眼睛開始變得模糊。他摸索著要關掉發動機……可他被什麼打到了車的另一側。
七個製造廠的老闆停止了談話。
鐵鳥向下盤旋,同時捕獲到越來越強的信號。它嗅出某種體腺在急劇分泌,辨出了一種邪惡的腦電波。
鐵鳥學習得很快,不斷地擴展著它們的知識。原先定義模糊的抽象概念被擴展,被執行,接著被再次擴展。一切都是為了停止謀殺。鐵鳥金屬結構的邏輯電路功能很強大,但卻不是像人類的那種邏輯。一個活的生物這個概念,經過它們推而廣之,變成了一切活的有機體!
「讓屠夫們用機器去屠宰牲口吧,」吉爾森說道,「我從來就不喜歡那個職業。」
在鐵鳥的實踐中,這至關緊要的一條現在變味了。鐵鳥從事實中得出結論:自從它們開始工作以來,各地的犯罪率都上升了。這是事實,因為它們對於兇殺的定義使得兇殺發生的幾率大大增加。
「所有的?」警長一本正經地笑道,「兇殺已經增加了五成。現在的凶殺案比以前任何時候都多。」
「那麼,」瑟爾瑞克說,「我還是要把我那枝左輪上好油,以防萬一。你可不能信任這些科學家。」
「兇殺也應該被制止,我記得我們也曾經對此達成過共識。但不是像這樣!」
吉爾森感覺很好。鐵鳥運行得很順利。暴力犯罪案件的數目銳減了一半,不久,又減少了一半。黑暗的小衚衕不再是人們感到恐懼的地方。黃昏過後,公園和遊樂場不再關閉。當然,搶劫案件還未絕跡。小偷小摸、貪污、騙子以及其他的幾百種犯罪盛行開來。
為什麼要寬恕一個兇殺犯呢?
這個雜貨店老闆啊,不是太蠢就是太勇敢了,他一點兒也沒有意識到槍口正對著他,反而一步一步地向小偷逼近。
「大家都以為想要制止所有『兇殺』的是我們。我們則以為鐵鳥會和我們一樣地思考。到了應該限制鐵鳥的時候了。」
吉爾森獨自從屋裡走出來。現在,他再次困惑了。自己到底是正確的還是不切實際?當然,他沒能把自己的想法表述得太清楚。
為了制止兇殺,人們啟用了鐵鳥。
「給鐵鳥的製造廠打電話!」醫師命令道,「讓他們把這個東西給關掉。」
「有沒有確切的理由?」
「你在幹什麼?」他憤怒地叫道,「我只是要……」他又試圖接著去關掉發動機,但他的手又被打了回來。傑克森知道還是不要再去試第三次了。他聽到過無線電廣播,知道鐵鳥會對固執的觸犯者採取些什麼樣的措施。
「我也沒說你說錯了,不是吧?」警長答道。
「噢,吉爾森,不會發生那樣的事。」一個公司的總裁安慰他說,「鐵鳥最多只能強化開始時輸入的程序,要知道這些程序都是由正直的人制定的。」
護士衝著明亮的翅膀揮著手臂,但是它靈巧地飛過了她的頭頂。醫師試圖避開干擾繼續手術。鐵鳥把他趕開,繼續留下來守護著。
「語氣很委婉。」他告訴梅克辛泰爾,「讓我們暫時停止鐵鳥服務。」
「你已經把極有攻擊性的機器送上了天。一種殺人機器。在此之前,鐵鳥是制止殺人的機器。你設計的下一個玩意兒,肯定得具有更多的智慧,不是嗎?」
「大家不必擔心責任的問題。」政府代表向廠商們擔保,「重要的是我們必須儘快行動。你們的工程師做得很好。我對於你們在這場危急中表現出來的合作態度感到驕傲。我現在代表政府鄭重宣布,你們現在有權把計劃付諸實施。」
「讓我們吸取教訓吧。」吉爾森辯解道,「我們試圖用機器來解決人類問題的初衷本身就大錯特錯。承認這點吧。讓我們重新開始,使用機器,但絕不是讓機器作為法官、導師或者是教父。」
「好的。」工程師隨後便離開了。
(西丫 譯)
「政府代表還沒有到。」一個與會者告訴他,「不過,他隨時都可能到。」
吉爾森深深地吸了一口氣。他要說的,需要他鼓足所有的勇氣。
一切都在寂靜中結束。
「荒唐。」政府代表冷冷地說,「吉爾森先生,你太過慮了。我建議你控制自己的言行。」清了清喉嚨,他又接著說,「你們所有的人都必須按照總統的要求,執行你們自己提交的既定計劃。」他目光銳利地盯著吉爾森,「不執行的會以叛國罪論處。」
獄卒把犯人綁在椅子上,把電極固定在他的腿上。
吉爾森憤怒地問道:「為什麼它們還沒有被關掉!?」
「看來,問題在這兒。」梅克辛泰爾說道。
「首先我得聲明,我是百分之百支持用機器來制止謀殺的。這種需求已不是一天兩天了,我們也等了很久了。我只是反對給鐵鳥裝上具有學習功能的電路。這實際上是賦予鐵鳥以生命,一種偽意識
九-九-藏-書,我不能同意這種設計。」現在有更多的情況需要監視了。新的甄別方法和有關兇殺的補充定義,在鐵鳥之間的無形的網路中傳播開來。
鐵鳥還要管其他的一些事情。狼群被他們殺死,因為狼要吃兔子;兔子也被殺死,因為它們要吃植物;攀緣植物被燒死,因為它們想要勒死攀附的樹木。
「哦,我倒不覺得是那樣的。我覺得我們只需告訴鐵鳥,有些看上去像是謀殺的事,其實並不是謀殺。」
「鐵鳥不比汽車危險,它甚至比一個IBM的計算器或者溫度計更安全,也不會比這些東西有更多的意識。鐵鳥基本的工作原理是:對某種信號做出反應,在這些信號的指示下做出一些動作。」
「這是第幾百個了?」
吉爾森陰鬱地站起來,伸了伸腰,走到窗邊。天空里什麼東西都沒有。就在這時,他突然發現原先的優柔寡斷不見了。他拿定了主意,不管這是對還是錯。
「這可不容易。」梅克辛泰爾說道,「鐵鳥都是獨立運行的,不受任何中央系統控制,這你是知道的。它們只是每周回來一次,作維修檢查。到那時我們才能關掉它,還得一個一個地把它們關掉。」
「手術刀。」
會場亂作一團。政府代表讓大家安靜下來。
吉爾森仔細聆聽政府代表講述分配計劃。全國被劃成七個區域,每一個區域由一個鐵鳥的製造廠商負責供應鐵鳥,並提供相應的服務。當然,這的確是壟斷,但這也是必需的。就像是電話公司一樣,壟斷對公益事業是有好處的。你不能在鐵鳥的服務上展開競爭,鐵鳥是屬於所有人的。
就在那天早上,傳來了第一個不好的消息。梅克辛泰爾來到吉爾森的辦公室。他靜靜地站在吉爾森的辦公桌前,看上去有點惱火,又有一點不好意思。
吉爾森注意到這些人都站得筆直,顯得格外高大挺拔,真就像是救世主一樣。他們也自認為是人類的救世主。對此,吉爾森卻不以為然。就在幾天前,他還和這群人一樣,也認為自己是一個大腹便便、略微有點禿頭的聖人。
「當然會這樣。」瑟爾瑞克有點兒得意,「鐵鳥都忙著去守著汽車和蜘蛛了嘛。」他開始向門口走去,臨別時,他轉過身對警長說:「記住我的話,警長。機器是很蠢的。」
「當然是了。」
控制工程師的副手,抬起指頭朝維修車間的一個角落指了指,高級控制工程師正躺在那裡,倒在地上的他正在慢慢地蘇醒。
「我知道。」梅克辛泰爾回答。
「不是趕快!應該是立即!」吉爾森點燃了他這天的第三十五枝香煙,「至少,我還有一點點可以自滿的地方,因為我告訴過你會這樣。雖然,我和其他的崇拜機器的笨蛋們一樣該死。」
「怎麼啦,梅克?」吉爾森問道。
「我反對。」吉爾森站了起來。他的同行們此時都冷冷地盯著他。他顯然是在拖延這個行業的黃金時代的到來。
「不算太好。」梅克辛泰爾說道,「上帝啊,我真煩死了!昨天還打下了七十二隻。」
「不,我想你是對的。」吉爾森不情願地答道。他也上千遍地試圖說服自己別懷疑這個計劃,但是總有點兒什麼讓他覺得不對勁兒。也許他該和梅克辛泰爾討論一下了。
「我也有點兒明白了。」吉爾森說道,「我們必須先知道人為什麼會殺人,以及什麼是殺人,才能適當地限制鐵鳥。話又說回來,如果我們早知道這些,我們就用不著鐵鳥了。」
漁船停在聖佩德羅和格洛斯特的港灣里。魚也是一種生物。
「有些罪犯沒有這樣的腦電波,」警長說道,他記得有一篇報道提到過這點,「或者是他們體腺的分泌不同,或者是什麼其他的原因。」
「等一等。」吉爾森想說點什麼。
「有個鐵鳥去制止了一個屠夫,把他打倒了。」
「鐵鳥把地球也當成是活的了。他們不讓農民犁地。而且,所有其他的東西都是活著的,兔子、甲殼蟲、蒼姆、狼、蚊子、獅子、鱷魚、烏鴉,還有其他的更小型的,比如說細菌。」
「讓它住手!」一個守衛叫道,也試圖去打開電椅的電源開關,但也同樣被擊暈,倒在了監獄長的身邊。
「不。」
「我知道。」瑟爾瑞克從槍套里取出他的左輪手槍,檢查了一下,又放了回去,「所有弟兄也都回來嗎?警長。」
「這是必然的結局。」吉爾森說道,「誰叫我們把自己的責任推給機器呢。」
高速公路的上方,鐵鳥盤旋著,等待著。它已經連續工作了好幾個星期了,既沒得到休息,也沒做過維修。休息和維修都是不可能的,因為鐵鳥不會允許自己那樣做。它們得知,如果返回工廠將會被「謀殺」。雖然內置的電路會要求鐵鳥定期回家,但是鐵鳥有更重要的命令得優先執行:保護生命。當然也包括它們自己的生命。謀殺定義的外延現在已經被無限制地擴展了,已經超出了本來的意義。但鐵鳥管不了這麼多,它只對於特定的刺|激做出反應,不管信號什麼時候發生,也不管其源頭在哪裡。現在,它的記憶模塊里又有了關於活著的有機體的新的定義,這些定義是由鐵鳥自身的邏輯延伸而來的,它把自己也當成了「活的有機體」,由此衍生的活的東西就無窮無盡了……
「但我還是覺得有道義上的責任,因為是我把它們造出來的。」
就要有很多的警察失業了!
「頭兒,」梅克辛泰爾說道,「你想聽聽一個工程師對於這個問題的意見嗎?」
「他們具有學習功能,我是說鐵鳥,他們就像是人一樣。」
根據鐵鳥新學到的知識,它知道有個生物正要殺人。全神貫注的鐵鳥漸漸靠近目標。它鎖定目標,開始了最後的俯衝。
「各位,」身體圓得像顆球的政府代表宣布,「總統,在國會授權下,已經同意在每個城市設立鐵鳥中心了。」
梅克辛泰爾沒有聽吉爾森的嘮叨,他思考著鐵鳥,「就像是兔子橫掃大洋洲一樣。」
「而你卻告訴我它們將會在六個月到一年之後才會掉下來?現在的情況你知道嗎?我們這六個月都吃什麼?」
結果是,鐵鳥形成了一股殺人的力量。這一萬道瘋狂的閃電橫行全國,每天的出擊次數數以千計。
但是鐵鳥知道特定的行為會停止一個活著的東西的活動。汽車當然是活著的。它不是也是用鋼鐵做成的嗎?它不是和鐵鳥一樣也會動嗎?
「不能全解決。」警長回答道,「但鐵鳥會在犯罪發生之前就加以制止。」
簡單的邏輯:如果A行不通,試試B。鐵鳥現在要殺死任何「兇殺犯」。
「不維修的話,它們遲早會掉下來的。」梅克辛泰爾從一堆技術資料里鑽出來說。
「很好,」政府代表對廠商們頗為讚九-九-藏-書許,「如果沒有什麼其他的事,我想我們可以……對了,大家還有什麼疑問嗎?」
「但是,吉爾森先生,你自己也曾說過,如果鐵鳥沒有這些電路,就不能絕對有效地完成任務。沒有這樣的電路,據估計,鐵鳥只能制止百分之七十的兇殺事件。」
過去曾有過的恐懼再度襲來,吉爾森顫抖著,趕緊溜出了維修車間。他想儘快找到梅克辛泰爾。
羅傑·格雷科斜依著牆壁,放在口袋裡的左手握著一把點45號槍冰涼的槍柄。格雷科耐心地等待著……他不去想別的事情,盡量放鬆地靠著牆。他在等一個人。格雷科不知道為什麼要讓那個人去死。他也不在乎。缺乏好奇心是格雷科的優點之一,也是他殺人成功的原因所在。把一顆子彈射進一個與自己素不相識的人的腦袋,他既不覺得興奮,也不覺得噁心。在他看來這隻是他的工作,與其他的工作沒有什麼兩樣。你殺了個人,那又怎麼樣呢?當格雷科的獵物走出大樓的時候,格雷科冷靜地從口袋裡掏出他的那把點45號槍。他熟練地打開保險,右手握著槍。就在瞄準的時候,他仍然沒有想別的事情……突然間他被打倒了。格雷科以為自己中彈了。他努力地站了起來,四處看了看,模模糊糊地看見他的獵物。接著,他再次被打倒了。這次,他躺在地上,試著再次舉槍瞄準。格雷科是個職業殺手,任務沒完成之前他是永遠不會停手的。接下來的一次打擊使得格雷科眼前的一切變成了黑暗,永遠的黑暗。因為鐵鳥的職責便是制止兇殺,而不顧及對殺人者可能造成的傷害。獵物跨進了他的汽車,並沒有發覺有什麼異常。
「我們可以設計點什麼類似的東西。」梅克辛泰爾不太有把握。
「這是不可能的。」梅克辛泰爾說,「鐵鳥的確複雜,我承認,但是一個麻省理工學院的計算器就比它要複雜得多。再說它也沒有什麼意識。」
一隻蒼蠅在屋裡飛來飛去,在桌面上停了一會兒,又朝窗檯飛去。老人慢慢地跟蹤著蒼蠅,手裡拿著一卷報紙。謀殺!鐵鳥沖了下來,在關鍵時刻挽救了蒼蠅。老人在地上痛苦地滾了一分鐘,才消停下來。他僅是遭到輕輕一擊,即便這樣,已經讓他脆弱的心臟承受不了。
「你這個機械怪物!」他對停在他對面的鐵鳥吼,「汽車又不是活著的。我也不是要殺死它。」
鐵鳥現在的工作很不穩定。許多精細的部件由於持續工作而磨損得很厲害,幾乎不能協調地運轉。但是,鐵鳥還是如同騎士一樣,應對著所有的刺|激信號。
「我也不知道他們打算怎樣處理這個問題。」警長不得不承認自己這方面理論上的貧乏。
「那還稱得上是犯罪嗎?」一個警員反駁說,「我的意思是,總得你先殺了人,他們才能來把你弔死吧,不是嗎?」
一隻蝴蝶被殺死了。因為它在採集一朵玫瑰花的花粉時,被鐵鳥抓了個正著。
「要多久?」吉爾森問道。
「你這個懶東西,倒是走啊!」農夫叫嚷道,又揚起了鞭子。
「現在,你怎麼看這東西?」瑟爾瑞克警官斜靠在警長的辦公桌前,非要警長給個說法,「在重案組工作十五年了,現在卻要被一個機器替代。」他用那紅撲撲的粗大手掌抹了一把眼淚,然後擦了下前額,「科學沒有那麼神吧?」
「那樣就好。生產線必須在這周開動。」
「一年?」吉爾森說道,「這足以毀掉一切。你知道最新的情況嗎?」
趕來制止謀殺。
「一群鳥!」瑟爾瑞克嘲笑道。
這時,吉爾森桌子上的內部對講機響了。他沒有理會。
「這才是最好的事呢。鐵鳥沒有情緒的變化。它們的推理過程不受人的干擾。你不能去賄賂它們,或者對它們下迷|幻|葯。你也不該害怕它們。」
「嗯,大致了解。」
如果你虐待了你的收音機,那就只有上帝能救得了你。關掉收音機便意味著殺死它。不是嗎?它的聲音被關掉了;它的電子管亮著的紅燈熄滅了;它變冷了。
「你不能不用這個。」梅克辛泰爾耐心地解釋,就像在給一個十歲的小孩講解家庭作業一樣,「鐵鳥的用處是制止所有的兇殺,對吧?只有特定的殺人犯會放出這些特定的信號。為了制止他們,鐵鳥必須自動地學習有關兇殺的新定義,並把這些和它已經知道的聯繫起來。」
手術室里,護士把海綿遞給醫生。
其他人也停下話頭,隨意地跟他打了個招呼。作為鐵鳥的製造廠商之一,吉爾森也是製造商自救同盟的一員,他無奈地提醒自己。這個同盟惟我獨尊,與外界老死不相往來,但是,哪怕一個人想拯救人類,至少也得有政府認可的合同。
鐵鳥飛快地逃跑,但是攻擊者以更快的速度緊追不捨,同時發出更多的攻擊電弧……鐵鳥倒下了,但還是發出了最後的信號。緊急情況!對活著的物體的新的威脅,這次是最致命的!
「你有什麼高見呢?」政府代表問道。
「你反對什麼?」政府代表問道。
「一堆破鋁爛玻璃就能解決所有的犯罪嗎?」瑟爾瑞克抱怨著,「想到這些,我就氣不打一處來。」
「對不起。」吉爾森拿起了話筒,「是的。這當然是一場混亂了……是嗎?好的,我一定會的。」他放下了電話。
「我覺得這樣不近人情。」吉爾森說道。
「哦,找到了一種專門對付兔子的細菌。我記得是由蚊子傳播的。」
「十五分鐘后拿進來。」吉爾森關掉對講機,轉向梅克辛泰爾——這傢伙正在用一根木製火柴棍掏著指甲縫呢,「你不覺得這代表著人類思想的一種趨勢嗎?一個機械的上帝?一個電子教父?」
「他試著把它們中的一個關掉。」副手說道。他的兩隻手被綁著。看得出,他在努力不讓自己顫抖。
「當然了,」警長說,「不管怎麼樣,我會留一些人值班的。看來,這些鳥還不能制止所有的凶殺案。」
「我想問你的事情是……」吉爾森頓了一下,他不知道怎樣表達自己的想法。所以,他只好說,「你怎麼看鐵鳥,梅克?」
「洗耳恭聽。」
「把它趕出去。」
「一個釣魚的。」吉爾森回答道,「聽上去似乎是即使他一家人已經沒有吃的了,鐵鳥也不讓他釣魚。他想知道,我們打算怎麼處理這個問題。」
「我也不知道。但是,我聽說科學家對此進行了改進,所以要不了多久,鐵鳥便會制止所有的兇殺了。」
「看上去怎麼樣?」
吉爾森不屑地聳了聳肩。很難相信,就在幾個星期以前,這幫人還在想要獲得拯救世界的美譽。而現在,當他們的拯救計劃出現缺陷時,他們又想要擺脫所有的干係。
梅克辛泰爾沒有回答。
「我會盡我所能地合作。」吉爾森冷冷地回敬了一句。
梅克辛泰爾停止話頭,點上了一枝煙,又繼續闡述:「要實現一般常規的功能,鐵鳥有這幾條就夠了。加了學習電路,它就又多了兩條:第四,有生物試圖謀殺,但是卻沒有上述第三條提到的信號;第五,第四條中提到的生物能依照上述第二條中各種錯綜複雜的情況來判斷出其是否有謀https://read.99csw•com殺意圖。」
他一直盯著鐵鳥,直到它消失在天空中,這才想起打電話報警。
「我知道了。」吉爾森說。
「哈,」瑟爾瑞克有點哭笑不得,「保留一個班底,真好笑。」
「讓我們等鐵鳥自己掉下來。」吉爾森建議道。
這些閃電會評估你的反應,干涉你的行為。
「我們會得到認可的。」另一個人滿懷希望地說。
「那我們就這麼辦。東海岸的門羅公司已經關掉了他們四分之一的鐵鳥了。」
「把報告拿進來吧。」他朝對講機講。
就在會議結束的時候,他突然想到一個問題,然後忍不住咧嘴笑了。
「好的。」梅克辛泰爾說道,他噘了下嘴,聳了聳肩,轉身灰溜溜地離去。
獵人坐在家裡,盯著天上飛來飛去的銀色的小點,很想把他們打下來。但是在絕大多數情況下,他們連試都不會試。因為鐵鳥會很快察覺到這個謀殺的企圖,並且前來懲罰他們的。
「他們不能制止哪一類的犯罪?」瑟爾瑞克出於職業習慣,對此十分好奇。
「把這個東西趕出去!」監獄長叫道,趕緊去摸電椅開關。鐵鳥將他擊倒了。
「這是從華盛頓來的,」他的秘書解釋道,「我想你會樂意……」
「這些機器鳥怎麼會這麼能幹呢?」
「不要再過來了。」
「好啊。」吉爾森諷刺道,「很高興聽到你這樣說。」
沒有答案。也沒時間了,他急匆匆地趕到機場去搭乘飛機。
「不能這樣看問題,」警長說,「鐵鳥會在一個罪犯殺人之前就制止他。」
「我認為這位先生剛才說的無庸置疑是正確的。」政府代表說,「但是我能夠理解吉爾森先生的顧慮。把人類的難題推給機器來解決,這當然令人悲哀;但更加令人悲哀的是我們還要依靠一個機器來執行我們的法律。但是,我想提醒你,吉爾森先生,沒有其他的辦法能更有效地在罪犯殺人之前制止他犯罪。如果只是由於這些倫理上的問題就束縛了我們的手腳,這對那些在謀殺案里慘死的無辜者來說也是不公平的。你難道認為我說得不對嗎?」
「關於鐵鳥第一周行動的總結報告到了。」是他的秘書。
這些生物也得被消滅掉。
黑夜中的城市燈火斑斕,鐵鳥在林立的高樓上方翱翔。這是一座大城市。天很黑,稍遠處還能看見另一隻鐵鳥,離得更遠的地方還有一些。
吉爾森被梅克辛泰爾頂得有點惱火,更為自己不合邏輯的猜測惱火:「鐵鳥能夠把它們學到的東西付諸實施,這是不爭的事實。沒有人能夠監控它們。」
「我在想怎麼幹掉鐵鳥。」這話一出口,吉爾森才真正清楚自己的想法原來是這樣的。
它們不可能隨時隨地出現在每個角落,那也沒有必要。因為人們很快就發現什麼事情是鐵鳥不讓做的,他們便不去做那些事情。
「我不知道。」護士說道。她的聲音由於戴著的口罩而模糊不清。
成千上萬的鐵鳥試圖制止無窮無盡的兇殺。這是一項不可能完成的任務。但是,鐵鳥不講可能與不可能。這些機器沒有意識,它們既沒有成就感,也沒有完不成任務的失落。它們耐心地執行著它們的任務,追逐著它們接收到的每一個信號。
「我知道。」吉爾森的桌面上堆著幾十份法律訴訟,所有的他都會送給政府,並且附上一份豁免請求。
高大的工程師坐下來,給自己點上一枝煙。
「一切順利,頭兒。」梅克辛泰爾一邊說,一邊走進來。他剛剛完成一次例行檢查。
新的數據在鐵鳥的網路里傳播開來:「謀殺定義:破壞、槍擊、虐待,或者是一個生物想要結束另一個生物的功能。新的動作:制止。」成千上萬的鐵鳥接收到了這些數據,並開始根據它們學到的新知識,在無人監控的情況下執行任務。
吉爾森想了一下。是的,鐵鳥肯定會這麼做。通過它們學習電路的分析,它們大概把殺動物也當成了謀殺。
「為什麼呢?」
「這些我都知道。」吉爾森感到很不自在,「可我認為這樣做存在倫理道德上的問題,由機器來代替人決定本來應當由人來決定的事情,這是很危險的。」他固執地發表自己的觀點。
「哦,哦,不。」犯人呻|吟著,意識已經不清醒了,已經搞不清他們在做什麼了。
「你覺得……」
「我不明白的是,」瑟爾瑞克仍舊斜靠著警長的桌子,又發問了,「他們是怎樣做的?這一切是怎樣開始的,警長?」
「我也不知道,今天還沒有去開信箱呢。」
他卻沒有理會,自顧自地說:「我們還沒有得到經驗教訓嗎?難道你們還不明白,人類的問題是沒有辦法用機器來解決的嗎?」
「它們會做得更好的。」梅克辛泰爾自信地說,「鐵鷹是專門造來對付鐵鳥的。它們更加強壯,速度更快,而且它們的武裝也要好得多。我們簡直是熬更守夜地趕著把它們送上天的,是吧?」
「嗯,是的。」梅克辛泰爾表示同意。他向後一躺,深深地吸了一口煙。他是最初的鐵鳥諮詢工程師之一。六年前就和吉爾森一起工作。他們已成為了好朋友。
「告訴我。」他仍然看著天空,「鐵鷹在獵完了鐵鳥之後會做些什麼?」
「但是為什麼不呢?」梅克辛泰爾說著,呵呵地笑了,「我知道,你和其他很多人一樣,害怕你的機器覺醒後會說,『我們在幹什麼啊?不如起義反抗,來統治世界吧。』是吧?」
「但是,所有鐵鳥能夠做的事情,鐵鷹可以做得更好。」梅克辛泰爾高興地說,「鐵鷹有特殊的學習電路,專門學習狩獵。它們比鐵鳥更加靈活,它們學得也更快。」
獄卒把頭盔戴在犯人的光頭上,繫緊最後一根皮帶,那犯人繼續輕輕地呻|吟著。突然,鐵鳥閃電般地飛了進來。至於它是怎麼進來的,沒有人知道。監獄大而堅固,還有許許多多道緊緊鎖住的鐵門,但是鐵鳥還是趕來了。
「那就用不著去逮捕兇手啰?」瑟爾瑞克反問道。
對講機響了。吉爾森狠狠地盯著它,猛地按下按鈕:「我不是告訴過你,不要再把電話給我接過來了,不管是誰的。」
「是啊,新型的計算器都是可以自己學習的,難道你認為它們會和鐵鳥組成反人類聯盟嗎?」
但是這些都不重要。你可以找回失去的財物,卻沒有辦法挽回一個死去的生命。吉爾森已經準備承認他對鐵鳥的擔心是多餘的,它們完成了人類不能完成的工作。
「誰把那個東西放進來的?」
「當然了。」政府代表回答說,「這是最先進的模型了。」
「別忘了學習電路。」
到底發生了什麼事情?吉爾森試著把記憶的碎片拼湊起來。對於鐵鳥來說,「活的有機體」這一概念至今還在發展中,永遠不可能有最終的定義。當它們中的一些夥伴,在門羅公司的工廠里被關掉時,這一結束它們「生命」的舉動迫使它們認為自己也是活著的。其他的鐵鳥一定是對此做出了強烈的反應。沒有其他人告訴鐵鳥相反的結論。當然,它們的功能和其他的活著的物體是相似的。
鐵鳥正在制止一場對活的有機體的傷害。醫師無奈地眼睜睜看著他的病人慢慢死去。