0%
可能性的無限空間

可能性的無限空間

荷蘭德的畢業論文從一開始就只是個書面設計,他編製的程序從未真正在旋風上運作過,但在另一個方面,他的畢業論文卻收穫頗豐:他成了全美國少數幾個懂得一些編程的人之一。結果1950年他剛畢業就被IBM公司錄用了。
在三年前的1949年,希伯在他出版的《行為組織》(The Organization of Behavior)一書中作出了他的回答。他的基本思想是,假設大腦經常在「突觸」上做些微妙的變化。突觸是神經衝動從這個細胞跳到那個細胞的連接點。這個假設對希伯來說是非常大胆的,因為當時他對此還沒有任何證據。但希伯為這一假設闡述說,這些突觸上的變化正是所有學習和記憶的基礎。比如說,通過眼睛視覺的感官衝動會通過加強沿途所有突觸的方式在它的神經網路上留下痕迹。差不多的情形同樣會發生在由耳進入的聽覺神經系統、或大腦內其它腦際活動。結果是,隨意啟動的網路會迅速將自己組織起來。通過某種正反饋,經驗被積累了起來:強健的、經常被使用的突觸會變得更強健,而弱小、不經常使用的突觸會萎縮。被經常使用的突觸最後強健到一定程度以後,記憶就被鎖定了。這些記憶反過來又會布滿整個大腦,每一個突觸都與一個複雜的突觸形態相對應,這些突觸形態包含了成千上萬個神經元。(希伯是最先描述這種分佈記憶的人之一,這種描述後來被稱為「關聯論」(connectionist)。)
1949 年秋季,當荷蘭德開始了他在麻省理工學院的大四課程,四處尋找學士論文題目時,他發現了旋風計劃(Whirlwind Project):麻省理工學院將建一個速度能達到跟蹤空中交通的「實時」的計算機。由海軍資助的旋風計劃的年資助額為一萬美元,這在當時是一個令人目眩的數額。麻省理工為此僱用了七十名工程技術人員,這無疑是當時最大的計算機項目,也是最具發明性的研究之一。旋風將是第一台採用磁心記憶和互動式顯示屏的計算機,它將產生計算機網路和多程序(一次運作多個程序)。作為第一台實時計算機,它將為計算機應用於空中交通控制、工業流程式控制制、以及計算機應用於預售票和銀行鋪平道路。
而這正是他們所做的。「他編寫了一個程序,我也編寫了一個程序。這兩個程序在形式上很不相同。我們把它們稱為『概念者』,這絕非自大之言!」
事實上,即使到了四十年之後,當神經網路模擬早就變成了人工智慧的標準工具,IBM的「概念者」的成就也仍然引人矚目,其基本思想在今天看來仍然非常熟悉。在他們的程序中,荷蘭德和羅切斯特把他們模擬的人工神經元當作「節點」——也就是能夠記住自己內部狀態中某些事情的小計算機。他們將自己的人工突觸模擬成各種節點之間的抽象結合點,每一個結合點都有一定的「重量」,與突觸的強度相對應。他們還用通過網路吸取經驗來調節強度的方式模擬希伯的學習規則。但荷蘭德、羅切斯特和他們的同事們還採用了比今天的大多數神經網路模擬遠為詳盡的基本神經生理學知識,包括模擬神經元的反應有多快、如果神經元過於經常起反應,疲勞程度如何這樣的因素read.99csw.com
這個時機真是再好不過了。當時IBM在紐約普夫吉普斯(Poughkeepsie)的巨大工廠正在設計第一台商用計算機:國防計算機,後來被重新命名為 IBM701。當時設計生產這台計算機代表了一個前途未測的重大賭注。許多思想保守的行政管理人員都認為研製這種計算機是浪費錢財,還不如把錢投資于改良打孔機上。事實上,產品企劃部在1950年花了整整一年的時間堅持說,全國的市場對這類計算機的需要永遠不可能超過18台。IBM公司堅持研製國防計算機的主要原因,是因為它是一個叫作小托馬斯的後起之秀的鍾情項目。小托馬斯是IBM公司年邁的總裁托馬斯·B·華生(Thomas B.Watson)的兒子和當然繼承人。
但到最後他們的模擬終於成功了。「出現了許多湧現現象。」荷蘭德至今談起這些來仍然很激動。「你可以從統一的神經元基質開始,然後看到細胞集合的形成。」1956年,在這項研究工作的絕大部分結束幾年之後,荷蘭德、羅切斯特和他們的同事終於發表了該項研究成果。這是荷蘭德發表的第一篇論文。
利克萊德解釋說,問題是,在顯微鏡下,大腦的大部分都呈現出一片混沌,每一個細胞都隨意發出數千條纖維,與數千計其他神經細胞隨意相連。然而,這些稠密相連的網路又顯然不是隨意組成的。一個健康的大腦能夠前後連貫地形成感覺、思想和行動。更重要的是,大腦顯然不是靜止不變的。它可以通過吸取經驗來改善和調整自己的行為。它可以學習。但問題是,它是怎樣學習的?
但他非常熱衷於這項研究。「我喜歡這個過程中的邏輯本質,」他回憶說,「編程與數學有同樣的特點:你走了這一步,然後你就可以由此走下一步。」但更重要的是,為旋風編程序使他認識到,計算機並不只是實施快速計算。在一系列神秘的六位十進位數字中,他可以隨意設計震動的鼓面,或旋繞的電場等任何東西。在循環的數位中,他可以創造想象中的宇宙。所需要做的只是把適當的規律編碼進去,然後其他的一切就會自然展開。
荷蘭德1949年秋季入學麻省理工學院。入校沒過多久他就發現,計算機也具有令他同樣驚奇的特質。他說:「我真的不知道計算機的這種特質從何而來。但我很早就迷上了『思考程序』,也就是你只消在計算機內設入很少數據,就可以讓它做所有像整合這樣的事情。這在我看來,似乎是只需要放入極少東西,就能得到無限豐富的結果。」
當然現在我們把這類事稱為「湧現」。但在荷蘭德遠還沒有聽到這個提法以前,他對湧現的迷戀就已經使他把畢生的熱愛都貢獻給了科學和數學。在科學和數學領域中他永遠都無法滿足。他說在他的整個中學時代,「我記得我去圖書館,將凡是與科學有關的書籍都涉獵遍了。我上中學二年級時就決心要當個物理學家。」科學之深深吸引他之處,並不是科學能使他將宇宙歸納成幾個簡單的規律,而是正好相反:科學可以告訴你,幾條簡單的規律是如何產生整個世界變幻無窮的行為表現的。 「這真的使我感到非常愉快。在某種意義上,科學和數學是簡化的極至。但如果你反過來九_九_藏_書,觀察宇宙規律所囊括的各個方面,出人意料的可能性簡直可以是無窮無盡的。這就是為什麼宇宙在一個極端上十分易於理解,在另一個極端上卻又永無可能理解的道理。」
他們一點兒也不缺少可以用來做嘗試的程序。那些最原始、最早期的計算機接納了關於資訊理論、控制論和自動機等這些十年前尚不存在的新概念的狂潮。誰知道局限何在?幾乎你嘗試的任何東西都可能開創出一片新天地。更進一步的是,對於像荷蘭德這樣更富於哲學思想的開拓者來說,這些聚滿了線路和真空管的龐大而笨拙的計算機為思考開拓了全新的方式。計算機也許不是報紙的星期天增刊聳人聽聞地形容的那種「巨腦」。事實上,從它們的結構和運作的細節來看,它們和人腦毫無相同之處。但從更深刻、更重要的意義上來說,計算機很類似人腦。一個很誘人的推測是:計算機和人的大腦都是信息處理的裝置。因為如果這個情況屬實的話,那麼,思維本身就可以被理解為是一種信息處理的形式。
他笑著說,自從那以後他一直在以這樣或那樣的方式發明各種遊戲。「我喜歡在事情發生變化時說:『嘿,那真是我們假設的結果嗎?』因為如果結果證明我的假設是對的,如果事物主題進化的潛在規律確實是在某種控制之下,而不是由我說了算的,那我就會感到很驚奇。但如果結果並不令我感到驚奇,那我就不會感到愉快,因為我知道,得到這個結果是由於從一開始我就設置好了一切。」
毫不奇怪,他們的這些研究進展困難。不僅僅是因為他們所編寫的程序是神經網路模擬方面最原初的研究,而且也因為這使計算機首次被用於模擬(與計算數字和分析數據的功能正好相反)。荷蘭德對IBM公司的合作耐心給予了很高的評價。他和他的同事們在計算機上耗費了無數個小時來模擬神經網路,甚至還由IBM公司出資去了趟蒙特利爾,向希伯本人諮詢。
那時對這些問題的回答遠還不清楚(事實上,對這些問題的回答到現在也仍不清楚)。但這些問題以一種前所未有的清晰和準確的方式被提出來了。IBM公司在普夫吉普斯的發展小組作為全美國最傑出的計算機天才的集中地之一,突然走在了計算機發展的前列。荷蘭德喜歡回憶一群「經常的非常客」每隔兩周左右就會找一個晚上聚在一起,討論撲克牌遊戲或圍棋。其中有一個參与者是個名叫約翰·麥卡菲(John McCarthy)的暑期實習生,加州理工學院的一個年輕的研究生,後來成為人工智慧的創始人之一。(事實上,是麥卡菲1956年為在達特茅斯學院的一個暑期人工智慧研討會做宣傳時發明了「人工智慧」這個詞。)
「那也許是我在麻省理工最快活的一年。」他說。考派爾建議他論文的題目是為旋風編一個程序來解拉普拉斯(Laplace)方程式。拉普拉斯方程式描述的是多種物理現象,從圍繞任何帶電物的電場分佈,到緊繃的鼓面震動。荷蘭德立刻就著手這項研究。
荷蘭德喜歡玩遊戲,喜歡玩所有的遊戲。他在安·阿泊的近三十年中,每個月都去玩撲克牌。他最早的記憶之一就是在他祖父家看大人們玩紙牌,那時他恨不得長大到也能坐在桌子旁一塊兒玩。上小學一年級read.99csw.com時他就從他媽媽那裡學會了下棋。他媽媽還是個橋牌高手。荷蘭德全家都熱衷於航海,荷蘭德和他媽媽經常賽船。荷蘭德的父親是個第一流的體操運動員,同時熱衷於戶外活動。荷蘭德上初中時練了好幾年體操。全家總是不斷變換遊戲花樣:橋牌、高爾夫、槌球、圍棋、象棋、跳棋,凡能玩的,沒有他們不玩的。
荷蘭德坐在聽眾席上聽得呆若木雞。這可不是當時哈佛的行為學家斯金納(B.F.Skinner)推崇的枯燥無味的刺|激/反應心理學。希伯談論的是精神內部的活動情形。他的關聯理論的豐富多采性和令人永恆驚奇的特點引起了荷蘭德的強烈反響。這個理論的感覺是對的。荷蘭德迫不及待地想運用這個理論做點什麼。希伯的理論就像是一扇開啟了思想本質的窗戶。他想憑窗張望,想看到細胞集合在隨意的混沌之中形成自組,不斷成長,想觀察它們如何相互作用,以及思維本身是如何湧現的。他想觀察所有這些是如何在沒有外界指導的情況下自然發生的。
當然,那時沒人把這種事情稱為「人工智慧」或「認識科學」。但即使如此,計算機編程本身,作為一種全新的嘗試,也正在迫使人們比以往要小心得多地去思考解決問題的真正含義是什麼。計算機最終是個外星人:你不得不告訴它一切事情:什麼是數據?它們是如何被轉換過來的?怎樣從這一步到達那一步?這些問題反過來又很快引向了令哲學家們苦惱了幾個世紀的問題:什麼是知識?知識是怎樣通過感官印象獲取的?知識是怎樣反映在思維上的?是怎樣通過吸取經驗而完善的?又是怎樣被運用於推理判斷的?已做的決定是怎樣被轉化為行動的?
在某種程度上,我們編的程序確實能夠運行。當然,用今天的標準來衡量,701機就像是石器時代的東西了。它有一個巨大的控制板,上面擠滿了各種鍵盤和開關,但還沒有屏幕顯示器的雛形。這部機器通過標準的IBM打孔機執行輸入和輸出命令,號稱足有四千個位元組的記憶存儲量(今天市面上出售的個人電腦的記憶存儲量一般比這大一千倍)。它可以在三十微秒中算出兩個數字相乘的結果。(現在所有的手持計算器的功能都比這個強。)荷蘭德說:「這個機器也有許多缺陷。最好的情況下,平均每三十分鐘左右就會出現一次失誤,所以我們每次計算都要做兩遍。」更糟糕的是,701計算機是通過在一個特殊的負極射線管的表面產生光點來存儲資料的。所以荷蘭德和他的同事們必須調整演算法,以避免過於經常地在記憶存儲的同一個點上寫入數據,否則就會增加這一個點上負極射線管表面的電荷,而影響到周圍的數據。「我們竟能使計算機運行了,這太令人驚喜了。」他笑道。但事實上他這是認為瑕不掩瑜。「對我們來說,701計算機就像是一個巨人。我們覺得能有時間在一台快速運轉的機器上嘗試我們編的程序,真是太好了。」
但希伯的思想還不止這些。利克萊德在演講中還解釋了希伯的第二個假設:有選擇的突觸強化會導致大腦自組成「細胞集合」——幾千個神經元的子結合,其中循環神經衝動會自我強化,繼續循環。希伯認為這些細胞集合就是大腦基本的信息建設磚塊。每一個細胞集合都與read.99csw•com一種聲調、一束光線或某種思想的一閃念相對應。但這種細胞集合在生理上並沒有特別之處。確實,它們相互重疊,任何一個神經元同屬於好幾個細胞集合。而且因為如此,一個細胞集合的行動勢必帶動其他細胞集合的動作,這樣,這些基本的建設磚塊就會迅速自組成為更大規模的概念和更複雜的行為。總之,細胞集合就是思想的基本量子。
但不幸的是,起初荷蘭德能夠學到的計算機知識只有他在電機課上獲取的零星的第二手資料。電子計算機當時還很新奇,大多數計算機知識還處於保密階段。當然大學還沒有開設計算機課程,即使在麻省理工學院也還沒有開設。但有一天,當荷蘭德又像往常一樣在圖書館測覽書刊時,他翻到一個由簡單的論文封面套著的一系列活頁演講筆記。他在翻閱這些筆記時發現,這份筆記詳細談到1946年在賓夕法尼亞大學摩爾電機系舉辦的研討會內容,其中記載,戰時賓州大學為了計算大炮的射程表而發明了美國的第一台數控計算機ENIAC。「這些筆記很有名,這是我第一次接觸到真正的關於數控計算機的詳細資料,裡面包括對從計算機建構到軟體設計的詳盡記錄。這一系列演講就是在這個基礎上探討信息和信息處理的全新概念,並詮釋了一種全新的數學技藝:編程。荷蘭德立刻就買下了這個演講的複印稿,一頁一頁細讀了許多遍。事實上,這份演講稿他到現在還保留著。
但不知為什麼,對他來說,遊戲早就不僅僅只是好玩而已了。他開始注意到,有一些遊戲有一種特殊的吸引力,這股魔力超過了輸贏的問題。比如說,當他還在讀中學一年級的時候,大約是在1942年或1943年,他家住在俄亥俄州的凡·沃特時,他和他的幾個好朋友經常久久逗留在華利·普特家的地下室里發明新的遊戲。他們最得意的發明是一個佔用了大半個地下室的戰爭遊戲,那是他們從報紙的頭條新聞中獲得靈感而發明的。這個遊戲中有坦克和大炮,還有發射表和射程表。他們甚至還發明了一些把遊戲圖的某些部分掩蓋住,來模擬煙幕。荷蘭德說:「這個遊戲變得相當複雜。我記得我們還用我爸爸辦公室的油印機來印製戰爭遊戲的圖紙。」(老荷蘭德在經濟蕭條時期在俄亥俄州的大豆生產帶創建了一系列的大豆加工廠,從而繁榮發展了起來。)
可能性的無限空間
荷蘭德說:「我們沒有像你這樣描述過下象棋,但我們實際上就是這樣下象棋的,因為我們三個人都對下象棋感興趣。國際象棋是個只有很少幾條遊戲規則的遊戲,但令人無法置信的是,在國際象棋中永遠不可能有相同的兩局棋。棋路的可能性簡直無窮無盡,所以我們就試圖發明具有同樣性質的遊戲。」
但荷蘭德當時只有二十一歲,對此知之甚少。他只知道自己已被置入聖境。「我已經到了這裏,一個這麼年輕的人,在一個這麼重要的崗位。我是少數幾個知道 IBM701正發生什麼的人之一。」IBM的項目負責人將荷蘭德安排在由七個人組成的邏輯計劃小組。這個小組負責設計這台新計算機的指令系統和一般性組織。這是荷蘭德的又一個幸運,因為這是一個實踐他的編程技術的理想的地方。「最初階段完成之後,我們得到了最初的機器原型,還必須用各種https://read•99csw.com方式來測試。所以工程師們經常通宵達旦地工作,白天把機器拆卸開,晚上又盡最大的努力把它拼裝起來。然後我們少數幾個人就會從晚上十一點鐘開始,全夜運轉我們的程序,看看是否能夠正常運作。」
但因為荷蘭德要仔細考慮其他事情,所以就把這些想法拋開了。當時他正為自己的研究項目忙得分身無術。他研究的是對大腦內部運作機制的模擬。他記得這項研究始於1952年春季,當時他正在聽麻省理工學院心理學家利克萊德(J.C.R.Licklider)的演講。利克萊德前來訪問普夫吉普斯實驗室,同意就當時該領域最熱門的話題,蒙特利爾麥克吉爾大學的神經生理學家唐納德·希伯(Donald O.Hebb)關於學習和記憶的新理論,做這個演講。
另一個人是阿瑟·塞繆爾(Arthur Samuel),一個語調柔和、四十歲左右的電機工程師。他是IBM公司從伊利諾斯大學招聘來幫助公司製作性能可靠的真空管的,也是荷蘭德整夜整夜進行程序運行馬拉松的最經常的陪伴者。(他還有個女兒就在附近的凡沙,荷蘭德與之還約會過幾次。)塞繆爾顯然對真空管失去了興趣。五年來他一直在嘗試編寫可以跳棋的程序——不止是會下跳棋,而且要會隨著不斷吸取經驗而越下越好。現在回想起來,塞繆爾的計算機跳棋被認為是人工智慧研究方面的一個裡程碑。1967 年,他完成了對這個下跳棋的程序的修改和完善後,這個計算機跳棋手已經能夠達到國際大師的水平了。即使到701機器時期,他編的程序也顯得相當好了。荷蘭德記得對此印象極深,特別是它能針對對方的步驟調整自己的戰術。大致地說,這是因為這個程序設計了一個簡單的「對手」模型,然後用這個模型去預測最佳棋路。儘管當時荷蘭德無法將之表述清楚,但他感到電腦跳棋的這個功能正好抓住了學習和適應的某種最本質的東西。
但當荷蘭德剛聽說這個消息時,旋風還僅僅停留在實驗階段。「我知道麻省理工在研製旋風,它還尚未被研製成功,還在研製之中,但已經可以用了。」不知為什麼,他一心想參与進去。他開始四處敲門,在機電系發現了一個名叫賽德奈克·考派爾(Zednek Kopal)的捷克天文學家,曾經教過他數值分析。「我說服他主持我的論文評議委員會,又讓物理系同意讓電機系的人來主持我的論文評議委員會,然後我又說服了參与旋風計劃的人讓我能夠看到他們的操作手冊。當時操作手冊是保密的!」
利克萊德剛結束對希伯理論的講演,荷蘭德就對701計算機組的負責人納撒尼爾·羅切斯特(NathanielRochester)說:「好吧,我們已經有了這麼一台原型計算機,讓我們來編寫一個神經網路的模擬程序。」
這不是麻省理工學院最容易做的畢業論文。在那時,還沒有人聽說過像Pascal、C或FORTRAN語言。確實,把對計算機的命令轉化為數字編碼的計算機編程語言直到五十年代中期才被發明出來。那時就連一般的十進位的語言都還沒有,還是十六進位的。他在畢業論文上所耗費的時間比他想象的要長,最後他不得不申請麻省理工學院寬限比通常完成學士畢業論文所允許的長兩倍的時間。