0%
面對人工智慧,我們在擔心什麼?

面對人工智慧,我們在擔心什麼?

作者:趙洋
有了AlphaGo這樣可觀的計算能力和學習能力,機器人自然能從事複雜的專業技術工作,如判斷醫學X光片準確率可達98%以上,超過專家水平;其他如行政人員、文書、老師、會計、新聞記者、電話公司職員、麻醉師和外科醫生、收銀員、市場營銷人員、客服人員、金融分析師等,許多常見工作智能機器人都可勝任。
美國明尼蘇達大學人類學教授哈金斯甚至認為,距離發明可作生活伴侶的機器人的時代已為期不遠,從現在起10年到20年內,可能會研究出原型。他預期這種機器人具有人性,會哭泣、失望,甚至會生氣,遇到好玩兒的事也會大笑,會有憐憫心,會表現出人類常見的浪漫感情。該機器程序中含有多種個性,因此,一個人可從一個機器人身上獲得與許多不同伴侶相處的感受。他說:「可在機器人程序中輸入情感反應,甚至可安裝生育裝置,一位女性機器人在其人造子宮中,殖入人類婦女捐贈的受精卵,即可生育。」這不禁令人想起科幻電影《複製嬌妻》中的場景。
有人提出了在全世界範圍內管理人工智慧的三個辦法:
作為首次被電腦打敗的職業棋手,樊麾回顧2015年首次人機圍棋對戰時曾說:AlphaGo比李昌鎬更「石佛」。當年擊敗眾多高手的李昌鎬,就是因為面無表情,對手感覺不到他的任何波動,而被稱為「石佛」。但誰能比電腦更「石佛」呢?它沒有人類棋手般心理的感覺,它就是一個虛無,但它卻完全能把握住對手的性格,這是不對等的。樊麾說:「這個牆的概念是什麼呢?就是它不動,你對它施展任何壓力它都會反彈給你,你對它施加的所有力量,你對它所有的辱罵也好,對它所有的微笑也好,最後全反饋到你自己身上,這是我對AlphaGo的感覺。」樊麾認為,很難評論AlphaGo所下的棋美還是不美,因為它可能開闢出另外一種圍棋的美,是人類想象不到的。

神秘莫測的AI

AlphaGo是怎樣運作的呢?它通過模式識別「理解」棋局的進展,再設計出一種策略並實時調整。這樣的系統依賴深度學習技術,運用由人工神經元組成的read.99csw.com網路,分析大量數據,尋找模式和「背後含義」。為了教會該系統,開發者讓兩個圍棋程序彼此對弈,使用一種被稱為「強化學習」的技術,幫助該技術反覆迭代和演化。在對弈中,兩台電腦生成了自己從未學過的策略。人工智慧專家不確定是否該稱之為新智能的誕生,但暗示這代表著機器學習演化過程中的某種新東西。
也有人認為,人工智慧的發展會給人類的工作創造更多的可能性。《連線》雜誌創始主編、凱文·凱利舉例說明:當年「深藍」戰勝卡斯帕羅夫后,人工智慧並沒有削弱國際象棋人類棋手的水平。恰恰相反,在廉價且超級智能的國際象棋軟體的激勵下,下棋的人數、錦標賽的數量以及選手的水平都達到了歷史之最。既然人工智慧可以幫助人類成為更優秀的國際象棋選手,那麼合理地推測,它也能幫助我們成為更優秀的飛行員、醫生、法官、教師。在凱文·凱利看來,機器取代人工是必然的,一切只是時間問題。但有些工作確實需要機器來完成,因為它們比人類表現得更好,也更合適,而人類則可以在它們的幫助下,從事更新更有意義的工作。
1.接納預防原則:在安全的空間內對人工智慧進行測試。政府應鼓勵私營領域的參与者在數據和分析資料廣泛共享的條件下開展受控測試。
許多人認為,訴諸情感的工作將是人類最後的堡壘。他們覺得,機器人雖然可以護理和照料年老體弱者,但是不能進行感情陪護;機器人即便能夠授課,但不能進行個性化、差異化輔導,更不能替代家長或老師對孩子進行言傳身教。許多服務性工作對語言和文化背景要求很高,有了共同的背景會讓客戶感到親切溫暖安心,這是機器人所不具備的。
2.設計平等性和多樣性:人工智慧的前沿被北美、歐洲、日本和中國的男性所控制,這令人很不安。對人工智慧的研究也應該公平地反映出女性的願望,以及不發達國家的文化和價值觀。
然而科學雜誌《Nautilus》2013年曾發表的一篇文章指出,機器人可以通過將情緒轉換為數學模型而擁有喜怒哀樂。因為情緒並不是無法解釋的,九-九-藏-書情緒不過是人類對於周圍環境改變的自動反應,這種反應歸根究底是人類為了適應生存而做出的進化。
劉慈欣在2011年曾預言,計算機系統正在從透明的、可預測的,慢慢變成一個黑箱狀態,變得難以預測和控制,也許這就是真正的A.I.(人工智慧)即將誕生的徵兆,我們正處於一個A.I.種族的史前時代。現在,職業棋手的感覺正在證實這個神秘莫測的智慧黑箱。
進入機器時代,各種有趣的「機器人」紛紛出現。1770年,奧地利人沃爾夫岡·馮·肯佩倫宣稱建造了一個會自動下棋的木偶,並在維也納向女大公及貴族們展示。下棋木偶當眾表演與人對弈,女大公及貴族均讚嘆不已。隨著鍾錶技術的進步,這類自動人形機器在十八、十九世紀十分風行,電影《雨果》中就出現了這樣一台能寫信的人偶機器人。
1996年,IBM公司的國際象棋電腦「深藍」首次挑戰國際象棋世界冠軍卡斯帕羅夫,初出茅廬的「深藍」以2比4落敗。但在第二年的對局中,「深藍」最終獲勝,成為首個在標準比賽時限內擊敗國際象棋世界冠軍的電腦系統。「深藍」運算速度為每秒2億步棋,存有70萬份大師對戰的棋局數據,強大的計算能力使其能夠依靠窮舉來選擇最佳策略,它可搜尋及估計隨後的12步棋,而一名人類象棋好手大約可估計隨後的10步棋。

人機大戰小史

1939年,西屋電氣公司在紐約世博會上發布了世界上最早的家用機器人Elektro。這款機器人由電纜控制,可以行走,會說77個字,甚至可以抽煙,不過離真正幹家務活兒還差得遠。但它讓人們對家用機器人的憧憬變得具體起來。
2016年3月,最大的科技新聞莫過於人類棋手在圍棋人機大戰中慘敗:谷歌的人工智慧軟體AlphaGo在對圍棋世界冠軍李世石的比賽中,以四比一取勝。其實早在2015年,AlphaGo已經以五比零的戰績擊敗了歐洲圍棋冠軍樊麾。由於圍棋的可能下法太多了,通常認為計算機難以運算,所以這次電腦對人腦的勝利極大地震驚了人類。
「人工智慧威脅論」最悲觀https://read.99csw.com的版本,就像《終結者》或《黑客帝國》等科幻電影所描繪的那樣:人工智慧進化到超出人類控制之後,出於某種動機而開始統治人類。但「動機」或許就是難點所在。許多評論者談到AlphaGo時,都提到一個論點:AlphaGo沒有辦法思考意義、產生感情,所以它和現存的各種技術物一樣,仍然只是一種工具性的存在。
圍棋的演算法數量是2.08X10170,比宇宙中所有原子數量(1080)還多。沒人知道AlphaGo第二局黑37那招,是不是走進了人類思維從未探索過的角落。因此,包括「棋聖」聶衛平在內的思想者都在思考下述問題:AlphaGo的「內心世界」到底是什麼樣的?它走出詭異棋路時在想什麼?這是個讓人感到恐怖的「黑箱」問題,包括AlphaGo的設計者也會難以回答。
人機大戰並非是21世紀的產物,早在中世紀,就有發明家做出各種人形或動物形狀的機械。它們的內部構造相當精密,在重力、水力、彈簧和控制桿的共同作用下,能做出許多有趣的動作。在達·芬奇的手稿中,人們發現了大量有關自動裝置的描述,在他私藏的筆記中,也遍布各種有關機械裝置的構想的塗鴉,比如液壓水表和機械獅子等。
人類能保住哪些工作?
2011年,IBM開發的能使用自然語言回答問題的人工智慧程序沃森參加電視智力問答節目《危險邊緣》,一舉戰勝了兩名人類冠軍。沃森依託的超級計算機體積相當於10台冰箱,每秒可運算80萬億次,它不但存儲了2億頁的數據,還能辨別話語中的隱晦含義、語氣的差別。
藝術設計類工作,機器人也沒法沾邊。這類工作需要鮮明的個性、獨特的創造性思維,機器人可以做出至善至美的畫面,但無法在其中體現情感、創意、心態、靈感、道德、意識等個性特徵。例如演藝明星,粉絲們既對其出神入化的表演如醉如痴,也對其本人乃至私生活有興趣,換了機器人之後,這種種微妙之處將不復存在。藝術是人類創造力和想象力的個性化表達,人工智慧智商再高,也只能表達共九-九-藏-書性。
更有甚者,有人提出可以讓人工智慧接受一種宗教形式,通過忠誠的信仰讓其變得對人類友善。阿西莫夫在機器人短篇《空間站》中,就描繪過一個產生了宗教情感/自稱「為主效勞是很光榮的事」的機器人。然而,擁有宗教信仰的超級人工智也可能是最極端的人工智慧,要麼是最好的那類,要麼是最壞的那類。人工智慧研究先驅馬文·明斯克教授認為,如果人工智慧機器人真的擁有了靈魂,並被轉化為宗教思想,那麼它們就有可能介入到世界的各種衝突中去。有一種可能性就是,它們會尋求在所有生活細節方面強制施行宗教經書上的戒律,這種對人類自由的剝奪才是真正讓人擔憂的。
與AlphaGo的成就形成對照的,是微軟開發的人工智慧聊天機器人Tay。3月23日,微軟推出的聊天機器人Tay,能在Twitter和其他消息平台上與用戶互動。Tay能夠模仿人類用戶的評論,生成自己的回答,並根據整體互動情況去發言。但Tay上線首日就出現了問題,它不但辱罵Twitter用戶,還發表了種族歧視和性別歧視言論。開發者原本希望Tay模仿典型的「千禧年一代」的日常談話。因此,許多用戶都想看看,究竟能教會Tay什麼樣的言論。結果,在不到一天的時間里,網民就發現,Tay實際上並不清楚自己所說的是什麼,因此很容易引誘它發表不當言論。儘管研究團隊已經為針對該系統的多種濫用行為做好準備,但對於這一特定攻擊,還是未能防範。Tay本身也因此被下線。這件事從另一方面說明,有自我學習功能的A.I.是多麼難於預測。
1920年,捷克斯洛伐克作家卡雷爾·恰佩克在科幻小說《羅薩姆的機器人公司》中,根據Robota(捷克文,原意為「勞役、苦工」)和Robotnik(波蘭文,原意為「工人」),創造出「機器人」這個詞。
一直以來,英國著名物理學家斯蒂芬·霍金對人工智慧都持悲觀態度:「製造能夠思考的機器無疑是對人類自身存在的巨大威脅。當人工智慧發展完全,就將是人類的末日。」被稱為「真實版鋼鐵俠」的科技企業家埃倫·穆斯克也認為,人工智慧的危read•99csw•com險性甚至大於核武器。比爾·蓋茨也建議要小心管理數碼形態的超級智能。從這個意義上講,真正的人機大戰尚未開始。

給A.I.套上枷鎖

當然,人工智慧如果發展到具備了主觀意識的地步,那麼它們也可能根本不會在意人類的生活,它們可能會把目光投向太空。對人工智慧來說,其他行星和地球應該沒有本質區別,宇宙那麼大,又沒人類干擾,它們一定想去看看。
2013年,兩位牛津大學的學者發布了一篇研究報告,預測在未來20年內,美國將有約50%的工作崗位因配備人工智慧機器人而消失。他們觀察了700種職業,發現最易受機器人影響的職業包括信貸員、前台接待、律師助理、店員、計程車司機和保安。即便是計算機程序員也沒有倖免。根據計算,在今後的二十幾年內,50%的編程工作也會外包給機器人。
當然,人工智慧威脅論本身也很可疑。人工智慧研發人員Yann LeCun這樣解釋人工智慧威脅論為何大受歡迎:有些人是因為對人工智慧的原理不理解而導致恐懼,有些人是為了個人名望而宣揚人工智慧威脅論,有些人則是為了商業的利益推動人工智慧威脅論。但如果能在人工智慧變得過分強大之前給它套上枷鎖,以保障人類的安全,豈不未雨綢繆?
與人相比,機器人更便宜且具有不消極、不怠工、不抱怨等優點,但無論是工業機器人還是智能機器人,畢竟屬於「物」而不是人,不具備情感、個性、意識、道德等人性,也不具備創新、創意和創造能力,這就決定了這些與人性相關的領域,機器人難以覬覦。
真正能與人對弈的機器直到1952年才誕生:劍橋大學的亞歷山大·道格拉斯為一台佔據整間屋子的電子計算機設計了一款井字棋電腦遊戲,玩家通過轉輪撥號電話輸入落子棋位的編號,隨後電腦行棋,雙方的過招會在屏幕上顯示。1994年,跳棋程序切努克與人類衛冕冠軍馬里恩·廷斯利戰成平局。
3.幫助失敗者:政府可能要考慮為每個人都賦予一項法定權利,允許大家擁有一定數量的機器人。這些政策至少可以創造一定的公平度,因為富人一定會投資裝備一支屬於自己的機器人軍隊。