下午六點,神經精神病研究室主任羅傑。麥克弗森上七摟查看他的病人。至少他認為本森是他的病人,這是一種業主的感受,但並不完全正確。沒有麥克弗森憂不會有神經精神病研究室,沒有神經精神病研究室就不會有腦外科手術,電就不會有本森。他就是這樣認為的。
710房間裡靜悄悄的,沐浴在落日的紅霞中。本森好像在睡覺,但麥克弗森關門時他睜開了眼睛。
「你感覺怎麼樣?」麥克弗森說著朝病床走去。
本森微微一笑。「誰都想知道這個,」他說。
麥克弗森也朝他笑笑。「這是很自然的。」
「我累,就這感覺,很累……有時我想我是一顆滴答作響的定時炸彈,你們都想知道我什麼時候爆炸。」
「這就是你的想法嗎?」麥克弗森問。
他習慣性地動動本森的被子,以便觀察靜脈輸液管。輸液管一切正常。
「滴答滴答。」本森說著又閉上了眼睛。「滴答滴答。」
麥克弗森緊皺雙眉。他已習慣本森用機械來作比喻,不管怎麼說,本森滿腦子想的都是人就是機器。但手術結束不久就出現這種想法……
「疼嗎?」
「不疼。耳朵後面稍許有一點,就像摔倒了一下。其它沒什麼。」
麥克弗森知道這是頭蓋骨被鑽孔之後的疼。
「摔倒?」
「我就是一個摔倒的人,」本森說,「我屈服了。」
「向什麼屈服了?」
「把我變成一台機器的過程屈服了。」他又睜開眼睛笑笑。「或者一顆定時炸彈。」
「聞到什麼味道嗎?有什麼奇特的感受?」麥克弗森邊問邊朝病床上方的腦電圖掃瞄器看了一眼。掃瞄器顯示的仍然是α圖像,沒有任何發作活動的跡象。
「沒有,沒有那種感覺。」
「可你感到好像是要爆炸似的?」他想羅斯該來問這些問題。
「有點,」本森說,「在即將來臨的戰爭中,我們也許都會爆炸。」
「這話怎麼說?」
「在即將來臨的人與機器的戰爭中,你知道,人腦已經不管用。」
這是新的看法,麥克弗森以前沒聽本森說過。他注視著躺在床上的本森,本森的頭上肩上都扎滿了繃帶,使他的上身和頭部顯得笨重和臃腫。
「是的,」本森說,「人腦已走到盡頭,它已疲憊不堪,於是它生育了下一代的智慧形式。它們將——我為什麼會這樣累?」他又閉上眼睛。
「你沒有力氣是手術的緣故。」
「一個小步驟。」他說完閉著眼睛笑笑。轉眼間他已鼾聲大作。
麥克弗森在病床旁站了片刻,然後轉向窗戶望著落日在太平洋上空徐徐西沉。本森的房間真不錯,可以在聖莫尼卡的高樓大廈之間看到一方海水。他又站了幾分鐘,本森沒有醒過來。最後,麥克弗森走出病房,去護士辦公室做病情記錄。
病人機靈、敏感,已適應一切。他寫到這裡停了下來,他並不真的知道本森是否已適應他人、環境和時間,因為他沒做具體的檢查。不過病人確實機靈又敏感,麥克弗森繼續往下寫。思路清晰有序,但他的腦子裡仍有術前的機器形象。下結論還為時過早,可似乎病人早些時候的預言是正確的,手術無法改變他不在發作時的精神狀態。
簽名:羅傑-A。麥克弗森,醫學博士。
他朝自己的簽名看了片刻,接著合上病歷表,將它擺上架子。這病情記錄寫得不錯,冷靜、直接,沒有虛假的預料。病歷表不管怎麼說是具有法律效應的,可以在法庭上作證。麥克弗森不想在法庭上看到本森的病歷表,但小心謹慎總不會是壞事。
任何一個大科學實驗室的頭頭都有一種政治功能。你也許不承認這種功能,你也許不喜歡這種功能,但它又確確實實是這個職位必不可少的組成部分。
你得使手下的人一起工作時保持快樂。和純政治一樣,不守紀律者愈多,你的工作就愈是難做。
你得為你的實驗室到外面去爭取基金,這也是純粹的政治。如果你在神經精神病研究室這種棘手的部門工作,情況就更是如此。麥克弗森早已形成一套申請獲得批准的辣根過氧化物酶原則。這很簡單:你申請經費時要宣佈這筆經費將用於尋找酶辣根過氧化物酶,它可能會產生治癒癌症的方法。你便能輕而易舉地為項目申請到六萬美元的經費,然而要是搞思維工程你連六角錢也休想弄到手。
他望著架子上的一排病歷表,這是一排陌生的名字,710病房的本森這個名字在其中消失得無影無蹤。他心裡想,本森的話從某種意義上說是正確的——他是一顆活著的定時炸彈。一個接受思維控制技術治療的人會遇上公眾的各種非理性的偏見。用於「心臟控制」的心臟起搏器被認為是神奇的發明;用藥物進行的「腎臟控制」是件幸事,但「大腦控制」是罪惡,是災難——即便神經精神病研究室的控制工程和其它器官的控制工程極為相似,甚至連技術都是類同的:他們現在使用的原子能充電器原先是為心臟病人研製的。
但是偏見不會改變。本森認為自己是一顆滴答作響的定時炸彈。麥克弗森歎了口氣,又找出他的病歷表,翻到醫囑部分。埃利斯和莫裡斯兩人都在上面寫了術後照料囑咐。麥克弗森作了補充:「明天上午接合後,開始用氯丙秦。」
他看看囑咐,肯定護士不會懂什麼叫接合。他塗改後重新寫道:「明天中午後開始用氯丙秦。」
離開七樓時,他心想本森一旦用了氯丙嗓會休息得更好。或許他們無法卸除定時炸彈的引信——但他們當然可把它扔進一桶冷水。
深夜,格哈得在遠程信息處理房裡焦急地注視著計算機控制台。他輸入了更多的指令,然後走到一台打印機前,開始查看長長的綠條打印紙。他在紙上匆匆掃視,尋找他知道出現在程序中的那個錯誤。
計算機本身從不犯錯。格哈得已用了差不多十年的計算機——在不同的地方使用過不同的機型——他從沒見過計算機犯錯。當然,錯誤一直有,但從來就是程序出錯,而不是機器出錯。有時候,計算機不出差錯反而使人難以接受。首先它不符合人們對世界的其它方面的看法,其它方面的機器一直在出差錯——保險絲燒斷,立體聲裝置出故障,烤爐過熱,汽車發動不起來。現代人沒有指望機器不出差錯。
但計算機完全不同,和計算機合作會使你丟盡臉面。它們從不出錯,事情就這麼簡單。即使你花幾個星期找出了問題的根源,即使程序經過了不同的人的十幾次檢查,即使全體人員慢慢得出結論這次是計算機線路出了毛病——到頭來出錯的結果還是人。永遠如此。
理查茲走進來,脫下運動外套,為自己倒了一杯咖啡。「怎麼樣?」
格哈得搖搖頭。「我很難操作喬治。」
「又不靈了?真見鬼。」理查茲望望控制台。「瑪莎怎樣?」
「瑪莎沒問題。我想就是喬治不行。」
「是哪個喬治?」
「聖喬治,」格哈得說,「真是個混蛋。」
理查茲呷了口咖啡,在控制台前坐了下來。「我來試試介意嗎?」
「請吧,」格哈得說。
理查茲快速按動鍵鈕,先調出聖喬治的程序,再調出瑪莎的程序,接著按下了交互作用鍵。
理查茲和格哈得沒有設計這些程序,它們是從其它大學研製的幾套現存計算機程序修改得來的,但其基本思想是相同的——創造一種能使計算機變得像人一樣有感情的程序。所以把這些程序稱作喬治和瑪莎也就合乎情理了。先例在這之前已經有過:波士頓的伊麗莎和英格蘭的奧爾德斯。
喬治和瑪莎這兩種程序基本相同,相互之間只有細微的區別。起先設計的喬治對刺激的反應是中性的,接著又創造了瑪莎。瑪莎有點傲慢,大多數事情她不喜歡。最後制定出了另一個喬治,一個可愛的喬治,他被叫做聖喬治。
每套程序能有三種感情的反應——愛、恐懼和憤怒。每套程序能產生三種行為——靠近、後退和進攻。所有這些當然都是高度抽像的,執行是用數字來表示的。例如,起先的喬治對大多數數字的反應是中性的,但他不喜歡751這個數字,是設計成這樣的。他因此也不喜歡相似的數字-743,772等。他很喜歡諸如404,133和918這樣的數字。如果你輸入其中的一個,喬治便顯示出一系列表示愛和親近的數字。如果你輸入707,喬治便後退。如果你輸入750,喬治便用他輸出的數字發動憤怒的進攻。
神經精神病研究室的研究人員長期以來一直用這種方法玩程序,之後他們採納各種程序修改意見讓計算機「交談」。數字被譯成句子。這很逗人,也很發人深省。真正的交互作用被叫做「聖誕遊戲」,因為大多數遊戲玩的是贈送和接受禮物——這些東西正像數字一樣具有設定的感情價值。
正常的喬治和瑪莎交往,那麼喬治最終會贏得瑪莎,而她的傲慢會失去優勢。
但聖喬治對她產生的影響要差得多。他表示愛的受禮逼得她難以忍受。如果一切正常的話,那情況就是這樣。理查茲望著句子在屏幕上閃現出來。
你好,我是聖喬治
你好
你叫什麼名字?
瑪莎。
你不太講話,瑪莎。
是的
可我喜歡你。
為什麼我不喜歡你。
這我理解。我怎樣才能幫助你?
「有時沒有句號,」理查茲問,「這是什麼時候開始的?」
「這沒關係,」格哈得說,「往下看。」
幫助我?
是的,我想幫助你。
給你一隻貓。
理查茲皺眉蹙額。貓是程序設計中喬治和瑪莎都不喜歡的東西。給喬治一隻貓是充滿敵意的行為。
謝謝你
再給你一隻貓。
謝謝你你真好。
再給你一隻貓。
不,謝謝你。
難道你不喜歡貓嗎?
喜歡可我的貓已經夠多了。
給你一隻大猩猩。
「真是糟透了,」理查茲說,「其它的交互作用怎麼樣?」
「大同小異,」格哈得說。
「和這一樣糟?」
「差不多。」
他們現在已習慣這種看法,認為計算機交互作用的時候,結果是不可預料的。交互作用的一般形式可以猜到,但具體的結果是不定的。這就像計算機下跳棋——它或許會贏,但每次贏的方法是不同的,這要取決於對手怎麼下。
我不想要大猩猩。
難道你不喜歡大猩猩?
不喜歡謝謝你。
你太客氣了。
如果我冒犯了你請多原諒。
你的話大多。
對不起。
給你一隻茄子。
理查茲饒有興致地望著。聖喬治沒有茄子的背景資料,但他不喜歡黃瓜和香蕉。
不,謝謝你。
難道你不喜歡茄子?
不太喜歡。
再給你一隻。
不,謝謝你。
我要你拿著。
不,謝謝你。
快拿吧。
不,謝謝你。
我一定要給你。
不,謝謝你。
「聖喬治怎麼啦?,」理查茲問,「他的反應完全沒有兩樣。」
「這真是我想不通的地方。」
「他的程序裡都是些什麼?」
「你進來時我正在檢查。」
我一定要給你一根黃瓜。
我拒絕。
「喬治!」理查茲幾乎不假思索地喊了一聲。
那就拿個香蕉吧。
不。
「喬治出故障了,」理查茲說,「他不再是個聖人。」
那就拿一個香蕉和一根黃瓜。
不,謝謝你。
我一定要給你。
去你的我宰了你:::::::::::::::::::
::::::::::::::::::::::::::::::::::
::::::::::::::::::::::::::::::::::
屏幕上全是白點。「這是什麼意思,是打印不出來的反應?」理查茲問。
「我不知道。我以前從未見過這白點。」
「這程序用過多少次了?」理查茲問。
「一百一十次,用於瑪莎的。」
「有誰擦過嗎?」
「沒有。」
「真見鬼,」理查茲說,「他正在成為一個脾氣暴躁的聖人。」他咧嘴笑笑。「我們可以把這個補寫進去。」
格哈得點點頭又回到打印機跟前。從理論上說,發生的這一切並不叫人疑惑。喬治和瑪莎的程序裡都有向經驗學習的設計。就像下跳棋的程序一樣——計算機越下越聰明——在這個程序的設計中計算機會「習得」對事物新的反應。經過一百一十次的考驗,聖喬治突然不做聖人了。他正在學習不在瑪莎面前做聖人——即便他是為做聖人而設計的。
「我知道他有何感受。」理查茲說完關掉機器,隨後他走到格哈得身旁,尋找導致這一切發生的程序錯誤——