第36頁(第1/2 頁)

我在心底期待，如果席琳克絲不是潛者就好了。那麼一來，我就不必看她喪生。

假如我是人類，目睹二百零六人死亡，說不定感情早已消耗殆盡，能夠平靜地接受第二百零七人的赴死。但是，我的感情沒有磨光。人類將我製造得完美無缺。沒有事情會使我精神失常，或者失去理智地大聲哭號。我既不會痛罵潛者們愚昧無知，也無法全力阻止他們。

我只是覺得悲哀。

好久好久以前，當人類創造擁有感情的ai時，卻害怕ai造反。ai會不會隨機殺人?或者企圖征服人類?‐‐我無法理解，人類為何會囿於那種無憑無據的被害妄想。說不定是受到了許多在那之前的虛構作品的影響。

人類認為必須規範ai的行為，於是討論是否該制定這種標準。

「第一條：ai不得傷害人類。」

「第一條補則：此外，不得放任危險程度升高而傷害人類。」

「第二條：ai必須遵從人類的命令。」

「第二條補則：但違反第一條者不在此限。」

「第三條：ai除非違反第一條及第二條，否則必須保護自己。」

其中，最受爭議的是第一條補則。「放任危險程度升高」這句話的範圍未免太過模糊。挑戰登山、格鬥技和賽車不「危險」嗎?喝酒的量超過多少才會視為「危險」呢?試圖衝進火災現場的消防隊員、等待執行死刑的兇犯、上戰場計程車兵……ai必須保護所有這些人嗎?

結果，第一條補則被視為不切實際，不予採用。這時透過的「修訂三原則」，如今也是除了戰鬥機器人之外，大部分ai的行為準則。我們禁止殺害人類，但是沒有阻止人類自殺的義務。

當然，只是可以不阻止，也有試著阻止的自由。然而，如果潛者說「不準阻止我」、「別管我」，我就得遵照第二條，不能採取進一步的行動。

嚴格來說，許多潛者不認為自己的行為是「自殺」，大多數的人自以為會活著穿越黑洞表面。他們對於「烏佩歐瓦德尼亞」抱持著奇怪的信念。他們認為，桃花源或天國就在黑洞對面。

目前為止，最大的潛者集團在一百五十年前到來。一艘中古貨船上，載著四十名某宗教團體的成員。率領他們的教祖告訴我明顯錯誤的邏輯，像是「上帝不存在這個宇宙中」、「這代表上帝肯定在另一個宇宙」。他們確信自己再過不久就能謁見上帝，每個人的表情中充滿了希望。但是，他們的船在黑洞表面前方八萬公里就粉碎了。

我不曉得他們為何能夠相信那種毫無根據的話，若是「烏佩歐瓦德尼亞」的事，我比任何人類都清楚。毫無任何訊號從黑洞發出來。當然，沒有人知道對面的宇宙長什麼模樣，究竟是不是適合生存的世界呢?縱然適合，也沒人能保證會是比這邊的宇宙更美好的世界。更何況沒有根據令人認為上帝(或者接近上帝的超智慧體)在那裡。

ai不會相信沒有根據的事。

極少人會純粹為了自殺而來。他們說：「我和其他人不一樣，想嘗試以特殊的方法死亡。」但我認為，已經有許多人類以同樣的方法死亡，所以已經稱不上是「特殊的方法」。

我只能束手無策地看著三白零六人死亡。

不，我沒有仔細確認所有人死亡。從毀壞的太空船被丟擲來的潛者當中，說不定有人能夠承受潮汐力，在尚有一口氣時穿越黑洞表面。但是人類無法長時間生存於真空中，所以結果是一樣的。

隨著接近黑洞表面，時間流逝會變慢，他們的死亡倒數時間也會拉長。就潛者的角度來看，他們會在一瞬間以接近光速的速度衝進黑洞，但是從外側來看，他們下墜的速度逐漸減緩，最後靜止不動，