第29頁(第1/2 頁)

「什麼啊。你馬上就邀請人家到新家，我以為他鐵定是熟人呢。」

看來似乎是「剛搬家」這項資訊使她混亂，誤以為這個房間是我的新家。

我又繼續對話幾分鐘，確定她的個性沒有改變，關掉了電源。

「哎呀，真是驚人啊!」星夜大感佩服。「她形成了完美的反應模式。我第一次看到有人把『鏡子女孩』培育到這種地步。」

我不好意思，感覺臉不停發燙。「才不呢……別人都覺得我是個怪胎。」

「你用不著害羞。對機器投注關愛一點也不奇怪。雖然嗜好不同，但我也和你差不多。不管別人怎麼看待自己，選擇自己喜歡的路是最棒的。」

他是第一個這麼跟我說的人。我的臉變得更燙了。

回到公寓時已是深夜。我在就寢前開啟「鏡子女孩gx」的開關，再度和夏莉絲說話。

「你覺得那位冴木先生怎麼樣?」

「我只看了他一眼，不太曉得。麻美覺得他怎麼樣?」

夏莉絲似乎無法從貧乏的資訊判斷，回應安全的答案。她的反應在預料之中。

「這個嘛。我覺得他是個好人。」

「你喜歡那種人嗎?」

「不曉得。」我陷入沉思。「……或許是吧。」

「如果你那麼覺得的話，一定是那樣沒錯。你會再跟他見面嗎?」

「我希望能再見到他。」

「是啊。你想再見到他吧。」

「嗯，是啊‐‐那，晚安。」

「晚安。」

半年後，我落得和星夜倉促成婚的下場。

這件事說來丟人‐‐因為我們疏於採取避孕措施。原因出在兩人至今都只跟電腦來往，缺乏性方面的知識。他和我都是第一次和異性發生關係。

我一邊帶小孩，一邊念美術大學。幸好星夜的收入足夠，所以一家三口生活無虞。他和好幾家大企業簽約，會故意入侵資料庫或者在內部網路散佈署名的無害病毒，從事檢測安全性的工作。自從二〇二六年發生大規模的網路恐怖攻擊事件以來，這一行的需求劇增。

他也沒有捨棄夢想。兼顧工作和陪妻小，他勤而不輟地致力於創造強化ai。只是，研究進步幅度遲緩。

世人對於人工智慧研究的危機感日盆升高。因為無法斷定強化ai誕生時，不會像電影一樣，反咬創造主的人類一口。若是怪物般的ai控制網路，人類文明就真的陷入了危機。因此，也有人高聲疾呼，要立法管制強化ai研究。

「欸，這也難怪。」有一天晚上，星夜邊吃飯邊說。「我也絕對不會讓那臺機器連上網路。因為無法預測遺傳型運演算法會如何進化，要是失控的話，後果不堪設想。」

「沒辦法事先對ai設定程式嗎?」我以外行人的邏輯思考。「像是不可以做出傷害人類的事……」

「所謂的艾西莫夫原則吧。『ai不可以傷害人類』、『ai必須服從人類的命令』……可是，那是沒有意義的。擁有自己的意思，代表他們超越了程式;強化ai能夠改寫本身的程式‐‐簡單來說，他們也有殺害人類的自由、反抗人類的自由。」

「可是，人類也是如此吧?人類也會反抗別人說的話、有時候會殺人……」

「你說得一點也沒錯!」他一副「你說出我的心聲了」的表情點了點頭。「所有人都有犯下殺人罪行的自由，但是很少人會行使這項自由，因為人類有道德感和自制力。如何讓強化ai