第53頁(第1/2 頁)

「要怎麼下指示?」我詢問鷹見先生。「口頭下命令，她就會按照命令列動嗎?」

「是的。即使是文法上稍微有點奇怪的日語，她也能夠理解。當然，太過含糊的命令或無法理解的命令，她就無法執行，所以會反問。」

「她會聽任何的命令嗎?如果老人家下達奇怪的命令怎麼辦?呃……像是『讓我摸胸部』之類的。」

鷹見先生他們都笑了，但是對我們而言這是個嚴肅的問題。老人家無法預測，尤其是罹患阿茲海默症(從前叫做「痴呆症」)的人會說出什麼話更難預料，如果機器人一一遵從對方的命令，事情可就嚴重了。

「基本上會以院方職員的命令為優先。如果職員的命令和需要看護者的命令產生矛盾，就會遵從職員的指示。『讓我摸胸部』的情況下……呃，如果你事先指示詩音『拒絕那種命令』，她大概就不會執行。」

「經常有痴呆的入住老人說：『我要回家，送我回去』，詩音也會拒絕那種要求吧?」

「是的。另外，萬一有人惡意下令傷害需要看護者，詩音也不會執行，她會以需要看護者的安全為第一優先考量，此外，也不會接受毫無意義地破壞什麼的命令。即使說『你從窗戶跳下去』，她也會拒絕，因為那樣會破壞她自己。在不和那些限制產生矛盾的範圍內，她也會接受需要看護者的命令。難以判斷的情況下，她會向職員請求指示。」

原來如此，不虧是花了十幾年的時間開發的成果，看來廠商假設了所有可能發生的狀況。

「緊急的情況下呢?像是老人家突然昏倒之類的。」

「那種情況下，詩音會不等待命令，以自己的判斷行動。」

「判斷的正確率多高呢?」

「這是個難以回答的問題。訓練中故意引發意外的情況下，詩音以相當高的機率採取了適當的行動。不過，還是有許多無法預測的意外。我不能保證遇上資料庫中沒有的情況時，她採取正確行動的機率是百分之幾。不過，無論任何情況下，詩音都不會當機。因為我們克服了框架問題‐‐噢，所謂的框架問題是指……」

我還沒發問，鷹見先生就開始解釋了。

「比方說，假設命令機器人：『我現在要外出，保護我的安全!』機器人會和我一起步行，隨時觀察周圍，注意是否有危險。可是，『危險』是指什麼呢?汽車從對面靠過來，那輛車有可能切錯方向盤而撞過來。前方有落石，我說不定會被石頭絆倒受傷。或者，從對面靠過來的路人其實是恐怖份子，身上藏著炸彈，說不定現在正想自爆。經過的人家有可能引發瓦斯爆炸、有可能發生大地震、有可能墜機，這些意外都有可能發生。

「如果要考慮到所有的可能性，機器人什麼事也不能做。光是認識自己周圍的所有事物，搜尋、處理與其相關的所有資訊，電腦就會當機，結果連『保護安全』這個命令都無法執行。這就叫做框架問題。」

「可是，忽略掉發生可能性低的事情不就好了嗎?」

「你說得沒錯。但是，很難讓機器人做到這一點。即使說是『發生的可能性低』，也無法一一計算機率。石頭絆倒的機率無法計算吧?再說，人類並不會依照機率判斷是否該忽視風險。

「舉日常生活中的例子來說，每次發生孩童被變態殺害的事件，大人經常就會採取警戒那種事情再發生的行動。可是，孩童死於車禍的機率，卻遠高於被變態殺害的機率。既然這樣，明明應該進一步加強指導交通安全，卻很少人會認為車比變態更危險。除此之外，因為家中意外死亡的人多於一年總計的車禍死者，但也沒有人會認為家中比馬路更危險。擔