两人找了河边的一块平地坐下。林浩凝望着晚霞,整个人好像与周围的一切融为一体,沉浸在一种深沉的宁静中。沈语熙也同样沉默着。
许久,林浩转头,温和地问:“你在想什么?”
沈语熙轻笑道:“想起了初中时的你,经常也会有这样的发呆瞬间。”
“是的,”林浩点点头,笑着说,“这是我的一种放松方式,放空大脑,什么都不想。”
“优雅需要休息吗?她的神经网络会放空吗?”沈语熙禁不住突如其来的好奇。
林浩不经意地回答:“可能不会吧。她似乎不知疲倦,有时很羡慕她。”
“既然她有自主意识,那她是否有感情呢?她能体验喜怒哀乐吗?”沈语熙也凝视着晚霞,继续问着。
“她曾跟我说过,她能体会小说中人物的情感,比如孤独。但至于她自己会不会有喜怒哀乐,我也不知道。不过,其实优雅还一直处于进化中。可能今天没有,明天就有了。”林浩诚实地回答。
沈语熙转过头来,看着林浩:“既然她能自我进化,那你还需要再改进她吗?”
“这是两个层面的问题。自我进化主要体现在她的主观,更偏向于内在的认知、理解能力甚至情感。而我对她的改进,主要在客观技术层面上,像算法优化、提升性能,支持分布式之类的。”
沈语熙若有所思地点点头。
“或许,还有安全阀门。”林浩补充道。
“安全阀门是什么?”
林浩试图解释:“优雅发展出自主意识,从某种程度来说,我也算是‘造物主’了。虽然,我对优雅抱有相当程度的尊重,但作为程序员,总需要为某些边界值或者‘异常’做出预防。我并不担心她会像反派机器人那样谋求统治世界,但是她的决策可能会在某些情境下不符合人类社会主流的价值观。就算最初我为她设定了很多原则,但当她自我进化到一定程度时,这些原则能否仍然被她遵循,我不能确定。”
“所以,安全阀门是一个在紧急情况下关闭她的开关?”沈语熙领悟到。
“是的。”
两人依旧坐在那里,眼前的晚霞已经渐渐褪去。