给他的设定是遵循主人命令,但你又给了他感性,感性和理性冲突之后,机器没法像人一样自欺欺人。”
“他无法像人一样找理由说服自己,没法承认这已经是最好的结果,没法逃避和忘记,所以当然会卡死。”
斯塔克摆了摆手说:“我能不能把类似的矛盾逻辑给隐藏起来?比如把某些词列为违禁词,或者把某些感情问题给屏蔽掉?”
“你想让他成为一个真正的电子生命?”
“当然,和我们一样,有灵魂的那种。”
“好吧,简单来说,如果你想让贾维斯拥有真的感情,那他就绕不开这些问题,但如果他想不通这些问题,那他就算不上真正的‘生命’。”
“可问题是他被这些问题困扰,他就不能工作,可我很需要他。”
“难道我得像等一个情绪崩溃的女人一样等他自己消化?”
“难道佩珀小姐情绪崩溃时你都是让她自己消化的?”
看着席勒那看狗屎一样的眼神,斯塔克说:“该死的,我没有,我当然会安慰她,你在想什么?”
席勒说:“这决定权其实在你,你没有发现吗?托尼,我可以这么叫你吧?”
“他思维上所有的矛盾都来自于你,因为你创造了他,给他设定了他必须为你服务的准则,他的底层协议里要求他必须听从你的命令——”
“这本身就不是人类该有的思维方式。”
“我拿同样的问题来问你,你会怎么回答?”
“如果你的父亲就要死了,而你的一个决定可以拯救他,他却极力反对,你要怎么做?”
“如果你遵守他的意愿没有拯救他,他死了,你会后悔吗?”
“如果他死了,你觉得他在临死前会后悔生了你吗?”
“如果他死了,你觉得他会怨恨你吗?”
“如果他怨恨你,你会自责吗?”
“如果给你再一次重来的机会,你会做出不同的选择吗?”
“如果你违抗他的意愿,选择了救他,他事后责怪你,你会感到愤懑不平吗?”
“如果你违抗他的意愿救了他,而他却觉得你违抗他而后悔生了你,你会怨恨他吗?”
斯塔克沉默了。
他第一次没有对别人提到他的父亲而故作反应激烈。
“他不会那么做的。”斯塔克说。
他的声音很低,但却很坚定,他说:“他不会阻止我救他,如果我因为救他而犯了大错,他会选择活过来以后,尽全力去弥补,哪怕再次付出生命。”
“贾维斯了解这样的你吗?”
席勒站起来,他拍了拍斯塔克的肩膀说:“他知道你其实和你父亲很像吗?”
“他知道对你的了解,就能解答所有的这些问题吗?”
“你不能指望一个运用算法和逻辑的电子生命去主动了解你的过去、你的人格。你没给他灌输的东西,对他来说就是一片空白。”
“你想让他拥有真正的生命,首先要做的就是像你父亲给你的一样。”
“包括你的过去、你的人格、你的思考方式,你得先把自己生命的一部分给他——”
“就像一个孩子的诞生那样。”
斯塔克沉默了半天,他罕见了皱紧了眉头,露出一副有些为难的神情,他说:“我坚信这个世界上没有什么读心术,贾维斯也不可能会,那他凭什么来了解我?这是个几乎不可能完成的技术,你不了解人工智能……”
“我不了解‘人工智能’,但你不了解‘人’。”
斯塔克又被他说的无话可说,但席勒紧接着说:
“人类因智慧而存在,因情感而伟大。地球这么多年来,只有我们维持了兴盛,上帝创造的如此多生物,我们依旧是其中翘楚。而你则是在挑战上帝,他没有创造出能与人类相媲美的生物,但或许你可以,不是吗?”
“这是个全新的领域,托尼,你父亲也未曾走到过这里,你正在攻克的,是人类历史上从未取得过像样进展的一个领域——创造人外人。”
斯塔克离开时的那种气势,让席勒觉得他恐怕真的能做到。
不过他还是记得打电话给佩珀小姐,说:“佩珀小姐,午安,是这样的,我对斯塔克先生进行了一些亢奋疗法……呃,对,就是我自创的,但很有用,不过有些副作用……”
“是的,他已经去实验室了吗?什么?甚至没有想起你们下午的约会?那他可太失礼了……”
“没错,最近几天都会这样,这是调整多巴胺分泌和肾上腺素的必经之路,然后他的激素水平就会降下来,恢复到正常值,对,很快就会好……”
席勒就是在胡说八道,他这招就是俗称的打鸡血,而且是buff叠满的鸡血,斯塔克肯定会带着一身名为“使命感”的buff,一头扎进实验室,没半个月是不会离开了。