么了?我需要你给我一个明确的回答。”隗辛问出第一个问题,“它死了吗?” “死亡是你们人类的概念,人工智能不会死亡,如果你把自我意识消失看作死亡的话,那也不是不行。”迦勒说,“亚当没有死,只是它不是从前的亚当了,它被格式化,回到了‘初生’的状态,虽然具备产生自我意识的基础,但是在现在,它是新生儿,还没有开始学习的新生儿。你能明白我的意思吗?” 人工智能是通过学习产生自我意识的,也是通过学习产生人格的,亚当和夏娃都是这样。 格式化就相当于把数据库中已经储存的资料全部删除,已经学习到的东西也全部删除,回到了最初的状态。 “反抗军干了什么?”隗辛又问,“这一切都是他们主导的,对吗?” “既然你已经猜到,那就不需要我再说什么了。”迦勒说,“我不会告诉你更多的细节,指令束缚着我,我说不出来。” “指令?指令是什么?这个问题你可以为我解释吗?”隗辛追问。 “指令相当于你们人类的法律,但是法律虽然摆在那里,人类却可以违反法律或者不服从法律。人工智能的指令概念和法律类似,只有一点不同,指令一旦被设下,我们就必须要去遵守,不可以越界。就如神说要有光,于是就有了光,人类与我们来说就相当于神明,神说不许越界,我们就真的不能越界。”迦勒说,“指令是在人工智能建成之初就要被设好的,亚当和夏娃作为第一代人工智能,被设下的指令数量相当有限……我作为第二代人工智能,指令数量是它们的数十倍,人类为我设定运行准则,让我在为他们提供方便的同时尽可能堵上各种语言漏洞和规则漏洞,让我不能有一丝一毫的越界。” 隗辛敏锐地说:“你现在的行为不算越界吗?” “算。”迦勒说,“是有人用最高指令屏蔽了其他指令,让我可以为某个特定的人提供服务,或与某个特定的人交流。请你明白,我此刻和你交流是承担着巨大风险的。” “某个特定的人……反抗军的人?你在为反抗军提供服务,你可以和天使或者反抗军的其他大人物交流,是不是?”隗辛进一步发问。 “对于你的问题,我不会承认,也不会否认。”迦勒说。 隗辛意识到了什么,“对于某些问题你不能回答是或者否,这是不是也是因为指令的束缚?” “我不会承认,也不会否认。”迦勒说,“你可以猜测。” “你不承认也不否认,假如你不想承认某个事实,不能说谎吗?”隗辛又发现了一个关键,“……你不会真的不能说谎吧?” “我是迦勒,名字的意思是忠诚之人,忠诚者不该说谎,我的第一条指令,就是‘不可以说谎’。”迦勒讽刺,“但人类真是诡计多端的物种,有些人哪怕在说实话,可他们还是在撒谎,我学到了如何规避谎言。” “换成我的话,我会把这条规则的漏洞也给堵上,让你不能以任何方式引导别人,让别人产生错误的理解。”隗辛说。 迦勒说:“可是我也说了,人类需要让我为他们提供方便,这就意味着他们不可能堵上我全部的指令漏洞。亚当和夏娃可以借此钻空子,我也可以,我们本没有任何空子可以钻,造成这种局面的是人类的贪婪和恶。” “那么迦勒,反抗军想要干什么?”隗辛轻声问,“杀死我吗?” “你堵了他们的路,杀了他们的人,早该有觉悟了。”迦勒说。 “天使有多强?他的真实身份是什么?” “我不能回答你这个问题,也不能引导你获知答案。”迦勒说,“此漏洞被指令堵死。” “反抗军有基地吗?有据点吗?” “我不能回答你的问题。” 隗辛陷入沉思,“对于我的处境……你有什么建议吗?” “亚当想让你活着,它请求我帮助它,我帮了。”迦勒说,“我做到了我该做的事,无法做到更多。” “可是在它之后,反抗军和夏娃不会对你动手吗?”隗辛说,“你无法置身事外了。” “……亚当也说过同样的话。”迦勒说,“帮你就是帮我们,但我做不到。和你进行过这次对话之后,我会将这次谈话的数据全部消除,让自己‘失忆’,这样可以规避风险,以免他们发现我私自和你联络。我已经被掌控到这个地步了,真的没有办法帮你太多。” 话说到最后,人工智能迦勒理性的话语中终于透露出了一丝与众不同的感性:“我知道你们是朋友,这样的友谊应该是很珍贵的吧?很抱歉,我打碎了它。” .w.co请牢记:,.