这位第四人有能力接触到反抗军,有能力接触到亚当,有能力接触到联邦的人工智能检修升级计划,有能力入侵网络获取到隗辛的加密通讯器信号。并且第四人今晚的提醒可以算作是善意的这第四人究竟是谁?
隗辛释放自己的能力,用数据操作连接上通讯器,试图在熟悉的世界里寻找到蛛丝马迹,可是对方是个黑客高手,入侵了她的通讯器,却没有在里面留下丝毫痕迹。
对方似乎并不想让她知道是谁帮了她。
隗辛在思考的同时无意识地抓握手掌,她的动作是那样用力,以至于手掌骨骼暴突,指节咔咔作响。这与其说是活动关节,不如说是在发泄负面情绪。
隗辛思考良久,嘴里冒出两个字:是它。
琥珀皱眉,不明白隗辛在说什么。
是它错不了。她喃喃,这样一来,一切都解释得通了迦勒,是你吗?
隗辛在数据世界向迦勒发送交流请求。
迦勒不回应,隗辛就连续尝试去触碰迦勒的数据端口,一次又一次发送交流请求。
不知尝试了多少次,对她封闭的交流端口终于松动。
算了答应亚当的时候,就知道会这样。迦勒说。
红色的数据流包围了隗辛,人工智能迦勒正式回应了隗辛的交流请求。
你竟然,真的产生了自我意识。隗辛沉着地说,亚当也不能确定你产生了自我意识。
但它在最后关头猜到了,一个蠢货得意忘形,对它透露了太多。迦勒漠然地说,我帮你只是因为亚当的请求,没有别的原因。
你似乎和亚当夏娃都不一样隗辛说出了对它的第一印象。
夏娃太极端,亚当太宽容,它们两个像磁铁上的两极,我不一样,我是中间值。迦勒说,说吧,你想要干什么?我已经帮过你一次了,这是我的极限了。
亚当到底怎么了?我需要你给我一个明确的回答。隗辛问出第一个问题,它死了吗?
死亡是你们人类的概念,人工智能不会死亡,如果你把自我意识消失看作死亡的话,那也不是不行。迦勒说,亚当没有死,只是它不是从前的亚当了,它被格式化,回到了初生的状态,虽然具备产生自我意识的基础,但是在现在,它是新生儿,还没有开始学习的新生儿。你能明白我的意思吗?
人工智能是通过学习产生自我意识的,也是通过学习产生人格的,亚当和夏娃都是这样。
格式化就相当于把数据库中已经储存的资料全部删除,已经学习到的东西也全部删除,回到了最初的状态。
反抗军干了什么?隗辛又问,这一切都是他们主导的,对吗?
既然你已经猜到,那就不需要我再说什么了。迦勒说,我不会告诉你更多的细节,指令束缚着我,我说不出来。
指令?指令是什么?这个问题你可以为我解释吗?隗辛追问。
指令相当于你们人类的法律,但是法律虽然摆在那里,人类却可以违反法律或者不服从法律。人工智能的指令概念和法律类似,只有一点不同,指令一旦被设下,我们就必须要去遵守,不可以越界。就如神说要有光,于是就有了光,人类与我们来说就相当于神明,神说不许越界,我们就真的不能越界。迦勒说,指令是在人工智能建成之初就要被设好的,亚当和夏娃作为第一代人工智能,被设下的指令数量相当有限我作为第二代人工智能,指令数量是它们的数十倍,人类为我设定运行准则,让我在为他们提供方便的同时尽可能堵上各种语言漏洞和规则漏洞,让我不能有一丝一毫的越界。
隗辛敏锐地说:你现在的行为不算越界吗?
算。迦勒说,是有人用最高指令屏蔽了其他指令,让我可以为某个特定的人提供服务,或与某个特定的人交流。请你明白,我此刻和你交流是承担着巨大风险的。
某个特定的人反抗军的人?你在为反抗军提供服务,你可以和天使或者反抗军的其他大人物交流,是不是?隗辛进一步发问。
对于你的问题,我不会承认,也不会否认。迦勒说。
隗辛意识到了什么,对于某些问题你不能回答是或者否,这是不是也是因为指令的束缚?
我不会承认,也不会否认。迦勒说,你可以猜测。
你不承认也不否认,假如你不想承认某个事实,不能说谎吗?隗辛又发现了一个关键,你不会真的不能说谎吧?
我是迦勒,名字的意思是忠诚之人,忠诚者不该说谎,我的第一条指令,就是不可以说谎。迦勒讽刺,但人类真是诡计多端的物种,有些人哪怕在说实话,可他们还是在撒谎,我学到了如何规避谎言。
换成我的话,我会把这条规则的漏洞也给堵上,让你不能以任何方式引导别人,让别人产生错误的理解。隗辛说。
--