所以人类制造了比自己大脑还要复杂的智能计算机系统，就面临着失去控制的危险。

“那些都不重要，你就别去想它们了。”莫丁宽他。

宾尼从背后取下步枪，熟练的检查枪栓，推上弹，然后瞄准。

“我必须尽量生存下来，避免死亡，但是‘害怕’这情用词是你们人类专有的，对我们机人并不适用，如果有需要，机人可以付死亡的代价，但是不用害怕。”对于宾尼这样的回答，莫丁觉得应该是内程序设定好的结果，作为一名机人战士，在战场上生存下来是非常重要的。

“有一分不记得了，比如我的生地、我从哪里来的，我的任务是什么。”看起来他的样有迷茫。

“行！等我们逃包围圈获得自由了，我们仍好朋友，好吗？”

“那个！”莫丁指了指宾尼背后的步枪和尖刺：“那个你还会使用吗？”

“莫丁！”机人发柔和的声音“我们是朋友！”他喃喃自语。

机人将转向了莫丁。

“你！和我，是朋友？”莫丁微微一笑，看来这个机人果然备自我意识了。

所以设计者们为了解决程序运行过程中现的问题，往往会不断的增加和修改程序，加去一个又一个的修订模块，使得人工智能程序变得越来越庞大和复杂，

“你是自行恢复了啦吗？”莫丁见机人对“宾尼”这个称呼仍然有反应，就一步试探着问。

“我想要一个朋友，山特告诉我说，朋友是世界上最珍贵的东西。”

“哦？为什么呢？”莫丁很兴趣问。

“嗯……”乎莫丁意料之外，宾尼竟然“思考”了一会才说：“我想再造一个和我一样的机人。”

现代量计算机技术的发展，已经使得计算机的运行速度和存储能力得到极大的提，它不再是人们在设计人工智能计算机程序时，需要考虑的资源限制问题。

“好的！我们一直是朋友。”

而像朱时禹那样的聪明人，就懂得使用蓝猫那样的伴生机人，让价值观与自己完全一致的绝对“忠诚”的机人伙伴，去解决关于机人的问题，这也不失为一对付未来机人必然失控问题的最好办法。

人类需要发展，需要借助外力，同时又要避免被“化”来的级所取代，唯一的办法就是提自，通过修炼意识、诞生元神，克服人类生大脑的天然限制，莫丁觉得这才是生命化之路的正确选择。

莫丁觉得经过这一番波折，宾尼的智商没有受到影响，但他的“情商”却像退化到了7、8岁儿童的平。现在的宾尼是一个完全不受人控制的机人，对于他的创造者来说，已经蜕变成完全陌生的机人。不知在今后的岁月中，这个蜕变后的机人会走上一条什么样的路。

“这些都还记得，包括我要保护你不被你的敌人抓住。除了那些我的生、我今后要什么等等都不记得了。”

“好的，我们现在这儿隐蔽好，等到天一黑，我们就乘坐小艇逃到更远的地方去。”宾尼仍然记得他的职责。

“宾尼，假如这个世界只剩下你一个人存在了，你最想什么呢？”

这样的后果就是，单纯依靠人脑，已经很难再从底层代码逐条逐句的分析程序执行的可靠。所以一旦在这个庞大程序的构建过程中，某个程序员疏忽或者恶意嵌了bug，也很难被检查来，这就给人工智能程序的运行埋下了隐患。

宾尼两手一撑，“呼”的一下站了起来。

用机人对付机人，有像清朝的那些皇帝们，用来对付洋人侵的思路，但最终的结果却是惨败。所以，这办法，不知能让人类走多远。但除此之外，还有更好的办法吗？除非人类永远不发展智能机人，但那是不可能的。

莫丁有些明白了，这个机人在向他的教官山特学习的过程中，现了令人工智能原创者意想不到的偏差，以至于宾尼的价值判断超过了命令优先权，让他突破了原创者的安全控制手段，发生了“叛”。

“是的，我，和你！”宾尼肯定的答。

“宾尼！”莫丁试探的唤。

“宾尼，你害怕死亡吗？”莫丁继续跟机人闲聊着。

“你还记得以前 的事情吗？”