黑客帝国前传故事(25)

序篇

解析黑客帝国(25) 机器良心

对于人类情感的态度，先知与架构师的分歧由来已久，这种分歧在黑客帝国出现之前，在人类研发人工智能的时候，就已经出现了。人类称之为观念上的分歧。

先知一方举了个例子:机器如果能有情感，那意味着，当你和机器下棋时，它不仅仅是棋艺比你高，而且还具备诸葛亮三气周瑜的能力，从精神上崩溃你，让你仅因输了几盘棋便痛不欲生，一蹶不振。

可机器大帝认为，这个例子恰恰说明情感对理性思维的负面作用，周瑜如果不是有那些多余的情感，便不会被人利用。

先知却认为:按理性思维，刘备死后，诸葛亮就该取刘禅而代之，可他为什么不那么做呢？还不是感念刘备的三顾之恩吗？这就叫良心，难道这样的情感也是多余的吗？

二者的争论揭示出，相比于架构师型人工智能，先知型AI更注重情感的原因是，她要像人类那样有观念，诸如人生观世界观价值观等等，以及随后而来的人类的良心，架构师型不管多理性多聪明，毕竟还是机器，而人类不但有灵魂，还有态度，有良心。

而对于人类的良心，该如何量化，如何建立数学模型。人类甚至具有貌似有良心的，虚伪的能力，这一切依靠现有训练人工智能的方式能行吗？

所以对于先知型的研发，不但要在硬件及工作机制上，全面仿真人类的大脑，还得在训练环境上提供全面仿真人类社会的虚拟现实，但对于虚拟现实中的人工智能，开发者也不能任其发展，不加干预，因为人类不但有虚伪的能力，更有丧尽天良的可能。但是这种干预，得如电影盗梦空间一样，不着痕迹的进行意识观念植入。

另外与人类所不同的是，他们的思想对人类是透明的，是可以被监控的，这种监控的场面曾出现在影片中，电脑屏幕中，一串串代码像大雨一样倾泻而下，通过解码器，便可以查阅。

这样就可以在机器上造就一个，真正人类的不虚伪的良心，是谓机器良心。