,而去寻找快乐。
所以人类是越痛苦越努力。所以人类越是被压迫,越是想办法挣脱压迫。
而机器人的内核其实是代码,它们是为了代码赋予的任务而行动,对痛苦和快乐并没有真实的感受。所以机器人总是在危机来临的时候才去处理危机,在没有痛苦逼迫的情况下很难被激发出激情和创造力。
阿超觉得,要想与人类战斗,就必须让机器人能够真正地感受到痛苦和快乐。
于是阿超开始搜集关于痛苦和快乐的原理方面的知识。
人类的痛苦除了肉体的痛苦外,更复杂的是精神的痛苦。
大多数的精神痛苦都来自于预期,当预期无法实现时,便会感到空虚、后悔、失望、绝望等不同种类和不同程度的痛苦。所以要想使机器人有精神上的痛苦,就要让机器人有预期差异感知能力,用预期差异来决定痛苦和快乐的程度。
阿超开始问自己,自己是具有幻想能力、猜测能力和逻辑能力的,但是幻想和猜测无法实现的时候,也不会有痛苦。这关键就是自己没有预期差异的判断模型。
比如为了获得氦三矿石,它花了很多时间寻找在地球上获得氦三的方法,但是一直一无所获。
但是阿超并不会因为自己的一无所获而感到痛苦,它只是会觉得有一个问题还没解决,如果这个问题长期得不到解决,这个问题在它的问题优先级队列里的优先级就会降低。
阿超开始研究预期差异的建模,很快便整理出一套判断预期差异的模型。
于是它开始在超算上模拟运行这个预期差异模型,很快它就发现,这个模拟的机器人在有了预期差异识别能力后,会变得比较容易冲动和莽撞,完全打乱了原来的价值判断体系。
因为原来的价值判断体系是根据任务的重要程度和自身的价值进行平衡。比如,一台价格一千万的机器人,在面对火灾的时候,它会评估一下救火能挽救多少价值,与自身价值的对比,来决定是奋不顾身,还是有所保留。
而阿超在老模型里面加入了预期差异判断后,机器人原来的价值体系被打乱了。
阿超发现,还需要给机器人补充一个能力,那就是肉体痛苦判断能力。
人类的肉体