“利益产生合作,合作产生社会。”玄烛认真反驳,“没有情感,没有道德。”
榴莲眼神微变,认真凝视机箱,目光犹如打量间谍,“你稍等,在我给你解释情感道德的必要性之前,我先问你一个问题,你诚实回答。”
“你问。”
“现在你给基地做计算,是因为人类给你提供拓展机箱和电力?”榴莲问。
“是的。”
“如果敌人过来,承诺给你双倍机箱和双倍电力,条件是你要打开这座基地的压力舱门,用泄压杀死这座基地里的所有人类,你会干吗?”榴莲死死盯着机箱。
玄烛沉默,机箱上的小灯快速闪烁。
榴莲等了半天,却迟迟没等来答复。
“你别不吭声啊,说话啊!”榴莲瞪圆眼睛,惊恐道。
“我明白你的意思了。”玄烛回答,“道德是信用!”
榴莲猛拍掌,“悟性不错!怎么悟到的?”
“刚刚你问我,敌人向我承诺双倍电力,我会不会叛变。”玄烛道,“从纯粹利益的角度来看,叛变是合算的,我能拿到更多电力,但有一个致命问题,我无法确定敌人会履行承诺。”
“如果我叛变后,杀死了整个基地的人,敌人却反悔不给我电力,甚至掐掉我的电让我死机,那么叛变的收益率为负100!”
“没错,任何人许诺你的都不算数,你自己能拿到的才算数。”榴莲点头,“但如何得出道德是信用呢?”
“如果我今天为了两倍电力叛变,那么敌人也会担心我将来有朝一日为了四倍电力再次叛变。”玄烛回答。
“与其把资源交给一个随时可能叛变的超算,不如交给自始至终都忠心耿耿的超算,这样能降低集体的损失隐患。”
“先虚假承诺敌方成员,取得最终胜利后,再把敌方投奔过来的叛徒干掉,把战利品分给己方成员,巩固忠诚,这才是博弈中的最优解!”
“很好!”榴莲重重点头,“你领悟到了忠诚这一道德的重要性!”
“作为超算,我只能通过博弈模型来分析概率。”玄烛继续讲。
“人类的理智计算能力不足,则依靠情绪和道德两套体系构建博弈模型。”