详情

第四章 附录1 人形的意志

  “先生,用户对于人形心智系统加装的情绪系统和道德模块的意见你怎么看?”3ZUZF

  “我认为这是必要的。”3ZUZF

  “但是额外的系统占用了人形大量的内存,在运行时会明显的产生多余的逻辑回路,使人形的运算速度受到了明显影响,这样做造成的额外损耗会使人形的效率比起”空白”状态下大大降低。”3ZUZF

  “对于无意识智能来说,最快的逻辑并不一定正确,我们并不打算创造出不符合人类行为逻辑的产品”3ZUZF

  “这点明显可以有更合理的方法解决,比如说把这个庞杂的系统简化成一个法律模块,只需要按照内置的法律来判断,要不然干脆做一个保险装置,在关键时刻可以直接让人形当机。”3ZUZF

  “你的意思是把决断权完全交给人类?我建议你应该去和人形人权协会谈一谈。”3ZUZF

  “该死的人形人权协会……他们迟早会把人类断送在自己的产品手上。”3ZUZF

  “那么,代表先生,你相信灵魂吗?”3ZUZF

  “我并不是神学派的……但是我觉得人形一定没有,以虚假的感情伪装的虚假生命毫无意义,也没有效率。”3ZUZF

  “但是它们在代替真正的生命去死,先生,我们之所以让它们装上复杂的情绪系统,甚至让它们拥有自己的独特‘习惯’,这都是为了让它们能有机会产生一个人类才能拥有的东西,我希望它的产生能将我们的产品与其他的冰冷机器产生差别。”3ZUZF

  “哦?这可有意思了,那这样‘高贵’的设计能让我们的机器人小姐产生什么呢?是‘自我’?或是‘情感’?又或是‘灵魂’呢?”3ZUZF

  “是意志,先生。”3ZUZF

  “意志?机器的意志就应该是人类的意志,拥有独立意志对人形的效率完全没有益处,如果发生冲突,甚至还会发生事故!我已经快没有耐心了,格罗博士,如果你再不能给我一个满意的回复,那你们的产品可能会因为忽视用户的感受和性能欺诈而遭遇一些麻烦。”3ZUZF1

  “别着急,代表先生,在你看来,机器对于人类来说,最宝贵的品质是什么?”3ZUZF

  “当然是不畏惧死亡和对人类的忠诚,但是在我看来,你的产品在这两方面都有风险,博士。”3ZUZF

  “人形的忠诚应该建立在正确之上,谁也不会想看到忠于恐怖分子的杀人机器。当然,往小了说实际上也就是一个评估系统,如果因为用户的奇异操作导致人形频频损毁,人形对其的评价极低的话,我司也就不会受理其对产品质量的投诉。如果人形的评估系统发现其使用者试图用自己做违法或者是其他违反道德的事情时,它会拒绝执行命令,我司也会向用户提出警告或者上报给有关部门。”3ZUZF

  “有趣的说法……但是这样会让人形产生违抗命令的空间,一个怕死的战术人形?想想都可笑。”3ZUZF

  “对于人类来说,生命是最珍贵的东西,但是并不是全部。我们的人形,可以做到‘不惜一切代价’,对于它们来说,生命只是这个代价里一个比较重要的筹码。”3ZUZF

  “博士,你这样说毫无意义,人形的生命和人类的生命重量本就无法相提并论。”3ZUZF

  “但是我也说过,对于人类来说,生命即使珍贵,但也不是全部,为了某个目标,人类仍然能够轻易舍弃生命。人形经过自己的复杂判断得到的结果坚不可摧,这个结果可能是某位指挥官,也可能是另一个人形,它们将这个目标的安全和命令视为‘基本原理’,当有外物威胁到了这个重要之物,甚至是已经摧毁它时,它们就会以最纯粹的决心来贯彻自己的‘意志’,根据对一些特殊目标的观察,为了这个‘意志’它们会付出自己的每一格能源,每一寸内存,机体的任何一个部分,它们的智能产生的每一个信息都会以这个目标为基准,它们的行为每一步都在向这个目标靠近,哪怕是付出自己所有的时间,在这种状态之下 只有在最关键的时刻,它们才会毫不犹豫的献上自己的生命,这种行为,人类称之为––”3ZUZF3

  “不惜一切代价,天啊。”3ZUZF

  “现在,您能理解我们的设计了吗?”3ZUZF

本章结束