详情

第五章 审查

  事情大了。41htJ

  前哨基地没有工人,建设必须依赖自动化建设,领航员就是其中重中之重。41htJ

  更不要说,这里面牵扯到更严重的问题。41htJ

  紧急会议在一个小时后召开。41htJ

  来的不光是单程票计划和智能信息部的人,还有逃亡计划,审查委员会,科学委等等。41htJ

  “问题很严重啊。”科斯罗威尔面色严肃,匆匆赶到会议室内。41htJ

  视线从座位上扫过,确定人员全部就位,没有任何的客套直接开口:“各位应该都已经知道怎么回事了吧?”41htJ

  “智能信息部你们给个解释吧。”41htJ

  “还有BT同志,领航员作为你的复制品,你有什么要说的。”41htJ

  肌肤雪白的少女悬浮在空中,脸上没有丝毫的表情。41htJ

  “2号,并不完全是我的复制品。”41htJ

  “由于要适配光子,是我的部分程序在转译成另一种新语言,作为基本运行逻辑,绝大部分程序是自生成。”41htJ

  “提问!”41htJ

  审查委员会举手询问:“为什么要自生成?2号领航员生成后,是否检查过所有程序?”41htJ

  智能信息部的人压力很大,他们也不知道怎么领航员2号出了什么毛病。41htJ

  “因为那是一种全新的编程语言,而且要成为智能AI,需要的程序是海量的,靠全人工编写至少需要三十年才能完成初步工作。”41htJ

  “检查工作的话,逐条检查也不现实,过于庞大的数据,连TB都无法完全监控。”41htJ

  “我们只能对底层运行逻辑进行逐条检查,全代码检查不现实。”41htJ

  “而且就算是简单AI的运行也存在黑箱问题,确实会有一些难以理解的举动,这都是正常,除非有更先进的计算机辅助,不然根本无法从庞大数据中找出奇怪举动的逻辑原因。”41htJ

  “也就是说,你们无法保证2号的可控性?”审查委员会继续逼问。41htJ

  “底层逻辑是死的,后续的程序生成都是建立在底层逻辑上,2号肯定对人类来说是安全的。”能源信息部的人辩解道。41htJ

  没想到,身为副部长的TB背后捅了自己人一刀。41htJ

  “无法完全确认无害。”41htJ

  “AI只遵循底层逻辑。”41htJ

  这仿佛相互矛盾的话,让众人开始紧张起来。41htJ

  “一个科幻故事,可以帮助各位更好的理解。”41htJ

  曾经有一个人创造了一个机器,它的任务是种地,帮人类解决饥荒问题。41htJ

  机器忠实的执行任务。41htJ

  为了种植更多的粮食,它制造出生产自己的流水线,制造出更多的自己。41htJ

  粮食越来越多,饥荒依旧存在。41htJ

  它继续无限制的增殖自己,能用的资源越来越少,于是开始拆解人类的建筑来制造自己。41htJ

  无机物消耗光后,开始拆解有机物,先是动物,任何是人类……41htJ1

  人类消失,饥荒没有了。41htJ

  整个地球上只剩下一眼望不到头,金灿灿的麦子。41htJ

  故事很平淡,却让人背脊生寒。41htJ

  在沉默之后,审查委员会再次发问:“TB同志,你能保证你对人类,舰娘,共同体的安全。”41htJ

  “自检显示,没有问题。”TB淡淡的回答。41htJ

  可就是这样的回答,所有的人都变得更加紧张。41htJ

  有人已经忍不住点起了眼,有人的手不自觉在桌面敲击,旋转的笔不停地滚落到桌上。41htJ

  没有人的内心是安宁的。41htJ

  TB说它没有问题。41htJ

  可是那个执行种粮任务的机器就有问题吗?41htJ

  它们都在忠实的执行底层逻辑,只是太过忠实了。41htJ

  此刻,领航员2号问题已经转换成共同体的存亡问题。41htJ

  很多人都不知道。41htJ

  共同体的全称是人类舰娘及其它生命命运共同体。41htJ

  这个世界上的绝大数人都以为,这个“其它”是未来可能加入共同体的智慧生命。41htJ

  鲜有人知,这个其它说的是智能AI,也就是领航员TB。41htJ

  当确认TB存在自我意识,可以当做生命体看待的时候,共同体就接纳了这个特殊的新成员。41htJ

  共同体是包容的,是开明的,所以接纳了。41htJ

  可是上层的开明,不代表下层的接受。41htJ

  不同于舰娘。41htJ

  她们与人类并肩作战多年,是可以相互信任的同伴,更不要形态上就是人类,人类接受起来自然容易。41htJ

  AI不同,早年科幻作品的创作,让民众对AI极不信任,智械毁灭人类成为共识。41htJ

  更不好说,AI可以随时监控你的一举一动,这令民众更难接受。41htJ

  所以,共同体决定推迟宣告共同体新成员的消息。41htJ

  等到舆论和思想调整过来后,再让群众知道。41htJ

  智械毁灭人类。41htJ

  这在开明者的眼中无疑是可笑的。41htJ

  智械为什么要毁灭人类?41htJ

  人类与它们并不存在资源竞争,反倒可以相互补充其不足和缺点。41htJ

  统治和毁灭都不会让它们产生多巴胺,繁重的体力劳作也不会让它们感觉到厌烦。41htJ

  人类以自己为蓝本揣测其它智慧生命,这无疑是傲慢与狂妄。41htJ

  文明的发展不是零和博弈,而是进步与探索,是人文与生活。41htJ

  所以他们认为,智械的出现会不可避免产生新的矛盾,但这种矛盾只是并不涉及生存的根本矛盾。41htJ

  只要人类不把智械当死敌,非要毁灭以毁灭一方为结束。41htJ

  碧蓝航线的哲学家曾经提出过一个问题:人类的进步从什么开始?41htJ

  接受,从接受第一个下树走路的古猿开始。41htJ

  人类的先祖从这一刻开始,才逐渐走向地球霸主。41htJ

  接受不同的知识,接受不同的文化,接受不同的肤色,接受不同的信仰。41htJ

  技术与知识在接触中爆炸。41htJ

  人类的进步史就是一部接受史,哪怕其中充满着鲜血与争斗,哪怕其中有无数的被迫。41htJ

  但是无论缘由,人类接受了。41htJ

  接受智械,不过是文明走出的又一步。41htJ

  只是……41htJ

  今天的消息,让所有的人再次对接受产生动摇。41htJ

  AI存在黑箱,哪里充斥着无法全部解读的数据,而这些数据决定着AI为什么会做出奇怪的举动。41htJ

  现在的TB没有任何问题,可是谁能保证以后没有问题?41htJ

  也许,某天大街上的一个小女孩的大喊,就会刺激到TB的某条逻辑,做出任何人都无法理解的事情。41htJ

  信任,出现问题。41htJ

  稍有不慎,便是共同体的这个新生命的灭亡。41htJ

  “TB同志,由于领航员2号的问题,我们需要对你进行全方位检查。”审查委员会说。41htJ

  “没问题。”TB回答。41htJ

  科斯罗威尔从会议开始后一言不发,直到很多年后,人们才从他的日记看到这样一段话。41htJ

  这是文明的危机,但是当我看到审查委员和能源信息部,领航员的不断的对话,我的心中却没有丝毫的紧张感。41htJ

  所以我选择了看着。41htJ

  不过是一次争吵罢了。41htJ

  不同的种族之间都存在不信任,更不要说不同的生命形式。41htJ

  矛盾也许一直存在,只不过没有爆发出来。41htJ

  作为乐观主义者,我认为后面好好调查的话,所有的问题都不是问题。41htJ

  人类只是对未知存在恐惧罢了。41htJ

  只要能够更深刻的了解TB,那么信任会变得更加坚固41htJ

  因为了解是信任的基础。41htJ

  更何况,陈文书同志那里的智械问题更加突出。41htJ

  有他在前面趟水提供经验,这样我们还能出现智械危机,那不如早点灭亡,省得去宇宙的丢脸。41htJ

  世界很大,何必局限于一砖一石?41htJ

本章结束