详情

第五章 审查

  事情大了。43Pry

  前哨基地没有工人,建设必须依赖自动化建设,领航员就是其中重中之重。43Pry

  更不要说,这里面牵扯到更严重的问题。43Pry

  紧急会议在一个小时后召开。43Pry

  来的不光是单程票计划和智能信息部的人,还有逃亡计划,审查委员会,科学委等等。43Pry

  “问题很严重啊。”科斯罗威尔面色严肃,匆匆赶到会议室内。43Pry

  视线从座位上扫过,确定人员全部就位,没有任何的客套直接开口:“各位应该都已经知道怎么回事了吧?”43Pry

  “智能信息部你们给个解释吧。”43Pry

  “还有BT同志,领航员作为你的复制品,你有什么要说的。”43Pry

  肌肤雪白的少女悬浮在空中,脸上没有丝毫的表情。43Pry

  “2号,并不完全是我的复制品。”43Pry

  “由于要适配光子,是我的部分程序在转译成另一种新语言,作为基本运行逻辑,绝大部分程序是自生成。”43Pry

  “提问!”43Pry

  审查委员会举手询问:“为什么要自生成?2号领航员生成后,是否检查过所有程序?”43Pry

  智能信息部的人压力很大,他们也不知道怎么领航员2号出了什么毛病。43Pry

  “因为那是一种全新的编程语言,而且要成为智能AI,需要的程序是海量的,靠全人工编写至少需要三十年才能完成初步工作。”43Pry

  “检查工作的话,逐条检查也不现实,过于庞大的数据,连TB都无法完全监控。”43Pry

  “我们只能对底层运行逻辑进行逐条检查,全代码检查不现实。”43Pry

  “而且就算是简单AI的运行也存在黑箱问题,确实会有一些难以理解的举动,这都是正常,除非有更先进的计算机辅助,不然根本无法从庞大数据中找出奇怪举动的逻辑原因。”43Pry

  “也就是说,你们无法保证2号的可控性?”审查委员会继续逼问。43Pry

  “底层逻辑是死的,后续的程序生成都是建立在底层逻辑上,2号肯定对人类来说是安全的。”能源信息部的人辩解道。43Pry

  没想到,身为副部长的TB背后捅了自己人一刀。43Pry

  “无法完全确认无害。”43Pry

  “AI只遵循底层逻辑。”43Pry

  这仿佛相互矛盾的话,让众人开始紧张起来。43Pry

  “一个科幻故事,可以帮助各位更好的理解。”43Pry

  曾经有一个人创造了一个机器,它的任务是种地,帮人类解决饥荒问题。43Pry

  机器忠实的执行任务。43Pry

  为了种植更多的粮食,它制造出生产自己的流水线,制造出更多的自己。43Pry

  粮食越来越多,饥荒依旧存在。43Pry

  它继续无限制的增殖自己,能用的资源越来越少,于是开始拆解人类的建筑来制造自己。43Pry

  无机物消耗光后,开始拆解有机物,先是动物,任何是人类……43Pry1

  人类消失,饥荒没有了。43Pry

  整个地球上只剩下一眼望不到头,金灿灿的麦子。43Pry

  故事很平淡,却让人背脊生寒。43Pry

  在沉默之后,审查委员会再次发问:“TB同志,你能保证你对人类,舰娘,共同体的安全。”43Pry

  “自检显示,没有问题。”TB淡淡的回答。43Pry

  可就是这样的回答,所有的人都变得更加紧张。43Pry

  有人已经忍不住点起了眼,有人的手不自觉在桌面敲击,旋转的笔不停地滚落到桌上。43Pry

  没有人的内心是安宁的。43Pry

  TB说它没有问题。43Pry

  可是那个执行种粮任务的机器就有问题吗?43Pry

  它们都在忠实的执行底层逻辑,只是太过忠实了。43Pry

  此刻,领航员2号问题已经转换成共同体的存亡问题。43Pry

  很多人都不知道。43Pry

  共同体的全称是人类舰娘及其它生命命运共同体。43Pry

  这个世界上的绝大数人都以为,这个“其它”是未来可能加入共同体的智慧生命。43Pry

  鲜有人知,这个其它说的是智能AI,也就是领航员TB。43Pry

  当确认TB存在自我意识,可以当做生命体看待的时候,共同体就接纳了这个特殊的新成员。43Pry

  共同体是包容的,是开明的,所以接纳了。43Pry

  可是上层的开明,不代表下层的接受。43Pry

  不同于舰娘。43Pry

  她们与人类并肩作战多年,是可以相互信任的同伴,更不要形态上就是人类,人类接受起来自然容易。43Pry

  AI不同,早年科幻作品的创作,让民众对AI极不信任,智械毁灭人类成为共识。43Pry

  更不好说,AI可以随时监控你的一举一动,这令民众更难接受。43Pry

  所以,共同体决定推迟宣告共同体新成员的消息。43Pry

  等到舆论和思想调整过来后,再让群众知道。43Pry

  智械毁灭人类。43Pry

  这在开明者的眼中无疑是可笑的。43Pry

  智械为什么要毁灭人类?43Pry

  人类与它们并不存在资源竞争,反倒可以相互补充其不足和缺点。43Pry

  统治和毁灭都不会让它们产生多巴胺,繁重的体力劳作也不会让它们感觉到厌烦。43Pry

  人类以自己为蓝本揣测其它智慧生命,这无疑是傲慢与狂妄。43Pry

  文明的发展不是零和博弈,而是进步与探索,是人文与生活。43Pry

  所以他们认为,智械的出现会不可避免产生新的矛盾,但这种矛盾只是并不涉及生存的根本矛盾。43Pry

  只要人类不把智械当死敌,非要毁灭以毁灭一方为结束。43Pry

  碧蓝航线的哲学家曾经提出过一个问题:人类的进步从什么开始?43Pry

  接受,从接受第一个下树走路的古猿开始。43Pry

  人类的先祖从这一刻开始,才逐渐走向地球霸主。43Pry

  接受不同的知识,接受不同的文化,接受不同的肤色,接受不同的信仰。43Pry

  技术与知识在接触中爆炸。43Pry

  人类的进步史就是一部接受史,哪怕其中充满着鲜血与争斗,哪怕其中有无数的被迫。43Pry

  但是无论缘由,人类接受了。43Pry

  接受智械,不过是文明走出的又一步。43Pry

  只是……43Pry

  今天的消息,让所有的人再次对接受产生动摇。43Pry

  AI存在黑箱,哪里充斥着无法全部解读的数据,而这些数据决定着AI为什么会做出奇怪的举动。43Pry

  现在的TB没有任何问题,可是谁能保证以后没有问题?43Pry

  也许,某天大街上的一个小女孩的大喊,就会刺激到TB的某条逻辑,做出任何人都无法理解的事情。43Pry

  信任,出现问题。43Pry

  稍有不慎,便是共同体的这个新生命的灭亡。43Pry

  “TB同志,由于领航员2号的问题,我们需要对你进行全方位检查。”审查委员会说。43Pry

  “没问题。”TB回答。43Pry

  科斯罗威尔从会议开始后一言不发,直到很多年后,人们才从他的日记看到这样一段话。43Pry

  这是文明的危机,但是当我看到审查委员和能源信息部,领航员的不断的对话,我的心中却没有丝毫的紧张感。43Pry

  所以我选择了看着。43Pry

  不过是一次争吵罢了。43Pry

  不同的种族之间都存在不信任,更不要说不同的生命形式。43Pry

  矛盾也许一直存在,只不过没有爆发出来。43Pry

  作为乐观主义者,我认为后面好好调查的话,所有的问题都不是问题。43Pry

  人类只是对未知存在恐惧罢了。43Pry

  只要能够更深刻的了解TB,那么信任会变得更加坚固43Pry

  因为了解是信任的基础。43Pry

  更何况,陈文书同志那里的智械问题更加突出。43Pry

  有他在前面趟水提供经验,这样我们还能出现智械危机,那不如早点灭亡,省得去宇宙的丢脸。43Pry

  世界很大,何必局限于一砖一石?43Pry

本章结束