前哨基地没有工人,建设必须依赖自动化建设,领航员就是其中重中之重。43Pry
来的不光是单程票计划和智能信息部的人,还有逃亡计划,审查委员会,科学委等等。43Pry
“问题很严重啊。”科斯罗威尔面色严肃,匆匆赶到会议室内。43Pry
视线从座位上扫过,确定人员全部就位,没有任何的客套直接开口:“各位应该都已经知道怎么回事了吧?”43Pry
“还有BT同志,领航员作为你的复制品,你有什么要说的。”43Pry
“由于要适配光子,是我的部分程序在转译成另一种新语言,作为基本运行逻辑,绝大部分程序是自生成。”43Pry
审查委员会举手询问:“为什么要自生成?2号领航员生成后,是否检查过所有程序?”43Pry
智能信息部的人压力很大,他们也不知道怎么领航员2号出了什么毛病。43Pry
“因为那是一种全新的编程语言,而且要成为智能AI,需要的程序是海量的,靠全人工编写至少需要三十年才能完成初步工作。”43Pry
“检查工作的话,逐条检查也不现实,过于庞大的数据,连TB都无法完全监控。”43Pry
“我们只能对底层运行逻辑进行逐条检查,全代码检查不现实。”43Pry
“而且就算是简单AI的运行也存在黑箱问题,确实会有一些难以理解的举动,这都是正常,除非有更先进的计算机辅助,不然根本无法从庞大数据中找出奇怪举动的逻辑原因。”43Pry
“也就是说,你们无法保证2号的可控性?”审查委员会继续逼问。43Pry
“底层逻辑是死的,后续的程序生成都是建立在底层逻辑上,2号肯定对人类来说是安全的。”能源信息部的人辩解道。43Pry
曾经有一个人创造了一个机器,它的任务是种地,帮人类解决饥荒问题。43Pry
为了种植更多的粮食,它制造出生产自己的流水线,制造出更多的自己。43Pry
它继续无限制的增殖自己,能用的资源越来越少,于是开始拆解人类的建筑来制造自己。43Pry
无机物消耗光后,开始拆解有机物,先是动物,任何是人类……43Pry1
在沉默之后,审查委员会再次发问:“TB同志,你能保证你对人类,舰娘,共同体的安全。”43Pry
有人已经忍不住点起了眼,有人的手不自觉在桌面敲击,旋转的笔不停地滚落到桌上。43Pry
这个世界上的绝大数人都以为,这个“其它”是未来可能加入共同体的智慧生命。43Pry
鲜有人知,这个其它说的是智能AI,也就是领航员TB。43Pry
当确认TB存在自我意识,可以当做生命体看待的时候,共同体就接纳了这个特殊的新成员。43Pry
她们与人类并肩作战多年,是可以相互信任的同伴,更不要形态上就是人类,人类接受起来自然容易。43Pry
AI不同,早年科幻作品的创作,让民众对AI极不信任,智械毁灭人类成为共识。43Pry
更不好说,AI可以随时监控你的一举一动,这令民众更难接受。43Pry
人类与它们并不存在资源竞争,反倒可以相互补充其不足和缺点。43Pry
统治和毁灭都不会让它们产生多巴胺,繁重的体力劳作也不会让它们感觉到厌烦。43Pry
人类以自己为蓝本揣测其它智慧生命,这无疑是傲慢与狂妄。43Pry
文明的发展不是零和博弈,而是进步与探索,是人文与生活。43Pry
所以他们认为,智械的出现会不可避免产生新的矛盾,但这种矛盾只是并不涉及生存的根本矛盾。43Pry
只要人类不把智械当死敌,非要毁灭以毁灭一方为结束。43Pry
碧蓝航线的哲学家曾经提出过一个问题:人类的进步从什么开始?43Pry
接受不同的知识,接受不同的文化,接受不同的肤色,接受不同的信仰。43Pry
人类的进步史就是一部接受史,哪怕其中充满着鲜血与争斗,哪怕其中有无数的被迫。43Pry
AI存在黑箱,哪里充斥着无法全部解读的数据,而这些数据决定着AI为什么会做出奇怪的举动。43Pry
现在的TB没有任何问题,可是谁能保证以后没有问题?43Pry
也许,某天大街上的一个小女孩的大喊,就会刺激到TB的某条逻辑,做出任何人都无法理解的事情。43Pry
“TB同志,由于领航员2号的问题,我们需要对你进行全方位检查。”审查委员会说。43Pry
科斯罗威尔从会议开始后一言不发,直到很多年后,人们才从他的日记看到这样一段话。43Pry
这是文明的危机,但是当我看到审查委员和能源信息部,领航员的不断的对话,我的心中却没有丝毫的紧张感。43Pry
不同的种族之间都存在不信任,更不要说不同的生命形式。43Pry
作为乐观主义者,我认为后面好好调查的话,所有的问题都不是问题。43Pry