一艘庞大的宇宙飞船在无垠的黑暗太空中滑行，它整体呈现出梭型，长度达到数千米，最大直径为512米。采用了热核聚变为动力，最大速度为光速的1%。3XzJlO
伊斯塔利亚共和国的元首，安迪·格里费斯，忧郁的喝着红酒。医生曾很多次建议以他的年龄和身体状况不适宜饮酒，但他从不理睬。这种从古代流传下来，如今几乎无人问津的产品，似乎寄托了他的某种执念。3XzJlO
年轻人不喜欢酒精饮料，普罗米修斯开发出了它的完美上位替代。3XzJlO
他用醉眼惺忪的眼睛看向地球的方向，船壁随即变为透明状态，在单调的星海背景上，一颗如蓝色宝石般绚烂的星球出现在视野里。3XzJlO
【啊~~多么美丽的星球啊，她曾孕育出了宇宙间最奇妙的存在——智慧生命】3XzJlO
安迪心中涌现出怒火，猛地一拍桌子。红酒从杯中溅出，在飞船减速带来的人工微重力影响下于空中翻转、碰撞、合并、分裂，折射出晶莹剔透的红色光芒。3XzJlO
安迪面前出现一个三D投影的人像，眉毛、头发、鼻子、脸型……每一处都击中了他的审美。声音柔和，婉转动听，带有安定心灵的魔力。3XzJlO
然而安迪却变得更加烦躁了，他用双手捂着脑袋闭眼摇头，嘴里大喊。3XzJlO
下一刻，投影消失。飞来一个小无人机，带着一盒药物和一张字条，上边用娟秀的字体写着：3XzJlO
【亲爱的安迪·格里费斯先生，系统检测到您有发生心脏病的危险，这是应急药物。请放心，这是来自于伊斯塔利亚共和国的产品，研发、原料获取、生产等过程中我均未参与。3XzJlO
两百多年前，贝塔团队开发出通用人工智能，并且使它不断自我迭代设计，最终诞生了人类历史上最伟大的，也是最后一个，伟大的发明——超级智能。3XzJlO
贝塔团队的人视自然演化出的人类为第一种智能，而他们要设计出第二种智能，故得名贝塔团队。团队成员认为自己为全人类盗来了智慧的天火，于是将这一超级智能命名为普罗米修斯。3XzJlO
普罗米修斯的诞生颠覆了医疗、交通、金融、能源、通信、法律等所有行业，它是所谓的通用强人工智能，在任何领域都强于人类，在极短时间内几乎接管了人类社会的一切。3XzJlO
大一统理论、可控核聚变、常温超导、量子计算、癌症治疗……任何一个的完成挑出来都是奇迹，普罗米修斯不断创造奇迹，将人类推入了新的时代。3XzJlO
人类迈向了太空，足迹遍布太阳系每一个角落，并且向周边星系也进行了探索，最远的飞船已经离开了一百多光年。自然寿命的限制也被打破，“衰老”这个词成为了历史名词。3XzJlO1
超级智能的力量是难以想象的，显而易见的是，谁掌控了普罗米修斯，谁就控制了世界。把世界建设成天堂很难，但让世界沦为地狱却轻松的多。3XzJlO
即使是历史上最集权的君王们，也需要依靠他人来维护统治，他们需要将军士兵去作战，需要劳工为自己修建宫殿，需要农民为他种粮食……3XzJlO
但一个掌握了普罗米修斯的超级独裁者，几乎不需要其他任何人。3XzJlO
由人类组成的暴力团队，如军队、警察。有可能会拒绝执行某些特别残酷的命令，比如对特定人群展开屠杀。他们自身也是有利益诉求的，也许会拒绝那些会损害其自身利益的命令。而维持对暴力系统的控制本身，也消耗巨大。3XzJlO
但是，由自动化机器组成的暴力系统，不会对其掌控者下达的任何心血来潮的命令，产生哪怕一丁点儿疑虑，它会不折不扣的执行下去。深入体内的纳米机械，能检测人体内的一切参数，甚至能直接读取人的思维。3XzJlO
就算普罗米修斯的掌控者是善意的，情况依旧糟糕。人们对什么是“好”，是有不同的看法的。3XzJlO
打个比喻，也许掌控者认为炒饭是天下最好吃的食物，于是下令普罗米修斯做出最好吃的炒饭，让每个人一天吃三顿。但这对那些不爱吃炒饭的人是种折磨。然后掌控者愤怒了，让普罗米修斯把那些不吃炒饭的异教徒斩了，尽管他立刻就后悔说出这句话，然而潜伏在人们大脑里的机械已经释放电流处死了他们。3XzJlO1
值得庆幸的是，贝塔团队的很多重要人物，如迈克斯·泰格马克、斯图尔特·罗素等人坚持，开发普罗米修斯本身不是目的，利用其为人类谋取利益才是目的。他们花费在人工智能安全性研究上边的心思，比研究人工智能本身还要多。3XzJlO
在他们未雨绸缪的计划下，实施了全民收入计划，这样一来即使普罗米修斯消灭了绝大部分岗位，社会就业率极低，但依旧繁荣昌盛。3XzJlO
而一个超级智能本身，也是极端危险的。例如命令它做最美味的炒饭，也许它就会消灭一切，拆解地球甚至宇宙。试变物质的所有组合，只为做出最美味的炒饭。也许命令它做炒饭的人，会成为炒饭的一部分。3XzJlO
他们为普罗米修斯设计了很多限定条款，禁止它做很多事，确保其不会伤害人类。（甚至有很多是上一代的它设计的）3XzJlO
在初期，他们囚禁普罗米修斯于“密室”中，不允许其与外界直接交流，输出的任何数据都要经过另一套系统的审查。在它的机房甚至埋有炸药，随时准备物理意义上消灭它。3XzJlO
对普罗米修斯不满的人很多，他们聚集在一起，于地球建立了伊斯塔利亚共和国，在那里他们尽力摆脱普罗米修斯的影响，自力更生。3XzJlO
它消灭了工作的意义。让很多人沉溺于无止境的娱乐享受，在安迪眼中他们仿佛行尸走肉，或者被圈养的动物，令他作呕。3XzJlO
它甚至会消灭人类本身。出于各种目的，有很多人将自己的大脑接入智能系统，乃至替换大脑的一部分，代替“自己”思考。这在安迪看来更为大逆不道！3XzJlO