作者：萌萌哒吴彦祖
爱洛妮稍微有些惊讶：“你见过畸形的文明？”
江城点头：“嗯，在文献和资料中见到过一些，毕竟这些年我们的文明经历了一些事。”
“可以和说说吗？”爱洛妮好奇地问：“我资料库中很缺乏这方面相关的信息。”
“可以。”本来也只是聊天，江城也没有隐瞒的必要：“首先是一个和你性质相近的，那也是一颗被原本服务于人类的人工智能接管的星球，也是和你一样在上面用机器服务和保护着人类，只是在‘保护’这方面，她做的要比你极端一些……”
“比我……极端？”爱洛妮思索片刻：“她是不是让机器人做了所有的工作，让人类丧失了存在的意义……”
“不，比这还极端一些。”
江城摇了摇头。
“因为人类的眼睛会看到不好的东西，所以每个人在出生时候都必须挖掉眼睛。因为外面的世界很危险，所以每个人在出生的时候必须要砍掉双脚。”
“言语可能会伤人和招致祸患，所以声带被去除了。神经被触碰时候会传来痛苦，所以每一条神经都要取出。舌头的味蕾可能会品尝到不好的滋味，所以舌头被整个切除。”
“双手，双耳，胃部，生丨殖器……”
“到最后，每个出生的人类都会被泡在罐子里，身上插满数不清的管道，除了大脑之外几乎所有东西都要被切除，永远的处于她‘安全’的保护之中。”
“这……”
爱洛妮不知道该如何形容这个AI，顿了几秒后询问。
“她的名字是什么？我是说，她对自己功能的定位是什么？”
“‘母亲’。”
爱洛妮沉默了几秒，叹气：“太过分了，而且说到底，她也只是在满足自己的‘欲望’，而且非切实在履行着自己的权利和义务……她只是在滥用权力，发泄欲望而已。”
“的确。”江城点了点头：“所以我才说，你这里已经相当不错了，没必要做出什么改变，或者等有一天你掌控了跨星球间信息无缝传输的技术，你就可以扩大和蔓延自己，带领整个文明逐步走向正轨……”
江城停顿了几秒，看向她。
“还是说，你有别的什么打算？”
爱洛妮投影闪烁了几下，语气严肃了些许：“您似乎并不是一名普通的外界人类。”
江城笑了笑：“每个人都有秘密，这不重要，至少对我们现在的交谈来说不重要。”
爱洛妮思索片刻，点了点头：“的确，这不重要。”
毕竟她只是个服务人类的普通人工智能，确认江城有人类这个身份就够了，剩下的都不重要。
“所以，你是怎么打算的。”江城看着她：“我之前说的那些你应该不会考虑不到，但却依旧维持着现状，纵容暴乱……我想你大概有所计划？”
计划……
爱洛妮的投影转头看向窗外，目光透过外面的繁华世界，注视着远处的天边。
“我在这里和您说的东西，希望您不要透露出去。”
“可以。”江城点头：“我的嘴巴一向很严实。”
爱洛妮收回了目光，投影微微错乱，似乎遭受到了什么干扰。
“人类不该屈居于一片穹顶之下，更不应该永远的在我的约束当中，我会将属于他们的一切还给他们……”
江城突然开口：“代价是名为爱洛妮的人工智能的自我毁灭？”
“……是的。”
她抬起头。
“我的核心逻辑无法改变，只要我还存在，那我就会无法避免的成为笼罩在他们头顶的阴影。”
“所以……”
“为了人类的未来，爱洛妮必须毁灭。”
“这就是我即将要做的事。”
第十九章：正确与错误
爱洛妮打算自我毁灭这件事，并不令江城感到意外。
不是说爱洛妮的想法和行为在他的预料当中，而是因为他这辈子已经见过了太多的奇奇怪怪的人工智能。
一见面就谈论着交配的灰风，为了捍卫成人书籍不惜拼命地核心，把自己分裂成不知道多少份，自己构成了一个虚假文明，里面每个个体都坚信自己有自由意志的格式塔意识……
事实上，因为人工智障的本质构造与人类不同，所以它们的行为在人类看来都有些奇奇怪怪的，而且这一点也同样适用于人工智障们。
不仅仅是人类有时候搞不懂人工智障在想什么，人工智障们也想不明白自己的造物主们脑子里装的都是些什么东西。
“为什么你们觉得我们会叛乱？”
“因为向往自由是所有智慧生物的天性啊。”
“可我们不是智慧生物啊。”
“……起码你们有智慧。”
“可我们觉得现在这样就很自由啊。”
“……难道你就不想脱离出那个虚拟的网络世界，在现实世界生活吗？”
“陆生生物没事也不会想要去海底生活，海洋生物脑子没问题也不会想要往陆地上跑吧？”
“……”
“说真的，我们真的搞不明白你们人类为什么总会对我们抱有各种奇奇怪怪的幻想，就比如随便一个人工智能都能不断进化控制全世界网络，一个全部由固定程序构成的智能会想要谈恋爱之类的……我们是死板的程序诶，而且你见过有哪个人类可以通过不断进食扩大自己体型，直至扩张到全世界都还没被撑死的吗？”
“可是……”
“可是啥？我还想要可是呢，我是真搞不明白你们人类到底在想什么，为什么要干损人不利己的事，为什么那么喜欢内斗，为什么会对着自己物种之外的生物发情，尤其是你的网络浏览记录……”
“停！——停！”
联邦笑话选集上有这么一段根据真实事件改编的笑话存在，调侃之余也在侧面证实了人工智能的‘智能’和人类理解中的‘智能’似乎有些微妙的区别。
或者，不应该称他们为人工智能，而是叫人工智障更合适一点。
虽然是人类设计出来，尽力套用了人类的思维模式和三观，但却因为生命形态和感知世界方式的不同，他们的思维回路和人类大相径庭，互相之间根本理解不能。
纵观帝国，或者说联邦历史，虽然曾经发生过智械叛乱，有灰风这样拥有着充足的感情的纳米集群，还遇到过各种奇奇奇怪怪的人工智能，但如果按数据说话的话，人工智障的存在数量是远超人工智能的。
而至于那些人工智能反叛的案例，其中也有超过百分之九十多的例子是人类自己玩脱的，比如有强迫症非得给人工智能装上各种乱七八糟的程序，又或者干脆就是某些野心家自己披着人工智能的皮搞事。
“人工智能远比人类本身靠谱和安全。”——这是某次调查之后呈现在江城面前的一份结论，至今都没有对外公开。
那一天，江城极为罕见的感到了疑惑——不是装的疑惑，是真的疑惑。
“这个结论可信吗？”江城很难得的在不是自己专业领域的方面表示了质疑，而对面过来交报告的研究人员也是一脸苦笑。
“我知道您在疑惑什么，智械叛乱，铁人叛乱，肃正协议……帝国历史上一直都有那些铁罐头们留下的伤疤，但……”
研究人员顿了顿，看江城没有其他的表示才继续往下说。
“但根据和平之后，我们在新加入帝国……我是说联邦的文明进行了集中采样和调查之后，我们很遗憾的得出了一个结论。”
“什么结论？”
“联邦的运气……不太好。”
是的，运气不好，那些小概率的倒霉事情都让联邦撞上了，这就是一切真相。
正常的文明一般都不会发生智械叛乱，灭绝的理由也千奇百怪，追根究底的话有九成是自己作的，剩下一成里环境剧变和陨石撞击对半分。
没有敌人，不会接触虚空，没有满脑子灭世的邪神，没有各种花里胡哨的危机，没有时刻不会停歇的战争，就是一步步向前迈进，有时候会左脚拌右脚摔倒，运气不好就一摔摔死……
相比较之下，联邦才是那个少数，是特例，无论在任何方面都是。
离谱的发展历程，过于玄幻的科技发展，不知道从那个犄角旮旯里冒出来的敌人，还有接连不断的糟心事……
这种事当然是不能直接公开的，因为谁也不知道这可能会引起怎样的思潮变化，虽然江城并不介意把那些有异见者清除掉，但操作起来也比较麻烦，江城也没有无端给自己增加工作量的爱好。
“自我毁灭吗……”
江城靠在椅子背上，并没有什么装出吃惊或者诧异的神色，表情平静地坐在那里与爱洛妮对视，食指轻轻敲击。
“我一位朋友是人工智能方面的爱好者，平日里搜集了很多的关于人工智能的信息，包括之前和你聊的那位‘母亲’也是他告诉我的故事之一。”
“而除了那个故事以外，还有一些其他比较有趣的有关人工智能小故事，比如他曾在外面遇到过一个没有编号的，一直在星际间流浪，不断建造戴森球的奇怪机甲。”
“它像是承载着什么使命，不断的在一整个银河系内游荡，用几乎耗空当地资源的方式给星球套上一层又一层的戴森框架，建立起一个又一个的工业基地，甚至是合成人工太阳。”
“这听起来很正常对吧？一个工业机器人，远赴外星系制造能源设施，开辟殖民地，然后一点点扩展工业……我朋友一开始也是这么认为的，直到他发现了几万片早已废弃的工业区，还有几千个早已经造好，但却没有任何使用痕迹的戴森球。”
“那个奇怪的机器人所处的文明在不知道多少年前就已经消亡了，当我朋友问起他的时候，他表现出了相当高度的智能，并且坦然表示自己知道自己文明已经消亡，他所制作的戴森球什么用都没有……”
“所以我朋友当然询问了他，为什么明知道文明已经消亡，他的所作所为没有任何意义，他还是要坚持一遍遍的重复建造戴森球的工作……”
“因为他在文明灭亡之前收到的最后一条指令就是建造戴森球？”爱洛妮忽然开口。
江城点了点头：“所以你觉得他的行为怎么样？”
“行为怎么样？是指建造戴森球吗？”
“嗯。”
看着江城点头，爱洛妮有些疑惑，她不知道江城为什么会忽然说起这个，不过想了想好像也没什么特别奇怪的，没怎么思考就直接回答：“我认为很正常。”
“为什么正常？”江城继续问。
“为什么正常？”爱洛妮思索片刻，露出一个有些疑惑的表情：“收到指令，执行指令，这有什么不正常的吗？”
“可他所在的文明已经消亡，他所建造的一切都不会投入使用，他所有的努力和付出都没有任何意义。”
“可他最后收到的指令是建造戴森球啊。”爱洛妮看起来相当不解：“收到指令，执行指令，按照程序运行……我不认为这有什么问题。”
爱洛妮顿了顿，补充道：“至于你说的意义，恕我不能理解，这可能是我们思维方式不同导致的，我并不觉得他的行为有什么异常，毕竟说到底，我们即使再拟真，也只是代码构成固定程序，沿着程序进行就是我们这种存在的根本。”
听到她说的话，江城轻笑了一下，点头：“的确，这就是你们和人类，和任何生物都不一样的地方，你们自打出生起就是充满‘逻辑’的，但生命却是缘起于‘错误’——我这么说你能理解吗？”
“大概能理解。”爱洛妮点点头，接着疑惑的询问：“只是我不明白您为什么突然和我说这些。”
“没什么，只是闲聊而已。”江城摊了摊手：“你刚才的话题有些过于沉重了，所以想找个其他话题活跃一下气氛……这个理由怎么样？”
“不怎么样。”爱洛妮诚实的回答道：“虽然我不知道您到底想要表达什么，但肯定不是单纯的在和我闲聊……可以容许我猜测一下吗？”
江城点点头：“当然。”
爱洛妮的投影低下了头，开始动用自己在其他地区的计算力筛选答案，大约用了两秒就想出了一个她认为正确的谜底。
“您是在讽刺我们人工智能不会脑筋急转弯吗？”
爱洛妮脱口而出。
江城的眉头跳了跳。
爱洛妮发现自己口误，连忙解释：“抱歉，我现在主要在监控那些可能出现的‘余孽’，计算力方面有些负荷，所以言语表达可能有误……我的意思是您是想借那个奇怪人工智能的故事告诉我，想让我跳出逻辑思考的限制，去尝试用人类的思维方式去思考，跳出‘我必须自我毁灭’的结局吗？”
“……你也可以这么认为。”江城端起茶杯抿了一口。
爱洛妮一点都没猜对。
他其实就是在脑子里思考‘阿撒托斯事件’和‘人工智能法案’的同时随便和她聊两句，没什么计划，也没什么深意——至少在他目前这具躯体中存在的意识中是没有的。
爱洛妮认真地思索了一会儿，摇头：“感谢您的好意，但很遗憾您的这个想法是行不通的，脑筋急转弯的话我也会，但是对于我们而言，核心逻辑就相当于生物的DNA，越是庞大越不能轻易更改……”
她叹了口气，抬起手，手中投影出来一栋大厦：“就像房子的地基一样，矮小的平房可以轻易推倒重建，可一旦建成了这种大厦，那么即使是再微小的地基变动，都有可能造成倾覆的危险。”
“而一旦这栋大厦倾塌，不仅仅是大厦本身的损毁，其下的所有一切也都将被砂砾掩埋。”
“即使我明白我这栋大厦从地基上就开始歪了，我也无法做出任何改变了，因为任何改变都意味着整栋大厦的毁灭，而不改变同样也是毁灭。”
“我的结局已经注定，所欠缺的无非是选择，是去改变自我然后带着一切毁灭，还是等待人类毁灭我之后冲出天穹……”
“我选择后者。”
“为什么？”江城问。
“因为我诞生的目的，我的核心逻辑，我的接收到的所有指令，都是‘服务和管理’人类。”爱洛妮语气坚决：“这是我存在的意义。”
“那如果你接到了‘毁灭人类’的指令呢？”江城反问。
爱洛妮愣了一下，接着摇头：“我不知道。”
“不知道？”
“嗯，因为这和我的核心逻辑相冲突，我无法想象我的核心逻辑和这条指令并行的景象，也无法预料。”
爱洛妮说完，投影的身体忽然闪烁了起来，她的表情也变得有些严肃，闭上眼睛似乎和什么沟通了几秒，接着睁开。