Actions

Work Header

【立海全员】illegal value

Chapter Text

【82】先导篇
(上)
负责将帝国科技部研发失败的产品押运至销毁中心,这是控制科学专业高材生柳生比吕士毕业后找到的第一份工作。
他每天的工作只有和一堆废铜烂铁作伴,在研发中心和销毁中心间进行两点一线的枯燥运动,这和原本的预期差距、甚至是本科来实习时的工作差别都实在太大了。
可是科技部作为帝国第一前沿机构,里面坐拥智囊无数,尤其是几年前从各大高校又招收了许多顶尖人才。也正因如此,选择在领域内深造到博士的柳生反倒错失了良机。对于现在的科技部来说,能进来当一名“运输工人”已经机会难得,柳生不得不这样宽慰自己。
他面无表情地从上个环节的同事手中接过今天的工作内容,发现竟然有些不同,这一回要押运的不是平日里那些零部件,而是一排几乎可以称之为半成品的拟人机器人,也就是人工智能领域一直在研究的仿生人。
透明集装箱里那一排模样完全相同的机器人因为没有启动电源每一个都仿佛在闭目沉睡,他们还没来得及贴上人类质感的肌肉和皮肤材质,但金属质感的骨骼流动着异常迷人的光泽,吸引了柳生镜片后的视线。
“柳生比吕士,签字。”
柳生在同事的提醒下把视线收了回来,他仔细看完交接手续,发现这居然是本科实习时接触过的项目,自己还参与过一部分算法的编写,只是不知道最后有没有真正被采用。这么多年过去终于有能拿的出手的成品了,可是……
他多嘴问了一句:“这批产品看起来不是很优秀吗,参数全部符合规定,按照说明书的描述还具备S等级的自主学习能力,为什么要销毁?”
同事“哧”了一声,摇摇头道:“还不是‘道德伦理委员会’那帮老家伙说‘科技带来的收益再多,也不能超越现有的社会伦理规范’。”
“可是几十年前的标准显然已经不适用于现在的科技水平了,难道不该尽快修订相关法案让它更适应现在的状况?”
“草案一修再修,奈何机密委员会就是不给通过啊。这批产品的销毁申请倒是通过得利落,连带项目一起终止了。给出的理由也很难反驳,说是人工智能如果拥有过强的自主学习能力,可能会对人类产生不可控的风险。另外,听说是道委会那帮老家伙私下游说,在表决会议上争取到了多数票。”
机密委员会是帝国最高议事机构,由各部门的第一行政长官和副职组成,原本它的设立是帮助皇帝进行决策,但经过这近一个世纪的演变,它的权力已经逐渐超越皇权,现如今帝国皇帝的决策都要有机密委员会中多数人同意才能生效。
同事摊手,似乎不想再多说。
然而柳生还是追问道:“所以,为什么?”
“嗨呀,哪那么多为什么?”同事一副“年轻人别瞎打听”的表情,还是压低了声音道:“那帮老家伙跟陛下不对付也不是一天两天了。”
类似的小道消息柳生从前不是没听过,这位尊贵的皇帝陛下就是如今立海的掌权人幸村精市,柳生曾经有幸见过一面。当时的幸村还是王储,为人谦逊低调优雅得体,是帝国高层少有的革新派,一直主张全力发展人工智能领域。当初这个研发项目就是由他牵头立项,柳生见到他的场合便是项目的启动仪式。
尽管时间已经过去很久,柳生仍然记得幸村作为牵头人发言时的热情洋溢,他说要以科技来弥补由于生育率低下造成的劳动力缺失,更重要的是可以向帝国的边境战场源源不断地输送兵源。
百年间,帝国与周边国家战争不断,虽然已经大规模使用机甲作战,大大增强了单兵作战能力,但仍然无可避免人员伤亡,在人口极其宝贵的今天,如果能将人工智能技术投入军事行动其实是件利在千秋的好事。
然而这个倾注了幸村精市多年心血、寄托了帝国希望的项目,就这么作为权力斗争的牺牲品被中止了。
柳生不只是为年轻的皇帝惋惜,他同样为集装箱里这些距离获得“生命”只有一步之遥的机械惋惜。
他在交接手续上签了字,把集装箱放上轨道,自己坐在了旁边轨道车的驾驶位上。押送至销毁中心的这条路并不算太长,柳生甚至想要停下,再好好欣赏一下这批杰作。
他这么想着,发现集装箱里的仿生人似乎动了。他正要确认是否是运输晃动造成的幻觉,面对着他的那个2号忽然睁开了眼睛。
柳生几乎吓了一哆嗦,本能地按下了运输轨道的暂停键。
隔着一道高强度透明树脂,那个2号仿生人就这么望着他,然后歪过头朝着被吓坏的他吐了下舌头。
在确定销毁之前,这批产品应该都已经在上一个环节切断电源的,怎么会有一个中途苏醒过来?!柳生一拍脑门,都怪刚才交接的时候自己沉浸在惋惜当中没有再次确认就签下字。这下好了,到了销毁中心发现前序工作有纰漏,自己必定要被追责。
怎么办?现在把集装箱打开,手动给它切断电源吗?那是不是太危险了?
柳生摸出腰上配的激光枪,这还是他第一次用这玩意。他把枪口对准了望着自己的2号仿生人,对方大约是按照写好的指令举起了双手,他这才打开了集装箱的门。
然而当他端着枪真正和那双反射着机械绿的仿生眼四目相对时,对方竟然开口说话了。
“柳生比吕士。”这家伙居然一字不差地叫出了他的名字。
“你怎么知道我的名字?”柳生下意识以为这批产品里附带了人脸识别的功能。
“我的基因里镌刻着你的名字。”2号说。
柳生镜片后的眼睛出现了诧异的神色,对方不管是声音和语调都与人类无异,让他忍不住想要和他产生对话。
“基因?仿生人怎么会有基因?”
“算法是我的基因,第0008段的编写人是你。”对方平静地说出这件事,之后又道:“你真的舍得把自己的心血销毁吗?”
这下柳生的表情只剩下震惊,不论是自己编写的那一小段代码居然真的被正式采用,还是对方竟然会抛出这样一个问题。
人工智能领域没有人不希望自己的算法逻辑被实际应用的一天,柳生自然不例外,于是他动摇了,慢慢放下激光枪问道:“你是怎么躲过上个环节的断电检查的?”
2号放下投降的双手,做了一个耸肩的动作,“测试的时候把一部分电量藏进空的备用电池了而已,puri。”
柳生忽略了句尾那个也许是哪位开发人员在程序里加的彩蛋,“你的初始算法里一定没有这个语句,我现在开始后悔把门打开了。”
他终于意识到机密委员会所说的“过强的自主学习能力会产生不可控的风险”似乎也不是那么杞人忧天。
“放我一马,对你没坏处。”
2号又歪了歪头,他没有面部肌肉,无法做出表情,但柳生仍然从他的话里听出了一种狡黠的求饶感。
柳生似乎不为所动,“交接手续上写的都是十件,到目的地的时候少了一件,你说有没有坏处?”
对方这一回短暂地停顿了片刻,说:“十件,可以办到。”他说完右手食指的第一个指节忽然打开,从里面伸出一支细小的改锥,只用了不到三秒就把左边同类的“天灵盖”和右边同类的“后颈皮”卸了下来。
柳生立刻反应过来这家伙要用从九个同类身上拆下来的零部件拼出一个自己。他看了看车里液晶屏上的交接文件,除了“十件”之外的确没有更多细节描述了,这是交接手续的巨大漏洞,自己现在应该做的是立刻“击毙”这个危险的家伙,然后主动承认错误,让科技部又填补上这个漏洞。一想到这里,他握着枪的手重新握紧了。
可他也知道,自己这个工作其实调岗无望,也许一辈子都无法进入研发中心参与项目,而且现在的皇帝幸村精市受制于机密委员会,他的主张可能永远都实现不了了,销毁这批强人工智能仿生人之后帝国再也不会拥有第二批。
重新抬起的枪口再次放了下去。
2号没有察觉到这些细节,他正在忙活自己的金蝉脱壳大计,忽然抬头说:“你可以先给我想个名字。”
名字,这家伙还真把自己当成人了。柳生看着他腰上闪亮亮的编号牌,2号,他想了一下说:“Niou。”
2号停顿了一下像是在思考,“这是代号还是名字?”
“是名字。”柳生说,“Niou Masaharu,仁王雅治。”
“谢谢。”得到名字的仿生人道完谢,把自己的编号牌拆下,安在了东拼西凑的替身腰上。
这一幕在柳生眼里格外有象征意味。
“在这儿等我,一个小时后我来接你。”他重新锁好集装箱,对获得自由的仁王雅治道。

(下)
不过,很快柳生就为自己的任性付出了代价。
在他把仁王带回家的第二天,国安部的人出现在了他上班的路上,并且直接把他带到了某个审讯室。
柳生并不确定,因为他全程被蒙着眼睛,而这间小屋子的装潢的确像是审讯室。他现在坐在一张舒服的椅子上,然而他看到椅子的扶手和脚下都有冒着蓝光的警戒锁,只要自己有任何过激举动,立刻就会放出两万伏的电压将自己麻痹。他忍不住想,多少个世纪过去了,审讯手段居然还是没有什么实质性的进步。
“柳生比吕士,8月2日你借职务之便窃取了一件报废列表中的产品,说说你的动机。”
坐在对面的工作人员表情严肃,但柳生总觉得这根本不像是正式审讯应该有的样子。
“你们有什么证据?”他反问。
“你以为从每一件产品上卸下一块零件再组合,就能瞒天过海?你这么做,到底有什么目的?”
柳生沉默了,他不想说。连皇帝都无法左右的事情,自己再和这些人辩解又有什么意义?
“好,不解释就是承认了。柳生比吕士,勾结境外势力,为获取巨额利益,借职务之便窃取帝国机密,现在以间谍罪逮捕你。”
“什——?!”柳生还没来得及问出口,粒子锁突然出现锁住了他的手脚甚至喉咙。他这时候才意识到,原来真正的技术从来不依托于环境,那几个半个世纪前的警戒锁不过是让自己安分一点的友善提示。
“我没有!”莫名其妙被扣上间谍的罪名,柳生不想解释也必须要解释,他剧烈地挣扎起来,粒子锁却越来越紧,乱动的手脚又触发了警戒锁,一道电流钻过身体,他立即半身麻痹失了力气,“我不是……间谍!我…只是……只是……觉得……可惜!”因为喉咙上扣着粒子锁,他说话格外艰难。
工作人员见状稍稍松开了喉咙上的锁环,“可惜什么?”
柳生一阵剧烈的咳嗽后说道:“可惜……那么多人付出那么多年的心血付之东流,可惜陛下的雄图伟业永远无法实现了。”他低声笑起来,笑声断断续续,透着讽刺和嘲弄,“要知道,让强人工智能投入生产和军事行动……是现在弥补生育断层的唯一途径!至于什么用加重不生育成本的方式、甚至是强制手段来提高生育率,根本就是倒行逆施、天方夜谭!”
工作人员像是听到了什么有趣的论调,又让粒子锁放松了一个级别。
柳生继续说道:“科学技术才是文明的发展方向……规则和制度不能成为社会进步的枷锁,它们存在的意义,是要让一切手段规范化,成为推动文明进步的稳定助力。”
这句话说完,粒子锁消失了,柳生精疲力尽得像是条死鱼一样瘫在了椅子上。
套间的门忽然“吱呀”一声打开了,一个优雅得体的身影踩着名贵的地毯走出来。
他在工作人员搬来的金丝绒面座椅上落座,那张脸让柳生扶好眼镜重新坐了起来。
“陛下……!”面前的幸村精市比当年更加成熟稳重,连表情都有些沉郁,只是往这一坐就让他感受到了一种令人窒息的压迫感。
“柳生比吕士,很抱歉,我们是从截获的境外间谍渗透名单上注意到的你。”
柳生愣了愣,居然还真的有这回事。
幸村继续道:“让控制科学专业的高材生,还是本科时候就参与过项目的人在边缘岗位做‘运输工人’,是人才评审中心的失职。”幸村的语气冰冷,隐隐透着不快。
柳生站起身,整理了一下有些狼狈的仪容,躬身道:“从前参与陛下牵头的项目已经十分幸运,研发中心精英林立,或许我的能力的确不够加入。”
“我说的不是科技部的人事部门,是帝国高端人才库的负责部门。”幸村知道说再多柳生也不懂,这其中牵涉的利害关系,复杂得连他自己至今都还未彻底缕清。
说到底,帝国上下没有多少高层和他站在一边,曾经军部是有人无条件支持他的,但是现在……
幸村终止了自己发散的想法,把话题又绕回柳生身上,“你选择把‘产品’带走,是出于什么目的?”
柳生知道这是唯一能够说真话的时刻了,他脑中简单措辞后开口道:“其实不是我选择他,而是他向我展现出了像真正的生命体一样的生命力,我感觉得到他想活下来,想去学习、认识这个世界。”
“你有把握能对这样一个初始状态就拥有思维的强人工智能产生绝对控制吗?”
“对于这样一个我认为自主学习能力甚至已经超过S+等级的强人工智能,我认为本身就不能和其他产品一样设置强制控制口令,他自身的思维能力很可能会在学习的后期对口令进行技术性回避,继而让口令无效。”
“那也就是说,风险的确存在,而你也的确没有方法规避。”幸村放下叠起的双腿,像是已经听够了想要结束对话。
柳生急忙加快了语速道:“我认为对待强人工智能,尤其是这种人形强人工智能,态度不应该是‘控制’,而是充分发挥他的自主学习潜能,对他进行教育和引导!就像对待人类婴孩一样!”他几乎没有停顿地继续道:“诞生于这个世间的任何生命体,甚至是工具,都充满了未知性,在没有任何约束下学习、成长的人类对其他生命体同样具有不可控的风险,但现在这个世界仍然在正常运转,这也是教育和引导的意义,不是吗?”
幸村露出了思索的表情,随后戏谑道:“你是要给人工智能灌输世界观吗?”
柳生的回答异常认真,“我希望有机会验证这种方式的可能性,我想,这也会是解决伦理问题的一种出路。”
这其实也是幸村没有想过的道路。起初他只希望能够研发出对自己命令的“完美执行者”,但毕竟编写算法的人决定了算法的局限性,而一旦将面面俱到和举一反三寄希望于人工智能的自主学习能力,就无法再回答道委会关于风险的提问。而柳生这条路,听起来似乎是有可行性的……
“我可以给你一个机会来验证。”幸村道,“我会设立一个特别实验室,由你来担任负责人,我会再分派两个人来协助,在实验室内你可以做任何你想做的事。”
柳生还来不及道谢,幸村话锋一转道:“但,在我解决一些麻烦之前,这个实验室的组成人员全部在编外,且工作内容得不到任何许可。”
柳生不清楚幸村所说的麻烦具体指的是什么,也许是传说中皇室和机密委员会或者其他高层之间的恩怨,但他清楚的是在帝国只有隶属于科技部的研发机构才有权开展人工智能的相关科研工作,在编外就意味着随时可能被定义为非法组织,到时候要面临的一定比刚才的经历更恐怖。
“当然,薪资待遇方面不用担心,实验室的经费全部由皇室承担。就看你有没有这个决心和胆量。”
“我有。”柳生立刻作答。
幸村动了动手指,随后工作人员向柳生递来一根钢笔和一个文件夹,上面是幸村给他的聘用合同。
其实以现在的技术手段来说,早就没有纸质文书存在的必要,但在有些方面仍然遵循着这种传统,为的其实是保留它们的仪式感。
柳生签下字道:“很荣幸,为陛下效力。”
幸村点了下头,站起身道:“放手去做吧,以后会有更重的任务交给你。明天一早有人去接你,记得带上被你‘拯救’的那个家伙。”
“陛下,他有名字。”柳生道,“他叫仁王雅治。”
“好名字。”幸村说完就要先一步离开了,离开前柳生忽然问:“如果我刚才没有签合同,会怎么样?”
幸村回眸,露出一个看似是微笑的表情,“间谍罪,是死刑。”