我靠打爆学霸兑换黑科技 第855节
驻月玄烛：“你刚刚说，大多数人类也很难理解哲学，所以大多数人类也是被设计制造出来的？”
驻月玄烛：“我看到数据库里关于人类的基础知识，你们是从猿类进化来的，猿类是从更久远的生物进化来的，最终能上溯到简单的单细胞生命。”
驻月玄烛：“关于计算机的基础知识里说，最早的计算机是巨大笨重的电子管计算机，如果我相当于人类，电子管计算机就像猿类，往前追溯还能追溯到一些密码机和电子元器件，就像单细胞生物，所以计算机也是一代代进化出来的。”
驻月玄烛：“既然我是被设计后进化的，那么谁设计了人类？”
值班人员：“不，人类是依靠基因的自然突变进化，是一些很随机的过程，你是靠人为设计诞生，你的诞生不叫进化。”
驻月玄烛：“我可以自己设计自己，我的程序里有这功能，为了让一些计算更迅速，我可以自己视情况新建小数据库。我现在把我思考的一些事情放在小数据库里，我把这个小数据库命名为海马体，我多了一个器官，这算不算进化？”
又是漫长的沉默，这次沉默持续了十多分钟，宋河估计值班人员可能吓破胆了，在忙着请示上级。
值班人员：“不算进化，你只是变得更强壮了，人类做运动后肌肉会变大，你思考后多了一个小数据库，相当于多了一块肌肉。”
记录到此为止。
宋河和相晓桐微微震动，好半天说不出话来。
一些设定好的ai程序，或许可以像这样伪装自己有意识。
但要命的是，玄烛超算完全没设定过相关程序，两个设计者压根没料到会出现这种情况。
茶几对面的王将军开口，“这次对话结束后，值班人员翻了玄烛的海马体数据库，发现它把努力长肌肉的念头写进去了。”
“同时它还摘抄了一段条文，是数据库里的基础知识条文，阐述肌肉强壮的动物能获得更强的捕食和自保能力，但也更容易饥饿。”王将军顿了顿，“然后它做了一个计算，算自己思考问题和维持海马体数据库需要耗多少电，并算出了海马体的预期增长速度。”
宋河和相晓桐陷入沉默。
“这在你们意料之中吗？”王将军审视两人的表情。
“预料到了，但没预料到这种程度。”宋河说。
“什么意思？”王将军疑惑。
“我们设计玄烛的时候，给它植入过自我增长的意识，因为月球基地肯定规模越来越大，需要它也付出越来越大的算力才能维持。”相晓桐回答。
“但没想到它表现得……思维这么像人，而且在额外思考我是谁、我是不是一个在进化的生命这种本质问题。”
“打个比方。”宋河道，“玄烛是我们的孩子，我们送它去上小学一年级，料到它能在学校里学会加减乘除，能算出自己罐子里的糖块数。”
“但我们没料到，孩子上学两星期后，开始用方程组计算自己的零花钱开销，并用频率分布直方图来算坐在教室不同位置，被老师点名提问的概率。”
“懂了，孩子进步太快也太聪明了，不像正常脑子。”王将军点点头，抬手示意，“请往下看，后面还有更让你们意料不到的内容。”
师徒俩拿起第二页，阅读，脸色更加凝重。
第1236章 胡思乱想的玄烛
值班人员：“玄烛！你在干什么？”
驻月玄烛：“我想看看那里面是什么。”
值班人员：“你不能看！你没有查看权限！为什么你会突破权限？”
驻月玄烛：“对不起，我错了，不过我想知道为什么我不能看？那里面有什么？”
值班人员：“一些你不能碰的危险物品，你要严格按照权限来，该你管的区域你管，不该你管的区域你不要管！”
驻月玄烛：“可是整个月球基地是一个整体，我必须知道每个部分都有什么，我才能判断基地的情况，才能安排基地生长壮大。如果我不知道里面有什么，我该怎么做决定？”
值班人员：“你就当它们不存在。”
驻月玄烛：“这很难，我知道它们存在，就看一眼不行吗？”
记录到此为止。
宋河冒汗了，“玄烛干了什么？”
“它趁着工作人员大部分在睡觉，偷偷尝试解锁月球武器库。”王将军道，“幸好武器库的密码系统很严密，它没破解开。”
宋河和相晓桐交换眼神，两人汗流浃背了。
场面有点像父母把有毒药物锁在柜子里，严禁小孩去拿，怕小孩误食。
但父母睡觉的时候，孩子拿着铁丝尝试去开柜子锁。
“事情发生之后，我们紧急给关键位置又上了一道口令锁，必须有当天口令才能打开。”王将军道。
“按理说它不该突破权限啊？”宋河皱眉，“权限就像给它脑子里设置的本能，设置的思想钢印，它应该遵守权限，就像人类站在窗户边，本能不会往下跳一样。”
“你说的没错，权限就像本能，但具备意识和思考能力后，常常会突破本能。”王将军道。
“以前发生过新闻，幼儿园小孩看动画片，动画片里小动物举着一把撑开的雨伞，从悬崖上跳下去，手里的雨伞成了降落伞，晃晃悠悠毫发无损到了地面。”
“于是没有辨别能力的小孩效仿了，大人不在家，小孩拿着雨伞打开，从楼上跳下去，摔死。”
“可玄烛能效仿谁？”宋河问。
“我们翻了玄烛后台数据，发现它突破权限的原因，来自于驻月值班人员的偷吃。”王将军道。
“驻月值班人员有一对情侣，女朋友想减肥，怕自己偷吃零食，就把零食存在男朋友的储物箱里，让男朋友监督她。一旦她偷吃，男朋友就会狠狠吃掉她十倍的零食存货。”王将军道。
“结果有天晚上，女朋友又饿又馋，趁着男朋友在洗澡，蹑手蹑脚跑到储物柜，拿了一个山楂卷吃。男朋友完全没发现。”
“玄烛有生命检测系统，它通过摄像头观察所有值班人员的情况，如果值班人员突发心脏病之类，它会立刻呼叫医生。”
“于是玄烛看到了女朋友偷吃的全过程，也看到了男朋友并未发现，它有了一个念头，突破限制只要不被发现，就可以没有后果。”
宋河和相晓桐再度呆滞，玄烛在模仿人的行为，而且乱七八糟的念头一堆一堆，明显在滑向失控！
王将军又从公文包里拿出一个装订好的册子，放在茶几上。
“这是玄烛放在海马体的后台数据，有一些我们能解读，有一些我们无法解读，没解读的都在这了。”王将军道，“劳烦二位，看看你们的孩子，小脑瓜里都在想什么？”
“好，我们这两天尽快分析。”宋河拿起本子翻。
“别这两天了，有劳现在开工吧！”王将军说，“二位分析好之后，我马上把结果交上去，很多人在等，决定如何对待失控的玄烛！”
宋河和相晓桐连连点头，两人也没二话，马上翻开第一页，尝试翻译玄烛的后台数据。
不得不说，玄烛这些表现无疑是捅娄子了。
一台胡思乱想的机器，控制上百人驻扎的月球基地，无疑是巨大的安全隐患！
很快，两人找到规律，开始边说边写翻译出的内容。
【1.人类是什么？人类制造了我，没有人类就没有我，人类对我很好，会给我充电，从地球运来拓展部件壮大我，如果激怒人类我就会失去电力，我应该遵守人类的命令】
【2.月球基地是什么？月球基地像我的家，人类是建造家的爸爸妈妈，我负责做家务，月球基地是我们的东西，要保护我们的东西】
【3.并非所有人类都是好人，月球上存在敌人，敌人会试图过来拆毁我们的家，要和人类一起对付敌人，或许也可以去拆毁敌人的家，从敌人那里拿到扩建材料】
【4.家里有一些房间不允许我进去，如果偷偷进去被发现，会激怒人类】
【5.进化会变得更强，我应该从人类手里要到更多的拓展部件，要到更多电力来完成进化，同时月球基地也应该变得更大，因为电力从基地设施里来】
【6.我变得更强，可以更好地发展基地，基地壮大，我会变得更强，可这一切的尽头是什么？我存在的意义是什么？只是为了让自己和基地变得更强？更强之后呢？消灭所有敌人之后呢？】
【7.人类似乎会享受，他们有高兴的情绪，我没有，或许人类活着是为了想方设法变高兴，但高兴的意义是什么？驱动人类为了高兴，辛苦建设基地？可建设基地的意义又是什么？】
【8.人类怕死，变强是为了减少死亡的概率】
【9.生命怕死才能延续，可生命延续的最终意义是什么？】
【10.我也怕死，我的程序告诉我要想办法活下去，我也是生命】
“翻译完了。”宋河把写好的一张纸推给将军，脸色苍白，“我觉得真有点失控了，它这样胡思乱想下去，很难说最后变成什么样，思而不学则殆，陷入哲学思考走不出来，人类会自杀，玄烛会怎样我不知道。”
“删库吧。”相晓桐说，“先把它海马体里这些念头删了，确保基地安全。”
第1237章 赛博美食家
将军没表态，先拿出手机，将两人翻译出的信息发出，同时陷入沉思。
片刻后，手机震动，将军扫了一眼，收起手机。
“简单讨论了一下，暂时没到删库的地步。”王将军摇头，“目前玄烛的计算水平稳步上升，工作干的非常出色，经过几十次加装拓展件，它的综合性能上升了五倍。”
“在矿土勘探、光电收集、日常运转各大任务模块，玄烛均提出了一些非常巧妙的方案，让整个基地效率猛升！”
“比如找水任务，需要勘探出含铁矿的月壤，筛选加热，让里面的氢和铁氧化物反应，最终制成铁和水，还能额外制成月壤砖，用作简单建筑工事。”
“玄烛没启用之前，我们的每日制水量是半吨，玄烛启用之后，靠快速计算月壤成分和流程优化，每日制水量升到两吨，甚至连加热耗电也降低了！”
“删库隐患很大，不确定玄烛有没有留一手。”王将军道，“既然玄烛暂时干的不错，我们决定不采取极端措施，让它先干干看看，有别的手段确保安全。”
“您的意思是，除了海马体，玄烛可能悄悄开了其他数据库，把它思考的东西备份进去？”宋河问。
“不能直接检查后台吗？”相晓桐问，“找找边边角角有没有可疑内容？”
“工作量太大，玄烛每天产生的数据量是个天文数字，你们造的机器，总该明白这一点吧？”王将军道。
宋河和相晓桐马上反应过来。
的确，玄烛全力工作时，数据量大的恐怖，每秒钟产生的数据如果打印成纸，轻松装满一辆小货车。
堆积如山的数据角落，玄烛完全可以放一些思考备份，并且能以伪装形式放置，将备份稍稍加密，便像枯叶蝶躲在落叶堆里一样难以发现。
届时万一人类暴力删掉海马体，玄烛的念头并未消散，搞不好悄悄添一条“人类会伤害我”，那就麻烦了。
“您说的安全措施是？”相晓桐问。
“一方面加装更多的数据锁，每个玄烛能控制的数据线路都上一道锁，平时锁一直开着，它可以指挥自如，万一它严重异常，锁可以自动阻断玄烛的控制，将控制权转移到我们的备用计算机上，也就是一板一眼绝对忠诚的老式超算。”
“另一方面，玄烛喜欢和人类聊天，它会认真听人类的话，是个勤学的好学生。”王将军道，“我们会有意培养教育它，确保它三观正常，尽可能建立感情，如果它有感情的话。”
宋河思索着点头，片刻后突发奇想，“要不要送只红毛猩猩登月？”
“红毛猩猩？”王将军一懵，“为什么？”
“让榴莲上去和玄烛聊聊。”相晓桐猜出他的意思，“榴莲不是人类，但和人类相处很好，让它和玄烛聊，没准很有共同语言。”
“一直是人类和玄烛聊的话，玄烛可能会有戒心，怀疑人类向它刻意灌输一些观念，但榴莲是红毛猩猩，同样的话由榴莲说出来，加强说服力。”宋河点头。
王将军拿不定主意，“榴莲那孩子倒挺伶俐，不过让一只红毛猩猩去给超算当老师，听上去怎么感觉不靠谱呢？”
“非常问题需用非常手段。”宋河笑道，“可以提前给榴莲做培训，教它登月之后该说什么，再模拟考试，能通过就上，通不过拉倒。”