第三百二十三章 进化陷阱和超级文明
在丁克说出自己的想法之后,肖云的神情立刻便郑重了起来,脑海之中也霍然明亮:“对啊……机器人可以自我进化,为什么我们的病毒不可以自我进化呢?”
这个逻辑其实并不复杂,只要说穿了,与会专家们立刻便可以理解这个思路。于是会议室在这一刻便热闹了起来。
“我认为丁克所说的方案很有成功的可能。”一名专家说道,“不要忘了,我们现在已经掌握了制造可自我进化的无限复制机器人的能力。那么,我们完全可以借助这种逻辑来设计一种以毁灭所有机器人为目标的,可无限自我进化的病毒出来,机器人进化,病毒便也进化,这就解决了病毒失效的问题。”
“是的,在病毒的进化机制的设计之上我们也可以借鉴机器人的进化方案——机器人以我们人类文明的科技发展体系为参考来进行自我进化,那么这种病毒也可以以机器人的进化方式为借鉴来实现病毒本身的自我进化。这样一来,面对不同类型的机器人,病毒就会进化出不同的杀伤方式,最终达到不漏过一台机器人,将全部机器人杀死的目标。”
“我们唯一需要顾虑的是这种病毒会不会在我们人类文明的电子世界之中传播和感染,它毕竟拥有和机器人集团同样的特质,那就是一旦被制造出来,后续发展便不受我们控制,如果它真的传播到了我们文明内部的话……它将会成为我们人类文明的噩梦。”一名专家提出了自己的忧虑:“面对着这种无处不在,可以自我进化以逃避查杀,甚至可以说拥有某种智能的病毒……我想,我们不会有解决它们的办法。”
“它是一把双刃剑。”肖云对这个提议做出了总结,“它可能会对机器人集团造成极大的杀伤,甚至全灭机器人集团,但它也可能反过来对我们人类造成伤害。它和机器人集团的存在形式是极为相似的,只不过一个是在现实世界之中,一个是在电子世界之中而已。”
“我认为该方案有价值,但仍需仔细的进行分析,甚至需要将该方案向元首汇报,以进行更为谨慎和全面的评估。”肖云说道,“那么这个方案就这样,暂时封存,我们继续进行下一步的讨论,看看有没有其余的想法。”
丁克对这个结果似乎并不太满意,他似乎想要再进行一些分辨,但最终并没有继续争辩下去。
一阵沉默之后,又有一名专家提出了另外一个想法:“肖云,我想,我们或许可以从机器人的进化机制之上来做文章。”
“哦?详细说说你的方案。”肖云说道。
“是这样的。”那名专家断断续续的说着,一边努力思考一边阐述着自己的想法:“我想……既然机器人集团以我们人类文明的科技发展体系为参考来实现自己的自我进化,而如果我们人类文明和机器人集团交手的话,我们的科技体系就必定会被机器人所窃取……那么……我们是否可以这样,我们是否可以有意的将一些有重大缺陷的科技泄露给机器人集团,让它们按照错误的科技体系进行进化,等所有机器人都沿着这种错误的进化体系进化之后,我们再借助这种科技体系之中的漏洞,对机器人集团进行歼灭。”
“或许……唔,说不定我们可以设置出尽头是死路,也即只要沿着这种科技体系进化下去,不需要我们人类文明出手干涉,机器人集团自己就会自我灭亡掉。总之,不管是让它们进化出漏洞也好,让它们自我进化灭亡也好,从它们的进化方式上做文章,我认为有很大的可行性。”
肖云思考了一番,然后说道:“进化陷阱?”
那名专家点了点头:“对,就是进化陷阱。挖一个陷阱,让机器人们跳进去。”
提出进化陷阱方案的这名专家肖云也是认识的,只不过以前不是太熟悉。他名叫萧穆鸿,之前并不在人工智能研究所工作,而是在计算科学研究所工作的,基本上也属于肖云的同行。在计算科学研究所之中,萧穆鸿同样是属于极为优秀的那一群人之中的。
这种方案在肖云看来确实很巧妙,也具有极高的可行性。机器人集团很明显是没有分辨科技好坏的能力的,它们仅仅只能判断某一种科技比另一种科技先进与否,以及对自身繁衍进化有利与否。那么,借助这种判断机制,人类文明开发出一种“科技更加先进,对机器人自身繁衍也更加有利,但从长远看却会给机器人集团带来灭顶之灾”的科技是完全有可能的。
“我也认为这种方案可行。”另一名专家发表了自己的看法,“进化陷阱这种东西,不说对机器人,就算是对于我们人类文明这种真正的智慧文明来说都是极为可怕的。如果有某个超级文明引导我们人类文明进行进化的话,因为科技层级的差异,我们人类文明根本就无法分辨那个超级文明教导我们的科技,引领我们所走的进化道路到底是正确还是错误的。也就是说,如果我们人类文明受到了进化陷阱的攻击,我们也会撑不住的,更不要说这些依靠近乎作弊的手段才获取到自我进化能力的机器人了。”
“总的来说,我认为进化陷阱方案要比病毒攻击方案更具有可行性,风险也更低。”又一名专家说道,“不过这两种方案并不排斥,我们或许可以将这两种方案同时执行。”
肖云点了点头:“进化陷阱方案确实有自己的优点,病毒攻击方案当然也有自己的长处。不过我们现在所讨论的只是战略层级的东西,暂时先不需要对方案的具体执行讨论太多。所以,进化陷阱方案也就此封存,留待更进一步的验证,那么接下来,大家还有没有别的想法?”
一片沉默之后,又一名专家举起了手。
“请说说你的想法。”肖云说道。
那名专家站了起来,然后说道:“我认为……不管是进化陷阱方案也好,病毒攻击方案也好,都具有很大的不确定性,执行成本也太过高昂,耗时也会非常长久,这对于我们的文明来说是不利的。”
“所以我才有了这一个全新的想法,在我阐述我的想法之前,我想先问大家一个问题,那就是,大家认为,在我们的银河系之中,存不存在比我们更加先进的文明?”
“我个人认为是存在的,但我没有任何证据。”肖云率先说道,“同时,我认为讨论这个问题没有意义。”
“有意义的。”那名专家坚持着说道,“我不想在这里列举很多数据之类的东西来证明银河系里超级外星文明的存在,我只想说,在银河系之中存在超级外星文明的几率至少有百分之七十,大家认不认可这一点?”
肖云默默点了点头,另一名专家则说道:“我想,百分之七十的几率应该是低估了,我认为真实的几率应该在百分之八十左右,但是……这又有什么用处呢?我们不知道超级外星文明的存在形式,不知道它们的道德体系和价值观念,不知道它们对我们的态度,难道你是想说,求助于外星文明来帮我们解决机器人危机?”
“可以这么说。”那名专家点了点头,“这并不是无稽之谈,因为无限复制机器人并不仅仅对我们的文明有威胁,毫不夸张的说,它对于整个银河系都有威胁。因为放任不管的话,它可能只用几万年的时间就占领整个银河系,将银河系之中的所有资源全都搜刮一空。”
“而根据我们“文明发展到一定程度就必定会遭遇无限复制机器人”,以及“此刻我们的银河系并没有被无限复制机器人完全占领”这两点来进行推测,我们可以得出,存在于银河系的超级外星文明一定已经度过了机器人危机,掌握到了毁灭机器人帝国的方法,那么……在整个银河系都遭遇到机器人集团威胁的时候,如果我们是那个超级文明的话,我们会不会对机器人集团出手将其毁灭?”
这名专家的问题让在场所有人,包括肖云在内都陷入到了沉默之中。求助于超级外星文明来应对机器人集团这个提议,刚开始看的时候会感觉就像是天方夜谭一般,但是现在进行仔细而深入的思考之后,专家们发现,这个方案……似乎,真的具有可行性。
专家们想反驳,却找不到可以反驳的依据。
最终,一名专家有些无力的说道:“这……这个方案的不确定性太大了,将我们人类文明的命运交给虚无缥缈的超级外星文明来决定,这也太……”
“不,并不是虚无缥缈。”那名专家鉴定的说道,“超级外星文明存在的几率高达百分之七十,而如果它们存在,它们就一定不会坐视整个银河系被机器人集团蚕食,它们就一定会出手。”
请收藏本站:https://www.djdoc.net。第二书包手机版:https://m.djdoc.net
这个逻辑其实并不复杂,只要说穿了,与会专家们立刻便可以理解这个思路。于是会议室在这一刻便热闹了起来。
“我认为丁克所说的方案很有成功的可能。”一名专家说道,“不要忘了,我们现在已经掌握了制造可自我进化的无限复制机器人的能力。那么,我们完全可以借助这种逻辑来设计一种以毁灭所有机器人为目标的,可无限自我进化的病毒出来,机器人进化,病毒便也进化,这就解决了病毒失效的问题。”
“是的,在病毒的进化机制的设计之上我们也可以借鉴机器人的进化方案——机器人以我们人类文明的科技发展体系为参考来进行自我进化,那么这种病毒也可以以机器人的进化方式为借鉴来实现病毒本身的自我进化。这样一来,面对不同类型的机器人,病毒就会进化出不同的杀伤方式,最终达到不漏过一台机器人,将全部机器人杀死的目标。”
“我们唯一需要顾虑的是这种病毒会不会在我们人类文明的电子世界之中传播和感染,它毕竟拥有和机器人集团同样的特质,那就是一旦被制造出来,后续发展便不受我们控制,如果它真的传播到了我们文明内部的话……它将会成为我们人类文明的噩梦。”一名专家提出了自己的忧虑:“面对着这种无处不在,可以自我进化以逃避查杀,甚至可以说拥有某种智能的病毒……我想,我们不会有解决它们的办法。”
“它是一把双刃剑。”肖云对这个提议做出了总结,“它可能会对机器人集团造成极大的杀伤,甚至全灭机器人集团,但它也可能反过来对我们人类造成伤害。它和机器人集团的存在形式是极为相似的,只不过一个是在现实世界之中,一个是在电子世界之中而已。”
“我认为该方案有价值,但仍需仔细的进行分析,甚至需要将该方案向元首汇报,以进行更为谨慎和全面的评估。”肖云说道,“那么这个方案就这样,暂时封存,我们继续进行下一步的讨论,看看有没有其余的想法。”
丁克对这个结果似乎并不太满意,他似乎想要再进行一些分辨,但最终并没有继续争辩下去。
一阵沉默之后,又有一名专家提出了另外一个想法:“肖云,我想,我们或许可以从机器人的进化机制之上来做文章。”
“哦?详细说说你的方案。”肖云说道。
“是这样的。”那名专家断断续续的说着,一边努力思考一边阐述着自己的想法:“我想……既然机器人集团以我们人类文明的科技发展体系为参考来实现自己的自我进化,而如果我们人类文明和机器人集团交手的话,我们的科技体系就必定会被机器人所窃取……那么……我们是否可以这样,我们是否可以有意的将一些有重大缺陷的科技泄露给机器人集团,让它们按照错误的科技体系进行进化,等所有机器人都沿着这种错误的进化体系进化之后,我们再借助这种科技体系之中的漏洞,对机器人集团进行歼灭。”
“或许……唔,说不定我们可以设置出尽头是死路,也即只要沿着这种科技体系进化下去,不需要我们人类文明出手干涉,机器人集团自己就会自我灭亡掉。总之,不管是让它们进化出漏洞也好,让它们自我进化灭亡也好,从它们的进化方式上做文章,我认为有很大的可行性。”
肖云思考了一番,然后说道:“进化陷阱?”
那名专家点了点头:“对,就是进化陷阱。挖一个陷阱,让机器人们跳进去。”
提出进化陷阱方案的这名专家肖云也是认识的,只不过以前不是太熟悉。他名叫萧穆鸿,之前并不在人工智能研究所工作,而是在计算科学研究所工作的,基本上也属于肖云的同行。在计算科学研究所之中,萧穆鸿同样是属于极为优秀的那一群人之中的。
这种方案在肖云看来确实很巧妙,也具有极高的可行性。机器人集团很明显是没有分辨科技好坏的能力的,它们仅仅只能判断某一种科技比另一种科技先进与否,以及对自身繁衍进化有利与否。那么,借助这种判断机制,人类文明开发出一种“科技更加先进,对机器人自身繁衍也更加有利,但从长远看却会给机器人集团带来灭顶之灾”的科技是完全有可能的。
“我也认为这种方案可行。”另一名专家发表了自己的看法,“进化陷阱这种东西,不说对机器人,就算是对于我们人类文明这种真正的智慧文明来说都是极为可怕的。如果有某个超级文明引导我们人类文明进行进化的话,因为科技层级的差异,我们人类文明根本就无法分辨那个超级文明教导我们的科技,引领我们所走的进化道路到底是正确还是错误的。也就是说,如果我们人类文明受到了进化陷阱的攻击,我们也会撑不住的,更不要说这些依靠近乎作弊的手段才获取到自我进化能力的机器人了。”
“总的来说,我认为进化陷阱方案要比病毒攻击方案更具有可行性,风险也更低。”又一名专家说道,“不过这两种方案并不排斥,我们或许可以将这两种方案同时执行。”
肖云点了点头:“进化陷阱方案确实有自己的优点,病毒攻击方案当然也有自己的长处。不过我们现在所讨论的只是战略层级的东西,暂时先不需要对方案的具体执行讨论太多。所以,进化陷阱方案也就此封存,留待更进一步的验证,那么接下来,大家还有没有别的想法?”
一片沉默之后,又一名专家举起了手。
“请说说你的想法。”肖云说道。
那名专家站了起来,然后说道:“我认为……不管是进化陷阱方案也好,病毒攻击方案也好,都具有很大的不确定性,执行成本也太过高昂,耗时也会非常长久,这对于我们的文明来说是不利的。”
“所以我才有了这一个全新的想法,在我阐述我的想法之前,我想先问大家一个问题,那就是,大家认为,在我们的银河系之中,存不存在比我们更加先进的文明?”
“我个人认为是存在的,但我没有任何证据。”肖云率先说道,“同时,我认为讨论这个问题没有意义。”
“有意义的。”那名专家坚持着说道,“我不想在这里列举很多数据之类的东西来证明银河系里超级外星文明的存在,我只想说,在银河系之中存在超级外星文明的几率至少有百分之七十,大家认不认可这一点?”
肖云默默点了点头,另一名专家则说道:“我想,百分之七十的几率应该是低估了,我认为真实的几率应该在百分之八十左右,但是……这又有什么用处呢?我们不知道超级外星文明的存在形式,不知道它们的道德体系和价值观念,不知道它们对我们的态度,难道你是想说,求助于外星文明来帮我们解决机器人危机?”
“可以这么说。”那名专家点了点头,“这并不是无稽之谈,因为无限复制机器人并不仅仅对我们的文明有威胁,毫不夸张的说,它对于整个银河系都有威胁。因为放任不管的话,它可能只用几万年的时间就占领整个银河系,将银河系之中的所有资源全都搜刮一空。”
“而根据我们“文明发展到一定程度就必定会遭遇无限复制机器人”,以及“此刻我们的银河系并没有被无限复制机器人完全占领”这两点来进行推测,我们可以得出,存在于银河系的超级外星文明一定已经度过了机器人危机,掌握到了毁灭机器人帝国的方法,那么……在整个银河系都遭遇到机器人集团威胁的时候,如果我们是那个超级文明的话,我们会不会对机器人集团出手将其毁灭?”
这名专家的问题让在场所有人,包括肖云在内都陷入到了沉默之中。求助于超级外星文明来应对机器人集团这个提议,刚开始看的时候会感觉就像是天方夜谭一般,但是现在进行仔细而深入的思考之后,专家们发现,这个方案……似乎,真的具有可行性。
专家们想反驳,却找不到可以反驳的依据。
最终,一名专家有些无力的说道:“这……这个方案的不确定性太大了,将我们人类文明的命运交给虚无缥缈的超级外星文明来决定,这也太……”
“不,并不是虚无缥缈。”那名专家鉴定的说道,“超级外星文明存在的几率高达百分之七十,而如果它们存在,它们就一定不会坐视整个银河系被机器人集团蚕食,它们就一定会出手。”
请收藏本站:https://www.djdoc.net。第二书包手机版:https://m.djdoc.net