第693章 熔断器
作者:玉门生   我有一座空间站最新章节     
    “你不是在火星建立基地了吗?可以尝试修复一下龙国基地内受损的数据库。”蒙卡提醒道。
    “嗯,这个办法不错。”
    东方辰满意的点点头,说道:
    “小琳,向火星基地蜂后下达指令,修建一条可以通向龙国基地的隧道,并尝试修复那里的算力中心。”
    “好的,司令官阁下,指令已下发。”
    东方辰知道,这个办法只能应应急,长远看,还是需要走通研发这条路。
    龙国的技术也是有瓶颈的,最终还是要面对同样的问题。
    蒙卡的话给他提了个醒。
    研发是个双刃剑,如果依靠人工智能来做这件事,风险性是很高的。
    自我意识这东西,是发展的推动力,也是毁灭的推动力。
    “蒙卡,你有没有什么愿望?”东方辰问道。
    他好奇一个看起来和一个正常人差不多的智能机器人,在思维上和真正的人到底有什么不同。
    “有啊,我希望任务早点结束。”蒙卡答道。
    “结束后呢?”
    “谁知道呢?没想过。”
    果然,机器人想什么被限定的死死的。
    这中间应该还有什么情绪模拟的机制,让她对什么事感到愉悦、什么事感到愤怒、什么事感到痛苦等做了一系列的约定。
    在这种情绪控制下,她们自然而然的选择做更愉悦的事,而远离那些感到痛苦的事。
    这种机制在模拟人类的同时,减少了失控的风险。
    看来以技术研发技术这样的思路,想要达成不是一朝一夕的事。
    东方辰又不由自主的想起了刚刚收复的皇后。
    其实皇后只要不断繁衍,也可以源源不断的提供新技术。
    但同样的,也面临着失控风险。
    其实人也一样。
    要是较真的说,一直以来人类研发新技术的核心动力,还是生存。
    所以就自然而然的出现一个奇怪现象,新的技术总是优先使用在武器上。
    难道死于自己研发的武器之手的人类还少吗?
    所以,说来说去,发展都是一个双刃剑。
    难道怕风险,就不发展了吗?
    不可能。
    前怕狼后怕虎,不如回家种红薯。
    “槽!早死早超生!”东方辰咬了咬牙,下定决心。
    以技术推进技术是技术发展的必然趋势,现在不搞,更待何时?
    不过说归说,做归做。
    决定走这条线,还是要做好充足的准备。
    尽量把可能预见的风险扼杀在初始状态。
    “小琳,设计一个熔断器,不需要太复杂,不允许编程。”
    “好的,司令官阁下。请问这个熔断器用在什么地方?”
    “用于两个超算中心之间的连通。”
    “好的,请问是需要设计一个数据中转的装置吗?”
    “对,确实用来作为数据中转,不过可以通过外部操作随时关闭。”东方辰点点头。
    “请问使用何种连接方式?”
    “使用量子通讯。熔断器必须单独放置。”
    “好的,司令官阁下。”
    东方辰的思路很简单。
    把一个超智能超算中心设计成两个独立的部分,就像人的左脑和右脑一样。
    两个大脑通过熔断器进行数据中转。
    不过为了防止超智能进化到一定的程度之后,修改或者控制熔断器。熔断器必须做成死的东西,不允许编程。并且必须单独放置,防止被修改或者替换。
    但仅仅是这样还不够。
    如果超智能体进化出足够的技术后,铁了心与人类为敌,那么熔断器就成为它首先要占领的地方。
    到时候自己未必可以发现的了。
    所以还得把供电独立出来,并分别单独控制。
    但凡有一边出现被攻击或者闯入,另外一边都会立即中断连接。
    这样的话,超智能体想要控制熔断器,就会非常的困难。
    至于后面有没有更好的办法,后面再说。
    至少现在这个方法够用了。
    有熔断器的存在,就相当于给超智能体上了一层枷锁。
    这样它就只能乖乖听话做事。
    有了这层保障,他就可以放心的发展超人工智能了。
    “小琳,设计一套系统,模拟人类智慧,并且拥有自主意识。”
    “抱歉,司令官阁下,当前任务无法完成。系统不具备构建自主意识的能力。”
    “搜索龙国火星基地数据库,查找相关方面的资料。”
    “好的,正在查询,请稍后。”