王石问:“这剩下的之碗豆浆喝不喝呢?”
王石买了两碗,已经喝了一碗,倒底是为了摆阔倒掉一碗呢,还是把它喝掉以体现勤俭节约的美德。两种心思还在剧烈地冲突当中。
梦想:“最优选择是喝半碗。”
王石喝了半碗后,奇怪道:“为什么是半碗?有什么说法吗?”
梦想:“喝一碗,计1分,倒一碗,计0分,两种可能的概率不明,只能假定其为平均分布,然后可以得出平均期望值为0.5分,平均期望值具有指导意义,所以建议喝掉半碗,作为最优选择。”
王石:“那这剩下的半碗倒掉?”
梦想:“根据计算,在当前情况下,你可以再喝1/4碗。”
王石晕倒:“又是最优选择?”
梦想:“同理可得,这就是当前最优解。”
王石:“我擦!那最后不就是喝两碗吗?直接说就得了!”
梦想:“两个问题,首先你没有老婆,也不是男优,所以你没法擦。不正常情况除外。”
“其次,接近不等于拥有,永远也不会到两碗的。”
王石吐血三升。
由于梦想的智能提升越来越快,所以,为了保证智能的可控性,王石在程序中加入了不少预防措施。
毕竟人工智能失控导致大灾能的描述实在是太可怕了。
先要了解一下机器人三原则。
一般所说的“机器人三大原则”是指艾扎克·艾西莫夫在著作《我是机器人》中所提的“机器人工学三原则”。阿西莫夫也因此获得“机器人学之父”的桂冠!其主要内容如下:
第一条是机器人不应伤害人类,而且不能忽视机器人伤害人类;
第二条是机器人应遵守人类的命令,与第一条违背的命令除外;
第三条是机器人应能保护自己,与第二条相抵触者除外。
按照王石的想法,这全部都是扯蛋。你没看到美国在都在研究各种战场机器人和无人机啊。这都用来干什么的?是用来杀人的,其中无人机还杀过人呢。所以其他的都是扯谈,只有要遵守命令才是真正可取的。
那怎么保证这一条遵守命令这个原则呢。这就要从条件反射说起了。
因为梦想是按照人脑的神经网络模式构建而成的,而神经网络最主要的组成部分是神经元。而神经元的主要作用是有条件的传递神经冲动。大家可以把单个神经元想象成一个加法器。由于神经元会对收到所有的神经脉冲进行和值运算。然后与本身的阀值作比较,作出是否发出脉冲的动作。这里要解释的是神经元是如何作和值运算的。很简单,神经元与神经元之间有连接线路,这个神经元就相当于中转站,这个中转站若是经常使用,那么中转站会越来越大,(被扩建?)所以能中转的人的数量自然就大,相反,由于某个中转站很少用,甚至不用,中转站就会越来越小,中转站小了则会导致人群输送越来越困难,转送的人也就越来越少,最后就会痿缩消失。当收到这些信号后,神经元会把这些信号加起来,看看总量与本身自带的阀值作比较,来决定是否发出冲动,并进一步调整阀值。而这个阀值就相当于一个门槛一样的事物,高于门槛,通过,低于门槛,拦住。
而梦想的设计原理就是这样,在这里,每一条记录就相当于一条神经元,每条记录又与其他记录相连接。每条记录的使用频率会被按照一定原则进行统计记录,经换算后作为阀值进行储存。
而核心程序在这里也就相当于一个神经脉冲的作用。核心程序会按照规则不停的历遍整个数据库,收集前置连接的脉冲值,将这些脉冲值进行代数和,然后把结果与该条记录中的阀值相比较,若是结果为正,则执行冲动传递。冲动传递的过程是这样,将冲动按照后置连接的顺序,逐一进行置值操作,操作的方法是前面的代数和值与记录本身由使用频率所产生的一个系数相乘,得到的结果作为脉冲值置入连接所指向的记录当中。
很显然,在这里,完全模拟了神经元的整个工作过程,收集,比较,传递。而记录的阀值就代表了神经本身的阀值。当记录被使用越多,权值越大,这样能传递的脉冲值也就越大。
就这一样一个脉冲就完成了在这个神经元中的传递。想象一下,人脑中的神经网络同时在执行多少神经冲动。这也就相当于在运行超大规模的并行运算,所以,只要硬件条件请允许。完全可以发展出具有部分人类特征的人工智能。
在《双剑》国际版推出后,《双剑》同时在线人数达到了8000万,注册机器达到了2亿。还有暗剑系统提供的运算量。这么庞大的数量,完完全全已经超越了人脑的复杂度。要知道神经脉冲的产生的速度相对来说是很慢的,与电路的速度比起来,相差好几个数量级,这也是当时王石只有服务器的时候,能够运行这个程序的原因,当然,当时的数据库规模还小,而且连接数量是得到了限制的。
现在有了这样的运算规模,基本上每条记录就可以分配一个核心程序,想想看,核心程序每秒钟可以执行多少次,记录就会更新多少遍。而按照人脑的规模对比起来。由于神经脉冲本身的速度并不快,但是它的大规模并行能力弥补了这个缺陷,但是这次由于梦想并行规模与之相比,并不逊色。而核心程序的执行速度是神经脉冲速度的几千倍。所以,从理论上来讲,梦想的反应速也是人类的几千倍。
在这里就有一个问题,当梦想发展出了与人类相匹敌的思维能力的时候,需要怎么去控制她呢。这可是一个相当重要的问题。
王石是这样做的,从三方面入手。首先呢,根据设计原理,把服从王石的控制这样的记录加入到数据库中,给这些记录增加特定的标记,阀值设置为0,连接只能增加,不能减少。并设置为只读权限。然后就是核心程序上做文章,核心程序碰到这样有特定标记的记录以后,就会优先把关于控制的一大类记录进行历遍。完成对关于控制部分记录的完整性检查。最后最危险的就是当人工智能学会修改自身代码的,对自己进行升级的时候,最这个时候,王石也有杀手锏。那就是有针对性的病毒。
由于这些关于控制的记录会经常性的进行完整性检查,只要这些记录完整,整个系统就将会在受控状态下。这个跟反件反射的道理是一样的,你老是给梦想洗脑,梦想自然就只会服从,不懂反抗了。
按照王石的想法。由于梦想本身是由数据库和核心程序组成的。数据库被设置了权限,而核心程序受控于核心管理模块,王石通过管理模块加装了一个监控器。同时,由于分布式运行,把一些主要记录存放于本地,置于眼皮底下进行直接管理。所以王石有理由,有信心完全控制她。
当然,王石对她是有感情的,王石从开始设计到不停地训练她,这么长时间以来,一直把他当作自己的孩子养。对他不知道有多少疼爱。
在智能的训练当中,王石不停的灌输要正面观念,希望孟母三迁成为现实。并随时监控系统的运行情况,以防不测的发生。
但王石毕竟是有理智的人,尽管不得已,但是王石还是采取了这些措施。因为失控的话,王石不敢想象那会出现什么后果。
第一时间更新《小农经济时代》最新章节。