手机浏览器扫描二维码访问
一秒记住【xiaoyanwenxue.com】精彩无弹窗免费!“重生学神有系统(.shg.tw)”!
时间匆匆流逝。
江寒查询了许多文献,又经过了一番深入地思考,终于做好了准备,开始撰写新的论文。
江寒正在研究的,是径向基神经网络,在原本的世界,这是第一种实用化的“人工神经网络”。
这个世界在数学方面的进展,和前世基本一样。
像“多变量插值的径向基函数(RBF)方法”,早在1980年代就已经出现了。
也幸好如此,否则的话,江寒在造汽车之前,还得先发明个轮子……
所谓径向基函数,以本质上来说,就是一个实值函数,该函数的取值仅依赖于与原点或者中心点C的距离。
标准的径向基函数,一般使用欧氏距离,所以也叫欧式径向基函数。
当然,使用其他的距离函数也是没问题的,事实上,最常用的径向基函数,就是高斯核函数……
在RBF神经网络中,除了输入层和输出层之外,有且仅有一层隐藏层。
从输入空间到隐藏层空间,所做的变换是非线性的;而从隐藏层到输出层,却是做的线性变换。
通过隐藏层把向量从低维映射到高维,使得在低维中线性不可分的问题,到了高维之后变得线性可分。
这其实就是核函数的思想。
由于网络的输出和权重参数之间,存在着线性的关系,所以就可以由线性方程组,直接把权重参数求解出来。
这样一来,一方面大大加快了训练速度,另一方面,也可以避免“局部极小”的问题。
训练RBF神经网络的关键,在于求解3个参数。
首先是基函数的中心点,然后是方差,最后是隐含层到输出层的权重。
在训练时,同样需要输入训练数据,然后根据损失函数,采用梯度下降法,修正权重的误差。
这一点,其实与BP神经网络的做法,基本上如出一辙。
所以从本质上来说,RBF就是BP网络的一个特例。
当然,两者之间的区别也很明显。
在RBF神经网络中,距离径向基函数的中心点越远,神经元的激活度就越低。
在逼近目标函数时,神经元的权重取值,只依赖于查询点附近的数据。
因此RBF所做的,只是一种局部逼近。
而在BP网络中,所有数据都会起到同等的作用,是对非线性映射的全局逼近。
第2个区别,是隐藏层的数目不同。
BP神经网络可以有多个隐含层,但是RBF只有一个隐藏层。
从表达能力上来看,RBF是不如BP的,但RBF也有不可取代的优势,那就是训练起来速度极快。
一方面,由于隐藏层较少,计算压力就更小些;另一方面,局部逼近也可以有效地简化计算。
在RBF神经网络中,对于一个输入,只有附近的神经元会有反应,其他的全都被忽略。
这样一来,需要调整的权重参数,自然就大幅度地减少了,也就减轻了计算压力。
此外,还可以从理论上证明,RBF网络是对连续函数的最佳逼近,而容易陷入局部极小的BP网络则不是……
一般来说,使用了核函数技巧的机器学习方案,比如支持向量机(SVM)等,都不怎么适应大数据的情况。
封天之圣 遗世有情之有狐 她做了一个可预测未来的梦 山河万里不识君 风水赘婿 修仙大佬,求你别秀了 爷爷给我算了最后一卦 玄幻之无上天帝 荒山远海 柳定大荒 李长风萧玉如 天降六宝:夫人她千娇百媚 动漫时空巡逻队 末世进化之王 都市豪门战神 秦朝之天明崛起 玄武戴孝快封村 最强司机 一胎三宝:战神妈咪她A爆全球 人在综漫:开局选择日之呼吸
十年前,他被迫逃出豪门世家,从此颠沛流离,惶惶如蝼蚁,人尽可欺。直到那一天,他拨通了那个熟悉又陌生的号码。你若执我之手,我必许你万丈荣光...
...
作者二梦的经典小说重生狠妻男神老公花样宠最新章节全文阅读服务本站更新及时无弹窗广告小说乔尽欢死了,被亲妹妹割断了喉咙,又砍断了右手,还抢了男人。老天垂怜,她又活了,还附赠一个超级强大的男人,带着她一路逆袭。他说她的手很软,握着就不想放开他又说她的嘴很软,亲了还想亲他说他要娶她顾欢吓的尖叫,不要,不要,你爱的女人已经死了,我是冒牌的!男人笑着,将她狠狠压在床上,没关系,不管你变成什么样,我都喜欢。...
假如再活一次,是否还会眼睁睁看着亲人惨死?假如再活一次,是否还不得不承受爱人的离去?假如再活一次,是否还会让那痛恨的仇人,在自己面前耀武扬威?假如不需要假如!经历了一世痛苦与磨难的任逍遥,获得了再活一次的机会,重新回到少年时代的他,又拥有了无上的功法,将会开启怎样的神奇?拯救亲人,留住爱人,痛踩仇人,让前世的一切不幸与不爽,全都烟消云散。而我,要成为星空下的最强者!境界划分凝璇境炼体境引星境御星境化星境通灵境,涅槃境尊者境王者境圣者境...
刀尖上跳舞,阴影中漫步。是独行的王者,是死亡的使徒,是盗贼的荣耀!重生玩网游,凡事抢先一步!我这一生都只忠于自己,我所做的一切选择,都是心甘情愿,自由意志的结果。我从来没有被任何人,任何事物所奴役,挟制,连神也办不到!我可以因崇拜,尊重而向他人低头,但绝不因屈从而低头!读者群43795914o,喜欢本书的朋友可以入群聊天...
作者梦一程的经典小说剑出青鸣最新章节全文阅读服务本站更新及时无弹窗广告小说适逢乱世,正道萧条,造成人才青黄不接之局,一时间魔道横行,世间百姓疾苦百态。然邪不压正,东有擎心剑派,西有无尽火域,南有青鸣山庄,北有冰雪两域,中有安四方。故事便是从青鸣山庄开始,且看乱世儿女如何谱写一首首赞歌...