正文卷 第364章 径向基神经网络
推荐阅读: 邪王嗜宠:神医狂妃 邪王嗜宠鬼医狂妃 邪王嗜宠:鬼医狂妃 妖孽修真弃少 我寄人间 从今天起当首富 宠妻入骨:神秘老公有点坏 重生之再铸青春 超级修真弃少 修复师 万古第一神 我在坟场画皮十五年 裂天空骑 武神主宰 神医萌宝 重生南非当警察 神道仙尊 妖夫在上
时间匆匆流逝。
江寒查询了许多文献,又经过了一番深入地思考,终于做好了准备,开始撰写新的论文。
江寒正在研究的,是径向基神经网络,在原本的世界,这是第一种实用化的“人工神经网络”。
这个世界在数学方面的进展,和前世基本一样。
像“多变量插值的径向基函数(rbf)方法”,早在1980年代就已经出现了。
也幸好如此,否则的话,江寒在造汽车之前,还得先发明个轮子……
所谓径向基函数,以本质上来说,就是一个实值函数,该函数的取值仅依赖于与原点或者中心点c的距离。
标准的径向基函数,一般使用欧氏距离,所以也叫欧式径向基函数。
当然,使用其他的距离函数也是没问题的,事实上,最常用的径向基函数,就是高斯核函数……
在rbf神经网络中,除了输入层和输出层之外,有且仅有一层隐藏层。
从输入空间到隐藏层空间,所做的变换是非线性的;而从隐藏层到输出层,却是做的线性变换。
通过隐藏层把向量从低维映射到高维,使得在低维中线性不可分的问题,到了高维之后变得线性可分。
这其实就是核函数的思想。
由于网络的输出和权重参数之间,存在着线性的关系,所以就可以由线性方程组,直接把权重参数求解出来。
这样一来,一方面大大加快了训练速度,另一方面,也可以避免“局部极小”的问题。
训练rbf神经网络的关键,在于求解3个参数。
首先是基函数的中心点,然后是方差,最后是隐含层到输出层的权重。
在训练时,同样需要输入训练数据,然后根据损失函数,采用梯度下降法,修正权重的误差。
这一点,其实与bp神经网络的做法,基本上如出一辙。
所以从本质上来说,rbf就是bp网络的一个特例。
当然,两者之间的区别也很明显。
在rbf神经网络中,距离径向基函数的中心点越远,神经元的激活度就越低。
在逼近目标函数时,神经元的权重取值,只依赖于查询点附近的数据。
因此rbf所做的,只是一种局部逼近。
而在bp网络中,所有数据都会起到同等的作用,是对非线性映射的全局逼近。
第2个区别,是隐藏层的数目不同。
bp神经网络可以有多个隐含层,但是rbf只有一个隐藏层。
从表达能力上来看,rbf是不如bp的,但rbf也有不可取代的优势,那就是训练起来速度极快。
一方面,由于隐藏层较少,计算压力就更小些;另一方面,局部逼近也可以有效地简化计算。
在rbf神经网络中,对于一个输入,只有附近的神经元会有反应,其他的全都被忽略。
这样一来,需要调整的权重参数,自然就大幅度地减少了,也就减轻了计算压力。
此外,还可以从理论上证明,rbf网络是对连续函数的最佳逼近,而容易陷入局部极小的bp网络则不是……
一般来说,使用了核函数技巧的机器学习方案,比如支持向量机(svm)等,都不怎么适应大数据的情况。
样本量一大,往往会出现极其严重的计算困难。
而rbf刚好解决了这个问题……
星期四那天,这篇论文终于写完了。
当天晚上,江寒吃完饭之后,就开始在电脑上敲论文。
夏雨菲则陪在他身边,做着自己的高考复习题。
时间快到9点的时候,估摸着夏如虹要回来了,他就转移战场,回自己房间继续工作。
又过了将近半个小时,才将论文完全敲进了电脑里。
随后,江寒稍微考虑了一下,就将其发给了《maelearning》。
理由嘛,也很简单。
在给自己发来约稿信的期刊中,属这一家的级别最高。
而尽可能地多拿学术点,正是他一以贯之的原则……
将论文提交到ml官网上之后,时间已经差不多9点半。
江寒闭上眼睛,靠在椅背上,稍微休息了一会儿。
虽然是在休息,但大脑并没有彻底放空。
他想到了水晶头骨,以及那个奇怪的卡片。
这些天以来,他一有时间就偷偷研究,想到什么新的思路,就做些实验验证一下。
但可惜的是,并没有任何进展。
实话说,那个神奇的透明丝线,以现在地球的技术,似乎很难做得出来。
可如果说,那不是当代的技术……
难道在这个世界上,还当真存在过什么史前高科技文明吗?
江寒甚至想到了外星人或者未来科技。
只可惜目前为止,并没有任何实在的证据,表明地球上存在什么外星人、未来人……
好,也许是尚未公开的科技。
毕竟即使在原本的世界里,有些科技也是只服务于特殊领域,而不会为大众所知晓的……
江寒的脑海正思绪起伏,一念未灭,一念又生,忽然唇上一暖,被两瓣香香软软、滑嫩异常的东西,轻轻地覆盖住了……
江寒细心体会着,分开了足足10多秒后,他才睁开了眼睛。
夏雨菲宜喜宜嗔、极尽妍态的俏脸,出现在眼前。
江寒温声问:“阿姨还没回来吗?”
不然的话,现在这个时间,小媳妇可不好意思跑来自己的房间……
“嗯。”
夏雨菲点了点头,轻声说:“可能又加班了。”
一般来说,夏如虹这个时间都能到家了,除非公司有什么特别情况。
江寒顿时跃跃欲试:“那咱们……”
夏雨菲吓了一跳:“不行,万一……”
话没说完,江寒就一跃而起,将她拦腰抱了起来。
然后上下颠了颠,笑嘻嘻地说:“好像也没怎么瘦,正好帮你减减肥!”
夏雨菲连忙求饶:“别!”
江寒脸一板:“别什么别?”
小媳妇儿都自己送上门了,那还客气些什么?
夏雨菲小脸刷地一下红透:“别像上次那样……”
江寒眨了眨眼:“收到,放心!这次保证比上次好玩!”
夏雨菲“啊”了一声,脸更加红了,急促地喘了起来,身子更加软了。
江寒随后便将她抱上了床去,然后……
夏雨菲一声不吭,紧紧地闭着双眼,默默地承受着。
半个小时之后,她终于不堪肆虐,逃离了江寒的魔爪。
江寒则神清气爽,从里到外说不出的舒坦。
夏雨菲迅速整理好衣襟,头也不敢回地冲出了房间。
目送她离开,江寒会心一笑。
以前她嘴上说“不要”的时候,身体往往很诚实;
到了现在嘛,干脆连“不要、不要”的环节都省略了……
不过,也不知道是否错觉,还是说刚刚亲近过的缘故?
反正在自己眼里,小媳妇越来越动人了,就连落荒而逃的背影,也那么的婀娜多姿……
……
第二天中午,江寒给夏如冰打了个电话。
主要是说明一下,公司的手续已经跑完,资金也十分充足,可以开展业务了。
“多少资金?”夏如冰打听了一句。
这本来就是她这个“总经理”,心里应该有数的。
江寒呵呵一笑:“500万美金。”
夏如冰吓了一小跳:“你在公司的账户里头,放这么多钱干嘛?
咱们这家公司,只是卖卖专利授权,又没有多少要花钱的地方……”
江寒耸了耸肩:“这是kaggle那边打来的奖金,我也懒得折腾回国,就作为咱们的启动资金。”
高德先生的五百万美元,星期一就到账了。
江寒一时半会也用不上太多钱,所以就先放在公司账户里存着了。
将来真有需要的时候,不妨再以投资的形式转移到国内。
一方面,支援一下国家建设,另一方面……
直接提现或者转账,需要缴纳很多税费,但如果是投资的话,就能享受很多优惠了。
这是合理合法地省钱,算不上薅sh主义的羊毛,不省白不省……
<a href="s://.c/read/35827/20047341.html" target="_blank">s://.c/read/35827/20047341.html</a>
.c。m.c说说520小说阅读_www.shuoshuo520.cc
江寒查询了许多文献,又经过了一番深入地思考,终于做好了准备,开始撰写新的论文。
江寒正在研究的,是径向基神经网络,在原本的世界,这是第一种实用化的“人工神经网络”。
这个世界在数学方面的进展,和前世基本一样。
像“多变量插值的径向基函数(rbf)方法”,早在1980年代就已经出现了。
也幸好如此,否则的话,江寒在造汽车之前,还得先发明个轮子……
所谓径向基函数,以本质上来说,就是一个实值函数,该函数的取值仅依赖于与原点或者中心点c的距离。
标准的径向基函数,一般使用欧氏距离,所以也叫欧式径向基函数。
当然,使用其他的距离函数也是没问题的,事实上,最常用的径向基函数,就是高斯核函数……
在rbf神经网络中,除了输入层和输出层之外,有且仅有一层隐藏层。
从输入空间到隐藏层空间,所做的变换是非线性的;而从隐藏层到输出层,却是做的线性变换。
通过隐藏层把向量从低维映射到高维,使得在低维中线性不可分的问题,到了高维之后变得线性可分。
这其实就是核函数的思想。
由于网络的输出和权重参数之间,存在着线性的关系,所以就可以由线性方程组,直接把权重参数求解出来。
这样一来,一方面大大加快了训练速度,另一方面,也可以避免“局部极小”的问题。
训练rbf神经网络的关键,在于求解3个参数。
首先是基函数的中心点,然后是方差,最后是隐含层到输出层的权重。
在训练时,同样需要输入训练数据,然后根据损失函数,采用梯度下降法,修正权重的误差。
这一点,其实与bp神经网络的做法,基本上如出一辙。
所以从本质上来说,rbf就是bp网络的一个特例。
当然,两者之间的区别也很明显。
在rbf神经网络中,距离径向基函数的中心点越远,神经元的激活度就越低。
在逼近目标函数时,神经元的权重取值,只依赖于查询点附近的数据。
因此rbf所做的,只是一种局部逼近。
而在bp网络中,所有数据都会起到同等的作用,是对非线性映射的全局逼近。
第2个区别,是隐藏层的数目不同。
bp神经网络可以有多个隐含层,但是rbf只有一个隐藏层。
从表达能力上来看,rbf是不如bp的,但rbf也有不可取代的优势,那就是训练起来速度极快。
一方面,由于隐藏层较少,计算压力就更小些;另一方面,局部逼近也可以有效地简化计算。
在rbf神经网络中,对于一个输入,只有附近的神经元会有反应,其他的全都被忽略。
这样一来,需要调整的权重参数,自然就大幅度地减少了,也就减轻了计算压力。
此外,还可以从理论上证明,rbf网络是对连续函数的最佳逼近,而容易陷入局部极小的bp网络则不是……
一般来说,使用了核函数技巧的机器学习方案,比如支持向量机(svm)等,都不怎么适应大数据的情况。
样本量一大,往往会出现极其严重的计算困难。
而rbf刚好解决了这个问题……
星期四那天,这篇论文终于写完了。
当天晚上,江寒吃完饭之后,就开始在电脑上敲论文。
夏雨菲则陪在他身边,做着自己的高考复习题。
时间快到9点的时候,估摸着夏如虹要回来了,他就转移战场,回自己房间继续工作。
又过了将近半个小时,才将论文完全敲进了电脑里。
随后,江寒稍微考虑了一下,就将其发给了《maelearning》。
理由嘛,也很简单。
在给自己发来约稿信的期刊中,属这一家的级别最高。
而尽可能地多拿学术点,正是他一以贯之的原则……
将论文提交到ml官网上之后,时间已经差不多9点半。
江寒闭上眼睛,靠在椅背上,稍微休息了一会儿。
虽然是在休息,但大脑并没有彻底放空。
他想到了水晶头骨,以及那个奇怪的卡片。
这些天以来,他一有时间就偷偷研究,想到什么新的思路,就做些实验验证一下。
但可惜的是,并没有任何进展。
实话说,那个神奇的透明丝线,以现在地球的技术,似乎很难做得出来。
可如果说,那不是当代的技术……
难道在这个世界上,还当真存在过什么史前高科技文明吗?
江寒甚至想到了外星人或者未来科技。
只可惜目前为止,并没有任何实在的证据,表明地球上存在什么外星人、未来人……
好,也许是尚未公开的科技。
毕竟即使在原本的世界里,有些科技也是只服务于特殊领域,而不会为大众所知晓的……
江寒的脑海正思绪起伏,一念未灭,一念又生,忽然唇上一暖,被两瓣香香软软、滑嫩异常的东西,轻轻地覆盖住了……
江寒细心体会着,分开了足足10多秒后,他才睁开了眼睛。
夏雨菲宜喜宜嗔、极尽妍态的俏脸,出现在眼前。
江寒温声问:“阿姨还没回来吗?”
不然的话,现在这个时间,小媳妇可不好意思跑来自己的房间……
“嗯。”
夏雨菲点了点头,轻声说:“可能又加班了。”
一般来说,夏如虹这个时间都能到家了,除非公司有什么特别情况。
江寒顿时跃跃欲试:“那咱们……”
夏雨菲吓了一跳:“不行,万一……”
话没说完,江寒就一跃而起,将她拦腰抱了起来。
然后上下颠了颠,笑嘻嘻地说:“好像也没怎么瘦,正好帮你减减肥!”
夏雨菲连忙求饶:“别!”
江寒脸一板:“别什么别?”
小媳妇儿都自己送上门了,那还客气些什么?
夏雨菲小脸刷地一下红透:“别像上次那样……”
江寒眨了眨眼:“收到,放心!这次保证比上次好玩!”
夏雨菲“啊”了一声,脸更加红了,急促地喘了起来,身子更加软了。
江寒随后便将她抱上了床去,然后……
夏雨菲一声不吭,紧紧地闭着双眼,默默地承受着。
半个小时之后,她终于不堪肆虐,逃离了江寒的魔爪。
江寒则神清气爽,从里到外说不出的舒坦。
夏雨菲迅速整理好衣襟,头也不敢回地冲出了房间。
目送她离开,江寒会心一笑。
以前她嘴上说“不要”的时候,身体往往很诚实;
到了现在嘛,干脆连“不要、不要”的环节都省略了……
不过,也不知道是否错觉,还是说刚刚亲近过的缘故?
反正在自己眼里,小媳妇越来越动人了,就连落荒而逃的背影,也那么的婀娜多姿……
……
第二天中午,江寒给夏如冰打了个电话。
主要是说明一下,公司的手续已经跑完,资金也十分充足,可以开展业务了。
“多少资金?”夏如冰打听了一句。
这本来就是她这个“总经理”,心里应该有数的。
江寒呵呵一笑:“500万美金。”
夏如冰吓了一小跳:“你在公司的账户里头,放这么多钱干嘛?
咱们这家公司,只是卖卖专利授权,又没有多少要花钱的地方……”
江寒耸了耸肩:“这是kaggle那边打来的奖金,我也懒得折腾回国,就作为咱们的启动资金。”
高德先生的五百万美元,星期一就到账了。
江寒一时半会也用不上太多钱,所以就先放在公司账户里存着了。
将来真有需要的时候,不妨再以投资的形式转移到国内。
一方面,支援一下国家建设,另一方面……
直接提现或者转账,需要缴纳很多税费,但如果是投资的话,就能享受很多优惠了。
这是合理合法地省钱,算不上薅sh主义的羊毛,不省白不省……
<a href="s://.c/read/35827/20047341.html" target="_blank">s://.c/read/35827/20047341.html</a>
.c。m.c说说520小说阅读_www.shuoshuo520.cc