ELM网络训练模型

摘要:
然后,根据输入层和隐藏层的随机设置的权重值Wi和阈值Bi,测试不会改变训练期间自动生成的Wi和Bi。m是输入层中神经元的数量;n是输出层中神经元的数量;ti)是训练样本极限学习机的训练模型的数学表达式;w2i…wmi]是输入层和隐藏层的权重向量,黄光斌等人提出通过最小化要看到的函数的值来计算输出函数和隐藏层权重。

:在ELM中先将训练样本导入,然后根据随机设置的输入层与隐层的权值Wi以及阈值Bi,然后再测试的时候不改变训练时候自动产生的Wi以及Bi,进行测试在于自己的结果进行比对从而得到测试误差。同样的在训练的时候也是如此来得到训练误差

训练模型如下:

ELM网络训练模型第1张

m为输入层神经元个数,M为隐层神经元的个数,n为输出层神经元的个数,g()为隐层神经元你的激励函数,b为隐层神经元你的阈值,(xi,ti)为训练样本

极限学习机的训练模型的数学表达式:

ELM网络训练模型第2张

wi=[w1i,w2i......wmi]为输入层与隐层的权值向量;  ELM网络训练模型第3张为输出层与隐层的权向量; ELM网络训练模型第4张

极限学习机的代价函数E可表示为:ELM网络训练模型第5张

其中s=(wi,bi,i=1,2,3,......M)。黄广斌等人提出通过最小会待见函数的值来计算出输出函数与隐含层的权值ELM网络训练模型第6张,也就是最小化误差,使得训练的结果与实际的结果之间的差别变小,也就训练的越来越接近真实的结果。实际应用中,如果HHT非奇异,ELM网络训练模型第7张

ELM网络训练模型第8张为H矩阵的广义矩阵,而H矩阵是神经网络的隐层矩阵。O为预测目标值得向量。有岭回归理论可以知道,增加正常数1/C,可以使得结果更加稳定且具备更好的泛化能力也就是

ELM网络训练模型第9张

岭回归是对最小二乘的一种补充,可以降低“病态矩阵”的概率,损失了无偏性,以换取数值的高稳定性。

(1)最小二乘法:

最小二乘法的本质是什么? - 知乎
https://www.zhihu.com/question/37031188

阅读理解:就是一种确保真值与与测试值得误差之和尽量的小

(2)岭回归理论

岭回归_百度百科
https://baike.baidu.com/item/%E5%B2%AD%E5%9B%9E%E5%BD%92/554917?fr=aladdin

 叙述了岭回归和最小二乘的关系,也就在最小二乘使用残差最小化的计算中,又重新加入了另外的一个矩阵。从而改变了最小二乘的无偏差估计。

 (3)病态矩阵

求解方程组时如果对数据进行较小的扰动,则得出的结果具有很大波动,这样的矩阵称为病态矩阵。
我自己理解:类似若是一个方程的X=10带入结果为1,而我进行计算的时候带入方程的解为10.0000001产生的结果为1000000。

Condition number - Wikipedia
https://en.wikipedia.org/wiki/Condition_number

免责声明:文章转载自《ELM网络训练模型》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇微信小程序—显示当前时间C# FreeSpire.Doc 操作word文档下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

Java Array二维数组使用

二维数组:元素为一维数组的数组 package myArray.arrayarray; /* *二维数组:元素为一维数组的数组 * * 定义格式: * A:数组类型[][] 数组名; (推荐用法) * B:数组类型 数组名[][]; * C:数组类型[] 数组名[]; * 初始化: *...

【Python与机器学习】:利用Keras进行多类分类

多类分类问题本质上可以分解为多个二分类问题,而解决二分类问题的方法有很多。这里我们利用Keras机器学习框架中的ANN(artificial neural network)来解决多分类问题。这里我们采用的例子是著名的UCI Machine Learning Repository中的鸢尾花数据集(iris flower dataset)。 1. 编码输出便签...

delphi 数组定义

在c语言中 有:a[5]={1,2,3,4,5} ; 那么在 delphi中,这个数组的赋值该怎么写?? 问题补充:下面有人说的对,我就是想在声明数组的时候赋初值,至于初值的内容你们不需要知道,我想知道的只是申明的时候赋值的格式,而不是通过一个过程去实现 var  a:=array[1..5] of integer=(1,2,3,4,5) 只有全局变量才能...

数据可视化之powerBI技巧(十八)Power BI动态技巧:动态显示列和度量值

今天分享一个可视化小技巧,如何在PowerBI的表格中动态显示需要的列? 就是这样的效果, 也就是根据切片器的筛选,来显示需要的列,做起来很简单,步骤如下: 01 逆透视表 进入Powerquery编辑其中,对该表格逆透视。 选中基础列,也就是固定显示的列,比如[产品名称],然后逆透视其他列, 逆透视后的表格如下, 是不是很乱的感觉? 02 利用矩阵...

Java AES加密解密工具 -- GUI 、在线传输文件

原理 对于任意长度的明文,AES首先对其进行分组,每组的长度为128位。分组之后将分别对每个128位的明文分组进行加密。 对于每个128位长度的明文分组的加密过程如下: (1)将128位AES明文分组放入状态矩阵中。 (2)AddRoundKey变换:对状态矩阵进行AddRoundKey变换,与膨胀后的密钥进行异或操作(密钥膨胀将在实验原理七中详细讨论)。...

基于矩阵式产品管理的奖金如何发放?

目前,对于各个公司产品研发的组织形式主要有三种:职能结构、轻度矩阵、重度矩阵。随着公司各个岗位之间的关联性越来越紧密,多个角色在一起合作的机会越来越多,岗位之间的协作性也就越来越频繁。像国内的华为、迈瑞、海康威视、步步高、方太等高科技企业,很早就实行了基于矩阵式的产品管理模式,如下图的第三种:       矩阵式管理奖金发放面临的问题  众所周知,第一种职...