就具有RBF节点的前馈网络而言，序贯学习算法也已流行起来。这些包括资源分配网络（RAN）[4]及其扩展[5] - [9]。与SGBP不同的是，RBF隐藏节点与RAN [4]及其变体[5] - [9]中的数量不是预先定义的。 RAN [4]和RANEKF [5]基于输入数据的新旧性确定是否添加新节点。除了增长节点之外，MRAN [6]，[7]，GAP-RBF [8]和GGAP-RBF [9]还需要对许多控制参数进行调整，问题是其学习速度可能较慢[8]，[9]。虽然GAP-RBF [8]和GGAP-RBF [9]试图简化顺序学习算法和减慢增加速度，但他们需要输入采样分布或输入采样范围的信息，并且学习对于大型应用可能仍然很慢。此外，所有上述顺序学习算法仅一个接一个地处理数据，并且不能通过块来处理块（数据块）上的数据。值得注意的是，所有基于BP和基于RAN的顺序学习算法只能处理特定类型的隐藏（加法或RBF）节点，而不是两者。

在本文中，引入了一种顺序学习算法，称为在线序贯终端学习机（OS-ELM），可以在一个统一的框架下处理加法和RBF节点。 OS-ELM不仅可以一个接一个地学习训练数据，而且可以通过组块（具有固定长度或变化长度）来学习训练数据，并且丢弃已经完成训练的数据。在下述意义上它是一个通用的序贯学习算法：

1）训练观测数据是按序贯方式（由一个接一个或块或固定长度）提交的学习算法

2) 在任何时候,仅观测和学习新来的单个或单块的数据。

3) 就特定的单个或单块观测数据而言，一旦完成了学习过程，就会丢弃单个或单块的训练数据。

4) 学习算法没有多少先验知识来训练观测数据。

OS-ELM源于开发了具有加法和RBF节点的SLFN批处理终端学习机（ELM）[10]~[12]，[7]， 

[10]。 ELM的性能已经对函数回归和分类领域的许多基准问题进行了评估。 结果表明，与其他基于梯度下降的学习算法（包括BP算法）相比，ELM在更高的学习速度下提供更好的泛化性能，并且在许多应用程序中的学习阶段在几秒钟内完成[10]~[13]。

在具有附加节点的OS-ELM中，随机生成输入权重和偏差，并且基于此来分析确定输出权重。 类似地，在具有RBF节点的OS-ELM中，节点的中心和宽度是随机生成并固定的，然后基于此，分析确定输出权重。 与其他具有许多要调整的控制参数的顺序学习算法不同，OS-ELM只需要指定隐藏节点的数量。

通过将其与诸如SGBP，RAN，RANEKF，MRAN，GAP-RBF和GGAP-RBF的其它顺序学习算法进行比较来评估所提出的OS-ELM的性能。来自回归，分类和时间序列预测的基准问题的实验结果表明，所提出的OS-ELM在非常快的学习速度下产生更好的泛化性能。对于回归，考虑的基准问题是来自加利福尼亚大学尔湾分校（UCI）机器学习库[14]的三个更高维的现实世界问题，即：1）鲍鱼 - 使用鲍鱼数据库确定鲍鱼的年龄; 2）使用Auto-MPG数据库对不同型号车辆的燃料消耗进行自动MPG确定; 3）加州住房 - 使用加利福尼亚住房数据库估计加利福尼亚地区房价中位数。对于分类，比较是基于以下现实基准问题[14]，即：1）图像分割问题；2）卫星图像问题；和3）DNA问题。

1.1  工程背景及意义

    回归问题：在这里研究了三个基准问题，即：自动MPG，鲍鱼和加利福尼亚住房[14]。 自动MPG问题是预测不同型号的汽车的燃料消耗（英里每加仑）。 鲍鱼问题是根据物理测量估计鲍鱼的年龄，加州住房问题是根据使用1990年人口普查中加利福尼亚所有块群体收集的信息来预测加利福尼亚中位数房屋价格。 对于这里研究的所有问题，训练和测试数据是随机选择的每个试验。

分类问题：对于分类研究，有三个基准问题：图像分割，卫星图像和DNA [14]。图像分割问题包括从七个户外图像中随机抽取的图像数据库。从数据库中随机抽取训练和测试数据集。时间序列预测的需要出现在许多现实世界的问题，例如检测心跳心律失常，股市指数等。 OS-ELM快速精确的在线序贯超限学习机(2):http://www.chuibin.com/jisuanji/lunwen_205565.html