用局域卡尔曼滤波算法和周期函数在线优化前馈网络的拓扑结构
DOI:
CSTR:
作者:
作者单位:

作者简介:

通讯作者:

中图分类号:

TP183

基金项目:

天津市自然科学基金,国家自然科学基金,023800811,,,


On-line Compact Topological Design of Feedforward Networks Using Local Extended Kalman Filter Algorithm and Periodic Activation Function
Author:
Affiliation:

Fund Project:

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
  • |
  • 文章评论
    摘要:

    提出采用周期函数取代单调上升函数作为激活函数,并在此基础上,为了加快网络收敛速度及在学习过程中自适应地得到网络的最佳拓扑结构,提出了基于广义卡尔曼滤波的自适应学习和删剪学习算法,并把上述算法应用于4点异或逻辑分类和时间序列预测中。计算机模拟结果显示,使用该周期激活函数,一个无隐藏层的二层感知机就能够解决异或逻辑关系问题。此外,提出的广义卡尔曼滤波学习及删剪算法不仅能够加快网络的收敛速度,而且能够在学习过程中自适应地优化网络的拓扑结构。

    Abstract:

    A novel periodic activation function was presented to replace the monotonously increasing type activation function commonly used in feedforward neural networks.To speed up the learning,as well as to reduce the network size,the extended Kalman filter(EKF) algorithm with a pruning method was suggested to train the network.This approach was applied to solve three typical problems,namely,4-point XOR logic function,sunspot series prediction and rotation-invariant classification.Simulation results show that,with the proposed periodic function,a two-layer perceptron (without the hidden layer) is able to solve the XOR problem.Moreover,the EKF algorithm and the pruning scheme also lead to a fast convergence nad a compact network for sunspot series prediction and rotation-invariant classification.

    参考文献
    相似文献
    引证文献
引用本文

林列 常胜江.用局域卡尔曼滤波算法和周期函数在线优化前馈网络的拓扑结构[J].光电子激光,2003,(8):835~841

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:
  • 最后修改日期:
  • 录用日期:
  • 在线发布日期:
  • 出版日期:
文章二维码