徐彦 作品数:14 被引量:45 H指数:4 供职机构: 南京农业大学 更多>> 发文基金: 国家自然科学基金 中央高校基本科研业务费专项资金 江苏省农业科技自主创新基金 更多>> 相关领域: 自动化与计算机技术 电子电信 更多>>
多层感知机权值扰动敏感性计算算法研究 被引量:1 2015年 多层感知机(MLP)对权值扰动的敏感性反映当网络权值发生变化时网络输出的变化规律,是研究MLP学习机制的一种重要衡量工具。系统讨论MLP对权值扰动的敏感性计算方法,提出一种层层递进的敏感性近似算法。利用数值积分从第一层神经元开始计算,后一层神经元的计算利用前一层的结果,最终给出所有层神经元以及整个网络的敏感性计算表达式。该敏感性计算算法只要求网络的各维输入相互独立,而对其具体的分布无任何限制,同时还具有计算复杂度低、通用性强等优点,模拟实验验证了该算法的准确性和有效性。 杨静 徐彦 姜赢关键词:敏感性 多层感知机 权值 带延迟调整的脉冲神经元梯度下降学习算法 被引量:1 2019年 脉冲神经元有监督学习算法通过梯度下降法调整神经元的突触权值,但目标学习序列长度的增加会降低其精度并延长学习周期。为此,提出一种带延迟调整的梯度下降学习算法。将每个突触的延迟作为学习参数,在学习过程中调整权值,同时对突触的延迟时间进行梯度下降调整,从而使神经元激发出目标脉冲序列。实验结果表明,该算法在不增加算法复杂度的情况下,能够提高神经元学习复杂脉冲序列的能力,且收敛速度较快。 杨静 徐彦 赵欣关键词:脉冲序列 梯度下降 神经元突触 一种基于MRⅡ算法的三层二值双向联想记忆网络 2018年 传统的两层二值双向联想记忆(BAM)网络因其结构的限制存在着存储容量有限、区分小差别模式和存储非正交模式能力不足的缺陷,结构上将其扩展至三层网络是一个有效的解决思路,但是三层二值BAM网络的学习是一个难题,而三层连续型BAM网络又存在处理二值问题不方便的问题。为了解决这些问题,提出一种三层结构的二值双向联想记忆网络,创新之处是采用了二值多层前向网络的MRⅡ算法实现了三层二值BAM网络的学习。实验结果表明,基于MRⅡ算法的三层二值BAM网络极大地提高了网络的存储容量和模式区分能力,同时保留了二值网络特定的优势,具有较高的理论与实用价值。 徐彦 熊迎军关键词:双向联想记忆网络 基于梯度下降的脉冲神经元在线学习方法 被引量:6 2015年 现有基于梯度下降的脉冲神经元脉冲序列学习方法采用离线学习方式,即神经元运行结束后再根据全部输出脉冲调整突触权值。基于真实生物神经元突触强度的在线调整机制,提出一种在线方式的基于梯度下降的脉冲序列学习方法。在神经元运行过程中,当有脉冲激发时,即刻根据实际与期望输出脉冲调整突触权值。实验结果表明,该方法可有效实现脉冲序列学习,与离线的基于梯度下降的方法相比,具有更高的学习精度。 徐彦关键词:梯度下降 脉冲神经元脉冲序列学习方法综述 被引量:3 2018年 脉冲神经元是一种新颖的人工神经元模型,其有监督学习的目的是通过学习使得神经元激发出一串通过精确时间编码来表达特定信息的脉冲序列,故称为脉冲序列学习。针对单神经元的脉冲序列学习应用价值显著、理论基础多样、影响因素众多的特点,对已有脉冲序列学习方法进行了综述对比。首先介绍了脉冲神经元模型与脉冲序列学习的基本概念;然后详细介绍了典型的脉冲序列学习方法,指出了每种方法的理论基础和突触权值调整方式;最后通过实验比较了这些学习方法的性能,系统总结了每种方法的特点,并且讨论了脉冲序列学习的研究现状和进一步的发展方向。该研究结果有助于脉冲序列学习方法的综合应用。 徐彦 熊迎军 杨静关键词:脉冲神经网络 脉冲序列 基于离散随机技术的Madaline敏感性近似计算研究 被引量:2 2011年 本文系统地讨论了离散型前向神经网络Madaline的输出对网络参数扰动的敏感性计算.首先,根据神经元Adaline的离散特性,提出了一种离散随机技术方法,推导了Adaline敏感性近似计算公式.该方法从理论上解决了已有的连续随机技术方法无法处理的情况,取消了过强的限制条件,并使得从理论上对Adaline敏感性近似计算进行误差分析成为可能.其次,在Adaline敏感性基础上,针对Madaline的结构特性以及处理层间信息传递面临的高复杂度组合计算问题,提出了一种新的基于贡献度大小的取舍策略来计算Madaline敏感性.该策略在计算精度上优于现有的简单平均方法,并降低了计算复杂度.本文给出的敏感性近似计算公式和算法具有形式简单、计算复杂度低、近似误差小、一般性强等优点,大量的仿真模拟实验验证了公式和算法的准确性和有效性. 钟水明 曾晓勤 刘惠义 徐彦关键词:ADALINE FEEDFORWARD NETWORKS 敏感性 基于特征迁移的多物种鸟声识别方法 被引量:8 2017年 针对多物种鸟声识别中多物种鸟声样本不足的问题,尝试采用单物种鸟声样本训练多物种鸟声识别模型,并提出一种基于特征迁移的多物种鸟声识别方法。该方法引入特征迁移学习算法,利用最大均值差异(Maximum mean discrepancy,MMD)度量鸟声样本特征分布差异,将不同分布的单物种鸟声和多物种鸟声的音频特征映射为同分布的潜在音频特征,再基于同分布的音频特征构造识别模型。使得单物种鸟声样本训练的识别模型也能够适用于多物种鸟声识别。在自然形成的多物种鸟声数据集上,算法在4项多标记评价指标上都取得了较好的识别效果;在人工构造的多物种鸟声数据集上对比试验表明,基于特征迁移的识别算法在单个物种上的正确识别率相较于对比算法最高提升了20%。 刘昊天 姜海燕 舒欣 徐彦 伍艳莲 郭小清采用资格迹的神经网络学习控制算法 被引量:4 2015年 强化学习是解决自适应问题的重要方法,被广泛地应用于连续状态下的学习控制,然而存在效率不高和收敛速度较慢的问题.在运用反向传播(back propagation,BP)神经网络基础上,结合资格迹方法提出一种算法,实现了强化学习过程的多步更新.解决了输出层的局部梯度向隐层节点的反向传播问题,从而实现了神经网络隐层权值的快速更新,并提供一个算法描述.提出了一种改进的残差法,在神经网络的训练过程中将各层权值进行线性优化加权,既获得了梯度下降法的学习速度又获得了残差梯度法的收敛性能,将其应用于神经网络隐层的权值更新,改善了值函数的收敛性能.通过一个倒立摆平衡系统仿真实验,对算法进行了验证和分析.结果显示,经过较短时间的学习,本方法能成功地控制倒立摆,显著提高了学习效率. 刘智斌 曾晓勤 徐彦 禹继国关键词:神经网络 倒立摆 梯度下降 局部标记关系的多标记迁移学习算法 被引量:3 2017年 现有多标记迁移学习主要利用全局标记关系信息,由于源领域与目标领域的标记关系存在差异,源领域中全局标记关系不适合于目标领域.本文提出一种局部标记关系的多标记迁移学习算法,该算法通过对样本的标记进行聚类和最小化联合损失函数,可以有效的挖掘领域间共享的局部标记关系,对应的局部关系编码可以作为样本的辅助特征从而提高模型性能.图像分类实验表明,在多标记迁移学习中,基于局部标记关系的学习算法相比基于全局标记关系的学习算法具有更好的分类效果;本文所提算法与现有算法相比具有更好的分类效果. 刘昊天 舒欣 姜海燕 徐彦 伍艳莲 郭小清关键词:多标记 Spiking神经元输入脉冲扰动敏感性研究 被引量:3 2017年 脉冲神经网络是一种基于生物的网络模型,它的输入输出为具有时间特性的脉冲序列,其运行机制相比其他传统人工神经网络更加接近于生物神经网络。神经元之间通过脉冲序列传递信息,这些信息通过脉冲的激发时间编码能够更有效地发挥网络的学习性能。脉冲神经元的时间特性导致了其工作机制较为复杂,而spiking神经元的敏感性反映了当神经元输入发生扰动时输出的spike的变化情况,可以作为研究神经元内部工作机制的工具。不同于传统的神经网络,spiking神经元敏感性定义为输出脉冲的变化时刻个数与运行时间长度的比值,能直接反映出输入扰动对输出的影响程度。通过对不同形式的输入扰动敏感性的分析,可以看出spiking神经元的敏感性较为复杂,当全体突触发生扰动时,神经元为定值,而当部分突触发生扰动时,不同突触的扰动会导致不同大小的神经元敏感性。 杨静 徐彦 赵欣关键词:敏感性 突触