刘新为 作品数:11 被引量:56 H指数:4 供职机构: 河北工业大学理学院 更多>> 发文基金: 国家自然科学基金 河北省自然科学基金 国家杰出青年科学基金 更多>> 相关领域: 理学 自动化与计算机技术 更多>>
线性无关假设如何影响非线性约束最优化算法 被引量:1 2013年 首先综述非线性约束最优化最近的一些进展.首次定义了约束最优化算法的全局收敛性.注意到最优性条件的精确性和算法近似性之间的差异,并回顾等式约束最优化的原始的Newton型算法框架,即可理解为什么约束梯度的线性无关假设应该而且可以被弱化.这些讨论被扩展到不等式约束最优化问题.然后在没有线性无关假设条件下,证明了一个使用精确罚函数和二阶校正技术的算法可具有超线性收敛性.这些认知有助于接下来开发求解包括非线性半定规划和锥规划等约束最优化问题的更加有效的新算法. 刘新为关键词:内点方法 线性无关性 局部收敛性 外推系数带参数的加速邻近梯度算法 被引量:2 2016年 加速邻近梯度算法(APG)是求解极小化光滑与非光滑凸函数和问题的一种非常有效的一阶方法.注意到外推系数选取的好坏与算法的数值表现息息相关.本文考虑了算法中外推系数的更一般形式,提出了一类外推系数带参数的加速邻近梯度算法,证明了该算法在一定的条件下具有和快速迭代收缩阈值算法(FISTA)相同的全局收敛速率.数值试验表明,适当地选取外推系数的参数会使新算法产生的误差值小于FISTA产生的误差值,从而得到更清晰的图像.数值试验同时给出了外推系数中参数的变化对图像去模糊的影响. 刘紫娟 李慧云 刘新为一种惯性邻近的Peaceman-Rachford分裂方法 被引量:4 2017年 严格压缩的Peaceman-Rachford(PR)分裂方法是一种收敛速度快于交替方向乘子法的求解线性约束可分离凸优化问题的有效方法.最近提出的半邻近PR分裂方法是严格压缩的PR分裂方法的一种改进方法.基于惯性邻近交替方向乘子法的思想,本文进一步改进了半邻近PR分裂方法,提出了一种惯性邻近PR分裂方法.该方法利用前两次产生的迭代点来产生新的迭代点,可以加速半邻近PR分裂方法的收敛.本文提出的方法具有一般性,它包含严格压缩的PR分裂方法和半邻近PR分裂方法作为特殊情形.在一定的假设下,本文证明了该算法产生的迭代序列的渐进可行性及函数值的收敛性,进而得到了迭代序列的全局收敛性.最后,本文通过数值试验说明了算法的有效性. 窦明圆 李慧云 刘新为关键词:凸优化 退化线性规划的一个新的改进的单纯形方法 被引量:2 2012年 本文讨论退化线性规划单纯形方法最优解的判定准则和有限主元规则.首先改进简约价值系数向量,提出线性规划单纯形方法最优解的判定准则.并且利用本文的判定准则给出[3]中定理2.3.5(P.84)的一个新的证明.然后提出一种新的混合有限主元规则,在退化情形下通过对单纯形表使用新的混合有限主元规则进行迭代,可以判断当前退化基本可行解或为最优解或给出下次迭代的主元并且跳出循环.最后给出在一组经典的退化线性规划例子下,改进的单纯形方法好的计算表现. 赵海峰 刘新为关键词:线性规划 单纯形方法 最优解 一种稀疏流形低秩表示的子空间聚类方法 被引量:1 2023年 针对基于非负低秩稀疏表示的子空间聚类方法不能准确描述数据集结构的问题,提出了一种稀疏流形低秩表示的子空间聚类方法。该方法使用双曲正切函数代替核范数来估计秩函数,并利用加权稀疏正则项使表示系数矩阵稀疏,同时引入稀疏流形正则项来刻画数据集的内在流形结构信息。首先通过带有自适应惩罚的线性交替方向法求解子空间表示模型。然后利用获得的表示系数矩阵构造相似度矩阵,结合使用谱聚类方法得到数据集的聚类结果,最后采用基于局部和全局一致性的半监督分类方法获得数据集的分类结果。在Extended Yale B数据库、CMU PIE数据库、ORL数据库、COIL 20数据库和MNIST数据库上的实验结果表明,本方法可以提高子空间聚类和半监督学习的准确率。 罗申星 于腾腾 刘新为 温博关键词:子空间聚类 线性与非线性规划算法与理论 被引量:34 2014年 线性规划与非线性规划是数学规划中经典而重要的研究方向.主要介绍该研究方向的背景知识,并介绍线性规划、无约束优化和约束优化的最新算法与理论以及一些前沿与热点问题.交替方向乘子法是一类求解带结构的约束优化问题的方法,近年来倍受重视.全局优化是一个对于应用优化领域非常重要的研究方向.因此也试图介绍这两个方面的一些最新研究进展和问题. 戴彧虹 刘新为关键词:线性规划 非线性规划 无约束优化 全局优化 线性与非线性规划算法与理论 线性规划与非线性规划是数学规划中经典而重要的研究方向.主要介绍该研究方向的背景知识,并介绍线性规划、无约束优化和约束优化的最新算法与理论以及一些前沿与热点问题.交替方向乘子法是一类求解带结构的约束优化问题的方法,近年来倍... 戴彧虹 刘新为关键词:线性规划 非线性规划 文献传递 无约束最优化的信赖域BB法 被引量:4 2016年 梯度法是求解无约束最优化的一类重要方法.步长选取的好坏与梯度法的数值表现息息相关.注意到BB步长隐含了目标函数的二阶信息,本文将BB法与信赖域方法相结合,利用BB步长的倒数去近似目标函数的Hesse矩阵,同时利用信赖域子问题更加灵活地选取梯度法的步长,给出求解无约束最优化问题的单调和非单调信赖域BB法.在适当的假设条件下,证明了算法的全局收敛性.数值试验表明,与已有的求解无约束优化问题的BB类型的方法相比,非单调信赖域BB法中ek=||xk-x*||的下降呈现更明显的阶梯状和单调性,因此收敛速度更快. 刘亚君 刘新为关键词:无约束最优化 信赖域方法 全局收敛性 带自适应学习率的加速随机方差缩减梯度法 被引量:1 2021年 由于随机方差缩减梯度(SVRG)法在求解经验风险最小化(ERM)问题时表现优异,近年来受到了广泛关注.与SVRG方法中使用固定的学习率不同,结合初始化偏差矫正技术,提出使用自适应方法来动态计算SVRG方法及其加速版本FSVRG方法的学习率,分别称为AdaSVRG方法和AdaFSVRG方法.收敛性分析表明,AdaSVRG方法和AdaFSVRG方法在强凸假设下均具有线性收敛速率.在标准数据集上的数值实验表明,在求解ERM问题时,AdaSVRG和AdaFSVRG需要更少的迭代次数就可以达到相同水平的优化间隙. 陈国茗 于腾腾 刘新为关键词:自适应学习率 求解界约束优化的一种新的非单调谱投影梯度法 被引量:10 2013年 本文给出求解界约束优化问题的一种新的非单调谱投影梯度算法.该算法是将谱投影梯度算法与Zhang and Hager[SIAM Journal on Optimization,2004,4(4):1043-1056]提出的非单调线搜索结合得到的方法.在合理的假设条件下,证明了算法的全局收敛性.数值实验结果表明,与已有的界约束优化问题的谱投影梯度法比较,利用本文给出的算法求解界约束优化问题是有竞争力的. 毕亚倩 刘新为关键词:非单调线搜索