5月10日，应数学与统计学院邀请，福州大学刘勇进教授做客“牧野格致”讲堂为学院师生作题为“qNBO: quasi-Newton Meets Bilevel Optimization”的学术讲座，学院相关研究方向师生参加此次讲座，裴永刚主持。
双层优化解决了分层学习任务中的挑战，在机器学习领域引起了极大的兴趣。梯度下降法在双层优化中的实际应用遇到了计算困难，特别是精确下层解的计算和下层目标的Hessian逆。虽然这两个方面是内在联系的，但现有的方法通常通过解决低级问题和Hessian逆-向量积的线性系统来分别处理它们。刘勇进教授介绍一个通用框架，以协调的方式解决这些计算挑战。具体来说，刘勇进教授利用准牛顿算法来加速低级问题的求解，同时有效地近似Hessian逆-向量积。此外，通过利用BFGS的超线性收敛特性，刘勇进教授在框架内建立了BFGS自适应的非渐近收敛分析。数值实验表明，所提出的算法在现实世界的学习任务中具有相当或更优的性能，包括超参数优化、数据超清洗等。报告结束后，刘勇进教授针对与会师生提出的相关问题进行了详细解答，并与大家展开深入的讨论交流。
专家简介：
刘勇进，福州大学嘉锡学者特聘教授、博士生导师，福建省闽江特聘教授、福州大学数学与统计学院院长，担任福建省应用数学中心（福州大学）主任。研究兴趣主要包括：最优化理论、方法与应用，大规模数值计算，统计优化等，研究成果在包括Mathematical Programming (Series A)、SIAM Journal on Optimization、SIAM Journal on Scientific Computing等优化与计算领域国际顶级学术期刊上发表。主持国家自然科学基金4项（面上项目3项、青年基金1项），主持教育部、省重点项目等部省级纵向科研项目7项。现任中国数学会理事、中国运筹学会数学规划分会常务理事、中国运筹学会算法软件与应用分会常务理事、中国统计学会理事、中国运筹学会智能工业数据解析与优化分会理事、福建省运筹学会会长、福建省数学学会副会长。担任国际期刊Annals of Applied Mathematics编委。
（数学与统计学院 郭静邑）
最新通知