报告题目:A Random Matrix Approach to Neural Networks: From Linear to Nonlinear, and from Shallow to Deep

报 告 人:Zhenyu Liao

报告人所在单位:华中科技大学

报告日期:2025年4月21日

报告时间:14:00 - 15:00

报告地点:光华楼东主楼 2001

报告摘要:Deep neural networks have become the cornerstone of modern machine learning, yet their multi-layer structure, nonlinearities, and intricate optimization processes pose considerable theoretical challenges. In this talk, I will review recent advances in random matrix analysis that shed new light on these complex ML models. Starting with the foundational case of linear regression, I will demonstrate how the proposed analysis extends naturally to shallow nonlinear and ultimately deep nonlinear network models. I will also discuss practical implications (e.g., compressing and/or designing "equivalent" NN models) that arise from these theoretical insights.

个人简介:廖振宇,于法国巴黎萨克雷大学获数学与计算机博士学位,后在美国加州大学伯克利分校从事博士后研究工作,于2021年起至今在华中科技大学电信学院工作,任副研究员。主要从事“面向高维数据的大规模机器学习的理论和方法”的研究,发展非线性高维统计学和随机矩阵理论以解决大规模机器学习中的基础理论问题,相关研究成果形成论文三十余篇,发表在ICML、NeurIPS、ICLR、COLT、SIGMOD、IEEE TKDE、IEEE TSP、AAP和JSTAT等机器学习和数据处理顶级会议与期刊,合著专著Random Matrix Methods for Machine Learning。任ICLR、ICML、IJCNN会议领域主席、Statistics and Computing期刊学术编辑;受邀任加拿大CRM-Simons访问教授、法国自然科学基金ANR-CIMI访问教授。获湖北省、武汉市人才计划和法国巴黎萨克雷大学ED STIC优秀博士论文;牵头或参与包括自然科学基金青年项目、数理学部(重点)专项项目,华为拉格朗日数学计算中心研究基金、CCF-海康威视斑头雁基金等一系列科研项目。任中国现场统计研究会随机矩阵理论与应用分会副秘书长、大数据统计分会理事。