arXiv cs.AI / cs.LG 最新· Matan Tsipory·· 3 天前AI 评分56
论文借热力学第二定律分析深度网络的全局收敛
Global Convergence in Deep Networks via the Second Law of Thermodynamics
AI 导读
该论文用受热力学第二定律启发的测度变换不等式，分析 L2 正则化连续时间 Langevin 动力学训练前馈网络的过程。借助初始化时 NTK 最小特征值的更紧下界，作者证明注入噪声能在高概率下保持 NTK 稳定性，又不把权重锁在初始化附近，并给出期望训练损失的非渐近上界以及宽度和噪声温度的显式收敛条件。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。