深度学习理论/科学的目标是指导实践。但大多数实际问题距离理论的合理解答还需要超过一篇论文。那么，在没有理想的奖励信号“这个理论是否给我们提供了一个SOTA算法？”的情况下，我们该如何取得进展呢？…

即使在全批量梯度下，深度学习优化器也违背了经典优化理论，因为它们在*稳定性边缘*运行。 与@alex_damian_一起，我们引入了“中心流”：一种分析这些动态的理论工具，可以对真实神经网络做出准确的定量预测。