机器学习的数学理论

本书重点研究机器学习的数学理论。第一部分探讨了在非凸优化问题中, 选择梯度下降步长来避免严格鞍点的最优性和自适应性。第二部分提出了在非凸优化中寻找局部极小值的算法, 并利用牛顿第二定律在一定程度上得到无摩擦的全局极小值。第三部分研究了含有噪声和缺失数据的子空间聚类问题, 这是一个由随机高斯噪声的实际应用数据和含有均匀缺失项的不完全数据激发的问题; 还提出了一种新的具有粘性网正则化的VAR模型及其等价贝叶斯模型, 该模型既考虑了稳定的稀疏性, 又考虑了群体选择。