第74期 HackCV 日报

对神经网络进行剪枝操作,可以减低模型的计算复杂度,同时也可以缩小模型的文件大小,但一般都会带来一些精度上的损失。IBM的研究者发表了一篇论文,提出了一个Net-Trim方法,可以做到不影响性能,但可以非常有效地对模型剪枝,重要的是这个方法可以经过数学上的推导证明。具体效果和原理可以参考文中的论文。

高斯过程作为超参数自动优化的工具,非常适合用于对大规模模型和未知估计进行建模。但高斯过程比较难掌握,本篇是不错的入门材料。

这篇长文探索了高斯过程和模型uncertainty之间的关系。模型的uncertainty关乎模型的质量和性能,而模型中最常用的避免过拟合的dropout可以用来解释模型的uncertainty。文中通过对分类和强化学习模型的探索和分析,说明了解了uncertainty可以更好的理解模型。