Problem
Methods
-Akaike Information Criterion (AIC)
-Bayesian Information Criterion (BIC)
-Cross-Validation (CV)
-Generalized Cross-Validation (GCV)
-Stein’s Unbiased Estimate of Risk (SURE)
Conclusion
偏差-方差分解,模型拟合与预测之间的关系
Loss of information: 用我们估计得到的模型去逼近真实的模型所造成的信息损失的度量
Conclusions
小的“偏差”意味着从平均意义上,可以从已有的数据中估计出真实的函数
小的“方差”表示我们得到的估计不会随着训练集的变化而发生较大的改变
Occam’s razor:设计者不应该选用比“必要”更加复杂的分类器,“必要”是由训练数据的拟合情况所决定。
Satisfying: 实现一个“合适”的解(未必是最优)已经足够
选一个合适的参数
https://blog.sciencenet.cn/blog-4099-637823.html
上一篇:
[CV论文读讲] Fast Iterative Soft-Thresholding Algorithm下一篇:
[CV论文读讲] LARS