不动如山分享 http://blog.sciencenet.cn/u/hustliaohh 脚踏实地,稳步向前

博文

十五讲 Validation

已有 2403 次阅读 2014-1-16 15:47 |个人分类:科研道路|系统分类:科研笔记

Minimizes augmented error, where the added regularizer effectively limits model complexity.

1. Model Selection Problem

机器学习需要太多的选择,如迭代次数,学习率的大小,损失函数,正则化参数等等。


我们的终极目标是选择能够使$E_{out}$最小的分类器,但实际上不可行。


那么,我们可以转而选择使得在测试集上次错误最小的分类器。


Comparison between $E_{in}$ and $E_{test}$


2. Validation


Model Selection by Best $E_{val}$




3. Leave-One-Out Cross Validation


Theoretical Guarantee of Leave-One-Out Estimate


4. V-Fold Cross Validation





http://blog.sciencenet.cn/blog-507072-759699.html

上一篇:十四讲 Regularization
下一篇:关于《science》上一篇论文与本人之前一篇论文的对比感想

1 陆泽橼

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2020-2-25 17:33

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部