Logistic Regression（逻辑斯蒂回归）

张伟 2020-5-1 23:22

Logistic Regression是统计学中的经典分类方法（ 给出的结果是概率性的，没有是或否 ）；最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型（maximum entropy model）。 Logistic Regression 和 maximum entropy model 都属于对数线性模型。 （一）基本框架和概 ...

个人分类: 机器学习|2878 次阅读|没有评论

机器学习背后的数学（上）

张伟 2020-4-29 19:23

三个问题引入： （1）机器学习什么时候会成功？ （2）什么样的模型是好模型？ （3）什么样的特征是好特征？ 解答： （一）机器学习成功依靠 （1）模式存在（ Pattern exists） ① 什么是模式？（提炼稳定的规律性的内容，可以用于后续推测） ...

个人分类: 机器学习|2237 次阅读|没有评论

KNN算法

张伟 2020-4-29 16:49

（1）最符合直觉的分类器-K近邻算法（一种灵活的分类器） （2）距离 ①欧式距离 ②曼哈顿距离 ③明可夫斯基距离（用的少） （3）KNN投票机制 （4）如何选择K值--交叉验证 （5）过拟合与欠拟合 （one more example） 过拟合与欠拟合的直观类比 （6）KNN困境 ①维度增 ...

个人分类: 机器学习|3663 次阅读|没有评论

本页有 1 篇博文因作者的隐私设置或未通过审核而隐藏