科学网

 找回密码
  注册
搜索
热搜: 科学 论文
搜索
图像重采样(上下采样)
张伟 2020-5-9 18:50
图像重采样包含两种情形,一种是下采样(downsampling),把图像变小;另一种是上采样(upsampling),把图像变大。 下采样:高斯金字塔顶端 & ...
个人分类: 机器学习|5566 次阅读|没有评论
SVM(升维大法)
张伟 2020-5-6 16:59
(一)SVM结构 (1)引入模型复杂度概念;(2)SVM引入--间隔最大化概念; (3)软间隔有松弛变量; (4)非线性核与升维打击。 (二)具体阐述 (1)SVM--突破线性分类器的极限? (2)结构风险最小与间隔最大化 如何最保险的分开两组点? (3)二次优化框架 ...
个人分类: 机器学习|2450 次阅读|没有评论
神经网络(升维大法)
热度 1 张伟 2020-5-5 15:46
(一)传统机器学习的问题 (1)线性分类器极限 存在线性不可分的情况。VC维提供了一个检验模型复杂度的有效方法,VC维越高的模型,模型越复杂,处理的情况越多,能够匹配的真实度越高,能力越强,可操作空间越大。当然,VC维越高,容易过拟合。   ...
个人分类: 机器学习|2372 次阅读|1 个评论 热度 1
PCA
张伟 2020-5-5 13:33
传统机器学习算法一览 无监督学习 主要有 降维算法 和 聚类算法 。 -Dimension Reduction- 选择正确的数据特征表示方法是重要的,有利于发现数据潜在规律。 什么是PCA?PCA-其名称 principle component analysis就是一种能够从高维度数据里 ...
个人分类: 机器学习|1125 次阅读|没有评论
集群模型
张伟 2020-5-5 12:15
决策树容易过拟合,集群模型可以有效缓解这个问题。主要有Bagging和Boosting、stacking方法。 探讨: 一棵树和一个森林的比较(随机森林) 随机森林的显著效果是 :减少模型方差,可以有效防止过拟合!(其特点并非:增大模型拟合力,见少偏差)。 ( ...
个人分类: 机器学习|1018 次阅读|没有评论
决策树
张伟 2020-5-4 22:04
(一)决策树基本内容 (1)什么是决策树 决策树学习最著名的算法 :ID3;C4.5;CART。 (2)如何构建决策树 提炼问题,然后应用相应的特征(yes or no)去解答,利用if else语句表达--机械遍历法。 (3)问题提炼--如何让机器知道什么重要?( 统计 ...
个人分类: 机器学习|1053 次阅读|没有评论
Logistic Regression(逻辑斯蒂回归)(续)
张伟 2020-5-4 19:21
如何求解和优化(优化方法)--使经验误差最小的值? 方法一:随机梯度下降法 方法二:牛顿法(二阶优化方法 ) 凸优化问题:刚开始步子迈大一点,后来小一点,自适应去调整,比随机梯度速度更快。 eta 的本质: 移动步长 缺点 : 收 ...
个人分类: 机器学习|1187 次阅读|没有评论
概率论和统计学的区别
热度 1 张伟 2020-5-4 17:05
Larry Wasserman在他的统计学巨作All of Statistics的序言里有说过概率论和统计推断的区别,如下图所示。 它们之间的区别包括: (1)概率论是统计推断的基础,在给定数据生成过程下观测、研究数据的性质 ; (2)而统计推断则根据观测的数据,反向思考其 ...
个人分类: 机器学习|4166 次阅读|2 个评论 热度 1
机器学习范式与分类问题
张伟 2020-5-2 14:51
(一)总览(Landscape) (1)机器学习范式大观 (2)分类问题的引入 (3)感知机算法 (4)KNN算法 (二)机器学习范式大观 (1)机器学习基本分类 (2)监督 VS 无监督学习 (3)监督学习 VS 强化学习 (4)三大机器学习共通之处 (三)监督学习中分类、回归及特征 (1)分类 (2 ...
个人分类: 机器学习|1637 次阅读|没有评论
Logistic Regression(逻辑斯蒂回归)
张伟 2020-5-1 23:22
Logistic Regression是统计学中的经典分类方法( 给出的结果是概率性的,没有是或否 );最大熵是概率模型学习的一个准则,将其推广到分类问题得到最大熵模型(maximum entropy model)。 Logistic Regression 和 maximum entropy model 都属于对数线性模型。 (一)基本框架和概 ...
个人分类: 机器学习|1154 次阅读|没有评论

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-12-2 15:59

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部