博文
[CV论文读讲] 稀疏表达综述Sparse Representation
||
稀疏的意义 (李海昌)
1. 自然图像/生物感知具有稀疏性
2. 稀疏的表达方式及将稀疏引入的方式目标的方式.
1. 自然图像/生物感知具有稀疏性
2. 稀疏的表达方式及将稀疏引入的方式目标的方式.
1. Basis Pursuit (戴玮)
核心思想: 将问题转化为线性规划问题.
关 键 点: 1范数的线性规划转换.
优 点: 直观, 可用线性规划求解.
缺 点: 约束过多(线性正比与表达系数个数).
核心思想: 将问题转化为线性规划问题.
关 键 点: 1范数的线性规划转换.
优 点: 直观, 可用线性规划求解.
缺 点: 约束过多(线性正比与表达系数个数).
2. ISTA and FISTA ( 谷鹄翔 + 肖鸿飞 )
核心思想: 每次迭代利用原函数的某个上界函数来 近似.
关 键 点: 上界函数求导有较易求解的(解耦)闭合解.
优 点: 直观, 直接针对LASSO目标函数.
缺 点: 一般收敛较慢 (与数据的最大特征值有关).
注 意 点: 构造上界函数需要一定技巧.
核心思想: 每次迭代利用原函数的某个上界函数来 近似.
关 键 点: 上界函数求导有较易求解的(解耦)闭合解.
优 点: 直观, 直接针对LASSO目标函数.
缺 点: 一般收敛较慢 (与数据的最大特征值有关).
注 意 点: 构造上界函数需要一定技巧.
3. LARS + Homotopy (康翠翠+肖鸿飞+钟子沙+戴玮)
核心思想: 迭代中, 每次选择(或删除)一维表达.
关 键 点: 加入或删除的维计算策略(两个目标函数).
优 点: 收敛速度较快, 稀疏度较高.
缺 点: 不直接表现LASSO的目标函数.
注 意 点: 可以看成是一个子集选择过程.
核心思想: 迭代中, 每次选择(或删除)一维表达.
关 键 点: 加入或删除的维计算策略(两个目标函数).
优 点: 收敛速度较快, 稀疏度较高.
缺 点: 不直接表现LASSO的目标函数.
注 意 点: 可以看成是一个子集选择过程.
1. De-noise K-SVD (徐元)
借 鉴: 用noise图像本身来学字典
类似的思路:
在ICCV 2009中, 超分辨率字典由图像自身学习得到.
借 鉴: 用noise图像本身来学字典
类似的思路:
在ICCV 2009中, 超分辨率字典由图像自身学习得到.
2. Super Resolution (刘绍国)
注 意: 为了保持相邻patches之间的兼容性, 所做的处理.
注 意: 为了保持相邻patches之间的兼容性, 所做的处理.
3. NMF (朱飞云)
注 意: Sparsity Metric (相应的光滑性也应了解).
更 新: NMF的梯度下降更新能保证还是NM.
注 意: Sparsity Metric (相应的光滑性也应了解).
更 新: NMF的梯度下降更新能保证还是NM.
Discussion
1. 稀疏的物理意义?
1. 为什么稀疏能够起作用?
2. 目标函数转化为1范数, 为什么能(或还能)起作用?
3. Smooth VS Sparse.
1. 稀疏的物理意义?
1. 为什么稀疏能够起作用?
2. 目标函数转化为1范数, 为什么能(或还能)起作用?
3. Smooth VS Sparse.
2. 1范数有什么意义.
1. 1范数, 2范数及鲁棒估计之间的联系.
1. 1范数, 2范数及鲁棒估计之间的联系.
3. 其它的稀疏表达.
1. 层次稀疏.
2 矩阵21范数引导的行或列稀疏.
3 Non-smooth
1. 层次稀疏.
2 矩阵21范数引导的行或列稀疏.
3 Non-smooth
4. 稀疏与其它目标集合在一起.
1 字典学习 (de-noise为例).
2. 组稀疏表达(21范数).
1 字典学习 (de-noise为例).
2. 组稀疏表达(21范数).
5. 稀疏的其它应用.
把问题看成表达问题.
把问题看成字典学习问题.
2范数1范数.
把问题看成表达问题.
把问题看成字典学习问题.
2范数1范数.
相关PPT下载详见 “视觉计算研究论坛”「SIGVC BBS」：http://www.sigvc.org/bbs/thread-47-1-2.html
https://blog.sciencenet.cn/blog-4099-638591.html
上一篇：[CV论文读讲] ICCV11－Face Recognition Based on Non-Corresp
下一篇：[探讨CG] 超真实的虚拟！好莱坞实体机械制作特效
