大工至善|大学至真分享 http://blog.sciencenet.cn/u/lcj2212916

博文

[转载]【源码】机器学习中的投影牛顿型方法

已有 217 次阅读 2018-9-24 10:22 |系统分类:科研笔记|文章来源:转载

 


机器学习中的投影牛顿型方法

 

我们考虑用于解决机器学习及相关领域中出现的大规模优化问题的投影牛顿型方法。

We consider projected Newton-type methodsfor solving large-scale optimization problems arising in machine learning andrelated fields.

 

我们首先通过回顾经典的投影(拟)牛顿方法,介绍了投影牛顿型算法框架。

We first introduce an algorithmic frameworkfor projected Newton-type methods by reviewing a canonical projected (quasi-)Newton method.

 

该方法虽然在概念上令人满意,但每次迭代具有较高的计算成本。

This method, while conceptually pleasing,has a high computation cost per iteration.

 

因此,我们讨论两种更具伸缩性的衍生算法,即二度量投影非精确投影方法

Thus, we discuss two variants that are morescalable, namely, two-metric projection and inexact projection methods.

 

最后,我们展示了如何应用牛顿型框架来处理非平滑目标。

Finally, we show how to apply theNewton-type framework to handle non-smooth objectives.

 

本文中提供例子来说明我们设计的框架在机器学习上的应用。

Examples are provided throughout thechapter to illustrate machine learning applications of our framework.

 

我们研究了求解优化问题的牛顿型方法。

We study Newton-type methods for solvingthe optimization problem.

 

……


与本文相关的一个英文网站供参考:

https://www.cs.ubc.ca/~schmidtm/Software/thesis.html


下载英文原文地址:

http://page2.dfpan.com/fs/8l0cfj9212e1a229160/ 


更多精彩文章请关注微信号:qrcode_for_gh_60b944f6c215_258.jpg




http://blog.sciencenet.cn/blog-69686-1136672.html

上一篇:[转载]【读书1】【2017】MATLAB与深度学习——神经网络分层(3)
下一篇:[转载]【小知识】Arduino开源硬件入门

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2018-10-18 07:23

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部