优化方法的研究面临着数据的高维度、不确定性和非凸性等问题,同时,实时求解、分布式处理等需求的日益增多也给优化方法的应用带来了困难。
近年来,优化方法的研究已取得了重要进展,本书对这些工作进行了系统的梳理,旨在帮助读者快速了解该领域的发展脉络,掌握必要的基础知识,进而推进前沿研究工作。
本书首先介绍流行的机器学习模式,对重要的优化理论进行回顾,接着重点讨论已广泛应用于优化的算法,以及有潜力应用于大规模机器学习和数据分析的算法,包括一阶方法、随机优化方法、随机和分布式方法、非凸随机优化方法、无投影方法、算子滑动和分散方法等。全书从基础知识开始讲解,逐步进阶到为机器学习精心设计的复杂算法,涵盖适用于不同场景的算法方案,适合对机器学习、人工智能和数学编程感兴趣的读者参考。
商品名称: | 机器学习中的一阶与随机优化方法 | 开本: | 16开 |
作者: | [美]蓝光辉(Guanghui Lan) | 定价: | 169.00 |
ISBN号: | 9787111724254 | 出版时间: | 2023-05-31 |
出版社: | 机械工业出版社 | 印刷时间: | 2023-05-31 |
版次: | 1 | 印次: | 1 |
目 录Firstorder and Stochastic Optimization Methods for Machine Learning译者序
前言第1章 机器学习模型 1 1.1 线性回归1
1.2 逻辑回归3
1.3 广义线性模型5
1.3.1 指数分布族5
1.3.2 模型构建5
1.4 支持向量机8
1.5 正则化、Lasso回归和
岭回归11
1.6 群体风险小化11
1.7 神经网络12
1.8 练习和注释14第2章 凸优化理论15 2.1 凸集15
2.1.1 定义和例子15
2.1.2 凸集上的投影16
2.1.3 分离定理17
2.2 凸函数20
2.2.1 定义和例子20
2.2.2 可微凸函数21
2.2.3 不可微凸函数21
2.2.4 凸函数的Lipschitz
连续性23
2.2.5 凸优化的性条件24
2.2.6 表示定理与核25
2.3 拉格朗日对偶26
2.3.1 拉格朗日函数与
对偶性26
2.3.2 强对偶性的证明27
2.3.3 鞍点29
2.3.4 KarushKuhnTucker
条件29
2.3.5 对偶支持向量机31
2.4 LegendreFenchel共轭对偶32
2.4.1 凸函数的闭包32
2.4.2 共轭函数33
2.5 练习和注释35第3章 确定性凸优化37 3.1 次梯度下降法37
3.1.1 一般非光滑凸问题38
3.1.2 非光滑强凸问题39
3.1.3 光滑凸问题41
3.1.4 光滑强凸问题42
3.2 镜面下降法43
3.3 加速梯度下降法46
3.4 加速梯度下降法的博弈论
解释50
3.5 非光滑问题的光滑方案52
3.6 鞍点优化的原始-对偶方法54
3.6.1 一般双线性鞍点问题57
3.6.2 光滑双线性鞍点问题57
3.6.3 光滑强凸双线性鞍点
问题58
3.6.4 线性约束问题59
3.7 乘子交替方向法61
3.8 变分不等式的镜面-邻近
方法63
3.8.1 单调变分不等式64
3.8.2 广义单调变分不等式66
3.9 加速水平法68
3.9.1 非光滑、光滑和弱光滑
问题68
3.9.2 鞍点问题76
3.10 练习和注释81第4章 随机凸优化83 4.1 随机镜面下降法83
4.1.1 一般非光滑凸函数84
4.1.2 光滑凸问题87
4.1.3 准确性证书90
4.2 随机加速梯度下降法95
4.2.1 无强凸性问题100
4.2.2 非光滑强凸问题103
4.2.3 光滑强凸问题104
4.2.4 准确性证书109
4.3 随机凹凸鞍点问题111
4.3.1 通用算法框架112
4.3.2 极小极大随机问题115
4.3.3 双线性矩阵博弈117
4.4 随机加速原始-对偶方法119
4.4.1 加速原始-对偶方法121
4.4.2 随机双线性鞍点问题129
4.5 随机加速镜面-邻近方法140
4.5.1 算法框架141
4.5.2 收敛性分析142
4.6 随机块镜面下降方法154
4.6.1 非光滑凸优化155
4.6.2 凸复合优化164
4.7 练习和注释171第5章 凸有限和及分布式
优化173 5.1 随机原始-对偶梯度法173
5.1.1 多人共轭空间博弈的
重新表述176
5.1.2 梯度计算的随机化177
5.1.3 强凸问题的收敛性179
5.1.4 随机化方法的复杂度
下界189
5.1.5 对非强凸性问题的
推广193
5.2 随机梯度外插法197
5.2.1 梯度外插方法198
5.2.2 确定性有限和问题204
5.2.3 随机有限和问题213
5.2.4 分布式实现218
5.3 降低方差的镜面下降法220
5.3.1 无强凸性的光滑问题223
5.3.2 光滑和强凸问题225
5.4 降低方差加速梯度下降法226
5.4.1 无强凸性的光滑问题229
5.4.2 光滑和强凸问题233
5.4.3 满足错误界条件的
问题238
5.5 练习和注释240第6章 非凸优化241 6.1 无约束非凸随机优化法241
6.1.1 随机一阶方法243
6.1.2 随机零阶方法251
6.2 非凸随机复合优化法260
6.2.1 邻近映射的一些性质261
6.2.2 非凸镜面下降法263
6.2.3 非凸随机镜面下降法264
6.2.4 复合问题的随机零阶
方法275
6.3 非凸随机块镜面下降法279
6.4 非凸随机加速梯度下降法286
6.4.1 非凸加速梯度下降法287
6.4.2 随机加速梯度下降法298
6.5 非凸降低方差镜面下降法310
6.5.1 确定性问题的基本
求解方案310
6.5.2 随机优化问题的推广313
6.6 随机化加速邻近点方法316
6.6.1 非凸有限和问题317
6.6.2 非凸多块问题327
6.7 练习和注释337第7章 无投影方法 338 7.1 条件梯度法338
7.1.1 经典条件梯度
本书对优化算法的理论和研究进展进行了系统的梳理,旨在帮助读者快速了解该领域的发展脉络,掌握必要的基础知识,进而推进前沿研究工作。本书首先介绍流行的机器学习模式,对重要的优化理论进行回顾,接着重点讨论已广泛应用于优化的算法,以及有潜力应用于大规模机器学习和数据分析的算法,包括一阶方法、随机优化方法、随机和分布式方法、非凸随机优化方法、无投影方法、算子滑动和分散方法等。
本书适合对机器学习、人工智能和数学编程感兴趣的读者阅读参考。
蓝光辉(Guanghui Lan) 佐治亚理工学院工业与系统工程学院教授,之前曾任教于佛罗里达大学工业与系统工程系。研究方向为随机优化和非线性规划的理论、算法与应用。曾获NSF CAREER奖、INFORMS青年教师论文奖一等奖、INFORMS Computing Society(ICS)奖等。目前担任Computational Optimization and Applications、Mathematical Programming和SIAM Journal on Optimization等期刊的副主编。博士毕业于佐治亚理工学院。
发货方式
自动:在特色服务中标有自动发货的商品,拍下后,源码类 软件类 商品会在订单详情页显示来自卖家的商品下载链接,点卡类 商品会在订单详情直接显示卡号密码。
手动:未标有自动发货的的商品,付款后,商品卖家会收到平台的手机短信、邮件提醒,卖家会尽快为您发货,如卖家长时间未发货,买家也可通过订单上的QQ或电话主动联系卖家。
退款说明
1、源码类:商品详情(含标题)与实际源码不一致的(例:描述PHP实际为ASP、描述的功能实际缺少、功能不能正常使用等)!有演示站时,与实际源码不一致的(但描述中有"不保证完全一样、可能有少许偏差"类似显著公告的除外);
2、营销推广类:未达到卖家描述标准的;
3、点卡软件类:所售点卡软件无法使用的;
3、发货:手动发货商品,在卖家未发货前就申请了退款的;
4、服务:卖家不提供承诺的售后服务的;(双方提前有商定和描述中有显著声明的除外)
5、其他:如商品或服务有质量方面的硬性常规问题的。未符合详情及卖家承诺的。
注:符合上述任一情况的,均支持退款,但卖家予以积极解决问题则除外。交易中的商品,卖家无法修改描述!
注意事项
1、在付款前,双方在QQ上所商定的内容,也是纠纷评判依据(商定与商品描述冲突时,以商定为准);
2、源码商品,同时有网站演示与商品详情图片演示,且网站演示与商品详情图片演示不一致的,默认按商品详情图片演示作为纠纷评判依据(卖家有特别声明或有额外商定的除外);
3、点卡软件商品,默认按商品详情作为纠纷评判依据(特别声明或有商定除外);
4、营销推广商品,默认按商品详情作为纠纷评判依据(特别声明或有商定除外);
5、在有"正当退款原因和依据"的前提下,写有"一旦售出,概不支持退款"等类似的声明,视为无效声明;
6、虽然交易产生纠纷的几率很小,卖家也肯定会给买家最完善的服务!但请买卖双方尽量保留如聊天记录这样的重要信息,以防产生纠纷时便于送码网快速介入处理。
送码声明
1、送码网作为第三方中介平台,依据双方交易合同(商品描述、交易前商定的内容)来保障交易的安全及买卖双方的权益;
2、非平台线上交易的项目,出现任何后果均与送码网无关;无论卖家以何理由要求线下交易的(如:要求买家支付宝转账付款的,微信转账付款的等),请联系管理举报,本平台将清退卖家处理。
正版 steam 原子之心 Atomic Heart 国区激活码 cd...
steam 英雄连3 国区激活码CDKEY PC游戏正版 Compan...
【骑砍中文站】PC 中文Steam 骑马与砍杀2 霸主 骑砍2 豪华版...
正版 steam 原子之心 Atomic Heart 国区激活码 cd...
M,日朋礼送男友老公创意实人用星人际机器蓝牙音箱走心情节生礼...
PC中文正版Steam 消逝的光芒2 消失的光芒2 Dying Lig...
Steam 女神异闻录5 皇家版 国区激活码CDKey秒发 Perso...
Steam怪物猎人崛起 曙光DLC 激活码cdkey 怪物猎人曙光 M...
steam 只狼 激活码CDKey 只狼影逝二度 Sekiro: Sh...
steam 女神异闻录5皇家版 国区激活码CDKey P5R 女神异闻...