博文
基于压缩因子的宽度学习系统的虚拟机性能预测
|
引用本文
邹伟东, 夏元清. 基于压缩因子的宽度学习系统的虚拟机性能预测. 自动化学报, 2022, 48(3): 724−734. doi: 10.16383/j.aas.c190307 Zou Wei-Dong, Xia Yan-Qing. Virtual machine performance prediction using broad learning system based on compression factor. Acta Automatica Sinica, 2022, 48(3): 724−734. doi: 10.16383/j.aas.c190307 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c190307?viewType=HTML 文章简介 关键词 虚拟机性能预测, 宽度学习系统, 压缩因子, 网络收敛速度, 泛化性能 摘 要 在基于基础设施即服务的云服务模式下, 精准的虚拟机性能预测, 对于用户在众多资源提供商之间进行虚拟机租用策略的制定具有十分重要的意义. 针对基于宽度学习系统(Broad learning system, BLS)的预测模型存在许多降低虚拟机性能预测准确性和效率的冗余节点, 通过引入压缩因子, 构建基于压缩因子的宽度学习系统, 使预测结果更逼近输出样本, 能够减少BLS的冗余特征节点与增强节点, 从而加快BLS的网络收敛速度, 提高BLS的泛化性能. 引 言 伴随着虚拟化技术的日趋成熟, 物理机的硬件资源利用率获得了进一步的提升. 与此同时, 基于混合云的数据中心也获得了许多企业与高校的青睐. 与物理机相比较而言, 虚拟机具有更多的优势, 如良好的可扩展性与迁移性、低廉的采购成本与维护成本, 故其也获得了众多用户的青睐. 然而如何对云环境下的虚拟机进行合理分配与高效利用是当前云服务提供商与用户关注的焦点问题. 当前云服务提供商为广大用户提供了一种基于粗粒度的虚拟机资源配置策略, 即为用户提供有限度的硬件资源与计算单元, 并且根据用户所选择的不同种类的资源进行收费. 该策略致使云服务提供商难以为用户提供最优的性能体验, 同时也降低了配置资源的利用率和企业利润. 因此对云环境下的虚拟机性能进行精确的预测建模不仅可使用户获得较优的虚拟机资源配置方案, 同时也为云服务提供商开发新的收费模型标准. 虚拟机性能模型具有非线性、强耦合和时变性的特征, CPU微架构与主频、I/O (Input/Output)带宽和虚拟CPU的个数都会对虚拟机性能预测产生重要影响. 当前对虚拟机性能预测主要从两个方面进行相关研究: 1)通过分层次或多粒度性能组合的方法来整体预测评估虚拟机性能. 吕庆翰提出基于模糊层次分析与离差最大化的虚拟机性能预测建模方法, 将虚拟机的综合性能划分为指标层和综合层, 利用模糊层次分析法分析影响功能层各要素的权重, 利用离差最大化方法计算指标层各要素的权重, 最后根据各要素的权重计算虚拟机的性能. 车建华提出基于多粒度的虚拟机性能预测方法, 将虚拟机性能划分为宏观粒度与微观粒度, 应用黑盒方式对虚拟机的宏观性能与微观性能进行测试, 应用白盒方式分析其相应的性能特征, 通过关联不同粒度下的性能特征实现虚拟机性能预测. 黎丰泽等在深入分析影响虚拟机性能关键参数的基础上, 提出了基于特征值分解的特征拓展方法, 通过结合非线性模型对云环境中的虚拟机性能进行预测建模. 2)利用机器学习算法进行虚拟机性能预测. 在虚拟网络环境下, Xu等提出了基于模糊逻辑的虚拟机性能预测方法. Rao等提出基于强化学习与神经网络的虚拟机性能建模方法, 通过动态地调整模型的内存资源与CPU使虚拟机性能达到最优. 贝振东等提出了一种基于支持向量机的虚拟机性能预测方法, 根据预先设置的资源配置标准, 随机改变虚拟机的资源配置, 以当前虚拟机配置的资源集合与云计算系统的响应时间构成样本数据对支持向量机进行训练, 根据虚拟机性能预测模型预测任一资源配置下的云计算系统的响应时间. 王娟等根据待预测的虚拟环境的资源特点, 提出了基于随机森林回归的虚拟机性能预测方法, 利用随机森林回归模型描述虚拟机性能指标和相应的性能特征之间的内在联系, 从而实现特定配置下的虚拟机性能精准预测. 然而传统的统计方法难以精确描述不同的虚拟机性能特征值之间的复杂关系, 也难以推广应用. 但支持向量机(Support vector machine, SVM)、随机森林回归等传统机器学习算法需人为设定许多的训练参数, 以迭代的方式更新参数, 容易陷入局部优化, 导致训练误差较大. 虽然深度学习网络结构强大, 但网络训练时间长, 其根本原因在于深度学习网络结构复杂且包含了许多超参数, 难以从对其进行理论分析. 为了提高深度学习在实际应用中的精度, 必须增加深度学习的网络层数或调整网络参数. 当前深度学习适用于处理高维度且数据量大的问题, 若处理小样本数据, 因其样本量少致使深度学习出现“过拟合”, 影响深度学习的泛化性能. 近年来, 宽度学习系统(Broad learning system, BLS)在机器学习中备受青睐, 其原因在于宽度学习系统的算法步骤少, 不需要迭代更新一些神经网络参数, 学习速度非常快, 并且不会产生局部最优解, 具有良好的泛化性能, 有效地克服了传统神经网络所存在的诸多缺陷, 充分发挥了其在机器学习中的巨大优势, 也促进了人工智能的进一步发展. BLS是基于随机向量函数连接型网络(Random vector functional link neural network), 通过稀疏自编码方式或随机方式产生特征节点和增强节点的输入权值, 利用岭回归广义逆计算其所对应的输出权值. 尽管算法实现简单, 但是BLS中存在输出权值较小的特征节点和增强节点, 导致许多特征节点和增强节点对最终网络输出起到的作用很小. 大量冗余的特征节点和增强节点只能增加网络结构的复杂性, 降低学习效率, 因此研究高效的预测方法对虚拟机性能预测具有十分重要的意义. 针对上述问题, 本文对宽度学习系统进行改进, 通过计算每一个特征节点和增强节点的网络输出误差, 构造合适的压缩因子, 构建基于压缩因子的宽度学习系统, 实现对虚拟机性能的精确预测, 能够有效提高预测精度和效率. 图 7 基于CF-BLS, BLS, FBLS和HELM的虚拟机性能预测曲线 图 8 CF-BLS, BLS, FBLS和HELM模型的预测结果 作者简介 邹伟东 北京理工大学自动化学院博士后. 主要研究方向为宽度学习系统, 云数据中心优化调度管理. E-mail: zouweidong1985@163.com 夏元清 北京理工大学自动化学院教授. 主要研究方向为云控制, 云数据中心优化调度管理, 智能交通, 模型预测控制, 自抗扰控制, 飞行器控制和空天地一体化网络协同控制. 本文通信作者. E-mail: xia_yuanqing@bit.edu.cn 相关文章 [1] 史天意, 程枫, 李震, 郑传胜, 许永超, 白翔. 基于多模型融合的肺部CT新冠肺炎病灶区域自动分割. 自动化学报. doi: 10.16383/j.aas.c210400 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c210400 [2] 张万栋, 李庆忠, 黎明, 武庆明.基于最优误差自校正极限学习机的高频地波雷达RD谱图海面目标检测算法.自动化学报, 2021, 47(1): 108−120 doi: 10.16383/j.aas.c180210 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c180210?viewType=HTML [3] 李逸楷, 张通, 陈俊龙. 面向边缘计算应用的宽度孪生网络. 自动化学报, 2020, 46(10): 2060-2071. doi: 10.16383/j.aas.c200555 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c200555?viewType=HTML [4] 施权, 胡昌华, 司小胜, 扈晓翔, 张正新. 考虑执行器性能退化的控制系统剩余寿命预测方法. 自动化学报, 2019, 45(5): 941-952. doi: 10.16383/j.aas.2018.c170027 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.2018.c170027?viewType=HTML [5] 邹伟东, 夏元清. 基于压缩动量项的增量型ELM虚拟机能耗预测. 自动化学报, 2019, 45(7): 1290-1297. doi: 10.16383/j.aas.c180703 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c180703?viewType=HTML [6] 刘巧元, 王玉茹, 张金玲, 殷明浩. 基于相关滤波器的视频跟踪方法研究进展. 自动化学报, 2019, 45(2): 265-275. doi: 10.16383/j.aas.2018.c170394 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.2018.c170394?viewType=HTML [7] 管皓, 薛向阳, 安志勇. 深度学习在视频目标跟踪中的应用进展与展望. 自动化学报, 2016, 42(6): 834-847. doi: 10.16383/j.aas.2016.c150705 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.2016.c150705?viewType=HTML [8] 罗毅平, 周笔锋. 时滞扩散性复杂网络同步保性能控制. 自动化学报, 2015, 41(1): 147-156. doi: 10.16383/j.aas.2015.c140202 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.2015.c140202?viewType=HTML [9] 许美玲, 韩敏. 多元混沌时间序列的因子回声状态网络预测模型. 自动化学报, 2015, 41(5): 1042-1046. doi: 10.16383/j.aas.2015.c140604 http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.2015.c140604?viewType=HTML [10] 田学民, 史亚杰, 曹玉苹. 基于协方差指标预测的MPC实时性能监控. 自动化学报, 2013, 39(5): 658-663. doi: 10.3724/SP.J.1004.2013.00658 http://www.aas.net.cn/cn/article/doi/10.3724/SP.J.1004.2013.00658?viewType=HTML [11] 王陆, 李柠, 李少远. 基于历史目标函数基准的数据驱动子空间预测控制系统的性能监控. 自动化学报, 2013, 39(5): 542-547. doi: 10.3724/SP.J.1004.2013.00542 http://www.aas.net.cn/cn/article/doi/10.3724/SP.J.1004.2013.00542?viewType=HTML [12] 师佳, 江青茵, 曹志凯, 周华, 高福荣. 基于2维性能参考模型的2维模型预测迭代学习控制策略. 自动化学报, 2013, 39(5): 565-573. doi: 10.3724/SP.J.1004.2013.00565 http://www.aas.net.cn/cn/article/doi/10.3724/SP.J.1004.2013.00565?viewType=HTML [13] 丁晓剑, 赵银亮. 偏置b对支持向量机分类问题泛化性能的影响. 自动化学报, 2011, 37(9): 1105-1113. doi: 10.3724/SP.J.1004.2011.01105 http://www.aas.net.cn/cn/article/doi/10.3724/SP.J.1004.2011.01105?viewType=HTML [14] 丁李, 关治洪, 王后能. 多变量离散系统随机信号跟踪性能极限. 自动化学报, 2010, 36(3): 446-449. doi: 10.3724/SP.J.1004.2010.00446 http://www.aas.net.cn/cn/article/doi/10.3724/SP.J.1004.2010.00446?viewType=HTML [15] 胡昌华, 刘丙杰. 复杂系统可靠控制中的潜在问题互连神经网络分析方法. 自动化学报, 2008, 34(2): 188-194. doi: 10.3724/SP.J.1004.2008.00188 http://www.aas.net.cn/cn/article/doi/10.3724/SP.J.1004.2008.00188?viewType=HTML [16] 邵奇可, 俞立, 张贵军. 基于QoS 性能补偿的远程控制系统. 自动化学报, 2007, 33(3): 309-314. doi: 10.1360/aas-007-0309 http://www.aas.net.cn/cn/article/doi/10.1360/aas-007-0309?viewType=HTML [17] 杨胜跃, 樊晓平, 年晓红, 瞿志华, 罗安, 黄深喜. 基于LMI方法的保性能迭代学习算法设计. 自动化学报, 2006, 32(4): 578-585. [18] 刘济林, 宋加涛, 丁莉雅, 马洪庆, 李培弘. 高性能的车牌识别系统. 自动化学报, 2003, 29(3): 457-465. http://www.aas.net.cn/cn/article/id/14667?viewType=HTML [19] 魏海坤, 徐嗣鑫, 宋文忠. 神经网络的泛化理论和泛化方法. 自动化学报, 2001, 27(6): 806-815. http://www.aas.net.cn/cn/article/id/16399?viewType=HTML [20] 张志华, 郑南宁, 王天树. 广义LVQ神经网络的性能分析及其改进. 自动化学报, 1999, 25(5): 583-589. http://www.aas.net.cn/cn/article/id/16682?viewType=HTML [21] 欧阳楷, 陈卉, 周萍, 周琛. 神经计算中坐标变换的网络模型(CMAC)的泛化特性. 自动化学报, 1997, 23(4): 475-481. http://www.aas.net.cn/cn/article/id/17014?viewType=HTML [22] 王永骥, 徐桂英, 涂健. l∞范数性能指标预测控制研究. 自动化学报, 1995, 21(3): 366-369. http://www.aas.net.cn/cn/article/id/13969?viewType=HTML [23] 汤毅坚, S.G.Zaky. 计算机环形局部网络的性能评价方法. 自动化学报, 1988, 14(1): 8-16. http://www.aas.net.cn/cn/article/id/15003?viewType=HTML 
https://blog.sciencenet.cn/blog-3291369-1327348.html
上一篇：模糊失真图像无参考质量评价综述
下一篇：基于显著性特征提取的图像描述算法
