基于LHD与GPR的机器学习超参数建模及优化
2023-12-12分类号:TP18
【部门】郑州大学商学院 上海海事大学经济管理学院
【摘要】针对机器学习超参数与算法性能之间的非线性、高阶交互作用和约束的复杂作用关系,文章提出一种基于高斯过程回归和遗传算法相结合的建模及优化方法。采用超拉丁方抽样在超参数配置空间内进行取点设计,建立超参数与算法性能之间的高斯过程回归模型并对所构建的模型进行遗传算法寻优。仿真研究表明,该方法能够在超参数配置空间内较好地拟合超参数与算法性能之间的复杂作用关系,与传统响应曲面法相比,在超参数配置空间内以较少的实验次数实现了全局最优,从而有效提升了优化的效率和精度。
【关键词】超参数优化 机器学习 超拉丁方设计 高斯过程回归 遗传算法
【基金】国家自然科学基金资助项目(U1904211;71672182;71571168);; 国家社会科学基金资助项目(20BTJ059)
【所属期刊栏目】统计与决策
文献传递