文章信息

收录期刊（分区）：Bulletin of Engineering Geology and the Environment（2区）

论文题目：Hybrid catboost models optimized with metaheuristics for predicting shear strength in rock joints

论文作者：Xiaohua Ding· Mahdi Hasanipanah· Mohammad Matin Rouhani· Tung Nguyen

论文地址：https://link.springer.com/article/10.1007/s10064-025-04178-2

参考文献：Ding X, Hasanipanah M, Rouhani M M, et al. Hybrid catboost models optimized with metaheuristics for predicting shear strength in rock joints[J]. Bulletin of Engineering Geology and the Environment, 2025, 84(3): 150.

一、文章写作框架

1 引言

2 数据库来源

3方法

3.1 CatBoost (CatB)

3.2 GWO

3.3 PSO

3.4 WOA

3.5 ACO

3.6 GSA

3.7 BBO

4优化CatB模型的开发

5结果与讨论

6结论

二、研究主要内容与结果、结论

准确预测τp是岩土工程中的一项关键挑战，对于确保岩体内或岩体上的自然和工程结构的稳定性和完整性至关重要。本研究旨在通过利用CatB算法来提高预测精度，该算法用六种最先进的元启发式算法进行了优化：GWO、PSO、WOA、ACO、GSA和BBO。

表1使用九种不同的误差度量评估模型的性能

增强的预测准确性：CatB GWO模型成为τp最准确、最可靠的预测器，在包括RMSE、R2、MAPE和IA在内的九个误差指标上取得了卓越的性能，证明了其解决复杂岩土工程问题的能力。通过先进的评估工具，包括泰勒图和RAE的累积频率分析，进一步验证了CatB-GWO模型的稳健性，巩固了其作为τp预测最佳模型的地位。

图1 展示预测模型性能的泰勒图：（a）CatB GWO，（b）CatB PSO，（c）CatB WOA，（d）CatBACO，（e）CatB GSA，以及（f）CatB BBO

图2用于评估预测模型可靠性的RD分布图

敏感性分析确定σn是影响τp预测的最有影响力的参数，突出了其在抗剪强度模型开发中的关键作用。

图3与所有JRC的性能相比，性能下降的百分比，（a）：ALL-JRC，（b）：ALL-σc，（c）：ALL -φb，（d）：ALL -σn

不确定性分析表明，CatB WOA模型以最小的不确定性和偏差提供了最一致的预测，而CatB ACO模型表现出最高的可变性，突显了其在实际应用中的局限性。

表2基于各种模型的τp ,预测的不确定性估计

在同一数据集上与先前研究的模型进行基准测试，发现使用CatB GWO的预测准确性有了显著提高。这突显了将元启发式优化与机器学习算法相结合在岩土工程应用中的附加值。

研究结果证明了混合机器学习模型在岩土工程中的变革潜力。通过提供更高的预测精度、鲁棒性和可靠性，所提出的框架为旨在设计更安全、更高效的岩土结构的工程师和研究人员提供了强大的工具。

虽然与之前的研究相比，CatB-GWO模型在预测τp方面表现出色，预测精度也有所提高，但有限的数据集大小仍然是一个制约因素。更大、更多样化的数据集将增强模型的泛化能力、鲁棒性和在不同条件下的适用性。未来的工作应侧重于扩展数据集，以进一步验证模型的有效性。

三、文章创新点

准确预测岩石节理的抗剪强度（τp）对于确保岩土结构的稳定性和安全性至关重要。这篇论文引入了CatBoost算法与多种元启发式优化技术的新颖集成，为地质力学中的预测建模树立了新的标准。通过采用不同的误差度量、先进的可视化工具（如泰勒图、RD分布）和不确定性分析，该研究为评估和提高模型性能建立了一个稳健而全面的框架。这种混合方法对于管理岩土工程系统固有的复杂性和可变性特别有效。

四、技术方法

4.1 CatBoost

CatBoost（Categorical Boosting）是由俄罗斯搜索引擎Yandex于2017年开源的基于梯度提升（Gradient Boosting）的机器学习算法库，专注于高效处理类别型特征并优化模型性能。

（1）核心特点

高效处理类别型特征：

传统梯度提升算法处理类别型特征时，通常需要进行复杂的预处理（如独热编码），这可能导致特征空间膨胀和计算成本增加。

CatBoost通过目标变量统计量（Target Statistics）和完美哈希等技术，自动将类别型特征转换为数值型特征，无需手动预处理。

对于低基数类别型特征，CatBoost支持在模型训练时进行独热编码，提高训练效率。

避免过拟合：

CatBoost采用有序提升（Ordered Boosting）技术，通过梯度步长的无偏估计减少预测偏移，从而降低过拟合风险。

在构建每一棵树时，CatBoost利用历史数据更新模型，而非当前数据，进一步防止过拟合。

速度和并行性：

CatBoost实现了高度的并行计算，支持GPU加速，能够快速训练模型，尤其适用于大规模数据集和高维度特征。

其对称树（Oblivious Trees）结构有助于高效的CPU实现，减少预测时间。

默认参数性能优异：

CatBoost在默认参数设置下就能获得良好的模型表现，降低了参数调优的难度和成本。

（2）应用场景

推荐系统：能够高效分析大量用户和商品的类别型数据，进行精准推荐。

金融风控：有效处理混合数据（包括数值型和类别型数据），构建高准确性的风险预测模型。

医疗诊断：处理复杂的医疗数据（如病人的诊断结果、治疗方案等），帮助医疗机构做出准确的诊断预测。

4.2 GWO

Grey Wolf Optimizer（GWO，灰狼优化算法）是一种受自然界灰狼社会行为启发的群体智能优化算法，由Seyedali Mirjalili等人于2014年提出。该算法通过模拟灰狼群体的社会等级结构和狩猎策略，实现全局优化搜索，适用于解决复杂的优化问题。

（1）算法背景

GWO算法是基于灰狼群体的这种社会等级制度和狩猎行为而设计的。在狩猎过程中，灰狼群体通过协作和竞争，逐步逼近猎物并最终捕获。GWO算法将这种狩猎行为抽象为数学模型，通过模拟灰狼群体的协作与竞争，实现全局优化搜索。

（2）应用场景与实例

工程优化：在工程设计和建筑领域，GWO算法被用来优化结构设计，如桥梁或建筑物的稳定性和耐久性。它通过模拟不同设计参数，帮助找到成本效益最高的解决方案。

能源管理：在能源行业，GWO算法用于优化电网的运行，如在可再生能源系统中平衡供需或优化电池存储系统的管理。

交通系统优化：GWO算法可以应用于交通网络设计，如优化道路布局或交通信号灯的调度，以减少拥堵和提高交通效率。

机器学习：在机器学习领域，GWO算法被用来选择或优化特征，增强学习模型的准确性和效率。

调度问题：在制造业和物流领域，GWO算法用于优化生产线的调度，如确定最优的作业顺序或运输路线，以提高效率和降低成本。

环境管理：GWO算法还被用于环境科学领域，如优化水资源管理或评估环境影响。

4.3 PSO

Particle Swarm Optimization（PSO，粒子群优化算法）是一种基于群体智能的随机优化算法，它通过模拟鸟群、鱼群等自然群体的社会行为，在解空间中寻找最优解。

（1）算法背景与灵感来源

PSO算法由J. Kennedy和R. C. Eberhart等人于1995年开发，其灵感来源于对简化社会模型的模拟，特别是对鸟群、鱼群等群体觅食行为的观察。在自然界中，这些群体在觅食时会表现出两个核心特征：

社会信息共享：单只个体不知道食物（最优解）在哪里，但会关注附近哪些个体发现了更好的食物源，并向其靠拢。

个体经验记忆：每只个体也会记住自己曾经找到过的、最好的食物位置，并倾向于返回或在其附近探索。

PSO算法正是基于这种群体行为，通过模拟个体间的信息共享和协作，实现在解空间中寻找最优解的目标。

（2）应用场景与实例

函数优化：PSO算法可用于求解各种复杂的函数优化问题，如非线性函数、多峰函数等。

神经网络训练：PSO算法可用于优化神经网络的权重和偏置，提高神经网络的性能和泛化能力。

模糊系统控制：PSO算法可用于优化模糊系统的参数，提高模糊系统的控制精度和鲁棒性。

金融领域：PSO算法可用于股票价格预测、投资组合优化等金融问题，通过平衡多个目标（如最大化收益、最小化风险）来优化模型。

传感器网络优化：PSO算法可用于优化传感器网络的布局和配置，提高传感器网络的覆盖范围和能量效率。

能源系统管理：PSO算法可用于优化能源分布网格，通过分析消费模式来平衡能源供需。

4.4 WOA

Whale Optimization Algorithm（WOA，鲸鱼优化算法）是一种基于自然界鲸鱼觅食行为的启发式优化算法，由Mirjalili等人于2016年提出。该算法通过模拟座头鲸的气泡网捕食行为，实现对搜索空间的有效探索与开发，以寻找全局最优解。

（1）算法背景与灵感来源

WOA算法的灵感来源于座头鲸的气泡网捕食行为。座头鲸在捕食时，会通过吹出气泡形成螺旋状的气泡网，将猎物（如小鱼和磷虾）困在网中，然后向上游动捕获猎物。WOA算法正是基于这种捕食行为，通过模拟鲸鱼的包围、追捕和攻击猎物的过程，实现优化搜索的目标。

（2）应用场景与实例

函数优化：WOA算法可用于求解各种复杂的函数优化问题，如非线性函数、多峰函数等。

神经网络训练：WOA算法可用于优化神经网络的权重和偏置，提高神经网络的性能和泛化能力。

组合优化：WOA算法可用于解决组合优化问题，如旅行商问题、背包问题等。

工程优化：WOA算法可用于解决工程优化问题，如结构优化、参数优化等。例如，在解决存在紧急需求的车辆路径问题（VRPSPD）时，WOA算法通过改进初始解生成方式，有效减少了后期修正成本。

4.5 ACO

Ant Colony Optimization（ACO，蚁群优化算法）是一种模拟蚂蚁觅食行为的概率型优化算法，旨在通过模仿自然界中蚂蚁寻找食物路径的群体智能，解决组合优化问题。

（1）算法背景与灵感来源

ACO算法的灵感来源于蚂蚁在寻找食物过程中发现路径的行为。蚂蚁在觅食时，会在经过的路径上释放一种称为信息素的化学物质。其他蚂蚁通过感知信息素的浓度，能够选择信息素浓度较高的路径，从而找到食物源。这种基于信息素的间接通信方式，使得蚂蚁群体能够高效地找到最优路径。ACO算法正是基于这种行为，通过模拟蚂蚁群体的智能行为，实现在解空间中寻找最优解的目标。

（2）应用场景与实例

旅行商问题（TSP）：TSP是组合优化中的经典问题，旨在找到访问一组城市并返回起始城市的最短路径。ACO算法通过模拟蚂蚁寻找食物路径的行为，能够有效地解决TSP问题。

车辆路由问题（VRP）：VRP是物流领域中的常见问题，旨在找到一组车辆的最优路由，以最小化运输成本。ACO算法通过考虑车辆的容量限制、时间窗口等约束条件，能够解决各种复杂的VRP问题。

调度问题：ACO算法可用于解决生产调度、任务分配等调度问题。通过模拟蚂蚁群体的智能行为，ACO算法能够找到最优的调度方案，以提高生产效率和资源利用率。

网络路由：ACO算法可用于解决通信网络中的路由问题。通过模拟蚂蚁在路径上释放信息素的行为，ACO算法能够找到最优的路由路径，以最小化网络延迟和丢包率。

4.6 GSA

Gravitational Search Algorithm（GSA，引力搜索算法）是一种基于牛顿万有引力定律和牛顿第二运动定律的启发式优化算法，由Rashedi等人于2009年提出。该算法通过模拟物体之间的引力相互作用和质量关系，在解空间中搜索最优解。

（1）算法背景与灵感来源

GSA算法的灵感来源于自然界中物体之间的引力相互作用。根据牛顿万有引力定律，两个物体之间的引力与它们的质量成正比，与它们之间距离的平方成反比。同时，牛顿第二运动定律指出，物体的加速度与作用在它上面的力成正比，与它的质量成反比。GSA算法正是基于这些物理定律，通过模拟物体之间的引力相互作用，实现优化搜索的目标。

（2）应用场景与实例

工程优化：GSA算法可用于解决各种工程优化问题，如结构优化、参数优化等。例如，在解决经济调度问题时，GSA算法通过优化发电机的输出功率，最小化燃料成本。

数据挖掘：GSA算法可用于特征选择和参数调优等数据挖掘任务。例如，在构建分类模型时，GSA算法可用于选择最优的特征子集和调整模型参数，以提高分类性能。

预测建模：GSA算法可用于构建预测模型，如时间序列预测、回归分析等。通过优化模型的参数，GSA算法能够提高预测的准确性和稳定性。

其他领域：GSA算法还可应用于模式识别、电力系统、灰色非线性约束规划问题等多个领域。例如，在模式识别中，GSA算法可用于优化分类器的参数，提高分类准确率。

4.7 BBO

Biogeography-Based Optimization（BBO，生物地理学优化算法）是一种基于生物地理学理论的智能优化算法，由Dan Simon于2008年提出。该算法通过模拟自然界中物种在不同栖息地之间的迁移和变异过程，来寻找优化问题的最优解。

（1）算法背景与灵感来源

BBO算法的灵感来源于生物地理学理论，该理论研究生物物种在不同地理区域之间的分布和迁移规律。算法将优化问题的解空间映射为一系列栖息地，每个栖息地代表一个潜在的解，其质量由栖息适宜指数（Habitat Suitability Index，HSI）来衡量。HSI越高，表示该栖息地（解）越优良。

（2）应用场景与实例

工程设计优化：如机械部件设计、电路设计等，考虑多个性能指标进行优化。

资源分配问题：如生产调度、任务分配等，通过优化资源分配方案提高效率。

机器学习领域：如神经网络权重优化、支持向量机参数调优等，提高模型的性能和泛化能力。

信号处理领域：如图像处理、语音处理等，通过优化算法提高信号处理的准确性和效率。

五、文章带来的思考

小编思考：这篇论文提出了基于元启发式优化的混合catboost模型预测岩石节理的抗剪强度的方法。首先，小编认为可以学习这篇论文中所用方法，将其应用于譬如边坡位移趋势预测、岩土体的形变预测等多方面，作为创新点开展相关研究。其次，在研究中可以改进或变换其中的方法组合，譬如采用LightGBM、Gradient Boosting、模拟退火算法（Simulated Annealing, SA）以及人工蜂群算法（Artificial Bee Colony, ABC）等方法，作为创新点开展相关研究。

预祝大家在未来寻找到自己的创新点，早日有更深层次研究成果和论文高中。

免责声明：本文内容是在本人自我解读和人工智能辅助下创作，由于小编本人的理解分析能力有限，其中的观点仅代表本人个人解读，仅供参考，如有分歧或遗漏之处，我们深表歉意。论文的版权归原期刊或出版方所有，本账号不提供论文全文的下载服务。若发现版权侵权请及时联系我们，我们将迅速处理。第三方转载时，不得更改内容且需要标注来源。对于第三方内容表述的准确性或合法转载性，本账号不承担责任。