术语表
- **BB**: 参见
黑盒
。
- **BO**: 参见
贝叶斯优化
。
- **BOHB**: 贝叶斯优化与 Hyperband。
- **CLI**: 命令行接口。
- **CV**: 交叉验证。
- **GP**: 高斯过程。
- **GP-MCMC**: 带马尔可夫链蒙特卡洛的高斯过程。
- **HB**: 参见
Hyperband
。
- **HP**: 超参数。
- **MF**: 参见
多保真度
。
- **RF**: 随机森林。
- **ROAR**: 参见
随机在线自适应竞逐
。
- **SMAC**: 顺序模型基础算法配置。
- **SMBO**: 顺序模型基础优化。
- **贝叶斯优化**: 贝叶斯优化是一种用于黑盒函数全局优化的顺序设计策略,它不假设任何函数形式。它通常用于优化计算成本高昂的函数。贝叶斯优化平衡探索和利用,以找到其目标的最小值。
- **黑盒**: 指正在优化的算法,其中只能观察到输入和输出。
- **预算**: 预算是保真度的另一个词。示例包括训练轮次数或算法训练所使用的数据子集大小。但是,预算也可以用于实例的上下文中。例如,如果您有 100 个实例(假设我们在数据集之间进行优化),并且您想在其中的 10 个上运行算法,那么预算就是 10。
- **Hyperband**: Hyperband。一种新颖的基于 bandit 的超参数优化算法。Hyperband 是逐次减半的扩展,因此适用于多保真度。
- **当前最优配置**: 当前最优配置是当前已知表现最佳的配置。
- **实例**: 通常,您希望跨不同的数据集、子集甚至不同的转换(例如数据增强)进行优化。通常,这些中的每一个都称为一个实例。配置会在多个实例上进行评估,以便找到在所有实例上都表现优异而不仅仅是在少数实例上表现优异的配置。
- **强化**: 一种机制,用于控制每个配置执行多少次评估,以及何时充分信任某个配置并使其成为新的当前已知最佳配置(当前最优配置)。
- **多保真度**: 多保真度指在多个预算(例如轮次数或数据子集)下运行算法,从而提前评估性能。
- **多目标**: 多目标优化问题是具有多个目标的问题。目标是找到一个在所有目标上都是最优或至少是良好折衷的解决方案。
- **目标**: 目标是衡量算法质量或性能的指标。
- **随机在线自适应竞逐**: Random Online Adaptive Racing。一种简单的、无模型的通用
SMBO
框架实现。它随机均匀地选择配置,并使用强化机制将其与当前最优配置进行迭代比较。详见SMAC 扩展第 3.2 章。
- **目标函数**: 您的模型,它根据给定的配置、种子、预算和/或实例返回成本。
- **试验**: 试验是在配置、种子、预算和/或实例的组合上运行目标函数的单个过程。