RSWS
基础类: OneShotNASOptimizer
实现了具有权重共享的随机 NAS 优化算法。
随机 NAS (神经网络架构搜索) 是一种用于优化神经网络架构的随机技术。此类继承自 OneShotNASOptimizer，并根据随机采样修改架构和操作 (op) 权重。
基于论文：Random Search and Reproducibility for Neural Architecture Search by Li et al. 2019。
add_alphas(edge) 静态方法
向神经网络中的边添加架构权重。
参数
| 名称 | 类型 | 描述 | 默认值 |
|---|---|---|---|
edge |
object
|
要添加架构权重的神经网络中的边。 |
必需 |
注意
架构权重作为 PyTorch 参数添加并设置到边数据中。
sample_random_and_update_alphas()
采样一个随机架构并相应地更新 alpha 值。
注意
此方法利用临时图克隆进行采样，并根据采样到的架构设置 alpha 值。
step(data_train, data_val)
执行一步优化以更新架构和操作权重。
参数
| 名称 | 类型 | 描述 | 默认值 |
|---|---|---|---|
data_train |
tuple
|
包含训练数据和标签的元组。 |
必需 |
data_val |
tuple
|
tuple |
必需 |
包含验证数据和标签的元组。
| 名称 | 类型 | 描述 |
|---|---|---|
tuple |
返回值 |