搜索空间概述
本文档提供了对 NASLib 中各种搜索空间的深入了解。深入研究这些旨在解决特定任务和领域的搜索空间,并相应地调整您的架构搜索实验。
1. NAS-Bench-101
NAS-Bench-101 提供了一个全面的搜索空间,用于在计算机视觉任务背景下评估神经网络架构。它是基准测试和比较的重要资源。
2. NAS-Bench-201
NAS-Bench-201 旨在支持各种任务的架构搜索,包括计算机视觉及其他领域。它提供多样化的搜索空间,以适应不同的应用领域。
3. NAS-Bench-301
NAS-Bench-301 通过提供一个通用的搜索空间,扩展了我们库的功能,用于在计算机视觉及相关领域探索神经网络架构。
4. NAS-Bench-ASR
NAS-Bench-ASR 专为自动语音识别 (ASR) 领域定制。它提供针对 ASR 任务优化的特定搜索空间和配置。
5. NAS-Bench-NLP
NAS-Bench-NLP 专注于自然语言处理 (NLP) 任务,提供旨在创建和评估用于 NLP 应用的神经网络架构的搜索空间。
6. Simple Cell
Simple Cell 是一个简单且可定制的搜索空间,可用于各种 NAS 实验。它允许研究人员定义和探索自己的架构。
7. Transbench 101
Transbench 101 是一个专门为基于 Transformer 的模型设计的搜索空间,适用于广泛的任务,包括语言建模和机器翻译。