一、介绍
深度学习模型中的计算图模块向来是一个非常重要的概念,它把复杂的网络架构表示成由各个模块组成的计算图,方便我们进行后续的训练和调试。而在 PyTorch 中,最核心的功能就在于 nn.Module,它不仅是所有层的基类,也是组织层关系的容器。顾名思义,Sequential 模块就是把多个模块按顺序串联起来,形成一个新的模块,也是 PyTorch 中最经典的模块。
二、三种写法
1. 最基本的写法
构建 Sequential 对象时直接传入一个由多个层组成的 list 即可,每个层的搭建方式和普通情况下一致,可以通过继承 nn.Module 或者直接用 nn 包中提供的现成层。
2. 使用 OrderedDict 的写法
OrderedDict 是 Python 中的一个内置字典类,它可以按照顺序依次添加键值对,非常适合我们这种需要按照顺序组织模块的工作方式。
3. 手写 Forward 的写法
手动指定每个层的前向传播函数是一种更加灵活的方式,也适用于那些无法使用 nn 包中现成层的情况,但是代码量相对较大,可读性稍差。
三、总结
Sequential 模块是 PyTorch 中非常常用的模块之一,它可以让我们以一种简单清晰的方式组织模块,便于我们进行后续的训练和调试工作。而且,它也给了我们三种不同的写法,可以根据自己的需要来选择最适合的一种方式。