nn.Moudle模块库中存放着很多和神经网络相关的工具,而nn.functional里也一样提供了很多网络层相关的函数功能。
最重要的不同点在于,nn.functional里定义的网络层不可自动学习参数,还需要使用nn.Parameter封装。nn.functional设计的初衷是为了一些不需要学习参数的层,比如激活层,BN层这些,这样就不用在nn.Moudle里定义了。
2023-11-30 16:30:58
nn.Moudle模块库中存放着很多和神经网络相关的工具,而nn.functional里也一样提供了很多网络层相关的函数功能。
最重要的不同点在于,nn.functional里定义的网络层不可自动学习参数,还需要使用nn.Parameter封装。nn.functional设计的初衷是为了一些不需要学习参数的层,比如激活层,BN层这些,这样就不用在nn.Moudle里定义了。