Pytorch数据
【Pytorch】输入数据
输入数据
PyTorch训练管道都以 Dataset 类开始。它负责提供数据样本。任何必要的数据转换和扩充都可
离线预处理所有内容 渐进式学习时,你可以以多种分辨率保存训练数据的,这还是比线上调至目标分辨率更快
PyTorch 使用一个 DataLoader 类来简化用于训练模型的批处理过程
【Pytorch】中间数据
提取网络对数据如数据的特征
提取网络本身的参数
获取模型执行详情
提取网络参数
提取网络对数据如数据的特征
获取神经网络的任意一层的输出
获取神经网络某一层得到的结果作为特征进行处理
大概可以有几种解决方法:
重复写模型,
直接拷贝源码整理成自己的model文件使用-模型不是很复杂的时候;
用hook钩子函数
使用 hook,我们可以提取特征,而不需要重新创建现有模型或以任何方式修改它
1. 定义一个对feature进行处理的函数,比如叫hook_fun
2. 注册hook:告诉模型,我将在哪些层使用hook_fun来处理feature
nn.Module.register_forward_hook
nn.Module.register_backward_hook
重写forward方法
【Pytorch】结果数据
模型给出的结果
Pytorch模型
预训练模型
预训练模型的修改
参数修改
增减卷积层
修改网络中的层次结构,
即自己先定义一个类似的网络,再将预训练中的参数提取到自己的网络中来
自定义模型
【Pytorch】
标准损失函数
torch.nn.MSELoss()
编写自定义损失函数
把训练好的权重加载到自己建立的子网络里面
时间
金钱和时间都是资源,二者的均衡利用是成功的关键
时间: 缓急
时间按其紧迫性和重要性
重要性与目标有关
增加和减少时间
减少浪费,
必须想办法提高学习/工作效率
时间观念和时间管理
时间记录: 时间去向的可视化
时间管理从某种程度来说,是对
选择的管理。
参考
Pytorch-神经网络和数据