Pytorch-神经网络和数据

Pytorch数据

【Pytorch】输入数据

输入数据
 PyTorch训练管道都以 Dataset 类开始。它负责提供数据样本。任何必要的数据转换和扩充都可
   离线预处理所有内容  渐进式学习时,你可以以多种分辨率保存训练数据的,这还是比线上调至目标分辨率更快
 PyTorch 使用一个 DataLoader 类来简化用于训练模型的批处理过程

【Pytorch】中间数据

提取网络对数据如数据的特征
提取网络本身的参数
获取模型执行详情
提取网络参数
 提取网络对数据如数据的特征
  获取神经网络的任意一层的输出
  获取神经网络某一层得到的结果作为特征进行处理
  大概可以有几种解决方法:
 
  重复写模型,
       直接拷贝源码整理成自己的model文件使用-模型不是很复杂的时候;
  用hook钩子函数
      使用 hook,我们可以提取特征,而不需要重新创建现有模型或以任何方式修改它
 	  1. 定义一个对feature进行处理的函数,比如叫hook_fun
       2. 注册hook:告诉模型,我将在哪些层使用hook_fun来处理feature
 	  
 	  nn.Module.register_forward_hook
 	  nn.Module.register_backward_hook
 重写forward方法 

【Pytorch】结果数据

 模型给出的结果

Pytorch模型

预训练模型

预训练模型的修改
 参数修改
增减卷积层
    修改网络中的层次结构,
	   即自己先定义一个类似的网络,再将预训练中的参数提取到自己的网络中来

自定义模型

【Pytorch】
   标准损失函数
    torch.nn.MSELoss()
    编写自定义损失函数 
   把训练好的权重加载到自己建立的子网络里面

时间

金钱和时间都是资源,二者的均衡利用是成功的关键
 时间: 缓急  
          时间按其紧迫性和重要性
           重要性与目标有关
		增加和减少时间
		   减少浪费,
		   必须想办法提高学习/工作效率
		时间观念和时间管理
		  时间记录: 时间去向的可视化
		  时间管理从某种程度来说,是对
		  选择的管理。

参考

Pytorch-神经网络和数据

上一篇:Mac系统安装nvm


下一篇:cad比例因子是什么意思?cad比例因子如何设置?