pytorch线性回归函数解惑

pytorch线性回归函数解惑

定义模型

class LinearRegression(nn.Module):
在pytorch中,不管是自定义层、自定义块、自定义模型,都是通过继承Module类完成的。

在定义网络的时候,需要重新构建 _ init _ 和 forward 函数

损失函数

criterion = nn.MSELoss()

优化函数

optimizer = torch.optim.SGD(model.parameters(), lr=learning_rate)
损失函数和优化函数都是类

训练模型

模型输入得是变量形式
inputs = Variable(torch.from_numpy(x_train))
targets = Variable(torch.from_numpy(y_train))

优化函数
optimizer.zero_grad()  梯度归零
每次反向传播之前都要归零梯度,否则梯度会累加在一起。
outputs = model(inputs) 前向传播
loss = criterion(outputs, targets) 优化函数
loss.backward()反向传播,自动求导每个参数的梯度
optimizer.step()更新参数,即新的权重值

验证环节

model.eval()将训练模式变为测试模式

上一篇:AlexNet白板复现


下一篇:pytorch with Automatic Mixed Precision(AMP)