python神经网络学习利用PyTorch进行回归运算

 更新时间:2022年05月04日 10:31:04   作者:Bubbliiiing  
这篇文章主要为大家介绍了python神经网络学习利用PyTorch进行回归运算的实现代码,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪

学习前言

我发现不仅有很多的Keras模型,还有很多的PyTorch模型,还是学学Pytorch吧,我也想了解以下tensor到底是个啥。

PyTorch中的重要基础函数

1、class Net(torch.nn.Module)神经网络的构建:

PyTorch中神经网络的构建和Tensorflow的不一样,它需要用一个类来进行构建(后面还可以用与Keras类似的Sequential模型构建),当然基础还是用类构建,这个类需要继承PyTorch中的神经网络模型,torch.nn.Module,具体构建方式如下:

# 继承torch.nn.Module模型
class Net(torch.nn.Module):
	# 重载初始化函数(我忘了这个是不是叫重载)
    def __init__(self, n_feature, n_hidden, n_output):
        super(Net, self).__init__()
        # Applies a linear transformation to the incoming data: :math:y = xA^T + b
        # 全连接层,公式为y = xA^T + b
        # 在初始化的同时构建两个全连接层(也就是一个隐含层)
        self.hidden = torch.nn.Linear(n_feature, n_hidden)
        self.predict = torch.nn.Linear(n_hidden, n_output)
	# forward函数用于构建前向传递的过程
    def forward(self, x):
        # 隐含层的输出
        hidden_layer = functional.relu(self.hidden(x))
        # 实际的输出
        output_layer = self.predict(hidden_layer)
        return output_layer

该部分构建了一个含有一层隐含层的神经网络,隐含层神经元个数为n_hidden。
在建立了上述的类后,就可以通过如下函数建立神经网络:

net = Net(n_feature=1, n_hidden=10, n_output=1)

2、optimizer优化器

optimizer用于构建模型的优化器,与tensorflow中优化器的意义相同,PyTorch的优化器在前缀为torch.optim的库中。

优化器需要传入net网络的参数。

具体使用方式如下:

# torch.optim是优化器模块
# Adam可以改成其它优化器,如SGD、RMSprop等
optimizer = torch.optim.Adam(net.parameters(), lr=1e-3)

3、loss损失函数定义

loss用于定义神经网络训练的损失函数,常用的损失函数是均方差损失函数(回归)和交叉熵损失函数(分类)。

具体使用方式如下:

# 均方差lossloss_func = torch.nn.MSELoss() 

4、训练过程

训练过程分为三个步骤:

1、利用网络预测结果。

prediction = net(x)

2、利用预测的结果与真实值对比生成loss。

loss = loss_func(prediction, y)

3、进行反向传递(该部分有三步)。

# 均方差loss
# 反向传递步骤
# 1、初始化梯度
optimizer.zero_grad()
# 2、计算梯度
loss.backward()
# 3、进行optimizer优化
optimizer.step()

全部代码

这是一个简单的回归预测模型。

import torch
from torch.autograd import Variable
import torch.nn.functional as functional
import matplotlib.pyplot as plt
import numpy as np
# x的shape为(100,1)
x = torch.from_numpy(np.linspace(-1,1,100).reshape([100,1])).type(torch.FloatTensor)
# y的shape为(100,1)
y = torch.sin(x) + 0.2*torch.rand(x.size())
class Net(torch.nn.Module):
    def __init__(self, n_feature, n_hidden, n_output):
        super(Net, self).__init__()
        # Applies a linear transformation to the incoming data: :math:y = xA^T + b
        # 全连接层,公式为y = xA^T + b
        self.hidden = torch.nn.Linear(n_feature, n_hidden)
        self.predict = torch.nn.Linear(n_hidden, n_output)
    def forward(self, x):
        # 隐含层的输出
        hidden_layer = functional.relu(self.hidden(x))
        output_layer = self.predict(hidden_layer)
        return output_layer
# 类的建立
net = Net(n_feature=1, n_hidden=10, n_output=1)
# torch.optim是优化器模块
optimizer = torch.optim.Adam(net.parameters(), lr=1e-3)
# 均方差loss
loss_func = torch.nn.MSELoss() 
for t in range(1000):
    prediction = net(x)
    loss = loss_func(prediction, y)
    # 反向传递步骤
    # 1、初始化梯度
    optimizer.zero_grad()
    # 2、计算梯度
    loss.backward()
    # 3、进行optimizer优化
    optimizer.step()
    if t & 50 == 0:
        print("The loss is",loss.data.numpy())

运行结果为:

The loss is 0.27913737
The loss is 0.2773982
The loss is 0.27224126
…………
The loss is 0.0035993527
The loss is 0.0035974088
The loss is 0.0035967692

以上就是python神经网络学习利用PyTorch进行回归运算的详细内容,更多关于python神经网络PyTorch回归运算的资料请关注脚本之家其它相关文章!

相关文章

  • 你需要学会的8个Python列表技巧

    你需要学会的8个Python列表技巧

    这篇文章主要介绍了8个常用的Python列表技巧,文中讲解非常详细,帮助大家更好的学习Python,感兴趣的朋友可以了解下
    2020-06-06
  • keras自定义回调函数查看训练的loss和accuracy方式

    keras自定义回调函数查看训练的loss和accuracy方式

    这篇文章主要介绍了keras自定义回调函数查看训练的loss和accuracy方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-05-05
  • Python实现分割文件及合并文件的方法

    Python实现分割文件及合并文件的方法

    这篇文章主要介绍了Python实现分割文件及合并文件的方法,涉及Python针对文件的分割与合并操作相关技巧,通过自定义函数split与join实现了文件的分割与合并操作,需要的朋友可以参考下
    2015-07-07
  • Python一行代码识别增值税发票实现示例

    Python一行代码识别增值税发票实现示例

    这篇文章主要为大家介绍了Python一行代码识别增值税发票实现示例详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-03-03
  • 基于Mediapipe+Opencv实现手势检测功能

    基于Mediapipe+Opencv实现手势检测功能

    mediaPipe,他就是一个集成好的包括人脸关键位点识别、身体关键位点识别、手部关键位点识别的一个包或者库,直接调用就能够得到它的关键位点信息,本文给大家介绍Mediapipe+Opencv实现手势检测功能,感兴趣的朋友一起看看吧
    2022-01-01
  • Mac 使用python3的matplot画图不显示的解决

    Mac 使用python3的matplot画图不显示的解决

    今天小编就为大家分享一篇Mac 使用python3的matplot画图不显示的解决,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-11-11
  • Python dateutil库简化日期时间处理利器使用场景实践

    Python dateutil库简化日期时间处理利器使用场景实践

    在Python中,处理日期和时间是常见的任务之一,dateutil库是Python标准库中datetime模块的扩展,提供了许多方便的工具和函数,简化了日期和时间的操作
    2023-12-12
  • python发送json参数的实例代码

    python发送json参数的实例代码

    在写脚本的过程中,除了发送form表单参数之外,我们还会发送json格式的参数。那么碰见json格式要怎么发送呢,这篇我们来解决这个问题,需要的朋友可以参考下
    2019-10-10
  • python matplotlib imshow热图坐标替换/映射实例

    python matplotlib imshow热图坐标替换/映射实例

    这篇文章主要介绍了python matplotlib imshow热图坐标替换/映射实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-03-03
  • Django model 中设置联合约束和联合索引的方法

    Django model 中设置联合约束和联合索引的方法

    今天小编就为大家分享一篇Django model 中设置联合约束和联合索引的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-08-08

最新评论