pytorch 使用加载训练好的模型做inference

 更新时间:2020年02月20日 15:41:28   作者:U_C  
今天小编就为大家分享一篇pytorch 使用加载训练好的模型做inference,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

前提: 模型参数和结构是分别保存的

1、 构建模型(# load model graph)

model = MODEL()

2、加载模型参数(# load model state_dict)

 model.load_state_dict
 (
 {

 k.replace('module.',''):v for k,v in

 torch.load(config.model_path, map_location=config.device).items()

 }
 )
 
model = self.model.to(config.device)

* config.device 指定使用哪块GPU或者CPU  

*k.replace('module.',''):v 防止torch.DataParallel训练的模型出现加载错误

(解决RuntimeError: module must have its parameters and buffers on device cuda:0 (device_ids[0]) but found one of them on device: cuda:1问题)

3、设置当前阶段为inference(# predict)

model.eval()

以上这篇pytorch 使用加载训练好的模型做inference就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • NumPy实现ndarray多维数组操作

    NumPy实现ndarray多维数组操作

    NumPy一个非常重要的作用就是可以进行多维数组的操作,这篇文章主要介绍了NumPy实现ndarray多维数组操作,需要的朋友们下面随着小编来一起学习学习吧
    2021-05-05
  • Selenium定位元素的方法小结及语法详解

    Selenium定位元素的方法小结及语法详解

    Selenium是一种用于自动化网页操作的工具,通过不同定位策略可以精准定位网页元素,本文介绍了8种定位方法,并详细说明了每种方法的语法、使用场景及实际操作中的注意事项,需要的朋友可以参考下
    2025-02-02
  • Python使用Transformers实现机器翻译功能

    Python使用Transformers实现机器翻译功能

    近年来,机器翻译技术飞速发展,从传统的基于规则的翻译到统计机器翻译,再到如今流行的神经网络翻译模型,尤其是基于Transformer架构的模型,翻译效果已经有了质的飞跃,本文将详细介绍如何使用Transformers库来实现一个机器翻译模型,需要的朋友可以参考下
    2024-11-11
  • Python读取VOC中的xml目标框实例

    Python读取VOC中的xml目标框实例

    这篇文章主要介绍了Python读取VOC中的xml目标框实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-03-03
  • python编程实现归并排序

    python编程实现归并排序

    这篇文章主要为大家详细介绍了python编程实现归并排序的具体代码,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-04-04
  • python实现获取序列中最小的几个元素

    python实现获取序列中最小的几个元素

    这篇文章主要介绍了python实现获取序列中最小的几个元素,是非常实用的技巧,需要的朋友可以参考下
    2014-09-09
  • Python+Sklearn实现异常检测

    Python+Sklearn实现异常检测

    这篇文章主要为大家详细介绍了Python如何利用Sklearn实现异常检测,文中的示例代码讲解详细,对我们学习Python有一定的帮助,感兴趣的可以跟随小编一起学习一下
    2022-12-12
  • Python字符串中的单词反转的实现示例

    Python字符串中的单词反转的实现示例

    在Python中,要将字符串中的单词进行反转,本文主要介绍了Python字符串中的单词反转的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2024-04-04
  • 关于python tushare Tkinter构建的简单股票可视化查询系统(Beta v0.13)

    关于python tushare Tkinter构建的简单股票可视化查询系统(Beta v0.13)

    这篇文章主要介绍了python tushare Tkinter构建的简单股票可视化查询系统(Beta v0.13),本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-10-10
  • 浅谈Python pygame绘制机制

    浅谈Python pygame绘制机制

    今天给大家带来的是关于Python的相关知识,文章围绕着Python pygame绘制机制展开,文中有非常详细的介绍及图文示例,需要的朋友可以参考下
    2021-06-06

最新评论