C++ ncnn模型验证精度实现代码

 更新时间:2023年02月27日 08:34:26   作者:樊城  
这篇文章主要介绍了C++ ncnn模型验证精度实现过程,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习吧

验证ncnn模型的精度

1、进行pth模型的验证

得到ncnn模型的顺序为:.pth–>.onnx–>ncnn

.pth的精度验证如下:

如进行的是二分类:

    model = init_model(model, data_cfg, device=device, mode='eval')
    ###.pth转.onnx模型
    # #---
    # input_names = ["x"]
    # output_names = ["y"]
    # inp = torch.randn(1, 3, 256, 128) ##错误示例
    inp = np.full((1, 3, 160, 320), 0.5).astype(np.float) #(160,320) = (h,w)
    inp = torch.FloatTensor(inp)
    out = model(inp)
    print(out)

没有经过softmax层,out输出为±1的两个值。

2、转为onnx后的精度验证

   sess = onnxruntime.InferenceSession("G:\\pycharm_pytorch171\\pytorch_classification\\main\\sim.onnx", providers=["CUDAExecutionProvider"])  # use gpu
    input_name = sess.get_inputs()[0].name
    print("input_name: ", input_name)
    output_name = sess.get_outputs()[0].name
    print("output_name: ", output_name)
    # test_images = torch.rand([1, 3, 256, 128])
    test_images = np.full((1, 3, 160, 320), 0.5).astype(np.float) #(160,320) = (h,w)
    test_images = torch.FloatTensor(test_images)
    print("test_image", test_images)
    prediction = sess.run([output_name], {input_name: test_images.numpy()})
    print(prediction)

3、ncnn精度验证

首先保证mean、norm输出的值与onnx保持一致,因为onnx直接输入值0.5,ncnn模型经过mean、norm计算后的结果与0.5一致就行。

然后就是ncnn模型的计算输出

- 查看输出结果是否是0.5,首先得将输入值1给到img

 ```cpp
     constexpr int w = 320;
     constexpr int h = 160;
     float cbuf[h][w];
     cv::Mat img(h, w, CV_8UC3,(float *)cbuf);
     //BYTE* iPtr = new BYTE[128 * 256 * 3];
     BYTE* iPtr = new BYTE[h * w * 3];
     for (int i = 0; i < h; i++)
     {
         for (int j = 0; j < w; j++)
         {
             for (int k = 0; k < 3; k++)
             {
                 //iPtr[i * 256 * 3 + j * 3 + k] = img.at<cv::Vec3f>(i, j)[k];
                 img.at<cv::Vec3b>(i, j)[k] = 1;
             }
         }
     }
 ```
 - 经过上面的赋值,通过了mean、norm计算后,得到的结果进行查看,值为0.5则正确转换。得到的结果送入下面的代码进行输出。
 ncnn结果为mat,因此采用该方法进行遍历查看。
 ```cpp
 //输出ncnn mat
 void ncnn_mat_print(const ncnn::Mat& m)
 {
     for (int q = 0; q < m.c; q++)
     {
         const float* ptr = m.channel(q);
         for (int y = 0; y < m.h; y++)
         {
             for (int x = 0; x < m.w; x++)
             {
                 printf("%f ", ptr[x]);
             }
             ptr += m.w;
             printf("\n");
         }
         printf("------------------------\n");
     }
 }
 ```
 将mat给到模型进行推理得到结果。

4、结果确认

一般情况下,pth模型与onnx模型结果相差不大,ncnn会有点点损失,千分位上的损失,这样精度基本上是一致的。

若不一致,看哪一步结果相差太大,如果是ncnn这一步相差太大,检查是否是值输入有问题,或者是输入的(h,w)弄反了。

到此这篇关于C++ ncnn模型验证精度实现代码的文章就介绍到这了,更多相关C++ ncnn验证精度内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • C语言数据的存储详解

    C语言数据的存储详解

    本文详细讲解了C语言数据的存储,文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2021-12-12
  • C++中继承基类与派生类的区别

    C++中继承基类与派生类的区别

    这篇文章主要介绍了C++中继承基类与派生类的区别,面向对象程序设计中最重要的一个概念是继承。继承允许我们依据另一个类来定义一个类,这使得创建和维护一个应用程序变得更容易,需要的朋友可以参考下
    2023-05-05
  • 尾递归详细总结分析

    尾递归详细总结分析

    关于递归操作,相信大家都已经不陌生。简单地说,一个函数直接或间接地调用自身,是为直接或间接递归
    2013-09-09
  • C++实现校园运动会报名系统

    C++实现校园运动会报名系统

    这篇文章主要为大家详细介绍了C++实现校园运动会报名系统,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-10-10
  • C++实现雷霆战机可视化小游戏

    C++实现雷霆战机可视化小游戏

    这篇文章主要为大家详细介绍了C++实现雷霆战机可视化小游戏,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2020-11-11
  • win10+VS2017+Cuda10.0环境配置详解

    win10+VS2017+Cuda10.0环境配置详解

    这篇文章主要介绍了win10+VS2017+Cuda10.0环境配置详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-08-08
  • 基于opencv的行人检测(支持图片视频)

    基于opencv的行人检测(支持图片视频)

    本文主要介绍了基于opencv的行人检测(支持图片视频),文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-12-12
  • C++类和对象之多态详解

    C++类和对象之多态详解

    大家好,本篇文章主要讲的是C++类和对象之多态详解,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏一下,方便下次浏览
    2021-12-12
  • C语言实现推箱子项目

    C语言实现推箱子项目

    这篇文章主要为大家详细介绍了C语言实现推箱子项目,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2020-08-08
  • 不要被C++(自动生成规则)所蒙骗

    不要被C++(自动生成规则)所蒙骗

    正如标题所说,我们不要被C++语法中所描述的那些条条框框所“蒙骗”了。的确,相信这些生成规则不会对我们的编程带来多大的影响(不会产生错误),但是只有了解它们的背后操作,我们才知道编译器究竟为我们做了什么,感兴趣的朋友可以了解下,希望本文对你有所帮助
    2013-01-01

最新评论