OpenVINO是英特尔基于现有硬件平台开发的工具套件,可以加快高性能计算机视觉和深度学习视觉应用开发速度,支持各种英特尔平台的硬件加速器进行深度学习,允许直接异构执行。 支持在Windows与Linux系统,Python/C 语言。
芯片采购网专注于整合国内外授权IC代理商现货资源,芯片库存实时查询,行业价格合理,采购方便IC芯片,国内专业芯片采购平台。
主要特点:
在Intel提高计算机视觉相关深度学习能力的平台
解除CNN-based边缘设备网络的性能瓶颈
对OpenCV,OpenXV*传统的视觉库API实现加速和优化
基于通用API接口在CPU、GPU、FPGA加上设备的运行
OpenVINO工具包(ToolKit)模型优化器主要包括两个核心组件(Model Optimizer)和(Model Optimizer)
在这里盘点一些使用中遇到的问题以及如何解决。这是第四篇。请参见前三篇文章:
盘点在使用openvino如何解决过程中遇到的一些问题——第一篇
http://www.eepw.com.cn/article/202203/432548.htm
盘点在使用openvino如何解决过程中遇到的一些问题-第二篇
http://www.eepw.com.cn/article/202204/432865.htm
盘点在使用openvino如何解决过程中遇到的一些问题——第三篇
http://www.eepw.com.cn/article/202204/433278.htm
问:我在安装openvino2021.2.测试过程中出现了错误。我查过,这个文件存在,但是打不开。visual版本是2019,cmake版本是3.23,python版本是3.7.9.你能问一下如何解决这个问题吗?
答: 中文换了怎么办?
2.问过openvino OPENCVc 预测老板吗?安装配置后,我觉得速度没有提高。有什么问题吗?可以帮助配置openvino c 的朋友么?
答:说速度没有提高,跟着tfserving相比么
回复:cpu
答:这是编译openvino? 没做过,只用openvino转换模型,使用ovms来做推理
回复:不,网上下载的,也配置了,但是编译不过
答:编译很难直接使用ovms呗,docker镜像
问:为什么这里没有r1i我转换的模型上显然有节点r1i
答:openvino试试2022年,我以前也有一个onnx2022年节点不能更换success了
回复:我发现我的节点是动态节点,好像是这个原因
答:我vs用openvino和别人一样include头文件 链接库路径 加库就行了。卸下2021,2022他包的结构变化很大,可以试试
4.问:谁遇到过这个问题?包含此文件后,编译报错
答:你vs是怎么报错的?
回复:看下图
答:我觉得这个error,似乎也有一些版本的问题
回复:安装过程没问题,运行demo它也运行起来。根据教程,包括目录和库目录,但最终包含文件后,无法编译。你用什么版本?vs
答:2019
回复:专业版?我用的15,也担心是不是版本。
答:是免费社区版吧?我的意思是openvino的版本
回复:官网下,官网主页最低版本2020.3吧,demo运行正确,py应该没有问题,所以怀疑是vs的版本不对
5.问:定义时报告内存错误。你见过朋友吗?
答:检查程序目录是否有效plugin.xml我以前遇到过文件,因为缺少这个
回复:这个文件在哪里找?
答:建议trycatch看看能否获得有效的错误信息
回复:真的没有
try{
}
//-*-error-*-//
catch(std::bad_alloc&e){
std::cerr<<"BADALLOCException:"<<e.what()<<std::endl;
returnEXIT_FAILURE;
}
catch(conststd::exception&e){
std::cerr<<"Error:"<<e.what()<<std::endl;
returnEXIT_FAILURE;
}
catch(...){
std::cerr<<"unknownexception"<<std::endl;
returnEXIT_FAILURE;
}
答:应该有安装目录。
回复:这就是为什么,谢谢
6.问:执行到这一行报错,有朋友见过吗?
答:环境配置、模型格式和路径问题
回复:有训练好的模型吗?可以传输一个确定可以加载的模型来消除问题吗?
问:为啥是onnx文件路径,onnx文件不应转换成bin和xml文件吗
答:都可以
回复:onnx是可以的吧
答:release运行
回复:
答:也就是模型有问题:
回复:用cv的dnn有可加载的模型吗?
答:dnn和openvino导出模型采用不同的格式opset设置成10
回复:转换成onnx设置代码吗?
6.问:openvino哪些模型支持,哪里可以找到,最好是官方发布,百度的感觉不全面
答:参考这两个列表:
https://docs.openvino.ai/latest/model_zoo.html
https://docs.openvino.ai/cn/latest/omz_models_group_public.html
这些模型支持任务的分类也存在于文档中
7.问莓派用python调用opencv打开摄像头会报错吗?老板能指出吗?
答:500×700有点大,格式可以根据模型输入的大小进行调整
8.问:这个。。按计算。opencv还是openvino。。。
答:现在openvino也支持arm他们不应该主要支持吗?X86架构吗?
回复:arm社区支持 不是官方
9.问:大神遇到这个报错了吗?
答:环境不匹配
A:你的加载环境变量吗?demo能跑成功吗?
10.问:openvino能在集成显卡上跑吗?
答:可以
回复:在集成显卡上跑和跑cpu上跑差别大吗?
问:openvino集成显卡跑在哪里设置?
答:GPU
11.问:这个GNA是集成显卡吗?
答:不,这是Intel神经网络加速棒
问:怎么用?FP16做推理呢
这两个地方没有改变,检测失败了
这个地方需要改变吗?还是模型需要转换成?FP16的
答:是的,你的模型应该转换成FP16格式。现在模型的格式是什么?FP32吗?你用openvino将模型优化器转换成fp16就可以啦
问:有没有人会问:PB转IR当模型遇到这个问题时,遇到这个问题
A:检查安装了模型优化器的模型优化器requirements.txt了吗
14.问:运行Gpu这种花时不时加速识别图片是怎么回事?
答:训练还是推理?什么模型应用?可以详细描述吗?
回复:问题已经解决,是调用过程问题,图片数据混乱
Raltron代理15.问一下问大家,CPU与验证速度差距不大(计算机未验证,YOLOv5s模型)
答:这取决于具体问题的具体分析,不同一代的不同系列cpu带的核显性能也不同