Paddle Inference c++ 支持 WIN10 NVDIA 50系列 推理吗？

[FreemanTang]

问题描述 Issue Description

您好，请教一下，Paddle Inference c++ 支持 WIN10 NVDIA 50系列 GPU推理吗？
我之前用的是Fastdeploy 发现已经不支持NVDIA 50系列了。
不知道Paddle Inference c++是否支持？

版本&环境信息 Version & Environment Information

win10
rtx5060

[fxyfxy777]

你好，目前已发布的库不支持

[FreemanTang]

你好，目前已发布的库不支持

大佬，您好，感谢您的回复！请问一下，官方有计划对Paddle Inference c++推理进行RTX50系列适配吗？

[fxyfxy777]

你好，目前已发布的库不支持

大佬，您好，感谢您的回复！请问一下，官方有计划对Paddle Inference c++推理进行RTX50系列适配吗？

暂时没有计划支持

[FreemanTang]

你好，目前已发布的库不支持

大佬，您好，感谢您的回复！请问一下，官方有计划对Paddle Inference c++推理进行RTX50系列适配吗？

暂时没有计划支持

@fxyfxy777 大佬，您好，请教一下，如果想在WIN10 NVDIA 50系列显卡 对 paddle训练的模型 进行 c++ 推理，有什么可行方案吗？

[fxyfxy777]

你好，目前已发布的库不支持

大佬，您好，感谢您的回复！请问一下，官方有计划对Paddle Inference c++推理进行RTX50系列适配吗？

暂时没有计划支持

@fxyfxy777 大佬，您好，请教一下，如果想在WIN10 NVDIA 50系列显卡 对 paddle训练的模型 进行 c++ 推理，有什么可行方案吗？

https://www.paddlepaddle.org.cn/inference/master/guides/nv_gpu_infer/index_nv_gpu_infer.html
可以看看这里有没有适合您的方案

[FreemanTang]

你好，目前已发布的库不支持

大佬，您好，感谢您的回复！请问一下，官方有计划对Paddle Inference c++推理进行RTX50系列适配吗？

暂时没有计划支持

@fxyfxy777 大佬，您好，请教一下，如果想在WIN10 NVDIA 50系列显卡 对 paddle训练的模型 进行 c++ 推理，有什么可行方案吗？

https://www.paddlepaddle.org.cn/inference/master/guides/nv_gpu_infer/index_nv_gpu_infer.html 可以看看这里有没有适合您的方案

大佬，您好，感谢您的回复！请教一下，如果在WIN10 NVDIA 50系列显卡 对 paddle 进行源码编译，有没有可能编译成功，使得RTX50系列适配，进而进行Paddle Inference c++推理？

[fxyfxy777]

你好，目前已发布的库不支持

大佬，您好，感谢您的回复！请问一下，官方有计划对Paddle Inference c++推理进行RTX50系列适配吗？

暂时没有计划支持

@fxyfxy777 大佬，您好，请教一下，如果想在WIN10 NVDIA 50系列显卡 对 paddle训练的模型 进行 c++ 推理，有什么可行方案吗？

https://www.paddlepaddle.org.cn/inference/master/guides/nv_gpu_infer/index_nv_gpu_infer.html 可以看看这里有没有适合您的方案

大佬，您好，感谢您的回复！请教一下，如果在WIN10 NVDIA 50系列显卡 对 paddle 进行源码编译，有没有可能编译成功，使得RTX50系列适配，进而进行Paddle Inference c++推理？

你好，可以自己编一下，是有可能编译成功的

[FreemanTang]

你好，目前已发布的库不支持

大佬，您好，感谢您的回复！请问一下，官方有计划对Paddle Inference c++推理进行RTX50系列适配吗？

暂时没有计划支持

@fxyfxy777 大佬，您好，请教一下，如果想在WIN10 NVDIA 50系列显卡 对 paddle训练的模型 进行 c++ 推理，有什么可行方案吗？

https://www.paddlepaddle.org.cn/inference/master/guides/nv_gpu_infer/index_nv_gpu_infer.html 可以看看这里有没有适合您的方案

大佬，您好，感谢您的回复！请教一下，如果在WIN10 NVDIA 50系列显卡 对 paddle 进行源码编译，有没有可能编译成功，使得RTX50系列适配，进而进行Paddle Inference c++推理？

你好，可以自己编一下，是有可能编译成功的

@fxyfxy777 大佬，您好，感谢您的回复！请教一下，paddle和Paddle Inference c++之间有什么区别和联系？怎么两个源码编译教程都是用的 https://github.com/PaddlePaddle/Paddle.git 但两个文档还不一样？

[fxyfxy777]

Paddle Inference c++是paddle的一个子模块，按照编译paddle的步骤来编译就可以成功编译Inference

[douhaoyu]

@FreemanTang 同样的问题，我现在使用的paddleinference windows C++是基于40系列的,看官方paddle3.0框架只有windows cpu版，你使用源码编译gpu版本成功了吗

[FreemanTang]

@FreemanTang 同样的问题，我现在使用的paddleinference windows C++是基于40系列的,看官方paddle3.0框架只有windows cpu版，你使用源码编译gpu版本成功了吗

@douhaoyu 您好，我尝试了，但并没有源码编译成功，https://github.com/PaddlePaddle/Paddle.git 源码编译，要依赖很多第三方库，
1、很多第三方库，有些地址可能失效了，导致git clone和cmake下载失败。
2、使用cmake构建的项目，因为很多依赖的缺失，导致编译报了很多错误。
3、可能是我电脑配置不够高，我在自己电脑上编译耗时巨长。目前，一步步查错，时间上不太现实。
4、还有一个就是，我用cmake指定CUDA_ARCHS="120",报错了。（具体错误信息忘记了，似乎是不支持sm_120导致的）。
这也是我为什么希望paddle官方能够去适配支持50系列显卡，但是paddle官方目前没有去适配支持50系列显卡的计划。 @fxyfxy777

[douhaoyu]

@FreemanTang 我在这里找到了paddle3.2.1的paddleinference gpu推理库，你试下这个能用吗
https://github.com/PaddlePaddle/Paddle-Inference-Demo/blob/master/docs-official/guides/install/download_lib.md

[FreemanTang]

@FreemanTang 我在这里找到了paddle3.2.1的paddleinference gpu推理库，你试下这个能用吗 https://github.com/PaddlePaddle/Paddle-Inference-Demo/blob/master/docs-official/guides/install/download_lib.md

您好，我暂时还没时间去试。我粗略地看了一下你给的链接内容，我其实有点困惑，就是，按理来说，paddle_inference推理库的版本应该对应的paddlepaddle版本，这就有一个问题，paddlepaddle3.x版本和paddlepaddle2.x版本导出来的模型是不一样的，而这里的推理示例（C++），的模型结构还是这样的，

但是好像paddlepaddle3.x训练出来的模型导出来变成了这样。我都不知道paddle_inference是不是兼容两种情况。我没有找到这种情况的相关c++推理示例。