要不要支持下gpu解析

感觉cpu一下就炸了

正在写，但是onnx的gpu支持很差其实，启动的时候资源占用会比较多

正在写，但是onnx的gpu支持很差其实，启动的时候资源占用会比较多

可以转tensorrt吗？我的场景涉及到大量并发，CPU容易成为瓶颈，所以考虑用GPU，我正在优化代码。

正在写，但是onnx的gpu支持很差其实，启动的时候资源占用会比较多

可以转tensorrt吗？我的场景涉及到大量并发，CPU容易成为瓶颈，所以考虑用GPU，我正在优化代码。

欢迎提供pr贡献哈，理论上onnx转tensorrt也需要看算子的兼容性

大佬现在当前表格识别是不是不支持GPU呀？

正在写，但是onnx的gpu支持很差其实，启动的时候资源占用会比较多

可以转tensorrt吗？我的场景涉及到大量并发，CPU容易成为瓶颈，所以考虑用GPU，我正在优化代码。

欢迎提供pr贡献哈，理论上onnx转tensorrt也需要看算子的兼容性

表格识别的模型有没有pth呀？onnxruntime在创建大量分布在所有可用 GPU 设备上的 ONNX Runtime 会话时候，会有BUG，设置了device id实际全在一个device id上，导致OOM。

表格模型都是onnx哈，另外一个库rapidTable有pytorch的模型

麻烦问下现在可以支持GPU推理了吗？感谢

麻烦问下现在可以支持GPU推理了吗？感谢

gpu的话，应该可以用，但是onnx的gpu推理其实也没有明显提速的，可以试试哈，需要安装onnxruntime-gpu吧，参数上也要指定使用gpu

麻烦问下现在可以支持GPU推理了吗？感谢

gpu的话，应该可以用，但是onnx的gpu推理其实也没有明显提速的，可以试试哈，需要安装onnxruntime-gpu吧，参数上也要指定使用gpu
用了GPU推理单张4s多，请问是哪里有问题吗？麻烦您啦

我用起来确实加速了，只不过收益不大，后续请关注我的RapidOCR-pytorch项目，使用pth模型和pytorch支持，接口和RapidOCR几乎一样，且误差和paddle版本，onnx版本差别很小

Navigation Menu

Repository navigation

要不要支持下gpu解析 #129

Metadata

Assignees

Labels

Type

Projects

Milestone

Relationships

Development

要不要支持下gpu解析 #129

Description

Activity

Joker1212 commented on Mar 11, 2025

zzk2021 commented on Mar 27, 2025

Joker1212 commented on Mar 31, 2025

yangailing commented on Mar 31, 2025

zzk2021 commented on Apr 15, 2025

Joker1212 commented on Apr 16, 2025

CatchBeliF-TAT commented on Apr 16, 2025

Joker1212 commented on Apr 16, 2025

CatchBeliF-TAT commented on Apr 17, 2025

zzk2021 commented on Apr 17, 2025

Metadata

Metadata

Assignees

Labels

Type

Projects

Milestone

Relationships

Development

Issue actions