YOLOX 模型转换报错 [TensorRT] ERROR: runtime.cpp (25) - Cuda Error in allocate: 2 (out of memory)
配置:
ubuntu 18.04
pytroch 1.9.0
cuda10.0
cudnn 7.5.0
TensorRT 5.1.5
torch2trt 0.3.0
修改trt.py下max_workspace_size的大小
2023-11-22 13:21:34
配置:
ubuntu 18.04
pytroch 1.9.0
cuda10.0
cudnn 7.5.0
TensorRT 5.1.5
torch2trt 0.3.0
修改trt.py下max_workspace_size的大小