-
参考 CMake-Build,构建 Forward-Cpp 库。
-
拷贝
build/bin
目录下的libfwd_torch.so
(libfwd_tf.so
,libfwd_keras.so
,libfwd_onnx.so
) 和libtrt_engine.so
到libs
目录下。 -
修改
build.sh
中的TensorRT_ROOT
。如果需要测试test_fwd_torch.cpp
或者test_fwd_tf.cpp
或者test_fwd_onnx.cpp
,则需要同时修改ENABLE_TORCH=ON
或ENABLE_TENSORFLOW=ON
或ENABLE_ONNX=ON
,以及LibTorch
或LibTensorflow
。 -
更新
test_fwd_engine.cpp
,test_fwd_tf.cpp
或test_fwd_torch.cpp
或test_fwd_onnx.cpp
中的model_path
andinput informations
。 -
执行
build.sh
编译 demo 项目。
注意: 模型输入名可通过模型查看器来查看, 例如用 Netron 查看。