Skip to content

Latest commit

 

History

History
73 lines (58 loc) · 6.69 KB

File metadata and controls

73 lines (58 loc) · 6.69 KB

English | 简体中文

PaddleClas 模型在CPU与GPU上的部署方案-FastDeploy

1. 说明

PaddleClas支持通过FastDeploy在NVIDIA GPU、X86 CPU、飞腾CPU、ARM CPU、Intel GPU(独立显卡/集成显卡)硬件上快速部署PaddleClas系列模型

2. 模型版本说明

目前FastDeploy支持如下模型的部署

2.1 准备PaddleClas部署模型

PaddleClas模型导出,请参考其文档说明模型导出

注意:PaddleClas导出的模型仅包含inference.pdmodelinference.pdiparams两个文件,但为了满足部署的需求,同时也需准备其提供的通用inference_cls.yaml文件,FastDeploy会从yaml文件中获取模型在推理时需要的预处理信息,开发者可直接下载此文件使用。但需根据自己的需求修改yaml文件中的配置参数,具体可比照PaddleClas模型训练config中的infer部分的配置信息进行修改。

2.2 下载预训练模型

为了方便开发者的测试,下面提供了PaddleClas导出的部分模型(含inference_cls.yaml文件),开发者可直接下载使用。

模型 参数文件大小 输入Shape Top1 Top5
PPLCNet_x1_0 12MB 224x224 71.32% 90.03%
PPLCNetV2_base 26MB 224x224 77.04% 93.27%
EfficientNetB7 255MB 600x600 84.3% 96.9%
EfficientNetB0 19MB 224x224 77.38% 93.31%
EfficientNetB0_small 18MB 224x224 75.8% 92.58%
GhostNet_x1_3 27MB 224x224 75.79% 92.54%
GhostNet_x1_3_ssld 29MB 224x224 79.3% 94.49%
GhostNet_x0_5 10MB 224x224 66.8% 86.9%
MobileNetV1_x0_25 1.9MB 224x224 51.4% 75.5%
MobileNetV1_ssld 17MB 224x224 77.9% 93.9%
MobileNetV2_x0_25 5.9MB 224x224 53.2% 76.5%
MobileNetV2 13MB 224x224 72.15% 90.65%
MobileNetV2_ssld 14MB 224x224 76.74% 93.39%
MobileNetV3_small_x1_0 11MB 224x224 68.24% 88.06%
MobileNetV3_small_x0_35_ssld 6.4MB 224x224 55.55% 77.71%
MobileNetV3_large_x1_0_ssld 22MB 224x224 78.96% 94.48%
ShuffleNetV2_x0_25 2.4MB 224x224 49.9% 73.79%
ShuffleNetV2_x2_0 29MB 224x224 73.15% 91.2%
SqueezeNet1_1 4.8MB 224x224 60.1% 81.9%
InceptionV3 92MB 299x299 79.14% 94.59%
PPHGNet_tiny_ssld 57MB 224x224 81.95% 96.12%
PPHGNet_small 87MB 224x224 81.51% 95.82%
PPHGNet_base_ssld 274MB 224x224 85.0% 97.35%
ResNet50_vd 98MB 224x224 79.12% 94.44%
ResNet50 91MB 224x224 76.5% 93%
ResNeXt50_32x4d 89MB 224x224 77.75% 93.82%
DenseNet121 29MB 224x224 75.66% 92.58%
PULC_person_exists 6MB 224x224
ViT_large_patch16_224 1.1GB 224x224 83.23% 96.50%

3. 详细部署的部署示例