使用OpenVINO条件编译功能，压缩windows应用体积

在OpenVINOTM编译过程中，我们可以根据应用对于硬件平台的需求，关闭或开指定推理后端的编译，以达到简化OpenVINOTM运行库的目的。除此以外OpenVINOTM还提供了条件编译功能，用于针对特定模型进行运行库压缩，接下来就让我们一起来看下如何在Windows操作系统上实现这一功能。

英特尔开发人员专区

457人浏览 · 2025-01-17 09:00:33

英特尔开发人员专区 · 2025-01-17 09:00:33 发布

作者：杨亦诚

在OpenVINO编译过程中，我们可以根据应用对于硬件平台的需求，关闭或开指定推理后端的编译，以达到简化OpenVINO运行库的目的，例如cmake -DENABLE_INTEL_GPU=OFF 便可以取消GPU plugin库的编译。除此以外OpenVINO还提供了条件编译功能，用于针对特定模型进行运行库压缩，接下来就让我们一起来看下如何在Windows操作系统上实现这一功能。

环境安装与配置

第一步，我们需要确保已经在Windows上安装了Visual Studio编译环境。如果是第一次安装Visual Studio可以通过以下链接下载。

Visual Studio: IDE and Code Editor for Software Developers and Teams

在安装组件过程中，选择“使用C++的桌面开发”。

图：Visual Studio安装示例

安装完毕后建议使用Visual Studio自带的命令行工具“x64 Native Tools Command Prompt”对编译环境进行初始化。

图：搜索“x64 Native Tools Command Prompt”

预编译

在完成编译环境初始化后，会看到以下提醒。接下来我们就可以在该命令行终端上输入编译指令了。

图：编译环境初始化成功

在这一步中，我们需要先利用Ninja编译工具对OpenVINO运行库进行预编译，并使用itt组件来收集模型运行过程中的依赖数据。可以通过cmake -DENABLE_PROFILING_ITT=ON -DSELECTIVE_BUILD=COLLECT .. 指令开启这一功能的编译。以下是完整命令参考：

git clone https://github.com/openvinotoolkit/openvino.git

set OPENVINO_HOME=D:\work_path\openvino

cd %OPENVINO_HOME%

git submodule update --init --recursive

md build_cc

cd build_cc

cmake -G Ninja -Wno-dev -DCMAKE_BUILD_TYPE=Debug -DENABLE_CPPLINT=OFF -DCMAKE_VERBOSE_MAKEFILE=ON -DCMAKE_COMPILE_WARNING_AS_ERROR=OFF -DENABLE_FASTER_BUILD=ON -DENABLE_SANITIZER=OFF -DTHREADING=TBB -DBUILD_SHARED_LIBS=OFF -DENABLE_PROFILING_ITT=ON -DSELECTIVE_BUILD=COLLECT -DENABLE_INTEL_GPU=OFF -DENABLE_MULTI=OFF -DENABLE_AUTO=OFF -DENABLE_AUTO_BATCH=OFF -DENABLE_HETERO=OFF -DENABLE_TEMPLATE=OFF -DENABLE_OV_ONNX_FRONTEND=OFF -DENABLE_OV_PADDLE_FRONTEND=OFF -DENABLE_OV_PYTORCH_FRONTEND=OFF -DENABLE_OV_JAX_FRONTEND=OFF -DENABLE_OV_TF_FRONTEND=OFF -DCMAKE_INSTALL_PREFIX=install -DENABLE_PYTHON=OFF ..

cmake --build . --config Debug

数据收集

完成预编译后，我们需要针对特定模型，利用itt工具收集OpenVINO运行库在运行指定模型所需的依赖模块。

cd %OPENVINO_HOME%\build_cc

cmake --build . --config Debug --target sea_itt_lib

cd %OPENVINO_HOME%

set PATH=%PATH%;%OPENVINO_HOME%\\temp\tbb\bin

mkdir cc_data

cd %OPENVINO_HOME%\cc_data

python3 ..\thirdparty\itt_collector\runtool\sea_runtool.py --bindir ..\bin\intel64\Debug -o %OPENVINO_HOME%\cc_data\data ! ..\bin\intel64\Debug\benchmark_app.exe -niter 1 -nireq 1 -m <your_model.xml> -d NPU

可以看到在以上命令中，我们将benchmark app所采集到的模型运行数据保存在cc_data目录下，接下来就需要基于该数据来压缩OpenVINO运行库的体积。

图：OpenVINO运行依赖数据

运行库编译

使用cmake -DSELECTIVE_BUILD=ON -DSELECTIVE_BUILD_STAT=%OPENVINO_HOME%\cc_data\*.cs指令，我们可以利用上一步所采集的依赖数据，在正式编译过程中删除一些不必要的依赖组件或是函数，以达到针对指定模型优化运行库容量的目的。以下是完整的参考指令：

cd %OPENVINO_HOME%

md build

cd build

cmake -G "Visual Studio 16 2019" -A x64 -DENABLE_CPPLINT=OFF -DCMAKE_VERBOSE_MAKEFILE=ON -DCMAKE_COMPILE_WARNING_AS_ERROR=OFF -DCMAKE_BUILD_TYPE=Release -DENABLE_FASTER_BUILD=ON -DENABLE_PROFILING_ITT=OFF -DSELECTIVE_BUILD=ON -DENABLE_INTEL_GPU=OFF -DENABLE_MULTI=OFF -DENABLE_AUTO=OFF -DENABLE_AUTO_BATCH=OFF -DENABLE_HETERO=OFF -DENABLE_TEMPLATE=OFF -DENABLE_OV_ONNX_FRONTEND=OFF -DENABLE_OV_PADDLE_FRONTEND=OFF -DENABLE_OV_PYTORCH_FRONTEND=OFF -DENABLE_OV_JAX_FRONTEND=OFF -DENABLE_OV_TF_FRONTEND=OFF -DSELECTIVE_BUILD_STAT=%OPENVINO_HOME%\cc_data\*.csv -DBUILD_SHARED_LIBS=OFF -DENABLE_LTO=ON -DENABLE_ONEDNN_FOR_GPU=OFF -DENABLE_OV_TF_LITE_FRONTEND=OFF -DENABLE_PROFILING_FIRST_INFERENCE=OFF ..

cmake --build . --config Release

这里我们比较开启条件编译功能和关闭条件编译功能后，OpenVINO运行库的大小。