保姆级教程：在Windows上用VS2017编译NCNN，并部署YOLOv5模型（含Vulkan开关避坑）-洪萨配资

Windows平台下VS2017编译NCNN与YOLOv5模型部署全流程指南

对于需要在Windows环境下进行深度学习模型部署的开发者而言，NCNN作为一个轻量级的高性能神经网络前向计算框架，因其跨平台特性和对ARM架构的深度优化而备受青睐。本文将详细介绍如何在Windows 10/11系统上，使用Visual Studio 2017完成NCNN的源码编译，并实现YOLOv5目标检测模型的完整部署流程。

1. 环境准备与工具链配置

在开始编译NCNN之前，需要确保系统已安装必要的开发工具和依赖项。以下是基础环境要求：

操作系统：Windows 10或11（64位）
开发工具：Visual Studio 2017（社区版或专业版）
编译工具：CMake 3.16或更高版本
Python环境：Python 3.7+（用于模型转换）

首先需要配置VS2017的命令行工具。从开始菜单中找到"x64 Native Tools Command Prompt for VS 2017"并启动，这个命令行环境已预设了VS2017的编译工具路径。

提示：建议使用管理员权限运行命令行，避免后续编译过程中可能出现的权限问题。

2. Protobuf依赖库的编译安装

NCNN依赖于Protocol Buffers（protobuf）进行模型序列化，因此需要先编译protobuf库。以下是详细步骤：

从GitHub下载protobuf 3.4.0源码：

git clone -b v3.4.0 https://github.com/protocolbuffers/protobuf.git

进入protobuf目录并创建构建文件夹：
```
cd protobuf mkdir build cd build
```

使用CMake生成构建配置：

cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -Dprotobuf_BUILD_TESTS=OFF -Dprotobuf_MSVC_STATIC_RUNTIME=OFF ../cmake

编译并安装：
```
nmake nmake install
```

编译完成后，检查build/install目录下是否生成了include、lib和bin子目录，确保protobuf编译成功。

3. NCNN源码编译与Vulkan支持配置

3.1 获取NCNN源码

从GitHub克隆最新的NCNN源码：

git clone https://github.com/Tencent/ncnn.git cd ncnn git submodule update --init

注意：务必执行git submodule update --init命令，确保所有子模块（如glslang）正确下载。

3.2 编译基础版本NCNN

创建构建目录并配置CMake：

mkdir build cd build cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -DProtobuf_INCLUDE_DIR=<protobuf-root-dir>/build/install/include -DProtobuf_LIBRARIES=<protobuf-root-dir>/build/install/lib/libprotobuf.lib -DProtobuf_PROTOC_EXECUTABLE=<protobuf-root-dir>/build/install/bin/protoc.exe -DNCNN_VULKAN=OFF ..

编译并安装：

nmake nmake install

3.3 Vulkan支持的特殊处理

如果需要启用Vulkan加速，需先安装Vulkan SDK，然后将CMake配置中的DNCNN_VULKAN改为ON。但需注意：

确保系统显卡支持Vulkan
安装最新版Vulkan SDK并正确设置环境变量
如果编译失败，可回退到DNCNN_VULKAN=OFF

4. YOLOv5模型转换与优化

4.1 从PyTorch到ONNX的转换

使用YOLOv5官方提供的export.py脚本进行模型转换：

python models/export.py --weights yolov5s.pt --img 640 --batch 1

安装onnx-simplifier优化ONNX模型：

pip install onnx-simplifier python -m onnxsim yolov5s.onnx yolov5s-sim.onnx

4.2 ONNX到NCNN模型转换

使用NCNN提供的工具进行模型转换：

onnx2ncnn.exe yolov5s-sim.onnx yolov5s.param yolov5s.bin

转换后可能遇到不支持的算子错误，需要手动修改.param文件：

将不支持的Slice操作替换为YoloV5Focus自定义层
调整Reshape层的参数格式
优化网络结构以减少冗余计算

4.3 模型量化与优化

使用ncnnoptimize工具进行模型优化：

ncnnoptimize.exe yolov5s.param yolov5s.bin yolov5s-opt.param yolov5s-opt.bin 65536

优化后需要检查自定义层名称是否被修改，确保与代码中的实现一致。

5. 模型部署与推理测试

5.1 基础推理代码实现

创建一个基本的YOLOv5推理程序需要包含以下关键组件：

#include "net.h" class YoloV5Focus : public ncnn::Layer { // 实现YoloV5Focus自定义层 }; DEFINE_LAYER_CREATOR(YoloV5Focus) int main() { ncnn::Net yolov5; yolov5.register_custom_layer("YoloV5Focus", YoloV5Focus_layer_creator); yolov5.load_param("yolov5s-opt.param"); yolov5.load_model("yolov5s-opt.bin"); // 图像预处理、推理和后处理代码 }