news 2026/5/16 5:07:31

从0到上线:用 Docker + TensorRT 将 YOLO 人体检测推理速度提升数倍(上篇)

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
从0到上线:用 Docker + TensorRT 将 YOLO 人体检测推理速度提升数倍(上篇)

往期文章
RK3588+docker+YOLOv5部署:https://blog.csdn.net/FJN110/article/details/149673049
RK3588测试NPU和RKNN函数包装https://blog.csdn.net/FJN110/article/details/149669753
RK3588刷机:https://blog.csdn.net/FJN110/article/details/149669404
以及深度学习部署工程师1~31主要学习tensorRT、cmake、docker、C++基础、语义分割、目标检测、关键点识别、RTSP推流、3D模型部署、车牌检测于识别项目、人脸属性分析(年龄、性别、名称、是否佩戴口罩)等知识
好的进入本节课程:
在安装全部的库之后,大概会占用根目录30G左右的空间,所以在配置ubuntu的时候应该多配置一些空间给根目录
安装docker 的pytorch报会占用14GB的空间,没有空间需要慎重
本来用tensorRT的docker还需要多6GB的空间,但是如果你没空间的话可以跳过,因为我们已经在本地安装了TensorRT了,直接用本地的也行。
如果你没有进行前面的步骤,直接从这节开始,只用docker的方式,应该30GB以内就能完成。
所以你需要查看自己的根目录还有没有30GB空间
用df -h查看目前的空间情况
首先需要获得一个pt权重文件,我们才能部署,如果你不想要重新训练,你可以直接用我的pt文件进行TensorRT部署,跳过yolo安装、训练这些过程
代码在文章底部。
推理效果:

本节分上下两节,部署的部分为下节内容,本节主要是训练yolov5模型,为后面TensorRT准备

文章目录

  • YOLOV5 人员检测项目
  • 一、安装Pytorch 及 YOLO v5
    • 1.1 安装GPU版 pytorch
    • 1.2 安装YOLO v5所需依赖
  • 二、YOLO v5训练自定义数据(不想要训练可以跳过)
    • 2.1 标注数据
      • 2.1.1 安装labelImg
      • 2.1.2 标注
    • 2.2 准备数据集
      • 2.2.1 组织目录结构
      • 2.2.2 创建 dataset.yaml
    • 2.3 选择合适的预训练模型
    • 2.4 训练
    • 2.5 可视化
      • 2.5.1 wandb
      • 2.5.2 Tensorboard
    • 2.6 测试评估模型
      • 2.6.1 测试
      • 2.6.2 评估

YOLOV5 人员检测项目

一、安装Pytorch 及 YOLO v5

1.1 安装GPU版 pytorch

  • 方法一:conda虚拟环境
    这种方式在环境搭建中有更为详细的介绍(环境搭建是一个文档,如果需要的话私信我)

首先,请参考上一节课将GPU driver, cuda, cudnn先安装完毕。

# 使用conda虚拟环境(安装文档:https://docs.conda.io/en/latest/miniconda.html)# 创建conda虚拟环境,参考你选择的版本安装即可# 最新版:https://pytorch.org/get-started/locally/# 历史版本:https://pytorch.org/get-started/previous-versions/
  • 方法二:docker 方式(推荐)

使用docker主要是因为与主机性能区别不大,且

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/14 6:48:42

智慧农业树上猕猴桃检测数据集VOC+YOLO格式2810张1类别

数据集格式:Pascal VOC格式YOLO格式(不包含分割路径的txt文件,仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件)图片数量(jpg文件个数):2810标注数量(xml文件个数):2810标注数量(txt文件个数):2810标注类别…

作者头像 李华
网站建设 2026/5/15 23:21:45

YOLOv8模型瘦身到极致:LAMP剪枝实战,部署速度翻倍

YOLOv8模型瘦身术:深度解析与实战LAMP剪枝 (2021) 文章目录 YOLOv8模型瘦身术:深度解析与实战LAMP剪枝 (2021) 引言:为何模型剪枝至关重要? 1. 理论深潜:LAMP剪枝的核心思想与创新 1.1 幅度剪枝 (MP) 的“简单与粗暴” 1.2 LAMP 的核心创新点:最小化L2失真 1.3 巧妙化简:…

作者头像 李华
网站建设 2026/5/9 20:09:19

YOLOv8-Pose人体姿态识别在RK3588上的工程化部署方案(训练 / 转换 / 加速全覆盖)

文章目录 【YOLOv8-pose姿态识别部署至RK3588:模型训练到RKNN落地,让人体姿态分析精度与边缘推理速度双突破】 一、项目背景与技术选型:为何选择YOLOv8-pose+RK3588? 二、环境搭建:从代码仓库到硬件适配 1. 源码获取与工程结构 2. 依赖安装与硬件配置 三、YOLOv8-pose模型…

作者头像 李华
网站建设 2026/5/9 7:45:52

【WMS】把 WMS 系统彻底讲清楚:从底层逻辑到落地细节,一篇说透

把 WMS 系统彻底讲清楚:从底层逻辑到落地细节,一篇说透一、先纠正一个根本误区:WMS ≠ 仓库自动化二、WMS 的底层逻辑,其实就三件事三、WMS 覆盖的不是“流程”,而是“决策点”四、为什么 WMS 上线后,现场反…

作者头像 李华
网站建设 2026/5/10 8:00:12

基于深度学习的手机检测系统(YOLOv10+YOLO数据集+UI界面+模型)

一、项目介绍 项目背景: 随着智能手机的普及,手机检测在多个场景中变得尤为重要,例如考场监控、会议室管理、公共场所的安全监控等。传统的手机检测方法通常依赖于人工检查或简单的传感器检测,效率较低且容易出错。基于深度学习的目标检测技…

作者头像 李华