目录
- 0. 配置网络和启用系统服务
- 配置网络在主机用户名下编辑.wslconfig文件,通过测试建议使用Nat模式,内容如下:
- 启用系统服务,进入wsl后,编辑文件/etc/wsl.conf
- 1. 安装Rust
- 2. 安装node.js
- 3. 安装Docker
- 4. 使用Docker安装时序数据库TDengine
- 5. 安装MySQL 8
- 6. 安装Nginx
- 7.使用Docker安装vllm大模型服务
前言
安装WSL和cc编译链参考另一篇文章:
WSL初始化Ubuntu的使用
0. 配置网络和启用系统服务
配置网络在主机用户名下编辑.wslconfig文件,通过测试建议使用Nat模式,内容如下:
[wsl2]
networkingMode=nat
autoProxy=false
查看IP地址:
iproute show第一行"default via"后面是主机IP地址,用于WSL访问主机资源,
第二行"link src" 后面是WSL的IP地址,用户主机访问WSL服务.
启用系统服务,进入wsl后,编辑文件/etc/wsl.conf
sudo vi /etc/wsl.conf写入以下内容,然后退出系统,重启:wsl --shutdown
[boot]
systemd=true
1. 安装Rust
Rust官网
安装命令:
curl--proto'=https'--tlsv1.2-sSfhttps://sh.rustup.rs|sh2. 安装node.js
Node官网下载页,进入后选择Linux,nvm,pnpm之后根据下方提供的命令一个个执行即可。
# 下载并安装 nvm:curl-o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.40.3/install.sh|bash# 代替重启 shell\."$HOME/.nvm/nvm.sh"# 下载并安装 Node.js:nvminstall24# 验证 Node.js 版本:node-v# Should print "v24.16.0".# 下载并安装 pnpm:corepackenablepnpm# 验证 pnpm 版本:pnpm-v3. 安装Docker
# 1. 安装HTTPS 传输和 CA 证书相关的工具sudoapt-getupdatesudoapt-getinstall-yca-certificatescurlgnupg# 2. 创建密钥目录并添加 Docker官方GPG密钥sudomkdir-p/etc/apt/keyringswget-qO- https://download.docker.com/linux/ubuntu/gpg|sudogpg--dearmor-o/etc/apt/keyrings/docker.gpg# 3. 添加国内镜像源echo"deb [arch=$(dpkg --print-architecture)signed-by=/etc/apt/keyrings/docker.gpg] https://mirrors.aliyun.com/docker-ce/linux/ubuntu$(lsb_release-cs)stable"|sudotee/etc/apt/sources.list.d/docker.list>/dev/null# 4. 更新软件包索引并安装 Dockersudoapt-getupdatesudoapt-getinstall-ydocker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin# 5. 验证docker--version4. 使用Docker安装时序数据库TDengine
TDengine官方文档
# 1. 拉取镜像(社区版,够用但有部分功能限制)dockerpull docker.m.daocloud.io/tdengine/tsdb:3.4.0.0# 2. 查看镜像列表dockerimages# 3. 给镜像打标签: docker tag 原名称 新名称dockertag docker.m.daocloud.io/tdengine/tsdb:3.4.0.0 tdengine/tsdb:3.4.0.0# 4. 启动服务,单机部署,没启动集群端口,而且这个社区版集群能力本就不支持dockerrun-d-v/home/tdata/taos/dnode/data:/var/lib/taos-v/home/tdata/taos/dnode/log:/var/log/taos-p6030:6030-p6041:6041-p6060:6060--nametdengine tdengine/tsdb:3.4.0.0# 5. 验证启动dockerps5. 安装MySQL 8
# 1. 安装sudoaptinstallmysql-server# 2. 初始化配置sudomysql_secure_installation2.1是否启用密码验证组件2.2是否移除匿名用户2.3是否禁止root远程登录2.4是否删除测试数据库2.5是否重新加载权限表# 3. 配置sudonano/etc/mysql/mysql.conf.d/mysqld.cnf 修改[mysqld]bind-address=0.0.0.0 mysqlx-bind-address=0.0.0.0 !!!如果要和主机的共存,端口port也要修改为不一样!!!# 4. 启动sudosystemctl start mysql# 5. 查看sudosystemctl status mysql# 6. 重启sudoservicemysql restart# 7. 设置用户,进入sudo mysql -urootCREATEUSER'dev'@'%'IDENTIFIED BY'dev_ubuntu26.04';GRANT ALL PRIVILEGES ON *.* TO'dev'@'%'WITH GRANT OPTION;FLUSH PRIVILEGES;# 8. 这样就可以用客户端连接了mysql-udev-p-h172.29.0.160# 9. 开机自启sudosystemctlenablemysql6. 安装Nginx
sudoaptinstallnginx-ysudosystemctl start nginxsudosystemctlenablenginxsudosystemctl status nginx配置方法概述:
主配置文件:/etc/nginx/nginx.conf
站点配置文件:/etc/nginx/sites-available/
默认配置: default 文件是安装时自带的默认站点配置。
启用的站点(软链接):/etc/nginx/sites-enabled/
sudo ln -s /etc/nginx/sites-available/my-site /etc/nginx/sites-enabled/
禁用站点(删除软链接)
sudo rm /etc/nginx/sites-enabled/my-site
7. 使用Docker安装vllm大模型服务
# 0. 前置条件:安装nvidia-container-toolkit# 0.1 添加 NVIDIA 官方仓库与密钥curl-fsSLhttps://nvidia.github.io/libnvidia-container/gpgkey|sudogpg--dearmor-o/usr/share/keyrings/nvidia-container-toolkit-keyring.gpgcurl-s-Lhttps://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list|\sed's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g'|\sudotee/etc/apt/sources.list.d/nvidia-container-toolkit.list# 0.2 更新软件包并安装sudoapt-getupdatesudoapt-getinstall-ynvidia-container-toolkit# 0.3 验证安装(如果输出没有nvidia运行时,就要执行0.4)dockerinfo|grep-invidia# 0.4 NVIDIA 工具自动配置 Docker 运行时sudonvidia-ctk runtime configure--runtime=docker 输出: INFO[0000]Configfiledoes not exist;using empty config INFO[0000]Wrote updated config to /etc/docker/daemon.json INFO[0000]It is recommended thatdockerdaemon be restarted.# 0.5 可以去魔塔社区下载大模型(示例Qwen-ASR-1.7B)(准备个python环境)pipinstallmodelscope modelscope download--modelQwen/Qwen3-ASR-1.7B--local_dir./models/Qwen3-ASR-1.7B# 1. 拉取镜像dockerpull docker.m.daocloud.io/vllm/vllm-openai:latest# 2. 给镜像打标签dockertag docker.m.daocloud.io/vllm/vllm-openai:latest vllm-openai:latest# 3. 启动 (-v挂载需要看自己的实际模型位置,--gpu-memory-utilization需要看显卡能提供的显存有多少,按比例算下来不够就启不起来)dockerrun-d--gpusall-v/mnt/f/models/Qwen3-ASR-1.7B:/model-p8000:8000--ipc=host--namevllm-openai vllm-openai:latest--model/model --trust-remote-code --gpu-memory-utilization0.8--max-model-len4096--max-num-seqs1参数解释: --trust-remote-code 信任大模型里的脚本代码 --gpu-memory-utilization0.8GPU显存使用率80% --max-model-len4096将最大上下文长度从65536强制砍到4096。 这样 KV Cache 只需要不到 1GB 显存,瞬间释放空间给模型权重。 --gpu-memory-utilization0.9: 既然空间紧张,我们就把显存利用率拉满到90%。 --max-num-seqs1: 告诉 vLLM 同时只处理1个请求。多任务会吃掉宝贵的显存。# 4 查看启动过程(这里可以查看是否有启动报错)dockerlogs-fvllm-openai恭喜!输出如下:
root@DESKTOP-6I5AO9V:/home/root# docker run -d --gpus all -v /mnt/d/models/DeepSeek-R1-7B:/model -p 8000:8000 --ipc=host --name vllm-openai vllm-openai:latest --model /model --trust-remote-code --gpu-memory-utilization 0.9
1c39c440f573d656b48944bb78afc6a1b2c364160d96e2c4c253f82971dec6dd