news 2026/6/9 6:06:32

web编辑器大文件上传的断点续传实现原理

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
web编辑器大文件上传的断点续传实现原理

【一个C#外包仔的2G文件上传生死劫:从WebUploader到.NET Core自救指南】


"老板,这个需求…可能需要加钱。“我盯着客户发来的PDF,手指在"支持2G文件批量上传"那行字上疯狂颤抖。作为同时会修打印机和写ASP.NET Core的"全栈艺术家”,我深知这次要面对的是三重暴击:Vue2的兼容性、SQL Server的存储压力,还有那个该死的WebUploader——它现在就像个被拔掉电池的玩具,在控制台里躺着闪红灯。

第一幕:WebUploader的"临终表演"

"看!它动了!"我兴奋地指着屏幕上突然跳到99%的进度条,下一秒Chrome标签页就白屏了。这个百度开源的组件就像个行为艺术家:

  • 分片上传?能工作,但偶尔会把第13片传到火星(后来发现是Nginx的client_max_body_size在作怪)
  • 跨浏览器兼容?在Edge里会表演"进度条卡顿魔术",在Firefox里直接显示"NaN%"
  • 断点续传?客户重启路由器后,所有分片都会集体玩"消失的她"

最绝的是错误处理:

// 前端发来的神秘代码uploader.on('error',function(type){if(type==='F_DUPLICATE'){alert('文件已存在,但后端可能没收到这个消息');}else{console.log('出错了,但我不知道怎么描述');}});

第二幕:.NET Core与Vue2的"跨服聊天"

"前端说需要获取上传速度!"我冲着电话大喊,嘴里还嚼着辣条。后端小哥(其实也是我)的声线透着绝望:“哥,WebUploader的文档比我的C#注释还抽象…”

于是我们开启了量子纠缠式开发:

// 后端API(喝到第五杯咖啡后的产物)[HttpPost("upload-chunk")]publicasyncTaskUploadChunk(IFormFilefile,stringfileHash,intchunkIndex){try{varchunkPath=Path.Combine("uploads",fileHash,$"{chunkIndex}.part");awaitusingvarstream=newFileStream(chunkPath,FileMode.Create);awaitfile.CopyToAsync(stream);// 偶尔会抛出"神秘异常"returnOk(new{success=true});// 其实可能没成功}catch{returnStatusCode(500,"服务器说它累了");}}
// 前端调用(Vue2的魔法)uploadChunk(chunk){constformData=newFormData();formData.append('file',chunk.file);formData.append('fileHash',this.fileHash);formData.append('chunkIndex',chunk.index);axios.post('/api/upload-chunk',formData,{onUploadProgress:()=>{// 这个回调会随机触发3次}});}

第三幕:SQL Server的"内存爆炸"

当客户问"能不能显示所有上传任务的历史记录"时,我盯着那台只有8G内存的云服务器陷入了沉思:

-- 最初的设计(天真版)CREATETABLEUploadTasks(Id UNIQUEIDENTIFIERPRIMARYKEY,FileName NVARCHAR(255),FileSizeBIGINT,-- 2G文件就是2147483648StatusINT,-- 0=上传中 1=完成 2=失败 3=合并中...CreatedAt DATETIME2,-- 省略了5个关联表的设计...);

直到测试时发现:

  1. 插入1000条记录后,查询"进行中的任务"需要2.8秒
  2. 没有给FileHash列加索引(别问我怎么知道的)
  3. 当Nginx超时断开连接时,.NET Core还在傻乎乎地插入分片记录
  4. 合并文件时,FileStream直接吃掉了4G内存

第四幕:绝地求生方案

经过三天三夜的谷歌搜索(和两包卫龙辣条),我制定了新方案:

前端改造计划

  1. 弃用WebUploader,改用uppy.io(至少文档是2024年的)
  2. 实现真正的断点续传:
    // 用IndexedDB存储已上传分片constdbPromise=idb.open('UploadDB',1,upgradeDB=>{upgradeDB.createObjectStore('chunks',{keyPath:'id'});});
  3. 添加心跳检测,防止浏览器假死
  4. 用WebSocket实时显示上传速度(虽然.NET Core的SignalR更香,但学不动啊)

后端自救指南

  1. MemoryMappedFile替代普通FileStream处理大文件:
    // 合并分片时不再吃内存using(varmmf=MemoryMappedFile.CreateFromFile("final.dat",FileMode.Create)){for(inti=0;i<totalChunks;i++){varchunkPath=Path.Combine("uploads",fileHash,$"{i}.part");// 内存映射文件操作...}}
  2. 添加速率限制中间件:
    // 防止客户端疯狂上传app.Use(async(context,next)=>{varclientIp=context.Connection.RemoteIpAddress;varrateLimitKey=$"upload:{clientIp}";// 简单的Redis计数器(实际用StackExchange.Redis)if(redis.Increment(rateLimitKey)>100){context.Response.StatusCode=429;awaitcontext.Response.WriteAsync("慢点,兄弟!");return;}awaitnext();});
  3. 异步处理文件合并:
    // 用Hangfire后台任务_backgroundJobClient.Schedule(()=>MergeFile(fileHash),TimeSpan.FromMinutes(1)// 延迟1分钟合并,给前端时间传完所有分片);

数据库优化

  1. 改用SQL Server的FILESTREAM存储大文件元数据
  2. 添加Redis缓存当前上传任务
  3. 对大文件记录采用"软删除"策略(标记为删除但不真删,怕客户反悔)
  4. 分表策略:
    -- 按年份分表CREATETABLEUploadTasks_2024(-- 结构同主表);

终幕:测试日的疯狂

当客户终于发来测试文件时,我的监控面板是这样的:

  • IIS错误日志:每分钟新增5条"Connection_Abandoned_By_ReqQueue"
  • .NET Core内存占用突破1.8G
  • SQL Server:慢查询日志里全是SELECT * FROM UploadTasks WHERE Status=0

但!当那个2.1G的《Windows 11 ISO》终于显示"上传成功"时,我激动得把可乐打翻在键盘上——至少这次没把服务器宕机,只是让整个办公室的鼠标都变得黏糊糊的…

(客户反馈:IE11下进度条会跳《极乐净土》。我:微笑.jpg 并默默在Nginx配置里加了if ($http_user_agent ~* "MSIE") { return 403; }

设置框架

安装.NET Framework 4.7.2
https://dotnet.microsoft.com/en-us/download/dotnet-framework/net472
框架选择4.7.2

添加3rd引用

编译项目

NOSQL

NOSQL无需任何配置可直接访问页面进行测试

SQL

使用IIS
大文件上传测试推荐使用IIS以获取更高性能。

使用IIS Express

小文件上传测试可以使用IIS Express

创建数据库

配置数据库连接信息

检查数据库配置

访问页面进行测试


相关参考:
文件保存位置,

效果预览

文件上传

文件刷新续传

支持离线保存文件进度,在关闭浏览器,刷新浏览器后进行不丢失,仍然能够继续上传

文件夹上传

支持上传文件夹并保留层级结构,同样支持进度信息离线保存,刷新页面,关闭页面,重启系统不丢失上传进度。

批量下载

支持文件批量下载

下载续传

文件下载支持离线保存进度信息,刷新页面,关闭页面,重启系统均不会丢失进度信息。

文件夹下载

支持下载文件夹,并保留层级结构,不打包,不占用服务器资源。

下载完整示例

下载完整示例

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/9 16:10:02

YOLO镜像支持多租户隔离,适合云服务平台

YOLO镜像支持多租户隔离&#xff0c;适合云服务平台 在智能制造、智慧城市和自动驾驶等前沿领域&#xff0c;实时目标检测早已不再是实验室里的概念验证&#xff0c;而是驱动业务运转的核心能力。YOLO 系列模型凭借其“一次推理、全图覆盖”的高效架构&#xff0c;在工业界迅速…

作者头像 李华
网站建设 2026/6/9 16:10:02

YOLO模型训练中断恢复机制设计与实现

YOLO模型训练中断恢复机制设计与实现 在工业级AI系统的开发实践中&#xff0c;一个看似不起眼却影响深远的问题常常浮现&#xff1a;训练到第80个epoch时服务器突然宕机了怎么办&#xff1f; 这并非假设。在自动驾驶感知模型、智能工厂质检系统等实际项目中&#xff0c;YOLO系…

作者头像 李华
网站建设 2026/6/9 17:28:06

YOLO镜像支持HTTPS加密通信,保障传输安全

YOLO镜像支持HTTPS加密通信&#xff0c;保障传输安全 在智能制造工厂的边缘计算节点上&#xff0c;一台AI视觉检测设备正准备从企业私有仓库拉取最新的YOLOv8模型镜像。这条看似普通的docker pull命令背后&#xff0c;却潜藏着巨大的安全风险&#xff1a;如果网络链路未加密&am…

作者头像 李华
网站建设 2026/6/9 17:27:31

YOLO镜像支持ARM架构服务器部署

YOLO镜像支持ARM架构服务器部署 在智能制造工厂的质检线上&#xff0c;一台搭载飞腾D2000处理器的边缘服务器正以每秒30帧的速度分析传送带上的产品图像。它没有连接云端&#xff0c;也不依赖昂贵的GPU工控机&#xff0c;而是在一个仅15W功耗的ARM设备上&#xff0c;通过容器化…

作者头像 李华
网站建设 2026/6/9 17:25:25

YOLO模型结构图解:Backbone、Neck与Head详解

YOLO模型结构解析&#xff1a;从Backbone到Head的工程实践洞察 在自动驾驶感知系统中&#xff0c;一帧视频流需要在几十毫秒内完成数百个目标的识别与定位&#xff1b;在工业质检产线上&#xff0c;微米级缺陷必须在高速运转中被实时捕捉。这些场景对目标检测算法提出了近乎苛刻…

作者头像 李华