百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

大文件上传服务器:支持超大文件HTTP断点续传的实现办法

zhezhongyun 2025-02-08 13:53 43 浏览

最近由于需要支持高性能的大文件http上传,并且要求支持http断点续传。这里在简要归纳一下,方便记忆:

  1. 服务器端由C语言实现,而不是用java、PHP这种解释型语言来实现;
  2. 服务器端即时写入硬盘,因此无需再次调用move_uploaded_file、InputStreamReader 这种需要缓存的技术来避免服务器内存占用与浏览器请求超时;
  3. 支持HTML5与IFRAME(针对老浏览器),并且支持获取文件上传进度。

为了更好的适应当前的移动互联网,要求对上传服务支持断点续传,断线重连。因为移动互联网并不非常稳定;再者,上传一个大文件发生异常掉线的可能性非常大,为了避免重新上传,支持断点续传就变得非常必要了。

支持断点续传的思路是:

客户端(通常是浏览器)向服务器端上传某个文件,并不断记录上传的进度,如果一旦掉线或发生其它异常,客户端可以向服务器查询某个文件已经上传的状态,从上次上传的文件位置接着上传。

网上也有大师采用分片文件上传方式来实现大文件上传,方法是将文件切成小片,例如4MB一个片段,服务器端每次接收一小片文件保存成一个临时文件,等待所有片段传输完毕后,再执行合并。笔者认为,如果原始文件足够小,这种方式是可以的,但一旦文件有几百兆或者几个GB或者几十个GB,则合并文件的时间会非常长,常常导致浏览器响应超时或服务器阻塞。

如果自己实现独立客户端(或浏览器的ActiveX插件)来上传文件,则支持断点续传将是一件非常简单的事情,只需在客户端记录文件上传状态。而支持浏览器断点续传(无需安装第三方插件)一般来说是要比自己做独立客户端上传难度大一些,但也不难。我的实现思路如下:

一、浏览器在上传某个文件时候,先给这个文件生成一个HASH值,必须在浏览器端生成这个HASH值。

不能单循地依据文件名来查询文件上传记录,文件名的重复性很大,文件名 + 文件尺寸组成的值重复性缩小,如果再加上文件修改时间,则重复性进一步缩小,如果再加上一个浏览器的 ID可以进一步缩小重复性冲突。最好的HASH值的计算方法是用文件的内容进行MD5计算,但计算量极大(其实也没有必要这么做),过多的耗时会影响上传的体验。

基于上述理由,我的HASH值计算思路如下:

  1. 首先给浏览器赋予一个ID,这个ID保存在Cookie里;
  2. 浏览器的 ID+ 文件的修改时间 + 文件名 + 文件尺寸 的结果进行MD5来计算一个文件的HASH值;
  3. 浏览器的ID 是系统在浏览器访问文件上传站点时自动给浏览器授予的。
//简单的Cookie帮助函数
function?setCookie(cname,cvalue,exdays)
{
??var?d?=?new?Date();
??d.setTime(d.getTime()+(exdays*24*60*60*1000));
??var?expires?=?"expires="+d.toGMTString();
??document.cookie?=?cname?+?"="?+?cvalue?+?";?"?+?expires;
}
?
?
function?getCookie(cname)
{
??var?name?=?cname?+?"=";
??var?ca?=?document.cookie.split(';');
??for(var?i=0;?i

笔者认为:不必通过读取文件的内容来计算HASH值,这样会非常慢的。如果确实需要实现HTTP秒传,可能得这么做,这样如果不同的人上传的文件内容一致,就可避免重复上传,直接返回结果即可。

之所以给浏览器赋予一个ID,这样可以进一步避免别的计算机的同名同尺寸文件的HASH值冲突。

二、查询文件的HASH值

在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传,代码如下:

var?fileObj?=?currentfile;
var?fileid?=?getFileId(fileObj);
var?t?=?(new?Date()).getTime();
//通过以下URL获取文件的断点续传信息,必须的参数为fileid,后面追加t参数是避免浏览器缓存
var?url?=?resume_info_url?+?'?fileid='+fileid?+?'&t='+t;

var?ajax?=?new?XMLHttpRequest();

ajax.onreadystatechange?=?function?()?{?
????if(this.readyState?==?4){
????????if?(this.status?==?200){
????????????var?response?=?this.responseText;
????????????
????????????var?result?=?JSON.parse(response);
????????????if?(!result)?{
????????????????alert('服务器返回的数据不正确,可能是不兼容的服务器');
????????????????return;
????????????}
????????????//断点续传信息返回的文件对象包含已经上传的尺寸
????????????var?uploadedBytes?=?result.file?&&?result.file.size;
????????????if?(!result.file.finished?&&?uploadedBytes?

以上是通过 jQuery-file-upload组件的实现,通过原始Javascript的实现代码请参见demos目录的h4resume.html样本代码。

三、执行上传

在查询完文件的断点续传信息后,如果文件确实以前已经上传,服务器将返回已经上传过的文件尺寸,我们接着从已经上传的文件尺寸位置开始上传数据即可。

html5的File对象的 slice 可以用于从文件切取片段来上传。

定义和用法

slice() 方法可提取字文件的某个部分,并以新的字符串返回被提取的部分。

语法

File.slice(start,end)

参数 描述

start 要抽取的片断的起始下标。如果是负数,则该参数规定的是从字符串的尾部开始算起的位置。也就是说,-1 指字符串的最后一个字符,-2 指倒数第二个字符,以此类推。

end 紧接着要抽取的片段的结尾的下标。若未指定此参数,则要提取的子串包括 start 到原字符串结尾的字符串。

如果该参数是负数,那么它规定的是从字符串的尾部开始算起的位置。

实现分片文件上传的代码如下:

/*
文件上传处理代码
fileObj?:?html5?File?对象
start_offset:?上传的数据相对于文件头的起始位置
fileid:?文件的ID,这个是上面的getFileId?函数获取的,
*/
function?upload_file(fileObj,start_offset,fileid)
{
?var?xhr?=?new?XMLHttpRequest();
?var?formData?=?new?FormData();
?
?var?blobfile;
?
?if(start_offset?>=?fileObj.size){
??return?false;
?}
?
?var?bitrateDiv?=?document.getElementById("bitrate");
?var?finishDiv?=?document.getElementById("finish");
?var?progressBar?=?document.getElementById('progressbar');
?var?progressDiv?=?document.getElementById('percent-label');
?
?var?oldTimestamp?=?0;
?var?oldLoadsize?=?0;
?var?totalFilesize?=?fileObj.size;
?if?(totalFilesize?==?0)?return;
?
?var?uploadProgress?=?function?(evt)?{
??if?(evt.lengthComputable)?{
???var?uploadedSize?=?evt.loaded?+?start_offset;?
???var?percentComplete?=?Math.round(uploadedSize?*?100?/?totalFilesize);
?
???var?timestamp?=?(new?Date()).valueOf();
???var?isFinish?=?evt.loaded?==?evt.total;
?
???if?(timestamp?>?oldTimestamp?||?isFinish)?{
????var?duration?=?timestamp?-?oldTimestamp;
????if?(duration?>?500?||?isFinish)?{
?????var?size?=?evt.loaded?-?oldLoadsize;
?
?????var?bitrate?=?(size?*?8?/?duration?/1024)?*?1000;?//kbps
?????if?(bitrate?>?1000)
??????bitrate?=?Math.round(bitrate?/?1000)?+?'Mbps';
?????else
??????bitrate?=?Math.round(bitrate)?+?'Kbps';
?
?????var?finish?=?evt.loaded?+?start_offset;
?
?????if?(finish?>?1048576)
??????finish?=?(Math.round(finish?/?(1048576/100))?/?100).toString()?+?'MB';
?????else
??????finish?=?(Math.round(finish?/?(1024/100)?)?/?100).toString()?+?'KB';
?
?????progressBar.value?=?percentComplete;
?????progressDiv.innerHTML?=?percentComplete.toString()?+?'%';
?????bitrateDiv.innerHTML?=?bitrate;
?????finishDiv.innerHTML?=?finish;
?
?????oldTimestamp?=?timestamp;
?????oldLoadsize?=?evt.loaded;
????}
???}
??}
??else?{
???progressDiv.innerHTML?=?'N/A';
??}
?}
?
?xhr.onreadystatechange?=?function(){
????if?(?xhr.readyState?==?4?&&?xhr.status?==?200?)?{
??????console.log(?xhr.responseText?);
??????
????}
??else?if?(xhr.status?==?400)?{
???
??}
??};
?
?var?uploadComplete?=?function?(evt)?{
??progressDiv.innerHTML?=?'100%';
?
??var?result?=?JSON.parse(evt.target.responseText);
??if?(result.result?==?'success')?{
???showUploadedFile(result.files[0]);
??}
??else?{
???alert(result.msg);
??}
?}
?
?var?uploadFailed?=?function?(evt)?{
??alert("上传文件失败!");
?}
?
?var?uploadCanceled?=?function?(evt)?{
??alert("上传被取消或者浏览器断开了连接!");
?}
?
?//设置超时时间,由于是上传大文件,因此千万不要设置超时
?//xhr.timeout?=?20000;
?//xhr.ontimeout?=?function(event){
??//??alert('文件上传时间太长,服务器在规定的时间内没有响应!');
??//}?????????
?
?xhr.overrideMimeType("application/octet-stream");?
?
?var?filesize?=?fileObj.size;
?var?blob?=?fileObj.slice(start_offset,filesize);
?var?fileOfBlob?=?new?File([blob],?fileObj.name);
?//附加的文件数据应该放在请求的前面
?formData.append('filename',?fileObj.name);
?//必须将fileid信息传送给服务器,服务器只有在获得了fileid信息后才对文件做断点续传处理
?formData.append('fileid',?fileid);
?//请将文件数据放在最后的域
?//formData.append("file",blob,?fileObj.name);
?formData.append('file',?fileOfBlob);
?
?xhr.upload.addEventListener("progress",?uploadProgress,?false);
?
?xhr.addEventListener("load",?uploadComplete,?false);
?xhr.addEventListener("error",?uploadFailed,?false);
?xhr.addEventListener("abort",?uploadCanceled,?false);
?xhr.open('POST',?upload_file_url);
?//
?xhr.send(formData);
}

为了验证文件断点续传,笔者做了一个简单的界面,用于显示文件上传的过程中的状态信息,界面如下:

通过HTML可以计算文件上传的进度,文件已经上传的尺寸,文件上传的位率等信息,如果在上传过程中出现任何异常,则重新上传即可,已经上传的部分将不需要重新上传。

为了验证HTML5断点续传,可以通过 github来下载 这个文件上传服务器来进行测试。

相关推荐

css 垂直居中的几种实现方式(css怎么实现垂直居中)

前言设计是带有主观色彩的,同样网页设计中的css一样让人摸不头脑。网上列举的实现方式一大把,或许在这里你都看到过,但既然来到这里我希望这篇能让你看有所收获,毕竟这也是前端面试的基础。实现方式备注:...

CSS 中各种居中你真的玩明白了么(css中的居中属性)

页面布局中最常见的需求就是元素或者文字居中了,但是根据场景的不同,居中也有简单到复杂各种不同的实现方式,本篇就带大家一起了解下,各种场景下,该如何使用CSS实现居中前言页面布局中最常见的需求就是元...

浅谈3种css技巧——两端对齐(css两侧对齐)

在出里文字比较多的网页,文字对齐其中采用的两端对齐,两端对齐的方法有三种方法,如下:1.使用text-align:justifytext-align:justify属性是全兼容的,使用它实现两端对...

从零开发HarmonyOS(鸿蒙)运动手表小游戏—数字华容道

本个demo将从零基础开始完成鸿蒙小游戏APP在可穿戴设备上的编译,此处以运动手表为例,在项目中我们所使用到的软件为DevEcoStudio,下载地址为:DevEcoStudio下载、DevEco...

教师如何制作随机点名系统,活跃课堂气氛

上课点名抽学生回答问题,做游戏……由老师口头点名,点谁回答总有点老师本人的情绪,且显得毫无趣味,但做一个点名系统,就不一样了,电脑随机抽出的名字,不仅公平,还会给孩子们带来一种不一样的感受。那么怎么做...

看京铁人如何破解电煤运输"烤"验

“天气太热了!空调是我的避暑必备神器再往冰箱里冻些雪糕和西瓜电风扇也要24小时上岗了”近日京津冀地区迎来高温天气小伙伴们都在分享解暑妙招但这些妙招背后都离不开一个字——“电”为确保电力平稳“迎峰度夏”...

回家的路就是最美的风景 幸福就在前方

2025年春运启动以来,无数在外游子踏上归乡旅程。为了帮助更多旅客按时回家过年,还有很多人不分昼夜、不辞辛苦地奔波在铁路线上。“我的列车飞驰而过,那是梦想的前方,回家的路就是最美的风景。”END&l...

如何做出一个香消玉殒的网页文字特效

最近,迷上了CSS3特效,空闲时间学一些小案例,非专业,爱好。不断学习也能掌握一些更为全面的html,css,JavaScript的知识,以小博大,从兴趣出发再掌握更多网页开发知识。闲言少叙,直接开怼...

第1000篇原创,我想对你说______(2021我想对你说1000)

亲爱的小伙伴今天您看到的这篇推送是“北京铁路”发布的第1000篇原创作品!这不仅是一个数字的跨越更是我们一路走来与每一位关注者共同铸就的辉煌里程碑每一篇文章都承载着我们的心血与热情每一次传播都离不开大...

动车组的“家”在哪里?(动车组的"家"在哪里?举例说明)

夜幕降临随着动车组列车驶入站台乘客陆续离开动车组也完成了一天的工作准备启程回“家”有小伙伴儿会问“为什么大多数动车组列车夜间不运行呢?”这是因为白天行驶一天的动车组要利用晚上的时间进行全面检查、维修和...

这套铁路“高考”卷,请你来作答(郑州铁路职业技术学院高考河南录取分数线)

今天是2025年全国高考的第一天小编为大家准备了一套北京铁路版的试卷满分120分共12道单选题快来试试你能得多少分吧!·<animateattributeName="opacity"begi...

HarmonyOS Text组件Span间距解决方案

HarmonyOSText组件Span间距解决方案一、问题分析在HarmonyOS开发中,Text组件内的Span子组件无法直接设置margin/padding属性,需要通过文本级属性实现间距控制。...

考“火车驾驶证”,难不难?(火车驾驶证怎么考需要什么条件)

····<animateattributeName="height"begin="0.1"dur="0.01s"fill="freeze"to="0"/>00:0002:59未加...

高温?京铁人:我有“物理外挂”!(点开看有多爽)

近几日华北地区气温不断上升高温来袭坚守岗位的京铁人开启清凉避暑的“物理外挂”快动动手指点开看看吧·<animateattributeName="opacity"begin="click+0....

2025年Top30 CSS面试题及答案(css常考面试题)

概述CSS(层叠样式表)是构建美观、响应式网站的关键技术。无论您是在准备前端开发者面试还是复习知识,这里都有一份精心挑选的2025年每个开发者都应该知道的30个CSS面试题及答案。1.什么是CSS...