大文件上传服务器、支持超大文件HTTP断点续传实践总结
点击关注公众号,实用技术文章及时了解
来源:blog.csdn.net/ababab12345/
article/details/80490621
最近由于笔者所在的研发集团产品需要,需要支持高性能的大文件http上传,并且要求支持http断点续传。这里在简要归纳一下,方便记忆:
服务器端由C语言实现,而不是用java、PHP这种解释型语言来实现;
服务器端即时写入硬盘,因此无需再次调用
move_uploaded_file
、InputStreamReader
这种需要缓存的技术来避免服务器内存占用与浏览器请求超时;支持HTML5与IFRAME(针对老浏览器),并且支持获取文件上传进度。
为了更好的适应当前的移动互联网,要求对上传服务支持断点续传,断线重连。因为移动互联网并不非常稳定;再者,上传一个大文件发生异常掉线的可能性非常大,为了避免重新上传,支持断点续传就变得非常必要了。
支持断点续传的思路是:
客户端(通常是浏览器)向服务器端上传某个文件,并不断记录上传的进度,如果一旦掉线或发生其它异常,客户端可以向服务器查询某个文件已经上传的状态,从上次上传的文件位置接着上传。
网上也有大师采用分片文件上传方式来实现大文件上传,方法是将文件切成小片,例如4MB一个片段,服务器端每次接收一小片文件保存成一个临时文件,等待所有片段传输完毕后,再执行合并。笔者认为,如果原始文件足够小,这种方式是可以的,但一旦文件有几百兆或者几个GB或者几十个GB,则合并文件的时间会非常长,常常导致浏览器响应超时或服务器阻塞。
如果自己实现独立客户端(或浏览器的ActiveX插件)来上传文件,则支持断点续传将是一件非常简单的事情,只需在客户端记录文件上传状态。而支持浏览器断点续传(无需安装第三方插件)一般来说是要比自己做独立客户端上传难度大一些,但也不难。我的实现思路如下:
一、浏览器在上传某个文件时候,先给这个文件生成一个HASH值,必须在浏览器端生成这个HASH值。
不能单循地依据文件名来查询文件上传记录,文件名的重复性很大,文件名 + 文件尺寸组成的值重复性缩小,如果再加上文件修改时间,则重复性进一步缩小,如果再加上一个浏览器的 ID可以进一步缩小重复性冲突。最好的HASH值的计算方法是用文件的内容进行MD5计算,但计算量极大(其实也没有必要这么做),过多的耗时会影响上传的体验。
基于上述理由,我的HASH值计算思路如下:
首先给浏览器赋予一个ID,这个ID保存在Cookie里;
浏览器的 ID+ 文件的修改时间 + 文件名 + 文件尺寸 的结果进行MD5来计算一个文件的HASH值;
浏览器的ID 是系统在浏览器访问文件上传站点时自动给浏览器授予的。
//简单的Cookie帮助函数
function setCookie(cname,cvalue,exdays)
{ var d = new Date(); d.setTime(d.getTime()+(exdays*24*60*60*1000)); var expires = "expires="+d.toGMTString(); document.cookie = cname + "=" + cvalue + "; " + expires;
} function getCookie(cname)
{ var name = cname + "="; var ca = document.cookie.split(';'); for(var i=0; i<ca.length; i++) { var c = ca[i].trim(); if (c.indexOf(name)==0) return c.substring(name.length,c.length); } return "";
}
//
//简单的文件HASH值计算,如果您不是十分考究,应该可以用于产品。
//由于计算文件HASH值用到了多种数据,因此在HYFileUploader系统范围内发生HASH冲突的可能性应该非常小,应该可以放心使用。
//获取文件的ID可以用任何算法来实现,只要保证做到同一文件的ID是相同的即可,获取的ID长度不要超过32字节
//
function getFileId (file)
{ //给浏览器授予一个唯一的ID用于区分不同的浏览器实例(不同机器或者相同机器不同厂家的浏览器) var clientid = getCookie("HUAYIUPLOAD"); if (clientid == "") { //用一个随机值来做浏览器的ID,将作为文件HASH值的一部分 var rand = parseInt(Math.random() * 1000); var t = (new Date()).getTime(); clientid =rand+'T'+t; setCookie("HUAYIUPLOAD",clientid,365); } var info = clientid; if (file.lastModified) info += file.lastModified; if (file.name) info += file.name; if (file.size) info += file.size; //https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js var fileid = md5(info); return fileid;
}
笔者认为:不必通过读取文件的内容来计算HASH值,这样会非常慢的。如果确实需要实现HTTP秒传,可能得这么做,这样如果不同的人上传的文件内容一致,就可避免重复上传,直接返回结果即可。
之所以给浏览器赋予一个ID,这样可以进一步避免别的计算机的同名同尺寸文件的HASH值冲突。
二、查询文件的HASH值
在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传,代码如下:
var fileObj = currentfile;
var fileid = getFileId(fileObj);
var t = (new Date()).getTime();
//通过以下URL获取文件的断点续传信息,必须的参数为fileid,后面追加t参数是避免浏览器缓存
var url = resume_info_url + '?fileid='+fileid + '&t='+t; var ajax = new XMLHttpRequest(); ajax.onreadystatechange = function () { if(this.readyState == 4){ if (this.status == 200){ var response = this.responseText; var result = JSON.parse(response); if (!result) { alert('服务器返回的数据不正确,可能是不兼容的服务器'); return; } //断点续传信息返回的文件对象包含已经上传的尺寸 var uploadedBytes = result.file && result.file.size; if (!result.file.finished && uploadedBytes < fileObj.size) { upload_file(fileObj,uploadedBytes,fileid); } else { //文件已经上传完成了,就不要再上传了,直接返回结果就可以了 showUploadedFile(result.file); //模拟进度完成 //var progressBar = document.getElementById('progressbar'); //progressBar.value = 100; } }else { alert('获取文件断点续传信息失败'); } }
} ajax.open('get',url,true);
ajax.send(null);
以上是通过 jQuery-file-upload组件的实现,通过原始Javascript的实现代码请参见demos目录的h4resume.html样本代码。
三、执行上传
在查询完文件的断点续传信息后,如果文件确实以前已经上传,服务器将返回已经上传过的文件尺寸,我们接着从已经上传的文件尺寸位置开始上传数据即可。
html5的File对象的 slice 可以用于从文件切取片段来上传。
定义和用法
slice() 方法可提取字文件的某个部分,并以新的字符串返回被提取的部分。
语法
File.slice(start,end)
参数 描述
start 要抽取的片断的起始下标。如果是负数,则该参数规定的是从字符串的尾部开始算起的位置。也就是说,-1 指字符串的最后一个字符,-2 指倒数第二个字符,以此类推。
end 紧接着要抽取的片段的结尾的下标。若未指定此参数,则要提取的子串包括 start 到原字符串结尾的字符串。另外,关注Java知音公众号,回复“后端面试”,送你一份面试题宝典!
如果该参数是负数,那么它规定的是从字符串的尾部开始算起的位置。
实现分片文件上传的代码如下:
/*
文件上传处理代码
fileObj : html5 File 对象
start_offset: 上传的数据相对于文件头的起始位置
fileid: 文件的ID,这个是上面的getFileId 函数获取的,
*/
function upload_file(fileObj,start_offset,fileid)
{ var xhr = new XMLHttpRequest(); var formData = new FormData(); var blobfile; if(start_offset >= fileObj.size){ return false; } var bitrateDiv = document.getElementById("bitrate"); var finishDiv = document.getElementById("finish"); var progressBar = document.getElementById('progressbar'); var progressDiv = document.getElementById('percent-label'); var oldTimestamp = 0; var oldLoadsize = 0; var totalFilesize = fileObj.size; if (totalFilesize == 0) return; var uploadProgress = function (evt) { if (evt.lengthComputable) { var uploadedSize = evt.loaded + start_offset; var percentComplete = Math.round(uploadedSize * 100 / totalFilesize); var timestamp = (new Date()).valueOf(); var isFinish = evt.loaded == evt.total; if (timestamp > oldTimestamp || isFinish) { var duration = timestamp - oldTimestamp; if (duration > 500 || isFinish) { var size = evt.loaded - oldLoadsize; var bitrate = (size * 8 / duration /1024) * 1000; //kbps if (bitrate > 1000) bitrate = Math.round(bitrate / 1000) + 'Mbps'; else bitrate = Math.round(bitrate) + 'Kbps'; var finish = evt.loaded + start_offset; if (finish > 1048576) finish = (Math.round(finish / (1048576/100)) / 100).toString() + 'MB'; else finish = (Math.round(finish / (1024/100) ) / 100).toString() + 'KB'; progressBar.value = percentComplete; progressDiv.innerHTML = percentComplete.toString() + '%'; bitrateDiv.innerHTML = bitrate; finishDiv.innerHTML = finish; oldTimestamp = timestamp; oldLoadsize = evt.loaded; } } } else { progressDiv.innerHTML = 'N/A'; } } xhr.onreadystatechange = function(){ if ( xhr.readyState == 4 && xhr.status == 200 ) { console.log( xhr.responseText ); } else if (xhr.status == 400) { } }; var uploadComplete = function (evt) { progressDiv.innerHTML = '100%'; var result = JSON.parse(evt.target.responseText); if (result.result == 'success') { showUploadedFile(result.files[0]); } else { alert(result.msg); } } var uploadFailed = function (evt) { alert("上传文件失败!"); } var uploadCanceled = function (evt) { alert("上传被取消或者浏览器断开了连接!"); } //设置超时时间,由于是上传大文件,因此千万不要设置超时 //xhr.timeout = 20000; //xhr.ontimeout = function(event){ // alert('文件上传时间太长,服务器在规定的时间内没有响应!'); //} xhr.overrideMimeType("application/octet-stream"); var filesize = fileObj.size; var blob = fileObj.slice(start_offset,filesize); var fileOfBlob = new File([blob], fileObj.name); //附加的文件数据应该放在请求的前面 formData.append('filename', fileObj.name); //必须将fileid信息传送给服务器,服务器只有在获得了fileid信息后才对文件做断点续传处理 formData.append('fileid', fileid); //请将文件数据放在最后的域 //formData.append("file",blob, fileObj.name); formData.append('file', fileOfBlob); xhr.upload.addEventListener("progress", uploadProgress, false); xhr.addEventListener("load", uploadComplete, false); xhr.addEventListener("error", uploadFailed, false); xhr.addEventListener("abort", uploadCanceled, false); xhr.open('POST', upload_file_url); // xhr.send(formData);
}
为了验证文件断点续传,笔者做了一个简单的界面,用于显示文件上传的过程中的状态信息,界面如下:
通过HTML可以计算文件上传的进度,文件已经上传的尺寸,文件上传的位率等信息,如果在上传过程中出现任何异常,则重新上传即可,已经上传的部分将不需要重新上传。
为了验证HTML5断点续传,可以通过 github来下载 这个文件上传服务器来进行测试。
https://github.com/wenshui2008/UploadServer
●【练手项目】基于SpringBoot的ERP系统,自带进销存+财务+生产功能
●分享一套基于SpringBoot和Vue的企业级中后台开源项目,代码很规范!
●能挣钱的,开源 SpringBoot 商城系统,功能超全,超漂亮!
PS:因为公众号平台更改了推送规则,如果不想错过内容,记得读完点一下“在看”,加个“星标”,这样每次新文章推送才会第一时间出现在你的订阅列表里。点“在看”支持我们吧!
大文件上传服务器、支持超大文件HTTP断点续传实践总结相关推荐
- 大文件上传服务器:支持超大文件HTTP断点续传的实现办法
点击上方蓝色"方志朋",选择"设为星标"回复"666"获取独家整理的学习资料! 来源:blog.csdn.net/ababab12345/a ...
- 大视频上传服务器,支持HTML5断点续传,支持4GB以上大视频文件上传
当前,我们正处于一个视频爆炸的时代,高清智能手机人人都有,各种场景下的视频应用越来越多,4K高清视频正在普及,视频文件尺寸动辄几个GB.当我们需要和他人分享这些大视频时,视频的上传和断点续传文件立马出 ...
- php 百度网盘上传文件大小限制吗,百度云存储,curl_百度云存储如何上传数G超大文件(视频类)和防盗链等一系列问题,百度云存储,curl - phpStudy...
百度云存储如何上传数G超大文件(视频类)和防盗链等一系列问题 最近在开发一个视频网站,打算用百度开放云平台上的云存储,但视频较大,一般有几个G(高清电影).1G一下的视频管理控制台里能用页面上传,但1 ...
- ios上传文件云服务器上,ios文件上传服务器
ios文件上传服务器 内容精选 换一换 在当前的迁移流程中,可能会存在迁移后ECS控制台镜像名称与实际操作系统不一致的现象.在当前机制下,该现象属于正常现象.该处显示的是下发ECS时使用的镜像名称,而 ...
- Springboot 搭建oss文件上传服务器
1.登录阿里云官网 https://www.aliyun.com/?spm=5176.8466032.top-nav.dlogo.724e1450B4jI0X 2.选择控制台 3. 找到对象存储oss ...
- 局域网大附件上传,支持断点续传
之前仿造uploadify写了一个HTML5版的文件上传插件,没看过的朋友可以点此先看一下~得到了不少朋友的好评,我自己也用在了项目中,不论是用户头像上传,还是各种媒体文件的上传,以及各种个性的业务需 ...
- 00截断上传绕过_【文件上传与解析】文件上传与解析漏洞总结v1.0
点击上方"公众号" 可以订阅哦! Hello,各位小伙伴晚上好~ 这里是依旧勤劳写公众号的小编~ 今天本公众号将推出一个新的模块,那就是漏洞知识点总结模块!!!(此处应有掌声~) ...
- jquery文件上传插件 uploadify java_jQuery文件上传插件Uploadify使用指南
对于HTML5版本会比较好的支持手机浏览器,避免苹果手机Safari浏览器不支持 Flash,主要特性:支持多文件上传.HTML5版本可拖拽上传.实时上传进度条显示.强大的参数 定制功能,如文件大小. ...
- php 拖动多个文件上传,dropzone拖拽文件上传一次上传多个文件的方法
用dropzone插件拖拽文件上传默认情况是把一个文件拖到浏览器后就立即自动上传,参考前文<用dropzone插件拖拽文件上传>,如果需要一次上传多个文件怎么办?本文将介绍其实现方法. d ...
最新文章
- Aliyun LOG Java Producer 快速入门
- 常见linux网络端口对照表(excel),常见子网掩码对照表Excel下载(反、正掩码)-数通工程师的傍身笔记...
- RPCGEN -M *.x 在pnfsd中的修改。 *_clnt.c
- consul agent的一个故障
- 硬编码学习笔记(一)—— 经典定长指令
- xftp传输文件报错_Xshell+Xftp--Windows平台远程终端解决方案
- facenet训练自己的数据_①如何帮助自己简易分析体测数据②没有私教一个人无法开始训练?...
- 'chcp' 不是内部或外部命令,也不是可运行的程序
- Mbatis是什么?怎么运行?
- 什么叫做java程序中的继承_【Java】基础16:什么叫继承?
- @WebFilter()配置servlet访问出现404的原因
- 修改手机屏幕刷新率_240Hz 超高刷新率,这手机屏幕比电竞专业屏还牛
- r语言必学的十个包肖凯_家长专栏语言发育迟缓儿童的家庭训练小游戏
- CCNA学习指南记录
- 固高GTS运动控制卡,C#语言三轴点胶机样本程序源代码
- 关于阿里云图标的使用 iconfont
- html5 video play方法,html5 – 如何在现代Chrome上访问video.play()API
- 五十款阿里开源软件说明介绍
- win10重装系统后部分电脑无法调节亮度问题
- 用C语言编写简化版银行系统:ATM取款机(数组版)
热门文章
- 滴滴顺风车方案引争议,柳青:我也觉得对女性不太好用
- 苹果或于2020年开售iPhone SE2
- 苹果发布iOS 13.2测试版 iPhone 11拍照更牛了
- 刚开完2019WWDC 苹果就被iOS开发者们集体起诉...
- 外媒晒一加7 Pro相机实拍样张:不惧极速F1赛车
- realme进军中国 目标做行业主流手机品牌
- iPhone降价后销量惊人 库克本周将再度访华
- 力压华为小米!安兔兔1月安卓性能榜第一名是它!
- 拳王虚拟项目公社:闲鱼操作虚拟资源的案例拆解,教你玩转闲鱼虚拟资源,货源+方法
- iPhone被曝“窃听门” 用户在接听前可能被监听?苹果回应...