在解压缩某些文件时出现问题检查计算机上,解压缩超大文件时出现问题
我已经得到了一些压缩的文件,但是解压是30GB+的,而且是在Windows中压缩的。我试图使用EC2实例创建一个系统来解压这些实例,但是我一直在耗尽内存(错误IOError: [Errno 28] No space left on device)。我的解压脚本如下:import boto3
from boto3.s3.transfer import S3Transfer
from zipfile import ZipFile as zip
import ec2metadata
import re
s3 = boto3.client('s3')
transfer = S3Transfer(s3)
def get_info():
userdata = re.findall(r"\=(.*?) ", ec2metadata.get('user-data'))
global dump_bucket
dump_bucket = userdata[0]
global bucket
bucket = userdata[1]
global key
key = userdata[2]
return dump_bucket, bucket, key
def unzipper(origin_bucket, origin_file, dest_bucket):
s3.download_file(bucket, key, '/tmp/file.zip')
zfile = zip('/tmp/file.zip')
namelist = zfile.namelist()
for filename in namelist:
data = zfile.read(filename)
f = open('/tmp/' + str(filename), 'wb')
f.write(data)
f.close()
transfer.upload_file('/tmp/' + str(filename), dump_bucket, namelist[0])
def main():
get_info()
unzipper(dump_bucket, bucket, key)
main()
有没有更好的解压方法?我尝试过流式传输,但由于最初的压缩方式,这很可能行不通。在
在解压缩某些文件时出现问题检查计算机上,解压缩超大文件时出现问题相关推荐
- win7 打开文件 计算机,如何在win7计算机上打开dat文件,如何在win7计算机上打开dat文件...
详细地,许多计算机用户知道计算机中dat文件的两种主要格式. 一个是纯文本文件,类似于txt文件,可以用记事本,书写板dat格式文件用什么打开方式,ue,winhex等工具打开,另一个是多媒体图像文件 ...
- 如何检查计算机上安装的DirectX版本?
这是显示使用DirectX诊断工具检查计算机上安装的Microsoft DirectX版本的指南. 1.单击" 开始 "或" Windows按钮 ",然后单击& ...
- 恢复在这台计算机上存储的文件,MTE解释文件恢复如何在PC上工作 | MOS86
It您或者也许Windows拒绝启动,当您将硬盘驱动器连接到另一台PC时,您无法读取数据.你会收到你的数据吗?本文将重点介绍PC上文件恢复背后的概念. 硬盘结构 第一次,让通常,硬盘驱动器由引导扇区, ...
- SQL Server 2012导入Excel文件时 未在本地计算机上注册“Microsoft.ACE.OLEDB.12.0”提供程序
问题 在使用Microsoft SQL Server 2012 的SSMS 时,向数据库导入Excel数据,报错 "未在本地计算机上注册"Microsoft.ACE.OLEDB.1 ...
- 还原此计算机上所有用户文件,如何恢复丢失的Windows 10用户配置文件 | MOS86
Microsoft Windows NTCurrentVersionProfileList在左侧窗格上,您将在ProfileList文件夹中看到SID列表. 应采用以下三个选项之一: 这三个选项的处理 ...
- 如何调出计算机软件数据,如何在计算机上打开dat文件(快速生成DAT格式的数据)...
[闻蜂导读]我相信每个人在使用计算机时,通常都会遇到带有后缀dat的文件,但是他们不知道它们的含义,更不用说如何打开它们了. 由于这个原因,下一个编辑器将介绍如何打开dat文件,每个人都希望看一下〜 ...
- 台式电脑开机显示蓝屏 检查计算机上的病毒,电脑开机后蓝屏怎么办
电脑开机后蓝屏怎么办 相信大家在使用电脑过程中都会遇到电脑开机后蓝屏这恼人的问题,导致电脑开机后蓝屏的原因有很多种,下面就来详细的分析一下原因及解决方法. 电脑开机后蓝屏的原因 原因一:程序出错会蓝屏 ...
- 计算机上传的文件无法打开,电脑打不开qq发过来的文件怎么办
qq方便快捷,我们经常使用qq来传输文件,但是有时候电脑打不开qq接收的文件.下面由学习啦小编为你整理了电脑打不开qq发过来的文件怎么办的相关方法,希望对你有帮助! 电脑打不开qq接收的文件解决方法如 ...
- 计算机上的word文件传到手机,【1人回答】电脑上的Word文件怎么传到苹果手机上?-3D溜溜网...
回答: 1.将手机连接电脑: 2.安装好手机驱动: 3.关闭USB调试模式,打开USB数据存储: 4.将文件复制至手机: 5.打开WPS-选择打开刚刚复制至手机的文档. 操作步骤如下: 1.在itun ...
最新文章
- 面试题:jdk那些类的底层实现使用过位运算,并且给你印象最深?
- 函数的初识;函数的返回值;函数的传参
- [YTU]_2417 C语言习题 字符串长度
- 化工原理少学时答案解析_化工原理少学时知识点
- API网关正在经历身份危机
- clistctrl控件最后插入在后面_老板让我把图片放到Excel表格中,批量插入效率高...
- 中国农业大学营养与健康研究院诚聘博士后
- Chrome 100发布:全新图标,CPU、内存占用暴降!
- Vue Nginx反向代理配置 解决生产环境跨域
- python怎样画动态文字_Python制作动态字符图的实例
- 并发环境下的缓存容器性能优化(上):不可变的哈希表
- 关于记录每天”要完成的事项“和”未完成事项“,(尤其是周末时,对未完成事项的记录一定要全)-----工作方式
- Graylog日志管理系统---搜索查询方法使用简介
- mysql高可用方案之主从同步+MHA高可用
- 【边喝caffee边Caffe 】(一)Caffe的安装
- Android多国语言的国家代码
- 解决因卸载WPS导致Excel表格打开提示“xls文件格式和扩展名不匹配,文件可能已损坏或不安全”
- sql查询按周查询出现的跨年问题
- Number.EPSILON
- 非线性薛定谔方程用matlab,非线性薛定谔方程数值解的matlab仿真.docx
热门文章
- 【Turtlebot移动机器人实验记录】实验4. Turtlebot 机器人自主导航实验
- 计算机专业学生的自我介绍英语翻译,英语学生自我介绍,大学生自我介绍带翻译?...
- csv和excel php 解析_PHP 高效导入导出Excel(csv)方法之fgetcsv()和fputcsv()函数
- 第二章例2.1软件实现(spss,sas,stata,r)
- Linux下获取WIFI状态信息(c语言)
- R绘图基础指南 | 2.折线图
- Hyperledger Fabric 入门必读书籍
- 树莓派4B-安装远程桌面TeamViewer
- android图案解锁功能的实现
- SSL-TLS 双向认证:SSL-TLS 工作原理