本地数据迁移阿里云oss方法
1. 阿里云文档位置
https://help.aliyun.com/document_detail/56990.html?spm=a2c4g.11174283.6.1077.XGxFRA
https://help.aliyun.com/document_detail/57053.html?spm=a2c4g.11186623.6.1078.rF1CiS
第一个链接是ossimport工具使用说明
第二个链接是ossimport工具单机配置说明
2. 遇到的坑
需求:
阿里云oss盘挂载到本地目录/data/cdr_storage,需要将/data/www,目录下的200G静态文件迁移到oss挂载目录。其中图片文件365万个80G,语音文件140万个60G
第一波失误操作:
采用cp命令直接复制 cp -r /data/www /data/cdr_storage 超级慢,意外中断没法继续
第二波失误操作:
采用rsync命令增量复制 rsync -aP /data/www /data/cdr_storage 复制了一天一夜,同步了八分之一数据,并且第二天中午,oss盘直接挂掉,cd不进去了
反馈给阿里云后,说是改变了目录属性,变成了特殊目录,建议使用ossimport
3. 经验总结
ossimport工具确实比较好用,可以多线程分片操作。同步80G 365万图片文件,耗时3.5小时。200G全部同步完成用了不到一天。
1. 下载ossimport工具,解压到本地服务器
2. 配置ossimport/conf local_job.cfg配置文件
主要需要配置的参数是:
SrcPrefix=
destAcessKey=
destSecretKey=
destDomain=
destBucket=
destPrefix=
如果是单机本地迁移,只是配置如上参数就可以了,如有其他需求,仔细参阅阿里云文档
本地数据迁移阿里云oss方法相关推荐
- 轻松上云系列之一:本地数据迁移上云
本文档围绕如何将您的本地数据迁移到阿里云,提供了多个场景的实践方案. 背景信息 在云计算服务高速发展的今天,如何方便快捷地将已有的服务器系统迁移上云,有着非常重要的意义.阿里云服务器迁移服务方案,即迁 ...
- 解决七牛云链接失效以及批量下载图片并迁移阿里云 OSS
起因 七牛云对测试域名进行回收,而我博文中图片用的链接仍然是测试域名的链接,因此导致部分链接失效,浏览器返回如下错误: {"error":"no such domain& ...
- 微信小程序上传图片到阿里云oss方法
最近开发微信小程序要求上传图片到阿里云oss上,所以就顺手整理一下整个过程啦. 前提 开通oss服务和创建oss存储空间啦(这个就自己去解决吧)下面接入正题: 步骤一:配置 Bucket 跨域 客户端 ...
- vue项目中上传文件到阿里云oss方法
上传背景介绍 在项目需求中,关于图片.视频.文件等上传文件,一般不是直接放置在自己的后台服务器上,一般都会购买云服务进行存储.譬如阿里云的oss对象存储. 那么,前端开发项目中,涉及到上传的功能时,我 ...
- 安装es怎么在后台运行_ES备份索引数据到阿里云OSS
ES的快照备份当前是存放在NAS下,考虑成本问题现在打算把快照备份到阿里云OSS下. https://github.com/aliyun/elasticsearch-repository-oss,此插 ...
- 【Typora丨Windows】图像设置:本地保存PicGo+阿里云OSS图床搭建
图像链接语法:![替代文字](路径:本地路径/云端路径) 更多使用方法见:官方丨帮助丨Images in Typora 本地保存 '文件'->'偏好设置'->'图像',进入如下界面. 插入 ...
- 自动化迁移七牛云的数据到阿里云OSS
背景 近期收到两封七牛云发来的邮件: 测试域名回收通知 您的账号 xxx 在七牛云融合CDN加速平台有以下测试域名还剩7个自然日会被系统自动回收 由于,我博客所有的图片文件都是存储在七牛云的,这个域名 ...
- Java实现阿里云OSS上传文件
推荐:前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家.. 点击跳转到网站 1.准备工作:创建操作阿里云OSS许可证 阿里云官方文档 这里不再赘述,根据官方文档一步步的 ...
- 数据库表迁移到阿里云的方法有哪些
数据库表迁移到阿里云的方法有哪些,数据软件整体迁移. 服务器的空间大小.稳定性.安全性以及其他因素会影响网站的优化.许多企业在网站运行过程中,这些因素的影响使得企业不得不更换一个新的服务器.如何正确更 ...
最新文章
- 微信公众号新功能-原创声明、赞赏功能、评论管理、页面模版
- 用js监控分辨率调整背景图片宽度_【AIDA 64】用安卓手机监控电脑运行状态
- 支持向量回归 svr
- kafka和flume进行整合的日志采集的confi文件编写
- linux内存使用监控,如何利用Bash脚本监控Linux的内存使用情况
- 用AWStats分析网站日志
- Altium designer中电路图保存在word中
- Linux下SQLPlus中文乱码处理
- vnc连接linux颜色灰色,VNC 灰色的屏幕解决方法
- HDU 3486 Interviewe RMQ
- 机器学习—XGBoost常见问题解析
- 天堂2单机版服务器时间修改,L2Jserver版本天堂2进游戏公告的修改
- 稳健Capon波束形成
- Java中模拟评分系统_评分系统.java
- 搭建iscsi存储系统(一)
- php7 error reporting,php中的error_reporting(7)的含义
- 微信端视频播放时防止被浏览器劫持的问题
- 苹果你深深的伤害了我,还不让我说
- Intel第十代CPU集成显卡不再支持 Legacy启动 (i5-10400...)
- C# TCP/IP网络数据传输及实现