迁移流程

两个不同的Harbor实例迁移数据(含镜像数据和数据库数据)

迁移方式

	Harbor 镜像	skopeo	image-syncer	手工
机制	基于策略的内容机制：支持多种过滤器（镜像库、tag和标签）与多种触发模式（手动，基于时间以及定时）且实现对推送和拉或模式的支持	直接将 registry 上的 blob 复制到另一个 registry	1. 同步只经过内存和网络，不依赖磁盘存储，同步速度快 2. 增量同步, 通过对同步过的镜像blob信息落盘，不重复同步已同步的镜像 3. 并发同步，可以通过配置文件调整并发数 4. 自动重试失败的同步任务，可以解决大部分镜像同步中的网络抖动问题不依赖docker以及其他程序	拷贝镜像数据+导入导出PG数据库数据
官方文档	https://goharbor.io/docs/2.2.0/administration/configuring-replication/create-replication-endpoints/	https://github.com/containers/skopeo/blob/main/docs/skopeo-sync.1.md	https://github.com/AliyunContainerService/image-syncer/blob/master/README-zh_CN.md
优点	界面配置，无需编码	1. 单机和高可用Harbor都可用 2. 传输效率高，不依赖docker	1.单机Harbor可用 2.传输效率高	耗时短
缺点	失败率较高	但centos 7自带版本是0.14，版本低，没有sync命令，新版本需要自己打包	高可用Harbor不可用	数据环境数据几百G, 命令cp不可靠

Skopeo 使用

什么是Skopeo?

skopeo 使用 API V2 Registry，例如 Docker Registry、Atomic Registry、私有Registry、本地目录和本地 OCI 镜像目录。skopeo 不需要运行守护进程，它可以执行的操作包括：

通过各种存储机制复制镜像，例如，可以在不需要特权的情况下将镜像从一个Registry复制到另一个Registry
检测远程镜像并查看其属性，包括其镜像层，无需将镜像拉到本地
从镜像库中删除镜像
当存储库需要时，skopeo 可以传递适当的凭据和证书进行身份验证

镜像存储特点

根据 Robin 大佬在《镜像仓库中镜像存储的原理解析》文章里得出的结论：

通过 Registry API 获得的两个镜像仓库中相同镜像的 manifest 信息完全相同。
两个镜像仓库中相同镜像的 manifest 信息的存储路径和内容完全相同。
两个镜像仓库中相同镜像的 blob 信息的存储路径和内容完全相同

skopeoo 安装

源码编译（静态）

描述: 要构建 skopeo 二进制文件您至少需要 Go 1.12 版本以上, 其次构建 skopeo 有两种方法，即在容器中或者在本地环境中构建(安装环境较为复杂), 此处为了方便演示将采用容器方式进行编译构建。

# 1.拉取skopeo源码到本地
$ git clone --depth=1 https://github.com/containers/skopeo.git  # https://github.com/containers/skopeo.git
$ cd skopeo
$ sed -i 's#proxy.golang.org#https://goproxy.cn#g' skopeo/Makefile# 2.下载镜像构建依赖
$ sudo apt-get install go-md2man  # 构建手册依赖于 go-md2man。
$ whereis go-md2man  # 获得本机中go-md2man路径。# 3.构建静态二进制文件
$ BUILD_IMAGE="golang:latest"
$ docker run --name skopeo-build -v $PWD:/src -v /usr/bin/go-md2man:/go/bin/go-md2man -w /src -e CGO_ENABLED=0 -e GOPROXY=https://goproxy.cn,direct ${BUILD_IMAGE} \
sh -c 'make BUILDTAGS=containers_image_openpgp GO_DYN_FLAGS='# CGO_CFLAGS="" CGO_LDFLAGS="" GO111MODULE=on go build -mod=vendor  -ldflags '-X main.gitCommit=df4d82b960572c19e9333381a203c0ac475766d7 ' -gcflags "" -tags  "containers_image_openpgp" -o bin/skopeo ./cmd/skopeo# 4.运行编译生成的skopeo可执行文件
$ cd ./bin # /opt/software/skopeo/bin
$ ./skopeo --help# Various operations with container images and container image registries# .......# Use "skopeo [command] --help" for more information about a command.

构建关键参数解析:

CGO_ENABLED=0 : 设置该环境变量, 禁用 CGO 会导致 Go 在可能的情况下更喜欢静态连接库，而不是动态链接到系统库 (解决可以在Ubuntu或者其它linux发行版中执行编译后二进制文件)。
GOPROXY=https://goproxy.cn,direct : Golong 依赖下载镜像站,加快go get依赖拉拉取。
BUILDTAGS=containers_image_openpgp : 设置该make参数消除了对libgpgme 及其配套库的依赖, Skopeo 的一些特性依赖于非 Go 库，例如 libgpgme 和 libdevmapper。
GO_DYN_FLAGS= : 清空该make参数 (否则会强制创建动态可执行文件)

2.分发包安装

描述: skopeo 可能已经打包在您的发行版中，此处以ubuntu 20.04为例进行安装。

在线方式

# Ubuntu
sudo apt-get -y update
sudo apt-get -y install skopeo# centos 7
sudo yum makecache
sudo yum -y install skopeo
# 或者
sudo dnf makecache
sudo dnf -y install skopeo

CentOS 7 默认下载的skopeo是0.1.40，如果需要使用最新的版本，需要自己通过源码构建

安装 dnf文档

离线方式


#  Kubic提供了软件包
#  Ubuntu 20.04
. /etc/os-release
echo "deb https://download.opensuse.org/repositories/devel:/kubic:/libcontainers:/stable/xUbuntu_${VERSION_ID}/ /" |
sudo tee /etc/apt/sources.list.d/devel:kubic:libcontainers:stable.listcurl -L https://download.opensuse.org/repositories/devel:/kubic:/libcontainers:/stable/xUbuntu_${VERSION_ID}/Release.key | sudo apt-key add -sudo apt-get update
sudo apt-get -y upgrade
sudo apt-get -y install skopeo# centos7
#我们不再为 RHEL 7 发布最新的Skopeo 版本。一些较旧的工件可能会保留下来，例如# https://download.opensuse.org/repositories/devel:/kubic:/libcontainers:/stable/CentOS_7/x86_64/

Skopeo centos7 RPM 存档位置

https://centos.pkgs.org/7/centos-extras-x86_64/skopeo-0.1.40-11.el7_8.x86_64.rpm.html

3.容器安装运行

Skopeo 容器镜像可在 quay.io/skopeo/stable:latest 获得, 例如我们采用podman命令进行如下操作:

podman run docker://quay.io/skopeo/stable:latest copy --help

我们可以使用yum或dnf安装skopeo在 CentOS 7 上。在本教程中，我们讨论了这两种方法，但你只需要选择一种方法来安装 skopeo。

skopeoo 命令

描述: skopeoo 是操作各种容器镜像和容器镜像仓库的工具，其使用方法及其可用命令如下:

./skopeo --help    # 子命令可采用如下命令 skopeo [command] --help 命令
Usage:skopeo [flags]skopeo [command]
Available Commands: copy          # 复制一个镜像从 A 到 B，这里的 A 和 B 可以为本地 docker 镜像或者 registry 上的镜像；delete        # 删除一个镜像 tag，可以是本地 docker 镜像或者 registry 上的镜像；help          # 帮助查看inspect       # 查看一个镜像的 manifest 或者 image config 详细信息；list-tags     # 列出存储库名称指定的镜像的taglogin           # 登陆某个镜像仓库,类似于 docker login 命令logout          # 退出某个已认证的镜像仓库, 类似于 docker logout 命令manifest-digest # 计算文件的清单摘要是一个sha256sum 值standalone-sign   # 使用本地文件创建签名standalone-verify # 验证本地文件的签名sync              # 将一个或多个图像从一个位置同步到另一个位置 (该功能非常Nice)
Flags:--command-timeout duration   # 命令超时时间(单位秒)--debug                      # 启用debug模式--insecure-policy            # 在不进行任何策略检查的情况下运行该工具（如果没有配置 policy 的话需要加上该参数）--override-arch ARCH         # 处理镜像时覆盖客户端 CPU 体系架构，如在 amd64 的机器上用 skopeo 处理 arm64 的镜像--override-os OS             # 处理镜像时覆盖客户端 OS--override-variant VARIANT   # 处理镜像时使用VARIANT而不是运行架构变量--policy string              # 信任策略文件的路径 (为镜像配置安全策略情况下使用)--registries.d DIR           # 在目录中使用Registry配置文件（例如，用于容器签名存储）--tmpdir string              # 用于存储临时文件的目录
-h, --help                       help for skopeo
-v, --version                    Version for Skopeo

skopeo初体验

描述: 在使用体验skopeo之前，我们需要了解一哈 Skopeo 可以在哪些镜像和存储库类型上执行镜像操作(官网文档走一波)：

Repository types	Describe	Example
`containers-storage:docker-reference`	适用于后端是 Podman, CRI-O, Buildah 的情况	`containers-storage:`
`dir:path`	适用于将manifest, layer tarballs 和 signatures 存储为单独文件的现有本地目录路径的情况	`dir:/tmp/alpine:latest`
`docker://docker-reference`	适用于Registry中实现"Docker Registry HTTP API V2"的镜像的情况	`docker://harbor.fly.com/mysql:v5.6`
`docker-archive:path[:docker-reference]`	适用于采用`docker save`命令导出镜像以tar格式存储的文件的情况	`docker-archive:alpine.tar`
`docker-daemon:docker-reference`	适用于存储在 docker 守护进程内部存储中的图像的情况	`docker-daemon:alpine:latest`
`oci:path:tag`	适用于符合"Open Container Image Layout Specification"的目录中的图像标记	`oci:alpine:latest`

温馨提示: 同一个镜像存在的方式有可能不同，不同类型方式存储对镜像的 layer 处理的方式也不一样。

skopeo批量同步Harbor镜像

1. 生成待同步的镜像列表文件

#!/bin/bash
#镜像清单文件，将获取到的镜像信息存到该文件中#check param
if [[ -z $1 || -z $2 ]]; thenecho "SOURCE_REGISTRY OR TARGET_REGISTRY is missing"echo "please execute the script in the following format,case: sh list_harbor_image.sh HARBOR_ADDR HARBOR_ADMIN_PASSWORD"echo "Example: sh list_harbor_image.sh 10.0.135.26:5000 Harbor123 "exit
fi# Harbor连接地址
HARBOR_ADDR=$1
# Harbor 管理员用户密码
HARBOR_AUTH=admin:$2#镜像清单文件
IMAGES_FILE=harbor-images-list.txt
# 显示脚本执行过程，并显示脚本对变量的处理结果。
# set -x
# 获取所有镜像清单
Project_List=$(curl -s -u ${HARBOR_AUTH}  -H "Content-Type: application/json" -X GET  http://${HARBOR_ADDR}/api/v2.0/projects?page_size=100  | python -m json.tool | grep name | awk '/"name": /' | awk -F '"' '{print $4}')
echo -e "【Harbor<${HARBOR_ADDR}>项目列表】: \n ${Project_List}"# 遍历Harbor项目
for Project in $Project_List;do# 某个项目内的镜像列表-页码PAGE_NUM=1while true; doImage_Names=$(curl -s -u ${HARBOR_AUTH} -X GET "http://${HARBOR_ADDR}/api/v2.0/projects/$Project/repositories?page_size=100&page=${PAGE_NUM}" | python -m json.tool | grep name | awk '/"name": /' | awk -F '"' '{print $4}')Image_Size=`echo  "${Image_Names}" | wc -l`echo -e "【Harbor<${HARBOR_ADDR}>, 项目<${Project}>镜像列表大小<${Image_Size}>, 详情】: \n ${Image_Names}"for Image in $Image_Names;doImage_Tags=$(curl -s -u ${HARBOR_AUTH}  -H "Content-Type: application/json"   -X GET  http://${HARBOR_ADDR}/v2/$Image/tags/list |  awk -F '"'  '{print $8,$10,$12}')for Tag in $Image_Tags;doif [ ! -z "${Tag}" ] || [[ ! ${Tag} =~ 400 ]] ||[[ ! ${Tag} =~ 404 ]];thenecho "$Image:$Tag"   >> ${IMAGES_FILE}fidonedone# 当前页码的列表数量<100if [ "${Image_Size}" -lt "100" ]; thenbreakelselet PAGE_NUM=${PAGE_NUM}+1fidonedone

2. 基于 skopeo copy机制同步

#!/bin/bash
GREEN_COL="\\033[32;1m"
RED_COL="\\033[1;31m"
NORMAL_COL="\\033[0;39m"#check param
if [[ -z $1 || -z $2 ]]; thenecho " SOURCE_REGISTRY OR TARGET_REGISTRY OR HARBOR_ADMIN_PASSWORD is missing"echo "please execute the script in the following format,case: sh skopeo_transfer_image.sh SOURCE_REGISTRY TARGET_REGISTRY HARBOR_ADMIN_PASSWORD"echo "Example: sh skopeo_transfer_image.sh 10.0.135.126:5000 10.16.16.215:5000 Harbor123 "exit
fi# 源Harbor地址
SOURCE_REGISTRY=$1
# 目标Harbor地址
TARGET_REGISTRY=$2
# Harbor 管理员用户密码
HARBOR_AUTH=admin:$3
# 待同步的镜像列表
IMAGES_LIST_FILE="harbor-images-list.txt"set -eo pipefailCURRENT_NUM=0
ALL_IMAGES="$(sed -n '/#/d;s/:/:/p' ${IMAGES_LIST_FILE} | sort -u)"
TOTAL_NUMS=$(echo "${ALL_IMAGES}" | wc -l)
echo -e "$GREEN_COL Starting 【Image Trasfer】:  sync $1 to $2 ,\n 【Image Total Nums】： ${TOTAL_NUMS}, \n 【Image List】：\n ${ALL_IMAGES} "# 镜像复制方法
skopeo_copy() {#    skopeo version 1.4.1 写法#    if skopeo copy --insecure-policy --src-tls-verify=false --dest-tls-verify=false \#    --override-arch amd64 --override-os linux -q docker://$1 docker://$2; then#     echo -e "$GREEN_COL Progress: ${CURRENT_NUM}/${TOTAL_NUMS} sync $1 to $2 successful $NORMAL_COL"#    else#     echo -e "$RED_COL Progress: ${CURRENT_NUM}/${TOTAL_NUMS} sync $1 to $2 failed $NORMAL_COL"#     exit 2#    fi# skopeo version 0.1.40 写法if skopeo copy docker://$1 docker://$2 \--src-tls-verify=false --dest-tls-verify=false --dest-creds ${HARBOR_AUTH}; thenecho -e "$GREEN_COL Progress: ${CURRENT_NUM}/${TOTAL_NUMS} sync $1 to $2 successful $NORMAL_COL"elseecho -e "$RED_COL Progress: ${CURRENT_NUM}/${TOTAL_NUMS} sync $1 to $2 failed $NORMAL_COL"# 失败exit 2fi
}
# 执行复制
for image in ${ALL_IMAGES}; dolet CURRENT_NUM=${CURRENT_NUM}+1skopeo_copy ${SOURCE_REGISTRY}/${image} ${TARGET_REGISTRY}/${image}
done

3. 一键执行

#!/bin/bash# 后台执行： nohup sh harbor_transfer.sh 10.0.135.126:5000 Harbor123 10.16.16.215:5000 2>&1 &
#check param
if [[ -z $1 || -z $2  || -z $3 ]]; thenecho " SOURCE_REGISTRY OR TARGET_REGISTRY is missing"echo "please execute the script in the following format,case: sh harbor_transfer.sh SOURCE_REGISTRY HARBOR_ADMIN_PASSWORD TARGET_REGISTRY"echo "Example: sh harbor_transfer.sh 10.0.135.126:5000 Harbor123 10.16.16.215:5000 "exit
fi# 源Harbor地址
SOURCE_REGISTRY=$1
# 目标Harbor管理员用户密码
HARBOR_ADMIN_PASSWORD=$2
# 目标Harbor地址
TARGET_REGISTRY=$3
# 1. 导出镜像列表
echo -e "【 1/2 Harbor迁移-导出镜像列表】:存放 harbor-images-list.txt"
sh -v list_harbor_image.sh ${SOURCE_REGISTRY} ${HARBOR_ADMIN_PASSWORD}# 2. 迁移镜像
echo -e "【 2/2 Harbor迁移-迁移镜像】:遍历 harbor-images-list.txt"
sh -v skopeo_transfer_image.sh ${SOURCE_REGISTRY} ${TARGET_REGISTRY} ${HARBOR_ADMIN_PASSWORD}

执行效果

一键执行

阿里image-syncer使用

下载和安装

在releases页面可下载源码以及二进制文件

手动编译

go get github.com/AliyunContainerService/image-syncer
cd $GOPATH/github.com/AliyunContainerService/image-syncer# This will create a binary file named image-syncer
make

使用用例

# 获得帮助信息
./image-syncer -h# 设置配置文件为config.json，默认registry为registry.cn-beijing.aliyuncs.com
# 默认namespace为ruohe，并发数为6
./image-syncer --proc=6 --auth=./auth.json --images=./images.json --namespace=ruohe \
--registry=registry.cn-beijing.aliyuncs.com --retries=3

配置文件

在 v1.2.0 版本之后，image-syncer 的配置文件支持JSON和YAML两种格式，并且支持将原config文件替换为一个认证信息文件和一个镜像同步文件。详细的配置文件示例可在目录 example 下找到，旧版本的配置文件格式（auth 和 images 字段放在一起的版本，通过 --config 参数指定）也是兼容的，目录下 config.json 为示例。

认证信息

auth.json 包含了所有仓库的认证信息

{  // 认证字段，其中每个对象为一个registry的一个账号和// 密码；通常，同步源需要具有pull以及访问tags权限，// 同步目标需要拥有push以及创建仓库权限，如果没有提供，则默认匿名访问"quay.io": {    // 支持 "registry" 和 "registry/namespace"（v1.0.3之后的版本） 的形式，需要跟下面images中的registry(registry/namespace)对应// images中被匹配到的的url会使用对应账号密码进行镜像同步, 优先匹配 "registry/namespace" 的形式"username": "xxx",               // 用户名，可选，（v1.3.1 之后支持）valuse 使用 "${env}" 或者 "$env" 类型的字符串可以引用环境变量"password": "xxxxxxxxx",         // 密码，可选，（v1.3.1 之后支持）valuse 使用 "${env}" 或者 "$env" 类型的字符串可以引用环境变量"insecure": true                 // registry是否是http服务，如果是，insecure 字段需要为true，默认是false，可选，支持这个选项需要image-syncer版本 > v1.0.1},"registry.cn-beijing.aliyuncs.com": {"username": "xxx","password": "xxxxxxxxx"},"registry.hub.docker.com": {"username": "xxx","password": "xxxxxxxxxx"},"quay.io/coreos": {                       "username": "abc",              "password": "xxxxxxxxx","insecure": true  }
}

镜像同步文件

{// 同步镜像规则字段，其中条规则包括一个源仓库（键）和一个目标仓库（值）// 同步的最大单位是仓库（repo），不支持通过一条规则同步整个namespace以及registry// 源仓库和目标仓库的格式与docker pull/push命令使用的镜像url类似（registry/namespace/repository:tag）// 源仓库和目标仓库（如果目标仓库不为空字符串）都至少包含registry/namespace/repository// 源仓库字段不能为空，如果需要将一个源仓库同步到多个目标仓库需要配置多条规则// 目标仓库名可以和源仓库名不同（tag也可以不同），此时同步功能类似于：docker pull + docker tag + docker push"quay.io/coreos/kube-rbac-proxy": "quay.io/ruohe/kube-rbac-proxy","xxxx":"xxxxx","xxx/xxx/xx:tag1,tag2,tag3":"xxx/xxx/xx"// 当源仓库字段中不包含tag时，表示将该仓库所有tag同步到目标仓库，此时目标仓库不能包含tag// 当源仓库字段中包含tag时，表示只同步源仓库中的一个tag到目标仓库，如果目标仓库中不包含tag，则默认使用源tag// 源仓库字段中的tag可以同时包含多个（比如"a/b/c:1,2,3"），tag之间通过","隔开，此时目标仓库不能包含tag，并且默认使用原来的tag// 当目标仓库为空字符串时，会将源镜像同步到默认registry的默认namespace下，并且repo以及tag与源仓库相同，默认registry和默认namespace可以通过命令行参数以及环境变量配置，参考下面的描述
}

参考链接：

https://github.com/containers/skopeo

https://github.com/containers/skopeo/blob/main/docs/skopeo-sync.1.md

https://goharbor.io/docs/2.2.0/administration/configuring-replication/create-replication-endpoints/

https://github.com/AliyunContainerService/image-syncer/blob/master/README-zh_CN.md

Habor数据迁移方式有多少，skopeo效率最好相关推荐

redis集群数据迁移方式、宕机
数据迁移方式转载:https://blog.csdn.net/tianpeng341204/article/details/78963850 Redis Cluster数据分片机制基础概念集群: ...
HBase 2.X版本的元数据修复及一种数据迁移方式
新集群清理及数据迁移看完上面的元数据恢复,应该就知道接下来的这种HBase数据迁移方式的原理:通过拷贝数据目录,让HBase元数据与业务数据目录重新建立关系,达到业务正常读写. 下面例子只考虑用户使 ...
技术实操丨HBase 2.X版本的元数据修复及一种数据迁移方式
摘要:分享一个HBase集群恢复的方法. 背景在HBase 1.x中,经常会遇到元数据不一致的情况,这个时候使用HBCK的命令,可以快速修复元数据,让集群恢复正常. 另外HBase数据迁移时,大家经 ...
ORACLE使用copy方式存储迁移,详细讲解Oracle数据库的数据迁移方法
添加所需的表空间和用户到目标数据库中:安装所需的SQL*Net2或者Net8软件,并配置用于连接数据库的别名. 在DOS命令提示符下设置oracle_sid=Oracle7_sid. 以Interna ...
云小课｜云小课带你快速掌握云数据迁移CDM
阅识风云是华为云信息大咖,擅长将复杂信息多元化呈现,其出品的一张图(云图说).深入浅出的博文(云小课)或短视频(云视厅)总有一款能让您快速上手华为云.更多精彩内容请单击此处. 摘要:欢迎来到云数据迁移 ...
ArcSDE数据迁移
Arc SDE 数据迁移题记这篇文章主要是利用ArcGIS桌面.ArcSDE命令提供的多种ArcGIS数据导入导出数据(可以理解为数据迁移)的方式和数据库迁移的方式(以Oracle数据库为例),来 ...
hive和hbase数据迁移
数据迁移文章目录数据迁移一.数据分析 1. Hive数据分析 2. Hbase数据分析 3. Kudu数据分析二.数据迁移设 1. Hive数据迁移设计 2. Hbase数据迁移设计 3. K ...
oracle怎么将一列挪到另一列,详细讲解Oracle数据库的数据迁移方法
<详细讲解Oracle数据库的数据迁移方法>由会员分享,可在线阅读,更多相关<详细讲解Oracle数据库的数据迁移方法(4页珍藏版)>请在人人文库网上搜索. 1.详细讲解 Or ...
20T数据迁移经验：手把手教你群晖NAS数据迁移，黑裙晖通用！
原文网址:https://www.toutiao.com/a6630412335842329101/ 2016年把Orico 阵列盒整成NAS,容量从8T增到20T,原本以为可以撑上个三五年,没想到H ...

Habor数据迁移方式有多少，skopeo效率最好