分布式存储ceph对象存储配置zone同步

一、架构:

Ceph天生带两地三中心概念，我们要去的双活就是两个数据中心，Ceph两数据中心可以在一个集群也可以在不同的集群中。

二、概念：

zone：包含多个RGW实例的一个逻辑概念。zone不能跨集群。同一个zone的数据保存在同一组pool中。

zonegroup：一个zonegroup如果包含1个或多个zone。如果一个zonegroup包含多个zone，必须指定 一个zone作为master zone，用来处理bucket和用户的创建。一个集群可以创建多个zonegroup，一个zonegroup也可以跨多个集群。

realm：一个realm包含1个或多个zonegroup。如果realm包含多个zonegroup，必须指定一个zonegroup为master zonegroup， 用来处理系统操作。一个系统中可以包含多个realm，多个realm之间资源完全隔离。

RGW多活方式是在同一zonegroup的多个zone之间进行，即同一zonegroup中多个zone之间的数据是完全一致的，用户可以通过任意zone读写同一份数据。 但是，对元数据的操作，比如创建桶、创建用户，仍然只能在master zone进行。对数据的操作，比如创建桶中的对象，访问对象等，可以在任意zone中 处理。

三、在Cluster1集群上配置master zone

1、创建realmradosgw-admin realm create --rgw-realm=earth --default

2、创建master zonegroup

先删除默认的zonegroup

radosgw-admin zonegroup delete --rgw-zonegroup=default 

创建一个为china的zonegroup

radosgw-admin zonegroup create --rgw-zonegroup=china --endpoints=ceph-1:7480 --master --default 

3、创建master zone

先删除默认的zone

adosgw-admin zone delete --rgw-zone=default 

创建一个为huabei的zone

radosgw-admin zone create --rgw-zonegroup=china --rgw-zone=huabei --endpoints=ceph-1:7480 --default --master 

4、创建一个system账户用于和huadong zone同步

radosgw-admin user create --uid="sync-user" --display-name="sync user" --system 

5、用创建system账户产生的access 和secret更新zone配置

radosgw-admin zone modify --rgw-zone=huabei --access-key={access-key} --secret={secret} 

6、更新period

radosgw-admin period update --commit 

7、配置ceph.conf

[client.rgw.ceph-1] 
host = ceph-1 
rgw frontends = "civetweb port=7480" 
rgw_zone=huabei 

四、在Cluster2集群上配置slave zone

1、从master zone拉取realm

radosgw-admin realm pull --url=ceph-2:7480 --access-key={access-key} --secret={secret} 

注意：这里的access key 和secret是master zone上system 账户的access key和secret

2、拉取period

radosgw-admin period pull --url=ceph-2:7480 --access-key={access-key} --secret={secret} 

注意：这里的access key 和secret是master zone上system 账户的access key和secret

3、创建slave zone

radosgw-admin zone create --rgw-zonegroup=china --rgw-zone=huadong \ 
 --access-key={system-key} --secret={secret} \ 
 --endpoints=ceph-2:7480 

注意：这里的access key 和secret是master zone上system 账户的access key和secret

4、更新period

radosgw-admin period update --commit 

注意:如果出现认证错误，重启master zone的实例服务

配置ceph.conf

[client.rgw.ceph-2] 
host = ceph-2 
rgw frontends = "civetweb port=7480" 
rgw_zone=huadong 

五、验证zone之间数据同步

1、在secondary zone节点执行

radosgw-admin sync status 

2、在master zone节点上创建用户

radosgw-admin user create --uid="testuser" --display-name="First User" 

3、用s3客户端 创建桶，并put 对象

注意: 在slave zone节点上也要创建相同的用户才会看到创建的桶，和上传的对象。