深度解读基于Ceph对象存储的混合云机制

毫无疑问,乘着云计算发展的东风,Ceph已经是当今最火热的软件定义     存储   开源项目。如下图所示,它在同一底层平台之上可以对外提供三种存储     接口   ,分别是文件存储、对象存储以及块存储,本文主要关注的是对象存储即radosgw。

 深度解读基于Ceph对象存储的混合云机制_设计制作_RF/无线

基于Ceph可方便快捷地搭建安全性好、可用性高、扩展性好的私有化存储平台。私有化存储平台虽然以其安全性的优势受到越来越多的关注,但私有化存储平台也存在诸多弊端。

例如在如下场景中,某跨国公司需要在国外访问本地的业务数据,我们该如何支持这种远距离的数据访问需求呢。如果仅仅是在私有化环境下,无非以下两种解决方案:直接跨地域去访问本地数据中心中的数据,毫无疑问,这种解决方案会带来较高的访问延迟,在国外自建数据中心,不断将本地的数据异步复制到远程数据中心,这种解决方案的缺点是成本太高。

在这种场景下,单纯的私有云存储平台并不能很好的解决的上面的问题。但是,通过采用混合云解决方案却能较好地满足上述需求。对于前文所述远距离数据访问的场景,我们完全能借助公有云在远程的数据中心节点作为存储点,将本地数据中心的数据异步复制到公有云,再通过终端直接访问公有云中的数据,这种方式在综     合成   本和快捷性方面具备较大优势,适合这种远距离的数据访问需求。

基于Ceph对象存储的混合云机制是对Ceph生态的良好补充, 基于此,社区将在     Mi   mic这个版本上发布RGW Cloud Sync特性,初步支持将RGW中的数据导出到支持s3协议的公有云对象存储平台,比如我们     测试   中使用的腾讯云COS,同Mulsi     te   中的其他插件一样,RGW Cloud Sync这个特性也是做成了一个全新的同步插件(目前称之为aws sync module),能兼容支持S3协议。RGW Cloud Sync特性的整体发展历程如下:

Suse公司贡献了初始版本,这个版本仅支持简单上传Red Hat在这个初始版本之上实现了完整语义的支持,比如mul     ti   part上传、删除等,考虑到同步大文件的时候可能会造成内存爆炸的问题,还实现了流式上传,对于Ceph社区即将在M版本发布的这个公有云同步特性,腾讯云存储团队也在不断关注并进行了实际落地测试使用,并根据其中存在的问题进行了反馈及开发。

 深度解读基于Ceph对象存储的混合云机制_设计制作_RF/无线

其中,Cloud Zone内部包含一个公有云同步插件,它被配置为只读zone,用以将Rgw Zone中写入的数据跨地域同步至腾讯云公有云对象存储平台COS之上。顺利实现将数据从RGW中同步备份至公有云平台,并且支持自由定制来实现将数据导入至不同云端路径,同时我们还完善了同步状态显示功能,能较快监测到同步过程中发生的错误以及当前落后的数据等。

RGW Cloud Sync这个特性本质上是基于Mul  TI site之上的一个全新的同步插件(aws sync module)。首先来看Mul  TI site的一些核心机制。Mul  TI site是RGW中数据远程备份的一种解决方案,本质上来说它是一种基于日志的异步复制策略。

Zone:存在于一个独立的Ceph集群,由一组rgw提供服务,对应一组后台的poolZonegroup:包含至少一个Zone,Zone之间同步数据和元数据Realm:一个独立的命名空间,包含至少一个Zonegroup,Zonegroup之间同步元数据

Mul  TI site中的一些工作机制,分别是Data Sync、Async F     ram   ework、Sync Plugin这三部分。其中Data Sync部分主要分析Multisite中的数据同步流程,Async Framework部分会介绍Multisite中的协程框架,Sync Plugin部分会介绍Multisite中的一些同步插件。

Data Sync用以将一个Zonegroup内的数据进行备份,一个Zone内写入的数据会最终同步到Zonegroup内所有Zone上。

Init:将远程的source zone与local zone建立日志分片对应关系,即将远程的datalog映射到本地,后续通过datalog就知道有没有数据需要更新Build Full Sync Map:获取远程bucket的元信息并建立映射关系来记录bucket的同步状态,如果配置multisite的时候source zone是没有数据的,则这步会直接跳过Data Sync:开始object数据的同步,通过RGW a     pi   来获取source zone的datalog并消费对应的bilog来同步数据。

78
158
0
16

相关资讯

  1. 1、《择天记手游》预约全面开启一手资料抢先来看1129
  2. 2、暴力美学的清流《大圣归来棒指灵霄》萌宠驾到1836
  3. 3、《仙灵外传》比武大会火爆来袭这战帖你接不接257
  4. 4、兄弟约战《战龙之刃》新版本好友系统开启1239
  5. 5、《时空大乱斗》新服今日十点正式开启169
  6. 6、主公受惊了国战怎么样国战内容详解3325
  7. 7、《大武侠物语》新版本全新体验终于等到你2299
  8. 8、《守护之光》双版对比精彩哪里都一样2427
  9. 9、灵活多变策略卡牌《幻世英雄》再谱掌上传奇2201
  10. 10、热辣圣诞《斗罗大陆神界传说》手游红装上线118
全部评论(0)
我也有话说
0
收藏
点赞
顶部