Clickhouse多磁盘存储,实现冷热数据分离

clickhouse

前言

最近一直在搞监控方面的事情,随着监控数据越来越多,之前使用的influxdb感觉有点要扛不住的感觉,查询时间范围选择稍长,查询速度就变得特别慢。正好发现了clickhouse数据库,测试后觉得不错,目前监控已经全面切换至clickhouse,今天就来简单分享下clickhouse如何实现多磁盘存储,实现冷热数据分离。

Clickhouse简介

ClickHouse是一款OLAP的数据库产品,由俄罗斯yandex公司开发,专为在线数据分析而设计,能够使用SQL查询生成实时数据报告,在2016年开源。

ClickHouse足够轻量,不依赖Hadoop生态。ClickHouse有如下特点:

  • 真正的面向列的DBMS
  • 数据高效压缩
  • 磁盘存储的数据
  • 多核并行处理
  • 在多个服务器上进行分布式处理
  • SQL语法支持
  • 向量化引擎
  • 实时数据更新
  • 索引
  • 适合在线查询
  • 支持近似预估计算
  • 支持嵌套的数据结构
  • 支持数组作为数据类型
  • 支持限制查询复杂性以及配额
  • 复制数据复制和对数据完整性的支持

详情参考官方文档:https://clickhouse.tech/docs/zh/

Clickhouse多磁盘存储策略

clickhouse storage

在Clickhouse 19.15版本之前,MergeTree 只支持单路径存储,所有的数据都会被写入config.xml配置中path指定的路径下,即使服务器挂载了多块磁盘,也无法有效利用这些存储空间。

为了解决这种问题 在19.15版本开始支持MergeTree自定义存储策略的功能,支持以数据分区为最小移动单元将分区目录写入多块磁盘目录。

根据配置策略的不同,目前大致有三类存储策略:

1.默认策略(default):MergeTree原本的存储策略,无须任何配置,所有分区会自动保存到config.xml 配置中的path指定的路径。

1.JBOD策略:这种策略适用于服务器挂载了多块磁盘,但是没有RAID的场景。JBOD (Just a Bunch Of Disks),是一种Round-robin 轮询策略,每执行一次INSERT或者Merge 所产生的新分区会轮询写入各个磁盘。这种策略的效果类似于RAID 0,可以降低单块磁盘的负载,在一定条件下能增加数据并行读写的性能。若单块磁盘发生故障,则会丢掉应用JBOD策略写入的这部分数据。

3.HOT/COLD策略:(冷热分离)这种策略适合服务器挂载了不同类型磁盘的场景。将存储磁盘分为HOT和COLD。

HOT使用SSD,注重性能;

COLD区域使用HDD这类高容量存储媒介,注重存取的经济性。

数据在写入的MergeTree之初,首先会在HOT区域创建分区目录保存数据,当分区数据大小达到阈值数据会自动移动到COLD区域。

而在每个区域的内部也支持定义多个磁盘,所以在单个区域写入的过程,也能使用JBOD策略。

Clickhouse多磁盘存储配置

Clickhouse安装也非常简单,本文不做概述,官方文档已经写得很详细了。

磁盘、卷和存储策略应当在主配置文件 config.xml 或 config.d 目录中的独立文件中的 标签内定义。

disk配置示例:

/mnt/fast_ssd/clickhouse/

/mnt/hdd1/clickhouse/ 10485760

/mnt/hdd2/clickhouse/ 10485760 ... ...

示例解释:

必填项,必须全局唯一,表示磁盘的自定义名称*>

必填项,服务器将用来存储数据 (data 和 shadow 目录) 的路径, 应当以 ‘/’ 结尾

选填项,用于指定指定磁盘的预留空间,单位字节bit

注意:磁盘的配置选项的先后顺序没有关系。

在policies 的配置中,需要引用先前定义的disks磁盘。policies 同样支持定义多个策略。

存储策略配置:

...

disk1disk2fast_ssd1073741824disk10.2 ...

示例解释:

必填项,必须全局唯一,表示策略的自定义名称

必填项,必须全局唯一,表示卷的自定义名称

必填项,用于关联配置内的磁盘,可以声明多个disk,MergeTree会按照定义的顺序选择disk

选填,字节为单位 默认1G,表示在这个卷的单个disk磁盘中,一个数据分区的最大磁盘存储阈值,若当前分区的数据大小超过阈值,则之后的分区会写入下一个disk磁盘。

选填项,默认值为0.1,;若当前卷的可用空间大小小于factor因子,并且定义多个卷,则数据会自动移动到下一个卷。

在示例中,hdd_in_order 策略实现了 循环制 方法。因此这个策略只定义了一个卷(single),数据片段会以循环的顺序全部存储到它的磁盘上。当有多个类似的磁盘挂载到系统上,但没有配置 RAID 时,这种策略非常有用。

如果在系统中有不同类型的磁盘可用,可以使用 moving_from_ssd_to_hdd。hot 卷由 SSD 磁盘(fast_ssd)组成,这个卷上可以存储的数据片段的最大大小为 1GB。所有大于 1GB 的数据片段都会被直接存储到 cold 卷上,cold 卷包含一个名为 disk1 的 HDD 磁盘。

同样,一旦 fast_ssd 被填充超过 80%,数据会通过后台进程向 disk1 进行转移。

创建数据表,将配置的策略应用到表即可:

CREATE TABLE table_with_non_default_policy ( EventDate Date, OrderID UInt64, BannerID UInt64, SearchPhrase String ) ENGINE = MergeTree ORDER BY (OrderID, BannerID) PARTITION BY toYYYYMM(EventDate) SETTINGS storage_policy = 'moving_from_ssd_to_hdd'

default 存储策略意味着只使用一个卷,这个卷只包含一个在

中定义的磁盘。表创建后,它的存储策略就不能改变了。

后记

本文简单介绍了Clickhouse多磁盘存储的策略以及简单的配置。由于磁盘价格比较贵,笔者公司其实没有挂多快盘来进行存储,而是使用了oss以及s3来进行冷数据存储的,下一篇我将来详细介绍下clickhouse如何将冷数据存储到oss和s3上。

路由器百科

电脑我要怎么选(电脑该如何选择)

2022-11-4 10:12:55

路由器百科

移动WiFi连路由器怎么连(移动路由器怎么正确连接)

2022-11-4 11:55:59

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索