上云无忧 > 文档中心 > 百度智能云Elasticsearch实践 - 基于节点磁盘介质的冷热数据分离
Elasticsearch
百度智能云Elasticsearch实践 - 基于节点磁盘介质的冷热数据分离

文档简介:
创建带冷数据节点集群: 冷数据节点集群创建: 登录百度智能云Elasticsearch 控制台,选择【创建集群】。 开启冷数据节点,并选择对应的计算资源及磁盘配置进行创建。
*此产品及展示信息均由百度智能云官方提供。免费试用 咨询热线:400-826-7010,为您提供专业的售前咨询,让您快速了解云产品,助您轻松上云! 微信咨询
  免费试用、价格特惠

创建带冷数据节点集群

冷数据节点集群创建

登录百度智能云Elasticsearch 控制台,选择【创建集群】

开启冷数据节点,并选择对应的计算资源及磁盘配置进行创建

冷热数据节点对比

节点类型 磁盘类型 参数配置 是否绑定百度云blb接受用户请求
热数据节点 建议使用ssd云磁盘 node.attr.data_tier: hot
冷数据节点 高性能云磁盘 node.attr.data_tier: warm

创建成功后可以通过以下命令查看节点属性:

GET /_cat/nodeattrs?v&s=value

例如创建单个热节点及单个冷节点则节点配置如下:

冷热数据分离的集群建议使用热数据节点存储近期数据(如近7天数据)来保证热数据的查询效率,使用冷数据节点来存储历史数据(如7天之前的数据)来降低存储成本。

注意:创建集群时,只有启用了冷数据节点,数据节点才会变成热数据节点。

索引操作冷热变更

冷热数据属性说明

index.routing.allocation.require.data_tier属性用于设置索引为热数据(hot)还是冷数据(warm)。

创建热索引:

PUT hot_warm_data
{
    "settings" : {
        "index.routing.allocation.require.data_tier": "hot",
        "number_of_shards": 5
    }
}

设置索引数据为冷数据

PUT hot_warm_data/_settings
{
    "index.routing.allocation.require.data_tier": "warm"
}

数据开始由热数据节点向冷数据节点迁移,迁移进度可以通过以下命令查看:

GET /_cat/recovery?v&active_only=true

迁移完成后shard分布情况,数据已被迁移到冷数据节点

设置索引数据为热数据

PUT hot_warm_data/_settings
{
    "index.routing.allocation.require.data_tier": "hot"
}

数据开始由冷数据节点向热数据节点迁移,迁移进度可以通过以下命令查看:

GET /_cat/recovery?v&active_only=true

迁移完成后shard分布情况,数据已被迁移到热数据节点

相似文档
  • Kibana 是一款开源的可视化数据分析工具,可以使用 Kibana 对 Elasticsearch 中的数据进行搜索、分析,可以很方便的利用图表、表格及地图对数据进行多样的可视化展现。
  • 简介: Logstash是一款开源的实时数据采集工具。通过配置多种类型的input、fliter、output插件,Logstash支持多类数据源的数据采集、转换,并存储到目的端。
  • 介绍: 日志是一个系统不可缺少的组成部分,日志记录系统产生的各种行为,基于日志信息可以对系统进行问题排查,性能优化,安全分析等工作。 使用ELK(Elasticsearch、Logstash、Kibana) 结合Filebeat与Kafka构建日志分析系统,可以方便的对日志数据进行采集解析存储,以及近实时的查询分析。
  • Elasticsearch系统常见问题: 如何查看Es安装了哪些插件? 线程池队列满导致错误? Too Many Open Files的错误? Es 中一个分片一般设置多大? 当集群为red或者yellow的时候怎么办? 如何cancel掉慢查询?
  • 本文档主要目的: 用来积累用户常见的问题。 文档中的操作可通过 Kibana 或在chrome浏览器中安装sense插件完成。用户也可以通过curl的方式自行实现。
官方微信
联系客服
400-826-7010
7x24小时客服热线
分享
  • QQ好友
  • QQ空间
  • 微信
  • 微博
返回顶部