背景
项目需要,每天有大量的数据需要从hadoop同步到ES,这部分数据需要替换掉之前ES索引的数据,所以不太可能每天都向ES的一个索引增加,另一个原因是ES的存储资源比mysql等相对比较贵。索引看了用ES模板来每天创建一个新的索引,删除一个相对比较老的索引。
实战
下面的内容是在 ES 6.3 集群进行操作的。(6.x都是一样的)
公司的es模板申请页面如下(其实不同公司的页面都类似)

具体创建模板的内容如下:
{
"settings": {
"index": {
"number_of_shards": "8",
"number_of_replicas": "1"
}
},
"index_patterns": [
"gdm_m03_item_sku_all_attr_da_prod_*"
],
"mappings": {
"gdm_m03_item_sku_all_attr_da_prod": {
"dynamic": false,
"_all": {
"enabled": false
},
"properties": {
"id": {
"type": "keyword"
},
"item_sku_id": {
"type": "keyword"
},
"cate_id": {
"type": "keyword"
},
"com_attr_group_

为了应对大量数据从Hadoop到ES的同步并优化存储成本,本文介绍了如何利用Elasticsearch 6.x的模板功能每日创建新索引并删除旧索引。实战部分展示了在ES 6.3集群中申请和配置模板的过程,以`gdm_m03_item_sku_all_attr_da_prod_*`为索引模式,每天生成新索引并自动删除7天前的索引。
1040

被折叠的 条评论
为什么被折叠?



