1 - 基于ELK的ElasticSearch 7.8.x 技术整理 - 基础语法篇 - 更新完毕

1 - 基于ELK的ElasticSearch 7.8.x 技术整理 - 基础语法篇 - 更新完毕

目录

  准备工作
  0、ES非关系型和关系型数据库对应关系
  1、索引
  2、文档_doc
  3、 java操作篇链接

准备工作

0、什么是ElasticSearch?它和Lucene以及solr的关系是什么?

这些是自己的知识获取能力,自行百度百科

1、下载ElasticSearch的window版,linux版后续说明

自行百度Elastic,然后进到官网进行下载,我的版本是:7.8.0

2、下载postman

自行百度进行下载

3、ElasticSearch中的目录解读( 会tomcat,看到这些目录就不陌生 )

进到bin目录下,点击 elasticsearch.bat 文件即可启动 ES 服务

4、ELK技术是什么意思

  • 就图中这三个

5、注意事项

  • 保证自己的JDK是1.8或以上,最低要求1.8

0、ES非关系型和关系型数据库对应关系

注意:ES 7.x之后,type已经被淘汰了,其他的没变
只要玩ES,那么这个图就要牢牢地记在自己脑海里,后续的名词解释不再过多说明,就是操作这幅图中的东西

1、索引

  • 这里需要解释一个东西:倒排索引

  • 解释之前先来对照关系型数据库看一下:正排索引

1.1、创建索引

语法:

http://ip:port/index_name如:http://127.0.0.1:9200/create_index请求方式:put

注:put请求具有幂等性

  • 指的是: 不管进行多少次重复操作,都是实现相同的结果。可以采用把下面的请求多执行几次,然后:观察返回的结果

还具有幂等性的有:put、delete、get

1.1、获取索引

语法:

http://ip:port/index_name如:http://127.0.0.1:9200/create_index请求方式:get

1.3、获取ES中的全部索引

http://ip:port/_cat/indices?v 如:http://127.0.0.1:9200/_cat/indices?v

1.4、删除索引

语法:

http://ip:port/index_name如:http://127.0.0.1:9200/create_index注意:请求方式为delete

2、文档_doc

2.1、使用post创建doc

这种方式:是采用ES随机生成id时使用的请求方式

注:需要先创建索引,因为:这就类似于关系型数据库中在数据库的表中 创建数据

语法:

http://ip:port/index_name/_doc 如: http://127.0.0.1:9200/create_index/_doc 请求方式:post

2.2、使用put创建doc - 转幂等性 - 自定义id

路径后面加一个要创建的id值即可

2.3、查询文档_doc - 重点

2.3.1、id查询单条_doc

语法:

http://ip:port/index_name/_doc/id如: http://127.0.0.1:9200/create_index/_doc/100001 请求方式:get

2.3.2、查询ES中索引下的全部_doc

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

注意:别再body中携带数据了,不然就会报:

Unknown key for a VALUE_STRING in [title]

返回的结果:

点击查看代码
{    "took": 69,查询花费的时间  毫秒值    "timed_out": false,是否超时    "_shards": {分片  还没学,先不看        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 3,            "relation": "eq"        },        "max_score": 1.0,        "hits": [查询出来的 当前索引下的所有_doc文档            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pdy1sX0B_g8Hput6sCw6",                "_score": 1.0,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            },            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pty5sX0B_g8Hput6eyzA",                "_score": 1.0,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            },            {                "_index": "create_index",                "_type": "_doc",                "_id": "100001",                "_score": 1.0,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            }        ]    }}

2.4、文档_doc的修改

2.4.1、全量修改

原理:利用内容覆盖,重新发一份文档罢了

语法:

http://ip:port/index_name/_doc/id如: http://127.0.0.1:9200/create_index/_doc/100001 请求方式:post

获取_doc文档,检验一下

2.4.2、局部修改

语法:

http://ip:port/index_name/_update/id如: http://127.0.0.1:9200/create_index/_update/100001 请求方式:post

检验一下:

2.5、文档_doc的删除

使用delete请求即可

2.6、条件查询 - 重点

2.6.1、url携带条件

语法:

http://ip:port/index_name/_search?q=条件字段:值如: http://127.0.0.1:9200/create_index/_search?q=author:邪 请求方式:get

注:这种方式不建议用,了解即可吧

  • 返回的结果体:
点击查看代码
{    "took": 26,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 2,            "relation": "eq"        },        "max_score": 0.18232156,        "hits": [            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pdy1sX0B_g8Hput6sCw6",                "_score": 0.18232156,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            },            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pty5sX0B_g8Hput6eyzA",                "_score": 0.18232156,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            }        ]    }}

2.6.2、请求体携带条件 - 推荐使用的一种

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

请求体携带的数据:

点击查看代码
{    "query": {        "match":{   match  匹配、配对            "author": "邪"条件        }    }}

结果返回:

点击查看代码
 {    "took": 3,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 2,            "relation": "eq"        },        "max_score": 0.18232156,        "hits": [            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pdy1sX0B_g8Hput6sCw6",                "_score": 0.18232156,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            },            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pty5sX0B_g8Hput6eyzA",                "_score": 0.18232156,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            }        ]    }} 

2.7、分页查询 - 重点

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

请求体内容:

点击查看代码
 {    "query":{        "match_all":{}注意:这里使用的是match_all    },    "from": 0,相当于:startNum  这个数字的算法:(当前页码-1)*要显示的条数    "size": 1相当于:pageSize} 

返回结果:

点击查看代码
 {    "took": 1,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 2,            "relation": "eq"        },        "max_score": 1.0,        "hits": [            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pdy1sX0B_g8Hput6sCw6",                "_score": 1.0,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            }        ]    }} 

2.8、排序查询 - 重点

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

请求体内容:

点击查看代码
 {    "query":{        "match_all":{}    },    "sort":{排序        "_id":{根据什么字段排序            "order":"desc"排序方式  desc降序   asc升序        }    }} 

返回结果:

点击查看代码
 {    "took": 49,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 2,            "relation": "eq"        },        "max_score": null,        "hits": [            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pty5sX0B_g8Hput6eyzA",                "_score": null,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                },                "sort": [                    "Pty5sX0B_g8Hput6eyzA"                ]            },            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pdy1sX0B_g8Hput6sCw6",                "_score": null,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                },                "sort": [                    "Pdy1sX0B_g8Hput6sCw6"                ]            }        ]    }} 

2.9、多条件查询 - 重点

2.9.1、and查询

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

请求体内容:

点击查看代码
{"query":{"bool":{"must":[就相当于是mysql中的 and拼接条件{"match":{and条件1"author":"邪"}},{"match":{and条件2"_id":"Pdy1sX0B_g8Hput6sCw6"}}]}}}

返回结果:

点击查看代码
{    "took": 2,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 1,            "relation": "eq"        },        "max_score": 1.1823215,        "hits": [            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pdy1sX0B_g8Hput6sCw6",                "_score": 1.1823215,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            }        ]    }}

2.9.2、or查询

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

请求体内容:

点击查看代码
 {"query":{"bool":{"should":[对照must,改变的地方{"match":{"author":"邪"}},{"match":{"_id":"Pdy1sX0B_g8Hput6sCw6"}}]}}} 

返回的结果:

点击查看代码
 {    "took": 2,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 2,            "relation": "eq"        },        "max_score": 1.1823215,        "hits": [            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pdy1sX0B_g8Hput6sCw6",                "_score": 1.1823215,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            },            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pty5sX0B_g8Hput6eyzA",                "_score": 0.18232156,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                }            }        ]    }} 

2.10、范围查询 - 重点

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

请求体内容:

点击查看代码
 {"query":{"bool":{"should":[{"match":{"author":"邪"}},{"match":{"title":"一"}}],"filter":{就多了这么一个filter range而已"range":{"id":{"gt":1000gt >   lt <   在html中见过滴}}}}}} 

返回结果:下面的两条数据是我重新加的

点击查看代码
  {    "took": 34,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 2,            "relation": "eq"        },        "max_score": 0.0,        "hits": [            {                "_index": "create_index",                "_type": "_doc",                "_id": "Vtz2sn0B_g8Hput64ywM",                "_score": 0.0,                "_source": {                    "id": 10001,                    "title": "大王叫我来巡山",                    "author": "王二麻子"                }            },            {                "_index": "create_index",                "_type": "_doc",                "_id": "V9z5sn0B_g8Hput6HyyQ",                "_score": 0.0,                "_source": {                    "id": 10002,                    "title": "论皮包龙是怎么形成的",                    "author": "波多野结衣"                }            }        ]    }} 

2.11、完全匹配 - 精准匹配 - 重点

  • 在玩这个之前可以回到前面看一下我前面例子中的:条件查询

  • 在那里,老衲做的有一个操作:只用了一个字符:邪,但是:最后得到了想要的结果

  • 上面这种:叫做全文检索,它是去:我创建的create_index索引下的找寻所有的内容,从而匹配出:author包含“邪”的内容,如果此时自己定的条件是:多个字符的话,那么:底层是把这些字符拆成单个字符了,从而匹配出来的

  • 而所谓的完全匹配:就是精准匹配到某条数据,它虽然也会拆成单个字符,但是:查询时,还是整串字符绑定在一起匹配的

    • 如:查询"紫邪情",用全文检索就是:紫、邪、情,单独匹配,从而判定,如果此时:使用"紫邪晴",那么:也会匹配到
    • 但是:如果使用的是完全匹配"紫邪晴",虽然也会拆分为:紫、邪、晴,可是:它最后去匹配结果时,是使用"紫邪晴"这整个字符串来比对的,所以:最后结果不会匹配到

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

全文检索和完全匹配对比

2.12、高亮查询

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

请求体内容:

点击查看代码
 {    "query":{        "match":{            "author":"紫邪情"        }    },    "highlight":{高亮        "fields":{哪个字段需要高亮            "author":{}        }    }} 

返回结果:

点击查看代码
 {    "took": 59,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 2,            "relation": "eq"        },        "max_score": 2.264738,        "hits": [            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pdy1sX0B_g8Hput6sCw6",                "_score": 2.264738,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                },                "highlight": {                    "author": [                        "<em>紫</em><em>邪</em><em>情</em>"                    ]                }            },            {                "_index": "create_index",                "_type": "_doc",                "_id": "Pty5sX0B_g8Hput6eyzA",                "_score": 2.264738,                "_source": {                    "title": "这是第一次学习ES的表数据创建",                    "author": "紫邪情",                    "sex": "girl"                },                "highlight": {                    "author": [                        "<em>紫</em><em>邪</em><em>情</em>"                    ]                }            }        ]    }} 

2.13、组合查询

2.13.1、分组

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

请求体内容:

点击查看代码
 {    "aggs": {    // 组合操作标识        "author_group": {// 分组之后的名称  随便取            "terms": {// 分组标识                "field": "id"       // 注意:这里分组别用字符串类型的字段,如:author            }        }    },    "size": 0       // 设定不显示原始数据,否则:"hits":{}这个原始数据也会暴露出来} 

加上size之后的返回结果:

点击查看代码
 {    "took": 5,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 4,            "relation": "eq"        },        "max_score": null,        "hits": []// 这里的hits就被去掉了    },    "aggregations": {        "author_group": {            "doc_count_error_upper_bound": 0,            "sum_other_doc_count": 0,            "buckets": [                {                    "key": 10001,                    "doc_count": 1                },                {                    "key": 10002,                    "doc_count": 1                }            ]        }    }} 

2.13.2、平均数

语法:

http://ip:port/index_name/_search 如: http://127.0.0.1:9200/create_index/_search 请求方式:get

请求体内容:

点击查看代码
 {    "aggs":{        "id_avg":{            "avg":{                "field":"id"            }        }    },    "size":0} 

返回结果:

点击查看代码
 {    "took": 4,    "timed_out": false,    "_shards": {        "total": 1,        "successful": 1,        "skipped": 0,        "failed": 0    },    "hits": {        "total": {            "value": 4,            "relation": "eq"        },        "max_score": null,        "hits": []    },    "aggregations": {        "id_avg": {            "value": 10001.5        }    }} 

同样的道理:sum总和之类的也可以写的,把标识改为对应的函数名字、field字段即可

2.14、映射关系

  • 就相当于:在做mysql数据库中的表结构( 字段构建嘛:字段名、类型... )

2.14.1、建立索引

点击查看代码
 http:127.0.0.1:9200/user// 请求类型:put 

2.14.2、建立映射关系

点击查看代码
 http://127.0.0.1:9200/user/_mapping// 请求方式:put   // 请求体内容{    "properties":{        "name":{            "type":"text",            "index":true        },        "age":{            "type":"keyword",            "index":false        },        "address":{            "type":"keyword",            "index":true        }    }}  // 2、查看映射关系http://127.0.0.1:9200/user/_mapping// 请求方式:get  // 3、添加数据http://127.0.0.1:9200/user/_doc// 请求方式 post // 请求体内容{    "name":"紫邪情",    "sex":"女滴",    "age":18,    "address":"地球村"}  // 4、查看数据http://127.0.0.1:9200/user/_search// 请求方式 post  

2.14.3、测试

点击查看代码
 http://127.0.0.1:9200/user/_search// 请求方式 get  // 请求体内容{    "query":{        "bool":{            "must":[                {                    "match":{                        "name":"邪"                    }                },{                    "match":{                        "age":18                    }                },{                    "match":{                        "address":"地球村"                    }                }            ]        }    }}  

返回结果:

点击查看代码
 {    "error": {        "root_cause": [            {                "type": "query_shard_exception",                "reason": "failed to create query: Cannot search on field [age] since it is not indexed.",// 重点信息在这里,但是:现在先不解答这个错误原因,继续测试                "index_uuid": "To8O7VKkR3OM_drdWZQIIA",                "index": "user"            }        ],        "type": "search_phase_execution_exception",        "reason": "all shards failed",        "phase": "query",        "grouped": true,        "failed_shards": [            {                "shard": 0,                "index": "user",                "node": "w6AVu2CHT6OEaXAJmqT8mw",                "reason": {                    "type": "query_shard_exception",                    "reason": "failed to create query: Cannot search on field [age] since it is not indexed.",                    "index_uuid": "To8O7VKkR3OM_drdWZQIIA",                    "index": "user",                    "caused_by": {                        "type": "illegal_argument_exception",                        "reason": "Cannot search on field [age] since it is not indexed."                    }                }            }        ]    },    "status": 400} 

上面说:age不允许被index( 检索 ) , 那么删掉它,再看效果

请求体变为如下:

点击查看代码
 {    "query":{        "bool":{            "must":[                {                    "match":{                        "name":"邪"                    }                },{// 去掉了age属性                    "match":{                        "address":"地球村"                    }                }            ]        }    }} 

发现能够获取到结果

再变一下:

现在回到前面报的错:failed to create query: Cannot search on field [age] since it is not indexed

  • 为什么报这个错?其实已经告知得很清楚了:field [age] since it is not indexed 属性age不支持被检索,原因:

为什么前面使用"地球村"可以查到数据,而使用"地球"就不可以查到?

2.15.5、text和keyword类型的区别

  • text类型支持全文检索和完全查询,即:我搜索时只用字符串中的一个字符照样得到结果

    • 原理:text使用了分词,就是把字符串拆分为单个字符串了
  • keyword类型支持完全查询,即:精确查询,前提:index不是false

    • 原理:keyword不支持分词,所以:查询时必须是完全查询( 所有字符匹配上才可以 )

3、 java操作篇链接

  • https://www.cnblogs.com/xiegongzi/p/15690534.html

作者:紫邪情
欢迎任何形式的转载,但请务必注明出处。
限于本人水平,如果文章和代码有表述不当之处,还请不吝赐教。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。
相关文章
返回顶部