这里是ElasticSearch7.X.X+模仿京东搜索的实战 的学习笔记，6.X与7.X区别还是挺大的。
简介
Elaticsearch，简称为ES，ES是一个开源的高扩展的分布式全文检索引擎，它可以近乎实时的存储、检索数据；本身扩展性很好，可以扩展到上百台服务器，处理 PB 级别（大数据时代）的数据。
ES由 Java 语言开发并使用 Lucene 作为其核心来实现所有索引和搜索的功能，但是它的目的是通过简单的 RESTFULL API 来隐藏 Lucene 的复杂性，从而让全文搜索变得简单。
聊聊Doug Cutting
1998年9月4日,Google公司在美国硅谷成立,正如大家所知,它是一家做搜索引擎起家的公司
无独有偶，一位名叫Doug Cutting的美国工程师，也迷上了搜索引擎。他做了一个用于文本搜索的函数库（姑且理解为软件的功能组件），命名为Lucene。
Lucene是用JAVA写成的，目标是为各种中小型应用软件加入全文检索功能。因为好用而且开源，非常受程序员们的欢迎。
早期的时候，这个项目被发布在Doug Cutting的个人网站和SourceForge (一个开源软件网站)。后来，2001年底，Lucene成为Apache软件基金会jakarta项目的一个子项目。
2004年，Doug Cutting再接再励，在Lucene的基础上，和Apache开源伙伴Mike Cafarella合作，开发了一款可以代替当时的主流搜索的开源搜索引擎，命名为Nutch。
Lucene 是一套信息检索工具包，jar包，不包含搜索引擎系统。
包含的：索引结构，读写索引的工具，排序，搜索规则…工具类。
Lucene和ElasticSearch关系
ElasticSearch是基于Lucene做了一些封装和增强(上手简单)。
ES&Solr&Lucene
Elasticsearch简介
Elasticsearch是一个实时分布式搜索和分析引擎。它让你以前所未有的速度处理大数据成为可能。它用于全文搜索、结构化搜索、分析以及将这三者混合使用︰
*使用Elasticsearch提供全文搜索并高亮关键字，以及输入实时搜索(search-asyou-type)和搜索纠错(did-you-mean)等搜索建议功能。
英国卫报使用Elasticsearch结合用户日志和社交网络数据提供给他们的编辑以实时的反馈，以便及时了解公众对新发表的文章的回应。
*结合全文搜索与地理位置查询，以及more-like-this功能来找到相关的问题和答案。Github使用Elasticsearch检索1300亿行的代码。
但是Elasticsearch不仅用于大型企业，它还让像DataDog以及Klout这样的创业公司将最初的想法变成可扩展的解决方案。Elasticsearch可以在你的笔记本上运行，也可以在数以百计的服务器上处理PB级别的数据。
Elasticsearch是一个基于Apache Lucene™的开源搜索引擎。无论在开源还是专有领域，Lucene可以被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库。
但是，Lucene只是一个库。想要使用它，你必须使用Java来作为开发语言并将其直接集成到你的应用中，更糟糕的是, Lucene非常复杂，你需要深入了解检索的相关知识来理解它是如何工作的。
Elasticsearch也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能，但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性，从而让全文搜索变得简单。
Solr简介
Solr是Apache下的一个*开源项目，采用Java开发，它是基于Lucene的全文搜索服务器。Solr提供了比Lucene更为丰富的查询语言，同时实现了可配置、可扩展，并对索引、搜索性能进行了优化
Solr可以独立运行，运行在)Tomcat等这些Servlet容器中，Solr索引的实现方法很简单，用POST方法向Solr服务器发送一个描述Field及其内容的XML文档，Solr根据xml文档添加、删除、更新索引。Solr搜索只需要发送HTTP GET请求然后对 Solr返回Xml，json等格式的查询结果进行解析，组织页面布局。Solr不提供构建UI的功能，Solr提供了一个管理界面，通过管理界面可以查询Solr的配置和运行情况。
Solr是基于lucene开发企业级搜索服务器，实际上就是封装了lucene。
Solr是一个独立的企业级搜索应用服务器，它对外提供类似于Web-service的APlI接口。用户可以通过http请求，向搜索引擎服务器提衣一定格式的文件，牛成索引:也可以通讨提出杳找请求，并得到返回结果
Lucene简介
Lucene是apache软件基金会 jakarta项目组的一个子项目，是一个开放源代码的全文检索引擎工具包，但它不是一个完整的全文检索引擎，而是一个全文检索引擎的架构，提供了完整的查询引擎和索引引擎，部分文本分析引擎（英文与德文两种西方语言)。Lucene的目的是为软件开发人员提供一个简单易用的工具包，以方便的在目标系统中实现全文检索的功能，或者是以此为基础建立起完整的全文检索引擎。Lucene是一套用于全文检索和搜寻的开源程式库，由Apache软件基金会支持和提供。Lucene提供了一个简单却强大的应用程式接口，能够做全文索引和搜寻。在Java开发环境里Lucene是一个成熟的免费开源工具。就其本身而言，Lucene是当前以及最近几年最受欢迎的免费Java信息检索程序库。人们经常提到信息检索程序库，虽然与搜索引擎有关，但不应该将信息检索程序库与搜索引擎相混淆。
Lucene是一个全文检索引擎的架构。那什么是全文搜索引擎?
全文搜索引擎是名副其实的搜索引擎，国外具代表性的有Google、Fast/AliTheWeb、AltaVista、Inktomi、Teoma、WiseNut等，国内著名的有百度(Baidu )。它们都是通过从互联网上提取的各个网站的信息（以网页文字为主）而建立的数据库中，检索与用户查询条件匹配的相关记录，然后按一定的排列顺序将结果返回给用户，因此他们是真正的搜索引擎。
从搜索结果来源的角度，全文搜索引擎又可细分为两种，一种是拥有自己的检索程序(Indexer )，俗称"蜘蛛" ( Spider )程序或"机器人" ( Robot)程序，并自建网页数据库，搜索结果直接从自身的数据库中调用，如上面提到的7家引擎;另一种则是租用其他引擎的数据库，并按自定的格式排列搜索结果，如Lycos引擎。
总结
1、ES基本是开箱即用，非常简单。Solr安装略微复杂一丢丢!
2、Solr利用Zookeeper进行分布式管理，而Elasticsearch自身带有分布式协调管理功能。
3、Polr支持更多格式的数据，比如ISON、XML、CSV，而Elasticsearch仅支持json文件格式。
4、Solr官方提供的功能更多，而Elasticsearch本身更注重于核心功能，高级功能多有第三方插件提供，例如图形化界面需要kibana友好支撑。
5、Solr查询快，但更新索引时慢（即插入删除慢），用于电商等查询多的应用。
- ES建立索引快（即查询慢），即实时性查询快，用于facebook新浪等搜索。
- Solr是传统搜索应用的有力解决方案，但Elasticsearch更适用于新兴的实时搜索应用。
6、Solr比较成熟，有一个更大，更成熟的用户、开发和贡献者社区，而Elasticsearch相对开发维护者较少，更新太快，学习使用成本较高。
ES的安装
下载地址：https://www.elastic.co/cn/downloads/elasticsearch
Version:
7.15.0
Release date:
September 23, 2021
Downloads:
熟悉目录
bin 启动文件
config 配置文件
log4j 日志配置文件
jvm.options java虚拟机相关的配置
elasticSearch.yml ElasticSearch的配置文件 默认9200端口
lib 相关jar包
logs 日志
modules 功能模块
plugins 插件
点击bin文件夹中的bat就可以启动了，然后访问http://127.0.0.1:9200/就可以看到
{
"name" : "DESKTOP-KFAD8D1",
"cluster_name" : "elasticsearch",
"cluster_uuid" : "K8DWmnQISdetKLrPlwchJQ",
"version" : {
"number" : "7.15.0",
"build_flavor" : "default",
"build_type" : "zip",
"build_hash" : "79d65f6e357953a5b3cbcc5e2c7c21073d89aa29",
"build_date" : "2021-09-16T03:05:29.143308416Z",
"build_snapshot" : false,
"lucene_version" : "8.9.0",
"minimum_wire_compatibility_version" : "6.8.0",
"minimum_index_compatibility_version" : "6.0.0-beta1"
},
"tagline" : "You Know, for Search"
}
安装可视化界面ES head插件
下载地址:https://github.com/mobz/elasticsearch-head
前提需要npm, 该目录下安装依赖npm install 也可以用cnpm install
启动测试npm run start（在这个目录里面cmd：D:\java_env\elasticsearch-head-master\elasticsearch-head-master）
再访问http://localhost:9100/就可以看到：
由于跨域问题 需要进行配置 config/elsaticsearch.yml
使用Easticsearc时侯启动时，点击elasticsearch.bat发生闪退。
原因：允许elasticsearch跨越访问时，在修改了elasticsearch的配置文件，并且以非UTF-8的格式修改的，结果就报错了。
http.cors.enabled: true
http.cors.allow-origin: "*"
初学时可以把ES当做一个数据库(可以建立索引 (库) ，文档 (库中的数据) )
这个head 我们就把它当做数据展示工具 我们后面所有的查询都用Kibana
了解ELK
ELK是Elasticsearch、Logstash、Kibana三大开源框架首字母大写简称。市面上也被成为Elastit Stack。其中Elasticsearch是一个基于Lucene、分布式、通过Restful方式进行交互的近实时搜索平台框架。像类似百度、谷歌这种大数据全文搜索引擎的场景都可以使用Elasticsearch作为底层支持框架，可见Elasticsearch提供的搜索能力确实强大，市面上很多时候我们简称Elasticsearch为ES。Logstash是ELK的*数据流引擎，用于从不同目标（文件/数据存储/MQ）收集的不同格式数据，经过过滤后支持输出到不同目的地(文件/MQ/redis/elasticsearch/kafka等 )。Kibana可以将elasticsearch的数据通过友好的页面展示出来，提供实时分析的功能。
市面上很多开发只要提到ELK能够一致说出它是一个日志分析架构技术栈总称，但实际上ELK不仅仅适用于日志分析，它还可以支持其它任何数据分析和收集的场景，日志分析和收集只是更具有代表性。并非唯一性。
安装Kibana
Kibana是一个针对Elasticsearch的开源分析及可视化平台，用来搜索、查看交互存储在Elasticsearch索引中的数据。使用Kibana ,可以通过各种图表进行高级数据分析及展示。Kibana让海量数据更容易理解。它操作简单，基于浏览器的用户界面可以快速创建仪表板( dashboard ) 实时显示Elasticsearch查询动态。设置Kibana非常简单。无需编码或者额外的基础架构，几分钟内就可以完成Kibana安装并启动Elasticsearch索引监测。
官网https://www.elastic.co/cn/downloads/kibana
Kibana 版本要和 Es一致，端口5601
好处:ELK都是基本上拆箱即用。
Version:
7.15.0
Release date:
September 23, 2021
Downloads:
我们之后的所有的操作都在这里编写：http://localhost:5601/app/dev_tools#/console
这个项目做了国际化，所以在Kibana.yml中改为 i18n.locale: "zh-CN"就可以了。
ES核心概念
- 索引
- 字段类型(mapping)
- 文档(documents)
ElasticSearch是面向文档,关系行数据库和elasticsearch客观的对比 一切都是JSON
| Relational DB | ElasticSearch |
|---|---|
| DataBase | indicate |
| tables | type，慢慢在弃用 |
| rows | documents |
| columns | fields |
ElasticSearch(集群)中可以包含多个索引(数据库)，每个索引中可以包含多个类型(表)，每个类型下又包含多个文档行)，每个文档中又包含多个字段(列)。
物理设计:
ElasticSearch在后台把每个索引划分成多个分片，每分分片可以在集群中的不同服务器间迁移
一个人就是一个集群,默认的集群名称就是ElasticSearch。
逻辑设计∶
一个索引类型中，包含多个文档，比如说文档1，文档2。当我们索引一篇文档时，可以通过这样的一各顺序找到它：索引》类型文档ID，通过这个组合我们就能索引到某个具体的文档。注意:ID不必是整数，实际上它是个字符串。
文档
之前说ElasticSearch是面向文档的，那么就意味着索引和搜索数据的最小单位是文档，ElasticSearch中，文档有几个重要属性︰
- 自我包含，一篇文档同时包含字段和对应的值，也就是同时包含key:value !
- 可以是层次型的，一个文档中包含自文档，复杂的逻辑实体就是这么来的!
- 灵活的结构，文档不依赖预先定义的模式，我们知道关系型数据库中，要提前定义字段才能使用，在ElasticSearch中，对于字段是非常灵活的，有时候，我们可以忽略该字段，或者动态的添加一个新的字段。
尽管我们可以随意的新增或者忽略某个字段，但是，每个字段的类型非常重要，比如一个年龄字段类型，可以是字符串也可以是整形。因为ElasticSearch会保存字段和类型之间的映射及其他的设置。这种映射具体到每个映射的每种类型，这也是为什么在ElasticSearch中，类型有时候也称为映射类型。
类型
类型是文档的逻辑容器，就像关系型数据库一样，表格是行的容器。类型中对于字段的定义称为映射，比如name映射为字符串类型。我们说文档是无模式的，它们不需要拥有映射中所定义的所有字段，比如新增一个字段，那么elasticsearch是怎么做的呢?elasticsearch会自动的将新字段加入映射，但是这个字段的不确定它是什么类型，elasticsearch就开始猜，如果这个值是18，那么elasticsearch会认为它是整形。但是elasticsearch也可能猜不对，所以最安全的方式就是提前定义好所需要的映射，这点跟关系型数据库殊途同归了，先定义好字段，然后再使用。
索引
就是数据库
索引是映射类型的容器， ElasticSearch中的索引是一个非常大的文档集合。索引存储了映射类型的字段和其他设置。然后它们被存储到了各个分片上了。
物理设计︰节点和分片如何工作
一个集群至少有一个节点，而一个节点就是一个ElasticSearch进程，节点可以有多个索引默认的，如果你创建索引，那么索引将会有个5个分片( primary shard ，又称主分片)构成的，每一个主分片会有一个副本( replica shard ，又称复制分片) 。
上图是一个有3个节点的集群，可以看到主分片和对应的复制分片都不会在同一个节点内，这样有利于某个节点挂掉了，数据也不至于丢失。实际上，一个分片是一个Lucene索引，一个包含倒排索引的文件目录，倒排索引的结构使得 ElasticSearch 在不扫描全部文档的情况下，就能告诉你哪些文档包含特定的关键字。
倒排索引
ElasticSearch 使用的是一种称为倒排索引的结构，采用Lucene倒排索作为底层。这种结构适用于快速的全文搜索，一个索引文档中所有不重复的列表构成，对于每一个词，都有一个包含它的文档列表。
例如，现在有两个文档，每个文档包含如下内容∶
Study every day,good good up to forever # 文档1包含的内容
To forever, study every day, good good up # 文档2包含的内容
为了创建倒排索引，我们首先要将每个文档拆分成独立的词(或称为词条或者tokens)，然后创建一个包含所有不重复的词条的排序列表，然后列出每个词条出现在哪个文档：
现在，我们试图搜索to forever，只需要查看包含每个词条的文档
两个文档都匹配，但是第一个文档比第二个匹配程度更高。如果没有别的条件，现在，这两个包含关键字的文档都将返回。
ElasticSearch 的索引和Lucene的索引对比
在ElasticSearch 中，索引（库)这个词被频繁使用，这就是术语的使用。在ElasticSearch 中，索引被分为多个分片，每份分片是一个Lucene的索引。所以一个ElasticSearch 索引是由多个Lucene索引组成的。别问为什么，谁让elasticElasticSearch search使用Lucene作为底层呢！如无特指，说起索引都是指ElasticSearch 的索引。
接下来的一切操作都在kibana中Dev Tools下的Console里完成。
IK分词器插件
如果要使用中文,建议使用ik分词器
IK提供了两个分词算法: ik smart和ik_max_word，其中ik_smart为最少切分， ik_max_word为最细粒度划分!
- 下载：https://github.com/medcl/elasticsearch-analysis-ik/releases
- 下载完毕后,放入我们的ElasticSearch插件中即可
- 重启观察ES
- elasticsearch-plugin list可以通过这个命令来查看加载进来的插件
- 使用Kibana测试
查看不同的分词效果
ik_smart为最少切分
GET _analyze
{
"analyzer": "ik_smart",
"text": "中国我爱你"
}
{
"tokens" : [
{
"token" : "中国",
"start_offset" : 0,
"end_offset" : 2,
"type" : "CN_WORD",
"position" : 0
},
{
"token" : "我爱你",
"start_offset" : 2,
"end_offset" : 5,
"type" : "CN_WORD",
"position" : 1
}
]
}
ik_max_word为最细粒度划分，穷尽词库的可能
GET _analyze
{
"analyzer": "ik_max_word",
"text": "中国我爱你"
}
{
"tokens" : [
{
"token" : "中国",
"start_offset" : 0,
"end_offset" : 2,
"type" : "CN_WORD",
"position" : 0
},
{
"token" : "我爱你",
"start_offset" : 2,
"end_offset" : 5,
"type" : "CN_WORD",
"position" : 1
},
{
"token" : "爱你",
"start_offset" : 3,
"end_offset" : 5,
"type" : "CN_WORD",
"position" : 2
}
]
}
ik分词器增加自己的配置
GET _analyze
{
"analyzer": "ik_smart",
"text": "我爱你贝贝子"
}
{
"tokens" : [
{
"token" : "我爱你",
"start_offset" : 0,
"end_offset" : 3,
"type" : "CN_WORD",
"position" : 0
},
{
"token" : "贝",
"start_offset" : 3,
"end_offset" : 4,
"type" : "CN_CHAR",
"position" : 1
},
{
"token" : "贝子",
"start_offset" : 4,
"end_offset" : 6,
"type" : "CN_WORD",
"position" : 2
}
]
}
但是贝贝子是一个名字，所以我要把她加入到字典中。
{
"tokens" : [
{
"token" : "我爱你",
"start_offset" : 0,
"end_offset" : 3,
"type" : "CN_WORD",
"position" : 0
},
{
"token" : "贝贝子",
"start_offset" : 3,
"end_offset" : 6,
"type" : "CN_WORD",
"position" : 1
}
]
}
Rest风格说明
一种软件架构风格，而不是标准，只是提供了一组设计原则和约束条件。它主要是用于客户端和服务器交互类的软件。基于这个风格设计的软件可以更简洁，更有层次，更易于实现缓存等机制。
基本Rest命令说明：
关于索引的基本操作
PUT /索引名/~索引名(未来可能取消不写)~/文档id
{请求体}
PUT /test1/type1/1
{
"name": "lijiatu",
"age": 12
}
{
"_index" : "test1",
"_type" : "type1",
"_id" : "1",
"_version" : 1,
"result" : "created",
"_shards" : {
"total" : 2,
"successful" : 1,
"failed" : 0
},
"_seq_no" : 0,
"_primary_term" : 1
}
数据就成功添加了
数据类型
-
字符串类型
text, keyword
-
数值类型
long, integer, short, byte, double, float, half float, scaled fload
-
日期类型
date
-
布尔值类型
boolean
-
二进制类型
binart
-
等等…
指定字段的类型
PUT /test2
{
"mappings": {
"properties": {
"name": {
"type": "text"
},
"age": {
"type": "long"
},
"birthday": {
"type": "date"
}
}
}
}
{
"acknowledged" : true,
"shards_acknowledged" : true,
"index" : "test2"
}
获得这个规则信息, 可以通过GET请求获取具体的信息
GET test2
{
"test2" : {
"aliases" : { },
"mappings" : {
"properties" : {
"age" : {
"type" : "long"
},
"birthday" : {
"type" : "date"
},
"name" : {
"type" : "text"
}
}
},
"settings" : {
"index" : {
"routing" : {
"allocation" : {
"include" : {
"_tier_preference" : "data_content"
}
}
},
"number_of_shards" : "1",
"provided_name" : "test2",
"creation_date" : "1633697875995",
"number_of_replicas" : "1",
"uuid" : "SxOsgsKGR0CYM9Lejh4FWg",
"version" : {
"created" : "7150099"
}
}
}
}
}
============================================================
PUT test3/_doc/1
{
"name": "lijiatu"，
"age": 12
}
{
"_index" : "test3",
"_type" : "_doc",
"_id" : "1",
"_version" : 1,
"result" : "created",
"_shards" : {
"total" : 2,
"successful" : 1,
"failed" : 0
},
"_seq_no" : 0,
"_primary_term" : 1
}
==========================================================
GET test3
{
"test3" : {
"aliases" : { },
"mappings" : {
"properties" : {
"age" : {
"type" : "long"
},
"name" : {
"type" : "text",
"fields" : {
"keyword" : {
"type" : "keyword",
"ignore_above" : 256
}
}
}
}
},
"settings" : {
"index" : {
"routing" : {
"allocation" : {
"include" : {
"_tier_preference" : "data_content"
}
}
},
"number_of_shards" : "1",
"provided_name" : "test3",
"creation_date" : "1633698204680",
"number_of_replicas" : "1",
"uuid" : "ElIym67sQySiOW1AKCyJ9Q",
"version" : {
"created" : "7150099"
}
}
}
}
}
如果自己的文档字段没有指定，那么es就会给我们默认配置字段类型！
通过get _cat/ 可以获得当前的很多信息。
修改 提交还是使用PUT即可,然后覆盖值,或用新办法。
PUT test3/_doc/1
{
"name": "lijiatubeibeizi",
"age": 12
}
{
"_index" : "test3",
"_type" : "_doc",
"_id" : "1",
"_version" : 2,版本号增加了
"result" : "updated",修改
"_shards" : {
"total" : 2,
"successful" : 1,
"failed" : 0
},
"_seq_no" : 1,
"_primary_term" : 1
}
或者使用post来更新
POST test3/_doc/1
{
"doc": {
"name": "beibeizi"
}
}
{
"_index" : "test3",
"_type" : "_doc",
"_id" : "1",
"_version" : 3,版本号增加了
"result" : "updated",修改
"_shards" : {
"total" : 2,
"successful" : 1,
"failed" : 0
},
"_seq_no" : 3,
"_primary_term" : 1
}
删除索引
通过DELETE命令实现删除, 根据你的请求来判断是删除索引还是删除文档记录
DELETE test1
{
"acknowledged" : true
}
使用RESTFUL风格是我们ES推荐大家使用的。
关于文档的基本操作（重点）
添加数据
PUT lijiatu/test/1
{
"name": "lijiatu",
"age": 21,
"desc": "愿你拥有大风与烈酒,也能享受孤独与*",
"tags": ["二次元","宅男","码农"]
}
PUT lijiatu/test/2
{
"name": "beibeizi",
"age": 21,
"desc": "愿你拥有大风与烈酒,也能享受孤独与*",
"tags": ["二次元","女","码农"]
}
获取数据
GET lijiatu/test/1
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "1",
"_version" : 1,
"_seq_no" : 0,
"_primary_term" : 1,
"found" : true,
"_source" : {
"name" : "lijiatu",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"宅男",
"码农"
]
}
}
更新数据
PUT lijiatu/test/3
{
"name": "beibeizi333",
"age": 21,
"desc": "愿你拥有大风与烈酒,也能享受孤独与*",
"tags": ["二次元","女","码农"]
}
POST _update，推荐使用这种修改方式
复杂操作-搜索
GET lijiatu/test/1
也可以带条件查询
GET lijiatu/test/_search?q=name:lijiatu
{
"took" : 57,
"timed_out" : false,
"_shards" : {
"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0
},
"hits" : {
"total" : {
"value" : 1,
"relation" : "eq"
},
"max_score" : 1.2039728,
"hits" : [
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "1",
"_score" : 1.2039728,
"_source" : {
"name" : "lijiatu",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"宅男",
"码农"
]
}
}
]
}
}
简单的条件查询，可以根据默认的映射规则，产生基本的查询。
**复杂查询 (排序,分页,高亮,模糊查询,精准查询等) **
GET lijiatu/test/_search
{
"query": {
"match": {
"name": "李嘉图"
}
}
}
{
"took" : 583,
"timed_out" : false,
"_shards" : {
"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0
},
"hits" : {
"total" : {
"value" : 3,
"relation" : "eq"
},
"max_score" : 0.43278474,
"hits" : [
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "1",
"_score" : 0.43278474,
"_source" : {
"name" : "李嘉图",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"女",
"码农"
]
}
},
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "2",
"_score" : 0.38623023,
"_source" : {
"name" : "李嘉图2",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"女",
"码农"
]
}
},
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "3",
"_score" : 0.38623023,
"_source" : {
"name" : "李嘉图3",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"女",
"码农"
]
}
}
]
}
}
hit :
索引和文档的信息
查询的结果总数
然后就是查询出来的具体的文档
数据中的东西都可以遍历出来了
分数：我们可以通过来判断谁更加更加符合结果
结果过滤
GET lijiatu/test/_search
{
"query": {
"match": {
"name": "李嘉图"
}
},
"_source": ["name","age"]
}
{
"took" : 0,
"timed_out" : false,
"_shards" : {
"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0
},
"hits" : {
"total" : {
"value" : 3,
"relation" : "eq"
},
"max_score" : 0.43278474,
"hits" : [
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "1",
"_score" : 0.43278474,
"_source" : {
"name" : "李嘉图",
"age" : 21
}
},
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "2",
"_score" : 0.38623023,
"_source" : {
"name" : "李嘉图2",
"age" : 21
}
},
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "3",
"_score" : 0.38623023,
"_source" : {
"name" : "李嘉图3",
"age" : 21
}
}
]
}
}
排序
GET lijiatu/test/_search
{
"query": {
"match": {
"name": "李嘉图"
}
},
"sort": [
{
"age": {
"order": "desc"
}
}
]
}
{
"took" : 5,
"timed_out" : false,
"_shards" : {
"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0
},
"hits" : {
"total" : {
"value" : 3,
"relation" : "eq"
},
"max_score" : null,
"hits" : [
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "1",
"_score" : null,
"_source" : {
"name" : "李嘉图",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"女",
"码农"
]
},
"sort" : [
21
]
},
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "2",
"_score" : null,
"_source" : {
"name" : "李嘉图2",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"女",
"码农"
]
},
"sort" : [
21
]
},
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "3",
"_score" : null,
"_source" : {
"name" : "李嘉图3",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"女",
"码农"
]
},
"sort" : [
21
]
}
]
}
}
分页查询
GET lijiatu/test/_search
{
"query": {
"match": {
"name": "李嘉图"
}
},
"sort": [
{
"age": {
"order": "desc"
}
}
],
"from": 0,
"size": 2
}
{
"took" : 0,
"timed_out" : false,
"_shards" : {
"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0
},
"hits" : {
"total" : {
"value" : 3,
"relation" : "eq"
},
"max_score" : null,
"hits" : [
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "1",
"_score" : null,
"_source" : {
"name" : "李嘉图",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"女",
"码农"
]
},
"sort" : [
21
]
},
{
"_index" : "lijiatu",
"_type" : "test",
"_id" : "2",
"_score" : null,
"_source" : {
"name" : "李嘉图2",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与*",
"tags" : [
"二次元",
"女",
"码农"
]
},
"sort" : [
21
]
}
]
}
}
数据下标还是从0开始
布尔值查询
must (and) 所有的条件都要符合 相当于 where id = 1 and name = xxx
GET lijiatu/test/_search
{
"query": {
"bool": {
"must": [
{
"match": {
"name": "李"
}
},
{
"match": {
"age": 21
}
}
]
}
}
}
should (or) 所有的条件符合其一 相当于 where id = 1 or name = xxx
GET lijiatu/test/_search
{
"query": {
"bool": {
"should": [
{
"match": {
"name": "李"
}
},
{
"match": {
"age": 21
}
}
]
}
}
}
must_not (not) 反向查询
GET lijiatu/test/_search
{
"query": {
"bool": {
"must_not": [
{
"match": {
"age": 21
}
}
]
}
}
}
过滤器 filter
"filter": [
{}
]
gt 大于
gte 大于等于
lt 小于
lte 小于等于
匹配多个条件
GET lijiatu/test/_search
{
"query": {
"match": {
"tags": "男 码农"
}
}
}
多个条件使用空格隔开
只要满足其中一个结果既可以被查出
这个时候可以通过分值基本的判断
精确查询
term 查询是直接通过倒排索引指定的词条进程精确的查找的
关于分词:
- term，直接查询精确的
- match， 会使用分词器解析 (先分析文档,然后通过分析的文档进行查询)
两个类型 text keyword
GET _analyze
{
"analyzer": "keyword",
"text": ["李嘉图"]
}
没有被拆分
{
"tokens" : [
{
"token" : "李嘉图",
"start_offset" : 0,
"end_offset" : 3,
"type" : "word",
"position" : 0
}
]
}
GET _analyze
{
"analyzer": "standard",
"text": "李嘉图"
}
拆分了
{
"tokens" : [
{
"token" : "李",
"start_offset" : 0,
"end_offset" : 1,
"type" : "<IDEOGRAPHIC>",
"position" : 0
},
{
"token" : "嘉",
"start_offset" : 1,
"end_offset" : 2,
"type" : "<IDEOGRAPHIC>",
"position" : 1
},
{
"token" : "图",
"start_offset" : 2,
"end_offset" : 3,
"type" : "<IDEOGRAPHIC>",
"position" : 2
}
]
}
多个值匹配的精确查询
bool should term
高亮查询
GET lijiatu/test/_search
{
"query": {
"match": {
"name": "李嘉图"
}
},
"highlight": {
"pre_tags": "<p class='key' style='color:red'>",
"post_tags": "</p>",
"fields": {
"name": {}
}
}
}
集成SpringBoot
项目地址：https://gitee.com/zwtgit/elastic-search-jing-dong-and-apistudy
找到原生的依赖
<repositories>
<repository>
<id>es-snapshots</id>
<name>elasticsearch snapshot repo</name>
<url>https://snapshots.elastic.co/maven/</url>
</repository>
</repositories>
然后就是要注意导入SpringBoot项目后ES的版本不一致的问题。
例如我导入后：
所以要相应的修改一下
快速开始，使用 源码中提供的对象
package com.zwt.esapi.config;
import org.apache.http.HttpHost;
import org.elasticsearch.client.RestClient;
import org.elasticsearch.client.RestHighLevelClient;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
//Spring俩个步骤 1.找对象 2.放到Spring中
@Configuration
public class ESConfig {
@Bean
public RestHighLevelClient restHighLevelClient(){
RestHighLevelClient client = new RestHighLevelClient(
RestClient.builder(
new HttpHost("127.0.0.1",9200,"http")
)
);
return client;
}
}
具体的API测试
- 创建索引
- 判断索引是否存在
- 删除索引
- 创建文档
- CRUD文档
关于索引的API操作
@Autowired
@Qualifier("restHighLevelClient") //不加也行 但定义的名字要是这个名字
private RestHighLevelClient client;
//测试索引的创建 Request PUT lijiatu_index
@Test
void testCreateIndex() throws IOException {
//1. 创建索引请求
CreateIndexRequest request = new CreateIndexRequest("lijiatu_index");
//2. 客户端执行请求
CreateIndexResponse createIndexRequest = client.indices().create(request, RequestOptions.DEFAULT);
System.out.println(createIndexRequest);
}
//测试获取索引,判断其是否存在
@Test
void testExistIndex() throws IOException {
GetIndexRequest request = new GetIndexRequest("lijiatu_index");
boolean exists = client.indices().exists(request, RequestOptions.DEFAULT);
System.out.println(exists);
}
//测试删除索引
@Test
void testDeleteIndex() throws IOException {
DeleteIndexRequest request = new DeleteIndexRequest("lijiatu_index");
//删除
AcknowledgedResponse delete = client.indices().delete(request, RequestOptions.DEFAULT);
System.out.println(delete.isAcknowledged());
}
关于文档的API操作
//测试添加文档
@Test
void testAddDocument() throws IOException {
//创建对象
User user = new User("李嘉图", 12);
//创建请求
IndexRequest request = new IndexRequest("ahui_index");
//规则 put lijiatu_index/_doc/1
request.id("1");
request.timeout(TimeValue.timeValueSeconds(1));
request.timeout("1s");
//将我们的数据放入请求 json (使用fastjson进行转换)
IndexRequest source = request.source(JSON.toJSONString(user), XContentType.JSON);
//客户端发送请求, 获取响应的结果
IndexResponse indexResponse = client.index(request, RequestOptions.DEFAULT);
//返回具体的json信息
System.out.println(indexResponse.toString());
//对应我们命令返回的状态 CREATED
System.out.println(indexResponse.status());
}
//获取文档
@Test
void testIsExistes() throws IOException {
GetRequest getRequest = new GetRequest("lijiatu_index", "1");
//不获取返回的_source 的上下文了
getRequest.fetchSourceContext(new FetchSourceContext(false));
getRequest.storedFields("_none_");
boolean exists = client.exists(getRequest, RequestOptions.DEFAULT);
System.out.println(exists);
}
//获取文档的信息
@Test
void testGetDocument() throws IOException {
GetRequest getRequest = new GetRequest("lijiatu_index", "1");
GetResponse getResponse = client.get(getRequest, RequestOptions.DEFAULT);
//打印文档的内容
System.out.println(getResponse.getSourceAsString());
//返回的全部内容和命令是一样的
System.out.println(getResponse);
}
//获取文档的信息
@Test
void testUpdateRequest() throws IOException {
UpdateRequest updateRequest = new UpdateRequest("lijiatu_index", "1");
updateRequest.timeout("1s");
User user = new User("李嘉图学Java", 22);
updateRequest.doc(JSON.toJSONString(user), XContentType.JSON);
UpdateResponse updateResponse = client.update(updateRequest, RequestOptions.DEFAULT);
System.out.println(updateResponse.status());
}
//删除文档记录
@Test
void testDeleteRequest() throws IOException {
DeleteRequest deleteRequest = new DeleteRequest("lijiatu_index", "1");
deleteRequest.timeout("1s");
DeleteResponse delete = client.delete(deleteRequest, RequestOptions.DEFAULT);
System.out.println(delete.status());
}
//特殊的，实际项目中一般都会批量插入数据
@Test
void testBulkRequest() throws IOException {
BulkRequest bulkRequest = new BulkRequest();
bulkRequest.timeout("10s");
ArrayList<User> userList = new ArrayList<>();
userList.add(new User("lijiatu1", 18));
userList.add(new User("lijiatu1", 18));
userList.add(new User("lijiatu1", 18));
userList.add(new User("lijiatu1", 18));
userList.add(new User("lijiatu1", 18));
userList.add(new User("lijiatu1", 18));
//批量处理请求
for (int i = 0; i < userList.size(); i++) {
//批量更新和批量修改等, 就在这里修改对应的请求就可以了
bulkRequest.add(new IndexRequest("ahui_index")
.id("" + (i + 1)) //不加id的话会默认生成随机id
.source(JSON.toJSONString(userList.get(i)), XContentType.JSON));
}
BulkResponse bulkResponse = client.bulk(bulkRequest, RequestOptions.DEFAULT);
//是够失败, 返回false代表成功
System.out.println(bulkResponse.hasFailures());
}
//查询
//SearchRequest 搜索请求
//SearchSourceBuilder 条件构造
//HighLightBuilder 构建高亮
//xxx QueryBuilder 对应我们刚才看到的所有命令
@Test
void testSearch() throws IOException {
SearchRequest searchRequest = new SearchRequest("lijiatu_index");
//构建搜索条件
SearchSourceBuilder sourceBuilder = new SearchSourceBuilder();
//查询条件,我们可以使用QueryBuilders 工具类来实现
//QueryBuilders.termQuery 精确匹配
//QueryBuilders.matchAllQuery 匹配所有
TermQueryBuilder termQueryBuilder = QueryBuilders.termQuery("name", "lijiatu");
// MatchAllQueryBuilder matchAllQueryBuilder = QueryBuilders.matchAllQuery();
sourceBuilder.query(termQueryBuilder);
sourceBuilder.timeout(new TimeValue(60, TimeUnit.SECONDS));
searchRequest.source(sourceBuilder);
SearchResponse searchResponse = client.search(searchRequest, RequestOptions.DEFAULT);
System.out.println(JSON.toJSONString(searchResponse.getHits()));
System.out.println("==========================================");
for (SearchHit documentFileds : searchResponse.getHits().getHits()) {
System.out.println(documentFileds.getSourceAsMap());
}
}
源码
@Import({ RestClientConfigurations.RestClientBuilderConfiguration.class,
RestClientConfigurations.RestHighLevelClientConfiguration.class,
RestClientConfigurations.RestClientFallbackConfiguration.class })
/*
* Copyright 2012-2019 the original author or authors.
*
* Licensed under the Apache License, Version 2.0 (the "License");
* you may not use this file except in compliance with the License.
* You may obtain a copy of the License at
*
* https://www.apache.org/licenses/LICENSE-2.0
*
* Unless required by applicable law or agreed to in writing, software
* distributed under the License is distributed on an "AS IS" BASIS,
* WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
* See the License for the specific language governing permissions and
* limitations under the License.
*/
package org.springframework.boot.autoconfigure.elasticsearch.rest;
import java.time.Duration;
import org.apache.http.HttpHost;
import org.apache.http.auth.AuthScope;
import org.apache.http.auth.Credentials;
import org.apache.http.auth.UsernamePasswordCredentials;
import org.apache.http.client.CredentialsProvider;
import org.apache.http.impl.client.BasicCredentialsProvider;
import org.elasticsearch.client.RestClient;
import org.elasticsearch.client.RestClientBuilder;
import org.elasticsearch.client.RestHighLevelClient;
import org.springframework.beans.factory.ObjectProvider;
import org.springframework.boot.autoconfigure.condition.ConditionalOnClass;
import org.springframework.boot.autoconfigure.condition.ConditionalOnMissingBean;
import org.springframework.boot.context.properties.PropertyMapper;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
/**
* Elasticsearch rest client infrastructure configurations.
*
* @author Brian Clozel
* @author Stephane Nicoll
*/
class RestClientConfigurations {
@Configuration(proxyBeanMethods = false)
static class RestClientBuilderConfiguration {
@Bean
@ConditionalOnMissingBean
RestClientBuilder elasticsearchRestClientBuilder(RestClientProperties properties,
ObjectProvider<RestClientBuilderCustomizer> builderCustomizers) {
HttpHost[] hosts = properties.getUris().stream().map(HttpHost::create).toArray(HttpHost[]::new);
RestClientBuilder builder = RestClient.builder(hosts);
PropertyMapper map = PropertyMapper.get();
map.from(properties::getUsername).whenHasText().to((username) -> {
CredentialsProvider credentialsProvider = new BasicCredentialsProvider();
Credentials credentials = new UsernamePasswordCredentials(properties.getUsername(),
properties.getPassword());
credentialsProvider.setCredentials(AuthScope.ANY, credentials);
builder.setHttpClientConfigCallback(
(httpClientBuilder) -> httpClientBuilder.setDefaultCredentialsProvider(credentialsProvider));
});
builder.setRequestConfigCallback((requestConfigBuilder) -> {
map.from(properties::getConnectionTimeout).whenNonNull().asInt(Duration::toMillis)
.to(requestConfigBuilder::setConnectTimeout);
map.from(properties::getReadTimeout).whenNonNull().asInt(Duration::toMillis)
.to(requestConfigBuilder::setSocketTimeout);
return requestConfigBuilder;
});
builderCustomizers.orderedStream().forEach((customizer) -> customizer.customize(builder));
return builder;
}
}
@Configuration(proxyBeanMethods = false)
@ConditionalOnClass(RestHighLevelClient.class)
static class RestHighLevelClientConfiguration {
@Bean
@ConditionalOnMissingBean
RestHighLevelClient elasticsearchRestHighLevelClient(RestClientBuilder restClientBuilder) {
return new RestHighLevelClient(restClientBuilder);
}
@Bean
@ConditionalOnMissingBean
RestClient elasticsearchRestClient(RestClientBuilder builder,
ObjectProvider<RestHighLevelClient> restHighLevelClient) {
RestHighLevelClient client = restHighLevelClient.getIfUnique();
if (client != null) {
return client.getLowLevelClient();
}
return builder.build();
}
}
@Configuration(proxyBeanMethods = false)
static class RestClientFallbackConfiguration {
@Bean
@ConditionalOnMissingBean
RestClient elasticsearchRestClient(RestClientBuilder builder) {
return builder.build();
}
}
}
京东搜索实战
项目地址：https://gitee.com/zwtgit/elastic-search-jing-dong-and-apistudy
项目导入静态资源后：
数据爬取京东的首页，可以看之前的爬虫小项目爬取数据
爬虫项目地址：https://www.cnblogs.com/zwtblog/p/15216808.html
具体的业务编写
package com.zwt.service;
import com.alibaba.fastjson.JSON;
import com.zwt.pojo.Content;
import com.zwt.utils.HtmlParseUtil;
import org.elasticsearch.action.bulk.BulkRequest;
import org.elasticsearch.action.bulk.BulkResponse;
import org.elasticsearch.action.index.IndexRequest;
import org.elasticsearch.action.search.SearchRequest;
import org.elasticsearch.action.search.SearchResponse;
import org.elasticsearch.client.RequestOptions;
import org.elasticsearch.client.RestHighLevelClient;
import org.elasticsearch.common.xcontent.XContentType;
import org.elasticsearch.core.TimeValue;
import org.elasticsearch.index.query.QueryBuilders;
import org.elasticsearch.index.query.TermQueryBuilder;
import org.elasticsearch.search.SearchHit;
import org.elasticsearch.search.builder.SearchSourceBuilder;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import java.io.IOException;
import java.util.ArrayList;
import java.util.List;
import java.util.Map;
import java.util.concurrent.TimeUnit;
@Service
public class ContentService {
@Autowired
private RestHighLevelClient restHighLevelClient;
//1.解析数据 放入 ES 索引中
public Boolean parseContent(String ketwords) throws IOException {
List<Content> contents = new HtmlParseUtil().parseJD(ketwords);
//把查询出来的数据放入 ES中
BulkRequest bulkRequest = new BulkRequest();
bulkRequest.timeout("2m");
for (int i = 0; i < contents.size(); i++) {
bulkRequest.add(
new IndexRequest("jd_goods")
.source(JSON.toJSONString(contents.get(i)), XContentType.JSON)
);
}
BulkResponse bulk = restHighLevelClient.bulk(bulkRequest, RequestOptions.DEFAULT);
return !bulk.hasFailures();
}
//2.获取这些数据 实现搜索功能
public List<Map<String, Object>> searchPage(String keyword, int pageNo, int pageSize) throws IOException {
if (pageNo <= 1) {
pageNo = 1;
}
//条件搜索
SearchRequest searchRequest = new SearchRequest("jd_goods");
SearchSourceBuilder searcheBuilder = new SearchSourceBuilder();
//分页
searcheBuilder.from(pageNo);
searcheBuilder.size(pageSize);
//精准匹配
TermQueryBuilder termQueryBuilder = QueryBuilders.termQuery("title", keyword);
searcheBuilder.query(termQueryBuilder);
searcheBuilder.timeout(new TimeValue(60, TimeUnit.SECONDS));
//执行搜索
searchRequest.source(searcheBuilder);
SearchResponse searchResponse = restHighLevelClient.search(searchRequest, RequestOptions.DEFAULT);
//解析结果
ArrayList<Map<String, Object>> list = new ArrayList<>();
for (SearchHit documentFields : searchResponse.getHits().getHits()) {
list.add(documentFields.getSourceAsMap());
}
return list;
}
}
package com.zwt.controller;
import com.zwt.service.ContentService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RestController;
import java.io.IOException;
import java.util.List;
import java.util.Map;
//请求编写
@RestController
public class ContentController {
@Autowired
private ContentService contentService;
@GetMapping("/parse/{keyword}")
public Boolean parse(@PathVariable("keyword") String keyword) throws Exception {
return contentService.parseContent(keyword);
}
@GetMapping("/search/{keyword}/{pageNo}/{pageSize}")
public List<Map<String, Object>> search(@PathVariable("keyword") String keyword,
@PathVariable("pageNo") int pageNo,
@PathVariable("pageSize") int pageSize) throws IOException {
return contentService.searchPage(keyword, pageNo, pageSize);
}
}
业务基本编写完成，准备进行前后端交换
最后实现“高亮”
效果图