Elasticsearch7.X 入门学习第七课笔记-----Mapping多字段与自定义Analyzer

2024-02-29 22:45:16

原文:Elasticsearch7.X 入门学习第七课笔记-----Mapping多字段与自定义Analyzer

多字段类型

所谓多字段类型，即：一个字段可以有多个子字段。这种特性带来了以下好处。

增加一个keyword子字段，可用于精确匹配
可对子字段设置不同的analyzer
1. 不通语言的支持
2. 可对中文拼音字段进行搜索
3. 可对搜索和索引指定不同的Analyzer

精确值和全文本

精确值（Exact Values） vs 全文本（Full Text）

精确值，包括数字、日期、具体的字符串（如“192.168.0.1”）
- Elasticsearch中类型为keyword，索引时，不需要做特殊的分词处理
全文本，非结构化的文本数据
- Elasticsearch中类型为text，索引时，需要对其进行分词处理

如下结构的数据，我们可以大致判断出哪些是精确值，哪些是全文本。其中的200、info、debug都是精确值。而message的内容为全文本。


{
    "code": 200,
    "message": "this is a error item, you can change your apollo config !",
    "content": {
        "tags": [
            "info",
            "debug"
        ]
    }
}

自定义分词器

自定义分词器，可通过组合不同的Character Filter、Tokenizer和Token Filter来实现。

一个 分析器 就是在一个包里面组合了三种函数的一个包装器，三种函数按照顺序被执行:

`Character Filter（`字符过滤器`）`

字符过滤器用来 整理 一个尚未被分词的字符串。例如，如果我们的文本是HTML格式的，它会包含像 <p> 或者 <div> 这样的HTML标签，这些标签是我们不想索引的。我们可以使用 html清除 字符过滤器来移除掉所有的HTML标签，并且像把 Á 转换为相对应的Unicode字符 Á 这样，转换HTML实体。

一个分析器可能有0个或者多个字符过滤器。

Character Filter，常用的字符过滤器包括：

类型	作用
html_strip	去除html
mapping	字符串替换
pattern replace	正则匹配替换

`Tokenizer（`分词器`）`

一个分析器必须有一个唯一的分词器。分词器把字符串分解成单个词条或者词汇单元。 标准 分析器里使用的 标准 分词器把一个字符串根据单词边界分解成单个词条，并且移除掉大部分的标点符号，然而还有其他不同行为的分词器存在。

例如， 关键词 分词器完整地输出接收到的同样的字符串，并不做任何分词。 空格 分词器只根据空格分割文本。 正则 分词器根据匹配正则表达式来分割文本。

常用的分词器包括：

whitespace
standard
uax_url_email
pattern
keyword
path_hierarchy

`Token Filter` （词单元过滤器）

经过分词，作为结果的 词单元流 会按照指定的顺序通过指定的词单元过滤器。

词单元过滤器可以修改、添加或者移除词单元。 lowercase 和 stop 词过滤器，但是在 Elasticsearch 里面还有很多可供选择的词单元过滤器。词干过滤器把单词 遏制 为词干。 ascii_folding 过滤器移除变音符，把一个像 "très" 这样的词转换为 "tres" 。 ngram 和 edge_ngram 词单元过滤器可以产生适合用于部分匹配或者自动补全的词单元。

类型	作用
lowercase	转换为小写
stop	去掉the、a、an等单词
synonym	转换为近义词

`学习实例`

1 使用 Character Filter（字符过滤器）中的mapping


## 使用 char_filter 的mapping替换 字符
POST _analyze
{
  "tokenizer": "standard",
  "char_filter": [
     { "type":"mapping",
         "mappings":[" - => _"]
      }
    ],
     "text": "123-456, I-test! test-990 650-555-1234"
}
#char filter 替换表情符号
POST _analyze
{
  "tokenizer": "standard",
  "char_filter": [
      {
        "type" : "mapping",
        "mappings" : [ ":) => happy", ":( => sad"]
      }
    ],
    "text": ["I am felling :)", "Feeling :( today"]
}

2 使用Character Filter（字符过滤器）中的html_strip 去除 html标签


POST _analyze
{
  "tokenizer":"keyword",
  "char_filter":["html_strip"],
  "text": "<b>hello world</b>"
}

3 使用 Token Filter （词单元过滤器）


# white space and snowball
GET _analyze
{
  "tokenizer": "whitespace",
  "filter": ["stop","snowball"],
  "text": ["The gilrs in China are playing this game!"]
}
 
# white space and stop
POST _analyze
{
  "tokenizer": "whitespace",
  "filter": ["stop"],
  "text": ["The rain in Spain falls mainly on the plain."]
}
 
#remove 加入lowercase后，The被当成 stopword删除
GET _analyze
{
  "tokenizer": "whitespace",
  "filter": ["lowercase","stop","snowball"],
  "text": ["The gilrs in China are playing this game!"]
}
 
#正则表达式
GET _analyze
{
  "tokenizer": "standard",
  "char_filter": [
      {
        "type" : "pattern_replace",
        "pattern" : "http://(.*)",
        "replacement" : "$1"
      }
    ],
    "text" : "http://www.elastic.co"
}

自定义分析器标准格式是：


PUT /my_index
{
    "settings": {
        "analysis": {
            "char_filter": { ... custom character filters ... },//字符过滤器
            "tokenizer": { ... custom tokenizers ... },//分词器
            "filter": { ... custom token filters ... }, //词单元过滤器
            "analyzer": { ... custom analyzers ... }//指定选用的自定义分词器
        }
    }
}

1 实例自定义一个分词器:

1)把 & 转换为 and

2)使用自定义 停止 词过滤器移除自定义的停止词列表中包含的词 [ "the", "a" ]

3)使用 html清除 字符过滤器移除HTML部分


#自定义分词器
PUT /my_index
{
  "settings": {
     "analysis": {
       "char_filter": {
         "&_to_and":{
           "type":"mapping",
           "mappings" : [ " &=> and"]
         }
       },
       "filter": {
         "my_stopwords":{
           "type":"stop",
            "stopwords": [ "the", "a" ]
         }
       },
       "analyzer": {
         "myanalyzer":{
           "type":"custom",
           "char_filter":[ "html_strip", "&_to_and" ],
             "tokenizer": "standard",
            "filter": [ "lowercase", "my_stopwords" ]
         }
       }
     }
  }
}
比如自定义好的analyzer名字是my_analyzer,在此索引下的某个新增字段应用此分析器
PUT /my_index/_mapping
{
   "properties":{
        "username":{
             "type":"text",
              "analyzer" : "my_analyzer"
         },
        "password" : {
          "type" : "text"
        }
    
  }
}
=================插入数据====================
PUT /my_index/_doc/1
{
  "username":"The quick & brown fox ",
   "password":"The quick & brown fox "
 
 
}
====username采用自定义分析器my_analyzer,password采用默认的standard分析器==
===验证
GET /index_v1/_analyze
{
  "field":"username",
  "text":"The quick & brown fox"
}
 
GET /index_v1/_analyze
{
  "field":"password",
  "text":"The quick & brown fox"
}

码农公寓

多字段类型

自定义分词器

Character Filter（字符过滤器）

Tokenizer（分词器）

Token Filter （词单元过滤器）

学习实例

自定义分析器标准格式是：

相关文章

`Character Filter（`字符过滤器`）`

`Tokenizer（`分词器`）`

`Token Filter` （词单元过滤器）

`学习实例`