ES 入门(一):安装部署与基本概念

栏目: 后端 · 发布时间: 5年前

内容简介:对于 Windows 系统,安装 Elasticsearch 最为简单,直接从安装使用 ES 前,请保证 Java 已经安装成功,确保已设置Linux 单节点部署请参考下面的 Linux 集群部署。

对于 Windows 系统,安装 Elasticsearch 最为简单,直接从 官方网址下载 ES 的安装包(.zip) ,下载完成后解压到本地磁盘的某个文件夹;待解压完成后,进入安装根路径的 bin 目录,双击 elasticsearch.bat 即可开始使用。

安装使用 ES 前,请保证 Java 已经安装成功,确保已设置 JAVA_HOME 环境变量。

2、 Linux 单节点部署

Linux 单节点部署请参考下面的 Linux 集群部署。

3、Linux 集群部署

集群部署可以参考文章: CentOS 7.4 下安装 ES 6.5.1 搜索集群

二、基本概念

部分内容来源: Elasticsearch安装与配置

1、NRT

Elasticsearch 是一个接近实时(Near Real Time)的搜索平台,也就是说,从建立索引,到这个索引可以被搜索需要很小的延迟,通常是 1 秒。

2、Cluster

一个集群就是由一个或多个节点组织在一起,这些节点共同持有全部的索引数据,并共同提供索引和搜索功能。一个集群由一个唯一的名字标识,这个名字很重要,一个节点只能通过指定某个集群的名字,来加入这个集群。

3、Node

一个节点就是集群中的一个服务,作为集群的一部分,它可以用来存储数据,参与集群的索引和搜索功能。对于许多应用场景来说,部署一个单节点的 ElasticSearch 服务就足够了;但是考虑到容错性和数据过载,配置多节点的 ElasticSearch 集群是明智的选择。

4、Index

一个索引就是一个拥有相似特征的文档(Document)的集合,ElasticSearch 把数据存放到一个或者多个索引中;一个索引由一个名字来标识,并且当我们要对这个索引中的文档进行索引、搜索、更新和删除的时候,都要使用到这个名字。

5、Type

  • ES 6.0 之前 :在一个索引中,可以定义一种或多种类型;一个类型是索引的一个逻辑上的分类/分区;通常,会为具有一组相同字段的文档定义一个类型。
  • ES 6.0 及更高版本 :创建的索引只包含单个映射类型,映射类型将在 ES 7.0 中将完全移除。

许多人喜欢将index比喻为关系型数据库中的database,将type比喻为关系型数据库中的table,实际上这个比喻非常不贴切。因为在关系型数据库中,表中的字段都是独立的,但是在Elasticsearch中,在不同的type中,如果filed具有相同的名字,则这些不同的filed实际上是由相同的Lucene Filed提供支持的,因此这种比喻并不恰当;另一方面,在同一索引中存储具有很少或没有共同字段的不同实体会干扰Lucene有效压缩文档的能力。

6、Document

一个文档是可被索引的基础信息单元,文档以 JSON 格式来表示,在一个 index/type 里面,可以存储任意多的文档。文档由一个或者多个字段(Field)组成,每个字段(Field)由一个字段名和一个或者多个值组成。

7、Shards and Replicas

一个索引可以存储超出单个节点硬件限制的数据,例如一个具有 100 亿文档的索引占据 10TB 的磁盘空间,而任一节点可能没有这样大的磁盘空间来存储,或者单个节点处理搜索请求,响应会太慢。

Shards

为了解决这个问题,Elasticsearch 提供了将索引划分成多片的能力,这些片叫做 分片 。当用户创建一个索引的时候,可以指定分片的数量(默为 5,但是在 7.0 版本中默认会变为 1);每个分片本身也是一个功能完善并且独立的“索引”,这个“索引”可以被放置到集群中的任何节点上。

分片之所以重要,主要有两方面的原因:

  • 允许水平分割/扩展内容容量;
  • 允许在分片(位于多个节点上)之上进行分布式的、并行的操作,进而提高性能/吞吐量。

Replicas

至于一个分片怎样分布,它的文档怎样聚合回搜索请求,是完全由 Elasticsearch 管理的,对于用户来说,这些都是透明的。在一个网络/云的环境里,失败随时都可能发生。在某个分片/节点因为某些原因处于离线状态或者消失的情况下,故障转移机制是非常有用且强烈推荐的。为此,Elasticsearch 允许创建分片的一份或多份拷贝,这些拷贝叫做 复制分片 ,或者直接叫复制。

复制之所以重要,有两个主要原因:

  • 在分片/节点失败的情况下,复制提供了高可用性;
  • 复制分片不与原/主要分片放置再相同节点上
  • 搜索可以在所有的复制上并行运行,复制可以扩展你的搜索量/吞吐量。

总之,每个索引可以被分成多个分片,一个索引也可以被复制 0 次或多次;分片和复制的数量可以在索引创建的时候指定,索引创建之后,可以在任何时候动态地改变复制的数量,但是不能再改变分片的数量。

8、Field、Term、Token

  • Field:它是 Document 的组成部分,由两部分组成,名称(name)和值(value);
  • Term:它是搜索的基本单位,其表现形式为文本中的一个词;
  • Token:它是单个 Term 在所属 Field 中文本的呈现形式,包含了 Term 内容、Term 类型、Term 在文本中的起始及偏移位置。
ES 入门(一):安装部署与基本概念

三、Mapping and Index Template

部分内容来源: 论 Elasticsearch 数据建模的重要性

1、Mapping

映射(Mapping)是定义文档(Document)及其包含的字段(Field)的存储和索引方式的过程。

例如,使用映射来定义:

_all

数据建模

ES 入门(一):安装部署与基本概念

数据类型

ES 入门(一):安装部署与基本概念

text 类型

  • 特性:分词,将大段的文字根据分词器切分成独立的词或者词组,以便全文检索;
  • 适用:email 内容、产品的描述等需要分词并全文检索的字段;
  • 不适用:精准查询、过滤、 排序 或聚合(Significant Terms 聚合例外)。

keyword 类型

like

数值类型

  • long :带符号的 64 位整数;
  • integer :带符号的 32 位整数;
  • short :带符号的 16 位整数;
  • byte :带符号的 8 位整数;
  • double :双精度 64 位 IEEE 754 浮点数;
  • float :单精度 32 位 IEEE 754 浮点数;
  • half_float :半精度 16 位 IEEE 754 浮点数;
  • scaled_float :由长度固定的缩放因子支持的浮点数。

日期类型

日期支持时间戳和字符串,具体根据日期字段 format 的设置;

epoch_millis
strict_date_optional_time
"dtm_field": {
  "mapping": {
    "type": "date",
    "format": "yyyy-MM-dd HH:mm:ss||yyyy/MM/dd HH:mm:ss||strict_date_optional_time||epoch_millis",
    "store": "true"
  }
}
复制代码

可以通过设置索引 mapping 的 dynamic_date_formats 参数来设置索引动态日期检测所匹配的日期格式。

布尔类型

  • falsefalse,“false”,“off”,“no”,“0”,“”(空字符串),0,0.0
  • true :以上 false 示例的反面,一切非假值。

二进制类型

二进制类型接受二进制值作为 Base64 编码字符串 ,该字段默认情况下不存储,不可搜索;可用于存储小图片,小文档等。

范围类型

integer_range
float_range
long_range
double_range
date_range
ip_range

Array 数组类型

默认情况下,任何字段都可以包含零个或多个值,但是数组中的所有值 必须是相同的数据类型 。数组类型将 单个数组元素 做为一个数据单元,如果是分词的话也只是会依单个数组元素作为词源进行分词,不会将所有的数组元素整合到一起。在查询的时候如果数组里面的元素 有一个能够命中那么将视为命中

当使用 script 脚本时,使用 doc['xxxx'][0] 即可获取字段的值,等同于常规情况下的 doc['xxxx'].value

object 对象类型

文档可能包含内部对象,而内部对象又可能包含其他内部对象。

## 用户写入
{ 
  "region": "US",
  "manager": { 
    "age": 30,
    "name": { 
      "first": "John",
      "last":  "Smith"
    }
  }
}

## 实际存储
{
  "region": "US",
  "manager.age": 30,
  "manager.name.first": "John",
  "manager.name.last":  "Smith"
}
复制代码

nested 嵌套类型

nested 嵌套类型是 object 数据类型的特定版本,允许对象数组彼此独立地进行索引和查询。

## 用户写入
{
  "group" : "fans",
  "user" : [ 
    {
      "first" : "John",
      "last" :  "Smith"
    },
    {
      "first" : "Alice",
      "last" :  "White"
    }
  ]
}

## 实际存储
{
  "group" : "fans",
  "user.first" : [ "alice", "john" ],
  "user.last" :  [ "smith", "white" ]
}
复制代码

默认情况下,每个索引最多创建 50 个嵌套文档,可以通过索引设置选项: index.mapping.nested_fields.limit 修改默认的限制。


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

程序员面试宝典(第5版)

程序员面试宝典(第5版)

欧立奇、刘洋、段韬 / 电子工业出版社 / 2015-10 / 55.00

容提要 《程序员面试宝典(第5版)》是《程序员面试宝典》的第5 版,在保留第4 版的数据结构、面向对象、程序设计等主干的基础上,修正了前4 版近40 处错误,解释清楚一些读者提出的问题,并使用各大IT 公司及相关企业最新面试题(2014-2015)替换和补充原内容,以反映自第4 版以来两年多的时间内所发生的变化。 《程序员面试宝典(第5版)》取材于各大公司面试真题(笔试、口试、电话面试......一起来看看 《程序员面试宝典(第5版)》 这本书的介绍吧!

RGB转16进制工具
RGB转16进制工具

RGB HEX 互转工具

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

SHA 加密
SHA 加密

SHA 加密工具