锐客网

  1. 首页 > 睿知 > it技术 > >

Elasticsearch 在地理信息空间索引的探索和演进

IT知识ElasticsearcelasticSearc

今日长缨在手，何时缚住苍龙。这篇文章主要讲述Elasticsearch 在地理信息空间索引的探索和演进相关的知识，希望能为你提供帮助。

  vivo 互联网服务器团队- Shuai Guangying
本文梳理了Elasticsearch对于数值索引实现方案的升级和优化思考，从2015年至今数值索引的方案经历了多个版本的迭代，实现思路从最初的字符串模拟到KD-Tree，技术越来越复杂，能力越来越强大，应用场景也越来越丰富。从地理位置信息建模到多维坐标，数据检索到数据分析洞察都可以看到Elasticsearch的身影。
一、业务背景LBS服务是当前互联网重要的一环，涉及餐饮、娱乐、打车、零售等场景。在这些场景中，有很重要的一项基础能力：搜索附近的POI。比如搜索附近的美食，搜索附近的电影院，搜索附近的专车，搜索附近的门店。例如：以某个坐标点为中心查询出1km半径范围的POI坐标，如下图所示：
Elasticsearch 在地理信息空间索引的探索和演进

文章图片

Elasticsearch在地理位置信息检索上具备了毫秒级响应的能力，而毫秒级响应对于用户体验至关重要。上面的问题使用Elasticsearch，只需用到geo_distance查询就可以解决业务问题。使用Elasticsearch的查询语法如下：
GET /my_locations/_search

"query":
"bool":
"must":
"match_all":
,
"filter":
"geo_distance":
"distance": "1km",
"pin.location":
"lat": 40,
"lon": 116






工具的使用是一个非常简单的事情，更有意思在于工具解决问题背后的思想。理解了处理问题的思想，就可以超然于工具本身，做到举一反三。本文基于在海量数据背景下，如何实现毫秒级搜索附近的POI这个问题，探讨了Elasticsearch的实现方案，以及实现地理位置索引技术的演进过程。
二、背景知识在介绍Elasticsearch的处理方案前，我们首先需要介绍一些背景知识，主要是3个问题。
  1. 如何精确定位一个地址？
由经度、纬度和相对高度组成的地理坐标系，能够明确标示出地球上的任何一个位置。地球上的经度范围\\[-180， 180\\]，纬度范围\\[-90，90\\]。通常以本初子午线(经度为0)、赤道(纬度为0)为分界线。对于大多数业务场景，由经纬度组成的二维坐标已经足以应对业务问题，可能重庆山城会有些例外。
  1. 如何计算两个地址距离？
对于平面坐标系，由勾股定理可以方便计算出两个点的距离。但是由于地球是一个不完美球体，且不同位置有不同海拔高度，所以精确计算两个距离位置是一个非常复杂的问题。在不考虑高度的情况下，二维坐标距离通常使用Haversine公式。这个公式非常简单，只需用到arcsin和cos两个高中数学公式。其中φ和λ表示两个点纬度和经度的弧度制度量。其中d即为所求两个点的距离，对应的数学公式如下(参考维基百科)：
Elasticsearch 在地理信息空间索引的探索和演进

文章图片

程序员更喜欢看代码，对照代码理解公式更简单。相应的代码如下：
// 代码摘自lucene-core-8.2.0， SloppyMath工具类

/**
* Returns the Haversine distance in meters between two points
* given the previous result from @link #haversinSortKey(double, double, double, double)
* @return distance in meters.
*/
public static double haversinMeters(double sortKey)
return TO_METERS * 2 * asin(Math.min(1, Math.sqrt(sortKey * 0.5)));


/**
* Returns a sort key for distance. This is less expensive to compute than
* @link #haversinMeters(double, double, double, double), but it always compares the same.
* This can be converted into an actual distance with @link #haversinMeters(double), which
* effectively does the second half of the computation.
*/
public static double haversinSortKey(double lat1, double lon1, double lat2, double lon2)
double x1 = lat1 * TO_RADIANS;
double x2 = lat2 * TO_RADIANS;
double h1 = 1 - cos(x1 - x2);
double h2 = 1 - cos((lon1 - lon2) * TO_RADIANS);
double h = h1 + cos(x1) * cos(x2) * h2;
// clobber crazy precision so subsequent rounding does not create ties.
return Double.longBitsToDouble(Double.doubleToRawLongBits(h) & 0xFFFFFFFFFFFFFFF8L);

// haversin
// TODO: remove these for java 9, they fixed Math.toDegrees()/toRadians() to work just like this.
public static final double TO_RADIANS = Math.PI / 180D;
public static final double TO_DEGREES = 180D / Math.PI;

// Earths mean radius, in meters and kilometers; see http://earth-info.nga.mil/GandG/publications/tr8350.2/wgs84fin.pdf
private static final double TO_METERS = 6_371_008.7714D; // equatorial radius
private static final double TO_KILOMETERS = 6_371.0087714D; // equatorial radius

/**
* Returns the Haversine distance in meters between two points
* specified in decimal degrees (latitude/longitude).This works correctly
* even if the dateline is between the two points.
* < p>
* Error is at most 4E-1 (40cm) from the actual haversine distance, but is typically
* much smaller for reasonable distances: around 1E-5 (0.01mm) for distances less than
* 1000km.
*
* @param lat1 Latitude of the first point.
* @param lon1 Longitude of the first point.
* @param lat2 Latitude of the second point.
* @param lon2 Longitude of the second point.
* @return distance in meters.
*/
public static double haversinMeters(double lat1, double lon1, double lat2, double lon2)
return haversinMeters(haversinSortKey(lat1, lon1, lat2, lon2));

  1. 如何方便在互联网分享经纬度坐标？
Geohash是2008-02-26由Gustavo Niemeyer在自己的个人博客上公布的算法服务。其初衷在于通过对经纬度的编码对外提供简短的URL标识地图位置，方便在电子邮件、论坛和网站中使用。实际上Geohash的价值不仅仅是提供简短的URL，它更大的价值在于：
1.Geohash给地图上每个坐标提供了独一无二的ID，这个唯一ID就相当于给每个地理位置提供了一个身份证。唯一ID在数据库中应用场景非常丰富。
2.在数据库中给坐标点提供了另一种存储方式，将二维的坐标点转化成为一维的字符串，对于一维数据就可以借助B树等索引来加速查询。
3.Geohash是一种前缀编码，位置相近的坐标点前缀相同。通过前缀提供了高性能的邻近位置POI查询，而邻近位置POI查询是LBS服务的核心能力。
关于Geohash的编码规则，这里不展开。这里最关键的点在于：
Geohash是一种前缀编码，位置相近的坐标点前缀相同。Geohash编码长度不同，所覆盖区域范围不同。
在前面知识的铺垫下，最简单的求一个坐标点指定半径范围内的坐标集合的方案就出炉了。
  • 暴力算法
中心坐标点依次跟集合中每个坐标点计算距离，筛选出符合半径条件的坐标点。
这个算法大家太熟悉了，就是最常见的暴力(Brute Force)算法。这个算法在海量数据背景下是没法满足毫秒级响应时间要求的，所以多用于离线计算。对于毫秒级响应的业务诉求，这个算法可以基于geohash进行改造。
  • 二次筛选
1.基于坐标中心点计算出geohash, 基于半径确定geohash前缀。
2.通过Geohash前缀初筛出大致符合要求的坐标点(需要将中心点所在Geohash块周围8个Geohash块纳入初筛范围)。
3.对于初筛结果使用Haversine公式进行二次筛选。
除了上述方案，Elasticsearch在地理信息处理上有哪些奇思妙想呢？
三、方案演进Elasticsearch从2.0版本开始支持geo_distance查询，到当前已更新到7.14版本。从2015年至今已经经历了6年的发展， 建设了如下的能力：
Elasticsearch 在地理信息空间索引的探索和演进

文章图片

技术迭代大致可以分为3个阶段：
Elasticsearch 在地理信息空间索引的探索和演进

文章图片

发展的成效显著，从性能测试的结果可以略窥一二：
Elasticsearch 在地理信息空间索引的探索和演进

文章图片
Elasticsearch 在地理信息空间索引的探索和演进

文章图片
Elasticsearch 在地理信息空间索引的探索和演进

文章图片

总的来说，资源消耗降低的前提下搜索和写入数据效率都有大幅度提升。下面就详细介绍Elasticsearch对地理信息索引的思路。
3.1 史前时代Elasticsearch是基于Lucene构建的搜索引擎。Lucene最开始的设想是一个全文检索工具箱，即支持字符串检索，并没有考虑数值类型的处理。其核心思想非常简单，将文档分词后，为每个词构建一个term => array\\[docIds\\]的映射。这样用户输入关键词只需要三步就可以获得想要的结果：
第一步: 通过关键词找到对应的倒排表。这一步简单来说就是查词典。例如：TermQuery.TermWeight 获取该term的倒排表，读取docId+freq信息。
第二步: 根据倒排表得到的docId和词频信息对文档进行打分，返回给用户分值最高的TopN结果。例如：TopScoreDocCollector -- collect()方法，基于小顶堆，保留分数最大的TopN文档。
第三步: 基于docId查询正排表获取文档字段明细信息。
这三步看起来简单，但简直是数据结构应用最佳战场，它需要综合考虑磁盘、内存、IO、数据结构时间复杂度，非常具有挑战性。
例如：查词典可以用很多数据结构实现，比如跳跃表，平衡树、HashMap等，而Lucene的核心工程师Mike McCandless实现了一个只有他自己能懂的FST, 是综合了有限自动机和前缀树的一种数据结构，用来平衡查询复杂度和存储空间，比HashMap慢，但是空间消耗低。文档打分通常用小顶堆来维护分值最高的N个结果，如果有新的文档打分超过堆顶，则替换堆顶元素即可。
问题：对于真实业务场景而言，只有字符串匹配查询是不够的，字符串和数值是应用最广泛的两种数据类型。如果需要进行区间查询怎么办呢？这是一个数据库产品非常基础的能力。
Lucene提供了一种适配方案RangeQuery。就是用枚举来模拟数值查询。简单来说：RangeQuery=BooleanQuery+TermQuery，所以限制查询是整数且区间最大不能超过1024。这种实现是可以说是非常鸡肋的，好在Lucene 2.9.0版本真正支持数值查询。LUCENE-1470,LUCENE-1582,LUCENE-1602,LUCENE-1673,LUCENE-1701, LUCENE-1712
Added NumericRangeQuery and NumericRangeFilter, a fast alternative to RangeQuery/RangeFilter for numeric searches. They depend on a specific structure of terms in the index that can be created by indexing using the new NumericField or NumericTokenStream classes. NumericField can only be used for indexing and optionally stores the values as string representation in the doc store. Documents returned from IndexReader/IndexSearcher will return only the String value using the standard Fieldable interface. NumericFields can be sorted on and loaded into the FieldCache. (Uwe Schindler, Yonik Seeley, Mike McCandless)
这个实现很强大，支持了int/long/float/double/short/byte，也不限制查询区间了。它的核心思路是将数值字节数组化，然后利用前缀分层管理区间。如下图所示：
Elasticsearch 在地理信息空间索引的探索和演进

文章图片

本质上还是RangeQuery=BooleanQuery+TermQuery，只不过在前面做了一层转换：通过前缀树管理一个区间实现了匹配词数量的缩减，而这个缩减是非常有效的。所以这里就有一个专家参数：precisionStep。就是用来控制每个数值字段在分词是生成term的数量，生成term数量越多，区间控制粒度越细，占用磁盘空间越大，查询效率通常越高。
例如：如果precisionStep=8,则意味前缀树叶子节点的上层控制着255个叶子。那么，当查询范围在1511时，由于跨了相邻的2个非叶子节点，所以需要遍历511个term。但是假如查询范围在0512，又只需遍历2个term即可。这样的实现用起来真的有过山车的感觉。
综上，Elasticsearch核心的Lucene倒排索引是一种经典的以不变应万变：字符串和数值索引核心都是查倒排表。理解这个核心，对于后面理解地理位置数据存储和查询非常关键。接下来我们以geo_distance的实现思路为探索主线条，探索一下ES各个版本的实现思路。
3.2 Elasticsearch 2.0 版本这个版本实现geo\\_distance查询的思路非常朴素，是建立在数值区间查询(NumericRangeQuery)的基础上。它的geo\\_point类型字段其实是一个复合字段，或者说是一个结构体。在底层实现时分别用两个独立字段索引来避免暴力扫描。即Elasticsearch的geo_point字段在实现上是lat,lon，加上编码成的geohash综合提供检索聚合功能。字段定义如下所示：
public static final class GeoPointFieldType extends MappedFieldType

private MappedFieldType geohashFieldType;
private int geohashPrecision;
private boolean geohashPrefixEnabled;

private MappedFieldType latFieldType;
private MappedFieldType lonFieldType;

public GeoPointFieldType()

算法的执行分为三个阶段：
第一步：根据中心点以及半径计算出一个大致符合需求的矩形区域，然后利用矩形区域的最小最大经度得到一个数值区间查询，利用矩形区域的最小最大纬度得到一个区间查询。
【Elasticsearch 在地理信息空间索引的探索和演进】核心代码如下图所示：
// 计算经纬度坐标+距离得到的矩形区域
// GeoDistance类
public static DistanceBoundingCheck distanceBoundingCheck(double sourceLatitude, double sourceLongitude, double distance, DistanceUnit unit)
// angular distance in radians on a great circle
// assume worst-case: use the minor axis
double radDist = unit.toMeters(distance) / GeoUtils.EARTH_SEMI_MINOR_AXIS;

double radLat

    推荐阅读


    上一篇：Java常用类库

    下一篇：动态规划