AnalyticDB for PostgreSQL 空间数据分析实战

2022-05-07 22:40:55

数字经济时代，数据是其关键的生产资料，而空间信息作为一重要属性集和模型特征集在业界形成广泛共识。*层面，美国911之后，通信运营商为*相关部门（如*、交通、应急指挥等）提供手机定位信息受法律保护；社会部分行业，尤其涉及GIS、交通、物流、吃住行游、自动驾驶等，无不与空间信息强相关。由此，空间数据的存储、空间查询与分析等特性成为数据库的标配，比如NOSQL的Redis/MongoDB、RDBMS的MySQL/SQLServer/Oracle等都有相应模块对其提供支持，PostgreSQL内核支持Geometric几何类型，提供点、线、面、矩形、圆等几何的存储、几何变换、空间关系判定（相交、包含、相等等）功能，模块功能相对单一，缺失坐标系转换特性且用法不太优雅（不符合OGC规范），PostgreSQL开源界为弥补内核Geometric特性缺陷，衍生出PostGIS扩展模块予以完善。

AnalyticDB PG版同样支持空间数据存储、简单/复杂空间查询、空间分析等功能。有所区别的是，公有云产品默认包含PostGIS扩展模块包，但生产实例不默认装载该扩展；专有云产品不包含PostGIS扩展模块包，但为用户提供PostGIS模块整合到专有云AnalyticDB PG版的解决方案。下面介绍如何利用AnalyticDB PG版对空间数据进行管理和应用？

通用操作

1）客户端连接实例

可参考连接实例。

2）初次装载PostGIS扩展模块

-- 创建扩展
create extension postgis;

-- 查看版本
select postgis_version();
select postgis_full_version();

3）空间数据写入数据库表

首先创建带Geometry字段的表，SQL参考：

create table testg ( id int, geom geometry ) 
distributed by (id);

该SQL表示插入的空间数据不区分几何类型，几何类型包括Point / MultiPoint / Linestring / MultiLinestring / Polygon / MultiPolygon等。

如果在创建表时已知Geometry类型和SRID（有关SRID可参考 SRID），也可以参考如下SQL创建表：

create table test ( id int, geom geometry(point, 4326) ) 
distributed by (id);

Geometry类型指定Point类型，SRID为4326，SRID不指定默认为0。

写入SQL参考：

-- without srid
insert into testg values (1, ST_GeomFromText('point(116 39)'));

-- with srid
insert into test values (1, ST_GeomFromText('point(116 39)', 4326));

JDBC Java程序参考：

import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.Statement;
public class PGJDBC {
    public static void main(String args[]) {
        Connection conn = null;
        Statement stmt = null;
        try{
            Class.forName("org.postgresql.Driver");
            //conn = DriverManager.getConnection("jdbc:postgresql://<host>:3432/<database>","<user>", "<password>");
            conn.setAutoCommit(false);
            stmt = conn.createStatement();
            
            String sql = "INSERT INTO test VALUES (1001, ST_GeomFromText('point(116 39)', 4326) )";
            stmt.executeUpdate(sql);
       
            stmt.close();
            conn.commit();
            conn.close();
        } catch (Exception e) {
            System.err.println(e.getClass().getName() + " : " + e.getMessage());
            System.exit(0);
        }
        System.out.println("insert successfully");
    }
}

如果是OSM格式数据，不用提前创建表，可以借助osm2pgsql工具导入，参考 openstreetmap数据导入。

如果是SHP格式数据，不用提前创建表，可以借助shp2pgsql工具导入，参考 shp数据导入，也可以借助一些GIS客户端如ArcGIS Desktop等导入。

4）空间索引管理

创建空间索引SQL参考：

create index idx_test_geom on test using gist(geom);

idx_test_geom为自定义索引名，test为表名，geom为Geometry列名。

查看表有哪些索引SQL参考：

select * from pg_stat_user_indexes 
where relname='test';

查看索引大小SQL参考：

select pg_indexes_size('idx_test_geom');

索引重建SQL参考：

reindex index idx_test_geom;

删除索引SQL参考：

drop index idx_test_geom;

5）典型空间查询SQL

• BBOX范围查询

-- without srid
select st_astext(geom) from testg
where ST_Contains(ST_MakeBox2D(ST_Point(116, 39),ST_Point(117, 40)), geom);

-- with srid
select st_astext(geom) from test 
where ST_Contains(ST_SetSRID(ST_MakeBox2D(ST_Point(116, 39),ST_Point(117, 40)), 4326), geom);

ST_MakeBox2D算子生成一个Envelope。

• 几何缓冲范围查询

-- without srid
select st_astext(geom) from testg
where ST_DWithin(ST_GeomFromText('POINT(116 39)'), geom, 0.01);

-- with srid
select st_astext(geom) from test 
where ST_DWithin(ST_GeomFromText('POINT(116 39)', 4326), geom, 0.01);

ST_DWithin用法参考：ST_DWithin。

• 多边形相交判定（在内部或在边界上）

-- without srid
select st_astext(geom) from testg
where ST_Intersects(ST_GeomFromText('POLYGON((116 39, 116.1 39, 116.1 39.1, 116 39.1, 116 39))'), geom);

-- with srid
select st_astext(geom) from test 
where ST_Intersects(ST_GeomFromText('POLYGON((116 39, 116.1 39, 116.1 39.1, 116 39.1, 116 39))', 4326), geom);

ST_*算子对大小写不敏感，更多用法可参考 PostGIS官方资料。

注意：AnalyticDB PG 6.0不完全兼容PostGIS功能集，例如不支持 create extension postgis_topology，不推荐用Geography类型创建表（非要用，SRID默认为0或4326）。

典型案例

电子围栏场景

某客运监控服务运营商，通过安装在客车上的GPS定位终端收集定位数据，常见的业务有偏航报警、常去的服务区频次、驶入特定区域提醒（例如易发事故地段、积水结冰地段）等，这类业务是比较典型的电子围栏应用场景。

以驶入特定区域提醒业务为例，特定区域不会频繁变更且数据量偏少，可以一次采集定期更新，考虑区域表采用复制表，SQL参考：

CREATE TABLE ky_region (
  rid       serial,
  name      varchar(256),
  geom      geometry)
DISTRIBUTED REPLICATED;

插入Polygon / MultiPolygon类型的特定区域数据后，进行统计数据收集（Analyze 表名）并构建GIST索引。

判定驶入区域，可以分为两种情况：一种完全在区域内，一种是到达边界就要提醒。两种情况用到的空间算子有所区别，SQL参考：

-- 完全在区划内
select rid, name from ky_region
where ST_Contains(geom, ST_GeomFromText('POINT(116 39)'));

-- 考虑边界情况
select rid, name from ky_region
where ST_Intersects(geom, ST_GeomFromText('POINT(116 39)'));

SQL解释：输入变化的经纬度，查询区域表geom字段包含或相交与输入点的记录，如果为0条记录表示未驶入任何区域，如果为1条记录表示驶入某个区域，如果大于1条记录表示驶入多个区域（说明区域表有空间重叠的区域，需要从业务上验证空间重叠的合理性）。

智慧交通场景

某智慧交通场景，数据库包含线型轨迹表和其他业务表，一业务功能为查找历史轨迹表中曾经驶入过某一区域的轨迹ID，相关轨迹表结构：

create table vhc_trace_d (
 stat_date        text, 
 trace_id         text, 
 vhc_id           text, 
 rid_wkt          geometry) 
Distributed by (vhc_id) partition by LIST(stat_date)
(
 PARTITION p20191008 VALUES('20191008'),
 PARTITION p20191009 VALUES('20191009'),
 ......
);

轨迹按照天创建Partition表，每天导入数据后做统计数据收集，并对Partition表创建GIST空间索引。

业务SQL参考：

SELECT trace_id FROM vhc_trace_d
WHERE ST_Intersects(
  ST_GeomFromText('Polygon((118.732461  29.207363,118.732366  29.207198,118.732511  29.205951,118.732296  29.205644,
                  118.73226  29.205469,118.732350  29.20470,118.731708  29.203399,118.731701  29.202401, 118.754689 29.213488,
                  118.750827 29.21316,118.750272 29.213337,118.749677 29.213257,118.748699 29.213388,118.747715 29.213206,
                  118.746580 29.213831,118.74639 29.213872,118.744989 29.213858,118.743442 29.213795,118.74174 29.213002,
                  118.735633 29.208167,118.734422 29.207699,118.733045 29.207450,118.732803 29.207342,118.732461  29.207363))'), rid_wkt);

亿级轨迹表做空间查询RT在80ms内，完全满足业务对性能需求。

商业客流分析

某互联网生活服务运营商，基于AnalyticDB PG版做店铺客流量分析，数据库有两张业务表：User签到表和Shop店铺区域表，表结构参考：

-- user
create table user_label (
  ghash7        int, 
  uid           int, 
  workday_geo   geometry, 
  weekend_geo   geometry) 
distributed by (ghash7);

-- shop
create table user_shop (
  ghash7        int, 
  sid           int, 
  shop_poly     geometry) 
distributed by (ghash7);

业务表比较巧的设计是用Geohash或ZOrder编码等方式将地理空间几何降维作为分布键，而不用构建空间索引。

客流统计的SQL参考：

SELECT COUNT(1)
FROM (
    SELECT DISTINCT T0.uid FROM user_label T0 JOIN user_shop T1 
    ON T1.ghash7 = T0.ghash7
    WHERE T1.sid IN (1,2,3)
    AND (ST_Intersects(T0.workday_geo, T1.shop_poly) 
         OR ST_Intersects(T0.weekend_geo, T1.shop_poly))
) c;

与开源方案对标

开源领域，比较典型的能够支撑空间大数据管理与应用的方案有HBase+GeoMesa和Elasticsearch，我们简单做一下对标介绍。

AnalyticDB for PostgreSQL 空间数据分析实战

应用常见问题

1）对表Geometry字段创建了空间索引，空间查询为什么不走空间索引？

具体问题具体分析。通过Explain查看SQL执行计划，如果走的是SeqScan，可以尝试：

set enable_seqscan = off;

--或者调低random_page_cost
set random_page_cost = 10;

2）表数据量很大，为什么对表Geometry字段创建空间索引会失败？

这种情况是存在的，一方面是内存不够触发，另一方面创建索引需要足够耐心。PSQL客户端连接数据库，检查 maintenance_work_mem 参数配置项，根据实例规格可适当调整参数配置，SQL参考：

-- 参看参数配置
show maintenance_work_mem;

-- 修改参数配置
set maintenance_work_mem = '1GB';

另外如果是简单查询场景可以考虑Partition表结合空间索引方式，如果是复杂分析场景，建议考虑典型案例中的商业客流分析案例。

码农公寓

通用操作

典型案例

与开源方案对标

应用常见问题

相关文章