本人主要从事于地理信息行业,目前主要是围绕智慧城市、数字孪生、智慧自然资源、实景三维中国等GIS垂直领域建设相关的技术进行研究与探索,有一定的应用系统研发、架构和运维经验,专业从事信创行业有5年多。在这5年多的工作过程当中,会经常处理到海量的空间数据,对这些海量空间数据的管理与可视化,就一定会使用到空间数据库。
本文将结合工作和行业中的一些经历,对超图和华为联合推出的基于华为openGauss的YuKon(禹贡)数据库进行一些介绍,主要围绕GIS对空间数据库的依赖,实景中国及数字孪生建设的时代背景,YuKon数据库的前世今生,架构和使用方法,YuKon在数字孪生、实景中国建设中可以发挥的作用,最后畅想一下时空数据库的未来。非常高兴借此机会在这里跟同行们交流,本文行文仓促,欢迎各位朋友批评指正。
一、时代背景
1、数字孪生
GIS对现实世界系统的高精度模拟已经有着多年应用。公共设施网、法定地块边界、交通网络在GIS中的表征被用于资产管理、维护和规划。计算机信息技术,包括数据仓库、联合系统、面向对象的数据模型,与虚拟现实、交互式用户体验、资产和系统的高精度三维和四维模型相结合,在此之上便有了数字孪生这个概念。
在数字孪生中,对现实世界进行1:1还原,这些立体的模型,比如城市模型,道路模型,各种城市要素的模型等,都会生成相应的模型数据,进而需要进行模型数据的存储需求。
2、实景三维中国
实景三维中国建设是面向新时期测绘地理信息事业服务经济社会发展和生态文明建设新定位、新需求,对传统基础测绘业务的转型升级,是测绘地理信息服务的发展方向和基本模式,已经纳入“十四五”自然资源保护和利用规划。这无疑也是对新时期空间处理能力提出了极大的要求。
3、自主可控能力要求
地理信息是国家重要的基础性、战略性资源,直接关系到国家主权、安全和利益,承载着资源、环境、人口等经济建设和社会发展;地理信息也是现代军事斗争的重要组成部分,保障着军事活动和国防安全。国家需要将自主权掌握在自己手里,不受制于人,而基础的软件支撑能力也要掌握在手里。
二、YuKon(禹贡)前世今生
不论是基于数字孪生的需求,还是服务与实景中国建设的需要,或者从GIS行业基础能力的自主可控能力的提升这三个角度来考虑。对国产空间数据库的需求是十分迫切的。
1、YuKon(禹贡)是什么?
Yukon(禹贡 ),基于openGauss数据库扩展地理空间数据的存储和管理能力,提供专业的GIS(Geographic Information System)功能,赋能传统关系型数据库。由超图软件主导,协同海量数据、云和恩墨,在openGauss社区深度协作,孵化了首个基于openGauss的二三维一体化空间数据库。未来,随着社区持续汇聚产业界创新力量,将孵化出更多面向全新场景的数据库。支持对常见的二三维数据有兴趣点、居民点、道路、水系、高速公路路网、建筑信息、模型信息、BIM、CIM、地下管线等等数据进行管理,如下图所示:
YuKon数据库能非常好的管理这些数据,并提供了许多的空间存储、分析的功能支持,让我们的应用开发如虎添翼。空间数据库对于GIS而言属于底层技术层面的研究,在如今普遍追求“外在”的大环境背景下,做好GIS的”里子“,让GIS真正做到既好看,又好用,实属难能可贵。华为将GaussDB开源,超图同样开源Yugon所有源代码,都彰显了大厂风范,是两个大厂的智慧结晶。
2、YuKon(禹贡)有什么?
目前,Yukon 基于 openGauss/PostgreSQL 扩展的模块包括:
- postgis:与 openGauss/PostgreSQL 适配的 PostGIS 矢量模块;
- postgis_raster:与 openGauss/PostgreSQL 适配的 PostGIS 栅格模块;
- postgis_sfcgal:与 openGauss/PostgreSQL 适配的 PostGIS 三维算法相关模块;
- yukon_geomodel:Yukon自有的三维模型数据模块;
- yukon_geogridcoder:Yukon自有的空间网格编码模块。
可以看到在空间处理方面,YuKon都是基于PostGis进行扩展,模块之间的依赖关系如下图,:
3、YuKon(禹贡)的前世今生
YuKon(禹贡)是基于华为openGauss数据库的,在2020年9月,openGauss提供了PostGIS的适配,作为空间数据库管理的外部插件。2021年3月,在超图的推动下,社区成立了GIS SIG,openGauss/YuKon。从2021年3月到2022年5月,一直在升级PostGIS版本,扩展空间管理的核心能力。2022年6月,超图集团在第五届GIS软件技术大会正式发布YuKon空间数据库。YuKon开源库地址:openGauss/Yukon
华为openGauss数据库也是一直存在一个更新迭代的状态,现在已经发布3.0版本,与旧版本相比,新版本具有轻量化、高性能、高可用、高安全、高智能的特性,对于集群管理能力、异构数据库的兼容能力,分布式能力都进行了极大的增强。相信两者是强强联合,共同构筑领先的企业级开源数据库系统。
4、YuKon(禹贡)对操作系统的限制
友情提示:截止目前,YuKon4OpenGauss(禹贡)数据库是运行在Linux操作系统中,因此如果您想进行尝鲜,请务必要注意这一点。
openGauss 支持的操作系统有:centos_x86_64、openeuler_aarch64、openeuler_x86_64,请优先在这些操作系统进行安装。
想对禹贡数据库进行尝鲜的,可以参考官网的安装手册进行即可。也可以基于Docker等容器的方式进行构建。
5、YuKon(禹贡)空间数据处理
a、矢量数据管理
使用指定用户连接数据库,同时安装空间扩展支持,关键代码如下:
# 连接到数据库(openGauss为例)
gsql -d yukontutorial -U yukondemo -W gisdata@123
--创建 postgis 扩展
CREATE EXTENSION postgis;
连接目标数据库后,创建空间表,并插入示例数据,关键代码如下:
-- 创建带geometry列的表
CREATE TABLE global_points (id SERIAL PRIMARY KEY,name VARCHAR(64),location geometry(POINT,3857));
-- 写入10个点对象
INSERT INTO global_points (name, location) VALUES ('Town1', ST_GeomFromEWKT('SRID=3857;POINT (12057531.405152922 4096788.3009192282)') );
INSERT INTO global_points (name, location) VALUES ('Town2', ST_GeomFromEWKT('SRID=3857;POINT (12057879.323089447 4096794.06898925)') );
INSERT INTO global_points (name, location) VALUES ('Town3', ST_GeomFromEWKT('SRID=3857;POINT (12057241.150712628 4096835.404659481)') );
INSERT INTO global_points (name, location) VALUES ('Town4', ST_GeomFromEWKT('SRID=3857;POINT (12057396.37461059 4096885.372392862)') );
INSERT INTO global_points (name, location) VALUES ('Town5', ST_GeomFromEWKT('SRID=3857;POINT (12056940.710538926 4096886.9123589676)') );
INSERT INTO global_points (name, location) VALUES ('Town6', ST_GeomFromEWKT('SRID=3857;POINT (12058128.24460281 4096938.23117457)') );
INSERT INTO global_points (name, location) VALUES ('Town7', ST_GeomFromEWKT('SRID=3857;POINT (12058378.134595742 4097081.4360874156)') );
INSERT INTO global_points (name, location) VALUES ('Town8', ST_GeomFromEWKT('SRID=3857;POINT (12058636.607321415 4097235.1257181372)') );
INSERT INTO global_points (name, location) VALUES ('Town9', ST_GeomFromEWKT('SRID=3857;POINT (12058917.488660585 4097395.7746241256)') );
INSERT INTO global_points (name, location) VALUES ('Town10', ST_GeomFromEWKT('SRID=3857;POINT (12059180.102471316 4097548.7255362184)') );
b、栅格数据管理
使用指定用户连接数据库,同时安装空间栅格扩展支持,关键代码如下:
# 连接到数据库(openGauss为例)
gsql -d yukontutorial -U yukondemo -W gisdata@123
--创建 postgis_raster 扩展
CREATE EXTENSION postgis_raster;
连接目标数据库后,创建空间表,并插入示例数据,关键代码如下:
raster2pgsql -s 0 /SampleData/hillshade.tif -t 256x256 | gsql -d yukontutorial
三、赋能数字孪生,助力实景中国建设
1、YuKon(禹贡)的能力
YuKon提供了一体化的存储、计算和管理能力。支持SuperMap或者QGis等桌面端产品进行数据的管理。
2、YuKon(禹贡)的三维数据组织
a、对象组织结构
三维模型对象存储为GeoModel类型,由带局部坐标系的模型对象(ModelNode)及其放置的位置、姿态等信息组成,对象组织结构见下图:
ModelNode由精细层和LOD层(用PagedLOD表示,可选)数据组成,精细层和LOD层的基本组成单元均为PagedPatch;每个PagedPatch包含多个Geode;Geode是一个数据包,由实体对象(ModelElement)组成,通过Geode上的矩阵,可以把相同的实体放置在不同的位置,实现模型数据的实例化存储。ModelElement的子类包括骨架(ModelSkeleton)、材质(ModelMaterial)和纹理(ModelTexture)。
b、存储策略
在存储策略上,GeoModel存储在主表中,Geode仅存储实体对象的名字;实体对象单独存储在数据集子表中,基于实体对象名字的64位HashCode编码作为对象的ID。
采用这种模式对三维模型数据进行高效管理以及查询。
3、空间函数支持
YuKon数据库的基础是扩展了PostGIS数据库,因此拥有完整的PostGIS空间函数的支持,并且做了一些函数的扩展。
面向规划行业,对于需要精确计算球面面积的用户来讲,扩展了椭圆弧的数据类型。
4、GeoSOT 编码基本能力
可视化工具:DBeaver、QGIS或SuperMap iDesktopX;本文为展示三维场景效果,使用SuperMap iDesktopX。对二维点、线、面数据的geometry列计算geosotgrid,并转换为geometry对象;示例数据:building_point_demo、builing_line_demo、building_region_demo
---1. 对二维点对象编码
---1.1 创建表存储二维网格结果:building_point_grid22
create table building_point_grid22
(smid serial4 not null ,
smgeometry geometry(polygon, 4490),
asText varchar(765),
grid GeoSOTGrid,idGeo int4) ;
---1.2 为 building_point_demo 表的smgeometry列构造22层网格,并将格网转换成geometry对象,写入
with a as (select smid,ST_GeoSOTGrid(smgeometry,22) as grids from building_point_demo )
insert into building_point_grid22(smgeometry,asText,grid,idGeo)
select ST_GeomFromGeoSOTGrid(unnest(grids)),ST_AsText(unnest(grids)),unnest(grids),smid from a;
---2. 对二维线对象编码
---2.1 创建表存储二维网格结果:building_line2d_grid22
create table building_line2d_grid22
(smid serial4 not null ,
smgeometry geometry(polygon, 4490),
asText varchar(765),
grid GeoSOTGrid,idGeo int4) ;
---2.2 为 builing_line_demo 表的smgeometry列构造22层网格,并将格网转换成geometry对象,写入
with a as (select smid,ST_GeoSOTGrid(smgeometry,22) as grids from builing_line_demo )
insert into building_line2d_grid22(smgeometry,asText,grid,idGeo)
select ST_GeomFromGeoSOTGrid(unnest(grids)),ST_AsText(unnest(grids)),unnest(grids),smid from a;
---3. 对二维面对象编码
---3.1 创建表存储二维网格结果:building_region2d_grid22
create table building_region2d_grid22
(smid serial4 not null,
smgeometry geometry(polygon, 4490),
asText varchar(765),
grid GeoSOTGrid,idGeo int4);
---3.2 为 building_region_demo 表的 smgeometry 列构造22层网格,并将格网转换成geometry对象,写入
with a as (select smid,ST_GeoSOTGrid(smgeometry,22) as grids from building_region_demo )
insert into building_region2d_grid22(smgeometry,asText,grid,idGeo)
select ST_GeomFromGeoSOTGrid(unnest(grids)),ST_AsText(unnest(grids)),unnest(grids),smid from a;
新生成的building_point_grid22、building_line2d_grid22和building_region2d_grid22表格可视化效果如下:
四、空间数据库的未来
空间数据着眼于城市的精细化和精准管理,服务于各行各业,推动着我们国家的不断向前发展。每个城市,每个个体每时每刻都在产生大量的数据,很多是伴随着时空数据的。那么着眼于时空数据的高效管理,是当下及未来的重大课题。
有了海量的空间数据,还要有高效的可视化引擎。将数据库中的海量数据进行快速瓦片化后,在前端浏览器进行渲染。以矢量大数据可视化为例,为快速显示大规模矢量数据(千万级以上)而设计的免切片数据模型。在数据库中,通过一个SQL语句即可构建矢量金字塔,同时完成数据的抽稀、简化和瓦片缓存,同样也可以通过一个SQL语句获取所需的瓦片:按照wmts规则输出标准mvt-pbf纯矢量瓦片或按需输出png栅格化矢量瓦片。 这些依然需要以后的技术发展进程中不断的进行演进。
禹贡空间数据库后续版本的规划: 第一,支持更多的空间数据模型,比如点云、轨迹等数据;对更多的空间数据扩展模型进行开源,让更多用户去使用; 第二,不断地基于社区收集用户体验反馈,将围绕当前空间数据库核心的存算管体系,进行外围业务需求的不断完善,比如数据迁移、任务进度、资源监管等工具的开发,帮助用户能够更好地使用产品; 第三,当前超图已经与openGauss社区一起对接了多家数据库厂商,在未来还将进一步增加相关资源的融合,实现跨界的融合创新,一起把生态做好。
五、总结
以上就是本文的全部内容。本文将结合工作和行业中的一些经历,对超图和华为联合推出的基于华为openGauss的YuKon(禹贡)数据库进行一些介绍,主要围绕GIS对空间数据库的依赖,实景中国及数字孪生建设的时代背景,YuKon数据库的前世今生,架构和使用方法,YuKon在数字孪生、实景中国建设中可以发挥的作用,最后畅想一下时空数据库的未来。非常高兴借此机会在这里跟同行们交流,由于本文行文仓促,欢迎各位朋友批评指正。
本文参考资料:
1、Yukon(禹贡)产品网站 产品简介 — Yukon 1.0 documentation
2、 周芹-Yukon(禹贡):全新开源二三维一体化空间数据库.pdf
3、胡正策-YuKon(禹贡)赋能空间智能,共建openGauss开源数据库生态.pdf