专项历史地图资料服务系统建设

2017-10-16 03:30宋鸿运
地理信息世界 2017年5期
关键词:视图数据库系统

宋鸿运,韩 茜

(1.国家基础地理信息中心,北京 100048;2.国信司南(北京)地理信息技术有限公司,北京 100048)

0 引 言

随着国际对中国海域的关注度提升,中国东海、南海及周边国家在国际上的地位愈显重要,尤其是各方热议的钓鱼岛问题以及东南亚地区的海域争议已成为主流问题。对《中国东海、南海及周边历史地图资料整编》项目搜集到的各种历史地图及其他资料进行分析,并对其进行分类,按照全面性、准确性、科学性的原则获取原始数据与元数据,对地图资料进行扫描和图片化处理,制定规范的数据采集分类准则与命名规则,为数据管理奠定基础,并探讨建立中国东海、南海及周边国家历史地图资料数据库,搭建数据库管理系统与公众服务系统,如图1所示,实现互联网同步展现,最终实现地图等基础数据的对外有效利用,这些工作都能作为后续相关延伸课题研究的基础保障。

图1 服务系统界面图Fig.1 Interface of the service system

1 需求分析及技术要求

1.1 需求分析

根据专项历史地图、影像及其他资料数据的特征、分类及内容等关联关系,结合数据管理与服务的业务流程设计数据组织模式,完成数据库概念设计、逻辑设计、物理设计等,特别指出数据库的逻辑设计是关键环节,鉴于数据的管理和检索利用的灵活度与展现的全面性,数据库的设计要求能实现不同数据的主题词、关键字、专题等内容的数据联动;同时预留一定的接口,便于后续数据的持续管理。

数据库管理系统主要用于数据的可持续、层次化管理,实现数据的录入、元数据采集、数据检索与下载等功能。专项历史地图数据库公众服务系统主要面向社会大众,以地理信息系统为基础,实现时空一体化展现历史地图和其他资料的空间分布情况,结合国内外成熟的图书馆检索功能,实现历史地图资料数据的灵活多样检索功能,主要包括:时间序列的查询,将数据从公元1499年之前分为一段,以后每百年为一段,形成完整的自古至今的各类资料,可以更好地发现对特定地区各历史阶段不同国家采取的表达方式,为各种需求提供帮助。另外,要考虑为后续的建设预留数据和服务的扩展接口,满足社会公众对数据的应用需求。

1.2 技术要求

数据类别划分清晰,定义明确,字段说明详实,术语的采用、定义应符合国家或行业相关标准,满足数据库管理系统对各类数据的应用要求,同时预留数据接口,兼顾后续数据库扩展建设需求。本项目所涉及的资料种类包括:单幅地图扫描数据、地图集扫描数据、岛礁影像数据、文章类数据、专著类数据、视频类数据,在数据的种类方面可以多样化。

数据结构设计合理,能最大限度地减少数据冗余,保持数据的完整性、一致性。在发布数据格式方面明确为:单幅地图为JPG格式,地图集为PDF,影像数据为TIF,文章专著为PDF,视频为MP4。

要防止对数据的非法使用,必须在数据库设计时考虑用户的权限管理和约束信息,并记录关键数据操作的全过程,防止对数据进行有意无意的破坏,并能对造成的破坏进行恢复。

允许多用户同时存取数据,数据库设计应充分考虑并发操作的控制机制,保证存取数据的完整性和一致性。

综合上述,可以看出,本系统的开发主要涉及的技术包括:数据空间化技术、渐进传输与数据压缩技术、终端融合显示技术、空间坐标提取技术、智能缓存与预取技术、数据不切片发布技术、数据多尺度表达问题研究、空间定位聚合技术、多源数据综合管理技术、多语言编程技术、数据校验技术 、多源数据分析、元数据标准、数据接入标准。框架的搭建如图2所示。

图2 系统技术流程图Fig.2 System technical flow chart

2 总体设计

2.1 技术路线

专项历史地图数据库及公众服务系统建设工作开展主要围绕需求调研分析、数据采集处理、数据库建设、数据管理与服务4个环节展开。具体技术路线如图3所示。

图3 系统建设流程图Fig.3 System construction flow chart

2.2 技术架构

系统基于SOA理念设计系统的架构,依据信息资源规划理论进行数据整合、数据入库、数据管理、数据分析、业务梳理和模型建立,遵循统一的标准规范,实现系统的互联互通和资源共享。

1)采用SOA总体架构

在总体框架层面,系统将统一标准、统筹规划、顶层设计、分步实施,采用面向服务的架构(SOA)技术,实现面向服务、资源共享、统一注册、分级授权的服务组织模式与运行管理机制。在服务层采用WEBSERVICE进行数据服务,实现系统松耦合集成,实现面向各类业务需求的应用编排和组装。

2)技术选型

系统采用B/S模式开发,开发语言:前台采用JS+Html;后台采用JAVA,地图控件采用OpenLayer;数据库采用Mysql。

3)采用GIS一张图应用

基于GIS平台进行展示和管理,充分发挥GIS的地理定位能力、采集、管理、分析和输出多种地理空间信息展现以及各种空间分析的能力,在一张地图上统一展示系统所管理的历史地图分布点位,形成历史地图分布图,提供人机交互式的更直观的空间决策辅助分析。

4)采用集群技术

在服务器、存储等硬件设备方面,采用集群技术,其中存储层面,采用存储区域网络(Storage Area Network,简称SAN)技术;服务器层面,采用集群技术,实现存储设备、服务器设备的共享利用,同时又保障了数据库服务器、应用服务器的运行安全,既节约了硬件投资,又最大限度地发挥了大容量存储设备和高端服务器的效能。

2.3 总体架构

为满足总体需求以及业务设计的内容,数据库建设与系统平台总体架构采用面向服务的技术架构(SOA),总体架构采用六横三竖结构,由下到上分为设备层、数据层、服务层、应用层、表示层以及用户层,总体技术框架如图4所示。

图4 总体技术框架图Fig.4 Technical framework diagram

设备层是基础支撑硬件环境,包括服务器、存储设备及网络等。

数据层是基本业务数据模型的建设,建立各类数据模型以及模型基本结构,满足业务封装、基础数据处理整合以及数据库建设等。

服务层是整个平台的重要内容,主要为应用层提供组件化、模块化的功能支撑,包括基础地理数据服务接口、地图服务接口等相关公共服务接口。本平台的总体技术架构采用SOA技术,服务是整个平台基础单元。

应用层主要由支撑应用软件开发和运行的系统软件构成,由专项历史地图资料数据库建设系统前台和建设系统后台管理构成。前台主要实现海域地图一张图展示,查询检索地图分布与属性的信息,实现根据条件查询检索数据,同时为后续的系统建设留有接口,同时可以导出数据,为后续科研提供数据支撑。后台管理主要实现数据库各类资料数据体和元数据的批量导入与运维管理。

表示层为数据库系统及后台管理系统所提供的各类业务功能,方便各类用户在实际工作中使用。

用户层即与本平台相关的人员或组织,管理人员与数据录入人员是本平台的核心人员,管理人员主要是信息中心管理人员,负责数据库与系统的管理与源数据采集,数据采集人员主要完成地图元数据的采集导入。行政、科研人员是系统主要的服务对象,社会公众是系统部分数据或目录对外开放的使用人员。用户权限根据用户的角色进行划分,不同的用户具有不同的使用权限。

3 数据库建设

3.1 建设原则

恰当的数据组织、合理的数据库结构可以提高系统的运行效率,方便系统的使用,也是整个系统建设的关键。在数据库设计过程中,必须严格遵循相关标准和原则。

1)规范、开放、易扩展原则

数据类别界定清晰,定义明确(无二义性),字段说明翔实,术语的采用、定义符合国家、部、省和行业有关标准,保证信息共享,满足数据应用部门及其相关系统对数据的应用要求;同时兼顾后续数据库建设需求,具备可扩展性。

2)结构合理原则

数据结构设计合理,能最大限度地减少数据冗余,保持数据的完整性、一致性。

3)并发控制原则

数据库是一个共享资源,可以有多个用户使用,应该允许多用户程序并行存取数据,数据库设计应充分考虑并发操作的控制机制,保证存取数据的完整性和一致性。

4)数据安全原则

要防止对数据的非法使用,必须在数据库设计时考虑用户的权限管理和约束信息,并记录关键数据操作的全过程,防止对数据进行有意无意的破坏,并能对造成的破坏进行恢复。

3.2 建立逻辑模型

数据库逻辑模型是在对用户的需求详细调查之后,分析用户的功能需求,从概念模型出发,建立逻辑模型,如图5所示。

图5 地图数据的逻辑模型Fig.5 The logical Model of Map Data

3.3 物理存储

数据库最终是要存储在物理设备上。为给定的逻辑数据模型选取一个最适合应用环境的物理结构,建立一个具有较好性能的物理数据库。建立数据库主要解决数据库在物理设备上的存储结构和存取方法,它完全依赖于给定的硬件和数据库平台。

确定数据库的物理结构包含以下内容:确定数据的存储结构、设计数据的存取路径、确定数据的存放位置。本项目是按照数据大类下再按时间和地域分级组织的模式,进行数据的物理存放。

3.4 应用建立

1)建立索引

对于查询中需要作为查询条件的字段,如表示地区、时间、关键词等建立索引。对于复合索引,索引字段顺序比较关键,把查询频率比较高的字段排在索引组合的最前面,如表示地区和关键词,在本项目中索引主要是在逻辑模型中的相互关联来建立多个索引表。

2)建立视图

视图是虚拟的数据库表,在使用时要遵循以下原则:

①从一个或多个库表中查询部分数据项。

②为简化查询,将复杂的检索或子查询通过视图实现。

③视图中如果嵌套使用视图,级数不得超过3级。

④除特殊需要,避免类似Select*from[TableName]而没有检索条件的视图。

⑤视图中尽量避免出现数据排序的SQL语句。

3.5 数据备份与恢复

可接受的停工时间、恢复时间、备份间隔和可接受的数据损失是影响备份方案的关键因素。专项历史地图资料数据库具有以下特点:

①数据量中等。

②更新频率中等、数据增长缓慢。

因此,可以利用数据库管理系统自身的管理工具(输出/输入)实现数据的逻辑备份与恢复。备份策略包括:

①mysql安装后立即对所有的物理文件和初始化文件进行备份,让数据库管理员有完整的数据能够进行所有其他类型的恢复。

②重要更新操作前,对数据库进行逻辑备份。

③重要更新操作完成后,对专项历史地图资料数据库完全输出,作为一个正式数据版本保存。

④数据库运行过程中进行常规备份。

4 数据库管理系统建设

专项历史地图资料数据库管理系统主要实现组成数据库的各种数据的整合、审核、入库及数据的管理与发布。为数据库的建设提供入口和工具,并进行数据的审核发布,是专项历史地图公众服务系统的数据支撑,界面如图6所示。

图6 数据库后台管理界面图Fig.6 Interface of the database management backstage

4.1 用户角色

专项历史地图资料数据库管理系统主要用户分为:数据搜集人员、数据审核发布人员和系统运维管理人员。数据搜集人员主要完成历史地图资料数据及其元数据的搜集与批量导入;数据审核发布人员主要完成入库数据的数据审核、入库和发布,由于系统所发布的内容存在敏感信息,在数据正式发布之前,必须要进行重点信息的浏览核实后才能发布,因此虽然系统是在BS结构下开发,也设置了图形浏览的功能;系统运维管理人员主要负责系统用户信息管理与权限分配、日志信息的管理等。

4.2 系统功能

包括数据搜集导入、数据编辑、数据审核、成果入库、数据成果管理及数据发布。数据搜集的方式包括纸质地图扫描后人工录入和网络爬虫自动获取。

1)数据搜集导入。数据搜集的方式包括纸质地图扫描后人工录入和网络爬虫自动获取。对于人工录入的方式,系统提供数据导入功能,支持多种数据格式,并实现批量导入。

网络爬虫自动获取实现以任务方式进行数据抓取,数据搜集人员设定搜索关键词、时间、数据源等,以完成所需数据的网络搜索和自动下载。

2)数据编辑。对于人工录入的数据,提供元数据编辑功能。元数据编辑实现导入数据的文件名称、类别、采集时间、来源、地理位置等元数据信息的填写和编辑。元数据信息分为必填项和选填项,对于必填项信息完整的数据,系统提供数据状态标识。此外,元数据编辑保存时,需进行数据名称查重,防止冗余数据录入。

对于网络爬虫自动获取的数据,系统提供数据查询、删除和元数据编辑功能。数据搜集人员对自动获取的数据进行检查,对重复抓取或抓取错误的数据进行删除,对元数据不完整的数据进行元数据编辑。

元数据编辑功能与人工录入的元数据编辑相同。编辑保存的数据方可提交。

3)数据审核入库。数据搜集人员提交的数据由数据审核人员进行审核,审核通过后的数据自动入库。系统提供数据的分类查询、数据查看和批量审核功能,对数据正确、元数据完整的数据进行审核入库;对数据错误或元数据缺失的数据返回给数据搜集人员进行编辑修改。

4)数据发布。数据入库后即形成数据成果,数据审核发布人员需根据实际情况决定对外发布的数据范围。系统提供数据批量发布与撤回功能,实现数据的发布管理。

5)组织目录管理。系统提供数据组织目录的增加、修改、删除功能,实现对分类组织目录的管理。

6)系统维护。包括用户管理、权限管理和日志管理。

5 公众服务系统

专项历史地图资料公众服务系统是面向社会公众的历史地图数据资源网站。为社会公众提供专项历史地图资料的数据展示和资源下载。

5.1 数据浏览

地图视图模式下采用一张图方式展示。根据地图数据元数据中的地理位置信息,对地图数据进行空间定位、并根据地图分类信息进行聚合。

地图视图模式下,提供常见地图功能,包括放大、缩小、漫游。以图文列表形式进行数据组织,界面图如图7所示。每条数据包括地图缩略图及其文字简介,点击可查看数据详情,同时提供关键字查询和类别筛选功能。详情页面包括地图数据、元数据信息、分类列表信息及其关联数据信息。

图7 地图查询界面图Fig.7 Interface of the map query

5.2 查询检索

按照地图的类别、时间、关键词、元数据内容组合(专题、日期、地点、作者、单位)等进行简单查询和高级查询,检索的信息可以以地图视图展示,也可以以时间、字母等顺序排列的列表形式展示。以地图展示能实现检索结果的空间定位功能。

1)资料类别查询

根据资料的类别属性,如属于地图、影像、文章、专著、视频等大类;或属于哪个区域专题,东海、南海等进行检索;或者多条件组合查询。查询结果可以列表显示,同时可在地图上进行空间定位。

2)时间查询

根据地图所示年代输入某一时段年段进行模糊检索,显示效果同上。

3)关键词查询

根据历史地图的名称范围如东亚、钓鱼岛、南海、曾母暗沙、九段线等进行模糊检索,查询结果可以列表形式展现,也可进行跳转定位,同时在地图视图展示对应历史地图的空间位置分布图,并能显示地图数量。

4)元数据组合查询

依据元数据字段,如专题、日期、地点、作者、出版单位组合进行查询,查询结果的展现形式也包括两种形式,列表与地图视图。

5.3 数据下载

根据权限控制,实现部分数据的下载导出功能,作为科研等方面的基础数据。

5.4 系统安全

1)数据访问权限控制

考虑专项历史地图数据的保密性与安全性,在系统建设过程中设置数据库使用安全密码,防止密码泄露,定期修改密码,禁止不具有访问权限的用户直接操作数据库。

2)系统权限控制

系统建设中,为各级用户分配权限,确保具有使用权限的用户接触特定范围的数据和功能。

3)系统监控

同时在系统功能中增加系统操作日志记录功能,确保全部登陆系统的用户都在可控范围内,操作具有可溯性,系统或数据发生问题后方便查找问题原因。

4)系统恢复

管理系统版本,并作部署文件异地备份,在系统异常无法启动的情况下,对损坏的系统按照安装部署手册重新进行部署。

5.5 系统支撑环境

1)网络环境

系统部署在互联网环境下。

2)硬件环境

①对服务器硬件设备的最低要求:处理器2.4GHz、内存4G、硬盘600G以上。

②推荐配置:处理器2.66GHz、内存6G、硬盘1T以上。

3)软件环境

①操作系统:应用服务器为Windows Server 2008或以上版本。

②数据库系统:MYSQL。

③Web服务器环境:IIS7.0及以上版本。

④GIS环境:天地图。

6 结束语

通过建设中国东海、南海及周边历史地图专项历史地图资料数据库及公众服务系统,极大地提高了用户对历史地图的查询、检索,也提高了资料的使用效率。在该系统的基础上,可以继续将分散在世界各处的不成体系的,但又与某个比较重要的专题相关的历史地图资料有机地作为一个整体管理起来。另外也可以将地理信息空间技术与历史上留存下来的珍贵地图和档案资料进行完美的结合,让后者能够快速地提供服务并焕发新的生命力。在后续的工作中还可以不断地补充不同专题的历史地图资料,促进提高历史地图资料的管理水平,拓宽历史地图的使用面。

猜你喜欢
视图数据库系统
Smartflower POP 一体式光伏系统
WJ-700无人机系统
基于PowerPC+FPGA显示系统
5.3 视图与投影
视图
连通与提升系统的最后一块拼图 Audiolab 傲立 M-DAC mini
Y—20重型运输机多视图
SA2型76毫米车载高炮多视图
数据库
数据库