云模式下智慧城镇大数据系统设计

2017-11-15 17:31黄炼
电脑知识与技术 2017年28期
关键词:大数据

黄炼

摘要:针对智慧城镇建设中出现的大数据平台搭建问题,设计了一种智慧城镇大数据系统。采用Hadoop的云模式计算手段,搭建了涵盖政务信息、地理信息、人员信息以及交通信息的大数据平台,通过C#语言实现智慧城镇大数据系统功能,其能够为管理者提供重要的决策依据。

关键词:智慧城镇;大数据;云模式;Hadoop

中图分类号:TP311 文献标识码:A 文章编号:1009-3044(2017)28-0001-02

Abstract: Aiming at the problem that construct big data platform of smart city, a big data system of smart city is designed. Using cloud mode computing for Hadoop, builting big data platform that cover government information, geographic information, personnel information and traffic information, achieving functions of smart city big data system by C# language, which can provide important decision-making basis for managers.

Key words: Smart city; Big data; Cloud model; Hadoop

IBM公司于2008年初次提出建設智慧地球的概念[1]。研究人员受智慧地球的启发,着手进行城镇智慧化建设的探索,并已经率先取得一系列成果。2009年,韩国政府制定智慧城镇发展计划,并将首尔作为试点城市,主要措施是通过搭建涵盖整个城镇的物联网,使市民享受使用或办理社会服务的便利,运用智慧化商务服务以及云计算推动首尔经济发展。新加坡在智慧城镇的交通系统建设取得丰硕成果,通过实时整合道路、交通数据信息,居民可以根据交通路线、交通流量,对出行时间做出选择。

虽然国内智慧城镇建设发展较晚,但部分城镇也在尝试智慧化建设,其成果具有一定的代表性。在智慧城镇交通领域,宁波市建立智慧交通研发中心,依托现有交通管理系统资源,构建了包含政府公有云、公共安全私有云以及地区中心云的智慧交通云系统,各部门私有云可以通过专用接口,实现与主系统的链接,用于拓展业务范围[2]。在智慧城镇农业领域,济南市推广云模式下的信息化管理系统,实现农产品信息的无缝导入,并将农业应用于电子商务,改善传统农产品销售环节出现的盲目从众现象,科学指导农产品种植、采收以及销售等过程。在城镇智慧水务领域,台州市实施智慧水务试点项目,通过传感器技术采集水况等实时信息,经无线通信系统传输数据,最终通过服务器分析处理水务数据,保障水务的智能化检测[3]。

综上所述,本文利用云模式下存储的大数据,提出一种智慧城镇大数据系统设计方案。其综合考虑居民、企业以及政府的诉求,以构建云模式下大数据系统,实现城镇资源的最优化利用,最终达到推动经济、社会发展目的。

1 智慧城镇建设方针

城镇智慧化建设首先进行顶层化设计,其目的是充分考虑系统的开放性和扩展性。智慧城镇建设往往涉及领域交叉,若不进行综合考虑,一旦系统完成,再重新添加其他领域接口,将会在时间上造成的不必要负担。除此之外,考虑到人的思维存在局限性,需要预留其他领域大数据接口,保障更新的及时性。由于智慧城镇涵盖领域众多,需要制定一套标准化的支撑体系,否则效率可想而知。其支撑体系依靠云计算平台及大数据中心加以实现。充分利用现有的大数据技术手段对资源进行分门别类的整理,降低建设运营成本,最终实现达成集约、开放、高效和可扩展的目的。

智慧城镇建设着重于服务,因此不能仅考虑基础数据平台建设,应秉承经济、实用的原则。做好基础数据平台开发的同时,并开展相应地实际应用。

2 城镇大数据

智慧城镇是基于云概念的城镇发展新方向。针对经济发展、政府管理所面临的诉求,通过计算机、通信领域技术革新,收集、存储、处理城镇运作产生的各类重要信息,最终实现城镇的智能化运行。

企业的运转、政府的管理以及个人的活动会产生诸多的数据,并且由于计算机、通信技术的发展,数据的形式与规模赶超任何时期,往往呈现出指数级别的增长。大数据具有以下特征:

1) 数据规模庞大。智慧城镇中能够产生数据的领域众多,并且存在领域交叉。例如,应对紧急情况的城镇应急指挥系统,需要综合采集交通、气候、地理等领域的数据,继而制定合理的应急方案。各领域数据汇总于大数据服务器,服务器的数据承载量极其巨大。例如,中等城镇交通违章监测系统每天拍摄的视频、图像数据需占用TB级别的存储空间。

2) 数据类型复杂。智慧城镇的诸多领域会产生不同数据类型,其存储方式无统一标准。例如,交通违章监测系统拍摄的图像、视频,多为非结构化数据类型;气候、医疗系统采集的数据多为半结构化类型;银行、学校采集的数据多为结构化类型。

3) 数据价值巨大。数据信息能够转换为经济效益。美国医疗服务业根据医疗数据制定对应措施,使医疗服务业收益达到3000亿美元。美国零售业通过分析销售数据,完善销售链,净利润增长达到60%。数据信息能够转换为社会价值。政府职能部门通过大数据应用,可提高自身工作效率,进而提高政府部门的决策、服务以及管理能力;数据信息能够提高安全保障能力。针对解决情报、监视和侦察系统等不足,国防、反恐、安全等领域通过大数据应用,对搜集的各类数据进行整合、处理,提高安全保障能力。

3 智慧城镇信息系统模型endprint

智慧城镇建設涉经济、人口、环境、交通、医疗、教育诸多领域。为综合处理、运用大数据信息,需要构建完善的智慧城镇信息系统模型,其有助于掌握系统间的逻辑关系。智慧城镇系统模型分为6个层次[4]:

1) 感知层。它相当于智慧城镇的眼睛,用于直观感知数据,常用的感知工具,例如智能终端、无线传感器等。通过以上工具,采集智慧城镇运转过程中产生的数据信息,作为上层应用的数据基础。

2) 传感层类似人体血管,通过搭建好的无线移动网络、有线网络以及物联网将感知层采集的数据及时、完整地输送至大数据服务器平台。

3) 基础层是原始数据的存储载体,泛指能够存储着感知层所采集的原始数据的物理设备。

4) 数据层负责数据管理,统一管理标准,并能够对外实现数据访问以及数据交换,具备高级别的扩展能力。

5) 计算层是分析数据的核心,类似于人体的大脑。计算层实现数据的在线处理以及离线处理功能,承担智慧城镇运转所需要的所有计算。

6) 应用层实现智慧城镇的全部实际应用。选择应用领域,需要酌情考虑该城镇发展过程中遇到的阻力,具有针对性地开展应用。如图1所示。

4 基于云的智慧城镇大数据系统设计

4.1 云计算公共平台

智慧城市集成大量的数据,并且无法预计数据的增长,只有借助云模式下的线性扩展能力,才能满足智慧城镇建设的需要。目前,云模式主要采用基于Hadoop的分布式处理框架[5]。

Hadoop由Apache基金会开发,其能够实现在多硬件集群上分布运行程序,其特点为性能优越、可靠性高、扩展性强以及成本低廉。Hadoop三大核心技术为:分布式文件系统,用于存储集群硬件中的文件;编程模型MapReduce,用来处理多种数据集合;分布式数据库HBase。利用Hadoop的分布式技术,构建智慧城镇大数据系统,实现对各种类型数据进的存储、分析和高效处理,提高智慧城镇校园建设水平。

4.2 智慧城镇大数据系统框架

基于Hadoop技术的智慧城镇大数据系统的总体技框架可分为3层,其中大数据采集与存储层应用分布式文件系统,智慧城镇数据分析层应用MapReduce计算模型,数据源层、大数据采集与存储层的数据抽取,对接需要开发适合的底层适配接口模块,用来采集智慧城镇大数据环境中的多类数据[6]。如图2所示。

基于云模式的智慧城镇大数据系统分为大数据源层、大数据采集与存储层以及大数据分析层。大数据源层负责采集数据,其主要的数据包括政务数据、地理数据、人员数据以及交通数据。大数据采集与存储层通过数据共享接口获取数据源层提供的各类数据。大数据采集与存储层对收集到的数据进行抽取、转换和存储。大数据分析层在 Hadoop的MapReduce编程模型上,构建各类数据分析包,对智慧城镇大数据进行分析,为政府职能部门提供可靠的供决策依据。

4.3 功能设计

云模式下的智慧城镇大数据系统,使用C##语言编写代码,分层设计预留多个扩展接口,方便后期添加新的城镇大数据功能。前台使用B/S模式采用ASP.NET语言开发,对分析结果进行展示,如图3所示。

云模式下的智慧城镇大数据系统功能为以下3个部分:分析结果发布层、大数据分析层、管理功能层。分别提供公告和查询等数据分析结果的,大数据的历史分析结果和实时分析功能,多用户数据管理的管理模式。

5 结束语

智慧城镇符合现代化建设的方针,是城市发展阶段一次质的飞跃。城镇智慧化建设离不开大数据技术,需要始终依托现行的云计算、大数据技术,坚持以技术创新、模式创新为理念,坚持“顶层化、前置化、市场化”的建设理念,只有这样才能发挥大数据的巨大潜能,实现智慧城市的设计目标,推动我国新型城镇化的建设。

参考文献:

[1] 曹阳,张胜雷,甄峰.智慧城市规划仿真模型组织架构与标准体系研究[J].建设科技,2017,(13):21-25+29.

[2 ]郭理桥.新型城镇化与基于“一张图”的“多规融合”信息平台[J].城市发展研究,2014,21(3):1-3,13.

[3] 常广炎.新型城镇化背景下的大数据与智慧城市[J].辽宁行政学院学报,2016(3):64-67.

[4] 张铭.“智慧城市”中大数据技术的应用[J].通讯世界,2014(3):5-7.

[5] 崔杰,李陶深,兰红星.基于Hadoop的海量数据存储平台设计与开发[J].计算机研究与发展,2012 (S1):12-18.

[6] 赵亮.基于Hadoop的高校校园大数据系统设计[J].中国管理信息化,2017(10):222-223.endprint

猜你喜欢
大数据
大数据环境下基于移动客户端的传统媒体转型思路