曙光交通行业大数据解决方案

任新勃 发表于:13年05月23日 15:27 [来稿] 存储在线

  • 分享:
[导读]随着经济社会的发展,城市人口持续增长,到2015年将达到9亿以上,持续增长的车辆及居高不下的出行者给交通基础设施通行能力带来极大压力,交通拥堵、交通事故、环境污染及能源短缺已成为目前面临的重要问题。在工业化进程中,最初解决交通问题的办法是通过大规模改扩建交通基础设施以满足人民日益增长的需求,但是,土地、水域、岸线等资源日益紧张,用于修建交通基础设施的空间越来越小,

行业概述

随着经济社会的发展,城市人口持续增长,到2015年将达到9亿以上,持续增长的车辆及居高不下的出行者给交通基础设施通行能力带来极大压力,交通拥堵、交通事故、环境污染及能源短缺已成为目前面临的重要问题。在工业化进程中,最初解决交通问题的办法是通过大规模改扩建交通基础设施以满足人民日益增长的需求,但是,土地、水域、岸线等资源日益紧张,用于修建交通基础设施的空间越来越小,同时,交通在快速发展过程中所带来的负面效应日益显现。因此,解决交通问题开始从改扩建基础设施向高效精准管理转变,即利用先进的传感技术、网络技术、计算技术、控制技术、智能技术,对道路和交通进行全面感知,从而实现对每一条道路实时监控,对每一辆车进行控制,这些位于智慧交通建设模型(见下图1)前端采集和处理端的物联网相关技术及设备使交通信息化达到“中枢神经”的感知层面,但是还远没有发挥“大脑”的智慧。在云计算时代,大数据下的智慧交通,就是要融合传感器、监控视频和GPS等设备产生和采集到的海量数据,甚至与气象检测设备产生的天气状况等数据相结合,对海量数据进行实时快速分析处理,实现“大脑”的“思考”过程,从中提取出我们真正需要的信息并及时准确推送,提高交通的科学管理和组织服务水平,同时提高交通运输效率、安全性、整体效益,切实解决出行难等迫在眉睫的交通问题。


 
图1 – 曙光智慧交通建设模型

就一个中等以上城市而言,轿车、轨道交通车辆以及公交车辆等总数至少在百万量级,实时并发量巨大,要面临对海量非结构化大数据的组织与分析,对处理时效性和效率提出巨大挑战。

方案架构

如图1曙光智慧交通建设模型所示,智慧交通处理核心在智慧交通建设中起到至关重要的作用,其中,智慧交通云计算平台实现对业务应用的支撑,体现了资源池化、按需自助服务、弹性可扩、负载均衡、服务可度量等云计算优势;智慧交通大数据处理核心平台就是智慧交通的“大脑”,对采集来的海量数据进行快速处理和分析,可实现包括但不仅限于如下所述的业务领域目标:

交通管理决策,主要是支持交通流量计划、完善交通法规、自适应式交通控制;

出行信息服务,涉及到实时道路状况查询,支持出行者的多种终端设备等;

商用车辆监管;

公共安全,如视频监控。

随着智慧交通的不断建设,其数据呈现暴增趋势,能够展现并支持这些数据量,需要一套成熟且又稳定的产品或者解决方案,曙光公司基于在大数据处理领域的经验和知识积累,针对交通行业的具体应用特征,推出曙光在交通行业的大数据解决方案,架构如图2所示。


 
图2 – 曙光交通行业大数据方案架构图

曙光智慧交通系统架构如图2所示,区、市数据中心用来收集前端摄像头、拾音器等终端设备的数据,并进行存储、变形以及分析和挖掘。曙光交通行业数据中心解决方案各层功能如下:

底层由曙光专为大数据定制的Xdata一体机及网络设备等构成,为上层应用提供计算以及存储资源;

存储层基于曙光发布版的分布式文件系统HDFS以及分布式实时数据库HBase技术实现,存储层不仅可以用来存储从终端设备采集来的实时非结构化数据,还可以用来存储从传统应用的关系数据库里整合来的结构化数据;

应用层基于曙光发行版Hadoop技术实现,用来对存储层的海量数据进行离线分析、数据挖掘以及在线/互动应用。

交通系统的数据具有分布性和动态性的特点,需要进行数据统一管理和实时分析,及时快速的处理突发事件。针对交通系统的应用特点,曙光解决方案采用如下几项创新技术,用来优化存储、查询,增强应用结果处理能力:

曙光解决方案提出创新的跨地域Hbase大表技术,支持数据存储在不同地域的多个数据中心,而用户所见为虚拟的单一数据中心,方便管理和使用,同时,每个数据中心互为备份,在全局范围内提供更高可用性;

曙光大数据平台在Hbase顶部加入SQL层,对大量交通数据提供实时分析服务,并且对同一组数据同时支持互动式查询和离线统计;

曙光大数据平台在Hbase中加入全文本索引和近实时搜索,可以实现对分布式数据库里的结构化数据提供全文本搜索的能力,并且内建索引以确保交通数据和索引始终同步;

曙光大数据平台在Hbase里加入高效大对象存储,采用标准的Hbase接口,提升了交通图像数据的存储性能;

曙光大数据平台将成熟的R语言库引入MapReduce、HDFS和HBase,降低了开发复杂的数据挖掘逻辑的工作量。

业务应用

曙光大数据解决方案在业务应用方面的价值总结如下:

曙光智慧交通大数据平台提供的高性能硬件处理平台以及对海量结构化及非结构化数据的并行处理架构设计等可实现对智慧交通海量数据的有力支撑;

曙光智慧交通大数据平台通过对智慧交通海量数据的快速实时分析,可促进国家交通运输部在信息化“十二五规划”中提到的重大项目建设的落地实现,包括:第一,为交通出行信息服务系统提供有力的数据处理支撑,实现智慧交通公共信息服务的实时传递,满足出行者实时准确获取交通出行信息服务的需求;第二,为交通管理部门的交通应急决策系统提供有力的数据分析处理层面的支撑,实现对交通紧急突发状况的快速反应及应急指挥,对维护社会稳定和减少经济损失有重大意义;

曙光智慧交通云计算平台可实现资源池化、按需自助服务、弹性可扩、负载均衡、服务可度量等特性,实现交通各部门业务系统在云中的高效整合,打破既往的“烟囱”式业务部署模式,真正实现数据共享;曙光智慧交通大数据平台与曙光智慧交通云计算平台结合,可对共享的海量交通数据进行高效的分析处理并实时给业务系统返回数据,实现智慧交通多业务系统联动,可快速应对变化;

曙光智慧交通大数据平台对海量数据的实时分析处理能力可保障可视化事件追踪的实现。

总之,交通是工业化进程中经济运行的动脉,智慧交通是智慧城市的重要组成部分,通过物联网前端数据采集以及视频监控,采集各个道路视频摄像头信息,对比历史记录,对实时车流、人流进行分析,可以计算和预测该路段当前、未来的交通情况,也可以动态调整交通状况并实时预警。曙光智慧交通大数据平台处理的数据量之大、数据结构类型之多、实时性之高,足以体现大数据在智慧交通的应用前景和价值所在。

方案价值

曙光解决方案针对智慧交通应用系统能够带来以下价值:

为出行者提供实时准确的交通出行信息服务,帮助出行者根据交通状况选择更合适的出行路线及换乘方式,减少因拥堵造成的时间成本浪费;

违法车辆追踪效率提升,通过海量数据实时分析处理功能能将违法车辆数据定位时间由小时级减为分钟级甚至秒级;

恶性交通事故死亡人数减少,通过监控系统收集车辆信息并且实时分析,能够对事故高发车辆(如工程货车)进行行为监控,降低恶性事故率;

道路拥堵率下降,通过路况监控设备收集路况信息并实时处理,能够精确绘制道路拥堵线圈,提供交管部门快速处理突发事故,并提供给大众平台供驾驶员参考从而疏导车流。

[责任编辑:任新勃]
任新勃
2013年5月30日,对于曙光来说是值得纪念的一天。就在那一天,中科曙光(以下简称曙光)举行了曙光大数据战略发布会,笔者看来这不仅仅是曙光科技打造其生态链的一步,也对国内IT企业未来的发展有新的启示。在曙光给媒体及用户的产品资料显示,3013年3月28日,
官方微信
weixin
精彩专题更多
华为OceanStor V3系列存储系统是面向企业级应用的新一代统一存储产品。在功能、性能、效率、可靠性和易用性上都达到业界领先水平,很好的满足了大型数据库OLTP/OLAP、文件共享、云计算等各种应用下的数据存储需求。
12月15日,中国闪存联盟成立,同时IBM Flash System卓越中心正式启动
DOIT、DOSTOR、易会移动客户端播报中国存储峰会盛况。
 

公司简介 | 媒体优势 | 广告服务 | 客户寄语 | DOIT历程 | 诚聘英才 | 联系我们 | 会员注册 | 订阅中心

Copyright © 2013 DOIT Media, All rights Reserved.