智慧城市
- 高速、泛在、融合、安全
- 智慧城市是集合物联网、大数据、云计算、空间弟弟信息集成等新一代信息技术,智慧城市在中国是新一带信息技术的应用,同时具备集约、智能、绿色、低碳的特征。
基础设施建设
应用难点
移动通信大数据具有数据量大、数据类型丰富及结构差异性等特点,如何快速、有效地将这些移动通信大数据运用于城市计算,更好地为城市的智慧化服务面临着一系列挑战。
1. 基于移动通信大数据的城市计算的首要任务是城市感知和移动通信大数据
获取。城市感知这个过程既要不影响人们的正常生活,又要有足够大的覆盖范围,以及实时性和准确性。因此,如何准确、有效地感知城市各方面的动态情况(人在城市里的移动性、车流、环境和能源消耗等)是目前移动通信大数据在城市计算中第一环节面临的挑战。
2. 由于移动通信大数据海量性、数据信息碎片化、异构性等特点,同时涉及了高动态移动数据的存储与分析,对现有的数据管理技术,提出了更高的要求,这使得现有技术在面对处理大规模的移动通信数据的时候显得力不从心。因此,如何管理和挖掘大规模的异构数据成为急需应对的一项重大挑战。实时性的要求决定了城市计算的数据挖掘过程必须快速、高效。此外,数据的碎片化特点造成了数据只给我们呈现了局部的信息量,因此要全方位、多角度地了解事情的本质,就必须融合来自不同数据源的信息。总而言之,移动通信大数据的海量性和异构性等属性给城市计算中的城市数据分析和城市数据管理层面带来了很大的挑战。
3. 城市计算的最后一个环节是服务提供的。在这一环节中,一项重大的挑战就是如何对通过数据挖掘和处理分析而获取的知识有效地进行可视化,以辅助人们能够从获取的知识中做出合理的决策,提供更好的服务。比如,将城市中移动网络用户在不同时间段中的行为特征进行可视化展现,利用这些行为特征指标来识别一个城市的地理空间功能的划分及利用已获悉的交通流量来指导人们的出行;此外,从车流和人流的多模式交通流中发现城市规划中存在的问题,并对其优化改进。总之,从知识展现到智能决策和服务这一飞跃仍是一种大挑战。
4. 如何保障移动用户的隐私问题也是移动通信大数据处理与分析过程中的一个不可回避的问题,其不仅是技术问题,也是道德与法律问题,应给予足够的关注。
利用城市计算构建城市
地下工程是一个对城市中各类海量多源异构数据进行收集、整合后分析、挖掘有价值信息的过程。城市计算可以促进解决当今城市化进程中遇到的能耗、污染、环境和交通等关系到人类生存的现实问题。
在构建智慧城市时,城市计算的重要作用体现在以下几个方面。
(1)城市动态的真实有效感知。这种感知将囊括城市的各种要素,建筑、路网、环境、公共设施,甚至包括与城市生活息息相关的动物和植物。这种感知,既不能影响人们的正常生活,还要兼顾低能耗和高环保,在具有足够大的覆盖范围基础上,实现实时性和准确性。
(2)管理和挖掘大规模的异构数据。当智慧城市的应用要求达到很高的实时性时,即使数据规模巨大,数据的挖掘过程也必须快速高效。在大数据挖掘过程中出现的局部数据只体现有限信息量的问题,要通过融合来自不同数据源信息的方法来解决。因此,城市计算对数据的庞大规模和异构属性的快速协同挖掘和深度理解将为智慧城市的应用奠定良好基础。
(3)智能分析和决策。比如,如何分析和展现城市中的人群在特定时间段的移动规律;如何利用分析得来的交通流量结果指导城市的出行;如何从交通流程结果来发现城市规划中存在的问题,对城市的更新和建设规划做出决策支撑。城市计算实现地从数据智能分析决策支撑的飞跃将大力促进城市智慧化的实现。
城市计算将提供大数据时空化分类和检索的标准,以及基于时空大数据的算法模块和生态应用接口。智慧城市应用的开发者可以充分利用城市计算中的关联资源和能力,搭建自有的垂直智慧城市应用。从顶层设计的角度,让不同垂直细分领域的数据进行共享和互通,进而通过相应的算法对跨领域的数据进行挖掘和分析,帮助城市管理者从整体角度优化城市的资源,提高管理和服务的水平。
基于移动通信大数据的城市计算是城市计算的一个重要分支,移动通信大数据可以提供基于位置信令的统计分析和挖掘服务,这个分支的城市计算结果将为机构选址、城市规划、旅游、交通、公共安全等智慧城市应用场景提供解决方案。移动通信大数据还可以提供基于情景感知的移动商务信息,在考虑用户地理位置移动的基础上,叠加用户多方面的状态信息及情景在事件维度上的变化性。
基于移动通信大数据的城市计算将为智慧城市的建设打开一扇崭新的、宽广的、瑰丽的大门。
数据检测方案
随着数据的爆炸式增长,需要应用新的技术使得移动数据检测系统能适应新的挑战,满足节省成本、实时处理、智能挖掘、灵活配置等需求。现阶段主要通过分布式数据库、分布式文件系统、并行计算等手段对系统进行优化。
1)分布式数据库
所谓分布式数据库就是利用分布式架构的数据库对数据进行存取,这种架构方式通过集中服务器实现对数据资源的调度和管理。通常来说,每一台服务器可以放在不同的地方,拥有自己的本地数据库,通过网络连接共同构成一个完整的、全局的大型数据库系统。相比于一般的数据库,分布式数据库专注于对超大规模数据的读写能力,分布式数据库强调的是对非结构化数据的处理支持能力及容量上的扩展性。由于服务器相互独立,在快速存取的问题上,分布式数据库具有得天独厚的优势,消除了数据库读写能力的瓶颈,提高了数据的查询速度。
2)分布式文件系统
在分布式文件系统中,一般利用网络把分布在各处的节点连接到本地的集中服务器上,这与物理存储资源连接在本地节点这种传统模式是不一样的。通过这种方式,使用大量的普通服务器,可以大大地提高文件存储能力,同时降低了高端服务器的使用成本。通常在分布式文件系统中采用客户端/服务器模式,利用网络来维护数据的分发信息,同时可以供多用户同时访问。当客户端访问分布式文件系统时,首先会通过集中服务器获得数据存储节点信息,然后定位到其对应的节点位置,最后的存取过程可以看成是传统文件系统的数据读写问题。在数据写入时,通过冗余拷贝可以减少数据丢失的可能性,从而保证系统的可靠性。
3)并行计算
并行计算是指在计算一个问题的过程中利用多种计算资源,将计算任务自动分配到不同的服务器上,同时对处理结果进行汇总的一种计算方法。这种方法能够高效地解决复杂的大型计算问题。在移动数据检测系统中,数据处理吞吐量巨大,通过并行计算可以将数据集合进行划分,然后对每一个任务以块为单位并行处理,最后将处理得到的结果进行汇总,这也是最为典型的 Hadoop Map Reduce技术。除此之外,由于移动数据的特性,通过流计算对实时数据进行分析,对分配到不同节点的数据并行分析处理。
数据存储
随着大数据的发展,运营商对大数据资产规划的重视程度越来越高,大数据资产规划可以使大数据价值显化,同时是大数据经营战略顺利实施的基本前提。运营商对大数据价值有充分的了解,并且对其所拥有的数据资产进行盘点,完善数据管理和保护制度,实施运营商数据标准规范等手段,才能为大数据经营战略奠定良好的基础,发挥运营商大数据的优势。运营商所存储的大数据一般包括固网大数据、移动网大数据及内部系统业务大数据三种。一般情况下,运营商在对大数据有了清晰把握之后,将建设统一的大数据存储管理平台,对数据进行统一的存储和管理,集中运营分散的数据资源,最终实现电信网络数据资源价值变现。
一般来说,运营商大数据存储管理平台通过采集、存储、处理、汇聚、分析各类通信数据和业务数据,针对不同的运营部门及第三方客户提供大数据分析、大数据可视化、大数据开放等服务,大数据存储管理平台的层级功能如下。
1)大数据采集层
在大数据采集层,主要是通过分光、FTP、API Web Services等形式集中采集固网、移动网、内部业务系统及第三方应用大数据。采集架构可以是一级架构或者两级架构,一级架构即运营商集团层面集中采集,二级架构即以大区或者省份专区为单位独立采集后,定期汇总到大数据平台,同时采集周期也可根据平台实际处理能力进行调整。
2)大数据汇聚层
该层解决数据适配、数据清洗、匿名加密、数据过滤、非结构化数据统一表示等问题,实现对结构化和非结构化数据的聚合。
3)大数据存储处理层
针对海量结构化和非结构化数据统一高效存取的需求,该层采用基于MPP数据库、NoSQL分布式持久化缓存和Hadoop的大数据混合存储架构,支持上层应用对数据的透明访问和实时操作需求。
4)大数据服务层
该层提供大数据开放、大数据分析、大数据可视化等服务。其中大数据开放服务基于数据加密、用户匿名化、提供批量群体行为数据等隐私保护手段,为广告商、企业、政府等第三方提供用户、位置、流量、历史记录等原始数据或根据第三方需求提供主题数据或分析结果,数据开放接口可能有文件接口、数据库接口、RESTful接口等方式;大数据分析服务是指向内部应用和第三方提供舆情分析、用户行为分析等大数据分析服务;大数据可视化服务则针对外部可视化请求,获取相应数据或分析结果,并将其转换为可视化脚本反馈给请求方。
5)大数据应用层
在内部应用层,大数据平台可提供用户偏好分析、个性化推荐、数据用户感知评价和优化提升、网络实时监测和优化、流量管控、向智能管道策略控制中心提供用户流量产品订购信息及业务策略;从外部应用层面,对外提供经过隐私处理的原始数据或数据分析结果。
交叉领域知识融合
大数据时代,随着社会的发展,各种数据蜂拥而至。在数据的海洋中,面对如此庞大的数据体系,人们往往不知所措、无所适从,需要借用先进的计算机技术帮助人们能够从烦杂、丰富的数据中提取出真正能够使用、解决问题的知识,挖掘其中的巨大价值。这一需求日渐强烈,已经成为世界范围内的企业界和学术界共同关心的重要话题之一。在大数据环境下探讨交叉领域知识服务,不能够再局限于形式上传统的文献服务及信息服务,应该将视角对焦海量的碎片信息、用户行为信息、用户关系信息及由此产生的海量实时数据、非结构化数据及机器数据。交叉领域知识的内涵,将随着大数据的发展而不断发生变化,它将面向最为开阔的市场,根据社会发展的需和研究人员的创新,向知识预测型服务转型,大数据就不再是大数据,将会变为大智慧。
2016年,美国在一份针对全球学科资源共享及技术发展问题的研究报告中指出,交叉领域知识融合是在从不同学科资源产生到资源利用的整个生命周期内,根据学科资源的结构、特征、类型实现聚类,从而使得具有相同知识特征的学科资源形成知识服务及应用模块,满足复杂情况的技术需求。由此可知,交叉领域知识融合是一种以不同学科资源为基础,要求科研人员对相关不同领域的知识进行融合,发挥各个领域的优势,从而打破单个学科领域的科研及技术限制,最大化技术优势的新型研究和技术模式。交叉领域知识融合是一项需要研究人员突破传统、努力创新、发现学科之间的潜在联系,打破研发边界,改变学科资源限制的研发策略。交叉领域知识融合是在信息融合的基础上发展起来的一个新的融合概念。在早期,人们多是将知识融合作为一个不太明确的概念与其他相关内容结合起来进行研究。在大数据时代,城市数据的种类越来越多,小到个人生活,大到群体信息,都会生成相关的城市数据,数据的规模也呈现爆炸式的增长势头。由于城市中所包含的数据具有结构差异较大、价值密度较低、来源广杂、更新速度快等特点,在大数据环境下,就更加需要通过技术将多源异构数据进行知识融合来获取相应的有用信息。交叉领域知识融合算法是指从异构、分散的数据来源中挖掘隐含的潜在知识与信息,来帮助人们快速找到有关知识之间的关联,从而做出相应决策,提出有效的解决方案。
面向城市计算的基础数据挖掘技术
- 数据挖掘
- 聚类分析
- 分类分析
- 回归分析
面向城市计算的 机器学习技术
- 机器学习
- 协同过滤
- 矩阵分解
- 张量分析
- 概率图模型
- 深度学习
- 强化学习
- 集成学习
- 迁移学习
- 交叉领域知识融合
移动通信大数据计算平台
- Hadoop概述
Google率先推出MapReduce
Hadoop生态圈
智慧城市未来发展趋势
智慧城市目前在中国还处于起步阶段,随着国家政策的倾斜及宣传力度的增加,从提升城市居民主观幸福指数、提高城市管理效率、降低并消除各种城市安全隐患、平衡生态等方面来看,智慧城市的建设必将成为城市设计发展的主流方向。与此同时,近几年相关数据、计算机等科学技术的发展,也为智慧城市的建设提供了发展的可能性及无限的潜力。例如,人工智能、城市计算、大数据等新技术的出现,已经逐渐改变了原有的人机关系和生活方式,为城市的智慧化奠定了初步基础,促使城市不断
地向智慧化的方向发展。未来主要考虑如何保持这种智慧化的发展劲头并且持续地为人们提供更加便捷的生活方式和选择,而不是为了智慧化的结果。为此,在未来城市建设中,应该做到以下两点,来保证智慧城市的良性发展。
第一,建设智慧城市,应该发展城市居民基础建筑及科技教育。城市规划应该是每个人都可以参与其中的,它涉及每个人每一天的生活,让居民能够对城市基础建筑有所了解,可以帮助居民理解智慧城市规划的概念,从而保证居民在思想上对城市及建筑的先进性的理解。科技教育可以帮助人们更好地融入智慧化的生活,有利于居民了解建设智慧城市的目的,有效地参与智慧城市的设计和建设。让智慧城市的建设真正做到以人为本,共同参与,这既满足了智慧城市建设的需求,又满足了让居民在其中发挥作用的需求,从而使得智慧城市的结果更加贴近实际生活,而不是理论的“空中楼阁”。
第二,建设智慧城市,应该强化技术的牵引力。智慧城市的发展必须依靠城市计算、大数据、人工智能等新技术的发展,特别是以大数据为基础的城市计算技术的发展。智慧城市扩展了物理空间,拉近了人与人的距离,使物理空间更加和谐,这既符合现代人居住要求,又保证人们的生活质量。智慧城市能够通过新技术提升城市管理水平,实现城市的空间扩张,同时平衡物理空间和虚拟空间(网络空间)的结构布局。智慧城市的建设涉及一个复杂而巨大的系统,这极大地影响了城市设计的空间尺度(spatial scale).
在城市设计中,空间尺度是城市规划的重要依据,而智慧城市的建设将打破传统的物理空间尺度概念。为了让空间利用变得更加高效,建设智慧城市的同时需要完善各领城的技术,完善配套设计的研究在信息化时代的推动下,未来的城市将会从单一中心的格局向多中心的格局转变这打破现有的机械化、平的空间结构布局,城市将在空间上扩大,在交流上缩小,实现智慧化、多元化、网化的发展。
在技术方面,智慧城市为众多科学技术不断发与应用提供了前景、城市建设涉及面非常宽广,智慧城市必然需要借助各项技术。并对各项技术进行新的整合应用,通过全新的呈现方式对传统城市服务管理及城市模式进行改变,从而实现城市数字职能化与管理信息化,为人们创造优秀的居住环境和生活便利条件,促进城市发展建设与可持续发展。城市计算是依托大数据背景,基于互联网与计算机技
术的创新发展而产生的综合性产物。当前,城市计算技术在各个行业领域,发挥关键作用智慧城市未来必将以城市计算为主要核心,借助网络与技术的快速发展,从而实现整个城市各个环节之间数据信息的交换与分享及沟通交流。对于智慧城市而言,城市计算是最为关键的一步,它能够帮助城市更好地整理数据,理解城市运作的详细情况,并且基于计算结果为城市发展提供决策支持,充分实现智慧城市的目标。未来智慧城市将会使城市计算应用于各个领域,帮助各领域实现智慧化,并且将不同的领域交叉融合,实现互通联动。未来城市计算技术将应用于智慧城市中的以下几个方面。