大数据
大数据
1)大数据5V特点
VoIume (大量)、
Velocity (高速)、
Variety (多样)、
Value (价值)、
Veracity (真实性)。
( 2 )大数据需经过 5 个环节: ① 数据准备; ② 存储管理; ③ 计算处理;④数据分析;⑤知识展现。
例:大数据技术框架如图所示。
下面以流行的开源大数据框架Hadoop 为例,说明大数据的关键技术:
① HDFS :能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。
② HBase :不同于一般的关系数据库,是非结构化数据存储的数据库。
③ MapReduce :一种编程模型,主要思想:概念‘“Map (映射)” 和“ Reduce (归约)”。 ④ Chukwa :用于监控大型分布式系统的数据收集系统。
( 3 )大数据关键技术。
大数据所涉及的技术很多,主要包括数据采集、数据存储、数据管理、数据分析与挖掘四个环节。在数据采集阶段主要使用的技术是数据抽取工具ETL。在数据存储环节主要有结构化数据、非结构化数据和半结构化数据的存储与访问。结构化数据一般存放在关系数据库,通过数据查询语言( SQL )来访问;非结构化(如图片、视频、 doc 文件等)和半结构化数据一般通过分布式文件系统的 NoSQL ( Not only SQL )进行存储,比较典型的 NoSQL 有 Google 的 Bigtable 、 Amazon 的 Dynamo 和 Apache 的 Hbase 。大数据管理主要使用了分布式并行处理技术,比较常用的有 MapReduce ,编程人员借助 MapReduce 可以在不会分布式并行编程的情况下,将自己的程序运行在分布式系统上。数据分析与挖掘是根据业务需求对大数据进行关联、聚类、分类等钻取和分析,并利用图形、表格加以展示,与 ETL 一样,数据分析和挖掘是以前数据仓库的范畴,只是在大数据中得以更好的利用。
HDFS
Hadoop 分布式文件系统(HDFS )是适合运行在通用硬件上的分布式文件系统,是一个高度容错性的系统,适合部署在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。
HBase
HBase 是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang 所撰写的 Google 论文“ Bigtable :一个结构化数据的分布式存储系统” , HBase 在 Hadoop 之上提供了类似于 Bigtable 的能力。利用 HBase 技术可在廉价 PC Server 上搭建起大规模结构化存储集群。 HBase 不同于一般的关系数据库,它是一个适合于非结构化数据存储的数据库。另一个不同的地方是HBase 基于列的而不是基于行的模式。
MapReduce
MapReduce 是一种编程模型,用于大规模数据集(大于 1TB )的并行运算。概念“ Map (映射)”和“ Reduce (归约) " ,和它们的主要思想,都是从函数式编程语言里借来的。它极大地方便了编程人员在不会分布式并行编程的情况下,将自己的程序运行在分布式系统上,从而实现对 HDFS 和 HBase 上的海量数据分析
Chukwa
Chukwa 是一个开源的用于监控大型分布式系统的数据收集系统。这是构建在 Hadoop 的 HDFS 和 Map / Reduce 框架之上的,继承了 Hadoop 的可伸缩性和鲁棒性。 Chukwa 还包含了一个强大而灵活的工具集,可用于展示、监控和分析已收集的数据。
云计算
云计算
① 云计算是指基于互联网的超级计算棋式,通过互联网来提供大型计算能力和动态易扩展的虚拟化资源。
② 云计算的特点:超大规模、虚拟化、高可靠性、通用性、高可扩展性、按需服务、极其廉价、潜在的危险性。
③ 云计算的架构可分为三个层次:基础设施即服务( IaaS )、平台即服务 (PaaS)、软件即服务(SaaS)。从服务层次来分,云计算的应用也可分为这三个层次。从应用范围来分,云计算可分为公有云、私有云、混合云。
④ 云计算服务类型。云计算是一种基于并高度依赖于 Intemet (是一种基于互联网的计算方式),用户与实际服务提供的计算资源相分离,集合了大量计算设备和资源,并向用户屏蔽底层差异的分布式处理架构。
云计算技术架构4层:设施层、资源层、资源控制层、服务层。
物联网
物联网
(1)物联网架构。
① 感知层:负责信息采集和物物之间的信息传输。
② 网络层:是物联网三层中标准化程度最高、产业化能力最强、最成熟的部分。
③ 应用层:实现应用。
(2)物联网关健技术。
感知层作为物联网架构的基础层面,主要技术包括:产品和传感器(条码、 RFID、传感器等)自动化识别技术、无线传输技术 (WLAN 、 Bluetooth 、 ZigBee 、 UWB )、自组织组网技术、牛间件技术。
移动互联
移动互联网
( 1 )移动互联网=移动通信网络+互联网内容和,它不仅是互联网的延伸,而应用且是互联网的发展方向。
( 2 )移动互联网不仅具有传统互联网应用的简单复制和移植,还具有如下新特征:
接入移动性时间碎片性生活相关性终端多样性
( 3 )移动互联网关键技术
① 架构技术 SOA : Service Oriented Architect ,面向服务的架构,不涉及底层编程接口和通信模型, Web Service 是目前实现 SOA 的主要技术。
② 页面展示技术 Web2.0 :严格来说不是一种技术,而是互联网思维模式。
Web 1.0和Web 2.0的区别
③ 页面展示技术HTML5 :在原有HTML 基础上扩展了 API ,最大优势是可以在网页上直接调试和修改。
④ 主流开发平台 Android :特点是入门容易,因为 Android 的中间层多以 Java 实现,指令相对减少、开发相对简单,而且开发社群活跃,开发资源丰富。
⑤ 主流开发平台iOS :一个非开源的操作系统,开发人员必须加入苹果开发者计划,需要付款以获得苹果的批准,开发语言是 Objective-C 、 C 和 C + + ,开发难度大于 Android 。
⑥ 主流开发平台 Windows Phone :微软的一款手机操作系统,开发技术有 C 、 C + +、 C #等。
商业智能
商业智能
商业智能是通过对商业信息的搜集、管理和分析,使企业的各级决策者获得知识或洞察力,促使他们做出有利决策的一种技术。商业智能通过对组织中分散的、独立存在的大量数据进行分析,并转化为有用知识,帮助企业进行决策。商业智能应能提供业务解决方案。
· Bl 系统主要包括数据预处理、建立数据仓库、数据分析和数据展现 4 个主要阶段。
数据预处理是整合企业原始数据的第一步,它包括数据的抽取( extraction )、转换 (transformation )和加载( load )三个过程( ETL 过程);建立数据仓库则是处理海量数据的基础;数据分析是体现系统智能的关键,一般采用 OLAP 和数据挖掘两大技术。 OLAP 不仅进行数据汇总/聚集,同时还提供切片、切块、下钻、上卷和旋转等数据分析功能,用户可以方便地对海量数据进行多维分析。数据挖掘的目标则是挖掘数据背后隐藏的知识.通过关联分析、聚类和分类等方法建立分析模型,预测企业未来发展趋势和将要面临的向题:在海量数据和分析手段增多的情况下,数据展现则主要保障系统分析结果的可视化。
一般任务,数据仓库、OLAP和数据挖掘技术是BI的三大组成部分。
商业智能的核心内容是:
① 从企业内不同业务系统中提取数据,并清洗确保数据正确。
② 通过 ETL 过程,即抽取( Extraction )、转换( Transformation ) 和装载( Load ) ,整合到数据仓库。
③ 通过查询、分析、数据挖掘,提炼辅助决策信息,支持决策。商业智能具有的主要功能有:数据仓库、数据ETL 、报表、分析功能。
数据仓库技术与商业智能
数据仓库(Data Warehouse)是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支持管理决策。
互联网+
互联网+
2015 年,国务院发布了 《 关于积极推进“互联网+"行动的指导意见 》, 其总体思路是顺应世界“互联网+"发展趋势,充分发挥我国互联网的规模优势和应用优势,推动互联网由消费领域向生产领域拓展,加速提升产业发展水平,增强各行业创新能力,构筑经济社会发展新优势和新动能。
智慧城市
功能层
支撑体系
人工智能
人工智能
人工智能的特点:
一是具有感知能力,即具有能够感知外部世界、获取外部信息的能力,这是产生智能活动的前提条件和必要条件;
二是具有记忆和思维能力,即能够存储感知到的外部信息及由思维产生的知识,同时能够利用已有的知识对信息进行分析、计算、比较、判断、联想、决策;
三是具有学习能力和自适应能力,即通过与环境的相互作用,不断学习积累知识,使自己能够适应环境变化;
四是具有行为决策能力,即对外界的刺激做出反应,形成决策并传达相应的信息。
区块链
区块链
区块链( Blockchain )是分布式数据存储、点对点传辅、共识机制、加密算法等计算机技术的新型应用棋式。所谓共识机制是指区块链系统中实现不同节点之间建立信任、获取权益的数学算法。
区块链本质上是一个去中心化的数据库,同时是比特币的底层技术。区块链是一串使用密码字方法相关联产生的数据块,每一个数据块中包含了一次比特币网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。
5G
5G
2019 年 6 月 6 日,中国工信部 6 日正式向中国电信、中国移动、中国联通、中国广电发放 5G 商用牌照。按国家统计,全世界 5G 标准立项统计,中国 21 项,美国 9 项,欧洲 14 项,日本 4 项,韩国 2 项。
5G 网络峰值理可达下行 10Gbps 。根据各地试点表明,目前试用阶段一般在下行 1Gbps ,左右,未来 5G 网络的穿输速率可达下行 IOGbps。
原文链接:cyz
声明:壹贝网所有作品(图文、音视频)均由用户自行上传分享,仅供网友学习交流,版权归原作者wangteng@admin所有,原文出处。若您的权利被侵害,请联系 756005163@qq.com 删除。
本文链接:https://www.ebaa.cn/10446.html