大数据存储与应用特点及技术路线分析

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了大数据存储与应用特点及技术路线分析相关的知识,希望对你有一定的参考价值。

大数据存储与应用特点及技术路线分析大数据时代,数据呈爆炸式增长。从存储服务的发展趋势来看,一方面,对数据的存储量的需求越来越大;另

参考技术A

大数据存储与应用特点及技术路线分析

大数据时代,数据呈爆炸式增长。从存储服务的发展趋势来看,一方面,对数据的存储量的需求越来越大;另一方面,对数据的有效管理提出了更高的要求。大数据对存储设备的容量、读写性能、可靠性、扩展性等都提出了更高的要求,需要充分考虑功能集成度、数据安全性、数据稳定性,系统可扩展性、性能及成本各方面因素。

大数据存储与应用的特点分析

“大数据”是由数量巨大、结构复杂、类型众多数据构成的数据集合,是基于云计算的数据处理与应用模式,通过数据的整合共享,交叉复用形成的智力资源和知识服务能力。其常见特点可以概括为3V:Volume、Velocity、Variety(规模大、速度快、多样性)。

大数据具有数据规模大(Volume)且增长速度快的特性,其数据规模已经从PB级别增长到EB级别,并且仍在不断地根据实际应用的需求和企业的再发展继续扩容,飞速向着ZB(ZETA-BYTE)的规模进军。以国内最大的电子商务企业淘宝为例,根据淘宝网的数据显示,至2011年底,淘宝网最高单日独立用户访问量超过1.2亿人,比2010年同期增长120%,注册用户数量超过4亿,在线商品数量达到8亿,页面浏览量达到20亿规模,淘宝网每天产生4亿条产品信息,每天活跃数据量已经超过50TB.所以大数据的存储或者处理系统不仅能够满足当前数据规模需求,更需要有很强的可扩展性以满足快速增长的需求。

(1)大数据的存储及处理不仅在于规模之大,更加要求其传输及处理的响应速度快(Velocity)。

相对于以往较小规模的数据处理,在数据中心处理大规模数据时,需要服务集群有很高的吞吐量才能够让巨量的数据在应用开发人员“可接受”的时间内完成任务。这不仅是对于各种应用层面的计算性能要求,更加是对大数据存储管理系统的读写吞吐量的要求。例如个人用户在网站选购自己感兴趣的货物,网站则根据用户的购买或者浏览网页行为实时进行相关广告的推荐,这需要应用的实时反馈;又例如电子商务网站的数据分析师根据购物者在当季搜索较为热门的关键词,为商家提供推荐的货物关键字,面对每日上亿的访问记录要求机器学习算法在几天内给出较为准确的推荐,否则就丢失了其失效性;更或者是出租车行驶在城市的道路上,通过GPS反馈的信息及监控设备实时路况信息,大数据处理系统需要不断地给出较为便捷路径的选择。这些都要求大数据的应用层可以最快的速度,最高的带宽从存储介质中获得相关海量的数据。另外一方面,海量数据存储管理系统与传统的数据库管理系统,或者基于磁带的备份系统之间也在发生数据交换,虽然这种交换实时性不高可以离线完成,但是由于数据规模的庞大,较低的数据传输带宽也会降低数据传输的效率,而造成数据迁移瓶颈。因此大数据的存储与处理的速度或是带宽是其性能上的重要指标。

(2)大数据由于其来源的不同,具有数据多样性的特点。

所谓多样性,一是指数据结构化程度,二是指存储格式,三是存储介质多样性。对于传统的数据库,其存储的数据都是结构化数据,格式规整,相反大数据来源于日志、历史数据、用户行为记录等等,有的是结构化数据,而更多的是半结构化或者非结构化数据,这也正是传统数据库存储技术无法适应大数据存储的重要原因之一。所谓存储格式,也正是由于其数据来源不同,应用算法繁多,数据结构化程度不同,其格式也多种多样。例如有的是以文本文件格式存储,有的则是网页文件,有的是一些被序列化后的比特流文件等等。所谓存储介质多样性是指硬件的兼容,大数据应用需要满足不同的响应速度需求,因此其数据管理提倡分层管理机制,例如较为实时或者流数据的响应可以直接从内存或者Flash(SSD)中存取,而离线的批处理可以建立在带有多块磁盘的存储服务器上,有的可以存放在传统的SAN或者NAS网络存储设备上,而备份数据甚至可以存放在磁带机上。因而大数据的存储或者处理系统必须对多种数据及软硬件平台有较好的兼容性来适应各种应用算法或者数据提取转换与加载(ETL)。

大数据存储技术路线最典型的共有三种:

第一种是采用MPP架构的新型数据库集群,重点面向行业大数据,采用Shared Nothing架构,通过列存储、粗粒度索引等多项大数据处理技术,再结合MPP架构高效的分布式计算模式,完成对分析类应用的支撑,运行环境多为低成本 PC Server,具有高性能和高扩展性的特点,在企业分析类应用领域获得极其广泛的应用。

这类MPP产品可以有效支撑PB级别的结构化数据分析,这是传统数据库技术无法胜任的。对于企业新一代的数据仓库和结构化数据分析,目前最佳选择是MPP数据库。

第二种是基于Hadoop的技术扩展和封装,围绕Hadoop衍生出相关的大数据技术,应对传统关系型数据库较难处理的数据和场景,例如针对非结构化数据的存储和计算等,充分利用Hadoop开源的优势,伴随相关技术的不断进步,其应用场景也将逐步扩大,目前最为典型的应用场景就是通过扩展和封装 Hadoop来实现对互联网大数据存储、分析的支撑。这里面有几十种NoSQL技术,也在进一步的细分。对于非结构、半结构化数据处理、复杂的ETL流程、复杂的数据挖掘和计算模型,Hadoop平台更擅长。

第三种是大数据一体机,这是一种专为大数据的分析处理而设计的软、硬件结合的产品,由一组集成的服务器、存储设备、操作系统、数据库管理系统以及为数据查询、处理、分析用途而特别预先安装及优化的软件组成,高性能大数据一体机具有良好的稳定性和纵向扩展性。

以上是小编为大家分享的关于大数据存储与应用特点及技术路线分析的相关内容,更多信息可以关注环球青藤分享更多干货

大数据分析技术与应用一站式学习(值得收藏)_v20200418

技术图片?所谓大数据(Big Data),就是需要处理的数据量非常巨大,已经达到了 TB、PB 甚至 EB、ZB 级别,需要成千上万块硬盘才能存储。传统的技术手段在大数据面前不堪一击,只能探索一套新的解决方案。

这套《大数据技术与应用教程》对大数据处理过程中涉及的各种关键技术做了详细的介绍,包括大数据思维、大数据采集、大数据处理、大数据存储、大数据挖掘、大数据应用等各个环节,帮助初学者规划了一条完整的学习路线。

这套教程只是一本入门指南手册,目的是给初学者指引方向,它虽然讲解了大数据的各种技术,但并不非常深入。对于大数据开发人员,还需要结合其它教程深度学习;对于大数据从业者,这些知识已经足够了。

 

 

  1. 大数据是什么?1分钟了解大数据的概念!

  2. 大数据时代是什么意思?

  3. 大数据的产生和作用(详细分析)

  4. 大数据时代的10个重大变化(长篇神文)

  5. 大数据处理的基本流程:数据抽取与集成+数据分析+数据解释

  6. 大数据开发涉及到的关键技术有哪些?

  7. 大数据采集技术概述

  8. 通过系统日志采集大数据

  9. Scrapy网络爬虫简介

  10. 通过网络爬虫采集大数据

  11. 大数据预处理架构和方法简介

  12. 大数据预处理之数据清洗

  13. 大数据预处理之数据集成

  14. 大数据预处理之数据转换

  15. 大数据预处理之数据消减

  16. 离散化和数值概念层次树简介

  17. 大数据处理技术有哪些?

  18. GFS、MapReduce和BigTable:Google的三种大数据处理系统

  19. Hadoop大数据处理框架简介

  20. Hadoop HDFS分布式文件系统简介

  21. HDFS基本原理和设计理念

  22. HDFS架构和实现机制简介

  23. HDFS读取和写入数据简介

  24. HDFS两种操作方式:命令行和Java API

  25. NoSQL非关系型数据库简介

  26. NoSQL数据库类型简介

  27. Hadoop HBase数据库简介

  28. HBase列式数据模型简介

  29. HBase Shell常用命令和基本操作(附带实例)

  30. HBase主要运行机制(物理存储和逻辑架构)

  31. HBase常用Java API

  32. HBase Java API编程实例

  33. Hadoop MapReduce简介

  34. Hadoop MapReduce架构

  35. Hadoop MapReduce工作流程

  36. MapReduce编程实例:单词计数

  37. MapReduce执行流程和Shuffle过程

  38. MapReduce实例分析:单词计数

  39. Spark是什么?Spark和Hadoop的区别

  40. Spark RDD是什么?

  41. Spark总体架构和运行流程

  42. Spark生态圈简介

  43. Spark开发实例(编程实践)

  44. Spark Streaming简介

  45. Spark Streaming的系统架构

  46. Spark Streaming编程模型

  47. Spark DStream相关操作

  48. Spark Streaming编程实战(开发实例)

  49. 数据挖掘是什么?

  50. Spark MLlib简介

  51. 数据挖掘之分类和预测简介

  52. 决策树和朴素贝叶斯算法简介

  53. 回归分析预测技术简介

  54. 什么是聚类分析?聚类分析方法的类别

  55. k-means聚类算法简介

  56. DBSCAN聚类算法简介

  57. 数据挖掘之关联规则分析简介

  58. Apriori算法和FP-Tree算法简介

  59. 基于大数据的精准营销

  60. 基于大数据的个性化推荐系统

  61. 大数据预测(大数据核心应用)

  62. 大数据的其他应用领域

  63. 大数据可以应用在哪些行业?

  64. 大数据在金融行业的应用

  65. 大数据在互联网行业的应用

  66. 大数据在物流行业的应用

 

技术图片

以上是关于大数据存储与应用特点及技术路线分析的主要内容,如果未能解决你的问题,请参考以下文章

大数据技术

大数据运营之孕育:分析处理系统容量设计方法

传统大数据存储的架构都有哪些?各有啥特点?

求大数据分析技术?

大数据分析的特点都有哪些

vertica在电信的应用