上海品茶

您的当前位置: 上海品茶 > 上海品茶 > 行业知识 > 什么是大数据存储?与传统数据存储的区别分析

什么是大数据存储?与传统数据存储的区别分析

随着云计算的快速发展,一种依托云计算而产生的大数据存储技术逐渐受到互联网用户的欢迎。那么,什么是大数据存储技术?包括哪些?与传统存储技术的区别在哪?本文将具体介绍。

大数据存储

1.大数据存储技术

大数据存储是指把不同来源、不同格式及不同类型的数据在逻辑上或物理上有机的集中,并纳入到数据聚合平台中,方便数据的输入和输出。

大数据存储技术分为文件系统和数据库系统两部分。大数据文件系统解决海量且形态各异的数据存储问题,分布式系统的容错问题及大数据中的冗余问题等。目前典型的大数据文件系统有:分布式文件系统GFS(Google File System)和Ceph、以流数据访问模式存储超大文件的HDFS(Hadoop Distributed File Sys-tem)、基于分布式内存的“低延迟”文件系统Tachyou。

2.大数据存储技术分类

(1)基础架构:云存储、分布式文件存储等。

(2)数据收集:在大数据的生命周期中,数据采集处于第一个环节。根据MapReduce产生数据的应用系统分类,大数据的采集主要有4种来源:管理信息系统、Web信息系统、物理信息系统、科学实验系统。

(3)数据处理:对于采集到的不同的数据集,可能存在不同的结构和模式,如文件、XML 树、关系表等,表现为数据的异构性。对多个异构的数据集,需要做进一步集成处理或整合处理,将来自不同数据集的数据收集、整理、清洗、转换后,生成到一个新的数据集,为后续查询和分析处理提供统一的数据视图。

(4)数据存取:大数据的存去采用不同的技术路线,大致可以分为3类。第1类主要面对的是大规模的结构化数据。第2类主要面对的是半结构化和非结构化数据。第3类面对的是结构化和非结构化混合的大数据。

3.大数据存储技术与传统数据存储对比

大数据应用的一个主要特点是实时性或者近实时性。类似的金融类的应用,能为业务员从数量巨大种类繁多的数据里快速挖掘出相关信息,能帮助他们领先于竞争对手做出交易的决定。数据通常以每年增长50%的速度快速激增,尤其是非结构化数据。随着科技的进步,有越来越多的传感器采集数据、移动设备、社交多媒体等等,所以数据只可能继续增长。总而言之,大数据需要非常高性能、高吞吐率、大容量的基础设备。

在数据库系统方面,相对于传统关系型数据库技术,大数据的数据库系统更重视分布式数据存储的一致性问题。根据一致性要求的强弱不同,分布式数据存储策略可分为ACID和BASE两类。ACID是指数据库事务具有的4个特性:原子性(atomicity)、一致性(consistency)、隔离性(isolation)、持久性(durability),对一致性要求比较强。BASE则指:基本可用(basical-ly available)、柔性事务/软状态(soft-state,允许暂时不同步)和最终一致性(eventual consistency),对一致性要求较弱。

以上梳理了大数据存储技术的定义、方法及其与传统数据存储技术的区别,希望对你有所帮助,如果你想了解更多相关内容,敬请关注三个皮匠报告行业知识栏目。

本文由@2200 发布于三个皮匠报告网站,未经授权禁止转载。

推荐阅读:

什么叫云存储?为什么用云存储?优劣势分析

什么是数据存储?如何解决数据存储问题?

PlantData:大规模知识图谱数据存储(109页).pdf

本文由作者2200发布,版权归原作者所有,禁止转载。本文仅代表作者个人观点,与本网无关。本文文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

相关报告

突围升级数字化助推后疫情时代保险行业渠道转型(18页).pdf
突围升级数字化助推后疫情时代保险行业渠道转型(18页).pdf

突围升级, 数字化助推后疫情时代 保险行业渠道转型 2 目录目录 前言前言3 一、保险销售受疫情影响的主要症结一、保险销售受疫情影响的主要症结4 二、疫情后保险业加速变革的总体趋势二、疫情后保险业加速变革的总体趋势5 1. 业务精细化运营5 2. 数字化建设聚焦6 三、保险公司渠道转型与升级策略三、保险公司

新冠疫情对制药行业的趋势性影响与企业的应对之道[6页].pdf
新冠疫情对制药行业的趋势性影响与企业的应对之道[6页].pdf

既有正面促进也有 负面冲击。短期内,制药企业、医疗机构、医药流通与零 售、健康险这四大板块受到的影响不尽相同

【防疫应变】疫情下的食品行业问题与对策(35页).pdf
【防疫应变】疫情下的食品行业问题与对策(35页).pdf

 【防疫应变】 商务部数据显示,2019年春节期间餐饮和零售企业销售额 超过1万亿元。中国估计2020年同期受疫情影响, 该部分收入或减少50%至70%。1餐饮板块受疫情影响尤其 突出:中国烹饪协会调研表示2020年春节期间94%的餐饮 企业收入相比去年跌了70%以上,疫情期间93%的餐饮企 业关闭门店,其中

新冠病毒危机的全球应对:监管措施汇总[41页].pdf
新冠病毒危机的全球应对:监管措施汇总[41页].pdf

监管措施汇总监管措施汇总 新冠病毒危机的全球应对新冠病毒危机的全球应对 截至2020年4月1日整理 上述信息截至2020年年3月月31日日,为非完全统计; 由网络成员所汇集整理。 新冠病毒应对措施 PwC 2020年4月1日 2 点击地图上的以浏览 相关国家或地区的中央银行和/或金 融监管机构出台的疫情应对

保险行业后疫情时代:保险业加速转型的五大关键点[18页].pdf
保险行业后疫情时代:保险业加速转型的五大关键点[18页].pdf

后疫情时代: 保险业加速转型的五大关键点 随着世界部分地区开始走出新冠疫情的高峰,保 险公司的战略焦点将转向未来的竞争格局,思考 新形势对业务的影响及如何脱颖而出。本报告提 出的五大关键点,将有助于保险公司在后疫情时 代变得更强大且更具韧性。 目录目录 3后疫情时代的世界后疫情时代的世界 4凤凰涅槃,浴火重

2020年第一季度中国上市银行业绩分析——疫情影响初现携手共克时艰(40页).pdf
2020年第一季度中国上市银行业绩分析——疫情影响初现携手共克时艰(40页).pdf

疫情影响初现,携手共克时艰疫情影响初现,携手共克时艰 2020年第一季度中国上市银行业绩分析 本期快讯的编写 团队包括: 主编:主编:周章 副主编:副主编:邓亮 编写团队成员:编写团队成员: 管玉亚、金劭、王金龙 (按姓氏拼音首字母顺序排列) 专家委员会:专家委员会: 梁国威、何淑贞、朱宇、叶少宽 “ 20 

拨云见日新冠疫情影响下财富管理业务的转型升级(28页).pdf
拨云见日新冠疫情影响下财富管理业务的转型升级(28页).pdf

 拨云见日,新冠疫拨云见日,新冠疫 情影响下财富管理情影响下财富管理 业务的转型业务的转型升级升级 财富管理解决方案 2 目录目录 前言4 第一部分新冠疫情背景下的财富管理行业5 一、疫情对经济和个人财富的影响6 1. 新冠肺炎疫情冲击下,个人财富管理意识增强,资产配置成为个人 财富保障的关键 6 2.疫情带

全球半导体市场机遇(18页).pdf
全球半导体市场机遇(18页).pdf

全球半导体市场机遇 拥抱人工智能,扩大市场份额 2 全球半导体市场机遇 | 前景乐观 前景乐观 当今科技创新迅猛发展,半导体行业有望持续增长。对半导体行业来 说,2019年会相对疲软,但预计其将在2020年实现复苏并 保持繁荣。2018年半导体行业销售总额为4,810亿美元。今后四年, 即到2022年底,

会员购买
客服

专属顾问

商务合作

机构入驻、侵权投诉、商务合作

服务号

三个皮匠报告官方公众号

回到顶部