您当前的位置:首页 > 计算机论文>计算机应用论文

infobright: 基于mysql的数据仓库综述

2015-07-07 09:32 来源:学术参考网 作者:未知
摘要:infobright是基于mysql的,但不装mysql亦可,因为它本身就自带了一个。mysql可以粗分为逻辑层和物理存储引擎,infobright主要实现的就是一个存储引擎,但因为它自身存储逻辑跟关系型数据库根本不同,所以,它不能像innodb那样直接作为插件挂接到mysql,它的逻辑层是mysql的逻辑层加上它自身的优化器。
  关键词:infobright;mysql整合;数据仓库;高数据压缩比  
 一、技术概况
  infobright进行复杂的查询时,通过其专利的知识网格(knowledgegrid)和综合优化技术,能够实现优异的性能表现。数据在导入infobright之后将被高度压缩并以“数据块(datapack)”的形式存储,于此同时,知识网格会自动创建一个非常紧凑的元数据,其中包含了统计数据和数据块之间的关系信息。因此当接收到查询时,infobright查询优化器可以通过元数据智能的决定哪些数据块与查询请求相关,并将之解压。基于知识网格技术,infobright不需要专门对数据进行划分,也不需要建立索引,从而节省查询处理时间,提升响应速度。
  基于列的数据架构infobright实施、管理非常简便,不需要人工调试、数据分区和创建索引,有效的降低了管理成本,此外infobright不需要运行在特殊的专用硬件上,同时它的数据压缩比很高(10:1—40:1),比任何其他数据仓库系统对存储设备的占用都小。wWW.lw881.com这些特性让infobright为企业it部门降低了预算上的负担。
  二、功能
  infobright企业版——分析型高性能数据仓库
  在随时在线的今天,需要进行业务分析的数据规模惊人增长。商业决策需依托海量数据的实时访问,企业才能保证正确方向。
  infobright是一个基于独特的专利知识网格技术的列式数据库,能够降低您90%的管理工作量。使用infobright不需要创建特殊的数据库模式,无需创建和维护索引,无需对数据进行分区,甚至不需要手动调整,知识网格就会在原始数据导入时,自动创建和维护数据,并用以优化每一个查询。在一台pc服务器上,infobright企业版在对50tb甚至更多数据量进行多并发复杂查询时,能够显示出令人惊叹的速度,相比于mysql,其查询速度提升了数倍甚至数十倍。在同类产品中,infobright的单机性能处于领先地位。
  三、高数据压缩比
  1.行业领先的数据压缩技术
  如果您的系统数据量每天都在快速增长,受限于磁盘的容量与传输速率,您进行备份的成本与时间将快速增加,直至您无法承受。幸运的是,软件技术的发展速度超越了磁盘数据传输技术的发展速度,infobright可以将数据以10:1至40:1的比率压缩,通过知识网格与列式架构的结合,极大的提升了查询响应速度,并降低了存储成本。通过列式架构和超压缩算法,10tb的原始数据在infobright中将被压缩至1tb,对某些类型的数据,最高可以达到40:1的压缩率。并且infobright压缩的速度非常快,目前已经可以以每小时1tb甚至更快的速度向infobright导入数据,从而让您的数据仓库系统接近“实时”工作的状态。
  如果您的企业正苦于应对剧增的数据规模、增长的客户需求以及较高的用户期望,同时优化it投入,infobright先进的数据库技术就可能帮助到您。让您的it团队能专注于快速完成业务交付而非基础架构,才能创造更大商业价值。
  2.mysql整合
  (1)与mysql整合
  infobright是基于mysql开发的分析型数据库,mysql原有用户可以通过infobright得到理想的数据仓库解决方案,它使用mysql用户熟悉的界面,对基于mysql开发的应用不需要进行改动,就可以无缝升级到infobright。与mysql相兼容的bi工具及etl工具,infobright都能完美支持。
  三、技术特性
  sql支持全面支持ansisql-92标准和sql-99扩展标准中view和存储过程的部分
  1.灵活的schema支持。支持所有schema设计;
  2.行业标准接口。
支持标准数据库接口,包括odbc、jdbc和本地连接;
  3.api接口支持支持的api接口包括c、c++、c#、borlanddelphi(viadbexpress)、eiffeel、smalltalk、java(withanativejavadriverimplementation),lisp,perl,php,python,ruby,realbasic,freebasic,andtcl;
  4.dml支持。支持dml语句(insert、update、delete);
  5.并发用户数。支持至多500个数据库用户,32个并发查询(视cpu核心数与内存大小而定);
  6.操作系统支持。windowsserver2003/2008(64-bit,32-bit),solaris10(64-bit),redhatenterpriselinux5(64-bit),novellsuselinuxenterprise10,redhatenterpriselinux5advancedserver(64-bit),debian‘lenny’(64-bit),orcentos5.2(64-bit)
  7.处理器支持。最少4g内存的intel和amdx86架构服务器(建议16g内存或更多)

  8.数据导入方式支持。infobright企业版支持两种数据导入方式。通过文本方式向mysql中导入,或通过文本和二进制文件的方式向infobright中导入(最高280gb/小时)。
  2.在线分析
  无论您的公司是在线广告网络,零售商,手机广告服务提供商或是任何其他的制造业,分析的重要性都与与日俱增,了解您网站的性能、您的客户的访问行为、评估广告和营销活动的效果,并分析成功与失败之间的差异,这能够让您企业与竞争对手拉开差距,取得最终的胜利。而这需要您对来自网页和离线方式的大量数据进行有效的利用,infobright让您能够用低成本的方式轻松获得这种能力,相比与其他类似的方案,infobright的成本低廉,管理简便,降低了您获得竞争优势的门槛。
  3.数据集市(datamart)
  数据集市通常定义为包含特定应用分析的数据仓库,其分析应用与用户的业务紧耦合,具有较强的专业特性,因此通常针对集团内部某个特定的部门建设。在过去几年里,数据集市系统的实施数量快速增长,这种增长是由商业用户快速查询的需求驱动的。
  过去数据集市项目由集团的it部门统一实施,而现在,越来越多的集团内部用户部门自行实施数据集市项目,并由内部it经理担任实施负责人,以确保数据集市的功能与需求吻合。
  四、infobright几大优点:
  1.高压缩比率,平均压缩比可达10:1,甚至可以达到40:1,我用infobright把3.1g的数据存成不足300m。
  2.列存储,即使数据量十分巨大,查询速度也很快。用于数据仓库,处理海量数据没一套可不行。
  3.不需要建索引,就避免了维护索引及索引随着数据膨胀的问题。把每列数据分块压缩存放,每块有知识网格节点记录块内的统计信息,代替索引,加速搜索。
  4.单一台服务器可以高效地读写30t数据。具有可扩展性,这里是指对于同样的查询,当数据量是10t时,它耗费的时间不应该比1t数据量时慢太多,基本是一个数量级内。
  与mysql对比:
  1.infobright适用于数据仓库场合,即非事务、非实时、非多并发;分析为主;存放既定的事实(基本不会再变),例如日志,或汇总的大量的数据。所以它并不适合于应对来自网站用户的请求。实际上它取一条记录比mysql要慢很多,但它取100w条记录会比mysql快。
  2.mysql的总数据文件占用空间通常会比实际数据多,因为它还有索引。infobright的压缩能力很强大,按列按不同类型的数据来压缩。
  3.服务形式与接口跟mysql一致,可以用类似mysql的方式启用infobright服务,然后原来连接mysql的应用程序都可以以类似的方式连接与查询infobright。这对熟练mysql者来说是个福音,学习成本基本为0。
  infobright有两个发布版:开源的ice及闭源商用的iee。ice提供了足够用的功能,但不能insert,delete,update,只能loaddatainfile。iee除提供更充分的功能外,据说查询速度也要更快。
  五、不足之处
  不支持数据更新:社区版infobright只能使用“loaddatainfile”的方式导入数据,不支持insert、update、delete
  不支持高并发:只能支持10多个并发查询
  参考文献:
  [1]http://blog.s135.com/infobright/
  [2]http://www.actionsky.com/infobright/?bdclkid=fgu_j5nppoo1yvgffipymhwiw7tk0gscfqe_15odworp
  [3]http://www.wentrue.net/blog/?p=283。
相关文章
学术参考网 · 手机版
https://m.lw881.com/
首页