Skip to content
muyannian edited this page Jul 23, 2013 · 6 revisions

mdrill介绍:

mdrill是阿里妈妈-adhoc-海量数据多维自助即席查询平台下的一个子项目。
旨在帮助用户在几秒到几十秒的时间内,分析百亿级别的任意维度组合的数据。
mdrill是一个分布式的在线分析查询系统,基于hadoop,lucene,solr,jstorm等开源系统作为实现,基于SQL的查询语法。 mdrill是一个能够对大量数据进行分布式处理的软件框架。mdrill是快速的高性能的,他的底层因使用了索引、列式存储、以及内存cache等技术,使得数据扫描的速度大为增加。mdrill是分布式的,它以并行的方式工作,通过并行处理加快处理速度。

mdrill适合的应用:

  • 总数据规模在十亿到百亿,上百个维度
  • 每次查询扫描的总数据量超过亿
  • 想要快速的(几秒)得到统计结果
  • 数据按天分布,每天单表的数据增量小于一亿(10台48G内存的机器来算)
    <h1><strong>生产环境中的mdrill:</strong></h1>
    <ul>
      <li>总数据量400亿+</li>
      <li>单次扫描1个月30亿的记录,扫描的列数为1~12列</li>
      <li>机器配置为10台48G内存,2T*10的硬盘的机器</li>
      <li>根据查询条件的不同,单次查询时间在5秒~60秒之间</li>
    </ul>
    <h1><strong>海狗常见的统计功能</strong></h1>
    <ul>
      <li>查询明细以及对明细TopN排序</li>
      <li>对数据进行sum,max,min,count,avg,dist等统计</li>
      <li>多列group by求sum,max,min,count以及topN排序</li>
      <li>支持like,in,not in,等于,不等于,大于等于,小于等于等过滤方式</li>
    </ul>
  </div>
</div>
Clone this wiki locally