Hadoop的主要优点:
1. Hadoop集群的扩展性是其一大特点,Hadoop可以扩展至数千个节点,对数据持续增长,数据量特别巨大的需求很合适。
2. Hadoop的成本是其另一大优势,由于Hadoop是开源项目,而且不仅从软件上节约成本,硬件上的要求也不高。目前去IOE潮流风行,低成本的Hadoop也是一大推手。
3. Hadoop生态群活跃,其周边开源项目丰富,HBase, Hive,Impala等等基础开源项目众多。
Hadoop的不足 :
1. 全量场景,任务内串行
2. 重吞吐量,响应时间完全没有保证
3. 中间结果不可见,不可分享
4. 单输入单输出,链式浪费严重
5. 链式MR不能并行
6. 粗粒度容错,可能会造成陷阱
7. 图计算不友好
8. 迭代计算不友好
Hadoop不适合做实时分析系统。
1. 从通讯层的技术上来说有如下原因:
任务分配Server不会将信息Push到计算Node,而是让计算Node通过心跳去Pull任务。
基于框架的通用性,MapReduce代码也会在HDFS中传送,在各计算Node展开,再通过启动新JVM进程装载并运行。
类似的JVM进程启停有5、6次之多。
Reduce Task只能在全部Map Task完成之后才能启动。
2. 缺乏专业的支持服务
因为是开源项目,缺少专业的商业支持服务,公司需要储备专业Hadoop知识的专家来保证系统的正常运转。
3. Hadoop可以支持百亿的数据量,但很难应对秒级响应的需求
即使是数亿的数据量,Hadoop也只适合做分钟级别的离线分析系统。
而百亿级别数据量,又需要秒级响应的案例,需要什么系统支持呢?下面介绍下大数据实时分析工具Yonghong Z-Suite。
1. Hadoop集群的扩展性是其一大特点,Hadoop可以扩展至数千个节点,对数据持续增长,数据量特别巨大的需求很合适。
2. Hadoop的成本是其另一大优势,由于Hadoop是开源项目,而且不仅从软件上节约成本,硬件上的要求也不高。目前去IOE潮流风行,低成本的Hadoop也是一大推手。
3. Hadoop生态群活跃,其周边开源项目丰富,HBase, Hive,Impala等等基础开源项目众多。
Hadoop的不足 :
1. 全量场景,任务内串行
2. 重吞吐量,响应时间完全没有保证
3. 中间结果不可见,不可分享
4. 单输入单输出,链式浪费严重
5. 链式MR不能并行
6. 粗粒度容错,可能会造成陷阱
7. 图计算不友好
8. 迭代计算不友好
Hadoop不适合做实时分析系统。
1. 从通讯层的技术上来说有如下原因:
任务分配Server不会将信息Push到计算Node,而是让计算Node通过心跳去Pull任务。
基于框架的通用性,MapReduce代码也会在HDFS中传送,在各计算Node展开,再通过启动新JVM进程装载并运行。
类似的JVM进程启停有5、6次之多。
Reduce Task只能在全部Map Task完成之后才能启动。
2. 缺乏专业的支持服务
因为是开源项目,缺少专业的商业支持服务,公司需要储备专业Hadoop知识的专家来保证系统的正常运转。
3. Hadoop可以支持百亿的数据量,但很难应对秒级响应的需求
即使是数亿的数据量,Hadoop也只适合做分钟级别的离线分析系统。
而百亿级别数据量,又需要秒级响应的案例,需要什么系统支持呢?下面介绍下大数据实时分析工具Yonghong Z-Suite。