当前位置: 首页 > news >正文

网站开发亿玛酷信赖/百度爱采购平台官网

网站开发亿玛酷信赖,百度爱采购平台官网,别墅装修设计公司哪家好,长沙做网站智投未来转载于 http://www.cnblogs.com/xia520pi/p/4816507.html,谢谢 首先我们通过一个Storm和Hadoop的对比表格,来了解Storm中的基本概念。 接下来我们再来具体看一下这些概念。 Nimbus:负责资源分配和任务调度。Supervisor:负责接受…

转载于 http://www.cnblogs.com/xia520pi/p/4816507.html,谢谢


首先我们通过一个Storm和Hadoop的对比表格,来了解Storm中的基本概念。




接下来我们再来具体看一下这些概念。

  • Nimbus:负责资源分配和任务调度。
  • Supervisor:负责接受nimbus分配的任务,启动和停止属于自己管理的worker进程。
  • Worker:运行具体处理组件逻辑的进程。
  • Task:worker中每一个spout/bolt的线程称为一个task。在Storm0.8之后,task不再与物理线程对应,同一个spout/bolt的task可能会共享一个物理线程,该线程称为executor。

  下面这个图描述了以上几个角色之间的关系。




图1.2 Storm角色间关系

  • Topology:Storm中运行的一个实时应用程序,因为各个组件间的消息流动形成逻辑上的一个拓扑结构。
  • Spout:在一个topology中产生源数据流的组件。通常情况下spout会从外部数据源中读取数据,然后转换为topology内部的源数据。Spout是一个主动的角色,其接口中有个nextTuple()函数,Storm框架会不停地调用此函数,用户只要在其中生成源数据即可。
  • Bolt:在一个topology中接受数据然后执行处理的组件。Bolt可以执行过滤、函数操作、合并、写数据库等任何操作。Bolt是一个被动的角色,其接口中有个execute(Tuple input)函数,在接受到消息后会调用此函数,用户可以在其中执行自己想要的操作。
  • Tuple:一次消息传递的基本单元。本来应该是一个key-value的map,但是由于各个组件间传递的tuple的字段名称已经事先定义好,所以tuple中只要按序填入各个value就行了,所以就是一个value list.
  • Stream:源源不断传递的tuple就组成了stream。

  Hadoop是实现了MapReduce的思想,将数据切片计算来处理大量的离线数据。Hadoop处理的数据必须是已经存放在hdfs上或者类似hbase的数据库中,所以Hadoop实现的时候是通过移动计算到这些存放数据的机器上来提高效率的;而Storm不同,Storm是一个流计算框架,处理的数据是实时消息队列中的,所以需要我们写好一个topology逻辑放在那,接收进来的数据来处理,所以是通过移动数据平均分配到机器资源来获得高效率。

  Hadoop的优点是处理数据量大(瓶颈是硬盘和namenode,网络等),分析灵活,可以通过实现dsl,mdx等拼接Hadoop命令或者直接使用hive,pig等来灵活分析数据。适应对大量维度进行组合分析。其缺点就是慢:每次执行前要分发jar包,Hadoop每次map数据超出阙值后会将数据写入本地文件系统,然后在reduce的时候再读进来。

  Storm的优点是全内存计算,因为内存寻址速度是硬盘的百万倍以上,所以Storm的速度相比较Hadoop非常快(瓶颈是内存,cpu)。其缺点就是不够灵活:必须要先写好topology结构来等数据进来分析。

  Storm 关注的是数据多次处理一次写入,而 Hadoop 关注的是数据一次写入,多次查询使用。Storm系统运行起来后是持续不断的,而Hadoop往往只是在业务需要调用数据。


http://www.jmfq.cn/news/5024035.html

相关文章:

  • 郑州工程造价信息网/广州seo公司
  • 西安专题门户响应式网站建设/百度输入法免费下载
  • 医院做网站备案都需要什么/seo搜索优化工具
  • 南宁网站排名优化电话/最近七天的新闻大事
  • 网站建设 增值税/windows优化大师有必要安装吗
  • 青海住房和城乡建设厅网站首页/seo技术员
  • 怎么做网站地图的样式/网站推广优化c重庆
  • 一站式做网站系统/百度信息流广告怎么收费
  • 沈阳市住房和城乡建设厅网站/百度平台营销
  • 深圳创业补贴申请流程/seo网页优化服务
  • 郑州网站优化托管/鄂州网站seo
  • 郑州商城网站制作/百度客服电话24小时
  • 哪里做网站比较稳定/百度站长工具怎么关闭
  • wordpress 中文响应式/百度seo新站优化
  • 网站规划与网页设计第四版电子书/站长工具国色天香
  • dw是网页制作平台吗/网站seo排名公司
  • 威联通如何做网站/长沙网站设计
  • 网店托管公司/网站关键词优化排名
  • 杭州萧山区专门做网站的公司/如何让百度收录网址
  • 网站建设 风险/百度seo在哪里
  • 个人备案域名做企业网站/上海关键词排名优化公司
  • 淘宝客做网站怎么做/电子商务网络营销
  • wordpress 如何修改like和dislike/网络优化工程师是干什么的
  • 网站开发费用算无形资产/河南做网站优化
  • java做的网站php/深圳百度快照优化
  • 深圳市网站建设公司排名/搜索引擎营销sem包括
  • 专业的广州手机网站/google关键词工具
  • html5企业网站模板/宁德市自然资源局
  • 电子商务网站建设理论依据/百度网站怎么提升排名
  • 郑州电商网站建设/高端网站建设制作