没有找到合适的产品?
联系客服协助选型:023-68661681
提供3000多款全球软件/控件产品
针对软件研发的各个阶段提供专业培训与技术咨询
根据客户需求提供定制化的软件开发服务
全球知名设计软件,显著提升设计质量
打造以经营为中心,实现生产过程透明化管理
帮助企业合理产能分配,提高资源利用率
快速打造数字化生产线,实现全流程追溯
生产过程精准追溯,满足企业合规要求
以六西格玛为理论基础,实现产品质量全数字化管理
通过大屏电子看板,实现车间透明化管理
对设备进行全生命周期管理,提高设备综合利用率
实现设备数据的实时采集与监控
利用数字化技术提升油气勘探的效率和成功率
钻井计划优化、实时监控和风险评估
提供业务洞察与决策支持实现数据驱动决策
转帖|行业资讯|编辑:郝浩|2016-06-15 10:47:32.000|阅读 224 次
概述:本文阐述了为什么比起Hadoop之类的知名技术,类似Apache Storm这样的系统更加有用。
# 界面/图表报表/文档/IDE等千款热门软控件火热销售中 >>
让我们以经典的笔记本品牌实时情感分析(SENTIMENT ANALYSIS)为例,在进行观点分析时,处理流程应当如下图所示:
现在的问题在于:是否能够通过大数据系统来解决,请使用Hadoop来执行下列处理:
如果我们运行Hive Query、Pig Script或MapReduce的话,由于必须从HDFS(从硬盘读取)中读取数据,整个处理过程需要耗费数小时才能进行处理,因此理论上来说是无法实时执行数据处理的(它们遵循静态数据原则)。
由于Hadoop设计时就是为了执行批处理,而且需要花费数小时才能生成结果,因此针对Hadoop是否能够执行实时处理的问题,答案是否定的。
总结一下,由于所使用的是基于批处理的方式,Hadoop无法解决实时问题。
有很多需要我们执行实时数据处理的用例,比如:
那么现在我们如何处理这类特殊的问题呢?我们需要使用一些实时的流数据机制(一切都在内存中完成,遵循动态数据原则)。
实时处理的典型流程如下图:
不过想要使用这种方法,需要先解决下面这些问题:
有一些类似Apache Storm之类的实时数据流机制能够帮助我们解决这些问题。现在我们试着回答上面的问题,看使用Apache Storm能否得出答案。
数据以元组的形式发送。
Storm是一个分布式平台,允许用户将更多节点添加到Storm集群运行环境中,以增加应用的吞吐量。
在Storm中,工作是通过集群中的worker来执行的。如果有一个worker宕掉,Storm就会重启该worker,而如果worker所在的节点也宕掉,则Storm就会重启集群中一些其他节点上的worker。
Storm如果该元组在处理时出现故障,Storm会重启出错的元组。
可以在任何编程语言中编写。即使Storm平台运行在JVM之上,运行在上面的应用也可以用任何编程语言编写,可以使用标准的I/O来读写。
希望本文有助于澄清:利用Apache Storm之类的工具处理大数据问题时,在实时流数据中的使用问题。
本文译者Vera,原文:Use Cases for Real Time Stream Processing Systems
本站文章除注明转载外,均为本站原创或翻译。欢迎任何形式的转载,但请务必注明出处、不得修改原文相关链接,如果存在内容上的异议请邮件反馈至chenjj@evget.com
借助HOOPS Exchange,AVEVA在E3D Design中快速实现了Multicad导入功能,客户可以轻松整合来自不同来源的设计数据,丰富和扩展通用数据模型,为复杂资产构建高精度的数字孪生。
为了满足 DHTMLX Scheduler 用户的实际业务需求,本文将展示如何在 JavaScript 日程组件中实现“带拖拽的任务待办区(Backlog)”。这一功能让用户可以像物业管理系统那样,通过简单的拖拽操作将任务分配到时间轴上的合适位置,大幅提升排程效率与体验。
传统的UI测试往往受限于图形界面渲染,导致执行速度慢、资源占用高,难以适应持续集成/持续交付(CI/CD)管道的需求。自动化UI测试平台TestComplete的智能质量附加组件通过无头测试技术,为开发团队提供了一种更高效、更可靠的解决方案。
水印技术是保护文档安全、声明所有权及防止未经授权复制的关键手段。无论是分发草稿还是为最终交付成果添加品牌标识,使用水印都能有效保护您的内容。本教程将指导您如何使用 Spire.PDF for Python 在 Python 中为 PDF 文件添加水印 。
服务电话
重庆/ 023-68661681
华东/ 13452821722
华南/ 18100878085
华北/ 17347785263
客户支持
技术支持咨询服务
服务热线:400-700-1020
邮箱:sales@evget.com
关注我们
地址 : 重庆市九龙坡区火炬大道69号6幢
慧都科技 版权所有 Copyright 2003-
2025 渝ICP备12000582号-13 渝公网安备
50010702500608号