计算机研究与发展 ›› 2015, Vol. 52 ›› Issue (2): 318-332.doi: 10.7544/issn1000-1239.2015.20140268
所属专题: 2015大数据管理
崔星灿,禹晓辉,刘洋,吕朝阳
Cui Xingcan, Yu Xiaohui, Liu Yang, Lü Zhaoyang
摘要: 随着计算机和网络技术的迅猛发展以及数据获取手段的不断丰富,在越来越多的领域出现了对海量、高速数据进行实时处理的需求.由于此类需求往往超出传统数据处理技术的能力,分布式流处理模式应运而生.首先回顾分布式流处理技术产生的背景以及技术演进过程,然后将其与其他相关大数据处理技术进行对比,以界定分布式流数据处理的外延.进而对分布式流处理所需要考虑的数据模型、系统模型、存储管理、语义保障、负载控制、系统容错等主要问题进行深入分析,指出现有解决方案的优势和不足.随后,介绍S4,Storm,Spark Streaming等几种具有代表性的分布式流处理系统,并对它们进行系统地对比.最后,给出分布式流处理在社交媒体处理等领域的几种典型应用,并探讨分布式流处理领域进一步的研究方向.
中图分类号: