计算机工程与应用 ›› 2013, Vol. 49 ›› Issue (3): 57-60.
袁 玉1,2,崔超远2,乌 云2,陈祝红2,3
YUAN Yu1,2, CUI Chaoyuan2, WU Yun2 , CHEN Zhuhong2,3
摘要: Hadoop主要是针对大量数据进行分布式处理的软件框架,即适合于处理大文件,但它们是否也适合处理小文件值得商榷。以词频统计为例,通过在单机环境下一些典型文件测试集的实验,对比了不同文件输入格式对Hadoop处理小文件性能的差异。从Hadoop的工作流程和原理上解释了出现此性能差异的原因。通过分析得出多个小文件整合为一个数据片split有助于改善Hadoop处理小文件性能。