随着全球经济的不断发展,大数据时代早已悄悄到来,而Hadoop又是大数据环境的基础,想入门大数据行业首先需要了解Hadoop的知识。2017年年初apache发行了Hadoop3.0,也意味着一直有一群人在对Hadoop不断的做优化,不仅如此,各个Hadoop的商业版本也有好多公司正在使用,这也印证了它的商业价值。
读者可以通过阅读“一文读懂Hadoop”系列文章,对Hadoop技术有个全面的了解,它涵盖了Hadoop官网的所有知识点,并且通俗易懂,英文不好的读者完全可以通过阅读此篇文章了解Hadoop。
本期独家内容“一文读懂Hadoop”系列文章将根据先介绍Hadoop,继而分别详细介绍HDFS、MAPREDUCE、YARN的所有知识点的框架,分为四期内容在近几天推送。敬请关注后续内容。
本期内容为大家详解HDFS,由于字数限制,本文分为上下两篇分别在头条和二条推送。
1. HDFS优缺点
1.1 优点
1.1.1 高容错性
可以由数百或数千个服务器机器组成,每个服务器机器存储文件系统数据的一部分;
数据自动保存多个副本;
副本丢失后检测故障快速,自动恢复。
1.1.2 适合批处理
移动计算而非数据;
数据位置暴露给计算框架;
数据访问的高吞吐量;
运行的应用程序对其数据集进行流式访问。
1.1.3 适合大数据处理
典型文件大小为千兆字节到太字节;<