大数据开发、设计、架构

来源：广州IT培训学院时间：2020/7/24 17:29:33

     广州学习大数据到哪里，就来广州中公优就业培训学校，这里有的教师团队，有丰富的教育资源，欢迎您的到来。

大数据开发/ 设计/ 架构

章：初识Hadoop

1.1学会百度与Google不论遇到什么问题，先试试搜索并自己解决。Google，翻不过去的，就用百度吧。

1.2参考资料文档特别是对于入门来说，文档永远是文档。相信搞这块的大多是文化人，英文凑合就行，实在看不下去的，请参考步。

1.3先让Hadoop跑起来Hadoop可以算是大数据存储和计算的开山鼻祖，现在大多开源的大数据框架都依赖Hadoop或者与它能很好的兼容。关于Hadoop,你至少需要搞清楚以下是什么：Hadoop1.0、Hadoop2.0MapReduce、HDFSNameNode、DataNodeJobTracker、TaskTrackerYarn、ResourceManager、NodeManager自己搭建Hadoop，请使用步和第二步，能让它跑起来就行。建议先使用安装包命令行安装，不要使用管理工具安装。另外：Hadoop1.0知道它就行了，现在都用Hadoop2.0.

1.4试试使用HadoopHDFS目录操作命令;上传、下载文件命令;提交运行MapReduce示例程序;打开HadoopWEB界面，查看Job运行状态，查看Job运行日志。知道Hadoop的系统日志在哪里。

1.5你该了解它们的原理了MapReduce：如何分而治之; HDFS：数据到底在哪里，什么是副本; Yarn到底是什么，它能干什么; NameNode到底在干些什么; ResourceManager到底在干些什么;

1.6自己写一个MapReduce程序请仿照WordCount例子，自己写一个(照抄也行)WordCount程序，打包并提交到Hadoop运行。你不会Java?Shell、Python都可以，有个东西叫Hadoop Streaming。如果你认真完成了以上几步，恭喜你，你的一只脚已经进来了。

第二章：更的Word Count

2.1学点SQL吧你知道数据库吗?你会写SQL吗?如果不会，请学点SQL吧。

2.2SQL版Word Count在1.6中，你写(或者抄)的Word Count一共有几行代码?

     给你看看我的:SELECTword,COUNT(1) FROM word count GROUPBY word; 这便是SQL的魅力，编程需要几十行，甚至上百行代码，我这一句就搞定; 使用SQL处理分析Hadoop上的数据，方便、、易上手、更是趋势。不论是离线计算还是实时计算，越来越多的大数据处理框架都在积极提供SQL接口。

2.3SQL On Hadoop之Hive什么是Hive?

     为什么说Hive是数据仓库工具，而不是数据库工具呢?有的朋友可能不知道数据仓库，数据仓库是逻辑上的概念，底层使用的是数据库，数据仓库中的数据有这两个特点：全的历史数据(海量)、相对稳定的;所谓相对稳定，指的是数据仓库不同于业务系统数据库，数据经常会被更新，数据一旦进入数据仓库，很少会被更新和删除，只会被大量查询。而Hive，也是具备这两个特点，因此，Hive适合做海量数据的数据仓库工具，而不是数据库工具。

2.4安装配置Hive请参考1.1和1.2完成Hive的安装配置。可以正常进入Hive命令行。

2.5试试使用Hive请参考1.1和1.2，在Hive中创建word count表，并运行2.2中的SQL语句。在Hadoop WEB界面中找到刚才运行的SQL任务。看SQL查询结果是否和1.4中Map Reduce中的结果一致。

2.6Hive是怎么工作的明明写的是SQL，为什么HadoopWEB界面中看到的是Map Reduce任务?

2.7学会Hive的基本命令创建、删除表;加载数据到表;下载Hive表的数据;请参考1.2，学习更多关于Hive的语法和命令。如果你已经按照《写给大数据开发初学者的话》中章和第二章的流程认真完整的走了一遍，那么你应该已经具备以下技能和知识点：MapReduce的原理(还是那个经典的题目，一个10G大小的文件，给定1G大小的内存，如何使用Java程序统计出现次数多的10个单词及次数);HDFS读写数据的流程;向HDFS中PUT数据;从HDFS中下载数据;自己会写简单的MapReduce程序，运行出现问题，知道在哪里查看日志;会写简单的SELECT、WHERE、GROUPBY等SQL语句;Hive SQL转换成Map Reduce的大致流程;Hive中常见的语句：创建表、删除表、往表中加载数据、分区、将表中数据下载到本地;

     从上面的学习，你已经了解到，HDFS是Hadoop提供的分布式存储框架，它可以用来存储海量数据，MapReduce是Hadoop提供的分布式计算框架，它可以用来统计和分析HDFS上的海量数据，而Hive则是SQL On Hadoop，Hive提供了SQL接口，开发人员只需要编写简单易上手的SQL语句，Hive负责把SQL翻译成MapReduce，提交运行。此时，你的”大数据平台”是这样的：那么问题来了，海量数据如何到HDFS上呢?

第三章：把别处的数据搞到Hadoop上此处也可以叫做数据采集，把各个数据源的数据采集到Hadoop上。

3.1HDFSPUT命令这个在前面你应该已经使用过了。put命令在实际环境中也比较常用，通常配合shell、python等脚本语言来使用。建议熟练掌握。

3.2HDFSAPIHDFS提供了写数据的API，自己用编程语言将数据写入HDFS，put命令本身也是使用API。实际环境中一般自己较少编写程序使用API来写数据到HDFS，通常都是使用其他框架封装好的方法。比如：Hive中的INSERT语句，Spark中的save As Textfile等。建议了解原理，会写Demo。

3.3Sqoop 

     Sqoop是一个主要用于Hadoop/Hive与传统关系型数据库，Oracle、MySQL、SQLServer等之间进行数据交换的开源框架。就像Hive把SQL翻译成Map Reduce一样，Sqoop把你指定的参数翻译成Map Reduce，提交到Hadoop运行，完成Hadoop与其他数据库之间的数据交换。自己下载和配置Sqoop(建议先使用Sqoop1，Sqoop2比较复杂)。了解Sqoop常用的配置参数和方法。使用Sqoop完成从MySQL同步数据到HDFS;使用Sqoop完成从MySQL同步数据到Hive表;如果后续选型确定使用Sqoop作为数据交换工具，那么建议熟练掌握，否则，了解和会用Demo即可。

3.4Flume 

     Flume是一个分布式的海量日志采集和传输框架，因为“采集和传输框架”，所以它并不适合关系型数据库的数据采集和传输。Flume可以实时的从网络协议、消息系统、文件系统采集日志，并传输到HDFS上。因此，如果你的业务有这些数据源的数据，并且需要实时的采集，那么就应该考虑使用Flume。下载和配置Flume。使用Flume监控一个不断追加数据的文件，并将数据传输到HDFS;Flume的配置和使用较为复杂，如果你没有足够的兴趣和耐心，可以先跳过Flume。

3.5阿里开源的DataX之所以介绍这个，是因为我们公司目前使用的Hadoop与关系型数据库数据交换的工具，就是之前基于DataX开发的，非常好用。可以参考我的博文《异构数据源海量数据交换工具-Taobao DataX下载和使用》。现在DataX已经是3.0版本，支持很多数据源。你也可以在其之上做二次开发。有兴趣的可以研究和使用一下，对比一下它与Sqoop。

第四章：把Hadoop上的数据搞到别处去Hive和Map Reduce进行分析了。那么接下来的问题是，分析完的结果如何从Hadoop上同步到其他系统和应用中去呢?其实，此处的方法和第三章基本一致的。

4.1HDFSGET命令把HDFS上的文件GET到本地。需要熟练掌握。

4.2HDFSAPI同3.2.

4.3Sqoop同3.3.使用Sqoop完成将HDFS上的文件同步到MySQL;使用Sqoop完成将Hive表中的数据同步到MySQL。

4.4DataX同3.5.如果你认真完成了上面的学习和实践，此时，你的”大数据平台”应该是这样的：如果你已经按照《写给大数据开发初学者的话2》中第三章和第四章的流程认真完整的走了一遍，那么你应该已经具备以下技能和知识点：知道如何把已有的数据采集到HDFS上，包括离线采集和实时采集;你已经知道sqoop(或者还有DataX)是HDFS和其他数据源之间的数据交换工具;你已经知道flume可以用作实时的日志采集。

     从前面的学习，对于大数据平台，你已经掌握的不少的知识和技能，搭建Hadoop集群，把数据采集到Hadoop上，使用Hive和MapReduce来分析数据，把分析结果同步到其他数据源。接下来的问题来了，Hive使用的越来越多，你会发现很多不爽的地方，特别是速度慢，大多情况下，明明我的数据量很小，它都要申请资源，启动MapReduce来执行。

第五章：快一点吧，我的SQL其实大家都已经发现Hive后台使用Map Reduce作为执行引擎，实在是有点慢。因此SQL On Hadoop的框架越来越多，按我的了解，常用的按照流行度依次为Spark SQL、Impala和Presto.这三种框架基于半内存或者全内存，提供了SQL接口来查询分析Hadoop上的数据。

尊重原创文章，转载请注明出处与链接：http://www.peixun360.com/1980/news/225358/违者必究！ 以上就是广州IT培训学院 小编为您整理 大数据开发、设计、架构的全部内容。