这篇文章主要为大家展示了“hadoop框架结构核心是什么”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“hadoop框架结构核心是什么”这篇文章吧。
图示:DKhadoop技术技术架构图
hadoop框架结构核心:
hadoop的框架结构最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,MapReduce为海量的数据提供了计算。
大数据一体化开发框架:
大数据的应用开发过于偏向底层,设计技术面非常广泛,学习的难度自然要大的很多。对于新手入门更是难上加难。DKhadoop则是大快搜索将一系列技术框架在底层进行了重新封装。把大数据开发中的一些通用的,重复使用的基础代码、算法封装为类库,降低了大俗局的学习门槛,降低开发难度。
DKhadoop框架结构构成模块:
我们以DKhadoop发行版为例:
框架由:数据源与SQL引擎、数据采集(自定义爬虫)模块、数据处理模块、机器学习算法、自然语言处理模块、搜索引擎模块,六部分组成。
大快的大数据通用计算平台(DKH),已经集成相同版本号的开发框架的全部组件。如果在开源大数据框架上部署大快的开发框架,需要平台的组件支持如下:
(1)数据源与SQL引擎:DK.Hadoop、spark、hive、sqoop、flume、kafka
(2)数据采集:DK.hadoop
(3)数据处理模块:DK.Hadoop、spark、storm、hive
(4)机器学习和AI:DK.Hadoop、spark
(5)NLP模块:上传服务器端JAR包,直接支持
(6)搜索引擎模块:不独立发布
Dkhadoop是大快深度整合,重新编译后的HADOOP发行版,可单独发布。独立部署FreeRCH(大快大数据一体化开发框架)时,必需的组件。DK.HADOOP整合集成了NOSQL数据库,简化了文件系统与非关系数据库之间的编程;DK.HADOOP改进了集群同步系统,使得HADOOP的数据处理更加高效。
以上是“hadoop框架结构核心是什么”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注编程网行业资讯频道!