设置多节点Hadoop Hortonworks群集

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了设置多节点Hadoop Hortonworks群集相关的知识,希望对你有一定的参考价值。

我正在研究hadoop中的概念验证,我可能会设置一个具有HDP和HDF hortonwork组件的集群。

数据量非常小,因此如果我没有错误,每个节点的磁盘容量可能不需要超过10 GB。

对于No OF CPU和主节点和从节点的RAM,要考虑哪些标准?

答案

在您的情况下,您可能正在跨多个节点执行MapReduce作业。根据我目前的知识,Slave节点可以在任何CPU配置和2/4 GB RAM下正常运行。对于主节点,您可以购买至少具有4核,单/双插槽CPU,8 GB RAM的机器。

以上是关于设置多节点Hadoop Hortonworks群集的主要内容,如果未能解决你的问题,请参考以下文章

sh 在LXD上设置带有LXC容器的Hadoop 3节点群集(自动安装)

Hortonworks Data Platform (Hadoop) 在 Ubuntu 12.04 64bit 上安装单节点集群

Hadoop 发行版本 Hortonworks 安装详解 准备工作

Hadoop 发行版本 Hortonworks 安装详解 开启Kerberos集群安全验证

2 NameNode 失败后移动 NameNode - Hortonworks - Hadoop

cassandra.yaml中的群集配置问题,用于多节点群集,其中只有1个公共IP