Hadoop 初学

Posted zhulina-917

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Hadoop 初学相关的知识,希望对你有一定的参考价值。

1. Linux 回顾:

开源操作,由unix演化出来的。企业级、互联网级开发 必须使用的一个操作系统。
 
2.操作系统
1. OS(opration System) 操作系统
1. unix
问题 : 只能与对应cpu架构组对应,只能用于特殊的服务器。
linux 64位: unix开源版,免费,通用操作系统,用户管理,内存管理,文件管理优秀的。
macos: 苹果操作系统,源自unix。
2. windows
诟病:不适用于企业开发,1. 内存管理 2. 安全性差
62 位操作系统和32位操作系统的区别:
理论上: 62位操作系统支持的内存不限,主要跟我们主板支持的内存有关,   32 位支持的内存有上限一般是4G,就算插入了物理内存是8G 但是他不识别只识别4个G的内存。
 
  2. Linux操作系统的细分
 
1. 开源版
centos6.5 opensuse
2. 企业版
redhat6.5 suse
3. ubuntu 个人电脑使用,不在服务器使用。
 
 
  3. Linux在实战中使用的方式
1. 直接安装在 服务器(pc server)
2. 云环境 (阿里云 aws)
3. 使用虚拟机完成 (Vmware VirtualBox)
 4. VMWare的安装
1. 默认安装,提供序列号
 5. 安装CentOS(6.5)操作系统
1.下一步安装
2. 安装的是64操作系统,默认pc需要设置bois,打开虚拟化选项
联想:开机按F2进入Bios,选择Configuration的选项,Intel Virtual Technology的选项设置成Enable的状态
 6. Client(程序员)如何与服务器中的linux交互
 安装client securityCRT
      技术图片
7. linux中如何设置ip地址
 
     技术图片

    网卡:网络适配器

技术图片

 

 

0. Vmware中网卡 桥接(bridge),NAT
桥接:宿主机 ,虚拟机 在网络上 ,等同的 ,相互都具有独立的ip地址
NAT模式:宿主机(192.168.0.3)虚拟机 (192.168.0.3)
宿主机 可以与 虚拟机 构建一个 虚拟的网络 便于实验 测试 虚拟的IP地址
1. ifconfig 设置ip地址
1.1 临时ip地址的设置 ifconfig eth0 192.168.111.3 关机 重启 ip将消失
1.2 永久设置linux服务器ip地址:vi /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE=eth0
TYPE=Ethernet
ONBOOT=yes
NM_CONTROLLED=yes
BOOTPROTO=static
IPADDR=192.168.111.3
NETMASK=255.255.255.0
GATEWAY=192.168.111.0
重启网络服务器 service network start|stop|restart
1.3 ifconfig直接执行 显示所有网卡的ip地址
1.4 ifconfig eth0 具体查看某一块网卡的ip信息
1.5 启动关闭某一块网卡 ifconfig eth0 up|down
2. 防火墙 (关闭当前防火墙)
service iptables start|stop|restart|status
3. 关闭防火墙(开机自动启动)
chkconfig iptables off|on
4. 关闭selinux : 红帽子、centos公司定制的一种安全服务
 

 Linux下安装软件有4种

1. rpm

2. yum

3. 解压缩安装

4. 源码编译安装

8. linux常用的其他相关命令

1. 主机名设置 vi /etc/sysconfig/network

[root@localhost ~]#
用户名@主机名 目录 超级管理员
2. 查看主机名的命令 hostname
3. 主机名与ip地址的映射
windows 映射 C:WindowsSystem32driversetchosts     只有是管理员才有修改的权限
技术图片
192.168.111.3 hadoop1.baidu.com   保存到hosts文件中就可以ping通了。
linux 映射 vi /etc/hosts
192.168.111.3 hadoop1.baidu.com
这样只需要ping域名也能ping通
4. 为什么作ip地址与主机名的映射?
1. 好记
2. 解耦合效果       //即使ip发生改变域名不变项目也是不受影响的。
5. linux服务器中双网卡的设置
     原因:在集群环境中一个节点可能既有上外网的需求又有上内网的需求那么一个网卡肯定就是不够的
1.1 虚拟中配置一个新的网络适配器,设置类型为桥接
技术图片 
1.2 /etc/syconfig/nework-scripts/ifcfg-eth1
DEVICE=eth1
TYPE=Ethernet
ONBOOT=yes
NM_CONTROLLED=yes
BOOTPROTO=dhcp 

 

 

 

111

 1111

 
 
 
 
 

以上是关于Hadoop 初学的主要内容,如果未能解决你的问题,请参考以下文章

初学hadoop的个人历程

PHP必用代码片段

Hadoop 初学

大数据初学者的福利——Hadoop快速入门教程

99%初学者的 Hadoop学习线路,你是这样吗?

Big Data - Hadoop - MapReduce初学Hadoop之图解MapReduce与WordCount示例分析