大数据之Hadoop(MapReduce):Hadoop序列化

Posted 浊酒南街

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了大数据之Hadoop(MapReduce):Hadoop序列化相关的知识,希望对你有一定的参考价值。

1.序列化概述

1.1.什么是序列化

序列化:把内存中的对象,转换成字节序列(或其他传输协议)以便存储到磁盘(持久化)和网络传输;
反序列:把收到的字节序列(或其他数据传输协议)或是磁盘中的持久化数据,转换成内存中的对象;

1.2.为什么要序列化

一般来说:“活的”对象只生存在内存里,只能有本地进程使用(断电,不能发送到另一台计算机),而序列化解决了这个问题;序列化可以存储"活的"对象,可以将“活的”对象发送到远程计算机;

1.3.为什么不用java的序列化

java的序列化框架是Serializable,一个对象被序列化后,会附带很多额外的信息(),不方便高效传输,所以Hadoop自己开发了一套序列机制;
Hadoop序列化的特点:
紧凑,快速,可拓展,互操作;
Hadoop序列化时没有序列化类的信息,只是把对象的必要信息序列化。
举例
比如现在有一个Person类 p对象
,内容为Name tom age 18 , 用hadoop序列化只剩下Tom,18 ;

以上是关于大数据之Hadoop(MapReduce):Hadoop序列化的主要内容,如果未能解决你的问题,请参考以下文章

大数据Hadoop之MapReduce

大数据技术之Hadoop(MapReduce)

大数据之Hadoop(MapReduce): MapReduce概述

大数据之Hadoop(MapReduce):MapReduce核心思想

hadoop mapreduce开发实践之HDFS压缩文件(-cacheArchive)

大数据之Hadoop(MapReduce):Hadoop企业优化