大数据学习——日志分析
Posted o_0
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了大数据学习——日志分析相关的知识，希望对你有一定的参考价值。
有两个海量日志文件存储在hdfs上，
其中登陆日志格式：user，ip，time，oper（枚举值：1为上线，2为下线）；
访问之日格式为：ip，time，url，假设登陆日志中上下线信息完整，切同一上下线时间段内是用的ip唯一，
计算访问日志中独立user数量最多的前10个url，用MapReduce实现。
提示：
1、要统计前10，需要两个步骤，第一个步骤实现join，统计出每个url对应的独立用户数，第二步骤求出top10
2、两个大表join，用同一job多输入
3、要根据ip字段join，所以要根据ip分区
4、求top10
以上是关于大数据学习——日志分析的主要内容，如果未能解决你的问题，请参考以下文章
Oracle数据库从RMAN备份集片段还原指定单个归档日志进行日志挖掘分析
大数据综合项目--网站流量日志数据分析系统(详细步骤和代码)