数据直接上传到分区目录上,让分区表和数据产生关联的三种方式

Posted Mr.zhou_Zxy

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了数据直接上传到分区目录上,让分区表和数据产生关联的三种方式相关的知识,希望对你有一定的参考价值。

1 把数据直接上传到分区目录上,让分区表和数据产生关联的三种方式

1.1 上传数据后修复

  • 上传数据

dfs -mkdir -p /user/dept_partition/day=20210725/hour=8

dfs -put /opt/apps/dept_20210725.log /user/dept_partition/day=20210725/hour=8

  • 查询数据

select * from dept_partition where day=‘20210725’ and hour=‘8’

查询不到

  • 修复数据

msck repair table dept_partition;

  • 再次查询数据

select * from dept_partition where day=‘20210725’ and hour=‘8’

1.2 上传数据后添加分区

  • 上传数据

dfs -mkdir -p /user/dept_partition/day=20210725/hour=8

dfs -put /opt/apps/dept_20210725.log /user/dept_partition/day=20210725/hour=8

  • 添加分区

alter table ddept_partition add partition(day=‘20210725’,hour=‘8’)

  • 查询数据

select * from dept_partition where day=‘20210725’ and hour =‘8’

1.3 创建文件夹后load数据到分区

  • 上传数据

dfs -mkdir -p /user/dept_partition/day=20210725/hour=8

  • 上传数据

load data local inpath ‘/opt/apps/dept_20210725.log’ into table dept_partiton partition(day=‘20210725’,hour=‘8’)

  • 查询数据

select * from dept_partition where day=‘20210725’ and hour =‘8’

以上是关于数据直接上传到分区目录上,让分区表和数据产生关联的三种方式的主要内容,如果未能解决你的问题,请参考以下文章

不带 CORS 直接上传到 S3(非浏览器)

如何让 wordpress 用户直接上传到 youtube 或 vimeo?

如何将 Pandas 数据框直接上传到 BigQuery?

将图像从 url 直接上传到数据库 blob 字段

通过表单直接上传到 Vimeo

Rails 直接上传到 Amazon S3