Hive复杂的数据结构

本文详细介绍了如何在Hive中通过动态监控日志查看数据,以及处理包含JSON格式复杂数据结构的表设计、数据导入和操作。步骤包括创建测试表、导入文本数据,并展示了如何处理嵌套的数组、映射和结构体数据。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

hive 动态查看监控日志(另开一个界面)
cd /tmp/dialect/
tail -f hive.log
hive中复杂的数据结构
在这里插入图片描述

1) 案例实操
(1) 假设某表有如下一行, 我们用 JSON 格式来表示其数据结构。在 Hive 下访问的格
式为
{
“name”: “songsong”,
“friends”: [“bingbing” , “lili”] , //列表 Array,
“children”: { //键值 Map,
“xiao song”: 18 ,
“xiaoxiao song”: 19
}
“address”: { //结构 Struct,
“street”: “hui long guan”,
“city”: “beijing”
}
}
(2) 基于上述数据结构, 我们在 Hive 里创建对应的表, 并导入数据。
创建本地测试文件 test.txt
songsong,bingbing_lili,xiao song:18_xiaoxiao song:19,hui long
guan_beijing
yangyang,caicai_susu,xiao yang:18_xiaoxiao yang:19,chao yang_beijing
注意: MAP, STRUCT 和 ARRAY 里的元素间关系都可以用同一个字符表示, 这里用“”。
(3) Hive 上创建测试表 test
create table test(
name string,
friends array,
children map<string, int>,
address struct<street:string, city:string>
)
row format delimited fields terminated by ‘,’
collection items terminated by '

map keys terminated by ‘:’
lines terminated by ‘\n’;
字段解释:
row format delimited fields terminated by ‘,’ – 列分隔符
collection items terminated by ‘_’ --MAP STRUCT 和 ARRAY 的分隔符(数据分割符号)
map keys terminated by ‘:’ – MAP 中的 key 与 value 的分隔符
lines terminated by ‘\n’; – 行分隔符
(4) 导入文本数据到测试表
load data local inpath ‘/opt/module/hive/datas/test.txt’ into table test;

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值