成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

面試官:Hive表有數據,但為什么 Iimpala 查詢不到數據?

大數據 數據分析
我們知道,distribute 是分配、分布的意思,顧名思義,hive中(distribute by + “表中字段”)關鍵字就是控制map輸出結果的分發,相同字段的map輸出會發到一個reduce節點去處理。

張工是一名程序員,做java開發的,有兩年多開發經驗,有次到一家軟件公司應聘大數據開發崗位,面試官問了他這樣一個問題。

hive表有數據,但為什么impala查詢不到數據?

你能說說這是什么情況導致的,有什么辦法解決方案嗎?

對于這個問題,我們不妨來回顧下,什么情況下hive表有數據,但impala沒有數據的情況。

1. 問題描述

用insert overwrite方式往hive寫入的數據,數據寫入成功了,在hive查詢是可以查到數據的,但在impala刷新元數據后,查詢卻沒有查到,剛開始以為是元數據刷新不成功,再用命令

invalidate metadata table_name
refresh table_name

刷新成功后還是沒有數據,返回結果為空。

2.問題追溯

往hive表寫入數據sql里使用了union ,導致hdfs目錄結構多了一層,本來數據是在分區第一層的,使用了union 后,數據存儲到分區底下的文件夾了。

導致impala無法訪問到具體數據。impala版本2.12,查看impala版本命令(impala-shell -v)

3.解決方案

在寫入數據sql 后面加上 distribute by + 表中字段 就可以了。

這是為什么呢,為什么加上distribute by +表中字段 就可以了。

我們知道,distribute 是分配、分布的意思,顧名思義,hive中(distribute by + “表中字段”)關鍵字就是控制map輸出結果的分發,相同字段的map輸出會發到一個reduce節點去處理。

總結

hive表有數據,impala表沒有數據,檢查是否刷新元數據,操作命令:

invalidate metadata

refresh table_name。已經成功刷新元數據了,impala依然沒有數據, 檢查寫入hive sql 是否使用union方式,如果是,在sql 后面加上(distribute by + 表中字段 )。

拓展:

distribute by、sort by、cluster by

責任編輯:武曉燕 來源: 愛開發
相關推薦

2022-07-06 13:48:24

RedisSentinel機制

2023-12-06 09:10:28

JWT微服務

2020-10-24 15:50:54

Java值傳遞代碼

2021-02-19 10:02:57

HTTPSJava安全

2021-01-21 07:53:29

面試官Promis打印e

2021-07-20 10:45:50

數據庫MySQLdelete

2021-07-06 07:08:18

管控數據數倉

2021-12-20 10:30:33

forforEach前端

2023-12-20 14:35:37

Java虛擬線程

2022-12-27 08:39:54

MySQL主鍵索引

2023-07-05 08:17:38

JDK動態代理接口

2024-08-28 11:23:33

2018-10-22 14:28:26

面試官數據公司

2022-12-22 14:32:37

JavaScript編程語言

2023-06-05 07:57:53

Kafka消息事務消息

2024-11-14 09:29:38

2024-09-19 08:10:54

2021-09-07 10:44:33

Java 注解開發

2020-08-24 10:55:41

數據庫雙寫代碼

2020-12-23 13:29:15

微服務架構面試官
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 国产999精品久久久久久绿帽 | 91毛片在线看 | 久久久免费精品 | 成人免费在线视频 | 亚洲精品一区二区三区中文字幕 | 亚欧精品一区 | 国产精品久久久久久久久图文区 | 国产一区亚洲 | 久久99精品久久久久久国产越南 | 久久亚洲美女 | 精品中文字幕一区二区 | 日韩高清中文字幕 | 蜜桃五月天 | 午夜精品一区二区三区在线视 | 国产一级一级 | 久草新在线 | 国产精品欧美一区二区 | av毛片| 国产一二三区精品视频 | 国产美女网站 | 亚洲国产成人精品久久 | 亚洲第1页 | 中文字幕在线视频观看 | 丝袜一区二区三区 | 欧美一区二区三区在线观看 | 久久高清国产视频 | 特级生活片 | 色婷婷综合久久久久中文一区二区 | 午夜资源| 国产伦精品一区二区三区精品视频 | 国产一区二区影院 | 999久久久久久久久6666 | 久久久精彩视频 | 超碰在线播 | 91综合网 | 色婷婷久久久亚洲一区二区三区 | 亚洲国产aⅴ成人精品无吗 亚洲精品久久久一区二区三区 | 国产传媒在线观看 | 久久亚洲一区 | 日日射影院 | 九久久 |