這篇文章主要講解了“用Partition函數(shù)怎么實現(xiàn)Hive動態(tài)分區(qū)”，文中的講解內(nèi)容簡單清晰，易于學(xué)習(xí)與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學(xué)習(xí)“用Partition函數(shù)怎么實現(xiàn)Hive動態(tài)分區(qū)”吧！

為修武等地區(qū)用戶提供了全套網(wǎng)頁設(shè)計制作服務(wù)，及修武網(wǎng)站建設(shè)行業(yè)解決方案。主營業(yè)務(wù)為成都網(wǎng)站制作、做網(wǎng)站、修武網(wǎng)站設(shè)計，以傳統(tǒng)方式定制建設(shè)網(wǎng)站，并提供域名空間備案等一條龍服務(wù)，秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務(wù)。我們深信只要達(dá)到每一位用戶的要求，就會得到認(rèn)可，從而選擇與我們長期合作。這樣，我們也可以走得更遠(yuǎn)！

一、前段時間因為導(dǎo)表需求（從一張表中查找出數(shù)據(jù)，按日期分區(qū)overwrite 到指定分區(qū)表中），在Hive里面研究了一下自動分區(qū)。

步驟：

         1、建好所需分區(qū)表

         2、設(shè)置分區(qū)參數(shù)

set hive.exec.dynamic.partition=true;(可通過這個語句查看：set hive.exec.dynamic.partition;) 
set hive.exec.dynamic.partition.mode=nonstrict; 
SET hive.exec.max.dynamic.partitions=100000;(如果自動分區(qū)數(shù)大于這個參數(shù)，將會報錯)
SET hive.exec.max.dynamic.partitions.pernode=100000;

         3、書寫代碼（特別注意：日期字段一定要放在末尾），例如：

INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt)
select id        
       ,...
       ,pv
       ,0  uv
       ,cal_dt
from   dw_stage.tiny_info_msg

二、如果要在partition字段用函數(shù)處理也可通過通過這種方式實現(xiàn)；例如：

set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nostrick;
INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt)
SELECT id    
       ,...
       ,pv
       ,date_sub('2014-03-23',7) cal_dt
FROM   dw_stage.tiny_info_msg07;

感謝各位的閱讀，以上就是“用Partition函數(shù)怎么實現(xiàn)Hive動態(tài)分區(qū)”的內(nèi)容了，經(jīng)過本文的學(xué)習(xí)后，相信大家對用Partition函數(shù)怎么實現(xiàn)Hive動態(tài)分區(qū)這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián)，小編將為大家推送更多相關(guān)知識點的文章，歡迎關(guān)注！

當(dāng)前題目：用Partition函數(shù)怎么實現(xiàn)Hive動態(tài)分區(qū)
標(biāo)題路徑：http://aaarwkj.com/article16/jegodg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供ChatGPT、電子商務(wù)、Google、靜態(tài)網(wǎng)站、標(biāo)簽優(yōu)化、全網(wǎng)營銷推廣

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)