本篇內(nèi)容主要講解“hive中order by與distribute by的區(qū)別和聯(lián)系是什么”,感興趣的朋友不妨來(lái)看看。本文介紹的方法操作簡(jiǎn)單快捷,實(shí)用性強(qiáng)。下面就讓小編來(lái)帶大家學(xué)習(xí)“hive中order by與distribute by的區(qū)別和聯(lián)系是什么”吧!
成都創(chuàng)新互聯(lián)一直通過(guò)網(wǎng)站建設(shè)和網(wǎng)站營(yíng)銷幫助企業(yè)獲得更多客戶資源。 以"深度挖掘,量身打造,注重實(shí)效"的一站式服務(wù),以成都網(wǎng)站建設(shè)、成都網(wǎng)站設(shè)計(jì)、移動(dòng)互聯(lián)產(chǎn)品、成都營(yíng)銷網(wǎng)站建設(shè)服務(wù)為核心業(yè)務(wù)。十多年網(wǎng)站制作的經(jīng)驗(yàn),使用新網(wǎng)站建設(shè)技術(shù),全新開(kāi)發(fā)出的標(biāo)準(zhǔn)網(wǎng)站,不但價(jià)格便宜而且實(shí)用、靈活,特別適合中小公司網(wǎng)站制作。網(wǎng)站管理系統(tǒng)簡(jiǎn)單易用,維護(hù)方便,您可以完全操作網(wǎng)站資料,是中小公司快速網(wǎng)站建設(shè)的選擇。order by 會(huì)對(duì)數(shù)據(jù)進(jìn)行全局排序,和oracle和mysql等數(shù)據(jù)庫(kù)中的order by 效果一樣,它只在一個(gè)reduce中進(jìn)行所以數(shù)據(jù)量特別大的時(shí)候效率非常低。
而且當(dāng)設(shè)置 :set hive.mapred.mode=strict的時(shí)候不指定limit,執(zhí)行select會(huì)報(bào)錯(cuò),如下:
LIMIT must also be specified。
sort by 是單獨(dú)在各自的reduce中進(jìn)行排序,所以并不能保證全局有序,一般和distribute by 一起執(zhí)行,而且distribute by 要寫(xiě)在sort by前面。
如果mapred.reduce.tasks=1和order by效果一樣,如果大于1會(huì)分成幾個(gè)文件輸出每個(gè)文件會(huì)按照指定的字段排序,而不保證全局有序。
sort by 不受 hive.mapred.mode 是否為strict ,nostrict 的影響。
DISTRIBUTE BY 控制map 中的輸出在 reducer 中是如何進(jìn)行劃分的。使用DISTRIBUTE BY 可以保證相同KEY的記錄被劃分到一個(gè)Reduce 中。
distribute by 和 sort by 合用就相當(dāng)于cluster by,但是cluster by 不能指定排序?yàn)閍sc或 desc 的規(guī)則,只能是升序排列。
到此,相信大家對(duì)“hive中order by與distribute by的區(qū)別和聯(lián)系是什么”有了更深的了解,不妨來(lái)實(shí)際操作一番吧!這里是創(chuàng)新互聯(lián)網(wǎng)站,更多相關(guān)內(nèi)容可以進(jìn)入相關(guān)頻道進(jìn)行查詢,關(guān)注我們,繼續(xù)學(xué)習(xí)!
當(dāng)前標(biāo)題:hive中orderby與distributeby的區(qū)別和聯(lián)系是什么-創(chuàng)新互聯(lián)
文章鏈接:http://aaarwkj.com/article42/gcchc.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供面包屑導(dǎo)航、企業(yè)網(wǎng)站制作、網(wǎng)站收錄、域名注冊(cè)、外貿(mào)網(wǎng)站建設(shè)、營(yíng)銷型網(wǎng)站建設(shè)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容