元數(shù)據(jù)作為大數(shù)據(jù)的源泉，有著非常重要的作用?？稍贗mpala中卻隱藏著一個秘密？和元數(shù)據(jù)有著頗深的淵源，我們一起來追溯！

站在用戶的角度思考問題，與客戶深入溝通，找到江岸網(wǎng)站設(shè)計與江岸網(wǎng)站推廣的解決方案，憑借多年的經(jīng)驗，讓設(shè)計與互聯(lián)網(wǎng)技術(shù)結(jié)合，創(chuàng)造個性化、用戶體驗好的作品，建站類型包括：成都網(wǎng)站設(shè)計、成都網(wǎng)站建設(shè)、企業(yè)官網(wǎng)、英文網(wǎng)站、手機端網(wǎng)站、網(wǎng)站推廣、域名注冊、雅安服務(wù)器托管、企業(yè)郵箱。業(yè)務(wù)覆蓋江岸地區(qū)。

一、Impala體系結(jié)構(gòu)

（1）每個slave節(jié)點運行一個Impala進(jìn)程，和HDFS的DataNode進(jìn)程同時協(xié)作

（2）兩個其他的進(jìn)程運行在master節(jié)點，用來支持查詢執(zhí)行

1、State Store進(jìn)程：為ImpalaDaemon提供查×××，并周期性地檢查Impala進(jìn)程狀態(tài)

2、Catalog進(jìn)程：把元數(shù)據(jù)的變更同步到所有ImpalaDaemons中

二、Impala如何執(zhí)行查詢

（1）Impala daemon查詢執(zhí)行過程

客戶端（Impala-shell或Hue）連接到Impala daemon，它是Coordinator。Coordinator從State Store請求其他的Impala daemons，并把查詢分發(fā)給其他的Impala daemons，最后返回結(jié)果給客戶端。

三、元數(shù)據(jù)緩存

根據(jù)Impala的查詢功能，我們可以知道在Impala里面存在元數(shù)據(jù)的緩存。元數(shù)據(jù)保存在Hive的Metastore里面，那么元數(shù)據(jù)緩存的作用是什么呢？就是在Impala啟動的時候，將元數(shù)據(jù)緩存到Impala daemon的節(jié)點。當(dāng)Impala daemon發(fā)起元數(shù)據(jù)變更的時候，比如說創(chuàng)建表，刪除表，或者修改表的定義，這些都是可以緩存下來的。如果我們?nèi)ゲ樵儽硇畔⒌臅r候，可以從緩存里面找到，直接在節(jié)點中進(jìn)行查詢,所以在每個Impala daemon里面有metadata cache節(jié)點用作緩存。

而當(dāng)Impala進(jìn)程改變了元數(shù)據(jù)，將會提示catalog服務(wù)，Catalog服務(wù)通知所有Impala daemons來更新緩存。

四、外部改變和元數(shù)據(jù)緩存

我們上面講的都是內(nèi)部的改變，然而很多時候還會有外部的改變，可外部的改變對于Impala來說是未知的，比如：

（1）Hive、Hcatalog或HueMetadata Manager改變了元數(shù)據(jù)

（2）數(shù)據(jù)直接添加到HDFS目錄

外部的改變將導(dǎo)致Impala元數(shù)據(jù)緩存變得不可用，我們必須手動的刷新或驗證Impala的元數(shù)據(jù)緩存。

當(dāng)然，這種改變根據(jù)改變內(nèi)容和性質(zhì)的不同，有不同的方法去更新，比如：

有疑問，歡迎來吐槽，關(guān)注微信公眾號“大數(shù)據(jù)cn”， 每天同行嗨不停，還有更多資源等著你！

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無理由+7*72小時售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機、免備案服務(wù)器”等云主機租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場景需求。

分享題目：Impala隱藏的驚天秘密-創(chuàng)新互聯(lián)
地址分享：http://aaarwkj.com/article40/gjpeo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供響應(yīng)式網(wǎng)站、網(wǎng)站建設(shè)、商城網(wǎng)站、網(wǎng)頁設(shè)計公司、網(wǎng)站導(dǎo)航、小程序開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)