這篇文章主要講解了“YARN是什么”,文中的講解內(nèi)容簡單清晰,易于學(xué)習(xí)與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“YARN是什么”吧!
創(chuàng)新互聯(lián)專業(yè)為企業(yè)提供朗縣網(wǎng)站建設(shè)、朗縣做網(wǎng)站、朗縣網(wǎng)站設(shè)計、朗縣網(wǎng)站制作等企業(yè)網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計與制作、朗縣企業(yè)網(wǎng)站模板建站服務(wù),十載朗縣做網(wǎng)站經(jīng)驗,不只是建網(wǎng)站,更提供有價值的思路和整體網(wǎng)絡(luò)服務(wù)。YARN是一種新的 Hadoop 資源管理器,它是一個通用資源管理系統(tǒng),可為上層應(yīng)用提供統(tǒng)一的資源管理和調(diào)度,它的引入為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來了巨大好處。
YARN總體上仍然是master/slave結(jié)構(gòu),在整個資源管理框架中,resourcemanager為master,nodemanager是slave。Resourcemanager負(fù)責(zé)對各個nademanger上資源進(jìn)行統(tǒng)一管理和調(diào)度。當(dāng)用戶提交一個應(yīng)用程序時,需要提供一個用以跟蹤和管理這個程序的ApplicationMaster,它負(fù)責(zé)向ResourceManager申請資源,并要求NodeManger啟動可以占用一定資源的任務(wù)。由于不同的ApplicationMaster被分布到不同的節(jié)點上,因此它們之間不會相互影響。
YARN的基本組成結(jié)構(gòu),YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等幾個組件構(gòu)成。
ResourceManager是Master上一個獨立運行的進(jìn)程,負(fù)責(zé)集群統(tǒng)一的資源管理、調(diào)度、分配等等;NodeManager是Slave上一個獨立運行的進(jìn)程,負(fù)責(zé)上報節(jié)點的狀態(tài);App Master和Container是運行在Slave上的組件,Container是yarn中分配資源的一個單位,包涵內(nèi)存、CPU等等資源,yarn以Container為單位分配資源。Client向ResourceManager提交的每一個應(yīng)用程序都必須有一個Application Master,它經(jīng)過ResourceManager分配資源后,運行于某一個Slave節(jié)點的Container中,具體做事情的Task,同樣也運行與某一個Slave節(jié)點的Container中。RM,NM,AM乃至普通的Container之間的通信,都是用RPC機(jī)制。
YARN的架構(gòu)設(shè)計使其越來越像是一個云操作系統(tǒng),數(shù)據(jù)處理操作系統(tǒng)。
最后提及YARN的資源管理,我們可以從以下幾個方面進(jìn)行理解:
1.資源調(diào)度和隔離是yarn作為一個資源管理系統(tǒng),最重要且最基礎(chǔ)的兩個功能。資源調(diào)度由resourcemanager完成,而資源隔離由各個nodemanager實現(xiàn)。
2.Resourcemanager將某個nodemanager上資源分配給任務(wù)(這就是所謂的“資源調(diào)度”)后,nodemanager需按照要求為任務(wù)提供相應(yīng)的資源,甚至保證這些資源應(yīng)具有獨占性,為任務(wù)運行提供基礎(chǔ)和保證,這就是所謂的資源隔離。
3.當(dāng)談及到資源時,我們通常指內(nèi)存、cpu、io三種資源。Hadoop yarn目前為止僅支持cpu和內(nèi)存兩種資源管理和調(diào)度。
4.內(nèi)存資源多少決定任務(wù)的生死,如果內(nèi)存不夠,任務(wù)可能運行失??;相比之下,cpu資源則不同,它只會決定任務(wù)的快慢,不會對任務(wù)的生死產(chǎn)生影響。
感謝各位的閱讀,以上就是“YARN是什么”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對YARN是什么這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!
分享題目:YARN是什么-創(chuàng)新互聯(lián)
鏈接URL:http://aaarwkj.com/article8/dspjip.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供云服務(wù)器、小程序開發(fā)、Google、外貿(mào)網(wǎng)站建設(shè)、網(wǎng)站設(shè)計、移動網(wǎng)站建設(shè)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容