本篇內(nèi)容介紹了“Hadoop棧由哪些組件組成”的有關(guān)知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!
一、Hadoop生態(tài)體系?
Hadoop?是一個分布式系統(tǒng)基礎(chǔ)架構(gòu),由Apache基金會開發(fā)。用戶可以在不了解分布式底層細(xì)節(jié)的情況下,開發(fā)分布式程序。充分利用集群的威力高速運算和存儲。Hadoop實現(xiàn)了一個分布式文件系統(tǒng)(Hadoop?Distributed?File?System),簡稱HDFS。?
Hadoop?“?!庇啥鄠€組件組成。包括:?
1.Hadoop分布式文件系統(tǒng)(HDFS):所有Hadoop集群的默認(rèn)存儲層
2.名稱節(jié)點:在Hadoop集群中,提供數(shù)據(jù)存儲位置以及節(jié)點失效信息的節(jié)點。?
3.?二級節(jié)點:名稱節(jié)點的備份,它會定期復(fù)制和存儲名稱節(jié)點的數(shù)據(jù),以防名稱節(jié)點失效。?
4.作業(yè)跟蹤器:Hadoop集群中發(fā)起和協(xié)調(diào)MapReduce作業(yè)或數(shù)據(jù)處理任務(wù)的節(jié)點。
5.從節(jié)點:Hadoop集群的普通節(jié)點,從節(jié)點存儲數(shù)據(jù)并且從作業(yè)跟蹤器那里獲取數(shù)據(jù)處理指令。?
二、Spark生態(tài)體系?
Spark?是一種與?Hadoop?相似的開源集群計算環(huán)境,但是兩者之間還存在一些不同之處,這些有用的不同之處使?Spark?在某些工作負(fù)載方面表現(xiàn)得更加優(yōu)越,換句話說,Spark?啟用了內(nèi)存分布數(shù)據(jù)集,除了能夠提供交互式查詢外,它還可以優(yōu)化迭代工作負(fù)載。?
Spark?是在?Scala?語言中實現(xiàn)的,它將?Scala?用作其應(yīng)用程序框架。與?Hadoop?不同,Spark?和?Scala?能夠緊密集成,其中的?Scala?可以像操作本地集合對象一樣輕松地操作分布式數(shù)據(jù)集。?
三、Storm實時開發(fā)?
Storm是一個免費并開源的分布式實時計算系統(tǒng)。利用Storm可以很容易做到可靠地處理無限的數(shù)據(jù)流,像Hadoop批量處理大數(shù)據(jù)一樣,Storm可以實時處理數(shù)據(jù)。Storm簡單,可以使用任何編程語言。?
Storm有如下特點:?
1.編程簡單:開發(fā)人員只需要關(guān)注應(yīng)用邏輯,而且跟Hadoop類似,Storm提供的編程原語也很簡單?
2.高性能,低延遲:可以應(yīng)用于廣告搜索引擎這種要求對廣告主的操作進行實時響應(yīng)的場景。?
3.分布式:可以輕松應(yīng)對數(shù)據(jù)量大,單機搞不定的場景?
4.可擴展:?隨著業(yè)務(wù)發(fā)展,數(shù)據(jù)量和計算量越來越大,系統(tǒng)可水平擴展?
5.容錯:單個節(jié)點掛了不影響應(yīng)用?
6.消息不丟失:保證消息處理?
“Hadoop棧由哪些組件組成”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實用文章!
分享題目:Hadoop棧由哪些組件組成-創(chuàng)新互聯(lián)
本文地址:http://aaarwkj.com/article2/piooc.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站收錄、外貿(mào)建站、Google、ChatGPT、做網(wǎng)站、App開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容