前幾天去參加了一個線下的聚會,參加聚會的基本都是從事互聯(lián)網(wǎng)工作的。會上有人提到了區(qū)塊鏈,從而引發(fā)了一場關于大數(shù)據(jù)方面的探討。我也是從去年才正式接觸大數(shù)據(jù),一直在學習hadoop。相信接觸過hadoop的人都知道,。單獨搭建hadoop里每個組建都需要運行環(huán)境、修改配置文件、測試等過程,每個組件幾乎都有坑,尤其是讓新手甚是苦惱。此前有在微博上與一些博友了解過他們的配置過程,有的配置了好幾天愣是沒成功。
Hadoop運行環(huán)境配置的坑只有走過的人才懂,不過三月份的時候發(fā)現(xiàn)了一個比較有意思的國產(chǎn)hadoop發(fā)行版——大快開源的發(fā)行版DKHadoop。DKHadoop將開源社區(qū)里多種常用組建包括:HDFS,Hbase,Storm,F(xiàn)lume,Kafka,Mahout,ES等都集成到了這一個平臺里,所以整個運行環(huán)境的配置安裝就大大被簡化了。
我把此前安裝的過程整理了一下分享給感興趣的朋友,主要分為:準備階段、服務器操作系統(tǒng)配置、DKH系統(tǒng)安裝、常見問題解決方法四個部門。由于文章偏于較長,本篇重點為大家分享第一部分——準備階段。
第一部分:準備工作
1、大數(shù)據(jù)平臺所需配置:
(1) 系統(tǒng):CentOS 6.5 64位(需默認安裝Desktop)
(2) CPU :intel E3及以上。
(3) 內(nèi)存:建議最小8G,用圖計算建議32G,推薦128G。
(4) 硬盤:256G以上,推薦使用固態(tài)硬盤。
(5) 系統(tǒng)分區(qū)要求: 如無特殊需求,除swap分區(qū)外,可將剩余空間全部分配 到/ (根) 分區(qū)
(6) 網(wǎng)絡要求:如無特殊情況,盡量可以接入外網(wǎng)。
(7) 至少三臺服務器(三臺服務器名字任意起,密碼須一致)。
(8)安裝使用root用戶作為默認用戶
2、遠程上傳和遠程連接工具:
(1)若直接使用個人PC開啟的虛擬機作為服務器的基礎,直接拷貝到虛擬機下即可。
(2)若是使用機房服務器作平臺搭建的服務器,如若不能直接接觸到服務器,則需要使用遠程工具連接并發(fā)送安裝包。
第一部分的主要是安裝前的準備工作,除了做好上述這些,還需要去下載一下安裝版本。我是直接搜索找到了大快的官網(wǎng)下載的一個三節(jié)點的發(fā)行版。需要的朋友也可以搜索主要一下,如果沒有找到可以留言給我。
另外有需要云服務器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應用場景需求。
網(wǎng)頁名稱:hadoop快速入門之DKH安裝準備-創(chuàng)新互聯(lián)
網(wǎng)頁URL:http://aaarwkj.com/article6/gjcog.html
成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供商城網(wǎng)站、Google、網(wǎng)站策劃、關鍵詞優(yōu)化、域名注冊、定制開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容