本篇內(nèi)容主要講解“Hadoop和pig怎么安裝”,感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷,實用性強。下面就讓小編來帶大家學(xué)習(xí)“Hadoop和pig怎么安裝”吧!
創(chuàng)新互聯(lián)建站網(wǎng)站建設(shè)公司一直秉承“誠信做人,踏實做事”的原則,不欺瞞客戶,是我們最起碼的底線! 以服務(wù)為基礎(chǔ),以質(zhì)量求生存,以技術(shù)求發(fā)展,成交一個客戶多一個朋友!專注中小微企業(yè)官網(wǎng)定制,成都網(wǎng)站建設(shè)、網(wǎng)站設(shè)計,塑造企業(yè)網(wǎng)絡(luò)形象打造互聯(lián)網(wǎng)企業(yè)效應(yīng)。我們用MapReduce進行數(shù)據(jù)分析。當(dāng)業(yè)務(wù)比較復(fù)雜的時候,使用MapReduce將會是一個很復(fù)雜的事情,比如你需要對數(shù)據(jù)進行很多預(yù)處理或轉(zhuǎn)換,以便能夠適應(yīng)MapReduce的處理模式,另一方面,編寫MapReduce程序,發(fā)布及運行作業(yè)都將是一個比較耗時的事情。
Pig的出現(xiàn)很好的彌補了這一不足。Pig能夠讓你專心于數(shù)據(jù)及業(yè)務(wù)本身,而不是糾結(jié)于數(shù)據(jù)的格式轉(zhuǎn)換以及MapReduce程序的編寫。本質(zhì)是上來說,當(dāng)你使用Pig進行處理時,Pig本身會在后臺生成一系列的MapReduce操作來執(zhí)行任務(wù),但是這個過程對用戶來說是透明的。
Pig的安裝
Pig作為客戶端程序運行,即使你準(zhǔn)備在Hadoop集群上使用Pig,你也不需要在集群上做任何安裝。Pig從本地提交作業(yè),并和Hadoop進行交互。
1)下載Pig
前往http://mirror.bit.edu.cn/apache/pig/ 下載合適的版本,比如 pig-0.17.0.tar.gz
2)解壓文件到合適的目錄
[root@hadp-node1 hadoop]# tar -zxvf pig-0.17.0.tar.gz -C /usr/local/hadoop/
3)設(shè)置環(huán)境變量
export PIG_HOME=/usr/local/hadoop/pig-0.17.0
export PIG_CLASSPATH=$HADOOP_HOME/etc/hadoop/ #顯式設(shè)置HADOOP_HOME變量,確保庫和你實際使用的HADOOP版本兼容
export PATH=$PATH:$PIG_HOME/bin
如果沒有設(shè)置JAVA環(huán)境變量,此時還需要設(shè)置JAVA_HOME,比如:
export JAVA_HOME=/usr/local/jdk1.7.0_51
說明:
PIG_CLASSPATH變量 是PIG配置MapReduce模式,讓Pig軟件找到Hadoop集群,這里是告訴pig軟件hadoop的配置文件在哪里,通過一系列配置文件core_site.xml hdfs-site.xml mapred-site.xml 可以找到關(guān)鍵參數(shù)NameNode 和 JobTracker 的位置以及端口信息,有了這些信息就可以對整個集群進行控制了。
4)驗證
執(zhí)行以下命令,查看Pig是否可用
到此,相信大家對“Hadoop和pig怎么安裝”有了更深的了解,不妨來實際操作一番吧!這里是創(chuàng)新互聯(lián)網(wǎng)站,更多相關(guān)內(nèi)容可以進入相關(guān)頻道進行查詢,關(guān)注我們,繼續(xù)學(xué)習(xí)!
本文標(biāo)題:Hadoop和pig怎么安裝-創(chuàng)新互聯(lián)
網(wǎng)頁網(wǎng)址:http://aaarwkj.com/article6/iejog.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供建站公司、網(wǎng)站內(nèi)鏈、響應(yīng)式網(wǎng)站、外貿(mào)網(wǎng)站建設(shè)、定制開發(fā)、網(wǎng)站導(dǎo)航
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容