hadoop MapReduce初試遇到的問(wèn)題

創(chuàng)新互聯(lián)建站是一家專(zhuān)業(yè)提供武邑企業(yè)網(wǎng)站建設(shè),專(zhuān)注與成都網(wǎng)站建設(shè)、網(wǎng)站設(shè)計(jì)、H5場(chǎng)景定制、小程序制作等業(yè)務(wù)。10年已為武邑眾多企業(yè)、政府機(jī)構(gòu)等服務(wù)。創(chuàng)新互聯(lián)專(zhuān)業(yè)網(wǎng)站制作公司優(yōu)惠進(jìn)行中。

./hadoop jar ./MapReduce-jar-with-dependencies.jar com.hc360.mp.WordCountHbaseReader /user/hbase/tabelname01 tablename

在hadoop集群上執(zhí)行 MapReduce任務(wù)時(shí)，需要用到許多依賴(lài)jar，一般情況下都是在執(zhí)行時(shí)，在執(zhí)行命令上進(jìn)行配置指定，這樣會(huì)造成執(zhí)行命令太長(zhǎng)，并且容易出錯(cuò)，有時(shí)還想帶幾個(gè)參數(shù)信息，這樣更容易出錯(cuò)；

比較好的處理方法是，在生成運(yùn)行jar時(shí)，將需要的依賴(lài)jar打包到運(yùn)行jar中，這樣在執(zhí)行時(shí)所有依賴(lài)的jar都有了，就不用指定了。

./hdfs dfs -rmr /user/hbase/

hdfs上已有的文件不能進(jìn)行覆蓋，生成文件時(shí)必須是沒(méi)有的新文件，可以在產(chǎn)生文件前執(zhí)行以上命令清除已有的文件：

16/07/19 18:26:08 INFO ipc.Client: Retrying connect to server: xxxx/192.168.xx.xx:8032. Already tried 4 time(s); retry policy is etryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS)

hadoop集群上，如果沒(méi)有啟動(dòng) yarn（MapReduce），當(dāng)運(yùn)行MapReduce任務(wù)時(shí)，會(huì)提示上面的信息； 

當(dāng)執(zhí)行hadoop的shell命令時(shí)，如果提示類(lèi)似上面的信息，可以查看是否啟動(dòng)了hadoop進(jìn)程。

java.lang.IllegalArgumentException: Does not contain a valid host:port authority:

java.net.UnknownHostException

hadoop集群的hostname配置，主機(jī)名不要包含下劃線“_”，但可以有橫線“-”。

在hadoop集群中每個(gè)機(jī)器都要配置集群所有機(jī)器的hostname域名，以便相互訪問(wèn)。

這里分享一個(gè)血的教訓(xùn)，在給hostname起名字的時(shí)候一定要注意，雖然linux支持一些特殊字符，但java里面并不支持，所以hostname的命名一定要使用數(shù)字和字母（以點(diǎn)號(hào)分隔）。如果起的hostname包含了特殊字符下劃線，導(dǎo)致hadoop運(yùn)行時(shí)候的reduce階段出錯(cuò)。

本文名稱(chēng)：hadoopMapReduce初試遇到的問(wèn)題
分享地址：http://aaarwkj.com/article24/iggjje.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供服務(wù)器托管、網(wǎng)站制作、域名注冊(cè)、動(dòng)態(tài)網(wǎng)站、自適應(yīng)網(wǎng)站、品牌網(wǎng)站制作

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話(huà)：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)