本文主要介紹了hadoop源碼中hdfs的INodeReference機制。
成都創(chuàng)新互聯公司是一家業(yè)務范圍包括IDC托管業(yè)務,網絡空間、主機租用、主機托管,四川、重慶、廣東電信服務器租用,成都二樞機房,成都網通服務器托管,成都服務器租用,業(yè)務范圍遍及中國大陸、港澳臺以及歐美等多個國家及地區(qū)的互聯網數據服務公司。
在hdfs2.6版本中,引入了許多新的功能,一些原有的源代碼設計也有一定的改造。一個重要的更新就是引入了快照功能。但是當HDFS文件或者目錄處于某個快照中,并且這個文件或者目錄被重命名或者移動到其他路徑時,該文件或者目錄就會存在多條訪問路徑。INodeReference就是為了解決這個問題產生的。
問題描述
/a是hdfs中的一個普通目錄,s0為/a的一個快照,在/a目錄下有一個文件test。根據快照的定義,我們可以通過/a/test以及/a/snapshot/s0/test訪問test文件。
但是當用戶將/a/test文件重命名成/x/test1時,通過快照路徑/a/snapshot/s0/test將無法訪問test文件,這種情況是不符合快照規(guī)范的。
引入INodeReference
為了解決上述問題,hdfs引入了INodeReference類。圖1-1給出了INodeReference的繼承關系圖。這里的WithName,WithCoount,DstReference都是INodeReference的子類,同時也是INodeReference的內部類。WithName對象用于替代重命名操作前源路徑中的INode對象,DstReference對象則用于替代重命名操作后目標路徑中的INode對象,WithName和DstReference共同指向了一個WithCount對象,WithCount對象則指向了文件系統(tǒng)目錄樹中真正的INode對象。
圖1
INodeReference代碼實現
INodeReference是一個抽象類,它拓展自INode類,所以INodeReference及其子類是可以添加到文件系統(tǒng)目錄樹中以替代原有的INodeFile節(jié)點的。INodeReference定義了referred字段,這個字段用于保存當前INodeReference類指向的INode節(jié)點,所以WithName和RstReference,referred字段就指向了WithCount對象,對于WithCount,referred指向了真正的INode對象。INodeReference還定義了getReferredINode()方法,在文件系統(tǒng)目錄樹的操作中,如果判斷當前節(jié)點是一個引用節(jié)點,則會調用getReferredINode()方法獲取INodeReference指向的INode對象。
public abstract class INodeReference extends INode { private INode referred;//指向的INode節(jié)點 public INodeReference(INode parent,INode referred){ super(parent); this.referred = referred; } public final INode getReferredINode() { //獲取指向的INode節(jié)點 return referred; } public final void setReferredINode(INode referred) { this.referred = referred; } //... }
然后,我們在來看看WithCount類的實現。
WithCount類定義了一個集合字段withNameList用于保存所有指向這個WithCount對象的WithName對象集合。WithCount類還定義了addReference()方法,任何指向WithCount對象的WithName對象以及DstReference對象都需要調用這個方法來添加指向關系。對于指向這個WithCount對象的DstReference對象,addReference()方法會將這個對象設置為自己的父INode節(jié)點;而對于WithName對象,addReference()方法則將這個對象放入withNameList集合中保存。
public static class WithCount extends INodeReference { //保存所有指向這個WithCount對象的WithName對象的集合 private final List<WithName> withNameList = new ArrayList<WithName>(); public WithCount(INodeReference parent,INode referred) { super(parent,referred); //調用父類的構造方法,指向文件系統(tǒng)目錄樹中的INode Preconditions.checkArgument(!referred.isReference()); refferred.setParentReferenct(this); //設置真實INode的父節(jié)點為當前WithCount對象 } public void addReferenct(INodeReference ref){ if ( ref instanceof WithName) { //如果是WithName對象,則加入withNameList WithName refWithName = (WithName) ref; int i = Collections.binarySearch(withNameList, refWithName,WITHNAME_COMPARATOR); Preconditions.checkState(i<0); withNameList.add(-i-1,refWithName); } else if (ref instanceof DstReference) { //如果是DstReference對象,則設置為父節(jié)點 setParentReference(ref); } } //... }
看完WithCount后,在看看WithName和DstReference。WithName類定義了name字段用于保存重命名前文件的名稱,同事定義了lastSnapshotId字段用于保存WithName對象構造時源路徑的快照版本號。DstReference類的實現就更簡單了,只定義了一個dstSnapshotId字段用于保存重命名操作前目標路徑的最新快照的版本號。WithName和DstReference在構造時都會調用父類的構造方法指向WithCount對象,同時還會調用WithCount.addReference()方法配置WithCount對象。
public static class WithName extend INodeReference { private final byte[] name;//重命名前的文件名 private final int lastSnapshotId; public WithName(INodeDirectory parent,WithCount referred,bytep[] name,int lastSnapshotId){ super(parent,referred); //調用父類構造方法,指向WithCount節(jié)點 this.name = name; this.lastSnapshotId = lastSnapshotId; referred.addReferenct(this); //調用WithCount.addReferenct() } //... } public static class DstReference extends INodeReference { private final int dstSnapshotId; public DstReference (INodeDirectory parent,WithCount referred,final int dstSnapshotId){ super(parent,referred); this.lastSnapshotId = lastSnapshotId; referred.addReferenct(this); //調用WithCount.addReferenct() } //.. }
網站名稱:hadoop源碼解析---INodeReference機制
分享地址:http://aaarwkj.com/article44/jjjohe.html
成都網站建設公司_創(chuàng)新互聯,為您提供域名注冊、品牌網站建設、用戶體驗、靜態(tài)網站、網站策劃、服務器托管
聲明:本網站發(fā)布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創(chuàng)新互聯