本篇內(nèi)容主要講解“KAFKA有哪些特性”,感興趣的朋友不妨來(lái)看看。本文介紹的方法操作簡(jiǎn)單快捷,實(shí)用性強(qiáng)。下面就讓小編來(lái)帶大家學(xué)習(xí)“KAFKA有哪些特性”吧!
創(chuàng)新互聯(lián)公司是專業(yè)的茂名網(wǎng)站建設(shè)公司,茂名接單;提供網(wǎng)站建設(shè)、成都網(wǎng)站設(shè)計(jì),網(wǎng)頁(yè)設(shè)計(jì),網(wǎng)站設(shè)計(jì),建網(wǎng)站,PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);采用PHP框架,可快速的進(jìn)行茂名網(wǎng)站開(kāi)發(fā)網(wǎng)頁(yè)制作和功能擴(kuò)展;專業(yè)做搜索引擎喜愛(ài)的網(wǎng)站,專業(yè)的做網(wǎng)站團(tuán)隊(duì),希望更多企業(yè)前來(lái)合作!
1、高并發(fā)
這個(gè)通常是說(shuō)一個(gè)系統(tǒng)能承受大量的連接,已經(jīng)非常高的并發(fā);
在kafka中,主要是得益于優(yōu)秀的網(wǎng)絡(luò)通信框架設(shè)計(jì),即前面講到的結(jié)合Reactor設(shè)計(jì)模式實(shí)現(xiàn)的網(wǎng)絡(luò)底座。
這個(gè)網(wǎng)絡(luò)框架封裝自Java的NIO庫(kù),底層的網(wǎng)絡(luò)IO模型采用的是多路復(fù)用的網(wǎng)絡(luò)IO,也就是通過(guò)一個(gè)selector可以管理成千上萬(wàn)的連接,相比于傳統(tǒng)BIO大大的節(jié)約了服務(wù)端維護(hù)連接的開(kāi)銷。
其次就是結(jié)合Reactor設(shè)計(jì)模式實(shí)現(xiàn)的網(wǎng)絡(luò)底座,分為三個(gè)角色,acceptor、processor、handler,將網(wǎng)絡(luò)事件與業(yè)務(wù)邏輯進(jìn)一步拆分解解耦,提升了網(wǎng)絡(luò)事件的執(zhí)行效率。
2、高吞吐
吞吐需要分為兩部分討論
2.1、寫(xiě)入吞吐量,主要是得益于追加寫(xiě)的性能極高,kafka是如何實(shí)現(xiàn)追加寫(xiě)的呢?簡(jiǎn)單的說(shuō)來(lái)其實(shí)底層就是持有目標(biāo)文件的channel,然后基于channel去進(jìn)行追加寫(xiě)即可,
那么是怎么持有文件的channel的呢?在創(chuàng)建segment也就是日志文件的時(shí)候就已經(jīng)知道對(duì)應(yīng)文件在哪兒并持有對(duì)應(yīng)的file引用了,因此就避免了還需要進(jìn)行磁盤(pán)尋址的開(kāi)銷,
基于這個(gè)文件的channel就可以進(jìn)行追加寫(xiě)入。
public static FileRecords open(File file, boolean mutable, boolean fileAlreadyExists, int initFileSize, boolean preallocate) throws IOException {// 拿到這個(gè)log文件對(duì)應(yīng)的fileChannel FileChannel channel = openChannel(file, mutable, fileAlreadyExists, initFileSize, preallocate); int end = (!fileAlreadyExists && preallocate) ? 0 : Integer.MAX_VALUE; return new FileRecords(file, channel, 0, end, false);}
private static FileChannel openChannel(File file, boolean mutable, boolean fileAlreadyExists, int initFileSize, boolean preallocate) throws IOException { // 通過(guò)RandomAccessFile拿到對(duì)應(yīng)的fileChannel if (mutable) {if (fileAlreadyExists) {return new RandomAccessFile(file, "rw").getChannel(); } else {if (preallocate) { RandomAccessFile randomAccessFile = new RandomAccessFile(file, "rw"); randomAccessFile.setLength(initFileSize); return randomAccessFile.getChannel(); } else {return new RandomAccessFile(file, "rw").getChannel(); } } } else {return new FileInputStream(file).getChannel(); } }
public int writeFullyTo(GatheringByteChannel channel) throws IOException { // 這個(gè)buffermemoryRecords中的一個(gè)屬性 // 在初始化的時(shí)候被賦值的 // 那么在哪里初始化的呢?這個(gè)是從ProduceRequest中被取出來(lái)的 buffer.mark(); // 經(jīng)典的NIO寫(xiě)文件循環(huán)操作 int written = 0; while (written < sizeInBytes())// 直接寫(xiě)os cache中,而不是寫(xiě)在磁盤(pán)文件里 written += channel.write(buffer); buffer.reset(); return written;}
2.2、讀取吞吐量,這個(gè)主要是利用網(wǎng)上常說(shuō)的zore copy,這零拷貝簡(jiǎn)單的說(shuō)來(lái)OS提供了一個(gè)系統(tǒng)調(diào)用,可以讓網(wǎng)卡根據(jù)少量的元數(shù)據(jù)信息,就可以直接從OS CACHE中讀取目標(biāo)數(shù)據(jù)
從而避免了這部分?jǐn)?shù)據(jù)拷貝到用戶空間(JVM),再拷貝到socket緩沖區(qū),幾乎消除了CPU拷貝數(shù)據(jù)的開(kāi)銷,同時(shí)也減少了用戶態(tài)/內(nèi)核態(tài)切換的開(kāi)銷,從而在數(shù)據(jù)發(fā)送的方面,zore copy性能極高。
話又說(shuō)回來(lái),kafka是怎么利用zore copy的呢?很簡(jiǎn)單,源碼如下FileRecords的writeTo函數(shù):
public long writeTo(GatheringByteChannel destChannel, long offset, int length) throws IOException {long newSize = Math.min(channel.size(), end) - start; int oldSize = sizeInBytes(); if (newSize < oldSize)throw new KafkaException(String.format("Size of FileRecords %s has been truncated during write: old size %d, new size %d", file.getAbsolutePath(), oldSize, newSize)); long position = start + offset; int count = Math.min(length, oldSize); final long bytesTransferred; if (destChannel instanceof TransportLayer) { TransportLayer tl = (TransportLayer) destChannel; bytesTransferred = tl.transferFrom(channel, position, count); } else { bytesTransferred = channel.transferTo(position, count, destChannel); }return bytesTransferred;}
3、高性能,低延時(shí)
這兩個(gè)放在一起討論呢,主要是這高性能這東西很泛,方方面面的良好設(shè)計(jì)才有了整體的高性能,舉個(gè)栗子,前面提到的時(shí)間輪的設(shè)計(jì),就是很經(jīng)典的例子。
低延時(shí)主要是得益于可以寫(xiě)OS CACHE,如果不設(shè)置強(qiáng)制刷盤(pán)的話,寫(xiě)入OS CACHE之后就算本地寫(xiě)入成功了,寫(xiě)內(nèi)存是非??斓?,所以結(jié)合追加寫(xiě),整個(gè)操作的時(shí)延就非常低。
4、高可靠,高可用
高可靠一般是指消息高可靠,主要是基于副本設(shè)計(jì),讓一條數(shù)據(jù)有多個(gè)副本分散到不同的機(jī)器,從而提供了不錯(cuò)的高可靠性。
高可用一般是指機(jī)器出現(xiàn)宕機(jī)等異常情況依舊能正常提供服務(wù),在服務(wù)端的體現(xiàn)的話,主要是就是controller的設(shè)計(jì),可以通過(guò)zk感知到broker的變化,從而做一系列的狀態(tài)變更;
最后還有ISR的設(shè)計(jì),以及副本的主從設(shè)計(jì),在出現(xiàn)leader副本所在broker宕機(jī)的時(shí)候,可以從剩余的優(yōu)先副本中選出一個(gè)leader來(lái)繼續(xù)提供服務(wù),保障服務(wù)高可用。
到此,相信大家對(duì)“KAFKA有哪些特性”有了更深的了解,不妨來(lái)實(shí)際操作一番吧!這里是創(chuàng)新互聯(lián)網(wǎng)站,更多相關(guān)內(nèi)容可以進(jìn)入相關(guān)頻道進(jìn)行查詢,關(guān)注我們,繼續(xù)學(xué)習(xí)!
當(dāng)前標(biāo)題:KAFKA有哪些特性
URL標(biāo)題:http://aaarwkj.com/article0/iijdio.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供響應(yīng)式網(wǎng)站、關(guān)鍵詞優(yōu)化、網(wǎng)站建設(shè)、網(wǎng)站設(shè)計(jì)公司、營(yíng)銷型網(wǎng)站建設(shè)、全網(wǎng)營(yíng)銷推廣
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)