欧美一级特黄大片做受成人-亚洲成人一区二区电影-激情熟女一区二区三区-日韩专区欧美专区国产专区

【SEO優(yōu)化推廣】:搜索引擎蜘蛛抓取配額是什么?

2016-11-12    分類: 網(wǎng)站建設(shè)

一月份時,Google新的SEO代言人Gary Illyes在Google官方博客上發(fā)了一篇帖子:What Crawl Budget Means for Googlebot,討論了搜索引擎蜘蛛抓取份額相關(guān)問題。對大中型網(wǎng)站來說,這是個頗為重要的SEO問題,有時候會成為網(wǎng)站自然流量的瓶頸。

的帖子總結(jié)一下Gary Illyes帖子里的以及后續(xù)跟進(jìn)的很多博客、論壇帖子的主要內(nèi)容,以及我自己的一些案例和理解。

強(qiáng)調(diào)一下,以下這些概念對百度同樣適用。

什么是搜索引擎蜘蛛抓取份額?

顧名思義,抓取份額是搜索引擎蜘蛛花在一個網(wǎng)站上的抓取頁面的總的時間上限。對于特定網(wǎng)站,搜索引擎蜘蛛花在這個網(wǎng)站上的總成都SEO知識時間是相對固定的,不會無限制地抓取網(wǎng)站所有頁面。

抓取份額的英文Google用的是crawl budget,直譯是爬行預(yù)算,我覺得不太能說明是什么意思,所以用抓取份額表達(dá)這個概念。

抓取份額是由什么決定的呢?這牽扯到抓取需求和抓取速度限制。

抓取需求

抓取需求,crawl demand,指的是搜索引擎“想”抓取特定網(wǎng)站多少頁面。

決定抓取需求的主要有兩個因素。一是頁面權(quán)重,網(wǎng)站上有多少頁面達(dá)到了基本頁面權(quán)重,搜索引擎就想抓取多少頁面。二是索引庫里頁面是否太久沒更新了。說到底還是頁面權(quán)重,權(quán)重高的頁面就不會太久不更新。

頁面權(quán)重和網(wǎng)站權(quán)重又是息息相關(guān)的,提高網(wǎng)站權(quán)重,就能使搜索引擎愿意多抓取頁面。

抓取速度限制

搜索引擎蜘蛛不會為了抓取更多頁面,把人家網(wǎng)站服務(wù)器拖垮,所以對某個網(wǎng)站都會設(shè)定一個抓取速度的上限,crawl rate limit,也就是服務(wù)器能承受的上限,在這個速度限制內(nèi),蜘蛛抓取不會拖慢服務(wù)器、影響用戶訪問。

服務(wù)器反應(yīng)速度夠快,這個速度限制就上調(diào)一點,抓取加快,服務(wù)器反應(yīng)速度下降,速度限制跟著下降,抓取減慢,甚至停止抓取。

所以,抓取速度限制是搜索引擎“能”抓取的頁面數(shù)。

抓取份額是由什么決定的?

抓取份額是考慮抓取需求和抓取速度限制兩者之后的結(jié)果,也就是搜索引擎“想”抓,同時又“能”抓的頁面數(shù)。

網(wǎng)站權(quán)重高,頁面內(nèi)容質(zhì)量高,頁面夠多,服務(wù)器速度夠快,抓取份額就大。

小網(wǎng)站沒必要擔(dān)心抓取份額

小網(wǎng)站頁面數(shù)少,即使網(wǎng)站權(quán)重再低,服務(wù)器再慢,每天搜索引擎蜘蛛抓取的再少,通常至少也能抓個幾百頁,十幾天怎么也全站抓取一遍了,所以幾千個頁面的網(wǎng)站根本不用擔(dān)心抓取份額的事。數(shù)萬個頁面的網(wǎng)站一般也不是什么大事。每天幾百個訪問要是能拖慢服務(wù)器,SEO就不是主要需要考慮的事了。

大中型網(wǎng)站可能需要考慮抓取份額

幾十萬頁以上的大中型網(wǎng)站,可能要考慮抓取份額夠不夠的問題。

抓取份額不夠,比如網(wǎng)站有1千萬頁面,搜索引擎每天只能抓幾萬個頁面,那么把網(wǎng)站抓一遍可能需要幾個月,甚至一年,也可能意味著一些重要頁面沒辦法被抓取,所以也就沒排名,或者重要頁面不能及時被更新。

要想網(wǎng)站頁面被及時、充分抓取,首先要保證服務(wù)器夠快,頁面夠小。如果網(wǎng)站有海量高質(zhì)量數(shù)據(jù),抓取份額將受限于抓取速度,提高頁面速度直接提高抓取速度限制,因而提高抓取份額。

百度站長平臺和Google Search Console都有抓取數(shù)據(jù)。如下圖某網(wǎng)站百度抓取頻次:

上圖是SEO每天一貼這種級別的小網(wǎng)站,頁面抓取頻次和抓取時間(取決于服務(wù)器速度和頁面大小)沒有什么大關(guān)系,說明沒有用完抓取份額,不用擔(dān)心。

有的時候,抓取頻次和抓取時間是有某種對應(yīng)關(guān)系的,如下圖另一個大些的網(wǎng)站:

可以看到,抓取時間改善(減小頁面尺寸、提高服務(wù)器速度、優(yōu)化數(shù)據(jù)庫),明顯導(dǎo)致抓取頻次上升,使更多頁面被抓取收錄,遍歷一遍網(wǎng)站更快速。

Google Search Console里更大點站的例子:

最上面的是抓取頁面數(shù),中間的是抓取數(shù)據(jù)量,除非服務(wù)器出錯,這兩個應(yīng)該是對應(yīng)的。最下面的是頁面抓取時間??梢钥吹?,頁面下載速度夠快,每天抓取上百萬頁是沒有問題的。

當(dāng)然,像前面說的,能抓上百萬頁是一方面,搜索引擎想不想抓是另一方面。

大型網(wǎng)站另一個經(jīng)常需要考慮抓取份額的原因是,不要把有限的抓取份額浪費在無意義的頁面抓取上,導(dǎo)致應(yīng)該被抓取的重要頁面卻沒有機(jī)會被抓取。

浪費抓取份額的典型頁面有:

大量過濾篩選頁面。這一點,幾年前關(guān)于無效URL爬行索引的帖子里有詳細(xì)討論。站內(nèi)復(fù)制內(nèi)容低質(zhì)、垃圾內(nèi)容日歷之類的無限個頁面

上面這些頁面被大量抓取,可能用完抓取份額,該抓的頁面卻沒抓。

怎樣節(jié)省抓取份額?

當(dāng)然首先是降低頁面文件大小,提高服務(wù)器速度,優(yōu)化數(shù)據(jù)庫,降低抓取時間。

然后,盡量避免上面列出的浪費抓取份額的東西。有的是內(nèi)容質(zhì)量問題,有的是網(wǎng)站結(jié)構(gòu)問題,如果是結(jié)構(gòu)問題,最簡單的辦法是robots文件禁止抓取,但多少會浪費些頁面權(quán)重,因為權(quán)重只進(jìn)不出。

某些情況下使用鏈接nofollow屬性可以節(jié)省抓取份額。小網(wǎng)站,由于抓取份額用不完,加nofollow是沒有意義的。大網(wǎng)站,nofollow是可以在一定程度上控制權(quán)重流動和分配的,精心設(shè)計的nofollow會使無意義頁面權(quán)重降低,提升重要頁面權(quán)重。搜索引擎抓取時會使用一個URL抓取列表,里面待抓URL是按頁面權(quán)重排序的,重要頁面權(quán)重提升,會先被抓取,無意義頁面權(quán)重可能低到搜索引擎不想抓取。

最后幾個說明:

鏈接加nofollow不會浪費抓取份額。但在Google是會浪費權(quán)重的。 noindex標(biāo)簽不能節(jié)省抓取份額。搜索引擎要知道頁面上有noindex標(biāo)簽,就得先抓取這個頁面,所以并不節(jié)省抓取份額。 canonical標(biāo)簽有時候能節(jié)省一點抓取份額。和noindex標(biāo)簽一樣,搜索引擎要知道頁面上有canonical標(biāo)簽,就得先抓取這個頁面,所以并不直接節(jié)省抓取份額。但有canonical標(biāo)簽的頁面被抓取頻率經(jīng)常會降低,所以會節(jié)省一點抓取份額。抓取速度和抓取份額不是排名因素。但沒被抓取的頁面也談不上排名。
作者: Zac@SEO每天一貼
版權(quán)屬于: 中新虛擬主機(jī)
版權(quán)所有。轉(zhuǎn)載時必須以鏈接形式注明作者和原始出處及本聲明。SEO整理分享!

網(wǎng)頁名稱:【SEO優(yōu)化推廣】:搜索引擎蜘蛛抓取配額是什么?
鏈接分享:http://aaarwkj.com/news/66564.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供云服務(wù)器、網(wǎng)站設(shè)計、做網(wǎng)站、靜態(tài)網(wǎng)站、Google、網(wǎng)站設(shè)計公司

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

搜索引擎優(yōu)化
欧美日韩性生活视频在线 | 亚欧熟女乱色一二三区日韩| 日本中文字幕乱码一区| 国产91在线观看网站| 永久免费观看黄色录像| 日韩精品一区二区三区av在线| 亚洲精品第一页中文字幕| 日本免费的高清一区二区| 激情小说婷婷亚洲综合| 一区二区三区毛片在线看| 中文字幕加勒比东京热| 精品视频在线观看传媒| 久久久久国产综合精品| 不卡的视频在线观看| 国产午夜福利不卡在线观看| 久久综合中文字幕一区| 国产一区二区三区91精品| 日韩精品高清中文字幕| 亚洲午夜精品久久久天堂| 日韩福利小视频在线| 四虎国产精品久久久久久网址| 日本精品视频免费网| 国产毛毛片一区二区三区| 爽妇网亚洲一区二区三区| av熟女乱一区二区三区| 伊人欧美一区二区三区| 午夜福利中文字幕在线亚洲| 中文在线在线天堂中文| 黄片色呦呦视频免费看| 色综合久久国产原创野外| 国产熟女碰碰人人a久久| 国产成人大片中文字幕在线| 国产又粗又长在线视频| 亚洲精品一区二区播放| 亚洲欧美日韩国产一区二区三区| 男人的av天堂东京热| 欧美口爆吞精在线观看| 日本黄色av一区二区| 尤物视频在线观看羞羞| 中文字幕五月久久婷热| 国产三级国产剧情国产av|