在我抓取網(wǎng)站遇到瓶頸，想劍走偏鋒去解決時(shí)，常常會(huì)先去看下該網(wǎng)站的robots.txt文件，有時(shí)會(huì)給你打開另一扇抓取之門。
　　寫爬蟲有很多苦惱的事情，比如：（推薦閱讀：服務(wù)器日志是什么，服務(wù)器日志對SEO有什么幫助）
　　1.訪問頻次太高被限制；
　　2.如何大量發(fā)現(xiàn)該網(wǎng)站的URL；
　　3.如何抓取一個(gè)網(wǎng)站新產(chǎn)生的URL，等等；
　　這些問題都困擾著爬蟲選手，如果有大量離散IP和賬號(hào)，這些都不是問題，但是絕大部分公司都不具備這個(gè)條件的。
　　我們在工作中寫的爬蟲大多是一次性和臨時(shí)性的任務(wù)，需要你快速完成工作就好，當(dāng)遇到上面情況，試著看下robots.txt文件。
　　舉個(gè)栗子
　　老板給你布置一個(gè)任務(wù)，把豆瓣每天新產(chǎn)生的影評(píng)，書評(píng)，小組帖子，同城帖子，個(gè)人日志抓取下來。
　　初想一下，這任務(wù)得有多大，豆瓣有1.6億注冊用戶，光是抓取個(gè)人日志這一項(xiàng)任務(wù)，每個(gè)人的主頁你至少每天要訪問一次。
　　這每天就得訪問1.6億次，小組/同城帖子等那些還沒算在內(nèi)。
　　設(shè)計(jì)一個(gè)常規(guī)爬蟲，靠著那幾十個(gè)IP是完不成任務(wù)的。
　　初窺robots.txt
　　當(dāng)老板給你了上面的任務(wù)，靠著你這一兩桿槍，你怎么完成，別給老板講技術(shù)，他不懂，他只想要結(jié)果。
　　我們來看下豆瓣的robots.txt
　　https://www.douban.com/robots.txt

網(wǎng)站建設(shè)哪家好，找成都創(chuàng)新互聯(lián)！專注于網(wǎng)頁設(shè)計(jì)、網(wǎng)站建設(shè)、微信開發(fā)、成都微信小程序、集團(tuán)企業(yè)網(wǎng)站建設(shè)等服務(wù)項(xiàng)目。為回饋新老客戶創(chuàng)新互聯(lián)還提供了紅古免費(fèi)建站歡迎大家使用！

　　看圖片上面紅框處，是兩個(gè)sitemap文件
　　打開sitemap_updated_index文件看一下：

　　里面是一個(gè)個(gè)壓縮文件，文件里面是豆瓣頭一天新產(chǎn)生的影評(píng)，書評(píng)，帖子等等，感興趣的可以去打開壓縮文件看一下。
　　也就是說每天你只需要訪問這個(gè)robots.txt里的sitemap文件就可以知道有哪些新產(chǎn)生的URL。
　　不用去遍歷豆瓣網(wǎng)站上那幾億個(gè)鏈接，極大節(jié)約了你的抓取時(shí)間和爬蟲設(shè)計(jì)復(fù)雜度，也降低了豆瓣網(wǎng)站的帶寬消耗，這是雙贏啊，哈哈。
　　上面通過robots.txt的sitemap文件找到了抓取一個(gè)網(wǎng)站新產(chǎn)生URL的偏方。沿著該思路也能解決發(fā)現(xiàn)網(wǎng)站大量URL的問題。
　　再舉個(gè)栗子
　　老板又給你一個(gè)任務(wù)，老板說上次抓豆瓣你說要大量IP才能搞定抓豆瓣每天新產(chǎn)生的帖子，這次給你1000個(gè)IP把天眼查上的幾千萬家企業(yè)工商信息抓取下來。
　　看著這么多IP你正留著口水，但是分析網(wǎng)站后發(fā)現(xiàn)這類網(wǎng)站的抓取入口很少(抓取入口是指頻道頁，聚合了很多鏈接的那種頁面)。
　　很容易就把儲(chǔ)備的URL抓完了，干看著這么多IP工作不飽滿。
　　如果一次性能找到這個(gè)網(wǎng)站幾萬乃至幾十萬個(gè)URL放進(jìn)待抓隊(duì)列里，就可以讓這么多IP工作飽滿起來，不會(huì)偷懶了。
　　我們來看他的robots.txt文件：
　　https://www.tianyancha.com/robots.txt

　　打開紅框處的sitemap，里面有3萬個(gè)公司的URL，上圖是1月3號(hào)生成的，那個(gè)URL是根據(jù)年月日生成的，你把URL改成1月2號(hào)，又能看到2號(hào)的sitemap里的幾萬個(gè)公司URL，這樣就能發(fā)現(xiàn)十幾萬個(gè)種子URL供你抓取了。
　　PS：上面的sitemap其實(shí)也能解決抓取天眼查最近更新的，新產(chǎn)生URL的問題。
　　小小的一個(gè)取巧，既降低了爬蟲設(shè)計(jì)的復(fù)雜度，又降低了對方的帶寬消耗。
　　這在工作中非常適用，工作中不會(huì)在意你用的框架多好，只在意你做事的快慢和好壞。善于看robots.txt文件你會(huì)發(fā)現(xiàn)一些別有洞天的東西。
　　文章出處：【AI科技大本營】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。更多SEO工具資訊，盡在創(chuàng)新互聯(lián)資訊站！

網(wǎng)站欄目：怎么用robots.txt快速抓取網(wǎng)站
鏈接地址：http://aaarwkj.com/article44/cidgee.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供Google、網(wǎng)站建設(shè)、自適應(yīng)網(wǎng)站、品牌網(wǎng)站建設(shè)、靜態(tài)網(wǎng)站、響應(yīng)式網(wǎng)站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)