欧美一级特黄大片做受成人-亚洲成人一区二区电影-激情熟女一区二区三区-日韩专区欧美专区国产专区

如何利用robots文件來進行SEO優(yōu)化

2015-08-03    分類: 網(wǎng)站建設

robots文件可限制抓取網(wǎng)頁的搜索引擎蜘蛛對您網(wǎng)站的訪問。這些蜘蛛是自動的,它們在訪問任意網(wǎng)站的網(wǎng)頁之前,都會查看是否存在阻止它們訪問特定網(wǎng)頁的robots.txt文件。簡單的說,就是在百度進來抓取的第一時間,告訴百度指數(shù)哪些東西是可以看的,哪些東西是不能看的。只有當您的網(wǎng)站中包含您不想讓搜索引擎編入索引的內容時,才需要使用robots.txt文件。Robots協(xié)議用來告知搜索引擎哪些頁面能被抓取,哪些頁面不能被抓??;可以屏蔽一些網(wǎng)站中比較大的文件,如:圖片,音樂,視頻等,節(jié)省服務器帶寬;可以屏蔽站點的一些死鏈接。方便搜索引擎抓取網(wǎng)站內容;設置網(wǎng)站地圖連接,方便引導蜘蛛爬取頁面。下面創(chuàng)新互聯(lián)就來和大家說說如何利用robots文件來進行seo優(yōu)化。

robots文件寫法

User-agent: * 這里的*代表的所有的搜索引擎種類,*是一個通配符

Disallow: /admin/ 這里定義是禁止爬尋admin目錄下面的目錄

Disallow: /require/ 這里定義是禁止爬尋require目錄下面的目錄

Disallow: /ABC/ 這里定義是禁止爬尋ABC目錄下面的目錄

Disallow: /cgi-bin/*.htm 禁止訪問/cgi-bin/目錄下的所有以".htm"為后綴的URL。

Disallow: /*?* 禁止訪問網(wǎng)站中所有包含問號 (?) 的網(wǎng)址

Disallow: /.jpg$ 禁止抓取網(wǎng)頁所有的.jpg格式的圖片

Disallow:/ab/adc.html 禁止爬取ab文件夾下面的adc.html文件。

Allow: /cgi-bin/這里定義是允許爬尋cgi-bin目錄下面的目錄

Allow: /tmp 這里定義是允許爬尋tmp的整個目錄

Allow: .htm$ 僅允許訪問以".htm"為后綴的URL。

Allow: .gif$ 允許抓取網(wǎng)頁和gif格式圖片

Sitemap: 網(wǎng)站地圖 告訴爬蟲這個頁面是網(wǎng)站地圖

robots文件用法

例1. 禁止所有搜索引擎訪問網(wǎng)站的任何部分

User-agent: *

Disallow: /

實例分析:淘寶網(wǎng)的 Robots.txt文件

User-agent: Baidu百度蜘蛛

Disallow: /

User-agent: baidu百度蜘蛛

Disallow: /

當前題目:如何利用robots文件來進行SEO優(yōu)化
鏈接URL:http://aaarwkj.com/news32/25782.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供關鍵詞優(yōu)化手機網(wǎng)站建設、網(wǎng)站改版定制網(wǎng)站、網(wǎng)站設計、網(wǎng)站策劃

廣告

聲明:本網(wǎng)站發(fā)布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經(jīng)允許不得轉載,或轉載時需注明來源: 創(chuàng)新互聯(lián)

綿陽服務器托管
亚洲成人日韩欧美在线| 粗暴蹂躏中文一区二区三区| 欧美中日韩精品免费在线| 四虎国产最新在线免费| 丰满人妻熟妇乱精品视频| 国产精品国产三级国产不产一地| 一区二区日韩视频九一蜜桃| 在线观看高清国产黄色片| 国产一区二区黄色录像| 精品欧美一区二区精品| 日本成年网站在线观看| 国产精品久久久久精品三级下载| 精品人妻少妇一区二区三区| 国产精品一区二区啪啪| 清纯美女爱爱高潮av| 自拍偷拍视频欧美第一页| 亚洲中文字幕少妇视频| 亚洲第一女人天堂av| 一区二区三区人妻系列| av免费观看男人的天堂| 99精品亚洲一区二区| 风韵丰满熟妇老熟女啪啪| 91日本精品免费在线视频| 国产剧免费看视频网站成人| 亚洲国产欧美日韩一区| 高清免费国产日日操夜夜草| 国产精品十八禁在线看| 亚洲男人的天堂久久精品| 欧美色欧美亚洲另类视频| 午夜福利视频一区久久久| 日韩免费av在线观看| 99精品国产综合久久麻豆| 久久精品国产91麻豆| 日韩精品精美视频在线观看| 色婷婷综合激情一区二区| 国产av不卡二区三区| 国产一区二区三区在线看片| 国产精品99久久久久久宅男九| 国产一区二区黄色网页| 可以免费看黄的网久久| 欧美精品三级不卡在线|