這篇文章主要介紹“怎么使用Jsoup實(shí)現(xiàn)數(shù)據(jù)抽取”,在日常操作中,相信很多人在怎么使用Jsoup實(shí)現(xiàn)數(shù)據(jù)抽取問(wèn)題上存在疑惑,小編查閱了各式資料,整理出簡(jiǎn)單好用的操作方法,希望對(duì)大家解答”怎么使用Jsoup實(shí)現(xiàn)數(shù)據(jù)抽取”的疑惑有所幫助!接下來(lái),請(qǐng)跟著小編一起來(lái)學(xué)習(xí)吧!
創(chuàng)新互聯(lián)于2013年成立,是專業(yè)互聯(lián)網(wǎng)技術(shù)服務(wù)公司,擁有項(xiàng)目網(wǎng)站設(shè)計(jì)制作、成都網(wǎng)站建設(shè)網(wǎng)站策劃,項(xiàng)目實(shí)施與項(xiàng)目整合能力。我們以讓每一個(gè)夢(mèng)想脫穎而出為使命,1280元沈北新做網(wǎng)站,已為上家服務(wù),為沈北新各地企業(yè)和個(gè)人服務(wù),聯(lián)系電話:13518219792
你有一個(gè)HTML文檔要從中提取數(shù)據(jù),并了解這個(gè)HTML文檔的結(jié)構(gòu)。
將HTML解析成一個(gè)Document
之后,就可以使用類似于DOM的方法進(jìn)行操作。示例代碼:
File input = new File("/tmp/input.html"); Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/"); Element content = doc.getElementById("content"); Elements links = content.getElementsByTag("a"); for (Element link : links) { String linkHref = link.attr("href"); String linkText = link.text(); }
Elements這個(gè)對(duì)象提供了一系列類似于DOM的方法來(lái)查找元素,抽取并處理其中的數(shù)據(jù)。具體如下:
getElementById(String id)
getElementsByTag(String tag)
getElementsByClass(String className)
getElementsByAttribute(String key)
(and related methods)
Element siblings:siblingElements()
,firstElementSibling()
,lastElementSibling()
;nextElementSibling()
,previousElementSibling()
Graph:parent()
,children()
,child(int index)
attr(String key)
獲取屬性attr(String key, String value)
設(shè)置屬性
attributes()
獲取所有屬性
id()
,className()
andclassNames()
text()
獲取文本內(nèi)容text(String value)
設(shè)置文本內(nèi)容
html()
獲取元素內(nèi)HTMLhtml(String value)
設(shè)置元素內(nèi)的HTML內(nèi)容
outerHtml()
獲取元素外HTML內(nèi)容
data()
獲取數(shù)據(jù)內(nèi)容(例如:script和style標(biāo)簽)
tag()
andtagName()
append(String html)
,prepend(String html)
appendText(String text)
,prependText(String text)
appendElement(String tagName)
,prependElement(String tagName)
html(String value)
你想使用類似于CSS或jQuery的語(yǔ)法來(lái)查找和操作元素。
可以使用Element.select(String selector)
和 Elements.select(String selector)
方法實(shí)現(xiàn):
File input = new File("/tmp/input.html"); Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/"); Elements links = doc.select("a[href]"); //帶有href屬性的a元素 Elements pngs = doc.select("img[src$=.png]"); //擴(kuò)展名為.png的圖片 Element masthead = doc.select("div.masthead").first(); //class等于masthead的div標(biāo)簽 Elements resultLinks = doc.select("h4.r > a"); //在h4元素之后的a元素
jsoup elements對(duì)象支持類似于CSS (或jquery)的選擇器語(yǔ)法,來(lái)實(shí)現(xiàn)非常強(qiáng)大和靈活的查找功能。.
這個(gè)select
方法在Document
, Element
,或Elements
對(duì)象中都可以使用。且是上下文相關(guān)的,因此可實(shí)現(xiàn)指定元素的過(guò)濾,或者鏈?zhǔn)竭x擇訪問(wèn)。
Select方法將返回一個(gè)Elements
集合,并提供一組方法來(lái)抽取和處理結(jié)果。
tagname
: 通過(guò)標(biāo)簽查找元素,比如:a
ns|tag
: 通過(guò)標(biāo)簽在命名空間查找元素,比如:可以用fb|name
語(yǔ)法來(lái)查找<fb:name>
元素
#id
: 通過(guò)ID查找元素,比如:#logo
.class
: 通過(guò)class名稱查找元素,比如:.masthead
[attribute]
: 利用屬性查找元素,比如:[href]
[^attr]
: 利用屬性名前綴來(lái)查找元素,比如:可以用[^data-]
來(lái)查找?guī)в蠬TML5 Dataset屬性的元素
[attr=value]
: 利用屬性值來(lái)查找元素,比如:[width=500]
[attr^=value]
,[attr$=value]
,[attr*=value]
: 利用匹配屬性值開頭、結(jié)尾或包含屬性值來(lái)查找元素,比如:[href*=/path/]
[attr~=regex]
: 利用屬性值匹配正則表達(dá)式來(lái)查找元素,比如:img[src~=(?i)\.(png|jpe?g)]
*
: 這個(gè)符號(hào)將匹配所有元素
el#id
: 元素+ID,比如:div#logo
el.class
: 元素+class,比如:div.masthead
el[attr]
: 元素+class,比如:a[href]
任意組合,比如:a[href].highlight
ancestor child
: 查找某個(gè)元素下子元素,比如:可以用.body p
查找在"body"元素下的所有p
元素
parent > child
: 查找某個(gè)父元素下的直接子元素,比如:可以用div.content > p
查找p
元素,也可以用body > *
查找body標(biāo)簽下所有直接子元素
siblingA + siblingB
: 查找在A元素之前第一個(gè)同級(jí)元素B,比如:div.head + div
siblingA ~ siblingX
: 查找A元素之前的同級(jí)X元素,比如:h2 ~ p
el, el, el
:多個(gè)選擇器組合,查找匹配任一選擇器的唯一元素,例如:div.masthead, div.logo
:lt(n)
: 查找哪些元素的同級(jí)索引值(它的位置在DOM樹中是相對(duì)于它的父節(jié)點(diǎn))小于n,比如:td:lt(3)
表示小于三列的元素
:gt(n)
:查找哪些元素的同級(jí)索引值大于n
,比如
:div p:gt(2)
表示哪些div中有包含2個(gè)以上的p元素
:eq(n)
: 查找哪些元素的同級(jí)索引值與n
相等,比如:form input:eq(1)
表示包含一個(gè)input標(biāo)簽的Form元素
:has(seletor)
: 查找匹配選擇器包含元素的元素,比如:div:has(p)
表示哪些div包含了p元素
:not(selector)
: 查找與選擇器不匹配的元素,比如:div:not(.logo)
表示不包含 class="logo" 元素的所有 div 列表
:contains(text)
: 查找包含給定文本的元素,搜索不區(qū)分大不寫,比如:p:contains(jsoup)
:containsOwn(text)
: 查找直接包含給定文本的元素
:matches(regex)
: 查找哪些元素的文本匹配指定的正則表達(dá)式,比如:div:matches((?i)login)
:matchesOwn(regex)
: 查找自身包含文本匹配指定正則表達(dá)式的元素
注意:上述偽選擇器索引是從0開始的,也就是說(shuō)第一個(gè)元素索引值為0,第二個(gè)元素index為1等
可以查看Selector
API參考來(lái)了解更詳細(xì)的內(nèi)容
在解析獲得一個(gè)Document實(shí)例對(duì)象,并查找到一些元素之后,你希望取得在這些元素中的數(shù)據(jù)。
要取得一個(gè)屬性的值,可以使用Node.attr(String key)
方法
對(duì)于一個(gè)元素中的文本,可以使用Element.text()
方法
對(duì)于要取得元素或?qū)傩灾械腍TML內(nèi)容,可以使用Element.html()
, 或Node.outerHtml()
方法
示例:
String html = "<p>An <a href='http://example.com/'><b>example</b></a> link.</p>"; Document doc = Jsoup.parse(html);//解析HTML字符串返回一個(gè)Document實(shí)現(xiàn) Element link = doc.select("a").first();//查找第一個(gè)a元素 String text = doc.body().text(); // "An example link"//取得字符串中的文本 String linkHref = link.attr("href"); // "http://example.com/"//取得鏈接地址 String linkText = link.text(); // "example""//取得鏈接地址中的文本 String linkOuterH = link.outerHtml(); // "<a href="http://example.com"><b>example</b></a>" String linkInnerH = link.html(); // "<b>example</b>"//取得鏈接內(nèi)的html內(nèi)容
上述方法是元素?cái)?shù)據(jù)訪問(wèn)的核心辦法。此外還其它一些方法可以使用:
Element.id()
Element.tagName()
Element.className()
andElement.hasClass(String className)
這些訪問(wèn)器方法都有相應(yīng)的setter方法來(lái)更改數(shù)據(jù).
你有一個(gè)包含相對(duì)URLs路徑的HTML文檔,需要將這些相對(duì)路徑轉(zhuǎn)換成絕對(duì)路徑的URLs。
在你解析文檔時(shí)確保有指定base URI
,然后
使用abs:
屬性前綴來(lái)取得包含base URI
的絕對(duì)路徑。代碼如下:
Document doc = Jsoup.connect("http://www.open-open.com").get(); Element link = doc.select("a").first(); String relHref = link.attr("href"); // == "/" String absHref = link.attr("abs:href"); // "http://www.open-open.com/"
在HTML元素中,URLs經(jīng)常寫成相對(duì)于文檔位置的相對(duì)路徑: <a href="/download">...</a>
. 當(dāng)你使用 Node.attr(String key)
方法來(lái)取得a元素的href屬性時(shí),它將直接返回在HTML源碼中指定定的值。
假如你需要取得一個(gè)絕對(duì)路徑,需要在屬性名前加 abs:
前綴。這樣就可以返回包含根路徑的URL地址attr("abs:href")
因此,在解析HTML文檔時(shí),定義base URI非常重要。
如果你不想使用abs:
前綴,還有一個(gè)方法能夠?qū)崿F(xiàn)同樣的功能 Node.absUrl(String key)
。
到此,關(guān)于“怎么使用Jsoup實(shí)現(xiàn)數(shù)據(jù)抽取”的學(xué)習(xí)就結(jié)束了,希望能夠解決大家的疑惑。理論與實(shí)踐的搭配能更好的幫助大家學(xué)習(xí),快去試試吧!若想繼續(xù)學(xué)習(xí)更多相關(guān)知識(shí),請(qǐng)繼續(xù)關(guān)注創(chuàng)新互聯(lián)網(wǎng)站,小編會(huì)繼續(xù)努力為大家?guī)?lái)更多實(shí)用的文章!
網(wǎng)頁(yè)標(biāo)題:怎么使用Jsoup實(shí)現(xiàn)數(shù)據(jù)抽取
分享路徑:http://aaarwkj.com/article16/pegcgg.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供用戶體驗(yàn)、做網(wǎng)站、定制開發(fā)、Google、商城網(wǎng)站、網(wǎng)站營(yíng)銷
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)