成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

在Scrapy中如何利用Xpath選擇器從網頁中采集目標數據

數據庫 MySQL
這篇文章我們將通過Xpath表達式來進行提取數據,具體教程如下,仍然以之前的網站為例進行說明,我們的目標數據是標題、發布日期、主題、正文內容、點贊數、收藏數、評論數等。具體的教程如下。

[[347459]]

這篇文章我們將通過Xpath表達式來進行提取數據,具體教程如下,仍然以之前的網站為例進行說明,我們的目標數據是標題、發布日期、主題、正文內容、點贊數、收藏數、評論數等。具體的教程如下。

 

/具體實現/

1、針對標題,在上篇文章中就有提及,其Xpath表達式有多種,任選其一即可,在scrapy shell腳本下進行調試,得到標題的提取方式,并寫入到爬蟲主體文件中。

2、接下來是發布日期的提取,仍然是以交互式的方式實現網頁與源碼之間的交互,如下圖所示。

3、而且標簽“entry-meta-hide-on-mobile”具有全局唯一性,可以很方便的定位到元素。

4、根據網頁結構,我們可輕易的寫出發布日期的Xpath表達式,可以在scrapy shell中先進行測試,再將選擇器表達式寫入爬蟲文件中,詳情如下圖所示。

這里有部分雜質信息,需要利用strip()和replace()函數剔除多余的雜質,還日期一個“清白”。

5、關于文章主題標簽的Xpath表達式,可以看到其在網頁結構上處于日期的下方,如下圖所示。

因此可以通過更改一下發布日期的Xpath表達式,即可獲取到文章主題標簽。

6、文章主題標簽處于a標簽下,如下圖所示。

獲取到整個列表之后,利用join函數將數組中的元素以逗號連接生成一個新的字符串叫tags,然后寫入Scrapy爬蟲文件中去。

7、對于點贊數,其分析方法同之前一致,找到唯一的一個標簽“vote-post-up”即可定位到數據。

8、細心的小伙伴可能會看到“vote-post-up”屬性并不是class標簽中唯一一個屬性,所以一開始的Xpath表達式匹配的內容為空。

這里給大家安利一個小技巧,如果標簽中存在多個屬性,且屬性是唯一的時候,可以利用contains函數進行助攻,其用法是'//span[contains(@class,"vote-post-up"),務必要多加練習,否則容易忘記。根據網頁結構寫出Xpath表達式,調試的過程如下圖所示。

取出的點贊數是個字符串,需要利用int()將其強制轉換為數字。

/小結/

本文基于Xpath理論基礎,主要介紹了Scrapy爬蟲框架中利用Xpath選擇器提取某個網頁中目標數據的方法,為后面抓取全網數據埋下伏筆,更精彩的操作在下篇文章奉上,希望對大家的學習有幫助。

 

責任編輯:姜華 來源: Python爬蟲與數據挖掘
相關推薦

2020-10-25 08:15:47

Scrapy

2020-10-25 08:06:08

Scrapy

2020-10-29 09:25:34

Scrapy

2010-09-03 09:30:29

CSS選擇器

2015-11-17 09:37:52

網頁設計黃金比例

2020-11-11 10:58:59

Scrapy

2012-04-16 14:32:31

iOS選擇器代碼

2010-09-07 12:56:49

id選擇器CSS

2011-07-07 17:30:25

iPhone Xcode

2023-11-30 08:36:10

選擇器鏈接設計

2023-11-29 10:16:24

ScrapyPython

2009-07-16 17:06:55

JSP網頁中JDBC代

2012-12-27 14:08:39

Android開發顏色選擇器

2011-11-28 13:42:55

Sencha Touc組件選擇器

2010-09-14 14:10:36

CSS樣式表

2009-05-14 10:44:54

JQuery特殊字符ID選擇器

2017-03-20 14:46:07

Android日期時間選擇器

2013-04-19 10:40:03

2017-10-18 17:52:50

2025-02-28 09:14:09

JavaNIO機制
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 亚洲精品久久久久久首妖 | 成人毛片在线观看 | 天天操夜夜爽 | 国产成人综合久久 | 在线中文一区 | 欧美日韩精品一区二区三区四区 | 亚洲区中文字幕 | 一区二区福利视频 | 涩涩视频在线观看 | 日韩aⅴ视频 | 国产美女视频 | 亚洲第一女人av | 国产精品呻吟久久av凹凸 | 亚洲不卡在线观看 | 欧美日韩第一页 | 国产999精品久久久影片官网 | 精品欧美激情精品一区 | 欧美日韩一 | 精品91av| 国产美女永久免费无遮挡 | 自拍偷拍精品 | 精品欧美一区二区在线观看视频 | 天天插天天操 | 国产精品国产三级国产aⅴ无密码 | 激情欧美一区二区三区 | 亚洲男人天堂 | 99精品一区二区 | yiren22 亚洲综合 | 台湾av在线 | 久久精品视频播放 | 成人午夜精品 | 天色综合网| 国产精品久久久久久久久久久久冷 | 久久精品国产久精国产 | 日本不卡免费新一二三区 | 亚洲女人天堂成人av在线 | 青青草一区二区三区 | 福利视频一二区 | 国产免费一区二区 | 国产精品一区一区 | 伊人久久伊人 |