104學習精靈

統計精算人員

Responsive image
不分產業
統計精算人員
檢視符合度
企業所需技能
全部關注
關注教室,同業交流提升競爭力
TOP 1
精算
TOP 2
Python
TOP 3
風險管理
TOP 4
數據分析
TOP 5
IFRS
TOP 6
SAS
TOP 7
IFRS17
TOP 8
Tableau
TOP 9
SQL
TOP 10
VBA
職業關鍵職能
全部關注
關注教室,加強軟實力吧!
溝通協調
分析思考
人脈建立
壓力承受
誠信正直
自我發展

統計精算人員 學習推薦

不知如何開始學習嗎? 先進行技能挑戰吧~
我要挑戰
拍手 0 留言 0 觀看 2 收藏 0
拍手 0 留言 0 觀看 3 收藏 0

Learn Code With Mike品牌創辦人

01/18 22:53

詳解Scrapy框架爬取分頁資料的實用技巧(上)
Q: Scrapy專案建立網頁內容爬取方法(Method)
首先,為了提升Scrapy網頁爬蟲(spiders/inside.py)的parse()方法(Method)爬取邏輯的重用性,本文將它獨立成一個新方法(Method),如下範例:
import scrapy
class InsideSpider(scrapy.Spider):
name = 'inside'
allowed_domains = ['www.inside.com.tw']
def parse(self, response):
yield from self.scrape(response) #爬取網頁內容
def scrape(self, response):
# 爬取文章標題
post_titles = response.xpath(
"//h3[@class='post_title']/a[@class='js-auto_break_title']/text()"
).getall()
# 爬取發佈日期
post_dates = response.xpath(
"//li[@class='post_date']/span/text()"
).getall()
# 爬取作者
post_authors = response.xpath(
"//span[@class='post_author']/a/text()"
).getall()
for data in zip(post_titles, post_dates, post_authors):
NewsScraperItem = {
"post_title": data[0],
"post_date": data[1],
"post_author": data[2]
}
yield NewsScraperItem
由於爬取邏輯被獨立為一個新方法(Method),這時候在parse()方法(Method)中,則需使用「yield from」關鍵字來進行呼叫,並且傳入網頁的回應結果(response),來執行網頁資料的爬取。
Q: Scrapy定位網頁的下一頁按鈕
如果想要利用Scrapy網頁爬蟲框架,繼續爬取第二頁的資料時,就需要取得下一頁的網址,通常都會位於「下一頁」按鈕的href屬性中。
在「下一頁」按鈕點擊右鍵,選擇「檢查」,可以看到它的HTML原始碼。接下來,回到Scrapy專案的spiders/inside.py檔案,在parse()方法(Method)中,即可利用Scrapy框架的xpath()方法(Method),傳入「下一頁」按鈕的樣式類別(class)來進行定位,如下範例:
import scrapy
class InsideSpider(scrapy.Spider):
name = 'inside'
allowed_domains = ['www.inside.com.tw']
def parse(self, response):
yield from self.scrape(response)
# 定位「下一頁」按鈕元素
next_page_url = response.xpath(
"//a[@class='pagination_item pagination_item-next']/@href")
def scrape(self, response):
...
如果想要學習更多的Python應用教學,歡迎前往Learn Code With Mike(https://www.learncodewithmike.com/2021/02/scraping-multiple-pages-with-scrapy.html
)網站觀看更多精彩內容。
拍手 0 留言 0 觀看 8 收藏 0

Learn Code With Mike品牌創辦人

01/18 21:20

掌握Scrapy框架重要的XPath定位元素方法(下)
XPath(XML Path Language)是一個使用類似檔案路徑的語法,來定位XML文件中特定節點(node)的語言,因為能夠有效的尋找節點(node)位置,所以也被廣泛的使用在Python網頁爬蟲的元素(Element)定位上。
本文就以INSIDE硬塞的網路趨勢觀察網站-AI新聞( https://www.inside.com.tw/tag/ai ),來帶大家來認識如何在Scrapy框架中,使用內建的xpath()方法(Method)來定位想要爬取的網頁內容。
Q: Scrapy如何利用XPath方法取得子元素值?
在開發Python網頁爬蟲時,有很常的機率會需要透過逐層的方式,往下定位所要爬取的子元素(Element),這時候Scrapy xpath()方法(Method)中,所傳入的XPath路徑則跟檔案目錄一樣,一層一層的往下串接。
假設我們想從<div>標籤,逐層往下定位到<a>標籤,XPath路徑就會像以下範例:
import scrapy
class InsideSpider(scrapy.Spider):
name = 'inside'
allowed_domains = ['www.inside.com.tw']
def parse(self, response):
titles = response.xpath(
"//div[@class='post_list_item_content']/h3[@class='post_title']/a/text()").getall()
for title in titles:
print(title)
Q: Scrapy如何利用XPath方法取得元素屬性值?
Python網頁爬蟲除了能夠爬取網頁上顯示的內容外,也可以取得網頁元素(Element)的屬性值,舉例來說,像是<img>圖片的src來源屬性值或<a>超連結的href網址屬性值等,這時候,就需要在Scrapy框架的xpath()方法(Method)最後,加上「@屬性名稱」,如下範例:
import scrapy
class InsideSpider(scrapy.Spider):
name = 'inside'
allowed_domains = ['www.inside.com.tw']
def parse(self, response):
titles = response.xpath(
"//a[@class='js-auto_break_title']/@href").getall()
for title in titles:
print(title)
以上範例,即是爬取所有樣式類別(class)為「js-auto_break_title」的<a>標籤href屬性值,也就是文章標題的網址。
本文簡單示範了Scrapy框架的另一個定位元素方法XPath,很明顯的可以感受到語法和檔案路徑非常相似,使用上也很直覺,重點摘要如下:
1.取得單一元素值呼叫get()方法(Method)
2.取得多個元素值呼叫getall()方法(Method)
3.取得文字內容,加上「/text()」關鍵字
4.取得屬性值則加上「@屬性名稱」關鍵字
如果想要學習更多的Python應用教學,歡迎前往Learn Code With Mike(https://www.learncodewithmike.com/2021/01/scrapy-xpath-selectors.html
)網站觀看更多精彩內容。
拍手 0 留言 0 觀看 13 收藏 0

Learn Code With Mike品牌創辦人

01/18 21:13

掌握Scrapy框架重要的XPath定位元素方法(上)
本文就以INSIDE硬塞的網路趨勢觀察網站-AI新聞( https://www.inside.com.tw/tag/ai ),來帶大家來認識如何在Scrapy框架中,使用內建的xpath()方法(Method)來定位想要爬取的網頁內容。
Q: Scrapy如何利用XPath方法取得單一元素值?
首先,開啟INSIDE硬塞的網路趨勢觀察網站-AI新聞網頁( https://www.inside.com.tw/tag/ai ),在文章標題的地方按滑鼠右鍵,選擇「檢查」,可以看到HTML原始碼,如果想要以XPath語法定位這個<a>標籤的位置,語法就像檔案路徑一樣,如下範例:
//a[@class='js-auto_break_title']
意思就像是根目錄下的<a>標籤,並且利用「[@class='']」來指定它的樣式類別(class),如此就能夠定位到文章標題的<a>標籤。
接下來,在spiders / inside.py的parse()方法(Method)中,將網頁回應的結果(response),改為呼叫xpath()方法(Method),並且,貼上剛剛所得知的XPath路徑,如下範例:
import scrapy
class InsideSpider(scrapy.Spider):
name = 'inside'
allowed_domains = ['www.inside.com.tw']
def parse(self, response):
title = response.xpath("//a[@class='js-auto_break_title']/text()").get()
print(title)
接著,利用以下指令執行inside網頁爬蟲:
$ scrapy crawl inside
以上範例,利用XPath路徑定位到所要爬取的<a>標籤後,由於要取得其中的網頁內容文字,所以在XPath路徑的最後需加上「/text()」關鍵字,並且,呼叫get()方法(Method)取得單一元素值。
Q: Scrapy如何利用XPath方法取得多個元素值?
如果想要利用Scrapy xpath()方法(Method)取得多個元素值,使用XPath路徑定位到所要爬取的網頁元素<a>標籤後,呼叫getall()方法(Method)即可,如下範例:
import scrapy
class InsideSpider(scrapy.Spider):
name = 'inside'
allowed_domains = ['www.inside.com.tw']
def parse(self, response):
titles = response.xpath("//a[@class='js-auto_break_title']/text()").getall()
print(titles)
從執行結果可以看到,getall()方法(Method)會回傳一個串列(List),包含所有樣式類別(class)為「js-auto_break_title」的<a>標籤標題文字,接下來,就需要透過迴圈來進行讀取,如下範例:
import scrapy
class InsideSpider(scrapy.Spider):
name = 'inside'
allowed_domains = ['www.inside.com.tw']
def parse(self, response):
titles = response.xpath("//a[@class='js-auto_break_title']/text()").getall()
for title in titles:
print(title)
如果想要學習更多的Python應用教學,歡迎前往Learn Code With Mike(https://www.learncodewithmike.com/2021/01/scrapy-xpath-selectors.html
)網站觀看更多精彩內容。
拍手 0 留言 0 觀看 6 收藏 0
職涯診所

01/18 16:27

拍手 2 留言 6 觀看 73 收藏 1
不知如何開始學習嗎? 先進行技能挑戰吧~
我要挑戰
一零四資訊科技股份有限公司 版權所有 © 2021 建議瀏覽器 Chrome / IE11.0 以上