104學習精靈

Scrapy

Scrapy
關注
邀請朋友
邀請朋友

Line

Facebook

複製連結

取消
「Scrapy：負責設計、開發及維護網頁抓取工具，協助數據收集與分析，以支持公司業務決策。主要責任包括制定爬蟲策略、監控抓取效能，並確保數據質量。需具備Python編程技能、網頁結構理解能力及良好的資料處理技巧，並能跨部門協作，與數據分析、行銷及產品團隊緊密配合。具備優秀的溝通能力，能夠有效解釋技術概念並處理多方意見，以適應台灣快速變化的科技環境與市場需求。」
關於教室
關注人數 2 人
104人力銀行從職缺中挑選出常見技能所成立的官方教室，提供大家進行共學互動。
學習主持人
持續分享知識，
有機會成為官方教室主持人
教室標籤
  • Scrapy
    • 關於教室
    關注人數 2 人
    104人力銀行從職缺中挑選出常見技能所成立的官方教室，提供大家進行共學互動。
    學習主持人
    持續分享知識，
    有機會成為官方教室主持人
    教室標籤
  • Scrapy
    • Hi~ 歡迎分享學習資源，有學習問題可匿名向Giver發問！
    我要分享
    我要提問

    Scrapy 學習推薦

    全部
    影片
    文章
    Mike的Python學院
    關注
    Mike Ku

    Learn Code With Mike品牌創辦人

    2022/01/21

    不可不知的Scrapy框架爬取下一層網頁資料實作
    本文以INSIDE硬塞的網路趨勢觀察網站( https://www.inside.com.tw/ )首頁的熱門文章為例，來和大家分享如何在Scrapy框架中爬取下一層的網頁內容。
    Q: Scrapy網頁爬蟲爬取下一層網頁內容
    建立Scrapy網頁爬蟲檔案(hot_news.py)，在parse()方法(Method)的地方，透過Scrapy框架的xpath()方法(Method)，來爬取INSIDE硬塞的網路趨勢觀察網站的所有熱門文章下一層網頁網址，如下範例：
    import scrapy
    class HotNewsSpider(scrapy.Spider):
    name = 'hot_news'
    allowed_domains = ['www.inside.com.tw']
    def parse(self, response):
    post_urls = response.xpath(
    "//a[@class='hero_menu_link']/@href").getall()
    詳細的Scrapy xpath定位元素方法教學可以參考[Scrapy教學5]掌握Scrapy框架重要的XPath定位元素方法文章( https://www.learncodewithmike.com/2021/01/scrapy-xpath-selectors.html )。取得了所有熱門文章的下一層網頁網址後，就可以透過迴圈來進行請求，如下範例：
    import scrapy
    class HotNewsSpider(scrapy.Spider):
    name = 'hot_news'
    allowed_domains = ['www.inside.com.tw']
    def parse(self, response):
    post_urls = response.xpath(
    "//a[@class='hero_menu_link']/@href").getall()
    for post_url in post_urls:
    yield scrapy.Request(post_url, self.parse_content)
    其中Request方法(Method)的第一個參數，就是「請求網址」，也就是熱門文章的下一層網頁網址，而第二個參數就是請求該網址後，所要執行的方法(Method)，而parse_content()方法(Method)中，就是來爬取熱門文章的下一層網頁內容，以本文為例就是包含「文章標題」及「文章摘要」。
    接著，就可以在parse_content()方法(Method)中，同樣使用Scrapy框架的xpath()方法(Method)，來爬取「文章標題」及「文章摘要」，如下範例：
    import scrapy
    class HotNewsSpider(scrapy.Spider):
    ...
    def parse_content(self, response):
    # 熱門文章標題
    hot_news_title = response.xpath(
    "//h1[@class='post_header_title js-auto_break_title']/text()").get()
    # 熱門文章摘要
    hot_news_intro = response.xpath(
    "//div[@class='post_introduction']/text()").get()
    print(f"熱門文章標題：{hot_news_title}，\n熱門文章摘要：{hot_news_intro}")
    利用以下的指令執行Scrapy網頁爬蟲：
    $ scrapy crawl hot_news
    如果想要學習更多的Python應用教學，歡迎前往Learn Code With Mike(https://www.learncodewithmike.com/2021/02/scrapy-follow-links-and-collect-data.html
    )網站觀看更多精彩內容。
    看更多
    不可不知的Scrapy框架爬取下一層網頁資料實作
    learncodewithmike.com
    [Scrapy教學10]不可不知的Scrapy框架爬取下一層網頁資料實作
    2 0 621 0

    熱門精選

    職涯學習課程專文推薦
    關注
    104學習

    產品

    09/11 14:57

    轉職首選！3 週從零到上手的數據分析師養成營 —— 104人力銀行 × 104學習 × 緯育 TibaMe 聯合推出
    想跨入高薪、有前景，又能左右商業決策的數據分析師職涯，但擔心自己沒有程式背景、時間不夠嗎？
    這堂【數據分析師學習營】或許是你理想的起點。
    ✨ 首次跨界合作，更強大資源整合✨
    這次由 104學習精靈 首度攜手 緯育 TibaMe 聯合打造。
    ⚡104人力銀行 × 104學習精靈：深耕職涯數據多年，最了解台灣企業用人需求，課程更貼近市場實際職缺。
    ⚡緯育 TibaMe：累積多年產業培訓經驗，專注於 IT、數據、AI 等熱門技能轉職養成，培訓模式完整，輔導成效有口碑。
    這樣的合作，讓學員享有真實的培訓經驗，學習效果與轉職落地率都更具保障。
    課程亮點一次看
    🔥3 週密集實戰：短短三週密集訓練，快速掌握職場必備技能，不必耗費半年、一年時間啃課表。
    🔥零基礎設計：無需工程背景，也不用寫程式，由淺入深帶你學會資料庫查詢（SQL）與數據視覺化工具 Power BI。
    🔥實戰作品累績履歷實力：課程設計強調實務操作，結訓不僅懂工具，更手上有完成的作品，讓履歷直接升級。
    🔥專屬平台與支援：透過共學社群與專業助教協助，學習不再孤單。
    為什麼你該報名？
    🟢快速起步，快速看成果：三週聚焦提速進展，是在職或時間有限者的最佳選擇。
    🟢具備市場需求核心技能：SQL 與 Power BI，完全符合企業當前的數據分析需求。
    🟢履歷實力落地具體化：實作作品比起只學理論更能打動雇主眼光。
    🟢104 × 緯育 TibaMe 強強聯手：把資源與專業結合，讓學習不只停留在課程，而是直通「就業」與「轉職」。
    👉 立即報名，搶先卡位：超小班就50位唷！
    👉 刷中信／台新／玉山可享３期０利率！
    👉 超早鳥優惠領＄８５０券報名到９／２４唷！
    👉 前１０名解鎖送５００元Lｉｎｅ點數，第１１名起送２００元Lｉｎｅ點數，更多驚喜組合購，可再額外送１００元Lｉｎｅ點數
    看更多
    轉職首選！3 週從零到上手的數據分析師養成營 —— 104人力銀行 × 104學習 × 緯育 TibaMe 聯合推出
    nabi.104.com.tw
    【超早鳥領$850券↘到9/24】數據分析師學習營｜０經驗＆無工程背景，３週帶你開啟數據職涯！​｜104獨家－數據分析課程│104課程中心
    3 0 10034 4
    學習精靈

    02/01 00:00

    youtube.com
    [Scrapy 爬蟲] 如何撰寫第一支Scrapy 爬蟲以抓取蘋果即時新聞?
    10 1
    Mike的Python學院
    關注
    Mike Ku

    Learn Code With Mike品牌創辦人

    2022/01/19

    一定要懂的Scrapy框架結合Gmail寄送爬取資料附件秘訣
    本文將爬取的結果存入CSV檔案後，透過Gmail附件郵寄給使用者。在開始之前，大家可以先參考[Python實戰應用]Python寄送Gmail電子郵件實作教學文章( https://www.learncodewithmike.com/2020/02/python-email.html )的第二節步驟，取得Gmail的應用程式密碼，以便能夠利用它的SMTP(簡易郵件傳輸協定)來發送郵件。
    Q: Scrapy MailSender結合Gmail發送郵件
    在Scrapy網頁爬蟲框架中，想要實作發送電子郵件的功能，可以使用內建的MailSender模組(Module)，透過基本的設定即可達成。開啟Scrapy專案的settings.py設定檔，加入以下的Gmail SMTP設定：
    MAIL_HOST = "smtp.gmail.com"
    MAIL_PORT = 587
    MAIL_FROM = "申請Gmail應用程式密碼所使用的電子郵件帳號"
    MAIL_PASS = "Gmail應用程式密碼"
    MAIL_TLS = True
    並且，將[Scrapy教學7]教你Scrapy框架匯出CSV檔案方法提升資料處理效率文章( https://www.learncodewithmike.com/2021/01/scrapy-export-csv-files.html )中所建立的CsvPipeline資料模型管道設定開啟，如下範例：
    ITEM_PIPELINES = {
    'news_scraper.pipelines.CsvPipeline': 500,
    }
    設定完成後，開啟ITEM PIPELINE資料模型管道(pipelines.py)檔案，引用Scrapy框架的設定檔及MailSender模組(Module)，如下範例：
    from itemadapter import ItemAdapter
    from news_scraper import settings
    from scrapy.mail import MailSender
    接著，在CsvPipeline類別(Class)的close_spider()方法(Method)中，來建立Scrapy MailSender物件，以及指定Gmail的附件，包含「附件顯示的名稱(attach_name)」、「網際網路媒體類型(mime_type)」及「檔案物件(file_object)」，如下範例：
    class CsvPipeline:
    ...
    def close_spider(self, spider):
    self.exporter.finish_exporting()
    self.file.close()
    mail = MailSender(smtphost=settings.MAIL_HOST,
    smtpport=settings.MAIL_PORT,
    smtpuser=settings.MAIL_FROM,
    smtppass=settings.MAIL_PASS,
    smtptls=settings.MAIL_TLS)
    attach_name = "posts.csv"
    mime_type = "application/vnd.openxmlformats-officedocument.spreadsheetml.sheet"
    file_object = open("posts.csv", "rb")
    return mail.send(to=["example@gmail.com"],
    subject="news",
    body="",
    attachs=[(attach_name, mime_type, file_object)])
    如果想要學習更多的Python應用教學，歡迎前往Learn Code With Mike(https://www.learncodewithmike.com/2021/02/scrapy-sending-gmail.html
    )網站觀看更多精彩內容。
    看更多
    一定要懂的Scrapy框架結合Gmail寄送爬取資料附件秘訣
    learncodewithmike.com
    [Scrapy教學9]一定要懂的Scrapy框架結合Gmail寄送爬取資料附件秘訣
    2 0 380 0
    學習精靈

    02/03 00:00

    youtube.com
    Python 網路爬蟲實戰經驗分享 - Scrapy 網站爬蟲框架
    6 0

    推薦給你

    環境部淨零綠領人才培育課程
    關注
    104學習

    產品

    09/15 14:38

    「環境部淨零綠領人才培育課程」首次測驗今登場 逾千名考生應試　到考率超過96%
    「環境部淨零綠領人才培育課程」首場集中測驗今天在全國14個考區同步舉行，約1,400名完成48小時專業課程的學員參加測驗，到考率超過96%。凡是30歲以下在學生（不含在職專班者）及低（中低）收入戶，測驗及格者可申請學費優惠。環境部部長彭啓明為鼓勵這些通過測驗的綠領人才成為推動國家淨零轉型的生力軍，後續將擇優選出20名成績優異者，規劃於行政院大禮堂舉辦合格證明頒發典禮，以表示對於綠領人才的尊重並彰顯其榮譽。
    -
    主辦本次測驗的國家環境研究院（國環院）表示，參加本次測驗的學員，男女比例約為1比1，平均年齡為33歲，最年輕的學員年齡僅17歲，最年長者為69歲。而社會人士占五成多，略高於在學學生的四成多；三成具研究所以上學歷，兩成為文法商等跨領域背景，顯示各年齡層及不同專業領域對綠色轉型專業知能的高度需求。
    -
    國環院又指出，學員職業背景相當多元，除了大專院校在學生，也有來自各行各業的專業人士，包括上市櫃公司主管、會計師、資訊工程師與環工技師，甚至還有美髮業者與電影剪接師參與，充分展現綠領課程已成為跨領域專業人才進修與轉型的重要管道。
    -
    本次測驗採筆試方式，測驗後15個工作天內，國環院將寄發電子成績單，及格者同時可獲環境部核發的官方合格證明，請學員務必留意信件收取。國環院提醒，凡30歲以下大專院校在學生（不含在職專班），只要首次測驗及格即可申請新臺幣6,000元半額補助；符合中低收入戶、低收入戶或身心障礙身分者，則可申請新臺幣12,000元全額補助。學員取得成績單後，可逕向原開班學校申請學費減免事宜。
    -
    國環院強調，課程將持續開班招生，有興趣者可至「綠領人才資訊平臺」就近報名：https://ulvis.net/iTs8
    下一場集中測驗訂於11月22日舉行，並將增設南投與離島考區，便利更多學員參與。
    -
    立即報名「環境部淨零綠領人才培育課程」：
    看更多
    0 0 854 0
    你可能感興趣的教室