104學習精靈

Selenium

Selenium
關注
邀請朋友
邀請朋友

Line

Facebook

複製連結

取消
「Selenium：負責自動化測試框架的設計與實施，確保應用程式的品質與穩定性。主要職責包括撰寫和維護自動化測試腳本，與開發團隊及產品經理緊密協作，分析測試結果並提供改進建議。需具備熟練的編程能力，尤其是Java或Python，良好的溝通技巧，以及跨部門協作的經驗，以應對快速變化的開發環境。此外，擅長使用測試管理工具及持續集成平台，以提升測試效率及品質管理。在台灣職場中，需要適度應對時間壓力與多任務處理的挑戰。」
關於教室
關注人數 45 人
104人力銀行從職缺中挑選出常見技能所成立的官方教室，提供大家進行共學互動。
學習主持人
持續分享知識，
有機會成為官方教室主持人
教室標籤
  • Selenium
    • 關於教室
    關注人數 45 人
    104人力銀行從職缺中挑選出常見技能所成立的官方教室，提供大家進行共學互動。
    學習主持人
    持續分享知識，
    有機會成為官方教室主持人
    教室標籤
  • Selenium
    • Hi~ 歡迎分享學習資源，有學習問題可匿名向Giver發問！
    我要分享
    我要提問

    Selenium 學習推薦

    全部
    影片
    文章
    Mike的Python學院
    關注
    Mike Ku

    Learn Code With Mike品牌創辦人

    2021/12/21

    在Scrapy框架整合Selenium套件爬取動態網頁的實作
    本文以Accupass網站的精選活動為例，來分享Scrapy框架整合Selenium套件，開發Python網頁爬蟲的流程。
    Q: 如何建立Scrapy網頁爬蟲?
    首先，利用以下指令安裝Scrapy框架：
    $ pip install scrapy
    接著，新增一個資料夾，並且使用命令提示字元切換到該資料夾的目錄下，建立Scrapy專案，如下：
    $ scrapy startproject accupass_scraper .
    有了專案後，就能夠利用以下指令建立Scrapy網頁爬蟲：
    $ scrapy genspider accupass accupass.com
    Q:如何安裝scrapy-selenium套件?
    而Scrapy框架想要使用Selenium套件來發送請求與接收回應，就需要一個Middleware來使用Selenium套件。
    其中的Middleware，也就是在Scrapy發送請求前，以及將回應結果傳給Scrapy網頁爬蟲前，能夠在Middleware中來進行前處理。
    所以，Scrapy框架想要使用Selenium套件來發送請求與接收回應結果，就需要定義Middleware，當然，已經有大大寫好了scrapy-selenium Middleware可以使用，安裝方式如下指令：
    $ pip install scapy-selenium
    接下來，前往下載Selenium的瀏覽器驅動，並且放置於Scrapy專案資料夾中。開啟settings.py檔案，加入scrapy-selenium Middleware的相關設定，如下範例：
    DOWNLOADER_MIDDLEWARES = {
    'scrapy_selenium.SeleniumMiddleware': 800
    }
    SELENIUM_DRIVER_NAME = 'chrome'
    SELENIUM_DRIVER_EXECUTABLE_PATH = 'chromedriver.exe'
    SELENIUM_DRIVER_ARGUMENTS = ['-headless']
    Q:如何Scrapy整合Selenium爬取動態網頁?
    開啟Scrapy專案的accupass.py檔案，引用scrapy-selenium的SeleniumRequest模組，如下範例：
    import scrapy
    from scrapy_selenium import SeleniumRequest
    而想要讓Scrapy框架使用Selenium套件發送請求，就可以新增start_requests()方法，如下範例：
    class AccupassSpider(scrapy.Spider):
    name = 'accupass'
    allowed_domains = ['accupass.com']
    start_urls = ['http://accupass.com/']
    def start_requests(self):
    yield SeleniumRequest(url='https://www.accupass.com/?area=north', callback=self.parse)
    以上的callback參數就是收到網頁的回應結果之後，所要執行的方法，也就是爬取網頁上的資料，如下範例：
    class AccupassSpider(scrapy.Spider):
    name = 'accupass'
    allowed_domains = ['accupass.com']
    start_urls = ['http://accupass.com/']
    def start_requests(self):
    yield SeleniumRequest(url='https://www.accupass.com/?area=north', callback=self.parse)
    def parse(self, response):
    titles = response.css("p.style-f13be39c-event-name::text").getall()
    for title in titles:
    print(title)
    如果想要學習更多的Python應用教學，歡迎前往Learn Code With Mike( https://www.learncodewithmike.com/2021/11/scrapy-integrate-with-selenium.html
    )網站觀看更多精彩內容。
    看更多
    在Scrapy框架整合Selenium套件爬取動態網頁的實作
    learncodewithmike.com
    [Scrapy教學12]在Scrapy框架整合Selenium套件爬取動態網頁的實作指南
    3 0 787 2

    熱門精選

    職涯學習課程專文推薦
    關注
    104學習

    產品

    09/11 14:57

    轉職首選！3 週從零到上手的數據分析師養成營 —— 104人力銀行 × 104學習 × 緯育 TibaMe 聯合推出
    想跨入高薪、有前景，又能左右商業決策的數據分析師職涯，但擔心自己沒有程式背景、時間不夠嗎？
    這堂【數據分析師學習營】或許是你理想的起點。
    ✨ 首次跨界合作，更強大資源整合✨
    這次由 104學習精靈 首度攜手 緯育 TibaMe 聯合打造。
    ⚡104人力銀行 × 104學習精靈：深耕職涯數據多年，最了解台灣企業用人需求，課程更貼近市場實際職缺。
    ⚡緯育 TibaMe：累積多年產業培訓經驗，專注於 IT、數據、AI 等熱門技能轉職養成，培訓模式完整，輔導成效有口碑。
    這樣的合作，讓學員享有真實的培訓經驗，學習效果與轉職落地率都更具保障。
    課程亮點一次看
    🔥3 週密集實戰：短短三週密集訓練，快速掌握職場必備技能，不必耗費半年、一年時間啃課表。
    🔥零基礎設計：無需工程背景，也不用寫程式，由淺入深帶你學會資料庫查詢（SQL）與數據視覺化工具 Power BI。
    🔥實戰作品累績履歷實力：課程設計強調實務操作，結訓不僅懂工具，更手上有完成的作品，讓履歷直接升級。
    🔥專屬平台與支援：透過共學社群與專業助教協助，學習不再孤單。
    為什麼你該報名？
    🟢快速起步，快速看成果：三週聚焦提速進展，是在職或時間有限者的最佳選擇。
    🟢具備市場需求核心技能：SQL 與 Power BI，完全符合企業當前的數據分析需求。
    🟢履歷實力落地具體化：實作作品比起只學理論更能打動雇主眼光。
    🟢104 × 緯育 TibaMe 強強聯手：把資源與專業結合，讓學習不只停留在課程，而是直通「就業」與「轉職」。
    👉 立即報名，搶先卡位：超小班就50位唷！
    👉 刷中信／台新／玉山可享３期０利率！
    👉 超早鳥優惠領＄８５０券報名到９／２４唷！
    👉 前１０名解鎖送５００元Lｉｎｅ點數，第１１名起送２００元Lｉｎｅ點數，更多驚喜組合購，可再額外送１００元Lｉｎｅ點數
    看更多
    轉職首選！3 週從零到上手的數據分析師養成營 —— 104人力銀行 × 104學習 × 緯育 TibaMe 聯合推出
    nabi.104.com.tw
    【超早鳥領$850券↘到9/24】數據分析師學習營｜０經驗＆無工程背景，３週帶你開啟數據職涯！​｜104獨家－數據分析課程│104課程中心
    3 0 10046 4
    學習精靈

    10/24 00:00

    youtube.com
    [爬蟲實戰] 如何使用Selenium 抓取驗證碼?
    92 0
    Mike的Python學院
    關注
    Mike Ku

    Learn Code With Mike品牌創辦人

    2021/12/21

    掌握3個降低Scrapy網頁爬蟲被封鎖的技巧
    Q: Scrapy網頁爬蟲框架如何輪流替換User-Agent(使用者代理)?
    在Scrapy網頁爬蟲爬取網頁時，網站都會使用User-Agent(使用者代理)來識別所使用的瀏覽器版本資訊，而當Scrapy網頁爬蟲每次爬取都使用相同的User-Agent(使用者代理)，就很容易被懷疑是網頁爬蟲而被封鎖。
    所以，如果Scrapy網頁爬蟲在發送請求的過程中，隨機使用不同的User-Agent(使用者代理)，就可以大幅降低被偵測的風險。
    而要達到這樣的功能，就能夠利用以下指令來安裝scrapy-user-agents套件，讓Scrapy網頁爬蟲能夠隨機取用不同的User-Agent(使用者代理)：
    $ pip install scrapy-user-agents
    接著，開啟Scrapy網頁爬蟲專案的settings.py檔案，在DOWNLOAD_MIDDLEWARES的地方，加入以下的設定：
    DOWNLOADER_MIDDLEWARES = {
    'scrapy.downloadermiddlewares.useragent.UserAgentMiddleware': None,
    'scrapy_user_agents.middlewares.RandomUserAgentMiddleware': 400,
    }
    Q: Scrapy網頁爬蟲框架如何輪流替換Proxy IP(代理服務器IP)?
    同樣，如果Scrapy網頁爬蟲都使用相同的IP發送請求，很容易會被反爬蟲網站發現而封鎖。這時候，就會需要隨機使用不同的Proxy IP(代理服務器IP)，降低被偵測的風險。
    可以利用以下指令安裝scrapy-rotating-proxies套件，來達成上述的效果：
    $ pip install scrapy-rotating-proxies
    開啟Scrapy網頁爬蟲傳案的settings.py檔案，加入以下的設定：
    ROTATING_PROXY_LIST_PATH = '/path/my_proxies.txt'
    DOWNLOADER_MIDDLEWARES = {
    'rotating_proxies.middlewares.RotatingProxyMiddleware': 610,
    'rotating_proxies.middlewares.BanDetectionMiddleware': 620,
    }
    其中，在自訂的Proxy IP檔案(my_proxies.txt)中加入Proxy IP，如下範例：
    ROTATING_PROXY_LIST = [
    'proxy_ip_1:8000',
    'proxy_ip_2:8031',
    ...
    ]
    Q: Scrapy網頁爬蟲框架如何使用無頭瀏覽器(Headless Browser)?
    無頭瀏覽器(Headless Browser)也就是沒有圖形化的使用者介面瀏覽器，能夠模擬使用者在網頁上的操作，降低反爬蟲網站的偵測。
    其中，Selenium就是最常被用來啟用無頭瀏覽器(Headless Browser)的套件，而Scrapy結合Selenium套件的實作方式可以參考[Scrapy教學12]在Scrapy框架整合Selenium套件爬取動態網頁的實作指南文章( https://www.learncodewithmike.com/2021/11/scrapy-integrate-with-selenium.html )。
    當然，除了本文所分享的3個Scrapy網頁爬蟲克服反爬蟲網站的方法外，還可以參考[Python爬蟲教學]7個降低Python網頁爬蟲被偵測封鎖的實用方法文章( https://www.learncodewithmike.com/2020/09/7-tips-to-avoid-getting-blocked-while-scraping.html )，不外乎就是避免像Python網頁爬蟲機器人一樣有規則模式的爬取資料，才有機會不被反爬蟲網站抓到唷。
    如果想要學習更多的Python應用教學，歡迎前往Learn Code With Mike( https://www.learncodewithmike.com/2021/12/3-tips-for-scrapy-without-getting-blocked.html
    )網站觀看更多精彩內容。
    看更多
    掌握3個降低Scrapy網頁爬蟲被封鎖的技巧
    learncodewithmike.com
    [Scrapy教學13]掌握3個降低Scrapy網頁爬蟲被封鎖的技巧
    2 0 1107 2
    學習精靈

    07/14 00:00

    youtube.com
    【python】selenium 網頁自動化、網路爬蟲 #爬蟲 #python爬蟲 #自動化
    186 6

    推薦給你

    環境部淨零綠領人才培育課程
    關注
    104學習

    產品

    09/15 14:38

    「環境部淨零綠領人才培育課程」首次測驗今登場 逾千名考生應試　到考率超過96%
    「環境部淨零綠領人才培育課程」首場集中測驗今天在全國14個考區同步舉行，約1,400名完成48小時專業課程的學員參加測驗，到考率超過96%。凡是30歲以下在學生（不含在職專班者）及低（中低）收入戶，測驗及格者可申請學費優惠。環境部部長彭啓明為鼓勵這些通過測驗的綠領人才成為推動國家淨零轉型的生力軍，後續將擇優選出20名成績優異者，規劃於行政院大禮堂舉辦合格證明頒發典禮，以表示對於綠領人才的尊重並彰顯其榮譽。
    -
    主辦本次測驗的國家環境研究院（國環院）表示，參加本次測驗的學員，男女比例約為1比1，平均年齡為33歲，最年輕的學員年齡僅17歲，最年長者為69歲。而社會人士占五成多，略高於在學學生的四成多；三成具研究所以上學歷，兩成為文法商等跨領域背景，顯示各年齡層及不同專業領域對綠色轉型專業知能的高度需求。
    -
    國環院又指出，學員職業背景相當多元，除了大專院校在學生，也有來自各行各業的專業人士，包括上市櫃公司主管、會計師、資訊工程師與環工技師，甚至還有美髮業者與電影剪接師參與，充分展現綠領課程已成為跨領域專業人才進修與轉型的重要管道。
    -
    本次測驗採筆試方式，測驗後15個工作天內，國環院將寄發電子成績單，及格者同時可獲環境部核發的官方合格證明，請學員務必留意信件收取。國環院提醒，凡30歲以下大專院校在學生（不含在職專班），只要首次測驗及格即可申請新臺幣6,000元半額補助；符合中低收入戶、低收入戶或身心障礙身分者，則可申請新臺幣12,000元全額補助。學員取得成績單後，可逕向原開班學校申請學費減免事宜。
    -
    國環院強調，課程將持續開班招生，有興趣者可至「綠領人才資訊平臺」就近報名：https://ulvis.net/iTs8
    下一場集中測驗訂於11月22日舉行，並將增設南投與離島考區，便利更多學員參與。
    -
    立即報名「環境部淨零綠領人才培育課程」：
    看更多
    0 0 854 0
    你可能感興趣的教室