104學習精靈

想成為資料工程師的必備課程，各個必要技能都教給你！從基礎的Python、ETL、網路爬蟲、Data Pipeline數據工作流、GCP、雲端服務Docker...也會教到 Tableau、PowerBI，資料視覺化兩大工具。

您將能學到 課程單元從 Python 程式基礎開始，包含變數、資料型態、流程控制、函式、例外處理等 金融主題的網路爬蟲程式教學，製作Python爬蟲工具能夠自動抓取網路上豐富的金融資訊 專案實作教學，開發爬蟲程式抓取股市、匯率、利率、大盤等資訊 資料庫基礎教學，將抓下來的資訊儲存至資料庫與檔案當中，往後能夠有效的利用 資料視覺化教學，使用 Plotly套件繪製技術分析圖，包含K線和各技術指標 抄底工具程式實作，整合以上所學，透過成交量、技術指標、融資餘額資訊分析抄底時機 課程介紹 這堂 「零基礎成為Python金融數據分析師｜金融資訊爬蟲X視覺化應用」課程，主要分為五個主題 + 一個HTML與CSS補充章節。 將從 Python 程式教學入門開始，搭配金融資訊相關的程式範例實作，接著學習如何使用SQL語法並有效抓取數據，並善用Pandas、Plotly視覺化套件，製作出K線、成交量、移動平均線、RSI 指標等圖表，最後進行抄底程式工具實作。 此外，有鑑於 Yahoo 更新網站後，整個 HTML 的結構完全不同，因此課程中特別新增了 Yahoo 股市爬蟲程式教材，並提供整堂課完整的程式碼範例，零基礎者也能輕易上手。 金融爬蟲流程簡介 課程中將學習到完整金融爬蟲方式，從分析網頁架構到儲存金融數據，最後資訊視覺化金融資訊。讓您在第一時間以最聰明便捷的途徑簡化投資歷程， 掌握投資先機，投報率即刻到手！ → 確認資料來源 (臺灣證券交易所)，分析網頁的架構，要抓的資料所在位置 → 透過爬蟲程式解析網頁內容，清理資料，從中抓取所需的數據 (Pandas) → 將整理的數據儲存至資料庫中 (SQL) → 未來就可以從資料庫中提取資料並繪製圖表 (Plotly) 200%解鎖項目 「講座：網路資源視覺化與Line Notify整合實作」 在這堂解鎖課程中，會實作讓程式能夠一覽股市資料的即時通知工具。將金融資訊爬蟲下來後，使用Plotly套件繪製成一張張簡潔的視覺化資訊圖表，並透過 LINE Notify來傳送給使用者。 400%解鎖項目 「講座：網路資源視覺化與Excel整合實作」 適合對象 零程式基礎，想踏入金融科技領域的人 對股票投資有經驗，想打造屬於自己可視覺化股票投資工具的投資人 對學習整合金融網路爬蟲、資料庫和資訊視覺化有興趣的工程師 教師介紹 Kadin Chung 鍾榮達 目前在公司負責系統分析與程式設計，同時也在做線上課程講師。 碩士畢業之後在外商系統整合服務公司上班多年，到自己設立軟體公司，第一個合作售出的系統是一套網路管理系統，可以幫助客戶配置，維護和測試數千台思科網路設備。 除此之外，Kadin在大型項目方面經驗豐富，例如馬拉松線上報名系統，車行租賃管理系統等。 在Kadin創業的過程中不斷地促使自己學習新的技能，並且知道什麼是「學習新技能」最有效的方法，他樂於分享一切所學的知識和實務經驗，也因為這份樂情，帶領 Kadin 來到 MasterTalks ，他將會透過高品質且有效率的方式分享他所學的一切技術和知識！ 課程大綱 一、Python 程式基礎 1. 程式開發環境建立 2. 認識變數和資料型態 3. 流程控制 4. 常用的容器型態 5. 函式、模組和套件 6. 檔案的讀取與寫入 7. 例外處理 8. try-except 類別與物件 二、Python 爬蟲程式應用 1. 認識網路爬蟲 2. 網路爬蟲相關技術 3. 認識 HTML 4. 認識 Chrome開發人員工具 5. BeautifulSoup 教學 1｜實作案例：Yahoo 股市爬蟲 6. BeautifulSoup 教學 2｜實作案例：Google 股市爬蟲 7. Selenium 教學 1｜實作案例：告牌匯率爬蟲 8. Selenium 教學 2｜實作案例：匯率走勢爬蟲 三、數據的儲存：SQL圖表 1. CSV檔案讀取與寫入｜銀行利率爬蟲 2. 資料庫基礎教學 1 3. 資料庫基礎教學 2｜股票清單爬蟲 四、數據處理、資料分析與視覺化 1. Pandas 基礎教學 1 2. Pandas 基礎教學 2｜股票日成交資訊 3. Plotly 基礎介紹 4. K線圖製作 5. 整合K線與成交量｜子圖的製作 6. 移動平均線圖製作 7. RSI 指標圖製作 五、抄底工具程式實作 1. 台灣證券交易所｜大盤指數爬蟲 2. 爬蟲抓取每日大盤【歷史資料】與資料庫整合實作 3. 爬蟲抓取每日大盤【成交資訊】與資料庫整合實作 4. 抄底工具：大盤K線與成交量圖製作 (含圖表週期轉換) 5. 抄底工具：大盤KD指標技術分析圖製作 6. 爬蟲抓取每日大盤【融資餘額】與資料庫整合實作 7. 抄底工具：大盤融資餘額圖製作 補充章節：HTML & CSS 基礎 1. HTML 基本介紹 2. 下載前端開發工具 3. HTML 結構 4. HTML 內容 5. HTML 圖片 6. HTML 超連結 7. 基本CSS介紹 8. 設定文字樣式 9. 設定顏色 10. 使用 Class 與 ID 11. CSS 區塊模型 12. 網頁布局 13. 美化網站 14. 定位方式 解鎖內容 講座1：LINE視覺化圖片即時通知 講座2：網路資源視覺化與Excel整合實作 講座3：Python爬蟲與PDF檔案下載整合實作 課前準備 一台能夠上網的電腦或筆電 課程中所使用到的軟體都是免費的，都會在課程中說明

課程介紹 隨著資料量級上升及反爬蟲技術的進步，以自動化分散式的進行資料搜集早已成為無可避免的趨勢，我們將帶你打造一站式分散資料搜集監控系統。 學員將學到如何部署分散式爬蟲來大大拓展爬蟲效率，不再受限於單一機器上，並使用關聯式資料庫存放，最後還有完整的監控系統。 什麼是 「分散式系統」? 分散式系統是一套，能讓同時使用 10 台、100台機器，去負擔你的服務。例如後端、 爬蟲、資料處理等等。 為什麼要懂 「分散式技術、 爬蟲監控系統」, 跟我有什麼關係? 因為資料與使用者規模的成長，單機應用在多數產品上已經無法應付，分散式架構成為了業界的 主流應用，了解了分散式架構，能夠在求職中獲得巨大的優勢。 課程特色 解析 GitHub 上擁有超過 1,600 Stars的知名金融大數據開源專案 - FinMind 所使用的關鍵技術。 本課程會提供完整的課程原始碼，只要跟著操作，一定能夠完成。 驗證碼、Google reCAPTCHA 等反爬機制破解。 分散式系統 Rabbitmq、Celery 。 開發自己的分散式系統，課程中以爬蟲為例，課程之外也能用來部署自己的應用程式。 透過分散式的方式來加速爬蟲，提升資料收集速度、系統穩定度、並預留未來拓展性，還能減少 IP 被封鎖的情況。 關聯式資料庫-MySQL。 使用 Docker 一鍵架設。 大數據監控系統 Grafana、Promethus、Chatbot。 建立分散式爬蟲，在蒐集資料的同時進行資料檢查，確保資料完整性。 進行大規模爬蟲、資料處理時，有效監控當前進度。 以 Grafana、Promethus，建立 Dashboard 監控儀表板，協助使用者了解資料狀況的同時監測異常，並實時對 Slack、Telegram、Gmail 等發出 Alert 。 本課程的爬蟲以 FinMind 實務案例進行探討，不同於一般爬蟲課程，會更能貼近業界遇到的真實情況。 與其他 Python 爬蟲課程差異性。 本課程著重在分散式架構的建立與維護，除了課程中的案例，課後可以相同的架構使用在各種情境，例如IoT設備、後端、DevOps等應用。 本課程提供了 End to End 的資料蒐集解決方案，讓你清楚明了每一步流程，包含了資料獲取、資料儲存管理、資料監控等。 資料品質與機器監控，這是一般市面上的課程欠缺的部份，但這些技能，在業界一定會用到。但一般人不容易接觸到這塊，所以才想推出本課程，並以 FinMind 為例，彌補市場不足。 這堂課適合誰 想進一步提升大數據處理能力，學習爬進階爬蟲（分散式） 想提升工程能力，突破效能瓶頸，並完成一個 side project。 想要入門 Python 的同學 想要成為資料工程師 設備需求 Python 3.6 VS code 1.41.1 Docker、Docker Compose 建議 Windows 的學員，安裝 WSL，Ubuntu、Mac 的成員則無需安裝。 課程大綱 第一章 Python 爬蟲 第零章：環境設定 1-1 章節介紹 1-2 爬蟲介紹 1-3 爬蟲 - 台股證交所 1-4 爬蟲 - 台股櫃買中心 1-5 爬蟲 - 台股期交所 1-6 章節回顧 第二章 Docker 安裝 2-1：為什麼使用 Docker？ 2-2：Docker 安裝 Linux Mac Windows 2-3 Docker 介紹 Dockerfile - image - container Volume Network 應用實做 2-4 Docker 工具介紹 docker compose docker registry docker swarm docker portainer 第三章 分散式架構 3-1：為什麼需要分散式 3-2：分散式工具介紹 - Rabbitmq、Flower、Celery 3-3：建置分散式環境 3-4：Python 分散式工具 Celery 介紹與實作 3-5： Celery 結合爬蟲 3-6：MySQL 資料庫建置 3-7：分散式架構結合資料庫 第四章 雲端部屬，實務上的分散式架構 4-1：為什麼使用雲端 4-2：申請 3 台雲端機器 4-3：雲端建立 rabbitmq、flower、mysql4 4-4：建立爬蟲 Docker Image、部屬爬蟲 4-5 分散式爬蟲展示 第五章 爬蟲監控系統 5-1：章節介紹 5-2：為什麼需要監控系統 5-3：監控系統介紹 5-4：監控系統建置 5-5 : 章節回顧 第六章 監控系統 6-1：監控系統上雲端 6-2：打造完整的監控系統 by Grafana & Prometheus 6-3：監控 container by cadvisor 6-4：監控機器狀況 by netdata 6-5 : Alert 系統 - chatbot 6-6 : 章節回顧 作業 - 專案 使用分散式爬蟲成功抓到櫃買中心資料 資料上傳資料庫 設定監控指標 解鎖章節 600%：提供 Google reCAPTCHA 與常見圖靈驗證碼破解 900%：公開 20~30 支台股金融資料爬蟲程式碼 準備軟體或資源 Python 3.6 Vscode 1.41.1 Docker、Docker Compose 建議 Windows 的學員，安裝 WSL，Ubuntu、Mac 的成員則無需安裝。

金融業積極進行數位轉型與投入金融AI的開發應用，目前廣泛展開應用的是在金融行銷服務與風險管理上，本講座以銀行為案例，對於導入大數據分析的迷思與誤解，大數據分析於金融業的衡量標準，數據建模所面臨的挑戰，以及利用數據分析達到最大利益與最小風險協助金融業準確應用大數據在智慧金融系統上。

金融產業發展金融AI，除了有效減少企業的人力成本外，本講座以透過與機器人的互動中所蒐集的資料，AI進一步利用巨量數據，在既有的金融領域擴大創新應用場景，拓展金融業的發展邊界，整合其他產業的需求和機制，發展出新的金融生態圈，創造出新的機會。

.