「PYTHON資料分析」在職進修、線上學習、共學教室

關注

Mike Ku

Learn Code With Mike品牌創辦人

2022/01/21

本文以Kaggle網站的Amazon 2009-2019年Top50暢銷書資料集( https://www.kaggle.com/sootersaalu/amazon-top-50-bestselling-books-2009-2019 )為例，教大家如何查找及清理資料集的重複資料，提升資料的品質。

Q: Pandas duplicated()查找重複資料

想要使用Pandas套件查找資料集的重複資料，利用duplicated()方法(Method)可以得到每筆資料的重複狀態，True代表重複，False為沒重複，如下範例：

import pandas as pd

df = pd.read_csv('bestsellers with categories.csv')

print(df.duplicated())

接著，透過Pandas套件的括號[]語法即可檢視重複資料的各欄位資料，如下範例：

df = pd.read_csv('bestsellers with categories.csv')

print(df[df.duplicated()])

Pandas套件的duplicated()方法(Method)除了能夠查找所有欄位資料完全一樣的重複資料外，也提供了以下兩個關鍵字參數，來客製化查找的方式：

1. subset-查找特定欄位的重複資料

2. keep-保留第一筆(first)、最後一筆(last)或全部(False)的重複資料

如下範例：

df = pd.read_csv('bestsellers with categories.csv')

column_names = ['Name', 'Author', 'Year', 'Genre']

df = df[df.duplicated(subset=column_names, keep=False)]

print(df)

以上範例即是查找Name(書名)、Author(作者)、Year(出版年)及Genre(類型)四個欄位都一樣的重複資料，並且全部保留。

Q: Pandas drop_duplicates()刪除重複資料

從資料集裡找到重複的資料後，接下來，最常見的就是進行刪除或群組處理。

而要刪除完全一樣的重複資料，可以利用Pandas套件的drop_duplicates()方法(Method)，如下範例：

df = pd.read_csv('bestsellers with categories.csv')

df.drop_duplicates(inplace=True)

其中，inplace關鍵字參數代表直接從現有資料集中刪除重複資料。

另外，要刪除特定欄位重複的資料，同樣可以透過subset及keep關鍵字參數來達成，如下範例：

df = pd.read_csv('bestsellers with categories.csv')

column_names = ['Name', 'Author', 'Year', 'Genre']

df.drop_duplicates(subset=column_names, keep='first', inplace=True)

Q: Pandas groupby()、agg()群組重複資料

除了可以利用Pandas套件的drop_duplicates()方法(Method)刪除重複資料外，有時基於商業邏輯，可以透過群組的方式解決重複資料。

這時候，就可以利用Pandas套件的groupby()方法(Method)群組相同資料的欄位，以及agg()方法(Method)，統計運算剩餘的不同資料欄位，達到合併重複資料成一筆的效果，如下範例：

df = pd.read_csv('bestsellers with categories.csv')

column_names = ['Name', 'Author', 'Year', 'Genre']

summeries = {'User Rating': 'mean', 'Reviews': 'sum', 'Price': 'mean'}

df = df.groupby(by=column_names).agg(summeries).reset_index()

print(df)

如果想要學習更多的Python應用教學，歡迎前往Learn Code With Mike(https://www.learncodewithmike.com/2022/01/pandas-drop-duplicate-data.html

)網站觀看更多精彩內容。

learncodewithmike.com

[Pandas教學]3個實用的Pandas套件清理重複資料教學

3 0 825 0

拍手

留言

分享到：

Line

Facebook

複製連結

取消

熱門精選

新鮮人求職攻略🔥 找工作與技能養成請進

關注

104學習精靈

產品

03/29 09:49

新鮮人求職趨勢關鍵 x LINE 校園實習及證照

▶ 新手出社會，就業市場關鍵趨勢，你一定要知道！

我們將會講解2024新鮮人，就業市場現況

分享LINE實習計畫，體驗外商文化的你，千萬別錯過

#104就業數據 #LINE實習機會 #新鮮人起薪 #熱門證照 #趨勢產業

▶ 講座將帶你了解

⭐104人力銀行

✔ 企業愛的搶手人才Top3關鍵能力

✔ 新鮮人起薪中位數，別談低了！

✔ 職場學習No.1熱門關鍵字，你跟上了嗎？

✔ 有證照面試邀約，竟然高出..%

✔ 求職市場的關鍵數據，哪個產業最缺人？

⭐LINE

✔ 你不知道的LINE數據

✔ LINE校園招募、實習計畫介紹

✔ 成為 “LINER” 的福利

✔ 行銷人都要有一張！LINE 廣告證照 GREEN MEDAL 認證

▶免費報名去 https://meet.104.com.tw/event/07896eee-1414-4a91-86c1-8e4e0b66bd5d?utm_source=104nabi&utm_medium=freshman_post

meet.104.com.tw

新鮮人求職趨勢關鍵 x LINE 校園實習及證照｜104活動吧

1 1 32866 3

拍手

留言

分享到：

Line

Facebook

複製連結

取消

104學習精靈精選課程

看更多課程

想提升職場競爭力？專業技能課程看起來👇

零基礎Python入門與資料科學

緯育TibaMe

用 Python 理財：打造自己的 AI 股票理專

1. 利用程式爬蟲爬取台灣加權指數股價 2. 瞭解台灣股市中最好用的 K 線型態 3. 製作各種財務數據、技術指標 4. 各種機器學習的模型：SVM、Random Forest、Neural Network、LSTM、Reinforcement Learning 5. 瞭解上述機器學習背後的數學含意 6. 利用上述指標來訓練機器學習模型，來預測股價 7. 瞭解機器學習為什麼覺得這支股票會漲？ 8. 坊間不會教的股票機器學習小撇步 9. 利用機器學習來製作選股策略

Hahow好學校

Python零基礎必修實作班

課程說明：上課時間：本課程的明確目標，就是讓程式零基礎的朋友，可以迅速掌握以下基礎能力，立即上手，將所學實際運用在工作上，建立興趣與信心，並為深入商業數據分析，奠定紮實穩固的根基。課程目標： ‧ 建立 Python 工作環境 ‧ 認識 Python 基本變數與容器 ‧ 瞭解 Python 基本語法與指令 ‧ 熟悉 Python 控制流程與函數 ‧ 掌握程式編寫流程 ‧ 動手使用數據分析核心套件NumPy、Pandas、Matplotlib ‧ 實作機器學習並判讀結果

商研院

打造動態報表！雲端 Python 爬蟲資料流

現在購課，立即贈送【python 與爬蟲程式入門】112 分鐘影片必須要用專屬連結 ▶▶▶ https://hahow.in/cr/data-pipeline 購買並且【不要使用折扣碼】才會贈送喔！完成後，填單索取影片：https://forms.gle/6gWHAHdNzpcUFP8y9 ● 你將有能力依據個人化的需求，獨立開發 Python 爬蟲程式，並利用雲端系統達成爬蟲長期監測，最後產出能持續自動更新資料的動態視覺化報表！ ○ 不只是開發爬蟲，從資料爬取、處理、儲存到產出報表，你將學會利用 Google 雲端系統 (GCP) 建立完整的資料流，在雲端上將「資料到產品」會遭遇到的所有難題一次解決！ ● 課程挑選出最常碰到的三種資料來源：Open Data（表格/CSV 格式）、HTML＆CSS 網頁以及 Web API （JSON 格式），手把手教你面對不同的資料來源時該如何設計對應的爬蟲資料流，讓任何網路上的資料都能成為你的資料源！

Hahow好學校

零基礎Python入門與資料科學

緯育TibaMe

用 Python 理財：打造自己的 AI 股票理專

1. 利用程式爬蟲爬取台灣加權指數股價 2. 瞭解台灣股市中最好用的 K 線型態 3. 製作各種財務數據、技術指標 4. 各種機器學習的模型：SVM、Random Forest、Neural Network、LSTM、Reinforcement Learning 5. 瞭解上述機器學習背後的數學含意 6. 利用上述指標來訓練機器學習模型，來預測股價 7. 瞭解機器學習為什麼覺得這支股票會漲？ 8. 坊間不會教的股票機器學習小撇步 9. 利用機器學習來製作選股策略

Hahow好學校

Python零基礎必修實作班

課程說明：上課時間：本課程的明確目標，就是讓程式零基礎的朋友，可以迅速掌握以下基礎能力，立即上手，將所學實際運用在工作上，建立興趣與信心，並為深入商業數據分析，奠定紮實穩固的根基。課程目標： ‧ 建立 Python 工作環境 ‧ 認識 Python 基本變數與容器 ‧ 瞭解 Python 基本語法與指令 ‧ 熟悉 Python 控制流程與函數 ‧ 掌握程式編寫流程 ‧ 動手使用數據分析核心套件NumPy、Pandas、Matplotlib ‧ 實作機器學習並判讀結果

商研院

ETL網路爬蟲實戰技巧

Java資料探勘ETL網路爬蟲實戰技巧入門實戰！跟著丘祐瑋老師使用Java的各種套件輕鬆擷取、剖析各式資料成為資料數據專家！從蒐集資料、清理、剖析開始，將結構化資料萃取出來，課程總共兩大單元，8次課中小測驗，一步步紮實學習 Java ETL！

緯育TibaMe

打造動態報表！雲端 Python 爬蟲資料流

現在購課，立即贈送【python 與爬蟲程式入門】112 分鐘影片必須要用專屬連結 ▶▶▶ https://hahow.in/cr/data-pipeline 購買並且【不要使用折扣碼】才會贈送喔！完成後，填單索取影片：https://forms.gle/6gWHAHdNzpcUFP8y9 ● 你將有能力依據個人化的需求，獨立開發 Python 爬蟲程式，並利用雲端系統達成爬蟲長期監測，最後產出能持續自動更新資料的動態視覺化報表！ ○ 不只是開發爬蟲，從資料爬取、處理、儲存到產出報表，你將學會利用 Google 雲端系統 (GCP) 建立完整的資料流，在雲端上將「資料到產品」會遭遇到的所有難題一次解決！ ● 課程挑選出最常碰到的三種資料來源：Open Data（表格/CSV 格式）、HTML＆CSS 網頁以及 Web API （JSON 格式），手把手教你面對不同的資料來源時該如何設計對應的爬蟲資料流，讓任何網路上的資料都能成為你的資料源！

Hahow好學校

Python 網路爬蟲 | 數據分析的第一步就是要學會爬

有了一些Python基礎，想要更進一步學習網路爬蟲技術嗎？快跟著周凡剛老師的線上課程，學習與網路相關的函式庫，並建立完整的網路爬蟲核心觀念；讓TibaMe的Python網路爬蟲課程帶領你實際操作網站資料擷取的方法!

緯育TibaMe

學習精靈

06/12 00:00

youtube.com

初學者的Python金融分析日記 EP1 - 如何取得台股日線資料與高頻資料練習

12 0

分享到：

Line

Facebook

複製連結

取消

Mike的Python學院

關注

Mike Ku

Learn Code With Mike品牌創辦人

2022/01/20

教你用Pandas套件清理資料中的常見資料型態問題(下)

想要實作資料分析，讀取資料是第一步所要執行的動作，而如果沒有正確的進行資料前處理(Data Preprocessing)，就會影響最後分析結果的準確性及可靠性。

本文就先針對「資料型態」，來和大家分享如何有效找出髒資料(Dirty Data)，並且利用Pandas套件來進行資料處理或清理，避免髒資料(Dirty Data)導致分析的副作用。

Q: Pandas類別資料型態(category)處理

在實作機器學習或分類資料的時候，有時會以數字來分別表示不同類別的資料。

同樣以Kaggle網站的ASUS筆電資料集( https://www.kaggle.com/bhageshcodebeast/asus-laptops-2020-jun )為例，為了進行示範，Mike將「Category筆電類別欄位」利用以下三個數字表示：

0-其他

1-Premium

2-Platinum

Pandas讀取資料集後，如下範例：

import pandas as pd

df = pd.read_csv('AsusLaptops.csv')

print(df)

而各欄位的資料型態，如下範例：

import pandas as pd

df = pd.read_csv('AsusLaptops.csv')

print(df.info())

可以看到Pandas套件判定「Category筆電類別欄位」為int64(整數)型態，當利用Pandas套件的describe()方法(Method)進行摘要性統計的時候，就會看到數字型態的統計結果，如下範例：

import pandas as pd

df = pd.read_csv('AsusLaptops.csv')

print(df['Category'].describe())

但事實上，「Category筆電類別欄位」為類別資料型態(category)，如果沒有將欄位進行轉型，就有可能誤導後續的操作或統計。

解決方法，可以使用Pandas套件的astype()方法(Method)，將「Category筆電類別欄位」轉型為類別型態(category)，這時候，再透過describe()方法(Method)來查看摘要性統計的時候，就會是類別型態(category)的統計結果，如下範例：

import pandas as pd

df = pd.read_csv('AsusLaptops.csv')

df['Category'] = df['Category'].astype('category') #轉型

print(df['Category'].describe())

以上就是在進行資料分析的過程中，常見的資料型態問題，本文和大家分享了利用Pandas套件的info()方法(Method)，來查看各欄位的資料型態是否與需求相符，如果其中含有髒資料(Dirty Data)，可以使用strip()方法(Method)進行資料清理，以及透過astype()方法(Method)轉型為正確的資料型態。

如果想要學習更多的Python應用教學，歡迎前往Learn Code With Mike(https://www.learncodewithmike.com/2021/12/processing-data-type-with-pandas.html

)網站觀看更多精彩內容。