脚本之家,脚本语言编程技术及教程分享平台!
分类导航

Python|VBS|Ruby|Lua|perl|VBA|Golang|PowerShell|Erlang|autoit|Dos|bat|

服务器之家 - 脚本之家 - Python - Python Pandas可以像SQL那样,进行数据筛选统计

Python Pandas可以像SQL那样,进行数据筛选统计

2020-12-14 23:57今日头条软件测试开发技术 Python

本文通过Pandas实现SQL语法中条件过滤、排序、关联、合并、更新、删除等简单及复杂操作,使得我们对方法的理解更加深刻,更加得心应手。

相对于学习Pandas各种数据筛选操作,SQL语法显得更加简洁清晰,若能够将SQL语法与Pandas中对应的函数的使用方法关联起来,对于我们应用Pandas进行数据筛选来讲无疑是一个福音。

本文通过Pandas实现SQL语法中条件过滤、排序、关联、合并、更新、删除等简单及复杂操作,使得我们对方法的理解更加深刻,更加得心应手。

演示数据集

 

本文采用安德森鸢尾花卉(iris)数据集进行演示,iris数据集包含150个样本,对应数据集的每行数据。每行数据包含每个样本的四个特征和样本的类别信息,因此iris数据集是一个150行*5列的二维表。

我们可以 UCI Iris dataset 获取或者使用 from sklearn.datasets import load_iris 方式获取,为了演示方便我们只取其中10行数据,如下:

Python Pandas可以像SQL那样,进行数据筛选统计

接下来,就让我们一起学习一下,如何Pandas实现SQL语法中条件过滤、排序、关联、合并、更新、删除等数据查询操作。

字段查询 SELECT

 

  1. SELECT sl, sw, pl, pw FROM iris LIMIT 2; 

如上SQL实现返回每行记录的 sl,sw,pl,pw 字段,仅返回2行记录。我们使用Pandas实现如上SQL的功能,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.               sheet_name='iris'
  5.               usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. search = iris[["sl""sw""pl""pw"]].head(2) 
  8. print(search) 
  9.  
  10. # 执行上述代码,输出结果为: 
  11.     sl   sw   pl   pw 
  12. 0  5.1  3.5  1.4  0.2 
  13. 1  4.9  3.0  1.4  0.2 

简单的条件过滤查询 WHERE

 

  1. SELECT * FROM iris WHERE classes = 1 LIMIT 2; 

如上SQL实现了查询满足classes=1的记录,并返回2行。我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.               sheet_name='iris'
  5.               usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. search = iris[iris["classes"]==1].head(2) 
  8. print(search) 
  9.  
  10. # 执行上述代码,输出结果为: 
  11.     sl   sw   pl   pw  classes 
  12. 3  6.8  2.8  4.8  1.4        1 
  13. 4  6.7  3.0  5.0  1.7        1 

多条件的与或过滤查询 WHERE AND|OR

 

与关系 &

  1. SELECT * FROM iris WHERE classes = 1 AND pl >= 5 LIMIT 2; 

如上SQL实现查询同时满足classes=1 和 pl >=5 两个条件的记录,并返回2行。我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. search = iris[ 
  8.     (iris["classes"] == 1) & 
  9.               (iris["pl"] >= 5) 
  10.               ].head(2) 
  11. print(search) 
  12.  
  13. # 执行上述代码,输出结果为: 
  14.     sl   sw   pl   pw  classes 
  15. 4  6.7  3.0  5.0  1.7        1 

或关系 |

  1. SELECT * FROM iris WHERE sl >= 5 OR pl >=5 LIMIT 2; 

如上SQL实现查询满足 sl >=5 或者 pl >=5 任一条件的记录,返回2行。我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. search = iris[ 
  8.     (iris["sl"] >= 5) | 
  9.               (iris["pl"] >= 5) 
  10.               ].head(2) 
  11. print(search) 
  12.  
  13. # 执行上述代码,输出结果为: 
  14.     sl   sw   pl   pw  classes 
  15. 0  5.1  3.5  1.4  0.2        0 
  16. 2  5.4  3.9  1.7  0.4        0 

条件过滤 空值判断

 

空判断 is null

  1. SELECT * FROM iris WHERE sl IS NULL

如上SQL实现查询 sl 字段为NULL的记录,我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. search = iris[iris["sl"].isna()] 
  8. print(search) 

非空判断 is not null

  1. SELECT * FROM iris WHERE sl IS NOT NULL

如上SQL实现查询sl字段不为 NULL 的记录。我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. search = iris[iris["sl"].notna()] 
  8. print(search) 
  9.  
  10. # 执行上述代码,输出结果为: 
  11.     sl   sw   pl   pw  classes 
  12. 0  5.1  3.5  1.4  0.2        0 
  13. 1  4.9  3.0  1.4  0.2        0 
  14. 2  5.4  3.9  1.7  0.4        0 
  15. 3  6.8  2.8  4.8  1.4        1 
  16. 4  6.7  3.0  5.0  1.7        1 
  17. 5  6.0  2.9  4.5  1.5        1 
  18. 6  5.6  2.8  4.9  2.0        2 
  19. 7  7.7  2.8  6.7  2.0        2 
  20. 8  6.3  2.7  4.9  1.8        2 
  21. 9  6.7  3.3  5.7  2.1        2 

排序 ORDER BY ASC|DESC

 

  1. SELECT * FROM iris WHERE sl >= 6 ORDER BY DESC classes; 

如上SQL实现将满足sl字段值大于等于5的记录,按照classes降序排序。我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. search = iris[(iris["sl"] >= 6)].sort_values( 
  8.                                  by="classes", ascending=False
  9. print(search) 
  10.  
  11. # 执行上述代码,输出结果为: 
  12.     sl   sw   pl   pw  classes 
  13. 7  7.7  2.8  6.7  2.0        2 
  14. 8  6.3  2.7  4.9  1.8        2 
  15. 9  6.7  3.3  5.7  2.1        2 
  16. 3  6.8  2.8  4.8  1.4        1 
  17. 4  6.7  3.0  5.0  1.7        1 
  18. 5  6.0  2.9  4.5  1.5        1 

更新 UPDATE

 

  1. UPDATE iris SET classes = 2 WHERE pw = 1.7 AND pl >= 5; 

如上SQL实现将同时满足pw = 1.7 和 pl >= 5的记录中的classes字段值更新为2。我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. iris.loc[(iris["pw"] == 1.7) & (iris["pl"] >= 5), "classes"] = 2 
  8.  
  9. print(iris[iris["pw"] == 1.7]) 
  10.  
  11. # 执行上述代码,输出结果为: 
  12.     sl   sw   pl   pw  classes 
  13. 4  6.7  3.0  5.0  1.7        2 

分组统计 GROUP BY

 

  1. SELECT classes, COUNT(*) FROM iris GROUP BY classes; 

如上SQL实现 根据classes进行分组,返回classes 及每组数量。我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. count = iris.groupby("classes").size() 
  8.  
  9. print(count
  10.  
  11. # 执行上述代码,输出结果为: 
  12. classes 
  13. 0    3 
  14. 1    3 
  15. 2    4 
  16. dtype: int64 

分组统计 聚合输出

 

  1. SELECT classes, avg(pl), max(sl) FROM iris GROUP BY classes; 

如何SQL实现根据classes进行分组,返回classes值,每个分组的pl平均值以及每个分组的sl最大值。我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2. import numpy as np 
  3. iris = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. search = iris.groupby("classes").agg( 
  8.                                 {"sl":np.max"pl":np.mean}) 
  9.  
  10. print(search) 
  11.  
  12. # 执行上述代码,输出结果为: 
  13.           sl        pl 
  14. classes                
  15. 0        5.4  1.500000 
  16. 1        6.8  4.766667 
  17. 2        7.7  5.550000 

删除

 

  1. DELETE FROM iris WHERE pw = 1.7 AND pl >=5; 

如上SQL实现将同时满足pw = 1.7 和 pl >= 5的记录删除。我们使用Pandas实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. drop = iris.drop(iris[(iris["pw"] == 1.7) & 
  8.                        (iris["pl"] >= 5)].index
  9.  
  10. print(drop[drop["pw"] > 1.6]) 
  11.  
  12. # 执行上述代码,输出结果为: 
  13.     sl   sw   pl   pw  classes 
  14. 6  5.6  2.8  4.9  2.0        2 
  15. 7  7.7  2.8  6.7  2.0        2 
  16. 8  6.3  2.7  4.9  1.8        2 
  17. 9  6.7  3.3  5.7  2.1        2 

UNION & JOIN 演示数据集

 

接下来介绍如何使用Pandas进行合并查询及多表关联查询,为了演示方便,我们上面示例中的iris数据集,拆分成iris_a,iris_b两部分,如下:

Python Pandas可以像SQL那样,进行数据筛选统计

UNION 合并查询

 

合并结果 UNION ALL 可能存在重复记录

合并如下两个 SELECT 语句的结果集,需注意,UNION ALL 内部的 SELECT 语句必须拥有相同数量的列,列也必须拥有相似的数据类型。同时,每条 SELECT 语句中的列的顺序必须相同。

  1. SELECT * FROM iris_a WHERE classes = 1 
  2. UNION ALL 
  3. SELECT * FROM iris_b WHERE classes = 1 ; 

如上SQL实现将两个查询结果进行合并,允许存在重复记录。我们使用 pandas.concat 方法实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris_a = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris_a'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. iris_b = pd.read_excel(io="iris.xlsx"
  8.                      sheet_name='iris_b'
  9.                      usecols=["sl""sw""pl""pw""classes"]) 
  10.  
  11. data = pd.concat( 
  12.     [iris_a[iris_a["classes"] == 1], iris_b[iris_b["classes"] == 1]]) 
  13.  
  14. print(data) 
  15.  
  16. # 执行上述代码,输出结果为: 
  17.     sl   sw   pl   pw  classes 
  18. 3  6.8  2.8  4.8  1.4        1 
  19. 4  6.7  3.0  5.0  1.7        1 
  20. 0  6.7  3.0  5.0  1.7        1 
  21. 1  6.0  2.9  4.5  1.5        1 

合并结果 UNION 不存在重复记录

合并如下两个 SELECT 语句的结果集,同时也需注意,UNION 内部的 SELECT 语句必须拥有相同数量的列,列也必须拥有相似的数据类型。同时,每条 SELECT 语句中的列的顺序必须相同。

  1. SELECT * FROM iris_a WHERE classes = 1 
  2. UNION 
  3. SELECT * FROM iris_b WHERE classes = 1 ; 

如上SQL实现将两个select查询结果进行合并,不允许存在重复记录。我们使用 pandas.concat.drop_duplicates 方法 实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris_a = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris_a'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. iris_b = pd.read_excel(io="iris.xlsx"
  8.                      sheet_name='iris_b'
  9.                      usecols=["sl""sw""pl""pw""classes"]) 
  10.  
  11. data = pd.concat( 
  12.     [iris_a[iris_a["classes"] == 1], 
  13.      iris_b[iris_b["classes"] == 1]]).drop_duplicates() 
  14.  
  15. print(data) 
  16.  
  17. # 执行上述代码,输出结果为: 
  18.     sl   sw   pl   pw  classes 
  19. 3  6.8  2.8  4.8  1.4        1 
  20. 4  6.7  3.0  5.0  1.7        1 
  21. 1  6.0  2.9  4.5  1.5        1 

JOIN 连接查询

 

同样,我们依旧使用如上演示数据,如下:

Python Pandas可以像SQL那样,进行数据筛选统计

内连接 INNER JOIN

获取iris_a,iris_b两个表中classes字段相同的记录,并返回满足条件的两张表中的所有记录。

  1. SELECT * FROM iris_a  
  2. INNER JOIN iris_b  
  3. ON iris_a.classes = iris_b.classes; 

如上SQL实现iris_a 与 iris_b 按照classes字段进行内连接。我们使用 pandas.merge(iris_a, iris_b, on='classes') 实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris_a = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris_a'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. iris_b = pd.read_excel(io="iris.xlsx"
  8.                      sheet_name='iris_b'
  9.                      usecols=["sl""sw""pl""pw""classes"]) 
  10.  
  11. inner = pd.merge(iris_a, iris_b, on="classes"
  12. print(inner
  13.  
  14. # 执行上述代码,输出结果为: 
  15.    sl_x  sw_x  pl_x  pw_x  classes  sl_y  sw_y  pl_y  pw_y 
  16. 0   6.8   2.8   4.8   1.4        1   6.7   3.0   5.0   1.7 
  17. 1   6.8   2.8   4.8   1.4        1   6.0   2.9   4.5   1.5 
  18. 2   6.7   3.0   5.0   1.7        1   6.7   3.0   5.0   1.7 
  19. 3   6.7   3.0   5.0   1.7        1   6.0   2.9   4.5   1.5 

左连接 LEFT OUTER JOIN

获取左表 iris_a 所有记录,判断每条数据的 classes 字段是否能匹配到右表iris_b的数据,无论能否匹配到,左表 iris_a 数据都会保留。若能匹配,则左右表都保留。若不能匹配,右表iris_b字段都置空NULL,并返回保留的记录。

  1. SELECT * FROM iris_a  
  2. LEFT JOIN iris_b  
  3. ON iris_a.classes = iris_b.classes; 

如上SQL实现iris_a 与 iris_b 按照classes字段进行左连接。我们使用 pandas.merge(iris_a, iris_b, on='classes', how='left') 方法实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris_a = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris_a'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. iris_b = pd.read_excel(io="iris.xlsx"
  8.                      sheet_name='iris_b'
  9.                      usecols=["sl""sw""pl""pw""classes"]) 
  10.  
  11. inner = pd.merge(iris_a, iris_b, on="classes", how="left"
  12. print(inner
  13.  
  14. # 执行上述代码,输出结果为: 
  15.    sl_x  sw_x  pl_x  pw_x  classes  sl_y  sw_y  pl_y  pw_y 
  16. 0   5.1   3.5   1.4   0.2        0   NaN   NaN   NaN   NaN 
  17. 1   4.9   3.0   1.4   0.2        0   NaN   NaN   NaN   NaN 
  18. 2   5.4   3.9   1.7   0.4        0   NaN   NaN   NaN   NaN 
  19. 3   6.8   2.8   4.8   1.4        1   6.7   3.0   5.0   1.7 
  20. 4   6.8   2.8   4.8   1.4        1   6.0   2.9   4.5   1.5 
  21. 5   6.7   3.0   5.0   1.7        1   6.7   3.0   5.0   1.7 
  22. 6   6.7   3.0   5.0   1.7        1   6.0   2.9   4.5   1.5 

右连接 RIGHT OUTER JOIN

获取右表 iris_b 所有记录,判断每条数据的 classes 字段是否能匹配到右表 iris_a 的数据,无论能否匹配到,右表 iris_b 数据都会保留。若能匹配,则左右表都保留。若不能匹配,左表iris_a字段都置空NULL,并返回保留的记录。

  1. SELECT * FROM iris_a  
  2. RIGHT JOIN iris_b  
  3. ON iris_a.classes = iris_b.classes; 

如上SQL实现iris_a 与 iris_b 按照classes字段进行右连接。我们使用 pandas.merge(iris_a, iris_b, on='classes', how='right')实现该SQL,代码如下:

  1. import pandas as pd 
  2.  
  3. iris_a = pd.read_excel(io="iris.xlsx"
  4.                      sheet_name='iris_a'
  5.                      usecols=["sl""sw""pl""pw""classes"]) 
  6.  
  7. iris_b = pd.read_excel(io="iris.xlsx"
  8.                      sheet_name='iris_b'
  9.                      usecols=["sl""sw""pl""pw""classes"]) 
  10.  
  11. inner = pd.merge(iris_a, iris_b, on="classes", how="right"
  12. print(inner
  13.  
  14. # 执行上述代码,输出结果为: 
  15.    sl_x  sw_x  pl_x  pw_x  classes  sl_y  sw_y  pl_y  pw_y 
  16. 0   6.8   2.8   4.8   1.4        1   6.7   3.0   5.0   1.7 
  17. 1   6.7   3.0   5.0   1.7        1   6.7   3.0   5.0   1.7 
  18. 2   6.8   2.8   4.8   1.4        1   6.0   2.9   4.5   1.5 
  19. 3   6.7   3.0   5.0   1.7        1   6.0   2.9   4.5   1.5 
  20. 4   NaN   NaN   NaN   NaN        2   5.6   2.8   4.9   2.0 
  21. 5   NaN   NaN   NaN   NaN        2   7.7   2.8   6.7   2.0 
  22. 6   NaN   NaN   NaN   NaN        2   6.3   2.7   4.9   1.8 
  23. 7   NaN   NaN   NaN   NaN        2   6.7   3.3   5.7   2.1 

 

原文地址:https://www.toutiao.com/a6905429817047384589/

延伸 · 阅读

精彩推荐