層及索引levels,剛開始學習pandas的時候沒有太多的操作關于groupby,僅僅是簡單的count、sum、size等等,沒有更深入的利用groupby后的數據進行處理。近來數據處理的時候有遇到這類問題花了一點時間,所以這里記錄以及復習一下:(以下皆是個人實踐后的理解)
我使用一個實例來講解下面的問題:一張數據表中有三列(動物物種、物種品種、品種價格),選出每個物種從大到小品種的前兩種,最后只需要品種和價格這兩列。
以上這張表是我們后面需要處理的數據表 (物種 品種 價格)
levels:層及索引 (創建pandas類型時可以預先定義;使用groupby后也會生成)
我們看看levels什么樣(根據df1物種分類,再根據df2品種排序后 如下圖)
圖中可以看出,根據groupby分類后的cat、dog便是level,以及后面的一列原始位置索引也是level
好了現在簡單了解levels,我們該如何對它進行處理,如何完成上面的實例呢?(可能你拿到這樣的層級數據,不會操作,不知道如何提取其中的信息)
代碼及講解如下:
首先導入pandas、numpy庫,以及創建原始數據:
import pandas as pdimport numpy as npdf = pd.DataFrame({'df1':['cat','cat','dog','cat','dog','dog'],'df2':[2,3,4,1,3,1],'df3':[100,200,100,300,200,200]})
原始數據最上面那張圖
下面我們根據物種來分類,并且使用apply調用sort_df2函數對品種進行排序:
def sort_df2(data): data = data.sort_values(by='df2',ascending=False) #df2:品種列 ascending:排序方式 return datagroup = df.groupby(df['df1']).apply(sort_df2) #groupby以及apply的結合使用
處理后數據,上面第二張圖
print(group.index) #看看groupby后的行索引什么樣
groupby后如上圖,有層級標簽(這里兩列),labels標簽(分類,位置)
這里我們需要的是第一層級標簽的第一列(也就是cat、dog)
levels = group.index.levels[0] #取出第一級標簽:
下面將是兩層循環,完成從中選出(物種前兩個品種以及它的價格),很簡單的操作:
values = []for i in levels: mid_group = group.loc[i] #選出i標簽物種的所有品種 mid_group = mid_group.iloc[:2,:] #我們只取排序后的品種的前兩種(要注意這里使用iloc,它與loc的區別) cnt = len(mid_group) #為了防止循環長度錯誤,所以我們還是需要計算長度,因為如果真正數據不足2條還是不報錯 for j in range(cnt): #現在在每個物種cat、dog中操作 value = mid_group.iloc[j,:] #我們選出該物種的第j條所有信息df1、df2、df3 value_pro = (value['df2'],value['df3']) #然后只取df2、df3,將它們放到元組中 values.append(value_pro)
新聞熱點
疑難解答