原文地址

怎樣刪除list中空字符？最簡單的方法：new_list = [ x for x in li if x != '' ]

今天是5.1號。

這一部分主要學習pandas中基于前面兩種數據結構的基本操作。

一、查看數據（查看對象的方法對于Series來說同樣適用）

1.查看DataFrame前xx行或后xx行a=DataFrame(data);a.head(6)表示顯示前6行數據，若head()中不帶參數則會顯示全部數據。a.tail(6)表示顯示后6行數據，若tail()中不帶參數則也會顯示全部數據。

2.查看DataFrame的index，columns以及valuesa.index ; a.columns ; a.values 即可

3.describe()函數對于數據的快速統計匯總a.describe()對每一列數據進行統計，包括計數，均值，std，各個分位數等。

4.對數據的轉置a.T

5.對軸進行排序a.sort_index(axis=1,ascending=False)；其中axis=1表示對所有的columns進行排序，下面的數也跟著發生移動。后面的ascending=False表示按降序排列，參數缺失時默認升序。

6.對DataFrame中的值排序a.sort(columns='x')即對a中的x這一列，從小到大進行排序。注意僅僅是x這一列，而上面的按軸進行排序時會對所有的columns進行操作。

二、選擇對象

1.選擇特定列和行的數據a['x'] 那么將會返回columns為x的列，注意這種方式一次只能返回一個列。a.x與a['x']意思一樣。

取行數據，通過切片[]來選擇如：a[0:3] 則會返回前三行的數據。

2.loc是通過標簽來選擇數據a.loc['one']則會默認表示選取行為'one'的行；

a.loc[:,['a','b'] ] 表示選取所有的行以及columns為a,b的列；

a.loc[['one','two'],['a','b']] 表示選取'one'和'two'這兩行以及columns為a,b的列；

a.loc['one','a']與a.loc[['one'],['a']]作用是一樣的，不過前者只顯示對應的值，而后者會顯示對應的行和列標簽。

3.iloc則是直接通過位置來選擇數據這與通過標簽選擇類似a.iloc[1:2,1:2] 則會顯示第一行第一列的數據;(切片后面的值取不到)

a.iloc[1:2] 即后面表示列的值沒有時，默認選取行位置為1的數據;

a.iloc[[0,2],[1,2]] 即可以自由選取行位置，和列位置對應的數據。

4.使用條件來選擇使用單獨的列來選擇數據a[a.c>0] 表示選擇c列中大于0的數據

使用where來選擇數據a[a>0] 表直接選擇a中所有大于0的數據

使用isin()選出特定列中包含特定值的行a1=a.copy()a1[a1['one'].isin(['2','3'])] 表顯示滿足條件：列one中的值包含'2','3'的所有行。

三、設置值（賦值）

賦值操作在上述選擇操作的基礎上直接賦值即可。例a.loc[:,['a','c']]=9 即將a和c列的所有行中的值設置為9a.iloc[:,[1,3]]=9 也表示將a和c列的所有行中的值設置為9

同時也依然可以用條件來直接賦值a[a>0]=-a 表示將a中所有大于0的數轉化為負值

四、缺失值處理

在pandas中，使用np.nan來代替缺失值，這些值將默認不會包含在計算中。

1.reindex()方法用來對指定軸上的索引進行改變/增加/刪除操作，這將返回原始數據的一個拷貝。a.reindex(index=list(a.index)+['five'],columns=list(a.columns)+['d'])

a.reindex(index=['one','five'],columns=list(a.columns)+['d'])

即用index=[]表示對index進行操作，columns表對列進行操作。

2.對缺失值進行填充a.fillna(value=x)表示用值為x的數來對缺失值進行填充

3.去掉包含缺失值的行a.dropna(how='any')表示去掉所有包含缺失值的行

五、合并

1.contactcontact(a1,axis=0/1，keys=['xx','xx','xx',...])，其中a1表示要進行進行連接的列表數據,axis=1時表橫著對數據進行連接。axis=0或不指定時，表將數據豎著進行連接。a1中要連接的數據有幾個則對應幾個keys，設置keys是為了在數據連接以后區分每一個原始a1中的數據。

例：a1=[b['a'],b['c']]result=pd.concat(a1,axis=1，keys=['1','2'])

2.Append 將一行或多行數據連接到一個DataFrame上a.append(a[2:],ignore_index=True)表示將a中的第三行以后的數據全部添加到a中，若不指定ignore_index參數，則會把添加的數據的index保留下來，若ignore_index=Ture則會對所有的行重新自動建立索引。

3.merge類似于SQL中的join設a1,a2為兩個dataframe,二者中存在相同的鍵值，兩個對象連接的方式有下面幾種：(1)內連接，pd.merge(a1, a2, on='key')(2)左連接，pd.merge(a1, a2, on='key', how='left')(3)右連接，pd.merge(a1, a2, on='key', how='right')(4)外連接， pd.merge(a1, a2, on='key', how='outer')至于四者的具體差別，具體學習參考sql中相應的語法。

六、分組（groupby）

用pd.date_range函數生成連續指定天數的的日期pd.date_range('20000101',periods=10)

此外用a.groupby('gender').size()可以對各個gender下的數目進行計數。

所以可以看到groupby的作用相當于：按gender對gender進行分類，對應為數字的列會自動求和，而為字符串類型的列則不顯示；當然也可以同時groupby(['x1','x2',...])多個字段，其作用與上面類似。

七、Categorical按某一列重新編碼分類

如六中要對a中的gender進行重新編碼分類，將對應的0，1轉化為male，female，過程如下：

所以可以看出重新編碼后的編碼會自動增加到dataframe最后作為一列。

八、相關操作

描述性統計：1.a.mean() 默認對每一列的數據求平均值；若加上參數a.mean(1)則對每一行求平均值；

2.統計某一列x中各個值出現的次數：a['x'].value_counts()；

3.對數據應用函數a.apply(lambda x:x.max()-x.min())表示返回所有列中最大值-最小值的差。

4.字符串相關操作a['gender1'].str.lower() 將gender1中所有的英文大寫轉化為小寫，注意dataframe沒有str屬性，只有series有，所以要選取a中的gender1字段。

九、時間序列

在六中用pd.date_range('xxxx',periods=xx,freq='D/M/Y....')函數生成連續指定天數的的日期列表。例如pd.date_range('20000101',periods=10),其中periods表示持續頻數；pd.date_range('20000201','20000210',freq='D')也可以不指定頻數，只指定起始日期。

此外如果不指定freq，則默認從起始日期開始，頻率為day。其他頻率表示如下：

十、畫圖(plot)

也可以使用下面的代碼來生成多條時間序列圖：

十一、導入和導出文件

寫入和讀取Excel文件雖然寫入excel表時有兩種寫入xls和csv，但建議少使用csv，不然在表中調整數據格式時，保存時一直詢問你是否保存新格式，很麻煩。而在讀取數據時，如果指定了哪一張sheet，則在pycharm又會出現格式不對齊。

還有將數據寫入表格中時，excel會自動給你在表格最前面增加一個字段，對數據行進行編號。