pandas dataframe fillna()不工作吗？

Question

我有一个正在执行主成分分析(PCA)的数据集。当我尝试转换数据时，收到一条ValueError消息。以下是部分代码：

import pandas as pd
import numpy as np
import matplotlib as mpl
from sklearn.preprocessing import StandardScaler
from sklearn.decomposition import PCA as sklearnPCA

data = pd.read_csv('test.csv',header=0)
X = data.ix[:,0:1000].values   # values of 1000 predictor variables
Y = data.ix[:,1000].values     # values of binary outcome variable
sklearn_pca = sklearnPCA(n_components=2)
X_std = StandardScaler().fit_transform(X)

正是在这里，我得到了以下错误消息：

ValueError: Input contains NaN, infinity or a value too large for dtype('float64').

因此，我随后检查了原始数据集是否有任何NaN值：

print(data.isnull().values.any())   # prints True
data.fillna(0)                      # replace NaN values with 0
print(data.isnull().values.any())   # prints True

我不明白为什么在我将NaN值替换为0之后，data.isnull().values.any()仍然打印True。

Answer 1

有两种方法可以实现，尝试就地替换：

import pandas as pd

data = pd.DataFrame(data=[0,float('nan'),2,3])   
print('BEFORE:', data.isnull().values.any())   # prints True

# fillna function
data.fillna(0, inplace=True)

print('AFTER:',data.isnull().values.any())   # prints False now :)

或者使用返回的object：

data = data.fillna(0)

两种情况的结果相同，如下所示：

BEFORE: True
AFTER: False

Answer 2

您必须用从fillna返回的对象替换数据

小复制者：

import pandas as pd

data = pd.DataFrame(data=[0,float('nan'),2,3])

print(data.isnull().values.any())   # prints True
data = data.fillna(0)                      # replace NaN values with 0
print(data.isnull().values.any())   # prints False now :)