如何阻止patsy创建范畴变量的冗余交互

Question

我使用patsy来拟合使用公式api的状态模型的回归。

我的问题是，我的设计矩阵是单数的，因为patsy创建了(本地的？)范畴的冗余交互作用。

import patsy
import pandas as pd
data = [('y',[2,5,6]),
        ('c1',['a','a','b']),
        ('c2',['g','f','g'])]
df = pd.DataFrame.from_items(data)#([y,c1,c2],columns=['y','c1','c2'])
formula = "y ~C(c1):C(c2)-1"
y,X = patsy.dmatrices(formula,df,return_type='dataframe')
print (X)

C(c1)[a]:C(c2)[f]   C(c1)[b]:C(c2)[f]   C(c1)[a]:C(c2)[g]   C(c1)[b]:C(c2)[g]
0   0.0 0.0 1.0 0.0
1   1.0 0.0 0.0 0.0
2   0.0 0.0 0.0 1.0

我想排除第二列，因为当c1有值f时，c2没有值f

Answer 1

Patsy将C(c1):C(c2)解释为“我想估计c1和c2值的每一个组合的效果”。如果这些组合没有出现在你的数据中，那么它们就无法被估计，所以给出一个奇异矩阵至少指出了问题.

如果您只想估计现有组合的效果，一种简单的方法是为c1和c2的每个组合创建一个新变量，该变量具有不同的值。这样做的原因是，patsy会推断出，可能的值集合正是实际出现的值--它不可能知道b.f可能发生了：

In [1]: df["c1_and_c2"] = df["c1"] + "." + df["c2"]

In [2]: patsy.dmatrix("c1_and_c2 - 1", df)
Out[2]: 
DesignMatrix with shape (3, 3)
  c1_and_c2[a.f]  c1_and_c2[a.g]  c1_and_c2[b.g]
               0               1               0
               1               0               0
               0               0               1
  Terms:
    'c1_and_c2' (columns 0:3)